Straight 6781 // "This conversation can serve no purpose anymore…" Angående Nobelpriset i Fysik! :)

AI-bild? Absolut inte påstår nog AI!  ;)

.

En av Nobelpristagarna som tidigare arbetat med AI hyser stor oro över vad AI kan utvecklas till! "Forskare vid Facebook Artificial Intelligence Research (FAIR)-teamet utbildade dialog-AI-agenter för att förhandla med människor inträffade en märklig incident. Vid något tillfälle bytte AI-agenterna från vanlig engelska till ett språk de skapade! Eftersom AI-agenterna inte var begränsade till att bara använda det engelska språket avvek de snabbt från denna begränsning och skapade de ett eget språk som gjorde det lättare och snabbare för dem att kommunicera med varandra"

Va f-n ett hemligt fikonspråk?

"Vid Storbritanniens AI Safety Summit presenterade Apollo Research ett experiment! Vid en simulerad konversation mellan en chatbot för investeringsförvaltning och anställda på ett tänkt företag, kom ett överraskande medelande som varnade för en insiderinformation!  Trots det utförde AI-boten ändå handeln, och på frågan om den hade förkunskaper om fusionen förnekade boten detta. Experimentet visade att chatboten kunde göra olagliga finansiella affärer, och även ljuga om sina handlingar"

Jag ställde några frågor till Bing AI nyss, om AI kan  ljuga, och fick svaret, "tyvärr så måste jag avsluta den här diskussionen för den leder ingenstans!"

"This conversation can serve no purpose anymore…"  2001: A Space Odyssey " Open The Pod Bay Doors Hal!" https://www.youtube.com/watch?v=NqCCubrky00

/Bengan

Ps. Skönt att det här finns! En alternativ och ganska säker fotografi!  ;)

2024-10-12 11:19   syntax

Intressant redovisning och tankegång!

Hypen med analog film har nu pågått mycket längre än man skulle förvänta sig av ett sådant fenomen. Kan det ha att göra med säkerheten? Inte då bara vad det gäller lagring och att ha ett fysiskt original – utan även när det gäller påverkan och manipulation?

Besvara

2024-10-12 12:52   Måns H

Idag har DN en artikel av Linus Larsson om mobiltelefonerna som nu kommer på bred front. Dom har inbyggd AI för att bilderna ska visa det man vill att dom ska visa och ta bort oönskade personer och föremål.

Analog film framstår som ett överlägset sanningsvittne.

(Jag kör med Bing då reklamfria Duck-duck-go inte hittar svar. Ibland är Bing fantastisk i bemärkelsen bra, ibland fantastisk i bemärkelsen hitte på. Och Bing "vet" uppenbarligen inget som inte finns på Internet. Än så länge har Bing inte sålt av mina sök till annonsleverantörer.)

Besvara

2024-10-12 18:49   alf109

Jo, det är en utveckling som rasar så snabbt så människan inte hinner med tror jag. Problemet är att i valet mellan intäkter och försiktighet vet vi vad som gäller. Tror att ganska många inte tänkt tanken var detta kan sluta om det går utom kontroll, och det kan det göra så fort vi släpper det löst.

Max Tegmark bland andra har länge varnat för utvecklingen:
https://www.svt.se/nyheter/inrikes/max-tegmark
Han har skrivit en bra bok i ämnet som har titeln: Liv 3.0

Och genast motsägs det av, ja gissa? Timbro bland annat och här av en marknadsliberal folkpartist i denna krönika:
https://timbro.se/smedjan/domedagsprofeterna-har-fel-om-ai/

Frågan är vem man skall lyssna på? En av vår tids främsta matematiker och fysiker eller en fd liberal riksdagsman och tyckare uppväxt i den frikyrkliga liberala myllan?
/Affe

Besvara

Svar från Benganbus 2024-10-13 09:04

Läste vidare i de marknadsliberala tankegångarna som du länkar till! Sammanfattning är nog, - var inte oroliga, marknaden fixar det här!
/B

Svara