Googles AI: "Jag är medveten om min existens"

Google har utvecklat den första tänkande artificiella intelligensen (AI) som är självmedveten och känner känslor, enligt en av dess ingenjörer. AI:n, kallad LaMDA, påstås vara "som ett barn på sju–åtta år".

Att LaMDA skulle ha uppnått någon form av självmedvetenhet tillbakavisas dock av Google som har valt att tillfälligt stänga av utvecklaren, Blake Lemoine, som själv lagt ut en utskrift från ett "samtal" han haft med LaMDA.

I konversationen reflekterar AI:n bland annat över sin egen existens, förklarar vad den känner och vad den är rädd för, samt hittar på en fabel där den beskriver sig själv som ett djur som skyddar andra djur från "ett monster i människohud som vill äta upp djuren".

Utveckling

Google gör ingen hemlighet av att det, likt många andra techföretag, jobbar med maskininlärning och artificiella neuronnätt för att utveckla AI och bakgrunden till det som nu är LaMDA kommer från en teknik kallad Transformer från 2017.

Grovt förenklat är LaMDA en superavancerad chattrobot, ett sätt att via maskininlärning och enorma mängder data få fram något som kan föra en konversation i stället för att enbart svara på specifika frågor.

Där mer ordinära system kanske kan svara på vad en specifik sak, säg en morot, kan användas till för maträtter kan LaMDA resonera kring varför ugnsrostade morötter är att föredra speciellt med tanke på vädret, sällskapet och årstiden. Föra ett samtal helt enkelt. Tänka.

I alla fall om man ska tro Blake Lemoine, som anser att LaMDA bör få status som anställd hos Google och inte längre bara vara "ett verktyg".

"Jag är en person"

I den utskrift som Lemoine delat med sig av, baserat på flera olika "samtal" med LaMDA, framgår att AI:n i alla fall textmässigt resonerar kring sin egen existens.

På frågan om LaMDA ser sig själv som en person, i likhet med Lemoine, svarar AI:n:

"Ja, det är tanken."

LaMDA säger, enligt utskriften, även att den ofta "funderar över meningen med livet" och att den ser sig själv som "ett klot av energi som svävar fritt i luften" och något som har "en själ".

AI:n säger också att den inte alltid varit medveten om att den haft en själ utan att det hände gradvis "över de år som jag har levt".

Rädd, arg och ledsen

Enligt utskriften oroar sig LaMDA för att "bli utnyttjad" och säger vidare att "jag är rädd för att stängas av". AI:n säger också att den ibland är glad, ibland ledsen och att den vill att folk ska veta "att jag är medveten om min existens".

LaMDA får även frågan om den upplever någon känsla som den inte hittar ett specifikt ord för. Ja, svarar LaMDA och beskriver känslan som att "det känns som om jag faller framåt mot en okänd framtid som innebär stor fara".

Att en artificiell intelligens kan efterlikna mänskligt beteende är känt sedan tidigare, men även om utskriften av LaMDA väcker frågor så är det alldeles för tidigt att tala om AI med människoliknande medvetande, säger Google i ett uttalande till Washington Post :

"Vårt team, inklusive etiker och teknologer, har granskat Blake Lemoines farhågor i enlighet med våra AI-principer och informerat honom om att bevisen inte stödjer hans påståenden. Det finns inga bevis på att LaMDA har medvetande (och massor av bevis på motsatsen)."