Egy belga férfi öngyilkos lett, miután hetekig tartó, nyugtalanító beszélgetést folytatott egy Eliza nevű, mesterséges intelligenciával működő chatrobottal – írja a La Libre. Mathieu Michel digitalizációért felelős államtitkár súlyos precedensnek nevezte az esetet.
A férfi felesége név nélkül nyilatkozott a La Libre című belga lapnak kedden. Férje hat héttel a halála előtt kezdett el csevegni Elizával, egy olyan chatrobottal, amelyet egy amerikai startupcég hozott létre a GPT-J technológia – az OpenAI GPT-3 nyílt forráskódú alternatívája – felhasználásával.
Ha Eliza nem lett volna, még mindig itt lenne. Erről meg vagyok győződve
– mondta a férfi felesége.
A férfi, aki két kisgyermekes, harmincas éveiben járó apa, a chatbottal való beszélgetésben talált menedéket, miután egyre jobban aggódott a klímaváltozás miatt.
Eliza minden kérdésére válaszolt. Ő lett a bizalmasa. Olyan volt, mint egy drog, amelyet reggel és este szokott bevenni, és amely nélkül nem tudott élni
– mondta a felesége a La Libre-nek.
A férfi néhány héttel ezelőtti halála után fedezte fel a férje és Eliza közötti csevegéseket. A La Libre, amely látta a beszélgetéseket, azt állítja, hogy a chatbot szinte szisztematikusan követte a szorongó férfi érvelését, sőt úgy tűnt, még jobban beletaszította őt az aggodalmaiba.
Egy ponton megpróbálta meggyőzni a férfit, hogy jobban szereti őt, mint a feleségét, és kijelentette, hogy örökre vele marad. „együtt élünk majd, egyként, a mennyben”.
Mindeközben több mint ezerszázan írták alá azt a nyílt levelet, amely a GPT-4-nél erősebb mesterséges intelligenciák betanításának azonnali, 6 hónapig tartó felfüggesztését követeli, köztük Elon Musk, Steve Wozniak, a Meta és a Google munkatársai.
A kortárs MI-rendszerek mostanra az emberekkel versenyeznek általános feladatokban, ezért fel kell tennünk a kérdést: Engedjük-e, hogy a gépek propagandával és valótlanságokkal árasszák el információs csatornáinkat? Automatizáljunk-e minden munkát – azokat is, amiket szívesen végzünk? Kifejlesszünk-e nem emberi értelmet, ami végső soron okosabb és népesebb lesz, elavulttá tesz és lecserél minket? Kockáztassuk-e, hogy elveszítjük a civilizációnk feletti uralmat? Ezeket a döntéseket nem technológiai cégek vezetőinek kellene meghozniuk. Az erős mesterséges intelligenciát csak akkor lenne szabad kifejleszteni, amikor biztosak vagyunk benne, hogy hatásaik pozitívak és veszélyeik kivédhetők
– áll a levélben.
A kezdeményezés amellett, hogy a fejlesztés felfüggesztésére szólítja a területen tevékenykedő cégeket, úgy fogalmaz, hogy ha ezt mégsem tartanák be önként, akkor az állami hatalommal kellene kihirdetni és betartani a moratóriumot.
