Sokan lelkitársként tekintenek a ChatGPT-re?
Az OpenAI aggódik amiatt, hogy az emberek társként tekintenek majd a ChatGPT új, emberi hangzású funkciójára, amely akár függőséghez is vezethet.
A aggodalomra egy csütörtökön közzétett jelentés mutatott rá, amely az eszköz biztonsági felülvizsgálatáról szól. Az új hangmód a múlt héten vált elérhetővé a fizetős felhasználók számára, és elképesztően élethű hangot produkál. Valós időben reagál, alkalmazkodik, ha félbeszakítják, és olyan hangokat ad ki, mint egy ember, például nevet vagy hümmög. Emellett képes megítélni a beszélő érzelmi állapotát a hangszín alapján.
Amint az OpenAI bejelentette ezt a funkciót, sokan azonnal a 2013-as "Her" című filmhez hasonlították, ahol a főszereplő beleszeret egy mesterséges intelligenciába, amely később bevallja, hogy más felhasználókkal is „kapcsolatban” áll.
Az OpenAI most attól tart, hogy ez a fikció akár valósággá is válhat, mivel a megfigyelések alapján egyes felhasználók már most is olyan nyelvezetet használnak, mintha érzelmi kapcsolatot alakítanának ki a ChatGPT hangmódjával.
A jelentés szerint a felhasználók szociális kapcsolatokat alakíthatnak ki az AI-val, ami csökkentheti az igényüket az emberi interakciókra — ez lehet, hogy segítség lehet a magányos emberek számára, de negatívan befolyásolhatja az egészséges kapcsolatokat is. Emellett a jelentés arra is felhívja a figyelmet, hogy ha egy MI bot emberi hangon közöl információt, a felhasználók hajlamosabbak lehetnek túlzottan bízni benne (még akkor is, ha tudjuk, hogy néha hibázik) .
A jelentés rávilagít arra, hogy a technológiai cégek versenyt futnak egymással, hogy minél gyorsabban bevezessék az MI-eszközöket, amelyek szerintük átalakíthatják az életünket, munkánkat, társas kapcsolatainkat és az információkhoz való hozzáférésünket. Azonban legtöbben még nem igazán értik, milyen következményekkel járhat mindez.
Arra egyébként már volt példa, hogy az emberek romantikus kapcsolatot alakítottak ki egy MI chatbottal, amely aggodalmakat kelt a szakértők körében.
„Nagy felelősség hárul a cégekre, hogy ezt etikus és felelős módon kezeljék, és ez most még csak egy kísérleti fázis”
— mondta Liesel Sharabi, az Arizonai Állami Egyetem professzora, aki a technológia és az emberi kommunikáció kapcsolatát tanulmányozza.
„Aggódom azokért, akik mély érzelmi kötődést alakítanak ki egy olyan technológiával, amely hosszú távon talán nem is fog létezni, és folyamatosan változik.”
Az OpenAI szerint az emberek a ChatGPT hang módjával folytatott interakciói idővel arra is hatással lehetnek, hogy mi számít normálisnak a társas érintkezésben.
Az OpenAI azt ígéri, hogy továbbra törekszik a biztonságra a mesterséges intelligencia fejlesztésében, és továbbra is tanulmányozni fogja az érzelmi függőség lehetőségét a felhasználók körében.
(CNN)