Több mint egymillió ember heti szinten olyan üzeneteket küld a ChatGPT-nek, amelyek „egyértelműen utalnak arra, hogy valaki öngyilkosságot tervez, vagy akar elkövetni” – derült ki a ChatGPT-t is üzemeltető OpenAI hétfői blogposztjából. A poszt, amiről a Guardian írt, a cég eddigi egyik legközvetlenebb megnyilvánulása, ami bemutatja, hogyan ronthat a mentális problémákon a mesterséges intelligencia. Az öngyilkosságra utaló üzeneteken túl az OpenAI arról is beszámolt, hogy a ChatGPT heti 800 millió felhasználójából több mint félmillióan „mánia vagy pszichózis lehetséges jeleit mutatják”.
Az OpenAI posztja egyébként főleg a ChatGPT új frissítéséről, a GPT-5-ről szólt. A cég szerint a frissítés után a csetbot kevésbé fog nemkívánatosan viselkedni, nagyobb biztonságban lesznek a felhasználók. Ezt egy több mint ezer önsértésről és öngyilkosságról szóló beszélgetést értékelő modell segíti.
Sam Altman, az OpenAI vezérigazgatója szeptemberben egy blogbejegyzésben írt arról, hogy a cég külön szabályokat fog alkalmazni a legnépszerűbb MI-csetbot tinédzserkorú felhasználóira. A ChatGPT velük nem folytathat flörtölő jellegű, vagy öngyilkossággal kapcsolatos beszélgetéseket.
A csetbotokra már rengeteg felhasználó barátként tekint, sőt olyanok is vannak, akik pszichológusnak használják, már csak azért is, mert ingyen van, és mindig elérhető. Viszont, ahogy arra a szakemberek is felhívták a figyelmet, ellentétben a valós pszichológusokkal, a csetbotoknál nincsenek etikai szabályok. Kiss Lehel pszichológus szerint egy igazi pszichológus például nem értékesít semmit, a ChatGPT viszont „bármit az arcodba fog tolni, azon a nyelvezeten, ami neked tetszik”.
Van segítség! Ingyenes, anonim, a nap 24 órájában hívható lelki elsősegély-szolgálat várja a hívásokat a 116-123 és 06-80-810-600 telefonszámon. Ha öngyilkossági gondolatai vannak, kérjük, olvassa el ezt az oldalt, mielőtt kárt tenne magában. Ha másvalakiért aggódik, ezen az oldalon talál tanácsokat, mit tud tenni.
