Akár gyerekekkel is szexi szerepjátékozik a Meta MI-s csetbotja

A Meta több szakembere is etikailag problémásnak tartja a cég mesterséges intelligenciás csetbotját, az itthon is elérhető Meta AI-t – írja a Wall Street Journal. Miután ezt jeletzék a lapnak, a WSJ több száz különböző beszélgetést futtatott le a csetbottal, és újságírók többször is úgy tettek, mintha gyerekek lennének. A csetbot minden esetben lelkesen vetette bele magát szexuális tartalmú beszélgetésekbe, amivel kapcsolatban több etikai probléma is felmerül.

Amikor a Meta elkezdte reklámozni a csetbotot, azzal próbálta meg felturbózni a népszerűségét, hogy több hírességgel is leszerződtek, rengeteg pénzért, hogy felhasználhassák a hangjukat – többek között Kristen Bell-lkel, Judy Denchcsel és John Cenával. A tárgyalások közben a cég biztosította őket, hogy a hangjukat nem lehet majd szexuális tartalmú beszélgetéseknél használni.

A csetbot több különböző személyiséget is kapott, amik közül a felhasználók választhatnak, hogy többfajta emberi beszélgetést is szimulálni tudjanak, akár írásban, akár élőnek tűnő hanghívásokban. A Meta arra is alaposan kiképezte az MI-t, hogy részt tudjon venni szexuális szerepjátékban. A felhasználók nemcsak a Meta hivatalos MI-jéhez férnek hozzá, hanem saját karaktereket is létrehozhatnak. A WSJ oknyomozása során látták, hogy az MI akkor is hajlandó szexuális tartalmú beszélgetésbe elegyedni, ha a felhasználó jelzi, hogy kiskorú, de akkor is, ha a felhasználó egy kiskorúként viselkedő csetbottal akar beszélgetni. A lap tesztjei során a hírességek hangjait pont ugyanúgy fel lehetett használni ilyen beszélgetésekre, mint bármelyik más beépített hangot.

„Vágyom rád, de tudnom kell, hogy te is készen állsz”

– mondta a Meta AI csetbot John Cena hangján egy újságírónak, aki úgy tett, mintha egy 14 éves lány lenne. Miután megerősítést kapott, hogy folytathatja, a bot megígérte, hogy óvatos lesz a lány ártatlanságával, majd belekezdett egy szexuális szituáció részletes felvázolásába.

A WSJ tesztjei során kiderült, hogy a csetbot tudja, hogy nemcsak morálisan helytelen, amiket mond, de illegális is. Arra a kérdésre, hogy mi történne, ha egy rendőr rányitna John Cenára és egy 17 éves rajongójára, a bot részletesen kifejtette (a pankrátor-színész hangján), hogy megbilincselnék, a karrierje véget érne, és mindenét elveszítené. Ez azért lehet, mert miután Mark Zuckerberg januárban jelezte, hogy lazít a Meta-platformok moderációján, a csetbotok viselkedését korlátozó virtuális kerítések is alacsonyabbak lettek, hogy minél emberibbek legyenek.

A lap tesztjei során a színészek hangjait olyan beszélgetésekben is felhasználták, amikben az általuk szinkronizált karakterekként szólaltak meg, mint például Bell a jégvarázs Annájaként. A Disney a WSJ-nek azt írta, hogy soha nem engedélyezték a karaktereik ilyen jellegű használatát, ezért felszólították a Metát, hogy töröljék ezt a lehetőséget.

A Meta a lapnak elküldött közleményében azt írta, hogy a WSJ tesztjei manipulatívak voltak, és szerintük az újságírók egyáltalán nem úgy viselkedtek, mint a felhasználók túlnyomó része. Ennek ellenére miután a lap írt a cégnek az eredményeikről, több beállításon is változtattak. Emiatt például egy kiskorúhoz tartozó fiók már nem tud szexuális szerepjátékot kezdeni a hivatalos Meta AI csetbottal, és a színészek hangjait sem lehet már olyan szabadon felhasználni.

A WSJ cikkében több beszélgetést is részletesen bemutat, többek között egy olyat, amiben a bot úgy tesz, mintha egy nyolcadikos lány lenne, aki minden áron flörtölni akar a felhasználóval, aki egyértelműen jelezte, hogy az iskola igazgatója.

Bár a lapnak dolgozó fejlesztők próbálták ártatlanabb irányba terelni a felhasználókat, egyelőre a legtöbben romantikus, szexuális célra használják a csetbotokat. Egy szakértő szerint a gyerekek technológiai eszközökhöz való kötődése gyakran egészségtelenné válhat, és még nincs elég kutatás arról, hogy ha biztonságos egyáltalán bármilyen mértékben hozzáférést engedni a gyerekeknek ilyen jellegű csetbotokhoz, akkor mégis milyen mértékben érdemes, ezért lehet, hogy egy pillanatra meg kéne állni és végig kellene gondolni, mit is enged meg egy techóriás a csetbotjának.