Könnyebben átver minket a mesterséges intelligencia, ha hasonlít a hangja a sajátunkra

Egy friss német kutatás szerint annál jobban bízunk a mesterséges intelligenciában, minél inkább hasonlít a hangja a sajátunkra. A PLOS One szaklapban megjelent tanulmány figyelmeztet: ezzel a módszerrel sokkal könnyebben befolyásolhatják az embereket az olyan videók, amiket deepfake technológiával készítenek.

Ahogy a mesterséges intelligencia fejlődik, egyre több mindenre képes: ma már játszi könnyedséggel utánoz le egyes hangokat, ha van hozzá elegendő mennyiségű alapanyaga. Ez persze teljesen ártalmatlan célokra is használható, a vicces videók készítésétől kezdve a személyre szabottabb MI-asszisztensek fejlesztéséig. A deepfake megjelenésével viszont potenciális veszélyeket is kínál: a német kutatók eredményei szerint könnyebb befolyásolni minket ilyen, potenciálisan álhíreket és dezinformációt terjesztő generált felvételekkel, ha az MI-hang a sajátunkhoz hasonló, mert így jobban megbízunk benne.

Minden ember hanglenyomata, vagyis saját hangjának mintázata egyedi. Nemcsak a hangszín és a hanglejtés, hanem például a beszédtempó is megkülönbözteti az emberi hangokat egymástól. Csakhogy a hanglenyomat-sajátosságokat ma már a mesterséges intelligencia is fel tudja használni. A kutatók ezeket a jellemzőket használták fel arra, hogy megállapítsák: az általános MI-hangokhoz képest hogyan reagálunk a személyre szabottabb megoldásokhoz.

A tanulmány felhívja a figyelmet arra, hogy míg a jelenlegi MI-hangok tréningezéséhez rengeteg hanganyagra van szükség akkor, ha valaki egy élő személyhez hasonló hangot szeretne megjeleníteni, a hanglenyomatok ismeretével ez a bonyolult folyamat lényegesen leegyszerűsödik. Ez azt jelenti, hogy ezzel a módszerrel sokkal kevesebb felvételre van szükség az eredeti hangból, és a hanggenerálás ideje is lerövidül.

A kutatók arra jutottak, hogy ha egy MI-hang hanglenyomatai hasonlóak a sajátunkhoz, azt sokkal jobban kedveljük, és sokkal megbízhatóbbnak is tartjuk. Felhívták a figyelmet arra, hogy az összefüggés a hasonlóság és a megbízhatóság között az emberi észlelés sebezhetőségére utal, és magával hozza azt a veszélyt, hogy az ilyen jellemzőket manipulációra használják fel a jövőben. Már a hanglenyomatok minimális megváltoztatása is okozhat torzítást, nincs arra szükség, hogy teljes hangot másoljon az, aki befolyásolni szeretne.

A szakértők szerint ez nemcsak az elektronikus asszisztensek esetében lehet fontos, hanem a kereskedelem, a marketing és a politikai propaganda előtt is kinyitja az ajtót a manipulációnak.