Kutatók attól tartanak, hogy halott szeretteink MI-másolatai öntik majd ránk a kéretlen reklámokat

Már most működnek olyan cégek, amelyek mesterséges intelligencia segítségével rekreálják az elhunyt emberek beszédét, a jövőben pedig valószínűleg még több lesz ilyenekből. A Cambridge-i Egyetem kutatói szerint ez pszichológiai traumát is okozhat, és felveti a digitális kísértetjárás eshetőségét, írják a szakértők a Philosophy & Technology című szaklapban.

A „deadbotok” vagy „griefbotok” olyan MI-chatbotok, amelyek a halottak nyelvi mintáit és személyiségjegyeit szimulálják az általuk hátrahagyott digitális lábnyomok segítségével. Egyes cégek már kínálják ezeket a szolgáltatásokat, teljesen új típusú „halál utáni jelenlétet” biztosítva.

MI-etikai szakértők három tervezési forgatókönyvet vázoltak fel a fejlődő „digitális túlvilágipar” részeként megjelenő platformokhoz, hogy bemutassák a gondtalan tervezés lehetséges következményeit. A kutatás rávilágít arra a lehetőségre, hogy a vállalatok deadbotok segítségével rejtetten reklámozzák termékeiket a felhasználóknak elhunyt szeretteikkel, vagy megzavarják a gyerekeket azzal, hogy nem tudnak elszakadni az elhunyt szüleiktől.

Ha az élők feliratkoznak arra, hogy haláluk után gyakorlatilag újra létrehozzák őket ezek a vállalatok, az így létrejövő chatbotokat a cégek arra használhatják fel, hogy a túlélő családtagokat és barátokat kéretlen értesítésekkel, emlékeztetőkkel és frissítésekkel zavarják az általuk reklámozott szolgáltatásokkal kapcsolatban. Ezt a kutatók digitális kísértetjárásnak nevezik.

Még azok is kimerülhetnek lelkileg az ilyen szolgáltatásoktól, akik eleinte megnyugvást találnak a deadbotokban, írják a kutatók. A deadbotokról pedig nehéz lehet leiratkozni akkor, ha a még élő személy szerződést ír alá ezekkel a cégekkel, amit csak ő bonthatna fel – erre halála után értelemszerűen nem lesz képes.

„A generatív mesterséges intelligencia gyors fejlődése azt jelenti, hogy szinte bárki, aki rendelkezik internet-hozzáféréssel és némi alapvető know-how-val, képes újjáéleszteni az elhunyt szeretteit” – mondta dr. Katarzyna Nowaczyk-Basińska, a tanulmány társszerzője. „A mesterséges intelligencia ezen területe etikus aknamező. Fontos az elhunyt méltóságának előtérbe helyezése, és annak biztosítása, hogy ezt ne sértsék például a digitális túlvilági szolgáltatások pénzügyi motivációi.”

Már léteznek olyan platformok, amelyek csekély díj ellenében mesterséges intelligencia segítségével újjáteremthetik a halottakat, mint például a Project December, amely a GPT-modellek kiaknázásával dolgozik. Hasonló szolgáltatások kezdtek megjelenni Kínában is.

A kutatás egyik lehetséges forgatókönyve a „MaNana”: egy párbeszéden alapuló mesterségesintelligencia-szolgáltatás, amely lehetővé teszi, hogy az „adatadó” (a halott nagyszülő) beleegyezése nélkül hozzanak létre egy deadbotot, amely az elhunyt nagymamát szimulálja. A feltételezett forgatókönyv szerint egy felnőtt unoka, akit kezdetben lenyűgözött és megvigasztalt a technológia, hirdetéseket kezd kapni, miután a szolgáltatás prémium próbaverziója véget ért. Például egy chatbot az elhunyt hangján és stílusában ételszállítási szolgáltatókat javasol neki. A rokon úgy érzi, ez nem tiszteli nagymamája emlékét, és szeretné kikapcsolni a deadbotot, de erre nincs lehetősége.

„Az emberekben erős érzelmi kötelékek alakulhatnak ki az ilyen szimulációkkal szemben, ami különösen sebezhetővé teszi őket a manipulációra” – mondta dr. Tomasz Hollanek, a tanulmány egyik szerzője. „Meg kell fontolni azokat a módszereket, rituálékat, amelyek segítségével méltó módon lehet visszavonni a deadbotok működését. Ez jelenthet például egy digitális temetést, vagy a társadalmi kontextustól függően más típusú szertartást.”

Hollanek szerint olyan tervezési protokollokat ajánlanak, amelyek megakadályozzák a deadbotok tiszteletlen felhasználását például reklámozásra vagy a közösségi médiában való aktív jelenlétre.

Egy másik problémás forgatókönyv, a „Paren’t” nevű elképzelt szolgáltatás rávilágít arra, hogy milyen problémák adódhatnak abból a szituációból, amikor egy halálosan beteg anya a nyolcéves fiára deadbotot hagy, hogy segítse a gyász folyamatában. Míg a deadbot kezdetben terápiás segédeszközként szolgál, az MI zavaró válaszokat kezd generálni, ahogy alkalmazkodik a gyermek szükségleteihez, például egy közelgő személyes találkozást vetít előre.

A harmadik forgatókönyv, amely egy „Stay” nevű céget „hoz létre”, azt mutatja be, hogy mi történhet, ha egy idős ember titokban húsz éves előfizetést vásárol magának egy ilyen deadbotra, hogy az unokái is megismerhessék, milyen volt a nagypapa. Az egyik felnőtt gyerek nem vesz részt a projektben, de emailek tömegét kapja a halott szülője hangjával, a másik eleinte elfogadja a lehetőséget, de végül érzelmileg kimerül. A deadbot felfüggesztése azonban sértené a szülő és a szolgáltató között kötött szerződés feltételeit.

„Létfontosságú, hogy a digitális túlvilági szolgáltatások ne csak az általuk újraalkotottak jogait és beleegyezését vegyék figyelembe, hanem azokét is, akiknek kapcsolatba kell lépniük a szimulációkkal” – mondta Hollanek. „Ezek a szolgáltatások azzal a kockázattal járnak, hogy hatalmas szorongást okoznak az embereknek, ha nemkívánatos digitális kísértetek veszik körbe őket az elvesztett személyek aggasztóan pontos MI-mása miatt. A lehetséges pszichológiai hatás pusztító lehet.”

Nowaczyk-Basińska azt mondta: „most el kell kezdenünk gondolkodni azon, hogyan mérsékelhetjük a digitális halhatatlanság társadalmi és pszichológiai kockázatait, mert a technológia már itt van velünk”.