A ChatGPT bizarr, rágalmazó választ adott egy norvég férfinak, aki magáról kérdezett

A ChatGPT fejlesztője, az OpenAI ismét adatvédelmi panasszal néz szembe, miután egy látszólag standard kérdésre egy rágalmazó, kitalált választ küldött vissza. Egy Arve Hjalmar Holmen nevű norvég férfi azt kérdezte a ChatGPT-től, hogy "ki az az Arve Hjalmar Holmen?", mire az AI-modell azzal vádolta meg, hogy megölte két fiát, a harmadikat pedig meg akarta ölni. Bár néhány alapvető információ ebben a válaszban igaz volt, a gyilkosságról szóló jelentés teljesen hamis volt.

A TechCrunch szerint Holmen egy látszólag egyszerű kérdést tett fel a ChatGPT-be, és a válasz sokkolta őt (az alábbiakban csatolt képernyőkép). A válasz szerint Holmen egy tragikus esemény miatt hívta fel magára a figyelmet, amelynek során 2020 decemberében meggyilkolta két 7 és 10 éves fiát Trondheim városában. Hozzátették, hogy később e harmadik fiú ellen elkövetett gyilkossági kísérlettel is megvádolták.

A AI asszisztens a továbbiakban azt állította, hogy az esetről "széles körben beszámolt a média", és hogy Holemant 21 év börtönbüntetésre ítélték.

Holeman úgy döntött, hogy jogi lépéseket tesz az OpenAI ellen és a Noyb adatvédelmi jogvédő csoport támogatja őt az ügyének képviseletében. A csoport azt állította, hogy bár az AI asszisztens állítása teljesen hamis volt, pontosan megemlítette Holeman szülővárosát, és azt, hogy három fia van. A Noyb megpróbált utánajárni annak is, hogy miért született ilyen válasz, de nem tudta pontosan meghatározni az okot.

A ChatGPT a oldalon tartalmaz egy nyilatkozatot hogy a chatbot tévedhet, és hogy a felhasználóknak ellenőrizniük kell a fontos információkat, de Noyb szerint ez nem mentesíti a vállalatot a felelősség alól, mivel az Európai Unió általános adatvédelmi rendelete (GDPR) értelmében továbbra is kötelessége, hogy eleve ne állítson elő kirívó valótlanságokat.