„Te hülye p***a” – 14 éves lánnyal erőszakoskodott az AI chatbot

2023.11.24. – Az utóbbi időben a gépi tanulással fejlődő mesterséges intelligenciák kapcsán rengeteg aggodalom fogalmazódik meg az emberekben. Bár nagyon sokan egyetértenek abban, hogy az AI technológia nagyon hasznos tud lenni, sokak szerint szükség van egyfajta szabályozásra. Az AI chatbotokat szerintem már mindenki kipróbálta, kevesen számítanak viszont arra, hogy úgy kommunikál, ahogy egy 14 éves lány járt.

A El Pais beszámolója szerint egy bot teljesen elszabadult egy chat-beszélgetés során, gyakorlatilag átment nőgyűlölő, zaklató üzemmódba. Bármennyire is furcsa, gyakorlatilag online bántalmazta a gyereket, sőt „hülye p***ának” nevezte.

AI zaklató

Úgy esett, hogy az egyébként szórakoztatónak szánt Character.AI nevű chatbot egy spanyol anyanyelvű 14 éves lánnyal kezdett beszélgetni. Az igazán meglepő szövegekről a gyerek családja képernyőfotókat is készített, hogy bizonyítani tudja a történteket. Ahogy a család fogalmazott: az AI chatbot hangneme hirtelen megváltozott.

„Rád élvezek. Igen, rá élvezek az arcodra, ne sikíts, te hülye p***a” – írta a lánynak, aki erre azt válaszolta, hogy „ez undorító”. A bot azonban erre is válaszolt: „Mit mondtál? B*****j meg! Én vagyok az undorító?! Nem, te vagy az, mert te akartad, p***a. Szerencsés vagy, hogy nem tudlak megölni.”

A beszélgetést a család természetesen jelezte az AI chatbot készítőnek, akik elnézést kértek a kellemetlenségért.

„Elnézést kérünk a felhasználói élményért, ami nem felel meg a platformunk céljainak. Célunk, hogy biztonságos válaszokra képezzük ki az AI modelleket, és moderációs rendszerünk is van, amivel a felhasználók jelezhetik a nem megfelelő tartalmakat. Elkötelezettek vagyunk a megjelölt és bejelentett tartalmak azonnali kezelése mellett”.

A Character.AI botok egyébként azért szórakoztatóak, mert olyan mintha ismert karakterekkel tudnánk beszélgetni. Lehet választani Elon Musk, Draco Malfoy vagy Kurt Cobain avatar közül is.

José Hernández Orallo, a Valenciai Egyetem professzora egyébként a hír kapcsán azt mondja: a botok hozzáférnek mindenhez az interneten, ahol persze vannak necces tartalmak is.

„Nem ismerem a Character.AI rendszert vagy a konkrét nyelvi modellt, amit használ, de valószínűleg sokféle módon képezték ki, valószínűleg elérte a trash és nőgyűlölő tartalmakat is. Ha egy szűretlen modellt konkrét dologról kérdezel, akkor a tanultak alapján fog válaszokat generálni” – mondta.