Nem lesz több Taylor Swift pornó, de a Microsoft még nincs a helyzet magaslatán

Gábor János

2024.01.31. – Lépéskényszerbe került a Designer nevű mesterséges intelligenciát működtető Microsoft, miután Taylor Swiftről pornográf tartalmakat generáltak, majd osztottak meg ismeretlenek. A cirkusz az X-en indult, ahol egyre-másra tűntek fel a deepfake felvételek az amerikai énekesnőről.

Az explicit képek eredetileg nem az X-en jelentek meg, hanem egy Telegram-csoportban – nyomozta ki a 404 Media, amelynek cikke után a Microsoft már kénytelen volt lépni az ügyben – technikai értelemben, hiszen okkal tarthattak tőle, hogy a könnyen elérhető generatív AI segítségével tömegével készülnek majd hasonló, élethű pornó tartalmak. Bár a Neowin arra jutott, hogy az üzemeltető egy patch segítségével befoltozta a rést, ami lehetővé tette a Taylor Swiftéhez hasonló képek készítését, ez a védelem egyelőre csupán annyira elég, hogy a nagyon konkrét név beírásával letiltják az adott tartalom generálását. Akkor viszont, ha a felhasználó valamilyen módosítással vagy szándékos elírással gépeli be a személy nevét, ugyanúgy létrejön a leírt celebre hasonlító pornókép, mint a patch előtt.

Ezt a Neowin Jennifer Anistonnal tesztelte, és elég volt annyit változtatni, hogy „jennifer ‘actor’ aniston”. Hát, ez barátok között sem nevezhető sikeres javításnak.

A 404 Mediának küldött közleményben a Microsoft tagadta, hogy a Designerrel készültek volna Swift deepfake kontentjei, de aztán Satya Nadella vezérigazgató már óvatosabban nyilatkozott az ügyről az NBC Newsnak. Beismerte, hogy „cselekedniük kellett”, de úgy fogalmazott, azért, mert „mind felelősek az online tér biztonságáért”, amivel tartoznak, mind az alkotók, mind pedig a tartalomfogyasztók felé. A jelek szerint még lesz vele meló. A Telegram mindeközben nem igazán zavartatja magát: egyelőre az ég világon semmit sem tett a deepfake pornót terjesztő oldalak ellen, ahol már mindenféle képgeneráló AI-szolgáltatással készült fotók jelennek meg hírességekről. Egy másik képmegosztó felület, a 4chan felhasználói közben azzal is kérkednek, hogy még bőven találtak módszereket a Bing, illetve a Designer átverésére.

Nem csak a Microsoft dolgozik serényen az AI-ja finomításán: