Téged is meztelenre vetkőztethetnek az App Store-ba került AI-appokkal

Gábor János

2024.04.28. – Nagyon nehezen tud bármit is kezdeni az Apple az App Store-ba felkerült új mesterséges intelligencia alkalmazásokkal, amelyek a bullying modern formáját teszik lehetővé. A felhasználók bárkiről készíthetnek velük realisztikus meztelen fotókat, egyetlen állókép birtokában – amit, ugye, semeddig nem tart lekapni valakinek a közösségi oldaláról.

A 404 Media szerint Instagram hirdetésekben tűntek fel a hamisítványkészítő alkalmazások. Ezekre a bannerekre koppintva rögtön nyílt a szoftverletöltésre mutató link az App Store-ban, és ebben a részben nem is volt semmit trükk: az alkalmazások éppen azt nyújtották, amit a reklámban állítottak magukról: legeneráltak egy aktot bármely betöltött állóképen szereplő személyről.

Példa az egyik reklámra. Forrás: 404 Media

A valódinak hihető felvételek, talán mondani sem kell, nagyon veszélyesek lehetnek az áldozatok életére, mivel rosszindulatú támadások érhetik őket a közösségi médiában és a való életben is. Ennek hatásai messzemenőek lehetnek: mivel olyan korban élünk, hogy például az állásinterjút is netes kutatás előzi meg a jelentkezőről, ha valaki körül meztelen képes botrány alakult ki korábban, az biztosan nem lesz ideális jelölt a munkára.

Mit tett az Apple az AI appokkal?

A 404 Media először csak kérdést tett fel az Apple-nek arról, hogy egy magát maximálisan biztonságos felületként promótáló webáruházban mégis hogyan lehetnek fenn ilyen alkalmazások. Először nem kaptak választ, de azután persze rögtön megkereste őket a cég, hogy lehozták a témáról szóló első cikket. Erre elküldték nekik az összes általuk talált meztelenre vetkőztetős app linkjét.

Az Apple így már elég gyorsan reagált: szinte azonnal letakarította az App Store-ból a kifogásolható programokat.

Az eset egyébként rávilágít, hogy az App Store sem feltétlenül alapos: mielőtt a tényleg szigorú szabályai alapján feltöltött alkalmazásokat engedélyezi, meg kellene vizsgálnia, hogy a szoftverek tényleg azok-e, aminek állítják magukat. A bullying új szintjét eredményező pucérkodós AI-appokhoz például „művészetgenerátor” címkét állítottak be a fejlesztők. Ezzel át is mentek a fontos szűrőn, és ki tudja, hogy rövid pályafutásuk alatt hány ember életét keserítették meg vele rosszindulatú felhasználók! Ha találsz ilyen appot bármely alkalmazásboltban (nincs kétségünk afelől, hogy vissza-vissza fognak kerülni hasonlók), mindig jelentsd őket az App Store-nak vagy a Play Áruháznak!