2023.11.27. – Amíg a generatív AI-t önmaguk ártatlan szórakoztatására használják a gyerekek, nincs baj, de ha a mókából egyszer csak közösségi médiába kerülő zaklatás lesz, abból már komoly rendőrségi ügyek kerekedhetnek. Mivel egyre elterjedtebb jelenség, hogy az iskolások a társaikról készítenek mesterséges intelligencia alkalmazással generált, egyre realisztikusabb meztelen képeket, okkal aggódnak a biztonságos internetért küzdő szervezetek.

Az újfajta zaklatás a világ minden táján felüthette a fejét, de intézményi szinten először a brit szakértőket tömörítő UK Safer Internet Center (UKSIC) kongatta meg a vészharangot. Jelezték: már rég nem elszigetelt esetekről van szó, hiszen egyre több bejelentést kapnak olyan iskolai zaklatásról, amiben a diákok AI-eszközökkel éltek vissza, a társaik kárára.

Forrás: Freepik

A más kiskorúakról generált pornográf felvételekkel nem csak az a baj, hogy a készítő diákok hatalmas károkat okozhatnak azoknak a társaiknak az iskolai és magánéletében, akikről készítették őket, hanem az is, hogy rendkívül realisztikusak, így nem csak az ismerősök figyelmét keltik fel. Mivel némelyik egyenesen „professzinális fotó benyomását kelti”,

könnyen válhat pedofilok célpontjává, és ez igaz nem csak a tartalomra, hanem a rajtuk szereplő, vétlen kiskorúra is.

Durvul a helyzet, elejét kell venni

A TweakTown által idézett figyelmeztetés arra bíztatja az iskolákat, hogy dolgozzanak ki terveket az AI-technológia veszélyes használata ellen, mivel olyan tartalmak is készülnek vele, amelyek kimerítik a gyermek ellen elkövetett szexuális zaklatás fogalmát.

„Az ilyen típusú káros viselkedésre számítani kell, amikor az új technológiák, mint például a mesterséges intelligencia generátorok elérhetővé válnak a nyilvánosság számára. A gyerekek talán anélkül fedezik fel a mesterséges intelligencia-képgenerátorokban rejlő lehetőségeket, hogy teljes mértékben felismernék az általuk okozott károkat” – magyarázta az UKSIC vezetője. David Wright hozzátette: „bár az esetek száma egyelőre kicsi, ez csak a kezdet, így már most lépéseket kell tennünk, mielőtt az iskolák túlterheltek lesznek [ilyen ügyekkel], és a probléma tovább növekszik”.

Te is tapasztaltál hasonlót? Veled történt, vagy egy barátoddal, ismerősöddel? Nem kell tétlenül nézned – ITT tudsz bejelentést tenni róla a Nemzeti Média és Hírközlési Hatóságnál.

A zaklatás itthon is komoly probléma:

Kutatás: Vírusként terjed az online zaklatás a magyar gyerekek körében