A deepfake botrány nemcsak az áldozatok életére gyakorolt mély hatást, hanem súlyos kérdéseket is felvetett az iskolák, szülők és törvényhozók szerepéről az új digitális korszakban.
60 áldozat, több 100 kép
A Lancaster Country Day School két tinédzser fiú diákja több száz, mesterséges intelligencia által generált képet és videót készített és terjesztett diáktársaikról – írja az AFP alapján a Nap Híre. A felvételeken 60 áldozat szerepelt, többségük fiatalkorú lány. Az érintettek közül sokan súlyos mentális és érzelmi traumát éltek át; néhányuk orvosi kezelésre és tanácsadásra szorult, míg mások teljesen kimaradtak az iskolából az eset következményeként.
Az elkövetők a közösségi média nyilvános fotóit használták fel a képek manipulálásához. A technológia lehetővé tette számukra, hogy szinte felismerhetetlen mélyhamisításokat készítsenek, amelyek valódinak tűntek. Az anyagokat a népszerű üzenetküldő alkalmazáson, a Discordon osztották meg, amely az elmúlt években a fiatalok körében széles körben elterjedt.
Egy szülő, aki névtelensége megőrzése mellett beszélt az AFP-nek, elmondta, hogy 14 éves lánya tavaly nyáron zokogva fordult hozzá, miután megtalálta a társai között keringő, mesterséges intelligenciával generált meztelen képeket, amelyek őt ábrázolták.
„Milyen következményei lehetnek ennek hosszú távon?” – mondta az anya, aki attól tart, hogy a manipulált képek újra felbukkanhatnak, amikor lánya főiskolára jelentkezik, randizni kezd, vagy belép a munkaerőpiacra.
A múlt hónapban több vádat – köztük gyermekek szexuális zaklatását és gyermekpornográfia birtoklását – nyújtottak be két tizenéves fiú ellen, akik a hatóságok szerint a képeket készítették.
A nyomozók 347 képet és videót fedeztek fel a Discord üzenetküldő alkalmazáson, amelyek összesen 60 áldozatot érintettek, többségükben a magániskola női diákjait. Egy kivételével mindegyikük 18 évnél fiatalabb volt.
Mesterséges intelligencia, deepfake és cyberbullying
A mesterséges intelligencia gyors fejlődése egyre nehezebbé teszi a zaklatás, manipuláció és digitális visszaélések elleni védekezést. Alexandra Reeve Givens, a Center for Democracy & Technology ügyvezető igazgatója szerint a generatív AI megjelenése összekapcsolódott egy régóta fennálló problémával: az intim képek nem konszenzusos megosztásával. Egy friss felmérés szerint az amerikai állami iskolákban a diákok 15 százaléka a és a tanárok 11százaléka már találkozott olyan deepfake képpel, amely iskolatársakat ábrázolt intim helyzetben.
Az ilyen képek nemcsak az áldozatok becsületét sértik, hanem komoly pszichológiai következményekkel járhatnak, mint a zaklatás, a zsarolás és a depresszió. A deepfake technológiája emellett alááshatja az áldozatok hosszú távú lehetőségeit, például a továbbtanulás vagy a munkakeresés során.
Lemaradt a jog a technológia mögött
Az Egyesült Államokban csak néhány állam, köztük Pennsylvania vezetett be szigorú törvényeket a szexuálisan explicit deepfake-tartalmakkal szemben. Ugyanakkor a technológia fejlődési üteme messze meghaladja a jogi szabályozás sebességét, ami gyakran tehetetlenné teszi a hatóságokat és az oktatási intézményeket.
Roberta Duffield, a Blackbird.AI igazgatója szerint az oktatási intézményeknek sürgősen átfogó szabályzatokat kell kidolgozniuk az AI és digitális technológiák használatával kapcsolatban. Az iskolák jelenleg nem rendelkeznek megfelelő eszközökkel ahhoz, hogy felismerjék vagy kezeljék a deepfake-kel járó fenyegetéseket.
Mit tehetnek a szülők és az iskolák?
A szülőknek és az iskoláknak kulcsszerepük van abban, hogy megvédjék a diákokat az ilyen visszaélésektől. Az online oktatás és a technológia használatának korában elengedhetetlen, hogy a diákokat oktatást kapjanak a kiberbiztonságról, az adatvédelemről és az online zaklatás lehetséges következményeiről.
A technológia egyre növekvő befolyása mellett az oktatási intézményeknek és a törvényhozóknak szorosan együtt kell működniük, hogy a fiatalok biztonságban legyenek ebben az új, kihívásokkal teli digitális környezetben. A deepfake által okozott károk emlékeztetnek bennünket arra, hogy az innovációval együtt felelősség is jár.
Belebukott az iskola vezetése
A pennsylvaniai iskola felső vezetése lemondott, miután az áldozatok szülei pert indítottak, amelyben azzal vádolták a vezetőséget, hogy nem jelentette a tevékenységet, amikor 2023 végén először értesültek róla.
„A kiskorú lányok egyre inkább ki vannak téve a deepfake kizsákmányolásnak a barátaik, kollégáik, iskolatársaik részéről” – mondta Duffield.
„Az oktatási hatóságoknak sürgősen világos, átfogó politikákat kell kidolgozniuk a mesterséges intelligencia és a digitális technológiák használatára vonatkozóan” – tette hozzá.