A CNN felidézte Taylor Swift esetét is. Mint ismert, az énekesnőről brutál gyorsan terjedtek a mesterséges intelligencia által generált „deepfake” képek az interneten, amelyek durván szexuális tartalmúak voltak. Ahogy arról korábban az atv.hu is beszámolt, a képek emberek millióihoz jutottak el, mielőtt elkezdték az eltávolításukat.
A portál szerint egyre gyakrabban jelennek olyan videók az interneten, amelyekben kiskorúak szerepelnek, vagy éppen beleegyezés nélkül töltenek fel nőkről fotókat. Egyesek pedig gyilkosságokat közvetítenek élőben a Facebookon.
A YouTube-ra egy lefejezésről került fel videó
Az emlegetett borzalmas videó éppen néhány órával azután került fel a YouTube-ra, hogy a nagy technológiai cégvezetőket meghallgatták a gyermekek biztonságáról és a közösségi médiáról. Sundar Pichai, a YouTube anyavállalatának, az Alphabetnek a vezérigazgatója azonban nem vett részt ezen a meghallgatáson.
A YouTube az esettel kapcsolatban közleményt adott ki, melyben az írta:
„A YouTube szigorú irányelvekkel tiltja a grafikus erőszakot és az erőszakos szélsőségességet. A videót eltávolítottuk, mert megsértette a grafikai erőszakra vonatkozó szabályzatunkat, Justin Mohn csatornáját pedig az erőszakos szélsőségességre vonatkozó szabályzatunknak megfelelően megszüntettük. Csapataink folyamatosan ellenőrzik, hogy ne kerüljön fel ismét a videó.”
Az online platformok nehezen tudják kézben tartani az irányítást
A lap kitér arra is, hogy az online platformok „nehezen tartanak lépést” a változásokkal, ugyanis a tartalom moderálásában algoritmusokra és kiszervezett csapatokra támaszkodnak, nem pedig olyan alkalmazottakra, akik jobb stratégiákat tudnának kidolgozni a probléma kezelésére.
2022-ben például az X megszüntette a biztonsági, közpolitikai és emberi jogi kérdésekre összpontosító csapatokat, miután Elon Musk átvette az irányítást. Tavaly év elején a Twitch, az Amazon tulajdonában lévő livestreaming platform is elbocsátott néhány alkalmazottat, akik a mesterséges intelligenciával kapcsolatos ügyekre, és más, bizalmi és biztonsági munkákra összpontosítottak. A Microsoft szintén leépített egy kulcsfontosságú csapatot, amely az etikus mesterséges intelligencia termékfejlesztését felügyelte. A Meta pedig a legutóbbi elbocsátások részeként a nem műszaki munkakörökben dolgozó munkatársaitól vált meg.
A kritikusok gyakran vádolják a közösségi médiaplatformokat azzal, hogy nem fektetnek be a biztonságba.
„Az olyan platformok, mint a YouTube, közel sem fektettek be elég pénzt a biztonsági csapataikba, így ezek a videók túl gyakran, túl sokáig fent maradnak” – mondta Josh Golin, a Fair Play for Kids ügyvezető igazgatója, ami a gyerekek online védelméért dolgozik. Hozzátette, hogy ez csak egy része a problémának, ugyanis a platformokat működtető algoritmusok azokra a videókra összpontosítanak, amelyek nagy figyelmet kapnak megosztások és kedvelések formájában. Ez pedig csak súlyosbítja a problémát az ilyen videók esetében.
„Még ha a technológiai cégek rendelkeznek is az erőszakos tartalmak megjelölésére szolgáló gyakorlatokkal, nem képesek elég gyorsan moderálni és eltávolítani azokat, és a sajnálatos valóság az, hogy a gyerekek és tizenévesek még mindig látják ezeket, mielőtt eltávolítanák őket” – mondta James Steyer, a Common Sense Media alapítója és vezérigazgatója. Steyer hozzátette, hogy a moderálásra szoruló videók mennyisége túlterheli a YouTube-ot és más platformokat is. Megjegyezte, hogy a traumatizáló képek maradandó hatással lehetnek a gyermekek mentális egészségére és jólétére.
Magukra hagyott vállalatok?
Fontos azonban megjegyezni, hogy egészen a közelmúltig a technológiai cégek nem kaptak ösztönzést arra, hogy újragondolják a tartalom moderálására irányuló befektetéseiket. A törvényhozók és a szabályozók ígéretei ellenére nagyrészt magukra hagyták a vállalatokat, még akkor is, amikor a fogyasztóvédők jelezték, hogy a közösségi média a depressziótól kezdve a zaklatáson át a szexuális visszaélésig mindenféle veszélynek teszi ki a fiatal felhasználókat. Az érdekvédők megjegyezték azt is, hogy a közösségi médiaplatformok által kiadott eszközök közül sok nem megy elég messzire, mivel a tizenévesek védelmét nagyrészt a szülőkre, és egyes esetekben magukra a fiatal felhasználókra bízzák.