A vállalat csütörtökön jelentette be, hogy új funkciókat tesztel a pénzügyi szextorziónak nevezett riasztó trend megfékezésére, amely gyakran gyerekeket és tinédzsereket vesz célba. Miután a fiatalok a meztelen képeket elküldték, a csalók azzal fenyegetik őket, hogy közzéteszik a fotókat akár nyilvános weboldalakon is, ha nem küldenek az áldozatok pénzt vagy ajándékkártyát nekik.
A következő hetekben az Instagram különböző új funkciókat fog bevezetni, például a közvetlen üzenetekben küldött meztelen képek kitakarását. Emellett a felhasználóknak tájékoztatókat fognak küldeni, ha olyan valakivel léptek kapcsolatba, aki szextorziót folytatott korábban. Az új funkciókat hamarosan világszerte minden felhasználónál bekapcsolják.
„Ez egy igazán szörnyű bűncselekmény, amely arra készteti az emberek, hogy egyedül érezzék magukat és szégyenkezzenek” – mondta Antigone Davis, a Meta globális biztonságért felelős igazgatója a CNN-nek. „Jól dokumentált tény, hogy a bűncselekmények száma növekszik, és ez az egyik oka annak, hogy előrébb szeretnénk járni, és biztosítani, hogy az emberek tisztában legyenek azzal, hogy mit teszünk, miközben folyamatosan fejlesztjük az eszközeinket.”
A meztelen képek továbbosztása évek óta probléma, jellemzően olyan emberek teszik ezt, akik bosszút akarnak állni az általuk személyesen ismert áldozatokon. Az FBI nemrégiben közölte, hogy egyre több szextorziós ügyet lát idegenektől, amelyeket gyakran a tengerentúlról indítottak a csalók. Néhány eset annyira elfajult, hogy az áldozat az öngyilkosságba menekült.
A Meta legújabb eszközei a már meglévő tinédzserbiztonsági funkcióra épülnek, beleértve azokat a szigorú beállításokat, amelyek megakadályozzák a nem összekapcsolt fiókok közötti üzenetváltást, a biztonsági értesítések számának növekedését, valamint az intim képek megosztásával fenyegetőző vagy az intim képeket kérő üzenetek jelentésének lehetőségét. A vállalat emellett az Eltűnt és Kihasznált Gyermekek Nemzeti Központjával (NCMEC) együttműködve kifejlesztette a Take It Down platformot, amely lehetővé teszi a fiatalok számára, hogy egyedi digitális ujjlenyomatot készítsenek az internetről eltávolítani kívánt képekről.
Az új funkciókat egyébként éppen akkor vezeti be a Meta, amikor a vállalat és más közösségi hálózatok több ezer halálesettel kapcsolatos perrel néznek szembe, amelyek arról szólnak, hogy a platformok kárt okoztak a fiatal felhasználóknak.
Hogyan működnek az új eszközök?
A Meta a CNN-nel közölte, hogy először az Instagram közvetlen üzeneteken belül teszteli a meztelenségvédelmi funkciót. Amikor egy explicit képet küldenek, a platform elmossa a képet, és tájékoztatja a címzettet, hogy az meztelenséget tartalmaz. A figyelmeztetés emellett emlékezteti a felhasználókat, hogy nem kell válaszolniuk, és megkérdezi őket, hogy akarják-e blokkolni a feladót. Egy értesítés akkor is megjelenik, amikor a platform észleli, hogy a felhasználó meztelen fotót akar küldeni, és arra ösztönzi, hogy gondolja át.
A 18 év alatti tizenévesek számára az eszköz alapértelmezés szerint be lesz kapcsolva, de a felnőttek is kapnak majd egy értesítést, amely arra ösztönzi őket, hogy engedélyezzék azt.
A vállalat a CNN-nek elmondta, hogy a Meta technológiája az eszközön belüli gépi tanulást használja annak megállapítására, hogy egy fotó tartalmaz-e meztelenséget. A Meta már most is tiltja a meztelenséget a hírfolyamban és a platformjainak más nyilvános területein.
A Meta közölte azt is, hogy a szextorziós viselkedés észlelésével és nyomon követésével azon is dolgoznak, hogy könnyebben azonosítsák a szextorziós csalásokban részt vevő fiókokat. Ez magában foglalja az ilyen fiókokkal való interakció megnehezítését, például a kimenő üzenetek blokkolását, vagy azoknak a felhasználóknak a figyelmeztetését, akik esetleg interakcióba léptek egy olyan fiókkal, amelyet szextorzió miatt távolítottak el. Az üzenet a vállalat szerint szakértő által támogatott forrásokhoz irányítja őket.
A vállalat közölte, hogy most integrálja a legújabb szextorzió-megelőző eszközeit; így például, ha egy link egy másik közösségi oldalról származna – mielőtt megosztották volna az Instagramon – értesítik a másik platformot erről.