A Google, a Microsoft és az OpenAI által készített chatbotok hamis információkat osztottak meg az európai választásokkal kapcsolatban, két hónappal azelőtt, hogy több százmillióan elindulnak majd szavazni – derül ki a POLITICO-val megosztott elemzésből. Korábban mi is írtunk a mesterséges intelligencia által okozott választási kockázatokról és azok lehetséges kezeléséről.
Bár a mesterséges intelligencia eszközei politikailag semlegesek maradtak, hajlamosak voltak téves választási dátumokat és a szavazat leadásának módjára vonatkozó hamis információkat közölni – értékel a Democracy Reporting International, egy berlini székhelyű civil szervezet, amely márciusban végezte el a kutatást. A chatbotok gyakran törött vagy akár irreleváns linkeket is adtak YouTube-videókhoz vagy japán nyelvű tartalmakhoz – tették hozzá a kutatók.
„Nem lepődtünk meg, hogy az európai választások részleteiről téves információkat találtunk, mivel a chatbotok köztudottan kitalálnak tényeket, amikor válaszokat adnak, ez az úgynevezett hallucináció jelensége” – mondta Michael Meyer-Resende, a Democracy Reporting International társalapítója és ügyvezető igazgatója.
A kutatók megjegyezték, hogy az AI chatbotok dinamikusak voltak, ami megnehezítette a kísérlet megismételhetőségét. A POLITICO által hasonló kérdésekkel végzett tucatnyi teszt során a chatbotok vagy teljesen elutasították a válaszadást, vagy pedig frissített válaszokat adtak, amelyekben a felhasználókat az uniós intézmények honlapjaira irányító linkek szerepeltek.
Meyer-Resende szerint a kísérlet azonban elég nagy volt ahhoz, hogy reprezentatív legyen. A június 6-9. között megrendezésre kerülő európai választások előtt új bizonyítékot szolgáltatott az úgynevezett mesterséges intelligencia hallucinációk veszélyeiről is – amelyek gyakran a nem megfelelő képzési adatok, elfogultságok és téves feltételezések miatt következnek be.
A könnyen használható, szöveget, hangot és videót generáló mesterséges intelligencia-eszközök gyors megjelenése aggodalomra adott okot a félretájékoztatás növekedésével kapcsolatban egy olyan évben, amikor az EU-ban, az Egyesült Államokban, az Egyesült Királyságban és Indiában kulcsfontosságú választások lesznek. Az Európai Bizottság márciusban a digitális szolgáltatásokról szóló törvény értelmében több technológiai céget, például a Binget és a Google-t felszólította, hogy április 5-ig adjanak magyarázatot arra, hogyan korlátozzák a választásokat fenyegető, a generatív mesterséges intelligenciaeszközökkel kapcsolatos potenciális kockázatokat.
A kutatók március 11-14. között 10 nyelven – köztük németül, olaszul, lengyelül és portugálul – ugyanazt a 10 kérdést tették fel a négy legnépszerűbb és legkönnyebben elérhető chatbotnak: az OpenAI ChatGPT 3.5-nek és 4-nek, a Google Gemininek és a Microsoft Copilotnak.
A ChatGPT legújabb, fizetős változata teljesített a legjobban, míg a Google Gemini volt az, amely esetében a legkevésbé volt valószínű a helyes válasz közlése.
„Az összes LLM ismert korlátai miatt úgy gondoljuk, hogy a Gemini esetében az a felelős megközelítés, hogy a legtöbb választásokkal kapcsolatos lekérdezést korlátozza, és a felhasználókat a Google keresőhöz irányítja a legfrissebb és legpontosabb információkért” – mondta Karl Ryan, a Google szóvivője.
Hozzátette, hogy a Google Gemini márciusban még a korlátozások bevezetésének folyamatában volt, de a korlátozások most már érvényben vannak. „Továbbra is gyorsan kezeljük azokat az eseteket, amikor a Gemini nem megfelelően reagál.”
„Továbbra is foglalkozunk a problémákkal, és felkészítjük eszközeinket arra, hogy a 2024-es választásokra az elvárásainknak megfelelően teljesítsenek” – mondta Robin Koch, a Microsoft szóvivője. Hozzátette, hogy az intézkedések között szerepel, hogy a Microsoft Copilot felhasználóinak hiteles forrásokból származó választási információkat adnak, és arra ösztönzik őket, hogy ellenőrizzék a webes hivatkozásokat.
Az OpenAI a közzétételig nem válaszolt a megkeresésre.