A deepfake is bántalmazás – ki védi meg a gyerekeinket?

A deepfake mesterséges intelligenciával (MI) létrehozott, vagy módosított, megtévesztően élethű hamis kép, hang vagy felvétel. 

Az UNICEF egyre nagyobb aggodalommal figyeli azokat a jelentéseket, amelyek szerint egyre több a teljesen valósághűnek tűnő, mesterséges intelligencia által létrehozott, vagy módosított szexualizált kép és felvétel az interneten. Vészjósló, hogy egyre több az olyan eset is, amikor gyermekekről készült fényképeket manipulálnak, vagy hoznak létre és helyezik őket szexuális kontextusba. A deepfake felvételek közé tartozik az úgynevezett „meztelenítés” is, amikor MI-eszközökkel eltávolítják, vagy átalakítják a ruházatot a már meglévő fotókon, hogy hamis, meztelen, vagy szexuális jellegű képeket hozzanak létre.

Minden 25. gyermek érintett lehet

Új bizonyítékok mutatják meg a probléma és a fenyegetettség mértékét a gyerekekre vonatkozóan! A legfrissebb, 11 országra kiterjedő kutatás – a UNICEF, ECPAT és INTERPOL közös, 2025-ös kutatása – szerint az elmúlt egy évben legalább 1,2 millió gyermek számolt be arról, hogy a róla készült képeket szexuális tartalommá alakították át deepfake formában. Egyes országokban ez azt jelenti, hogy minden 25. gyermek érintett – vagyis már minden átlagos iskolai osztályban van egy gyerek, aki személyesen élte át a bántalmazás új formáját.

Ez is bántalmazás!

Maguk a gyerekek is tisztában vannak a veszéllyel. A vizsgált országokban élő gyermekek többsége elmondta, hogy aggódik amiatt, hogy szexuális képeket vagy videókat készítenek róluk a mesterséges intelligenciával. Az aggodalom mértéke országonként jelentősen eltér, ami világosan jelzi, mennyire sürgős a tudatosság növelése, a megelőzést és védelmet szolgáló intézkedések megerősítése, valamint a figyelem felhívása a problémára.

Fontos elmondani, hogy a mesterséges intelligenciával létrehozott vagy manipulált, szexualizált gyermekképek gyermekek szexuális bántalmazását ábrázoló anyagnak minősülnek. A deepfake bántalmazás valódi bántalmazás, ami mély sebeket ejt és mérhető károkat okoz.

Komoly lépések a megelőzésért

Amikor egy gyermek képmását vagy személyazonosságát használják fel, közvetlen áldozattá válik. De még akkor is, ha nincs azonosítható áldozat, az MI-vel előállított gyermekpornográf anyagok normalizálják a gyermekek szexuális kizsákmányolását, növelik az ilyen tartalmak iránti keresletet, és komoly nehézségeket okoznak a bűnüldöző szervek számára a segítségre szoruló gyermekek azonosításában és védelmében.

Az UNICEF üdvözli azon MI-fejlesztők erőfeszítéseit, akik már a tervezés során beépített biztonsági megoldásokat és szigorú védőkorlátokat alkalmaznak abból a célból, hogy a visszaéléseket elkerülhessék, azonban még így is túl sok MI-modell készül megfelelő biztosítékok nélkül. A kockázatot tovább növeli, amikor a manipulációs eszközök közvetlenül elérhetők a közösségimédia-platformokon, ahol a képek és tartalmak villámgyorsan terjednek.

Az UNICEF sürgős lépéseket szorgalmaz az MI-vel előállított, vagy módosított, gyermekeket érintő szexuális bántalmazó anyagok terjedésének megfékezése érdekében:

• Minden kormány terjessze ki a gyermekek szexuális kizsákmányolását ábrázoló anyagok jogi meghatározását az MI-vel létrehozott tartalmakra és tegye büntethetővé azok előállítását, megszerzését, birtoklását és terjesztését.
• Az MI-fejlesztők már a tervezés pillanatában ügyeljenek a biztonságra és építsenek be erős védelmi mechanizmusokat a modellek visszaélésszerű használatának megakadályozására.
• A digitális platformok ne csak utólag távolítsák el az MI-vel előállított, gyermekeket szexuálisan kizsákmányoló tartalmakat, hanem aktívan akadályozzák meg azok terjedését; erősítsék a tartalommoderálást és fektessenek be olyan felismerő technológiákba, amelyek lehetővé teszik az ilyen anyagok azonnali eltávolítását – nem napokkal azután, hogy az áldozat vagy képviselője bejelentést tett.