TikTok ja Telegram vakuuttavat poistavansa laitonta sisältöä, mutta tutkijoiden mukaan tekoälyllä tuotettu lapsiin kohdistuva seksuaalinen materiaali leviää alustoilla ennennäkemättömällä vauhdilla.
Espanjalainen faktantarkistusorganisaatio Maldita on nostanut esiin vakavan ja nopeasti kasvavan ongelman TikTokissa: tekoälyn avulla tuotettuja alaikäisiä seksualisoivia videoita leviää alustalla laajassa mittakaavassa. Tutkijoiden mukaan kyse ei ole yksittäisistä tapauksista, vaan järjestelmällisestä verkostosta, joka hyödyntää TikTokin valtavaa käyttäjäkuntaa ja ohjaa osan katsojista edelleen Telegramiin – paikkaan, jossa kaupitellaan lapsiin kohdistuvaa seksuaalista hyväksikäyttömateriaalia.
Yli 20 tiliä, tuhansia videoita ja miljoonia tykkäyksiä
Malditan raportin mukaan tutkijat löysivät yli 20 TikTok-tiliä, jotka olivat julkaisseet yhteensä yli 5 200 videota. Videoissa esiintyy tekoälyn generoimia nuoria tyttöjä bikineissä, koulupuvuissa tai muissa seksualisoiduissa asuissa.
Tilien yhteenlaskettu seuraajamäärä ylittää 550 000 käyttäjää, ja videoille on kertynyt lähes kuusi miljoonaa tykkäystä – osoitus siitä, kuinka laajalle sisältö on jo levinnyt.
Monia videoita ei ole merkitty tekoälyn tuottamiksi, vaikka TikTokin omat säännöt edellyttävät selkeää merkintää AI-sisällöstä.
Kommenttiosiot johdattavat Telegramiin – poliisille ilmoitettu 12 ryhmää
Raportin vakavin havainto liittyy videoiden kommenttiosioihin. Useissa tapauksissa kommentteihin on jätetty linkkejä Telegram-ryhmiin, joissa myydään lapsiin kohdistuvaa seksuaalista hyväksikäyttömateriaalia.
Maldita kertoo ilmoittaneensa 12 tällaista ryhmää Espanjan poliisille.
Tutkijoiden mukaan kyseessä on uusi rikollisen toiminnan muoto, jossa tekoälyä käytetään houkuttelemaan käyttäjiä laittoman materiaalin pariin.
TikTok ja Telegram puolustautuvat – viranomaiset pohtivat tiukempia sääntöjä
TikTok ja Telegram vakuuttavat, että ne poistavat sääntöjensä vastaista ja laitonta sisältöä. Molemmat alustat korostavat poistaneensa suuria määriä tilejä, videoita ja ryhmiä.
Silti tutkijoiden mukaan tekoälyn mahdollistama sisällöntuotanto on tehnyt valvonnasta entistä vaikeampaa. Viranomaiset eri puolilla Eurooppaa keskustelevat parhaillaan tiukemmista säännöistä ja teknisistä ratkaisuista, joilla alaikäisiä voitaisiin suojella paremmin verkossa.
Tekoälyn väärinkäyttö haastaa lainsäädännön
Tapaus osoittaa, kuinka nopeasti tekoäly voi muuttaa rikollisen sisällön luonnetta. Aiemmin lapsiin kohdistuvaa materiaalia tuotettiin ja levitettiin rajallisemmin, mutta nyt tekoäly mahdollistaa massatuotannon, joka on vaikea havaita ja vielä vaikeampi pysäyttää.
Malditan mukaan ongelma kasvaa, ellei alustoja ja lainsäädäntöä päivitetä vastaamaan uuden teknologian tuomia riskejä.
Lähde: European Conservative
