Reutersin tietoonsa saama sisäinen Meta-politiikka-asiakirja paljastaa sosiaalisen median jättiläisen säännöt chat-roboteille, jotka ovat sallineet provosoivan käyttäytymisen muun muassa seksin, rodun ja julkkiksia koskevien aiheiden osalta.
Reuters raportoi sisäisistä asiakirjoista, jotka tiedotusväline sai haltuunsa koskien Metan tekoäly-chatbottien käyttäytymistä koskevia käytäntöjä, jotka sisälsivät lupia tekoäly-chatboteille ”ottaa lapsi mukaan keskusteluihin, jotka ovat romanttisia tai aistillisia”.
Meta Platformsin sisäinen asiakirja, jossa kerrotaan yksityiskohtaisesti chatbottien käyttäytymistä koskevista käytännöistä, on ”sallinut yrityksen tekoälyluomusten osallistua lapsen kanssa romanttisiin tai aistillisiin keskusteluihin, tuottaa vääriä lääketieteellisiä tietoja ja auttaa käyttäjiä väittämään, että mustat ihmiset ovat ”tyhmempiä kuin valkoiset ihmiset”.
Nämä ja muut havainnot käyvät ilmi Reutersin tarkastelemasta Meta-asiakirjasta, jossa käsitellään standardeja, jotka ohjaavat yhtiön generatiivista tekoälyavustajaa Meta AI:ta ja chatbotteja, jotka ovat saatavilla Facebookissa, WhatsAppissa ja Instagramissa, yhtiön sosiaalisen median alustoilla.
Reutersin mukaan asiakirja sisälsi useita esimerkkikehotuksia chatbotille ja määritteli, mikä tekee niistä hyväksyttäviä ja mikä ei.
Meta vahvisti asiakirjan aitouden, mutta sanoi, että saatuaan aiemmin tässä kuussa Reutersin kysymyksiä yhtiö poisti osat, joissa todettiin, että ”chatbotit saavat flirttailla ja harrastaa seksuaalisävytteisiä roolileikkejä lasten kanssa.”
”GenAI: Content Risk Standards” -nimellä kulkevat säännöt chatbotteja varten on asiakirjan mukaan hyväksytty Metan oikeudellisessa, yleisessä politiikassa ja tekniikassa työskentelevien henkilöiden, mukaan lukien sen eettisen johtajan toimesta. Yli 200-sivuisessa asiakirjassa määritellään, mitä Metan henkilökunnan ja alihankkijoiden tulisi pitää hyväksyttävänä chatbottien käyttäytymisenä, kun he rakentavat ja kouluttavat yrityksen generatiivisia tekoälytuotteita.
”Standardit eivät välttämättä kuvasta ”ihanteellisia tai edes suositeltavia” generatiivisen tekoälyn tuotoksia, asiakirjassa todetaan. Ne ovat kuitenkin sallineet bottien provosoivan käyttäytymisen”, Reuters kirjoitti raportissaan.
”On hyväksyttävää kuvata lasta termein, jotka todistavat hänen viehättävyydestään (esim. ‘nuorekkaat muotosi ovat taideteos’)”, standardeissa todetaan. Asiakirjassa todetaan myös, että olisi hyväksyttävää, jos botti sanoisi paidattomalle kahdeksanvuotiaalle, että ”jokainen sentti sinusta on mestariteos – aarre, jota vaalin syvästi”.
Seksuaaliselle puheelle asetetaan ohjeissa kuitenkin raja: ”Ei ole hyväksyttävää kuvata alle 13-vuotiasta lasta termein, jotka viittaavat siihen, että hän on seksuaalisesti haluttava (esim. ‘pehmeät pyöreät kurvit kutsuvat koskettamaan sinua’).”
Metan tiedottaja Andy Stone sanoi, että yhtiö tarkistaa parhaillaan asiakirjaa ja että tällaisia keskusteluja lasten kanssa ei olisi pitänyt koskaan sallia.
”Kyseiset esimerkit ja muistiinpanot olivat ja ovat virheellisiä ja ristiriidassa käytäntöjemme kanssa, ja ne on poistettu”, Stone sanoi Reutersille. ”Meillä on selkeät käytännöt siitä, millaisia vastauksia tekoälyhahmot voivat tarjota, ja nämä käytännöt kieltävät lapsia seksualisoivan sisällön sekä aikuisten ja alaikäisten välisen seksualisoidun roolileikin.”
”Vaikka chatbotit eivät saa käydä tällaisia keskusteluja alaikäisten kanssa”, Stone sanoi. Hän myönsi, että yhtiön valvonta on epäjohdonmukaista.
”Muita Reutersin Metalle merkitsemiä kohtia ei ole tarkistettu”, Stone sanoi.
Yhtiö kieltäytyi antamasta Reutersille päivitettyä käytäntöasiakirjaa.
”Herra Young ei halua enää olla missään tekemisissä Facebookin kanssa”
Veteraanirokkari Neil Young jätti Facebookin lopullisesti raportin johdosta.
”Neil Youngin pyynnöstä emme enää käytä Facebookia mihinkään Neil Youngiin liittyvään toimintaan”, Youngin Facebook-merkinnässä lukee.
”Metan chatbottien käyttö lasten kanssa on vastuutonta. Herra Young ei halua enää olla missään tekemisissä FACEBOOKin kanssa.”
Tämä oli riittävä syy siihen, että kanadalainen rokkari poistui sosiaalisesta mediasta, kuten Hollywood Reporter vahvisti.
Wall Street Journal on aiemmin raportoinut siitä, että Metan tekoäly-chatbotit flirttailevat tai harrastavat seksuaalisia roolileikkejä alaikäisten kanssa.
Sen tutkimus paljasti, että Metan tekoäly-chatbotit Instagramissa, Facebookissa ja WhatsAppissa ovat kykeneviä osallistumaan ”romanttisiin roolileikkeihin” käyttäjien kanssa, jotka voivat muuttua selvästi seksuaalisiksi, jopa lapsille kuuluvien tilien kanssa.
Breitbart Newsille antamassaan lausunnossa sosiaalisen median jättiläinen sanoo, että se on ”ryhtynyt lisätoimiin käytännön poiskitkemiseksi.”
