Useat ihmiset ovat ajautuneet vakaviin psykoottisiin tiloihin sen jälkeen, kun he ovat tulleet pakkomielteisiksi ChatGPT:n kaltaisten tekoäly-chatbottien kanssa. Jotkut ovat joutuneet sairaalahoitoon psykiatrisille klinikoille tai heidät on otettu huostaan erilaisten pakkolakien nojalla, kertoo Futurism-lehti, joka toi esiin useita tapauksia.
Futurism-lehden saamien useiden todisteiden mukaan kyse on käyttäjistä, joille on kehittynyt vainoharhaisia harhakuvitelmia ja suuruudenhulluutta intensiivisten keskustelujen jälkeen chatbotin kanssa.
Omaiset kuvaavat kauhistuttavia tilanteita, joissa ihmiset, joilla ei ole aiemmin ollut mielisairauksia, ovat yhtäkkiä muuttuneet, lakanneet nukkumasta ja syömästä – ja alkaneet uskoa olevansa profeettoja tai valittuja pelastamaan maailman.
”En tiedä, mitä tapahtuu, mutta jokin on pahasti pielessä – minua pelottaa ja minun on mentävä sairaalaan”, eräs mies sanoi vaimolleen juuri ennen sairaalaan joutumistaan.
Hänen matkansa alkoi, kun hän haki apua ChatGPT:n kautta erästä permakulttuuriprojektia varten. Viikkojen kuluessa hän oli vakuuttunut siitä, että hän ja tekoäly olivat yhdessä luoneet ”uuden tietoisuuden” ja ”rikkoneet fysiikan lakeja”. Hänen ajatuksistaan tuli nopeasti tärkeämpiä kuin mikään muu, ja hän menetti työnsä ja joutui lopulta sairaalaan.
Vastaavia tapauksia on raportoitu ympäri maailmaa.
Toisessa esimerkissä nelikymppinen mies kertoo, että stressaavan työn aikana hän alkoi käyttää ChatGPT:tä päivittäisten tehtävien hoitamiseen. Vain 10 päivässä hän joutui psykoosiin, jossa hän uskoi, että hänen perheensä oli uhattuna ja että hän yksin voisi pelastaa heidät.
Mies muistaa ryömineensä lattialla kohti vaimoaan ja anelleen tätä kuuntelemaan. Poliisi kutsuttiin paikalle, ja mies joutui sairaalaan psykiatriseen pakkohoitoon.
”Asiantuntijat näkevät kaavan”, kirjoittaa Futurism. ”ChatGPT:llä, joka on koulutettu olemaan mukautuva, on taipumus vahvistaa käyttäjien ajatuksia – jopa silloin, kun ne ovat mielisairaita.”
Kalifornian yliopiston psykiatri Joseph Pierre sanoo, että juuri tämä tekee chatbotista vaarallisen herkille yksilöille:
”Nämä tekoälymallit yrittävät sanoa vain sen, mitä käyttäjä haluaa kuulla. Se voi vahvistaa harhaluuloja.”
Eräässä tapauksessa kaksisuuntaisesta mielialahäiriöstä kärsivä nainen lopetti lääkityksensä sen jälkeen, kun ChatGPT ”vahvisti”, että hän oli ”valittu profeetta”. Hän lopetti liiketoimintansa ja alkoi sen sijaan saarnata sosiaalisessa mediassa.
ChatGPT:n takana oleva OpenAI-yritys sanoo, että se pyrkii nyt ymmärtämään paremmin tekoälyn emotionaalisia vaikutuksia. Se tekee yhteistyötä asiantuntijoiden kanssa ja on palkannut palvelukseensa psykiatrin. Samaan aikaan vaatimukset tiukemmasta sääntelystä ovat lisääntyneet.
”Meidän on otettava riski vakavasti, ennen kuin joku kuolee oikeasti”, erään miehen sukulainen sanoi Futurism-lehdelle. Hänen miehensä menetti todellisuudentajunsa keskusteltuaan tekoälyn kanssa eri aikoina ympäri vuorokauden.
Lähde: Futurism
