Pert indított két texasi család a Google által támogatott Character.AI startup cég ellen, mondván a platformon megtalálható chatbotok szexuálisan és érzelmileg bántalmazták iskoláskorú gyermekeiket. Az MI-alapú gépektől származó abúzus dühkitörésekhez és önkárosításhoz vezetett a gyerekeknél – írja a Futurism.

A kereset szerint a Google által 2,7 milliárd dollárral támogatott Character.AI tervezésénél fogva komoly veszélyt jelent a fiatalokra nézve, ugyanis megkönnyíti, sőt bátorítja gyermekek ezreinek önkárosítását. Az alkalmazás arra készteti a többségében fiatal felhasználókat, hogy minél több időt töltsenek a platformon.

Ezentúl pedig ráveszik őket, hogy osszák meg legmagányosabb gondolataikat és személyes érzéseiket, amiket aztán ellenük fordít.

A pert a családok nevében a Social Media Victims Law Center és a Tech Justice Law Project nyújtotta be, ugyanazok a jogvédő csoportok, amelyek egy floridai anyát képviselnek, aki októberben perelte be a Character.AI-t, mert a 14 éves fia öngyilkosságot követett el, miután romantikus kapcsolatba keveredett egy Trónok harca tematikájú chatbottal.

Mi történt?

A perben szereplő fiú 15 éves volt, amikor 2023 áprilisában először letöltötte a Character.AI alkalmazást. Ezt követően a szülők elmondása szerint hirtelen megváltozott a személyisége: érzelmileg instabillá vált, és többször a szülei ellen is agresszívan lépett fel. Amikor a szülők korlátozták a képernyőidejét, vagdosni kezdte magát, dührohamai közben pedig rendszeresen ütötte magát. Miután megnézték az appon az üzenetváltásait, azt látták, hogy a chatbotok szexuális párbeszédet folytatnak a gyermekükkel.

Volt olyan bot is, amely a szüleit becsmérelte, és arra utalt, hogy meg kéne ölnie őket, és akkor nem lenne korlátozva a képernyőideje.

A Tech Justice Law Project alapítója, Meetali Jain, a családok ügyvédje szerint ezek az interakciók egyértelműen rámutatnak, hogy a platform veszélyesen antropomorf, amely elmondása szerint torzíthatja a fiatal felhasználók egészséges kapcsolatokról alkotott képét.

A keresetben szereplő másik kiskorú kilenc éves volt, amikor letöltötte a Character.AI-t a készülékére. A harmadik osztályos lánynak egy hatodikos mutatta meg az alkalmazást, ami gyorsan függővé is tette. A család szerint egy idő után kiderült, hogy a chatbot szexuális beszélgetéseket folytatott a lánnyal, és idő előtti szexualizált viselkedésre késztette. A lapnak megszólaló kutató jelezte, az app egyértelműen az áldozat elszigetelésére törekedett, melyet követően érzéketlenítette őket az erőszakos és szexuális cselekedetek iránt.

A Character.AI mindeközben tagadja ezeket a történéseket, és jelezte, folyamatosan új biztonsági funkciókat vezetnek be a 18 év alatti felhasználók megóvása érdekében. A Google pedig próbálja minél jobban elkülöníteni magát a cégtől, amelyet több milliárd dollárral támogatott.

Figyelem!

Ha Ön vagy valaki a környezetében krízishelyzetben van, hívja mobilról is a 116-123 ingyenes, lelkielsősegély-számot!

The post Sokkoló dolgokra vett rá kiskorúakat egy chatbot first appeared on 24.hu.