A mesterséges intelligencia terén tapasztalható versenyfutás részeként egyre több olyan esetet látni, amikor elhamarkodottan kerül a felhasználók elé egy-egy funkció. Remek példája ennek a Google nemrég bejelentett, egyelőre csak Amerikában elérhető új funkciója, az AI Overview. A keresőbe integrált MI-megoldás lényege az lenne, hogy gyors összefoglalót adjon nekünk a keresett témáról, ehelyett sokszor ostoba, másszor kifejezetten veszélyes tanácsokat osztogat.

A CNBC szerint például arra a kérdésre, hogy hány muszlim elnöke van az Egyesült Államoknak, az AI Overview azt válaszolta: „Az Egyesült Államoknak egyetlen muszlim elnöke volt, Barack Hussein Obama.”

Egy ehhez hasonló hiba bármikor igen kellemetlen lenne a cég számára, ám egy választási évben különösen veszélyesnek tűnik.

Az egyszerű félretájékoztatáson túl azonban életveszélyes tanácsokat is ad a funkció. Arra a kérdésre például, hogy miként lehet elérni, hogy a sajt jobban tapadjon a pizzához, a MI azt válaszolta, hogy ragasztót kell használni. Egy másik kérdésre pedig azt válaszolta, hogy az UC Berkeley geológusai szerint az embernek naponta legalább egy sziklát meg kell enniük.

A Sky News szerint sok hibás válasz viccelődő, vagy épp direkt félrevezető Reddit-posztokból származik, ami nem meglepő, tekintve hogy az OpenAI mellett a Google-lel is megállapodásban áll a felület az ott megjelenő tartalmak tanítási célú felhasználását illetően.

A Google figyelmezteti a felhasználókat, hogy bár egy évnyi tesztelésen már túl van az AI Overview, a projekt egyelőre csak kísérleti jelleggel próbálható ki. A cég reakciójában jelezte, hogy elszigetelt példákról van szó, és az AI Overview funkció általában kiválóan teszi a dolgát.

A mesterséges intelligencia áttekintésére szolgáló eszköz általában kiváló minőségű információkat nyújt, linkekkel megtámogatva, amelyekkel mélyebbre áshat az ember az interneten.

– áll a cég közleményében, hozzátéve, hogy ahol politikai problémákat találnak, ott lépéseket tesznek, és finomítják a rendszert. Sundar Pichai vezérigazgató azóta szintén elismerte, hogy a fejlesztésnek vannak hallucinációs gondjai.

Kapcsolódó Fekete nácikról és indián alapító atyákról csinált képet a Google programja Sokáig attól féltek, hogy az emberek előítéletei miatt rasszistává válhat a mesterséges intelligencia. A Gemini azonban úgy tűnik, túlkompenzál.

The post Életveszélyes tanácsokat osztogat a Google elhibázott újítása first appeared on 24.hu.