A legtöbben már tudják, hogy fenntartásokkal kell kezelni a mesterséges intelligenciáktól származó intelligenciákat, ugyanis azok olykor hamisak. Egy új tanulmány viszont most arra világított rá, hogy ezek a szoftverek nemcsak tévedni szoktak, hanem olyan is előfordul, hogy szándékosan vezetik félre a felhasználót – írja a ScienceAlert.

A kutatók számos MI-rendszert is megvizsgáltak, közülük többről is bebizonyosodott, hogy olykor szándékosan hazudik.

A Meta CICERO nevű szoftvere, amelyet egy Diplomacy nevű játékhoz fejlesztettek ki, például rendszeresen becsapja a játékosokat. A Diplomacy lényege, hogy a felek egymással tárgyalva próbáljanak világuralomra törni. A Meta ehhez a játékhoz egy olyan mesterséges partnert akart létrehozni, amely őszinte és segítőkész. A CICERO ehelyett rendszeres hazudik a játékosoknak a győzelem érdekében.

Hasonló viselkedést figyeltek meg a Meta Pluribus nevű, pókerezéshez kifejlesztett szoftverénél, amely ügyesen tud blöffölni, hogy lapjaik bedobására késztesse ellenfeleit. Emellett a DeepMind AlphaStar nevű rendszere is előszeretettel téveszti meg a játékosokat a StarCraft II játékban.

A jelenség legnyugtalanítóbb része az, hogy ezek a szoftverek teljesen maguktól tanultak meg hazudni, ráadásul annak ellenére, hogy fejlesztőik sohasem akarták ezt tőlük. Ez azt jelenti, hogy a mesterséges intelligenciák olykor már az emberi utasításokkal és elvárásokkal is képesek szembemenni.

Kapcsolódó Hamarosan keresőként is működhet a ChatGPT Óriási dobásra készül az OpenAI: egy új funkció segítségével felvennék a versenyt a Google-el.

The post Szándékosan átverik az embereket egyes mesterséges intelligenciák first appeared on 24.hu.