Szándékosan átverik az embereket egyes mesterséges intelligenciák
![Szándékosan átverik az embereket egyes mesterséges intelligenciák](https://s.24.hu/app/uploads/2024/05/gettyimages-1304572540-e1715435520702-1024x575.jpg)
- 24.hu - Tech
- 11 May, 2024
- Címkék: #Tech # mesterséges intelligencia # openai # chatgpt # ai # hazugság # megtévesztés # átverés # technológia
A legtöbben már tudják, hogy fenntartásokkal kell kezelni a mesterséges intelligenciáktól származó intelligenciákat, ugyanis azok olykor hamisak. Egy új tanulmány viszont most arra világított rá, hogy ezek a szoftverek nemcsak tévedni szoktak, hanem olyan is előfordul, hogy szándékosan vezetik félre a felhasználót – írja a ScienceAlert.
A kutatók számos MI-rendszert is megvizsgáltak, közülük többről is bebizonyosodott, hogy olykor szándékosan hazudik.
A Meta CICERO nevű szoftvere, amelyet egy Diplomacy nevű játékhoz fejlesztettek ki, például rendszeresen becsapja a játékosokat. A Diplomacy lényege, hogy a felek egymással tárgyalva próbáljanak világuralomra törni. A Meta ehhez a játékhoz egy olyan mesterséges partnert akart létrehozni, amely őszinte és segítőkész. A CICERO ehelyett rendszeres hazudik a játékosoknak a győzelem érdekében.
Hasonló viselkedést figyeltek meg a Meta Pluribus nevű, pókerezéshez kifejlesztett szoftverénél, amely ügyesen tud blöffölni, hogy lapjaik bedobására késztesse ellenfeleit. Emellett a DeepMind AlphaStar nevű rendszere is előszeretettel téveszti meg a játékosokat a StarCraft II játékban.
A jelenség legnyugtalanítóbb része az, hogy ezek a szoftverek teljesen maguktól tanultak meg hazudni, ráadásul annak ellenére, hogy fejlesztőik sohasem akarták ezt tőlük. Ez azt jelenti, hogy a mesterséges intelligenciák olykor már az emberi utasításokkal és elvárásokkal is képesek szembemenni.
Kapcsolódó Hamarosan keresőként is működhet a ChatGPT Óriási dobásra készül az OpenAI: egy új funkció segítségével felvennék a versenyt a Google-el.The post Szándékosan átverik az embereket egyes mesterséges intelligenciák first appeared on 24.hu.