Az elmúlt napokban milliókat tartott lázban a frissen megjelent kínai mesterséges intelligencia alkalmazás, a DeepSeek megjelenése. Az MI-asszisztens mögött álló nyelvi modell a hivatalos dokumentációja szerint ugyanis olcsóbban és sokkal gyorsabb betanítás után tudott olyan eredményeket elérni, mint az OpenAI fejlesztései.

Az alkalmazással kapcsolatban azonban szép számmal merültek fel aggályok is: egyrészt tudni, hogy a modellt a ChatGPT-től származó szintetikus adatokon képezték ki, ám ami ennél is fontosabb, hogy látni a Kínai Kommunista Párt hatását is a fejlesztésen, ugyanis bizonyos kérdésekre egyszerűen nem akar válaszolni, például arra sem, hogy mi történt 1989-ben a Tienanmen téren. De olyan válasza is volt, hogy Tibet és Tajvan is Kínához tartozik.

A Sophos kiberbiztonsági vállalat összeszedte néhány pontban a DeepSeekkel kapcsolatos kozkázatokat. 

A cég szerint a legtöbb felhasználó számára az adatvédelem az első és legfontosabb kérdés. Az alkalmazást a készülékükről használó fogyasztóknak ezért tisztában kell lenniük azzal, hogy a DeepSeek alkalmazás gyűjti a személyes adataikat (név, születési dátum, stb.), ahogy a készülékükről származó információkat is (típus, internetcím, hely, akkumulátor töltöttségi szintje és egyéb műszaki adatok), valamint az általuk begépelt minden felszólítást naplóznak és képzési célokra felhasználnak. Mivel az összes ilyen adatot a kínai mesterséges intelligencia szerverekre küldik, ezeket az információkat kérésre a kínai kormány számára is hozzáférhetővé kell tenni a helyi törvények értelmében.

Azoknak a vállalatoknak, amelyek az automatizálás érdekében szeretnék felfedezni a technológiát, több lehetőségük van. Hasonló kockázatokkal jár, ha a DeepSeek kínai székhelyű felhőszervereit használják, de mivel az MI-modell szabadon elérhető, lehetőség van házon belüli hosztolásra, vagy az EU-ban, az USA-ban vagy más joghatóság alatt hosztoló szolgáltatótól való használatra. Ez korlátozza az adatvédelmi kockázatokat, de nem küszöböli ki a mesterséges intelligenciamodellbe programozott, eredendő elfogultságot.

Sok a kérdőjel

Annak megértése, hogy egy modell mit csinál és miért csinálja, nehéz és kockázatot jelent. A TikTok betiltásáról szóló amerikai döntés csak részben az anyavállalatnak küldött adatok miatt született, hanem azért is, mert aggályok merültek fel, hogy az ajánló algoritmus a felhasználókat az egyik típusú tartalom felé tereli egy másik típusú tartalom felé. Ugyanez igaz lehet egy mesterséges intelligenciamodellre is. Ezeknél a modelleknél ugyanis kihívást jelenthet visszafejteni, hogyan kapják meg a válaszaikat.

Előfordulhat, hogy egy vállalat számítógépes programozási asszisztensként használ egy mesterséges intelligenciát, és csak később derül ki, hogy a program előszeretettel hoz létre támadható kódot.

A Sophos szerint emellett mindig fennáll annak is a veszélye, hogy a technológiát a kiberbűnözők átveszik, hogy segítsenek kifinomultabb támadások létrehozásában. A kutatók eddig csak alapvető visszaéléseket láttak a legnépszerűbb MI-modellekkel, de mivel ez a modell szabadon hozzáférhető, a rossz szándékú szereplők még inkább előnyben részesíthetik. Ha a modellt a saját számítógépeiken is használhatják, könnyebben kiiktathatják/kikerülhetik a rosszindulatú felhasználás elleni védelmeket.

Végül pedig kiemelik, hogy egy ilyen kifinomult és nagy teljesítményű modell, amely mindenki számára elérhető, véget vet annak az elképzelésnek, hogy ezt a technológiát ellenőrizni vagy korlátozni lehet. Amikor csak néhány nagy technológiai vállalat volt a tárhelye, akkor viszonylag nagy esély volt arra, hogy szabályozni lehet. Ha viszont bárki futtathatja az MI-modelleket a saját számítógépén, a szabályozás hatékonysága erősen korlátozott lesz, és a rosszindulatú szereplők maguk is könnyedén végrehajthatnak illegális cselekményeket.

Kapcsolódó Fenékbe billentette a nagy techcégeket egy kínai app, de nem borította rájuk az asztalt Több száz milliárd dollárt buktak az amerikai techcégek hétfőn a kínai DeepSeek MI-app megjelenése után. Szakértővel jártunk utána, miben más ez az alkalmazás, és milyen változásokat okozhat az MI-piacon.

The post Komoly kockázatot jelenthet a DeepSeek használata first appeared on 24.hu.