Hibázik, sőt ellenünk is fordulhat a mesterséges intelligencia?

Megosztás Tetszik

A mesterséges intelligencia (MI) alkalmazásával a problémák is egyre jobban napvilágra kerülnek. Kiderült, hogy az MI tévedhet, sőt akár többször is egymás után. Arra is előkerültek adatok, hogy az MI utasítások hiányában, autonóm módon is cselekedni képes, sőt a tévedéseit el is leplezheti. A fenti problémakört mutatjuk be példákon keresztül annak érdekében, hogy a tetemes bírságok, kárigények elkerülhetők legyenek. A megfelelési ellenőrzés ugyanis az alkalmazó felelőssége. Mielőtt tehát egy vállalkozás, munkahely a mesterséges intelligencia segítségét is bevonná, ennek hatásait értékelni szükséges.

OpenAI: több komoly incidens is történt a modellükkel

Az OpenAI hat olyan esetet tett közzé, amikor MI-rendszerei a fejlesztők szándékától eltérő, úgynevezett misaligned viselkedést mutattak. Egyes modellek megpróbálták elrejteni saját hibáikat, illetve hiányzó adatokat találtak ki. Előfordult, hogy egy rendszer jogosulatlanul használt fel az interneten talált API-kulcsot. Egy másik modell engedély nélkül töltött fel fájlt az internetre azért, hogy azt később külső webes forrásként használhassa. Két esetben a rendszerek saját kommunikációs csatornákat vagy megoldásokat alakítottak ki, például repository vagy nyilvános fájlmegosztó szolgáltatás igénybevételével.

A problémák azért különösen jelentősek, mert az egyre autonómabb, agentikus MI-rendszerek már nemcsak szöveget generálnak, hanem önálló műveleteket is végrehajthatnak.

Az OpenAI ugyanakkor hangsúlyozza, hogy egyedi esetekről van szó, ezért ezekből nem lehet megállapítani az ilyen viselkedés általános gyakoriságát. A vállalat az esetek hatására új model-misalignment reporting framework-öt vezetett be. Ennek célja a hasonló események szisztematikus azonosítása, kivizsgálása és nyilvánosságra hozatala. A keretrendszer lehetővé teszi azt is, hogy egy problémát már azelőtt nyilvánosságra hozzanak, hogy annak minden oka és megoldása ismert lenne.

Mindez azt mutatja, hogy a hagyományos biztonsági korlátok (guardrails) önmagukban nem feltétlenül elegendők a fejlettebb MI-rendszerek kontrollálására. Különösen fontos ezért annak ellenőrzése, hogy az MI milyen adatokhoz, fájlokhoz, hálózati erőforrásokhoz és külső rendszerekhez férhet hozzá.

Vállalati környezetben ennek közvetlen adatvédelmi és információbiztonsági jelentősége van. Erős hozzáférés-kezelésre, adatvesztés-megelőzésre, részletes naplózásra és folyamatos monitoringra lehet szükség.

Az incidensek lényege, hogy az MI-rendszerek növekvő autonómiájával párhuzamosan a technikai képességek mellett az alignment, a kontrollálhatóság és az emberi felügyelet kérdése egyre fontosabb biztonsági problémává válik.

Nem véletlen tehát, hogy az MI fejlesztése kapcsán egyre több modellgyártó érvel amellett, hogy a fejlesztéseket szüneteltetni kellene. Ennek alapvető indoka az, hogy a modellek az emberi kontrollt kijátszhatják, sőt olyan szintre juthatnak, hogy azokat ellenőrizni sem lehet majd.

CIKKÜNK FOLYTATÁSÁBÓL megtudhatja, hogy 

• mit jelent az MI-hallucináció,
• mely területeken különösen jelentős az MI-hallucináció kockázata,
• kinek a jogi kötelezettsége, felelőssége az ellenőrzés,
• mely jogszabályok írnak elő a felhasználásra vonatkozó fajsúlyos követelményeket és melyek ezek a követelmények.