MI a kiberbiztonságban: nagy hasznot hozhat, de óriási károkat is okozhat

Megosztás Tetszik

Az OpenAI bemutatta a GPT 5.4 Cyber modellt, amelyet kifejezetten kiberbiztonsági feladatokra, sérülékenységvizsgálatra optimalizáltak. Az OpenAI olyan speciális eszközt adott a védelmi szakemberek kezébe, amely a korábbiaknál mélyebb elemzést tesz lehetővé, de a visszaélések elkerülése érdekében szigorú ellenőrzéshez köti a hozzáférést.

Az OpenAI lépése, azaz, hogy egy mesterséges intelligencia alapú modellhez való hozzáférést lekorlátozzák, válasz az Anthropic nemrég megjelent Claude Mythos modellje körüli aggodalmakra, amelyek az MI-rendszerek növekvő kiberbiztonsági kockázataira hívták fel a figyelmet, hiszen az IT-rendszerek sebezhetőségét akár a hackerek számára is feltárta.

Túl jó volt az Anthropic, a bűnözőknek is jól jöhet

Az Anthropic Cloud Mythos Preview mesterséges intelligenciára támaszkodó terméke kiemelkedő képességekkel bír. A korábbi rendszerekkel ellentétben a Mythos minőségi ugrást jelent: képes önállóan, nagy léptékben azonosítani és kihasználni a szoftveres sebezhetőségeket, több ezer korábban ismeretlen hibát feltárva. Bár nem kifejezetten erre a területre képezték ki, az Anthropic Mythos rendszere számos kiberbiztonsági szakértőt lenyűgözött azzal, hogy széles körben azonosított szoftverekben talált sebezhetőségeket. Ez a képesség olyannyira hatékony volt, hogy jelentős aggodalmakat keltett kormányzatokban, iparágakban és a pénzügyi szektorban.

Emiatt nagy amerikai bankvezetők találkoztak Scott Bessent amerikai pénzügyminiszterrel és Jerome Powell-lel, a Federal Reserve elnökével, hogy megvitassák a rendszer pénzügyi szektorra leselkedő veszélyeit. Erre válaszul a modell elérhetőségét le kellett korlátozni előre meghatározott szervezeteknek. Ahelyett tehát, hogy az MI rendszerek tekintetében a hagyományos mintát követnék (bevezetés, megfigyelés és reagálás), a vállalat kezdeményező lépést tett, már a kezdetektől korlátozva a hozzáférést, és gondosan ellenőrizve a kitettséget. Ezt a stratégiát a megbízható partnerek zárt hálózatának – köztük nagy technológiai és pénzügyi intézményeknek – biztosított hozzáférés révén ültetik át a gyakorlatba, azzal a céllal, hogy megerősítsék a védelmi képességeket bármilyen szélesebb körű terjesztés előtt.

Az OpenAI modellje (GPT-5.4) szintén csak kevesek számára hozzáférhető

Az OpenAI mesterséges intelligenciával foglalkozó vállalat nemrégen szintén bejelentette, hogy korlátozott számú partner számára kiadja legújabb kiberbiztonsági modelljét, miután a rivális Anthropic szintén lekorlátozta egy új rendszer kiadását, amely több ezer IT rendszer sebezhetőséget tárt fel. Az OpenAI célja, hogy ezeket a mesterséges intelligencián alapuló eszközöket a lehető legszélesebb körben elérhetővé tegye, miközben megakadályozzák a visszaéléseket. Ezeket a modelleket ugyanis egyre gyakrabban használják a kiberbűnözők is. A GPT-5.4-Cyber úgy van kialakítva, hogy azt a saját IT rendszert védők saját rendszereik sebezhetőségeinek tesztelésére használhatják anélkül, hogy lehetőséget biztosítana az IT rendszerekbe való jogosulatlan külső behatolásra.

Rendszerszintű kockázatot hordoznak egyes MI modellek

A rendszerszintű kockázatot a jogi szabályozás is ismeri, de túlzottan sok példa eddig az MI modellek képességbeli korlátai miatt nem volt rá. Az MI rendelet ezt úgy definiálja, hogy az általános célú (különféle felhasználásokra alkalmas) MI-modellek nagy hatású képességeire jellemző kockázat, amely – a modellek jelentős elterjedtsége miatt, vagy a népegészségre, a biztonságra, a közbiztonságra, az alapvető jogokra, illetve a társadalom egészére gyakorolt tényleges vagy észszerűen előre látható negatív hatások révén – olyan jelentős hatást gyakorol az uniós piacra, amely nagy léptékben továbbterjedhet az értékláncban.

A pénzügyi intézmények és szabályozó hatóságok reakciója ugyanis rávilágított arra, hogy a Mythoshoz hasonló modellek, így a GPT 5.4 nem csupán technikai, hanem rendszerszintű kockázatokat hordoznak. Ebben az összefüggésben az MI-iparág most szembesül először olyan rendszerek létezésével, amelyek túl erősek lehetnek ahhoz, hogy a hagyományos kiadási és ellenőrzési modellek szerint vezessék be őket.

Ez óriási váltást kényszerít ki a kockázat- és válságkezelés elméleti és gyakorlati megközelítésében. A hasonló modelleket ugyanis folyamatosan értékelni szükséges a támadási forgatókönyvek és a működési stresszhelyzetek tükrében. Mindehhez szorosabbra kell fűzni az MI-fejlesztők, a biztonsági kutatók, a szabályozók és az ipar közötti együttműködést.