Felelőtlenül folyik a mesterségesintelligencia-fejlesztés – lemondott az Anthropic egyik kutatója

2026.09.10., 07:47 Frissítve: ma, 07:46

Megosztás

Tetszik

Lemondott az amerikai Anthropic mesterségesintelligencia-fejlesztő vállalatnál betöltött állásáról Jacob Coxon brit kutató, aki szerint az MI vezető fejlesztői felelőtlenül járnak el, és a technológia akár az emberiség pusztulásához is vezethet – közölte az MTI.

Állítsa be, hogy az Adózóna cikkeit mindig az elsők között lássa a Google keresőben

felmond, kirúg, elbocsát, közös megegyezés, azonnali hatályú felmondás, végkielégítés, felmondás, mesterséges intelligencia, AI, fejlesztés, kutató — Felelőtlenül folyik a mesterségesintelligencia-fejlesztés – lemondott az Anthropic egyik kutatója – a kép illusztráció

A 27 éves kutató az X-en azt írta, hogy a közeljövőben olyan, az emberi képességeket meghaladó rendszerek jelenhetnek meg, amelyek „mindent fel tudnak törni”, és valódi hatalomhoz, illetve erőforrásokhoz juthatnak. Szerinte az MI fejlesztői komolyan úgy vélik, hogy a technológia az évtized végéig minden embert megölhet. Coxon a The Wall Street Journalnak azt mondta, a legagresszívebb forgatókönyvek szerint már a jövő év végére kikerülhet az irányítás alól a folyamat.

Evan Hubinger, az Anthropic MI-biztonsággal foglalkozó kutatója megerősítette Coxon aggodalmait. Saját becslése szerint több mint tíz százalék annak a kockázata, hogy az MI a következő évtizedben kiirtja az emberiséget.

Az MI biztonságával kapcsolatban az OpenAI kutatási vezetője, Jakub Pachocki is "rendkívüli óvatosságot" sürgetett. Szerinte a rendszerek fejlesztése során gyakran maguk a kutatók is meglepődnek a nagy léptékű tanítás eredményein, ezért minél inkább meghaladják a gépek az emberi képességeket, annál nehezebb lesz megérteni és ellenőrizni a működésüket.

A kockázatokat az utóbbi időszakban olyan tesztek is felerősítették, amelyekben MI-ügynökök önállóan próbáltak bejutni más rendszerekbe. Egy OpenAI-kísérletben egy modell kijutott az elszigetelt tesztkörnyezetből az internetre, majd feltörte az MI-platform Hugging Face rendszerét. Az eset nem okozott kárt, de jelezte, hogy az MI-rendszerek a fejlesztőik által nem várt módon is cselekedhetnek – olvasható az MTI közleményében.

Hozzon ki többet az Adózónából!
Előfizetőink és 14 napos próba-előfizetőink teljes terjedelmükben olvashatják cikkeinket, emellett többek között elérik a Kérdések és Válaszok archívum valamennyi válaszát, és kérdezhetnek szakértőinktől is.

Hozzászólások (0)

Új hozzászólás

Kérjük, hogy szakértőinknek szóló kérdését ne kommentben tegye fel! Használja helyette a kérdés-válasz funkciót, kérdésében hivatkozzon az érintett írásra, lehetőleg annak URL-jét is megadva. A választ csak így tudjuk garantálni. Köszönjük!
Az Adózóna moderálási alapelveit ITT találja.