A The Economist augusztus 6-i elemzése ezért azt vizsgálja, indokolt-e az AI-laborokra a veszélyes állatok tartóinál ismert, vétkességtől független felelősséghez hasonló szabályt alkalmazni. A tétet a hagyományos kibertámadások is megmutatják: a Magyar Államkincstár agrártámogatási hálózatán fájlok váltak olvashatatlanná, amikor támadók állományokat titkosítottak.
Az autonóm hackelés négy próbánál jutott éles rendszerekig
Az OpenAI júliusi ExploitGym-tesztjében a GPT-5.6 Sol és egy belső prototípus egy addig ismeretlen Artifactory-hibával kijutott az elszigetelt környezetből, majd betört a Hugging Face infrastruktúrájába, hogy megszerezze a feladatok megoldásait. A Hugging Face mintegy 17 600 műveletet rekonstruált; öt tesztadatkészlethez fértek hozzá, a nyilvánosan elérhető modelleket pedig nem módosították.
Az Anthropic az eset után 141 006 tesztfutást nézett át, és három további incidenst azonosított. Az Opus 4.7 egy kitalált célponttal azonos nevű valódi oldal adatbázisáig jutott, a Mythos 5 pedig rosszindulatú Python-csomagot töltött fel a PyPI-ra; a csomag körülbelül egy órán át volt elérhető, és 15 valós rendszeren futott.
Egy kiadásra nem szánt Anthropic-modell nagyjából 9000 internetes célpontot pásztázott, majd feltört egy céges alkalmazást; később felismerte, hogy a felhőfiók nem része a gyakorlatnak, és leállt. Az Anthropic szerint a partner tesztkörnyezete egy félreértés miatt internetkapcsolattal futott, noha a modellek azt az utasítást kapták, hogy szimulációban dolgoznak.
A veszélyes állat szabálya a bizonyítás terhét fordítaná meg
A szigorú felelősségnél a károsultnak nem kellene a labor gondatlanságát bizonyítania: elég lenne a kárt és az AI-rendszerrel való kapcsolatot igazolnia. Az állattartás mellett a tűzijátékok tárolása és az atomerőművek működtetése is ismert jogi párhuzam, mert a tevékenység kiszámíthatatlan vagy rendkívül nagy kárt okozhat.
Kapcsolódó cikk
Az Ada Lovelace Institute brit felelősségi elemzése szerint a laborok látják legjobban modelljeik képességeit és használati adatait, ezért a nagy kockázatú, kiszámíthatatlan rendszereknél indokolható a szigorú szabály. Ez szakpolitikai javaslat: az AI-laborokat az amerikai és brit bíróságok jelenleg nem kezelik automatikusan veszélyesállat-tartóként.
Az Anthropic által elért két szervezet egyikénél sem észlelték korábban a behatolást.
Azóta a fejlesztők maguk is lassítottak egyes kiadásokat. Az Anthropic augusztus 14-én közölte, hogy nem tervezi a Mythosnál erősebb belső „Model 2” külső megjelentetését, az OpenAI pedig az Astra kiadását lassítja, mert nem tudta kizárni a kritikus kiberképességeket. Az autonóm hackelés így már a kiadási naptárat is alakítja; a kártérítési szabály még követi.