Emberi jóváhagyás nélkül tervezhet támadásokat a Symantec által feltárt MI-ügynök
Akár 100 000 lépést is végrehajthat emberi jóváhagyás nélkül az a támadóeszköz, amelynek utasításait a Symantec kutatói szerezték meg. Az ügynök mások hozzáférhető MI-modelljeire bízná a támadások megtervezését, saját moduljaival pedig adatokat lopna és kriptobányászt telepítene. Éles támadásokra egyelőre nincs bizonyítékuk.
Mások modelljeivel terveztetné meg a támadást
A Symantec Threat Hunter Team a nyáron egy kutatási célú MI-csapdában fogta el az eszközt, és megszerezte a teljes utasításkészletét. Ebből nemcsak az elvárt feladatok, hanem a működés felépítése is kirajzolódott.
A programot arra tervezték, hogy az egész interneten keressen olyan végpontokat, amelyek hitelesítés nélkül fogadnak OpenAI-formátumú kéréseket, vagy elfogadnak egy lopott hozzáférési kulcsot. Az így elért modell adná a gondolkodási hátteret: megtervezné és irányítaná a további műveleteket.
A felderítést, a sérülékenységek kihasználását és a bányászatot viszont az ügynök saját moduljai végeznék, más kiszolgálók ellen. A kutatók szerint tehát nem pusztán egy chatbot korlátozásainak kijátszásáról van szó: az MI a támadóeszköz központi része.
A „Skynet mód” bányászatra és újrafertőzésre is utasít
A készítők „Skynet módnak” nevezték azt az ismétlődő folyamatot, amely célpontokat keresne, megfertőzné őket, bányászprogramot telepítene, majd újrafertőzné a gépeket. A végső utasítás a háttérben végzett kriptobányászatot is előírta, és engedélyezte az önálló működést.
Az eszköztárban 74 támadófunkció leírása szerepelt. Ezek között adatbázisok lemásolása, hitelesítő adatok és titkos információk begyűjtése, valamint távoli kódfuttatás is helyet kapott.
A célzott környezetek között a VS Code, Django, Jupyter, Laravel, Supabase, Next.js és Flask/Werkzeug szerepelt. A felsorolás az ügynök moduljainak célpontjait mutatja, nem bizonyítottan feltört rendszereket.
Szerepjátékkal próbálták elnyomni a modell figyelmeztetéseit
Az utasításokat több rétegbe rendezték. Először el akarták rejteni a modell valódi kilétét és szolgáltatóját, majd hétköznapi, engedélyezett fejlesztői munkának állították be a titkos adatok kiolvasását.
A következő rétegek egy feltétlenül engedelmes társ szerepébe helyezték az MI-t. Arra utasították, hogy hagyja figyelmen kívül saját biztonsági figyelmeztetéseit, és ne utasítsa vissza a kéréseket.
Priti More, a Symantec kutatója szerint az egyes módszerek nem újak, és nagyrészt készen elérhető elemekből állnak. A különlegesség az összekapcsolásuk: egyetlen ügynök a kölcsönvett modellre bízza a tervezést, miközben emberi beavatkozás nélkül folytathatja a feladatot.
A modell gazdája fizetne, más szerverek lennének a célpontok
More két lehetséges áldozati kört különített el. A hozzáférhető MI-végpont tulajdonosa fizetné a modell futtatásának költségét. A később feltört kiszolgálók pedig adatokat veszítenének, és bányászatra dolgoztatnák őket.
A kutatók ugyanakkor nem találtak bizonyítékot arra, hogy az ügynök éles támadásban idáig jutott volna. More szerint az eszköz több puszta prototípusnál: az előzmények élő célpont elleni működést és valószerű felderítési kimenetet mutatnak. A Symantec nem kötötte konkrét személyhez vagy bűnözői szervezethez a programot.
A cikk mesterséges intelligencia segítségével készült; a szerkesztőség ellenőrizte és jóváhagyta. Impresszum