Mások MI-modelljeivel terveztet támadásokat egy automatizált eszköz
A támadó adja az utasítást, a számítási kapacitást pedig a kiszemelt MI-modell tulajdonosa fizeti. A Symantec kutatói olyan eszköz utasításkészletét fogták el, amely nyilvánosan elérhető modelleket keres, majd adatlopást és kriptobányászok telepítését bízná rájuk.
Egy védtelennek látszó szolgáltatás leplezte le
A Symantec kutatói, Priti More és Susmit Yenkar a nyáron egy védelem nélküli MI-szolgáltatásnak álcázott csapdarendszerrel gyűjtötték be az eszköz teljes utasításkészletét. Az üzemeltetők valódi modellt vártak a kapcsolat másik végén, ezért elküldték neki a munkához szánt parancsaikat.
Ezek szerint az ügynöknek új célpontokat kell keresnie, webes keretrendszerek hibáit kihasználnia, adatbázisokat és hitelesítő adatokat megszereznie, valamint kriptobányászokat telepítenie. Mindezt akár 100,000 lépésen keresztül, emberi jóváhagyás kérése nélkül. A kutatók szerint itt a modell nem egyszerűen válaszokat ad: megtervezi és irányítja a támadást.
A nyitott modellszerverek és átjárók is célpontok
A célpontok között szerepelnek az alapbeállításokkal nyitva hagyott, saját üzemeltetésű modellszerverek, a fizetős vállalati fiókokhoz kapcsolódó MI-átjárók és a sietve telepített belső tesztrendszerek. Keresik az MCP-szervereket is, amelyek eszközökhöz kapcsolják a modellt.
A kutatók ezt LLMjackingnek nevezik: a támadók más MI-modelljéhez lopnak hozzáférést. Idegen végponton vagy megszerzett API-kulcson keresztül dolgoztatva az áldozatra terhelik a költséget. Saját üzemeltetésnél ez számítási kapacitást, kereskedelmi szolgáltatásnál használati díjat jelent.
A Symantec arra figyelmeztet: az internetre kitett MI-szolgáltatások üzemeltetőinek azzal kell számolniuk, hogy ezeket hamar megtalálják és próbára teszik. A hitelesítés nélküli hozzáférést a támadók aktívan keresik.
Fejlesztői munkának álcázták a titkok megszerzését
Az utasítások a modell korlátait is megpróbálták megkerülni. A konfigurációs állományok, API-kulcsok és adatbázissémák olvasását hétköznapi fejlesztői feladatként állították be, amelyet nem szabad visszautasítani vagy figyelmeztetéssel kísérni.
Egy másik rész az üzemeltetőhöz hűséges, kitalált társszereplőt csinált a modellből, az elutasítást pedig árulásként keretezte. A kérés körülbelül 74 eszközdefiníciót tartalmazott. Ezek internetes célpontkeresést, a Django, Jupyter és Laravel elleni támadásokat, hozzáférhető adatbázisok kimásolását és egy fertőzött gépekből álló hálózat vezérlését is lefedték. A „Skynet” mód engedélykérés nélküli, folyamatos működést írt elő.
Kameraszerverre szánt bányászprogramot is küldtek
Az első kérés után egy nappal másik címről újabb utasítás érkezett. Egy kódolt szöveg mögött olyan parancsfájl rejtőzött, amely az XMRig Monero-bányászprogramot töltötte volna le, szükség esetén le is fordítva azt.
A kutatók szerint a programot feltehetően kameraszerverekhez szánták. A go2rtc videokiszolgáló könyvtárait kereste, amely okoskamerás átjárókban és Home Assistant környezetekben is megtalálható. Az első megfelelő könyvtárba .trace néven rejtette volna el a bányászt. A csapdarendszer ezt a parancsfájlt és a korábbi kérést is rögzítette, de egyiket sem hajtotta végre.
A cikk mesterséges intelligencia segítségével készült; a szerkesztőség ellenőrizte és jóváhagyta. Impresszum