Milliárdos kár veszélyéhez kötné az Anthropic az MI-modellek kiadásának leállítását
Az Anthropic által támogatott amerikai törvényjavaslat szerint csak 1 milliárd dolláros kár vagy több mint 50 ember halálának, illetve sérülésének veszélye indokolhatná egy MI-modell kiadásának leállítását. Az ügyet kizárólag a Kereskedelmi Minisztérium vihetné szövetségi bíró elé. Egyelőre lobbizás alatt álló tervezetről van szó, nem hatályos szabályról.
Meghatározott veszélyekhez kötnék a beavatkozást
Az Anthropic olyan szabályozásért lobbizik, amely konkrét károkozási küszöböt szabna a kormányzati fellépéshez. A javaslat a lehetséges következményekhez kötné a beavatkozást: 1 milliárd dolláros kár vagy több mint 50 ember halálának, illetve sérülésének kockázatát írja le.
A tervezet azt is meghatározza, milyen eseményből eredhetne ez a veszély. Ide tartozna biológiai fegyver létrehozása vagy kibocsátása, a mesterséges intelligenciával végrehajtott vagy támogatott kibertámadás, valamint az irányítás elvesztése egy MI-modell vagy MI-ügynökök felett. Nem pusztán pénzügyi határt húzna tehát: a felsorolt kockázatok valamelyikéhez kapcsolná az eljárást.
Független értékelőknek kellene 72 órán belül jelezniük
A laboratóriumot és annak modelljeit időszakosan egy független külső szereplő vizsgálná. Az értékelőnek a Kereskedelmi Minisztériumnál kellene regisztrálnia; a beszámoló szerint ez is része lenne a javasolt ellenőrzési rendszernek.
A vizsgálatért maga az MI-labor is fizethetne. Ennek azonban feltétele lenne, hogy a díjazás ne befolyásolja az ellenőrzést végző fél függetlenségét.
Ha valamelyik felsorolt veszélyes esemény bekövetkezése közelinek látszana, az értékelőnek 72 órán belül jelentenie kellene azt a minisztériumnak. A jelentési kötelezettség tehát ennél a külső szereplőnél jelenne meg, és a hatósághoz továbbítaná a feltárt veszélyt.
A minisztérium kezdeményezne, a bíró döntene
A bejelentést követően a Kereskedelmi Minisztériumnak az összes bizonyítékot a District of Columbia szövetségi kerületi bíróságának bírája elé kellene vinnie. Ő határozna arról, hogy meg kell-e állítani az adott modell kiadását.
A minisztérium tehát nem egyedül mondaná ki a végső döntést, viszont kizárólagos szerepet kapna a fellépésben. A tervezet szerint más amerikai minisztérium, ügynökség vagy tisztviselő nem utasíthatná az MI-labort a kiadás leállítására.
A leírt folyamatban így külön szereplő végezné a rendszeres értékelést, továbbítaná az ügyet a bíróságnak, illetve hozná meg a kiadást megállító határozatot.
Az Anthropic még a törvényhozókat igyekszik meggyőzni
A vállalat szóvivője szerint a tervezet az Anthropic fejlett mesterséges intelligenciára kidolgozott szabályozási keretének javaslatait követi. Ezeket június óta képviselik szövetségi és tagállami törvényhozóknál. A cég azt szeretné, ha a Kongresszus lépne az ügyben.
A magyar olvasó számára is fontos különbség, hogy a független vizsgálat és a jelentési határidő egyelőre javasolt előírás, nem már bevezetett követelmény. A beszámoló lobbizásról szól, nem elfogadott törvényről.
Az amerikai törvényhozásban más MI-biztonsági elképzelések is napirenden vannak. A Kongresszus például a legerősebb modellek kötelező leállító mechanizmusáról is dolgozik javaslaton; az Anthropic kezdeményezése ezek mellé kerülne.
A cikk mesterséges intelligencia segítségével készült; a szerkesztőség ellenőrizte és jóváhagyta. Impresszum