Az Anthropic bíróval állíttatná meg a veszélyes MI-modellek kiadását
Akár egy MI-modell kiadását is megakadályozhatná az amerikai kormány az Anthropic által támogatott törvénytervezet alapján, a Politico beszámolója szerint. A javaslat 1 milliárd dollárnyi kár, illetve több mint 50 ember halálának vagy sérülésének kockázatához kötné a beavatkozást. Ez még nem hatályos szabály: az elképzelések a döntéshozók elé kerülnek.
A kockázatot vizsgálnák, nem a bekövetkezett kárt
Az Anthropic olyan törvénytervezetért lobbizik, amely meghatározott veszélyek esetén lehetőséget adna egy mesterségesintelligencia-modell megjelenésének megállítására. A beszámolóban szereplő küszöbök a lehetséges következményekre vonatkoznak: a beavatkozás feltétele a károkozás kockázata lenne.
A szöveg többféle fenyegetést nevesít. Ide tartozna a biológiai fegyverek létrehozása, valamint a mesterséges intelligencia által vezérelt vagy támogatott kibertámadás. Azt az esetet is vizsgálnák, amikor egy fejlesztőlabor elveszíti az irányítást a modelljei vagy az ágensei felett.
Ezeket az eseményeket a tervezet a lehetséges veszélyek között sorolja fel, nem már bekövetkezett incidensekként írja le.
Külső értékelők ellenőriznék a fejlesztőket
A felügyeletet az amerikai Kereskedelmi Minisztériumnál jegyzett, független külső fél végezné. Rendszeresen értékelné a fejlesztőlabort és annak MI-modelljeit is; a vizsgálat tehát mindkettőre kiterjedne.
Az ellenőrzést végzők díjazását maga a labor is fizethetné. Ehhez azonban feltételt szab a javaslat: a fizetés nem veszélyeztethetné a vizsgálatok függetlenségét. A tervezet így kifejezetten megengedné ezt a finanszírozási formát, de csak a fenti kikötéssel.
72 órás jelzés után bíró döntene a kiadásról
Ha az értékelő szerint fennállna valamelyik felsorolt esemény bekövetkezésének esélye, 72 órán belül értesítenie kellene az illetékes minisztériumot. Ez a bejelentési kötelezettség az ellenőrzést végző felet terhelné.
A folyamat következő lépésében a minisztériumnak a rendelkezésére álló bizonyítékokat a Columbia Kerületi Bíróság egyik szövetségi bírája elé kellene tárnia. Ő döntene arról, hogy meg kell-e akadályozni az adott modell kiadását.
A leírt eljárásban tehát külön szerepet kapna a veszélyt jelző értékelő, a bizonyítékokat benyújtó minisztérium és a döntést meghozó bíró.
A Kongresszus elé még csak javaslat kerül
Az Anthropic szóvivője a beszámoló szerint úgy fogalmazott: a szakemberek olyan elképzeléseket javasoltak a törvénytervezethez, amelyeket a vállalat már korábban felvázolt. A cég ezeket észszerű szabályozási megoldásoknak tartja, amelyekkel szerinte a Kongresszusnak foglalkoznia kellene.
Az amerikai kongresszusi képviselők emellett már dolgoznak egy olyan javaslaton is, amely vészhelyzeti leállító „gomb” beépítésére kötelezné a fejlesztőcégeket a modelljeikben.
A magyar olvasó számára fontos különbség, hogy a most ismertetett feltételek egy amerikai törvénytervezet részei, nem hatályos előírások. Az Anthropic elképzelései javaslatként jutnak el a döntéshozókhoz; egyelőre kérdéses, mekkora részük kerülhet be a készülő törvénybe.
A cikk mesterséges intelligencia segítségével készült; a szerkesztőség ellenőrizte és jóváhagyta. Impresszum