Az Anthropic megvette az Opaque Systems céget, amely befejezi működését
Az Anthropic korábban ügyfele volt az Opaque Systemsnek, most pedig felvásárolta az érzékeny adatok MI-felhasználását védő vállalkozást. Az Opaque csapata a vevőnél folytatja munkáját, miközben az önálló cég fokozatosan befejezi működését.
A csapat átkerül, az ügyfelek helyzete még tisztázatlan
Az Opaque a múlt héten jelentette be a megállapodást. Honlapján arról tájékoztat, hogy munkatársai az Anthropic kötelékében viszik tovább az eddigi munkát, a vállalkozás pedig lezárja tevékenységét.
A szolgáltatást használók számára a folytatás a legfontosabb nyitott kérdés: a forrás nem részletezi, milyen következményekkel jár számukra a leállás. Az Opaque az Anthropic mellett a ServiceNow és az Accenture nevét is feltüntette ügyfelei között.
Hardverrel védték az MI-ben felhasznált érzékeny adatokat
Az Opaque olyan technológiát fejlesztett, amellyel érzékeny adatokat lehetett mesterséges intelligenciát használó rendszerekben feldolgozni, miközben a védelmüket a mögöttes hardver biztosította. A bizalmas számításokkal kapcsolatos kutatásaiból éles MI-rendszerekben alkalmazott megoldás lett.
Később az adatok és a modellek védelmén túlra is kiterjesztették a fejlesztést. A cég magyarázata szerint a szervezeteknek arra is szükségük volt, hogy függetlenül ellenőrizhessék az MI-rendszerek és az MI-ügynökök viselkedését. Ezt nevezték az ellenőrizhető MI felé tett továbblépésnek.
Kriptográfiai bizonyítékot kerestek a puszta bizalom helyett
Az Opaque megfogalmazása szerint a bizalomra épülő feltételezéseket kriptográfiai bizonyítékokkal akarták felváltani. Ezekkel azt lehetett igazolni, hogy mi futott, hol futott, és milyen szabályok vonatkoztak rá.
A vállalkozás a tágabb szakmai közösséggel együtt nyílt projekteken is dolgozott, amelyek az MI-ügynökök és modellek biztonságával, illetve megbízhatóságával foglalkoztak. Ezek közé tartozott az Agent Governance Toolkit, a TRACE, a Confidential MCP és a Weight Custody Manifest.
Egyetemi kutatásból jutottak el a felvásárlásig
A történet egy évtizede, a UC Berkeley RISELab kutatási projektjeként indult. Az alapítók között van Ion Stoica, a Databricks és az Anyscale társalapítója, valamint Raluca Ada Popa. A titkosítással és rendszerbiztonsággal foglalkozó kutató ma a Google DeepMind munkatársa. Aaron Fulkerson 2023 októberében csatlakozott vezérigazgatóként.
Az Opaque idén 24 millió dollárt vont be a második intézményi befektetési körében, 300 millió dolláros cégértékelés mellett.
A cikk mesterséges intelligencia segítségével készült; a szerkesztőség ellenőrizte és jóváhagyta. Impresszum