Manus přináší úsvit AGI a zabezpečení umělé inteligence se opět změnilo

Společnost Manus dosáhla skóre SOTA (State-of-the-Art) v benchmarku GAIA, což ukazuje, že její výkonnost převyšuje výkonnost rozsáhlých modelů Open AI na stejné úrovni. Jinými slovy, může samostatně plnit složité úkoly, jako jsou přeshraniční obchodní jednání, která zahrnují rozbor smluvních podmínek, předvídání strategií, generování řešení a dokonce i koordinaci právních a finančních týmů. Ve srovnání s tradičními systémy má Manus výhody dynamického rozebírání objektů, cross-modálního uvažování a učení s rozšířenou pamětí. Dokáže rozdělit velké úlohy na stovky spustitelných podúkolů, zpracovávat více typů dat současně a pomocí zpětnovazebního učení neustále zlepšovat efektivitu rozhodování a snižovat chybovost.

Kromě obdivu nad rychlým rozvojem technologií Manus opět vyvolal neshody v kruhu ohledně cesty evoluce AI: bude AGI v budoucnu dominovat světu, nebo bude MAS synergicky dominantní?

Začíná to filozofií designu společnosti Manus, která zahrnuje dvě možnosti:

Jednou z nich je cesta AGI. Neustálým zlepšováním úrovně individuální inteligence se blíží komplexní rozhodovací schopnosti lidských bytostí.

Existuje také cesta MAS. Jako superkoordinátor velte tisícům vertikálních agentů, aby spolupracovali.

Na první pohled diskutujeme o různých cestách, ale ve skutečnosti diskutujeme o skrytém rozporu vývoje umělé inteligence: jak by měla být efektivita a bezpečnost v rovnováze? Čím blíže je monolitická inteligence k AGI, tím vyšší je riziko rozhodování černé skříňky. Přestože multiagentní spolupráce může diverzifikovat rizika, může kvůli zpoždění komunikace promeškat klíčová rozhodovací okna.

Vývoj společnosti Manus neviditelně zvětšil rizika spojená s vývojem umělé inteligence. Například černé díry v oblasti ochrany osobních údajů: v lékařských scénářích potřebuje Manus přístup k genomickým datům pacientů v reálném čase; Během finančních jednání se může dotknout nezveřejněných finančních informací společnosti; Například past algoritmické předpojatosti, v níž Manus při vyjednávání o náboru dává podprůměrná platová doporučení kandidátům určitého etnika; Téměř polovina podmínek nově vznikajících odvětví je při revizi právních smluv špatně posouzena. Dalším příkladem je zranitelnost nepřátelského útoku, kdy hacker implantoval specifickou hlasovou frekvenci, aby Manus během vyjednávání špatně odhadl rozsah nabídky soupeře.

Musíme čelit strašlivému bolestivému bodu pro systémy umělé inteligence: čím chytřejší systém, tím širší je útočná plocha.

Bezpečnost je však slovo, které je ve web3 neustále zmiňováno, a z rámce nemožného trojúhelníku V God (blockchainové sítě nemohou dosáhnout bezpečnosti, decentralizace a škálovatelnosti zároveň) byly odvozeny různé metody šifrování:

1. Model zabezpečení s nulovou důvěrou: Základní myšlenkou bezpečnostního modelu Zero Trust je "nevěřte nikomu, vždy ověřujte", což znamená, že zařízením by se ve výchozím nastavení nemělo důvěřovat bez ohledu na to, zda jsou v interní síti nebo ne. Tento model klade důraz na přísnou autentizaci a autorizaci pro každou žádost o přístup, aby byla zajištěna bezpečnost systému.

2. Decentralizovaná identita (DID): DID je sada standardů identifikátorů, které umožňují ověřitelnou a trvalou identifikaci entit bez potřeby centralizovaného registru. To umožňuje nový model decentralizované digitální identity, často přirovnávaný k suverénní identitě, a je důležitou součástí Web3.

3. Plně homomorfní šifrování (FHE): je pokročilá šifrovací technologie, která umožňuje provádět libovolné výpočty na zašifrovaných datech bez jejich dešifrování. To znamená, že třetí strana může provádět operace se zašifrovaným textem a výsledek získaný po dešifrování je stejný jako výsledek stejné operace s otevřeným textem. Tato funkce je důležitá pro scénáře, které vyžadují výpočty bez zveřejnění nezpracovaných dat, jako je cloud computing a outsourcing dat.

Bezpečnostní model nulové důvěry a DID mají určitý počet projektů v několika kolech býčích trhů a buď uspěly, nebo se utopily ve vlně šifrování a jako nejmladší metoda šifrování: Plně homomorfní šifrování (FHE) je také velkým zabijákem při řešení bezpečnostních problémů v éře umělé inteligence. Plně homomorfní šifrování (FHE) je technologie, která umožňuje provádět výpočty na šifrovaných datech.

Jak to opravit?

Za prvé, úroveň dat. Všechny informace zadané uživatelem (včetně biometrických údajů, hlasového tónu) jsou zpracovávány v zašifrovaném stavu a dokonce ani samotný Manus nemůže dešifrovat původní data. Například v případě lékařské diagnózy jsou genomická data pacienta analyzována v šifrovaném textu v průběhu celého procesu, aby se zabránilo úniku biologických informací.

Algoritmická úroveň. "Školení kryptografického modelu" realizované FHE znemožňuje vývojářům nahlédnout do rozhodovací cesty AI.

Na úrovni synergie. Prahové šifrování se používá pro komunikaci více agentů a jeden uzel nebude narušen, aniž by došlo ke globálnímu úniku dat. Ani při útocích na dodavatelský řetězec a obranných cvičeních nemohou útočníci získat úplný přehled o podniku poté, co infiltrují více agentů.

Vzhledem k technickým omezením nemusí zabezpečení web3 přímo souviset s většinou uživatelů, ale je neoddělitelně spojeno s nepřímými zájmy a v tomto temném lese, pokud se nepokusíte vyzbrojit, nikdy neuniknete identitě "pórku".

uPort byl spuštěn na mainnetu Ethereum v roce 2017 a byl pravděpodobně prvním projektem decentralizované identity (DID), který byl vydán na mainnetu.
Pokud jde o model zabezpečení s nulovou důvěrou, NKN vydal svou mainnet v roce 2019.
Mind Network je prvním projektem FHE, který byl spuštěn na mainnetu a ujal se vedení ve spolupráci se ZAMA, Google, DeepSeek atd.

uPort a NKN jsou již projekty, o kterých jsem nikdy neslyšel, a zdá se, že bezpečnostních projektů se spekulanti opravdu netýkají, takže počkejme a uvidíme, zda se síti Mind podaří uniknout tomuto prokletí a stát se lídrem v oblasti bezpečnosti.

Budoucnost je tady. Čím blíže je umělá inteligence k lidské inteligenci, tím více potřebuje nelidské obranné systémy. Hodnota síťové informační bezpečnosti spočívá nejen v řešení aktuálních problémů, ale také v tom, že otevírá cestu pro éru silné AI. Na této strmé cestě k AGI není kybernetická bezpečnost možností, ale nutností pro přežití.