Manus brengt de dageraad van AGI en AI-beveiliging is opnieuw veranderd

Manus behaalde een SOTA-score (State-of-the-Art) in de GAIA-benchmark, wat aantoont dat zijn prestaties die van de grootschalige modellen van Open AI van hetzelfde niveau overtreffen. Met andere woorden, het kan zelfstandig complexe taken uitvoeren, zoals grensoverschrijdende zakelijke onderhandelingen, waarbij contractvoorwaarden worden opgesplitst, strategieën worden voorspeld, oplossingen worden gegenereerd en zelfs juridische en financiële teams worden gecoördineerd. Vergeleken met traditionele systemen heeft Manus de voordelen van dynamische objectdemontage, cross-modaal redeneren en geheugenverbeterd leren. Het kan grote taken opsplitsen in honderden uitvoerbare subtaken, meerdere soorten gegevens tegelijkertijd verwerken en reinforcement learning gebruiken om de besluitvormingsefficiëntie voortdurend te verbeteren en het foutenpercentage te verminderen.

Manus verbaast zich niet alleen over de snelle ontwikkeling van technologie, maar heeft ook opnieuw onenigheid aangewakkerd in de kring over het pad van de AI-evolutie: zal AGI in de toekomst de wereld domineren, of zal MAS synergetisch dominant zijn?

Dit begint met de ontwerpfilosofie van Manus, die twee mogelijkheden impliceert:

Een daarvan is het AGI-pad. Door het niveau van individuele intelligentie voortdurend te verbeteren, komt het dicht bij het uitgebreide besluitvormingsvermogen van de mens.

Er is ook het MAS-pad. Geef als supercoördinator het bevel aan duizenden verticale agenten om samen te werken.

Op het eerste gezicht bespreken we verschillende paden, maar in feite hebben we het over de onderliggende tegenstrijdigheid van AI-ontwikkeling: hoe moeten efficiëntie en veiligheid in evenwicht worden gebracht? Hoe dichter de monolithische intelligentie bij AGI ligt, hoe groter het risico op black-box besluitvorming. Hoewel samenwerking tussen meerdere agenten risico's kan diversifiëren, kan het belangrijke besluitvormingsvensters missen als gevolg van vertragingen in de communicatie.

De evolutie van Manus heeft de inherente risico's van de ontwikkeling van AI onzichtbaar uitvergroot. Bijvoorbeeld zwarte gaten in de privacy van gegevens: in medische scenario's heeft Manus realtime toegang nodig tot genomische gegevens van patiënten; Tijdens financiële onderhandelingen kan het de geheime financiële informatie van het bedrijf raken; Bijvoorbeeld de algoritmische bias-val, waarbij Manus bij wervingsonderhandelingen onder het gemiddelde salarisaanbevelingen doet aan kandidaten van een bepaalde etniciteit; Bijna de helft van de voorwaarden van opkomende industrieën wordt verkeerd beoordeeld wanneer juridische contracten worden herzien. Een ander voorbeeld is de kwetsbaarheid voor vijandige aanvallen, waarbij de hacker een specifieke spraakfrequentie heeft geïmplanteerd om Manus het aanbodbereik van de tegenstander tijdens de onderhandelingen verkeerd te laten inschatten.

We hebben te maken met een vreselijk pijnpunt voor AI-systemen: hoe slimmer het systeem, hoe groter het aanvalsoppervlak.

Beveiliging is echter een woord dat constant wordt genoemd in web3, en een verscheidenheid aan coderingsmethoden is afgeleid van het raamwerk van de onmogelijke driehoek van V God (blockchain-netwerken kunnen niet tegelijkertijd beveiliging, decentralisatie en schaalbaarheid bereiken):

1. Zero Trust-beveiligingsmodel: Het kernidee van het Zero Trust-beveiligingsmodel is "vertrouw niemand, verifieer altijd", wat betekent dat apparaten standaard niet mogen worden vertrouwd, ongeacht of ze zich op een intern netwerk bevinden of niet. Dit model legt de nadruk op strikte authenticatie en autorisatie voor elk toegangsverzoek om de systeembeveiliging te garanderen.

2. Gedecentraliseerde identiteit (DID): DID is een reeks identificatiestandaarden waarmee entiteiten op een verifieerbare en persistente manier kunnen worden geïdentificeerd zonder dat er een gecentraliseerd register nodig is. Dit maakt een nieuw model van gedecentraliseerde digitale identiteit mogelijk, vaak vergeleken met zelfsoevereine identiteit, en is een belangrijk onderdeel van Web3.

3. Fully Homomorphic Encryption (FHE): is een geavanceerde coderingstechnologie waarmee willekeurige berekeningen kunnen worden uitgevoerd op versleutelde gegevens zonder deze te ontcijferen. Dit betekent dat een derde partij bewerkingen kan uitvoeren op de gecodeerde tekst, en het resultaat dat wordt verkregen na decodering is hetzelfde als het resultaat van dezelfde bewerking op de platte tekst. Deze functie is belangrijk voor scenario's die berekening vereisen zonder onbewerkte gegevens beschikbaar te stellen, zoals cloud computing en gegevensuitbesteding.

Het zero trust-beveiligingsmodel en DID hebben een bepaald aantal projecten in meerdere rondes van bullmarkten, en ze zijn geslaagd of verdronken in de golf van encryptie, en als de jongste coderingsmethode: Fully Homomorphic Encryption (FHE) is ook een grote moordenaar om de beveiligingsproblemen in het AI-tijdperk op te lossen. Volledig homomorfe versleuteling (FHE) is een technologie waarmee berekeningen kunnen worden uitgevoerd op versleutelde gegevens.

Hoe repareer je het?

Ten eerste het dataniveau. Alle informatie die door de gebruiker wordt ingevoerd (inclusief biometrie, stemtoon) wordt in een versleutelde staat verwerkt en zelfs Manus zelf kan de originele gegevens niet ontcijferen. In het geval van een medische diagnose worden bijvoorbeeld de genomische gegevens van de patiënt gedurende het hele proces in cijfertekst geanalyseerd om het lekken van biologische informatie te voorkomen.

Algoritmisch niveau. De "cryptografische modeltraining" die FHE realiseert, maakt het voor ontwikkelaars onmogelijk om een kijkje te nemen in het besluitvormingspad van AI.

Op het niveau van synergie. Drempelversleuteling wordt gebruikt voor communicatie met meerdere agenten, en een enkel knooppunt zal niet worden geschonden zonder wereldwijde gegevenslekken te veroorzaken. Zelfs bij aanvallen op de toeleveringsketen en verdedigingsoefeningen kunnen aanvallers geen volledig beeld van het bedrijf krijgen nadat ze in meerdere agenten zijn geïnfiltreerd.

Vanwege technische beperkingen is web3-beveiliging misschien niet direct gerelateerd aan de meeste gebruikers, maar het is onlosmakelijk verbonden met indirecte interesses, en in dit donkere bos, als je niet je best doet om je te bewapenen, zul je nooit ontsnappen aan de identiteit van "prei".

uPort werd in 2017 gelanceerd op het Ethereum-mainnet en was waarschijnlijk het eerste gedecentraliseerde identiteitsproject (DID) dat op het mainnet werd uitgebracht.
Op het gebied van zero trust-beveiligingsmodel heeft NKN in 2019 zijn mainnet uitgebracht.
Mind Network is het eerste FHE-project dat op het mainnet is gelanceerd en heeft het voortouw genomen in de samenwerking met ZAMA, Google, DeepSeek, enz.

uPort en NKN zijn al projecten waar ik nog nooit van heb gehoord, en het lijkt erop dat beveiligingsprojecten echt niet betrokken zijn bij speculanten, dus laten we afwachten of Mind Network aan deze vloek kan ontsnappen en een leider kan worden op het gebied van beveiliging.

De toekomst is hier. Hoe dichter AI bij menselijke intelligentie staat, hoe meer het niet-menselijke afweersystemen nodig heeft. De waarde van netwerkinformatiebeveiliging is niet alleen om huidige problemen op te lossen, maar ook om de weg vrij te maken voor het tijdperk van sterke AI. Op deze steile weg naar AGI is cybersecurity geen optie, maar een noodzaak om te overleven.