Manus porta l'alba dell'AGI e la sicurezza dell'IA è cambiata di nuovo

Manus ha ottenuto un punteggio SOTA (State-of-the-Art) nel benchmark GAIA, dimostrando che le sue prestazioni superano quelle dei modelli su larga scala di Open AI dello stesso livello. In altre parole, può completare autonomamente compiti complessi, come le negoziazioni commerciali transfrontaliere, che comportano la suddivisione dei termini contrattuali, la previsione di strategie, la generazione di soluzioni e persino il coordinamento dei team legali e finanziari. Rispetto ai sistemi tradizionali, Manus presenta i vantaggi dello smontaggio dinamico degli oggetti, del ragionamento intermodale e dell'apprendimento potenziato dalla memoria. Può suddividere attività di grandi dimensioni in centinaia di sottoattività eseguibili, elaborare più tipi di dati contemporaneamente e utilizzare l'apprendimento per rinforzo per migliorare continuamente l'efficienza decisionale e ridurre i tassi di errore.

Oltre a meravigliarsi del rapido sviluppo della tecnologia, Manus ha suscitato ancora una volta disaccordi nel cerchio sul percorso dell'evoluzione dell'IA: l'AGI dominerà il mondo in futuro o la MAS sarà sinergicamente dominante?

Questo inizia con la filosofia progettuale di Manus, che implica due possibilità:

Uno è il percorso AGI. Migliorando continuamente il livello di intelligenza individuale, si avvicina alla capacità decisionale globale degli esseri umani.

C'è anche il percorso MAS. In qualità di super-coordinatore, comanda migliaia di agenti verticali a lavorare insieme.

In apparenza, stiamo discutendo di percorsi diversi, ma in realtà stiamo discutendo della contraddizione di fondo dello sviluppo dell'IA: come dovrebbero essere bilanciate efficienza e sicurezza? Più l'intelligenza monolitica è vicina all'AGI, maggiore è il rischio di un processo decisionale a scatola nera. Tuttavia, sebbene la collaborazione multi-agente possa diversificare i rischi, potrebbe perdere finestre decisionali chiave a causa di ritardi nella comunicazione.

L'evoluzione di Manus ha invasibilmente amplificato i rischi intrinseci dello sviluppo dell'IA. Ad esempio, i buchi neri sulla privacy dei dati: negli scenari medici, Manus ha bisogno di accedere in tempo reale ai dati genomici dei pazienti; Durante le trattative finanziarie, può toccare le informazioni finanziarie non divulgate della società; Ad esempio, la trappola del pregiudizio algoritmico, in cui Manus fornisce raccomandazioni salariali inferiori alla media a candidati di una particolare etnia nelle trattative di assunzione; Quasi la metà dei termini dei settori emergenti viene giudicata in modo errato quando vengono esaminati i contratti legali. Un altro esempio è la vulnerabilità dell'attacco avversario, in cui l'hacker ha impiantato una frequenza vocale specifica per far sì che Manus valutasse erroneamente la gamma di offerte dell'avversario durante la negoziazione.

Dobbiamo affrontare un terribile punto dolente per i sistemi di intelligenza artificiale: più intelligente è il sistema, più ampia è la superficie di attacco.

Tuttavia, la sicurezza è una parola che è stata costantemente menzionata nel web3 e una varietà di metodi di crittografia è stata derivata dalla struttura del triangolo impossibile di V Dio (le reti blockchain non possono raggiungere sicurezza, decentralizzazione e scalabilità allo stesso tempo):

1. Modello di sicurezza Zero Trust: l'idea centrale del modello di sicurezza Zero Trust è "non fidarsi di nessuno, verificare sempre", il che significa che i dispositivi non dovrebbero essere considerati attendibili per impostazione predefinita, indipendentemente dal fatto che si trovino su una rete interna o meno. Questo modello enfatizza l'autenticazione e l'autorizzazione rigorose per ogni richiesta di accesso per garantire la sicurezza del sistema.

2. Identità decentralizzata (DID): DID è un insieme di standard di identificazione che consentono di identificare le entità in modo verificabile e persistente senza la necessità di un registro centralizzato. Ciò consente un nuovo modello di identità digitale decentralizzata, spesso paragonato all'identità auto-sovrana, ed è una parte importante del Web3.

3. Crittografia completamente omomorfica (FHE): è una tecnologia di crittografia avanzata che consente di eseguire calcoli arbitrari su dati crittografati senza decrittografarli. Ciò significa che una terza parte può eseguire operazioni sul testo cifrato e il risultato ottenuto dopo la decrittografia è lo stesso risultato della stessa operazione sul testo in chiaro. Questa funzionalità è importante per gli scenari che richiedono il calcolo senza esporre dati non elaborati, ad esempio il cloud computing e l'outsourcing dei dati.

Il modello di sicurezza zero trust e DID hanno un certo numero di progetti in più round di mercati rialzisti, e hanno avuto successo o sono annegati nell'ondata di crittografia, e come il metodo di crittografia più giovane: la crittografia completamente omomorfica (FHE) è anche un grande killer per risolvere i problemi di sicurezza nell'era dell'intelligenza artificiale. La crittografia completamente omomorfica (FHE) è una tecnologia che consente di eseguire calcoli su dati crittografati.

Come risolverlo?

Innanzitutto, il livello di dati. Tutte le informazioni inserite dall'utente (compresi i dati biometrici, il tono della voce) vengono elaborate in uno stato crittografato e nemmeno Manus stesso può decrittografare i dati originali. Ad esempio, in un caso di diagnosi medica, i dati genomici del paziente vengono analizzati in testo cifrato durante tutto il processo per evitare la perdita di informazioni biologiche.

Livello algoritmico. Il "crypto model training" realizzato da FHE rende impossibile per gli sviluppatori sbirciare nel percorso decisionale dell'AI.

A livello di sinergia. La crittografia a soglia viene utilizzata per le comunicazioni di più agenti e un singolo nodo non verrà violato senza causare una perdita di dati globale. Anche nelle esercitazioni di attacco e difesa della supply chain, gli aggressori non possono ottenere una visione completa dell'azienda dopo essersi infiltrati in più agenti.

A causa di limitazioni tecniche, la sicurezza del web3 potrebbe non essere direttamente correlata alla maggior parte degli utenti, ma è indissolubilmente legata a interessi indiretti, e in questa selva oscura, se non fai del tuo meglio per armarti, non sfuggirai mai all'identità di "porri".

uPort è stato lanciato sulla mainnet di Ethereum nel 2017 ed è stato probabilmente il primo progetto di identità decentralizzata (DID) ad essere rilasciato sulla mainnet.
In termini di modello di sicurezza zero trust, NKN ha rilasciato la sua mainnet nel 2019.
Mind Network è il primo progetto FHE ad essere lanciato sulla mainnet e ha assunto un ruolo guida nella collaborazione con ZAMA, Google, DeepSeek, ecc.

uPort e NKN sono già progetti di cui non ho mai sentito parlare, e sembra che i progetti di sicurezza non siano davvero interessati dagli speculatori, quindi aspettiamo e vediamo se la rete Mind riuscirà a sfuggire a questa maledizione e diventare un leader nel campo della sicurezza.

Il futuro è qui. Più l'IA è vicina all'intelligenza umana, più ha bisogno di sistemi di difesa non umani. Il valore della sicurezza delle informazioni di rete non è solo quello di risolvere i problemi attuali, ma anche di aprire la strada all'era dell'intelligenza artificiale forte. In questa strada ripida verso l'AGI, la sicurezza informatica non è un'opzione, ma una necessità per la sopravvivenza.