Manus traz o alvorecer da AGI e a segurança da IA mudou novamente

A Manus obteve uma pontuação SOTA (State-of-the-Art) no benchmark GAIA, mostrando que seu desempenho excede o dos modelos de grande escala da Open AI do mesmo nível. Em outras palavras, ele pode concluir de forma independente tarefas complexas, como negociações comerciais transfronteiriças, que envolvem quebrar os termos do contrato, prever estratégias, gerar soluções e até coordenar equipes jurídicas e financeiras. Comparado com os sistemas tradicionais, o Manus tem as vantagens de desmontagem dinâmica de objetos, raciocínio intermodal e aprendizado aprimorado por memória. Ele pode dividir grandes tarefas em centenas de subtarefas executáveis, processar vários tipos de dados ao mesmo tempo e usar o aprendizado por reforço para melhorar continuamente sua eficiência na tomada de decisões e reduzir as taxas de erro.

Além de se maravilhar com o rápido desenvolvimento da tecnologia, Manus mais uma vez provocou desacordo no círculo no caminho da evolução da IA: a AGI dominará o mundo no futuro ou a MAS será sinergicamente dominante?

Isso começa com a filosofia de design de Manus, que implica duas possibilidades:

Um é o caminho AGI. Ao melhorar continuamente o nível de inteligência individual, está próximo da capacidade abrangente de tomada de decisão dos seres humanos.

Há também o caminho MAS. Como supercoordenador, comande milhares de agentes verticais para trabalharem juntos.

Superficialmente, estamos discutindo caminhos diferentes, mas na verdade estamos discutindo a contradição subjacente ao desenvolvimento da IA: como a eficiência e a segurança devem ser equilibradas? Quanto mais próxima a inteligência monolítica estiver da AGI, maior será o risco de tomada de decisão de caixa preta. No entanto, embora a colaboração multiagente possa diversificar os riscos, ela pode perder janelas importantes de tomada de decisão devido a atrasos na comunicação.

A evolução do Manus ampliou invisivelmente os riscos inerentes ao desenvolvimento da IA. Por exemplo, buracos negros de privacidade de dados: em cenários médicos, Manus precisa de acesso em tempo real aos dados genômicos do paciente; Durante as negociações financeiras, pode tocar nas informações financeiras não divulgadas da empresa; Por exemplo, a armadilha do viés algorítmico, em que Manus dá recomendações salariais abaixo da média para candidatos de uma determinada etnia nas negociações de contratação; Quase metade dos termos das indústrias emergentes são mal julgados quando os contratos legais são revisados. Outro exemplo é a vulnerabilidade de ataque adversário, em que o hacker implantou uma frequência de voz específica para fazer Manus julgar mal o alcance da oferta do oponente durante a negociação.

Temos que enfrentar um terrível ponto problemático para os sistemas de IA: quanto mais inteligente o sistema, mais ampla é a superfície de ataque.

No entanto, segurança é uma palavra que tem sido constantemente mencionada na web3, e uma variedade de métodos de criptografia foram derivados da estrutura do triângulo impossível de V God (as redes blockchain não podem alcançar segurança, descentralização e escalabilidade ao mesmo tempo):

1. Modelo de segurança Zero Trust: A ideia central do modelo de segurança Zero Trust é "não confie em ninguém, sempre verifique", o que significa que os dispositivos não devem ser confiáveis por padrão, independentemente de estarem em uma rede interna ou não. Esse modelo enfatiza a autenticação e a autorização estritas para cada solicitação de acesso para garantir a segurança do sistema.

2. Identidade descentralizada (DID): DID é um conjunto de padrões de identificador que permitem que as entidades sejam identificadas de maneira verificável e persistente sem a necessidade de um registro centralizado. Isso permite um novo modelo de identidade digital descentralizada, muitas vezes comparado à identidade autossoberana, e é uma parte importante da Web3.

3. Criptografia totalmente homomórfica (FHE): é uma tecnologia de criptografia avançada que permite que a computação arbitrária seja realizada em dados criptografados sem descriptografá-los. Isso significa que um terceiro pode realizar operações no texto cifrado, e o resultado obtido após a descriptografia é o mesmo que o resultado da mesma operação no texto simples. Esse recurso é importante para cenários que exigem computação sem expor dados brutos, como computação em nuvem e terceirização de dados.

O modelo de segurança de confiança zero e o DID têm um certo número de projetos em várias rodadas de mercados em alta, e eles tiveram sucesso ou se afogaram na onda de criptografia, e como o método de criptografia mais jovem: Criptografia totalmente homomórfica (FHE) também é um grande assassino para resolver os problemas de segurança na era da IA. A criptografia totalmente homomórfica (FHE) é uma tecnologia que permite que a computação seja realizada em dados criptografados.

Como corrigi-lo?

Primeiro, o nível de dados. Todas as informações inseridas pelo usuário (incluindo biometria, tom de voz) são processadas em um estado criptografado, e mesmo o próprio Manus não pode descriptografar os dados originais. Por exemplo, em um caso de diagnóstico médico, os dados genômicos do paciente são analisados em texto cifrado durante todo o processo para evitar o vazamento de informações biológicas.

Nível algorítmico. O "treinamento de modelo criptográfico" realizado pela FHE torna impossível para os desenvolvedores espiar o caminho de tomada de decisão da IA.

Ao nível da sinergia. A criptografia de limite é usada para comunicações de vários agentes e um único nó não será violado sem causar vazamento de dados global. Mesmo em exercícios de ataque e defesa da cadeia de suprimentos, os invasores não podem obter uma visão completa do negócio depois de se infiltrar em vários agentes.

Devido a limitações técnicas, a segurança da web3 pode não estar diretamente relacionada à maioria dos usuários, mas está inextricavelmente ligada a interesses indiretos, e nesta floresta escura, se você não fizer o possível para se armar, nunca escapará da identidade de "alho-poró".

O uPort foi lançado na rede principal Ethereum em 2017 e foi provavelmente o primeiro projeto de identidade descentralizada (DID) a ser lançado na rede principal.
Em termos de modelo de segurança de confiança zero, a NKN lançou sua rede principal em 2019.
A Mind Network é o primeiro projeto FHE a ser lançado na rede principal e assumiu a liderança na cooperação com ZAMA, Google, DeepSeek, etc.

uPort e NKN já são projetos dos quais nunca ouvi falar, e parece que os projetos de segurança realmente não são preocupados com especuladores, então vamos esperar e ver se a rede Mind pode escapar dessa maldição e se tornar líder no campo da segurança.

O futuro está aqui. Quanto mais próxima a IA estiver da inteligência humana, mais ela precisará de sistemas de defesa não humanos. O valor da segurança da informação de rede não é apenas resolver os problemas atuais, mas também abrir caminho para a era da IA forte. Neste caminho íngreme para a AGI, a segurança cibernética não é uma opção, mas uma necessidade para a sobrevivência.