Manus trae el amanecer de AGI, y la seguridad de la IA ha vuelto a cambiar

Manus logró una puntuación SOTA (State-of-the-Art) en el benchmark GAIA, lo que demuestra que su rendimiento supera al de los modelos a gran escala de Open AI del mismo nivel. En otras palabras, puede completar de forma independiente tareas complejas, como las negociaciones comerciales transfronterizas, que implican desglosar los términos del contrato, predecir estrategias, generar soluciones e incluso coordinar equipos legales y financieros. En comparación con los sistemas tradicionales, Manus tiene las ventajas del desmontaje dinámico de objetos, el razonamiento intermodal y el aprendizaje mejorado por la memoria. Puede dividir tareas grandes en cientos de subtareas ejecutables, procesar varios tipos de datos al mismo tiempo y utilizar el aprendizaje por refuerzo para mejorar continuamente su eficiencia en la toma de decisiones y reducir las tasas de error.

Además de maravillarse con el rápido desarrollo de la tecnología, Manus ha vuelto a provocar desacuerdos en el círculo sobre el camino de la evolución de la IA: ¿dominará AGI el mundo en el futuro o MAS será sinérgicamente dominante?

Esto comienza con la filosofía de diseño de Manus, que implica dos posibilidades:

Una de ellas es la ruta AGI. Al mejorar continuamente el nivel de inteligencia individual, se acerca a la capacidad integral de toma de decisiones de los seres humanos.

También está el camino MAS. Como supercoordinador, ordena a miles de agentes verticales que trabajen juntos.

A primera vista, estamos discutiendo diferentes caminos, pero en realidad estamos discutiendo la contradicción subyacente del desarrollo de la IA: ¿cómo se deben equilibrar la eficiencia y la seguridad? Cuanto más cerca esté la inteligencia monolítica de la AGI, mayor será el riesgo de que se tomen decisiones en caja negra. Sin embargo, aunque la colaboración entre varios agentes puede diversificar los riesgos, es posible que se pierdan ventanas clave de toma de decisiones debido a retrasos en la comunicación.

La evolución de Manus ha magnificado de forma invisible los riesgos inherentes al desarrollo de la IA. Por ejemplo, agujeros negros de privacidad de datos: en escenarios médicos, Manus necesita acceso en tiempo real a los datos genómicos de los pacientes; Durante las negociaciones financieras, puede tocar la información financiera no divulgada de la empresa; Por ejemplo, la trampa del sesgo algorítmico, en la que Manus da recomendaciones de salarios por debajo del promedio a candidatos de una etnia en particular en las negociaciones de contratación; Casi la mitad de los términos de las industrias emergentes se juzgan erróneamente cuando se revisan los contratos legales. Otro ejemplo es la vulnerabilidad de ataque adversario, en la que el hacker implantó una frecuencia de voz específica para hacer que Manus juzgara mal el rango de oferta del oponente durante la negociación.

Tenemos que enfrentarnos a un terrible punto débil para los sistemas de IA: cuanto más inteligente es el sistema, más amplia es la superficie de ataque.

Sin embargo, la seguridad es una palabra que se ha mencionado constantemente en web3, y se han derivado una variedad de métodos de cifrado del marco del triángulo imposible de V God (las redes blockchain no pueden lograr seguridad, descentralización y escalabilidad al mismo tiempo):

1. Modelo de seguridad Zero Trust: La idea central del modelo de seguridad Zero Trust es "no confiar en nadie, siempre verificar", lo que significa que no se debe confiar en los dispositivos de forma predeterminada, independientemente de si están en una red interna o no. Este modelo hace hincapié en la autenticación y autorización estrictas para cada solicitud de acceso a fin de garantizar la seguridad del sistema.

2. Identidad descentralizada (DID): DID es un conjunto de estándares de identificación que permiten identificar entidades de manera verificable y persistente sin necesidad de un registro centralizado. Esto permite un nuevo modelo de identidad digital descentralizada, a menudo comparada con la identidad autosoberana, y es una parte importante de la Web3.

3. Cifrado totalmente homomórfico (FHE): es una tecnología de cifrado avanzada que permite realizar cálculos arbitrarios en datos cifrados sin descifrarlos. Esto significa que un tercero puede realizar operaciones en el texto cifrado, y el resultado obtenido después del descifrado es el mismo que el resultado de la misma operación en el texto sin formato. Esta característica es importante para escenarios que requieren cálculo sin exponer datos sin procesar, como la computación en la nube y la externalización de datos.

El modelo de seguridad Zero Trust y DID tienen un cierto número de proyectos en múltiples rondas de mercados alcistas, y han tenido éxito o se han ahogado en la ola de cifrado, y como el método de cifrado más joven: el cifrado totalmente homomórfico (FHE) también es un gran asesino para resolver los problemas de seguridad en la era de la IA. El cifrado totalmente homomórfico (FHE) es una tecnología que permite realizar cálculos en datos cifrados.

¿Cómo solucionarlo?

En primer lugar, el nivel de datos. Toda la información introducida por el usuario (incluidos los datos biométricos, el tono de voz) se procesa en un estado cifrado, e incluso Manus mismo no puede descifrar los datos originales. Por ejemplo, en un caso de diagnóstico médico, los datos genómicos del paciente se analizan en texto cifrado durante todo el proceso para evitar la fuga de información biológica.

Nivel algorítmico. El "entrenamiento de modelos criptográficos" realizado por FHE hace imposible que los desarrolladores echen un vistazo a la ruta de toma de decisiones de la IA.

A nivel de sinergia. El cifrado de umbral se utiliza para las comunicaciones de varios agentes, y no se infringirá un solo nodo sin provocar una fuga de datos global. Incluso en los simulacros de ataque y defensa de la cadena de suministro, los atacantes no pueden obtener una visión completa del negocio después de infiltrarse en varios agentes.

Debido a las limitaciones técnicas, la seguridad de la web3 puede no estar directamente relacionada con la mayoría de los usuarios, pero está inextricablemente ligada a intereses indirectos, y en este bosque oscuro, si no haces todo lo posible por armarte, nunca escaparás de la identidad de "puerros".

uPort se lanzó en la red principal de Ethereum en 2017 y fue probablemente el primer proyecto de identidad descentralizada (DID) que se lanzó en la red principal.
En términos de modelo de seguridad Zero Trust, NKN lanzó su red principal en 2019.
Mind Network es el primer proyecto de FHE que se lanza en la red principal, y ha tomado la delantera en la cooperación con ZAMA, Google, DeepSeek, etc.

uPort y NKN ya son proyectos de los que nunca he oído hablar, y parece que los proyectos de seguridad realmente no están preocupados por los especuladores, así que esperemos y veamos si Mind network puede escapar de esta maldición y convertirse en un líder en el campo de la seguridad.

El futuro ya está aquí. Cuanto más cerca está la IA de la inteligencia humana, más necesita sistemas de defensa no humanos. El valor de la seguridad de la información en la red no es solo resolver los problemas actuales, sino también allanar el camino para la era de la IA fuerte. En este empinado camino hacia AGI, la ciberseguridad no es una opción, sino una necesidad para la supervivencia.