Манус приносит рассвет ОИИ, и безопасность ИИ снова изменилась

Manus получил оценку SOTA (State-of-the-Art) в бенчмарке GAIA, показав, что его производительность превосходит масштабные модели Open AI того же уровня. Другими словами, он может самостоятельно решать сложные задачи, такие как трансграничные деловые переговоры, которые включают в себя разбивку условий контракта, прогнозирование стратегий, выработку решений и даже координацию юридических и финансовых команд. По сравнению с традиционными системами, Manus обладает преимуществами динамической разборки объектов, кросс-модального мышления и обучения с улучшенной памятью. Он может разбивать большие задачи на сотни исполняемых подзадач, обрабатывать несколько типов данных одновременно и использовать обучение с подкреплением для постоянного повышения эффективности принятия решений и снижения количества ошибок.

Помимо восхищения быстрым развитием технологий, Манус в очередной раз вызвал разногласия в кругах по поводу пути эволюции ИИ: будет ли ОИИ доминировать в мире в будущем, или MAS будет доминировать синергетически?

Это начинается с философии дизайна Мануса, которая подразумевает две возможности:

Один из них – это путь AGI. Постоянно повышая уровень индивидуального интеллекта, он приближается к способности человека принимать всеобъемлющие решения.

Существует также тропа MAS. В качестве супер-координатора командуйте тысячами вертикальных агентов для совместной работы.

На первый взгляд, мы обсуждаем разные пути, но на самом деле мы обсуждаем глубинное противоречие развития ИИ: как сбалансировать эффективность и безопасность? Чем ближе монолитный интеллект к ОИИ, тем выше риск принятия решений по принципу «черного ящика». Однако, несмотря на то, что сотрудничество между несколькими агентами может диверсифицировать риски, оно может пропустить ключевые окна принятия решений из-за задержек в общении.

Эволюция Мануса незаметно увеличила риски, присущие развитию ИИ. Например, черные дыры в области конфиденциальности данных: в медицинских сценариях компании Manus необходим доступ к геномным данным пациента в режиме реального времени; Во время финансовых переговоров он может затронуть нераскрытую финансовую информацию компании; Например, ловушка алгоритмической предвзятости, в которой Манус дает рекомендации по зарплате ниже среднего кандидатам определенной этнической принадлежности при переговорах о найме; Почти половина условий в развивающихся отраслях неправильно оценивается при пересмотре юридических контрактов. Другой пример — уязвимость состязательной атаки, в которой хакер имплантировал определенную частоту голоса, чтобы заставить Мануса неверно оценить дальность предложения оппонента во время переговоров.

Мы должны столкнуться с ужасной болевой точкой для систем ИИ: чем умнее система, тем шире поверхность атаки.

Тем не менее, безопасность — это слово, которое постоянно упоминается в web3, и различные методы шифрования были выведены из рамки невозможного треугольника V God (блокчейн-сети не могут достичь безопасности, децентрализации и масштабируемости одновременно):

1. Модель безопасности «Никому не доверяй»: Основная идея модели безопасности «Никому не доверяй, всегда проверяй», что означает, что устройствам не следует доверять по умолчанию, независимо от того, находятся ли они во внутренней сети или нет. В этой модели особое внимание уделяется строгой аутентификации и авторизации для каждого запроса на доступ для обеспечения безопасности системы.

2. Децентрализованная идентификация (DID): DID — это набор стандартов идентификаторов, которые позволяют идентифицировать сущности проверяемым и постоянным образом без необходимости в централизованном реестре. Это позволяет создать новую модель децентрализованной цифровой идентификации, которую часто сравнивают с самостоятельной суверенной идентификацией, и является важной частью Web3.

3. Полностью гомоморфное шифрование (FHE): это передовая технология шифрования, которая позволяет выполнять произвольные вычисления с зашифрованными данными без их расшифровки. Это означает, что третья сторона может выполнять операции над зашифрованным текстом, а результат, полученный после расшифровки, будет таким же, как и результат той же операции над открытым текстом. Эта функция важна для сценариев, требующих вычислений без раскрытия необработанных данных, таких как облачные вычисления и аутсорсинг данных.

Модель безопасности с нулевым доверием и DID имеют определенное количество проектов в нескольких раундах бычьих рынков, и они либо преуспели, либо утонули на волне шифрования, и как самый молодой метод шифрования: полностью гомоморфное шифрование (FHE) также является большим убийцей для решения проблем безопасности в эпоху искусственного интеллекта. Полностью гомоморфное шифрование (FHE) — это технология, которая позволяет выполнять вычисления с зашифрованными данными.

Как это исправить?

Во-первых, уровень данных. Вся вводимая пользователем информация (включая биометрию, тон голоса) обрабатывается в зашифрованном состоянии, и даже сам Манус не может расшифровать исходные данные. Например, в случае медицинского диагноза геномные данные пациента анализируются в зашифрованном виде на протяжении всего процесса, чтобы избежать утечки биологической информации.

Алгоритмический уровень. «Обучение криптографической модели», реализованное FHE, делает невозможным для разработчиков заглянуть в путь принятия решений ИИ.

На уровне синергии. Пороговое шифрование используется для обмена данными между несколькими агентами, и один узел не будет взломан без глобальной утечки данных. Даже в ходе учений по атакам на цепочку поставок и защите злоумышленники не могут получить полное представление о бизнесе после проникновения нескольких агентов.

Из-за технических ограничений безопасность web3 может не иметь прямого отношения к большинству пользователей, но она неразрывно связана с косвенными интересами, и в этом темном лесу, если вы не сделаете все возможное, чтобы вооружиться, вы никогда не избежите идентичности «лука-порея».

uPort был запущен в основной сети Ethereum в 2017 году и, вероятно, стал первым проектом децентрализованной идентификации (DID), выпущенным в основной сети.
Что касается модели безопасности с нулевым доверием, NKN запустила свою основную сеть в 2019 году.
Mind Network — первый проект PHE, запущенный в основной сети, и взял на себя инициативу в сотрудничестве с ZAMA, Google, DeepSeek и т. д.

uPort и NKN уже являются проектами, о которых я никогда не слышал, и, похоже, проекты безопасности действительно не волнуют спекулянтов, поэтому давайте подождем и посмотрим, сможет ли Mind network избежать этого проклятия и стать лидером в области безопасности.

Будущее уже здесь. Чем ближе ИИ к человеческому интеллекту, тем больше он нуждается в нечеловеческих системах защиты. Ценность сетевой информационной безопасности заключается не только в решении текущих проблем, но и в том, чтобы проложить путь к эре сильного искусственного интеллекта. На этом крутом пути к ОИИ кибербезопасность является не опцией, а необходимостью для выживания.