Manus mang đến bình minh của AGI và bảo mật AI đã thay đổi một lần nữa

Manus đã đạt được điểm SOTA (State-of-the-Art) trong điểm chuẩn GAIA, cho thấy hiệu suất của nó vượt trội so với các mô hình quy mô lớn cùng cấp độ của Open AI. Nói cách khác, nó có thể hoàn thành các nhiệm vụ phức tạp một cách độc lập, chẳng hạn như đàm phán kinh doanh xuyên biên giới, liên quan đến việc chia nhỏ các điều khoản hợp đồng, dự đoán chiến lược, tạo ra giải pháp và thậm chí điều phối các nhóm pháp lý và tài chính. So với các hệ thống truyền thống, Manus có ưu điểm là tháo rời đối tượng động, suy luận đa phương thức và học tập tăng cường trí nhớ. Nó có thể chia nhỏ các tác vụ lớn thành hàng trăm tác vụ con có thể thực thi, xử lý nhiều loại dữ liệu cùng một lúc và sử dụng học tăng cường để liên tục cải thiện hiệu quả ra quyết định và giảm tỷ lệ lỗi.

Ngoài việc ngạc nhiên trước sự phát triển nhanh chóng của công nghệ, Manus đã một lần nữa gây ra sự bất đồng trong vòng tròn trên con đường phát triển của AI: AGI sẽ thống trị thế giới trong tương lai, hay MAS sẽ thống trị hiệp đồng?

Điều này bắt đầu với triết lý thiết kế của Manus, ngụ ý hai khả năng:

Một là con đường AGI. Bằng cách liên tục nâng cao mức độ thông minh cá nhân, nó gần với khả năng ra quyết định toàn diện của con người.

Ngoài ra còn có con đường MAS. Với tư cách là một siêu điều phối, chỉ huy hàng ngàn đặc vụ dọc làm việc cùng nhau.

Nhìn bề ngoài, chúng ta đang thảo luận về những con đường khác nhau, nhưng trên thực tế, chúng ta đang thảo luận về mâu thuẫn cơ bản của sự phát triển AI: hiệu quả và bảo mật nên được cân bằng như thế nào? Trí thông minh nguyên khối càng gần với AGI thì nguy cơ ra quyết định hộp đen càng cao. Tuy nhiên, mặc dù cộng tác nhiều tác nhân có thể đa dạng hóa rủi ro, nhưng nó có thể bỏ lỡ các cửa sổ ra quyết định quan trọng do sự chậm trễ trong giao tiếp.

Sự phát triển của Manus đã phóng đại vô hình những rủi ro vốn có của sự phát triển AI. Ví dụ: lỗ đen về quyền riêng tư dữ liệu: trong các tình huống y tế, Manus cần truy cập theo thời gian thực vào dữ liệu bộ gen của bệnh nhân; Trong quá trình đàm phán tài chính, nó có thể chạm đến thông tin tài chính không được tiết lộ của công ty; Ví dụ, bẫy thiên vị thuật toán, trong đó Manus đưa ra các khuyến nghị mức lương dưới mức trung bình cho các ứng viên thuộc một dân tộc cụ thể trong các cuộc đàm phán tuyển dụng; Gần một nửa các điều khoản của các ngành công nghiệp mới nổi bị đánh giá sai khi các hợp đồng pháp lý được xem xét. Một ví dụ khác là lỗ hổng tấn công đối thủ, trong đó tin tặc đã cấy ghép một tần số giọng nói cụ thể để khiến Manus đánh giá sai phạm vi đề nghị của đối thủ trong quá trình đàm phán.

Chúng ta phải đối mặt với một vấn đề khủng khiếp đối với các hệ thống AI: hệ thống càng thông minh, bề mặt tấn công càng rộng.

Tuy nhiên, bảo mật là một từ liên tục được nhắc đến trong web3 và nhiều phương pháp mã hóa đã bắt nguồn từ khuôn khổ tam giác bất khả thi của V God (mạng blockchain không thể đạt được bảo mật, phi tập trung và khả năng mở rộng cùng một lúc):

1. Mô hình bảo mật Zero Trust: Ý tưởng cốt lõi của mô hình bảo mật Zero Trust là "không tin tưởng ai, luôn xác minh", có nghĩa là các thiết bị không nên được tin cậy theo mặc định, bất kể chúng có nằm trên mạng nội bộ hay không. Mô hình này nhấn mạnh vào việc xác thực và ủy quyền nghiêm ngặt cho từng yêu cầu truy cập để đảm bảo bảo mật hệ thống.

2. Danh tính phi tập trung (DID): DID là một tập hợp các tiêu chuẩn định danh cho phép các thực thể được xác định một cách có thể xác minh và liên tục mà không cần đăng ký tập trung. Điều này cho phép một mô hình mới về danh tính kỹ thuật số phi tập trung, thường được so sánh với danh tính tự chủ và là một phần quan trọng của Web3.

3. Mã hóa hoàn toàn đồng hình (FHE): là một công nghệ mã hóa tiên tiến cho phép thực hiện tính toán tùy ý trên dữ liệu được mã hóa mà không cần giải mã nó. Điều này có nghĩa là bên thứ ba có thể thực hiện các thao tác trên văn bản mật mã và kết quả thu được sau khi giải mã giống như kết quả của cùng một thao tác trên văn bản thuần túy. Tính năng này rất quan trọng đối với các tình huống yêu cầu tính toán mà không hiển thị dữ liệu thô, chẳng hạn như điện toán đám mây và thuê ngoài dữ liệu.

Mô hình bảo mật zero trust và DID có một số lượng dự án nhất định trong nhiều vòng thị trường tăng giá, và chúng đã thành công hoặc chết đuối trong làn sóng mã hóa, và là phương pháp mã hóa trẻ nhất: Mã hóa hoàn toàn đồng hình (FHE) cũng là một sát thủ lớn để giải quyết các vấn đề bảo mật trong kỷ nguyên AI. Mã hóa hoàn toàn đồng hình (FHE) là một công nghệ cho phép tính toán được thực hiện trên dữ liệu được mã hóa.

Làm thế nào để khắc phục nó?

Đầu tiên, cấp độ dữ liệu. Tất cả thông tin do người dùng nhập (bao gồm sinh trắc học, giọng nói) đều được xử lý ở trạng thái mã hóa và ngay cả bản thân Manus cũng không thể giải mã dữ liệu gốc. Ví dụ, trong một trường hợp chẩn đoán y tế, dữ liệu bộ gen của bệnh nhân được phân tích bằng văn bản mật mã trong suốt quá trình để tránh rò rỉ thông tin sinh học.

Cấp độ thuật toán. "Đào tạo mô hình mật mã" do FHE thực hiện khiến các nhà phát triển không thể nhìn vào con đường ra quyết định của AI.

Ở cấp độ sức mạnh tổng hợp. Mã hóa ngưỡng được sử dụng cho nhiều giao tiếp tác nhân và một nút duy nhất sẽ không bị vi phạm mà không gây rò rỉ dữ liệu toàn cầu. Ngay cả trong các cuộc diễn tập tấn công và phòng thủ chuỗi cung ứng, những kẻ tấn công không thể có được cái nhìn đầy đủ về doanh nghiệp sau khi xâm nhập vào nhiều đặc vụ.

Do những hạn chế về kỹ thuật, bảo mật web3 có thể không liên quan trực tiếp đến hầu hết người dùng, nhưng nó gắn liền với lợi ích gián tiếp, và trong khu rừng tối tăm này, nếu bạn không cố gắng hết sức để trang bị vũ khí, bạn sẽ không bao giờ thoát khỏi danh tính của "tỏi tây".

uPort được ra mắt trên mainnet Ethereum vào năm 2017 và có lẽ là dự án nhận dạng phi tập trung (DID) đầu tiên được phát hành trên mainnet.
Về mô hình bảo mật zero trust, NKN đã phát hành mainnet của mình vào năm 2019.
Mind Network là dự án FHE đầu tiên được ra mắt trên mainnet và đã đi đầu trong việc hợp tác với ZAMA, Google, DeepSeek, v.v.

uPort và NKN đã là những dự án mà tôi chưa bao giờ nghe nói đến, và có vẻ như các dự án bảo mật thực sự không được các nhà đầu cơ quan tâm, vì vậy hãy chờ xem liệu Mind network có thể thoát khỏi lời nguyền này và trở thành người dẫn đầu trong lĩnh vực bảo mật hay không.

Tương lai là ở đây. AI càng gần với trí thông minh của con người, nó càng cần nhiều hệ thống phòng thủ không phải con người. Giá trị của an toàn thông tin mạng không chỉ là giải quyết các vấn đề hiện tại mà còn mở đường cho kỷ nguyên AI mạnh. Trên con đường dốc đến AGI này, an ninh mạng không phải là một lựa chọn, mà là một điều cần thiết để tồn tại.