Manus menghadirkan fajar AGI, dan keamanan AI telah berubah lagi

Manus mencapai skor SOTA (State-of-the-Art) dalam tolok ukur GAIA, menunjukkan bahwa kinerjanya melebihi model skala besar Open AI dengan tingkat yang sama. Dengan kata lain, ia dapat secara mandiri menyelesaikan tugas-tugas kompleks, seperti negosiasi bisnis lintas batas, yang melibatkan pemecahan persyaratan kontrak, memprediksi strategi, menghasilkan solusi, dan bahkan mengoordinasikan tim hukum dan keuangan. Dibandingkan dengan sistem tradisional, Manus memiliki keunggulan pembongkaran objek dinamis, penalaran lintas modal, dan pembelajaran yang ditingkatkan memori. Itu dapat memecah tugas besar menjadi ratusan subtugas yang dapat dieksekusi, memproses beberapa jenis data secara bersamaan, dan menggunakan pembelajaran penguatan untuk terus meningkatkan efisiensi pengambilan keputusannya dan mengurangi tingkat kesalahan.

Selain mengagumi perkembangan teknologi yang pesat, Manus sekali lagi memicu ketidaksepakatan di lingkaran tentang jalur evolusi AI: akankah AGI mendominasi dunia di masa depan, atau akankah MAS dominan secara sinergis?

Ini dimulai dengan filosofi desain Manus, yang menyiratkan dua kemungkinan:

Salah satunya adalah jalur AGI. Dengan terus meningkatkan tingkat kecerdasan individu, itu dekat dengan kemampuan pengambilan keputusan manusia yang komprehensif.

Ada juga jalur MAS. Sebagai koordinator super, perintahkan ribuan agen vertikal untuk bekerja sama.

Di permukaan, kita mendiskusikan jalur yang berbeda, tetapi sebenarnya kita mendiskusikan kontradiksi yang mendasari pengembangan AI: bagaimana efisiensi dan keamanan harus seimbang? Semakin dekat kecerdasan monolitik dengan AGI, semakin tinggi risiko pengambilan keputusan kotak hitam. Namun, meskipun kolaborasi multi-agen dapat mendiversifikasi risiko, mungkin melewatkan jendela pengambilan keputusan utama karena keterlambatan komunikasi.

Evolusi Manus telah memperbesar risiko yang melekat pada pengembangan AI secara tak terlihat. Misalnya, lubang hitam privasi data: dalam skenario medis, Manus membutuhkan akses real-time ke data genomik pasien; Selama negosiasi keuangan, hal itu dapat menyentuh informasi keuangan perusahaan yang tidak diungkapkan; Misalnya, jebakan bias algoritmik, di mana Manus memberikan rekomendasi gaji di bawah rata-rata kepada kandidat dari etnis tertentu dalam negosiasi perekrutan; Hampir setengah dari persyaratan industri berkembang salah dinilai ketika kontrak hukum ditinjau. Contoh lain adalah kerentanan serangan musuh, di mana peretas menanamkan frekuensi suara tertentu untuk membuat Manus salah menilai rentang penawaran lawan selama negosiasi.

Kita harus menghadapi titik nyeri yang mengerikan untuk sistem AI: semakin pintar sistemnya, semakin lebar permukaan serangan.

Namun, keamanan adalah kata yang terus-menerus disebutkan di web3, dan berbagai metode enkripsi telah diturunkan dari kerangka segitiga V Dewa yang mustahil (jaringan blockchain tidak dapat mencapai keamanan, desentralisasi, dan skalabilitas pada saat yang bersamaan):

Model Keamanan Zero Trust: Ide inti dari model keamanan Zero Trust adalah "tidak mempercayai siapa pun, selalu memverifikasi", yang berarti bahwa perangkat tidak boleh dipercaya secara default, terlepas dari apakah mereka berada di jaringan internal atau tidak. Model ini menekankan autentikasi dan otorisasi yang ketat untuk setiap permintaan akses untuk memastikan keamanan sistem.
Identitas Terdesentralisasi (DID): DID adalah seperangkat standar pengidentifikasi yang memungkinkan entitas diidentifikasi dengan cara yang dapat diverifikasi dan persisten tanpa memerlukan registri terpusat. Hal ini memungkinkan model baru identitas digital terdesentralisasi, sering dibandingkan dengan identitas berdaulat sendiri, dan merupakan bagian penting dari Web3.
Enkripsi Homomorfik Penuh (FHE): adalah teknologi enkripsi canggih yang memungkinkan komputasi arbitrer dilakukan pada data terenkripsi tanpa mendekripsinya. Ini berarti bahwa pihak ketiga dapat melakukan operasi pada teks sandi, dan hasil yang diperoleh setelah dekripsi sama dengan hasil operasi yang sama pada teks biasa. Fitur ini penting untuk skenario yang memerlukan komputasi tanpa mengekspos data mentah, seperti komputasi awan dan outsourcing data.

Model keamanan zero trust dan DID memiliki sejumlah proyek dalam beberapa putaran pasar bullish, dan mereka telah berhasil atau tenggelam dalam gelombang enkripsi, dan sebagai metode enkripsi termuda: Enkripsi Homomorfik Penuh (FHE) juga merupakan pembunuh besar untuk memecahkan masalah keamanan di era AI. Enkripsi homomorfik sepenuhnya (FHE) adalah teknologi yang memungkinkan komputasi dilakukan pada data terenkripsi.

Bagaimana cara memperbaikinya?

Pertama, tingkat data. Semua informasi yang dimasukkan oleh pengguna (termasuk biometrik, nada suara) diproses dalam keadaan terenkripsi, dan bahkan Manus sendiri tidak dapat mendekripsi data aslinya. Misalnya, dalam kasus diagnosis medis, data genomik pasien dianalisis dalam teks sandi selama proses untuk menghindari kebocoran informasi biologis.

Tingkat algoritmik. "Pelatihan model kriptografi" yang direalisasikan oleh FHE membuat pengembang tidak mungkin mengintip jalur pengambilan keputusan AI.

Pada tingkat sinergi. Enkripsi ambang batas digunakan untuk beberapa komunikasi agen, dan satu simpul tidak akan dilanggar tanpa menyebabkan kebocoran data global. Bahkan dalam serangan rantai pasokan dan latihan pertahanan, penyerang tidak dapat memperoleh pandangan lengkap tentang bisnis setelah menyusup ke beberapa agen.

Karena keterbatasan teknis, keamanan web3 mungkin tidak terkait langsung dengan sebagian besar pengguna, tetapi terkait erat dengan kepentingan tidak langsung, dan di hutan gelap ini, jika Anda tidak melakukan yang terbaik untuk mempersenjatai, Anda tidak akan pernah lepas dari identitas "daun bawang".

uPort diluncurkan di mainnet Ethereum pada tahun 2017 dan mungkin merupakan proyek identitas terdesentralisasi (DID) pertama yang dirilis di mainnet.
Dalam hal model keamanan zero trust, NKN merilis mainnet-nya pada tahun 2019.
Mind Network adalah proyek FHE pertama yang diluncurkan di mainnet, dan telah memimpin dalam bekerja sama dengan ZAMA, Google, DeepSeek, dll.

uPort dan NKN sudah menjadi proyek yang belum pernah saya dengar, dan tampaknya proyek keamanan benar-benar tidak diperhatikan oleh spekulan, jadi mari kita tunggu dan lihat apakah jaringan Mind dapat lolos dari kutukan ini dan menjadi pemimpin di bidang keamanan.

Masa depan ada di sini. Semakin dekat AI dengan kecerdasan manusia, semakin membutuhkan sistem pertahanan non-manusia. Nilai keamanan informasi jaringan tidak hanya untuk memecahkan masalah saat ini, tetapi juga untuk membuka jalan bagi era AI yang kuat. Di jalan curam menuju AGI ini, keamanan siber bukanlah pilihan, tetapi kebutuhan untuk bertahan hidup.

2,91 rb

Konten pada halaman ini disediakan oleh pihak ketiga. Kecuali dinyatakan lain, OKX bukanlah penulis artikel yang dikutip dan tidak mengklaim hak cipta atas materi tersebut. Konten ini disediakan hanya untuk tujuan informasi dan tidak mewakili pandangan OKX. Konten ini tidak dimaksudkan sebagai dukungan dalam bentuk apa pun dan tidak dapat dianggap sebagai nasihat investasi atau ajakan untuk membeli atau menjual aset digital. Sejauh AI generatif digunakan untuk menyediakan ringkasan atau informasi lainnya, konten yang dihasilkan AI mungkin tidak akurat atau tidak konsisten. Silakan baca artikel yang terkait untuk informasi lebih lanjut. OKX tidak bertanggung jawab atas konten yang dihosting di situs pihak ketiga. Kepemilikan aset digital, termasuk stablecoin dan NFT, melibatkan risiko tinggi dan dapat berfluktuasi secara signifikan. Anda perlu mempertimbangkan dengan hati-hati apakah trading atau menyimpan aset digital sesuai untuk Anda dengan mempertimbangkan kondisi keuangan Anda.