Manus đạt được thành tựu đột phá trong bài kiểm tra điểm chuẩn GAIA, gây ra cuộc tranh luận về con đường phát triển AI

Gần đây, Manus đã đạt được thành tựu đột phá trong bài kiểm tra điểm chuẩn GAIA, hiệu suất của nó vượt trội hơn các mô hình ngôn ngữ lớn cùng cấp. Thành tựu này cho thấy, Manus có khả năng hoàn thành các nhiệm vụ phức tạp một cách độc lập, chẳng hạn như đàm phán thương mại quốc tế, bao gồm phân tích điều khoản hợp đồng, dự đoán chiến lược, tạo ra phương án, thậm chí có thể phối hợp giữa các đội ngũ pháp lý và tài chính.

Ưu điểm của Manus chủ yếu nằm ở ba khía cạnh: khả năng phân tách mục tiêu động, khả năng suy luận đa mô hình và khả năng học tập tăng cường trí nhớ. Nó có thể phân chia các nhiệm vụ lớn thành hàng trăm nhiệm vụ con có thể thực hiện, đồng thời xử lý nhiều loại dữ liệu khác nhau và liên tục nâng cao hiệu quả ra quyết định của mình thông qua việc học tăng cường, giảm tỷ lệ lỗi.

Tiến triển này lại kích thích cuộc thảo luận trong ngành về lộ trình tiến hóa của AI: Tương lai sẽ hướng tới trí tuệ nhân tạo tổng quát (AGI) thống trị hay hệ thống đa tác nhân (MAS) hợp tác chiếm ưu thế?

Triết lý thiết kế của Manus ẩn chứa hai khả năng:

1. Đường đi AGI: Thông qua việc nâng cao liên tục trình độ trí tuệ đơn thể, khiến nó gần gũi hơn với khả năng ra quyết định tổng hợp của con người.

2. Đường dẫn MAS: Là nhà phối hợp siêu, chỉ huy hàng nghìn tác nhân trong các lĩnh vực dọc làm việc cùng nhau.

Bề mặt, đây là một cuộc tranh luận về các con đường phát triển khác nhau, nhưng thực tế phản ánh mâu thuẫn cốt lõi trong sự phát triển của AI: làm thế nào để cân bằng giữa hiệu quả và an toàn. Khi trí thông minh đơn thể càng gần với AGI, rủi ro về tính không minh bạch trong quyết định càng cao; trong khi sự hợp tác giữa nhiều trí thông minh có thể phân tán rủi ro, nhưng có thể vì độ trễ trong giao tiếp mà bỏ lỡ thời điểm quyết định quan trọng.

Sự tiến bộ của Manus vô hình trung phóng đại những rủi ro vốn có trong sự phát triển của AI, bao gồm:

1. Vấn đề quyền riêng tư dữ liệu: Trong bối cảnh y tế, cần truy cập dữ liệu nhạy cảm của bệnh nhân theo thời gian thực; trong các cuộc thương thảo tài chính, có thể liên quan đến thông tin báo cáo tài chính chưa được công bố của doanh nghiệp.

2. Thiên lệch thuật toán: Trong quá trình đàm phán tuyển dụng, có thể đưa ra những đề xuất lương không công bằng cho các nhóm cụ thể; trong việc xem xét hợp đồng pháp lý, tỷ lệ sai sót đối với các điều khoản trong ngành mới nổi thường cao.

3. Lỗ hổng tấn công đối kháng: Tin tặc có thể thông qua việc cài đặt tần số âm thanh cụ thể, dẫn đến việc hệ thống đánh giá sai khoảng giá của đối thủ trong quá trình đàm phán.

Những vấn đề này làm nổi bật một thực tế nghiêm trọng: Hệ thống càng thông minh thì bề mặt tấn công càng rộng.

Trong lĩnh vực Web3, an ninh luôn là một chủ đề được đặc biệt quan tâm. Xung quanh chủ đề này, đã phát sinh nhiều giải pháp công nghệ mã hóa khác nhau:

1. Mô hình bảo mật không tin cậy: nhấn mạnh việc xác thực và cấp quyền nghiêm ngặt cho mỗi yêu cầu truy cập.

2. Danh tính phi tập trung (DID): Thực hiện nhận diện danh tính mà không cần sổ đăng ký tập trung.

3. Mã hóa toàn phần (FHE): Cho phép thực hiện tính toán trên dữ liệu được mã hóa mà không cần giải mã dữ liệu.

Trong đó, mã hóa đồng nhất được coi là công nghệ then chốt để giải quyết các vấn đề an ninh trong thời đại AI. Nó có thể cung cấp bảo vệ ở một số cấp độ sau:

• Về mặt dữ liệu: Tất cả thông tin do người dùng nhập vào được xử lý trong trạng thái mã hóa, ngay cả hệ thống AI cũng không thể giải mã dữ liệu gốc.

• Về mặt thuật toán: Thực hiện "huấn luyện mô hình mã hóa" thông qua FHE, đảm bảo ngay cả các nhà phát triển cũng không thể nhìn thấy được đường đi quyết định của AI.

• Khía cạnh hợp tác: Giao tiếp giữa nhiều tác nhân sử dụng mã hóa ngưỡng, ngăn chặn rò rỉ điểm đơn dẫn đến dữ liệu toàn cầu bị lộ.

Mặc dù công nghệ bảo mật Web3 có thể không liên quan trực tiếp đến người dùng thông thường, nhưng chúng rất quan trọng để bảo vệ lợi ích của người dùng. Trong lĩnh vực đầy những điều chưa biết này, việc tăng cường bảo vệ an ninh là biện pháp cần thiết để tránh trở thành "giòi".

Trong lịch sử, đã có nhiều dự án khám phá lĩnh vực an ninh Web3:

• uPort được phát hành trên mạng chính Ethereum vào năm 2017, là một trong những dự án danh tính phi tập trung sớm.
• NKN đã phát hành mạng chính dựa trên mô hình bảo mật không tin cậy vào năm 2019.
• Một mạng lưới là dự án FHE đầu tiên được triển khai trên mạng chính và đã hợp tác với nhiều tổ chức nổi tiếng.

Khi công nghệ AI ngày càng tiến gần đến mức độ thông minh của con người, các hệ thống phòng thủ không truyền thống trở nên ngày càng quan trọng. Các công nghệ bảo mật như FHE không chỉ giải quyết các vấn đề hiện tại mà còn đặt nền tảng cho kỷ nguyên AI mạnh mẽ trong tương lai. Trên con đường tiến tới AGI, những công nghệ bảo mật này không còn là tùy chọn mà trở thành nhu cầu thiết yếu cho sự tồn tại.