Con đường tin cậy của AI: Mạng Mira giải quyết vấn đề thiên lệch và ảo giác của AI như thế nào

Gần đây, một mạng thử nghiệm công cộng có tên là Mira đã thu hút sự chú ý của ngành. Mạng này nhằm xây dựng một lớp tin cậy cho AI, điều này khiến chúng ta không khỏi suy nghĩ: Tại sao AI cần được tin tưởng? Mira đã giải quyết vấn đề này như thế nào?

Khi thảo luận về AI, mọi người thường chú ý nhiều hơn đến khả năng mạnh mẽ của nó. Tuy nhiên, một vấn đề thú vị và thường bị bỏ qua là "ảo giác" hoặc sự thiên lệch mà AI tồn tại. Cái gọi là "ảo giác" của AI, đơn giản mà nói, là AI đôi khi sẽ "bịa đặt", nói những điều vô lý một cách nghiêm túc. Ví dụ, nếu bạn hỏi AI tại sao mặt trăng lại màu hồng, nó có thể đưa ra một loạt các giải thích có vẻ hợp lý nhưng thực tế thì không có căn cứ.

Sự tồn tại của "ảo giác" hoặc thiên kiến trong AI có liên quan đến một số con đường công nghệ AI hiện tại. AI sinh tạo thường đạt được tính mạch lạc và hợp lý bằng cách dự đoán nội dung "có khả năng nhất", nhưng phương pháp này khó xác minh tính xác thực. Hơn nữa, dữ liệu huấn luyện có thể chứa lỗi, thiên kiến thậm chí là nội dung hư cấu, tất cả đều ảnh hưởng đến chất lượng đầu ra của AI. Nói cách khác, AI học các mẫu ngôn ngữ của con người, chứ không phải là sự thật bản thân.

Cơ chế sinh ra xác suất hiện tại và mô hình dựa trên dữ liệu gần như không thể tránh khỏi khả năng xuất hiện ảo giác AI. Đối với kiến thức thông thường hoặc nội dung giải trí, đầu ra có thiên kiến hoặc ảo giác này có thể tạm thời không gây ra hậu quả trực tiếp. Nhưng nếu điều này xảy ra trong các lĩnh vực yêu cầu độ chính xác cao như y tế, pháp lý, hàng không, tài chính, thì nó có thể tạo ra ảnh hưởng lớn. Do đó, giải quyết ảo giác và thiên kiến của AI đã trở thành một trong những vấn đề cốt lõi trong quá trình tiến hóa của AI.

Đối với vấn đề này, ngành công nghiệp đã đưa ra nhiều giải pháp khác nhau. Một số sử dụng công nghệ tạo ra tăng cường tìm kiếm, kết hợp AI với cơ sở dữ liệu thời gian thực, ưu tiên xuất ra các sự thật đã được xác minh. Một số khác thì đưa ra phản hồi từ con người, thông qua việc gán nhãn bằng tay và giám sát con người để sửa chữa lỗi của mô hình.

Mục tiêu của dự án Mira là xây dựng một lớp tin cậy cho AI, giảm thiểu sự thiên kiến và ảo giác của AI, nâng cao độ tin cậy của AI. Vậy, Mira đã thực hiện mục tiêu này như thế nào?

Tâm điểm của Mira là xác thực đầu ra AI thông qua sự đồng thuận của nhiều mô hình AI. Nó về bản chất là một mạng lưới xác thực, sử dụng sự đồng thuận của nhiều mô hình AI để xác minh độ tin cậy của đầu ra AI. Quan trọng hơn, Mira áp dụng phương thức xác thực đồng thuận phi tập trung.

Chìa khóa của mạng Mira nằm ở việc xác thực đồng thuận phi tập trung. Nó tận dụng chuyên môn trong lĩnh vực mã hóa, đồng thời kết hợp với những lợi thế của sự hợp tác nhiều mô hình, thông qua mô hình xác thực tập thể để giảm thiểu thiên kiến và ảo giác.

Trong cấu trúc xác thực, giao thức Mira hỗ trợ chuyển đổi nội dung phức tạp thành các tuyên bố có thể xác thực độc lập. Các tuyên bố này cần sự tham gia của các nhà điều hành nút để xác thực. Để đảm bảo tính trung thực của các nhà điều hành nút, Mira đã áp dụng cơ chế khuyến khích và trừng phạt kinh tế mã hóa. Các mô hình AI khác nhau và các nhà điều hành nút phân tán cùng tham gia để đảm bảo độ tin cậy của kết quả xác thực.

Kiến trúc mạng của Mira bao gồm ba phần: chuyển đổi nội dung, xác thực phân tán và cơ chế đồng thuận, nhằm đảm bảo tính đáng tin cậy của việc xác thực. Trong đó, chuyển đổi nội dung là một giai đoạn quan trọng. Mạng Mira trước tiên phân tách nội dung ứng cử thành các tuyên bố có thể xác thực khác nhau, đảm bảo rằng mô hình có thể hiểu nội dung trong cùng một bối cảnh. Những tuyên bố này sau đó được hệ thống phân phối đến các nút để xác thực, nhằm xác định tính hợp lệ của chúng, và tổng hợp kết quả để đạt được đồng thuận. Cuối cùng, những kết quả này và đồng thuận sẽ được trả về cho khách hàng. Để bảo vệ quyền riêng tư của khách hàng, nội dung ứng cử sẽ được chuyển đổi thành các cặp tuyên bố và được phân phối đến các nút khác nhau theo cách phân mảnh ngẫu nhiên, nhằm ngăn chặn việc rò rỉ thông tin trong quá trình xác thực.

Các nhà khai thác nút chịu trách nhiệm vận hành mô hình xác thực, xử lý các tuyên bố và gửi kết quả xác thực. Họ tham gia xác thực vì có thể kiếm được lợi nhuận. Những lợi nhuận này đến từ giá trị mà họ tạo ra cho khách hàng. Mục tiêu của mạng Mira là giảm tỷ lệ lỗi AI (ảo giác và thiên kiến), một khi đạt được mục tiêu này, nó có thể tạo ra giá trị lớn trong các lĩnh vực như y tế, pháp lý, hàng không, tài chính. Do đó, khách hàng sẵn sàng trả tiền cho điều này. Tất nhiên, tính bền vững và quy mô của việc thanh toán phụ thuộc vào khả năng mạng Mira tiếp tục mang lại giá trị cho khách hàng. Để ngăn chặn hành vi đầu cơ của các nút phản hồi ngẫu nhiên, các nút liên tục lệch khỏi sự đồng thuận sẽ bị trừ token đặt cọc. Tổng thể, Mira đảm bảo rằng các nhà khai thác nút tham gia xác thực một cách trung thực thông qua các trò chơi cơ chế kinh tế.

Mira đã cung cấp một giải pháp mới cho sự tin cậy của AI. Nó xây dựng một mạng lưới xác nhận đồng thuận phi tập trung dựa trên nhiều mô hình AI, mang lại độ tin cậy cao hơn cho dịch vụ AI của khách hàng, giảm thiểu thiên kiến và ảo giác của AI, đáp ứng nhu cầu của khách hàng về độ chính xác và tỷ lệ chính xác cao hơn. Đồng thời, trên cơ sở cung cấp giá trị cho khách hàng, nó cũng mang lại lợi nhuận cho những người tham gia mạng lưới Mira. Nói tóm lại, Mira cam kết xây dựng một tầng lòng tin cho AI, điều này sẽ thúc đẩy sự phát triển sâu sắc của ứng dụng AI.

Hiện tại, đã có một số khung AI agent nổi tiếng hợp tác với Mira. Với việc ra mắt mạng thử nghiệm công cộng của Mira, người dùng có thể tham gia thử nghiệm thông qua Klok (một ứng dụng trò chuyện LLM dựa trên Mira). Sử dụng ứng dụng Klok không chỉ cho phép trải nghiệm đầu ra AI đã được xác thực mà còn có thể kiếm điểm Mira. Mặc dù mục đích sử dụng của những điểm này trong tương lai chưa được công bố, nhưng rõ ràng đã cung cấp thêm động lực cho người dùng tham gia.