Mạng Mira: Xây dựng lớp tin cậy cho AI

Gần đây, mạng lưới Mira đã chính thức ra mắt mạng thử nghiệm công cộng, gây ra cuộc thảo luận rộng rãi trong ngành về vấn đề độ tin cậy của AI. Mục tiêu cốt lõi của mạng lưới Mira là xây dựng một lớp tin cậy cho AI, giải quyết các vấn đề "ảo giác" và thiên kiến mà các hệ thống AI hiện tại đang phải đối mặt. Vậy tại sao AI cần phải được tin tưởng? Mira đang tiến hành giải quyết vấn đề phức tạp này như thế nào?

Khi thảo luận về AI, mọi người thường chú ý đến khả năng mạnh mẽ của nó. Tuy nhiên, một thực tế không thể bỏ qua là AI tồn tại vấn đề "ảo giác" hoặc định kiến. Cái gọi là "ảo giác" của AI, đơn giản mà nói, là AI đôi khi sẽ "bịa đặt" thông tin, giải thích một cách hợp lý cho một số hiện tượng thực tế không tồn tại. Ví dụ, khi được hỏi "tại sao mặt trăng lại có màu hồng" - một câu hỏi không đúng sự thật, AI có thể đưa ra một loạt các giải thích có vẻ hợp lý nhưng thực tế lại không có cơ sở.

Nguyên nhân khiến AI xuất hiện "h幻觉" hoặc thiên kiến có liên quan chặt chẽ đến con đường công nghệ AI hiện tại. AI sinh tạo thường đạt được đầu ra liên kết và hợp lý bằng cách dự đoán nội dung "có khả năng nhất", nhưng phương pháp này khó đảm bảo tính chân thực của đầu ra. Hơn nữa, dữ liệu huấn luyện của AI có thể chứa lỗi, thiên kiến thậm chí là nội dung hư cấu, tất cả đều ảnh hưởng đến chất lượng đầu ra của AI. Có thể nói, AI chủ yếu học các mô hình ngôn ngữ của con người, chứ không phải là sự thật bản thân.

Cơ chế sinh xác suất hiện tại và mô hình dựa trên dữ liệu gần như không thể tránh khỏi sẽ dẫn đến việc AI tạo ra "ảo giác". Mặc dù trong lĩnh vực kiến thức phổ thông hoặc nội dung giải trí, vấn đề này có thể tạm thời không gây ra hậu quả nghiêm trọng, nhưng trong các lĩnh vực yêu cầu tính nghiêm ngặt cao như y tế, pháp luật, hàng không, tài chính, sự thiên lệch và ảo giác của AI có thể dẫn đến các vấn đề nghiêm trọng. Do đó, giải quyết vấn đề ảo giác và thiên lệch của AI đã trở thành một thách thức cốt lõi trong quá trình phát triển AI.

Dự án Mira chính là giải pháp được đưa ra nhằm giải quyết vấn đề này. Nó cố gắng giảm thiểu sự thiên lệch và ảo giác của AI, tăng cường độ tin cậy của AI bằng cách xây dựng một lớp tin cậy cho AI. Ý tưởng cốt lõi của Mira là sử dụng sự đồng thuận của nhiều mô hình AI để xác thực đầu ra của AI.

Cụ thể, Mira là một mạng lưới xác thực, nó xác thực độ tin cậy của đầu ra AI thông qua sự đồng thuận của nhiều mô hình AI. Quan trọng hơn, Mira áp dụng cơ chế xác thực đồng thuận phi tập trung, đây là chuyên môn trong lĩnh vực tiền điện tử. Thông qua mô hình xác thực tập thể, Mira có thể giảm thiểu hiệu quả sự thiên lệch và ảo giác có thể phát sinh từ một mô hình đơn lẻ.

Trong cấu trúc xác minh, giao thức Mira hỗ trợ chuyển đổi nội dung phức tạp thành các tuyên bố độc lập có thể xác minh. Các nhà điều hành nút tham gia vào quá trình xác minh những tuyên bố này, và để đảm bảo hành vi trung thực của các nhà điều hành nút, Mira đã đưa vào các cơ chế khuyến khích và trừng phạt kinh tế mã hóa.

Kiến trúc mạng của Mira bao gồm ba phần chính: chuyển đổi nội dung, xác thực phân tán và cơ chế đồng thuận. Đầu tiên, hệ thống phân tích nội dung ứng viên do khách hàng gửi thành các tuyên bố có thể xác thực khác nhau, các tuyên bố này sau đó được phân phối cho các nút để xác thực. Các nút xác định tính hợp lệ của các tuyên bố và tổng hợp kết quả để đạt được sự đồng thuận. Cuối cùng, các kết quả và sự đồng thuận này sẽ được trả lại cho khách hàng. Để bảo vệ quyền riêng tư của khách hàng, nội dung ứng viên được chuyển đổi thành các cặp tuyên bố và được phân phối cho các nút khác nhau theo cách phân mảnh ngẫu nhiên, ngăn chặn việc rò rỉ thông tin trong quá trình xác thực.

Các nhà điều hành nút tham gia vào hoạt động của mạng bằng cách vận hành mô hình xác thực, xử lý các tuyên bố và nộp kết quả xác thực. Doanh thu của họ đến từ giá trị mà họ tạo ra cho khách hàng, tức là giảm tỷ lệ lỗi của AI. Trong các lĩnh vực như y tế, pháp lý, hàng không và tài chính, việc giảm tỷ lệ lỗi của AI có thể tạo ra giá trị lớn, vì vậy khách hàng sẵn sàng trả tiền cho điều này. Đồng thời, để ngăn chặn các nhà điều hành nút tìm cách đầu cơ, hệ thống sẽ trừng phạt các nút liên tục lệch khỏi sự đồng thuận, nhằm đảm bảo tính trung thực của quá trình xác thực.

Nói chung, Mira cung cấp một cách tiếp cận mới để đạt được độ tin cậy của AI. Bằng cách xây dựng một mạng lưới xác thực đồng thuận phi tập trung trên cơ sở nhiều mô hình AI, Mira nhằm mang lại độ tin cậy cao hơn cho dịch vụ AI của khách hàng, giảm thiểu thiên kiến và ảo giác trong AI, đồng thời đáp ứng nhu cầu về độ chính xác và tỷ lệ chính xác cao của khách hàng. Đổi mới này hứa hẹn sẽ thúc đẩy sự phát triển sâu sắc của ứng dụng AI và đóng góp quan trọng vào việc xây dựng hệ sinh thái AI đáng tin cậy.

Hiện tại, Mira đã thiết lập quan hệ hợp tác với nhiều khung đại lý AI nổi tiếng. Với việc ra mắt mạng thử nghiệm công cộng của Mira, người dùng có thể trải nghiệm đầu ra AI đã được xác minh thông qua Klok (một ứng dụng trò chuyện LLM dựa trên Mira) và có cơ hội nhận được điểm Mira. Điều này cung cấp cho người dùng một cơ hội để so sánh trực quan sự khác biệt giữa đầu ra AI trước và sau khi xác minh, giúp hiểu rõ hơn giá trị của mạng lưới Mira.