Phân tích cơ chế hoạt động của @Mira_Network để nhận biết AI đang nói sự thật!
Hiện nay, hầu hết các mô hình AI sử dụng LLM thường xuyên nói chuyện một cách nghiêm túc nhưng lại vô lý, thực sự không thể đáng tin cậy. Không phải là công nghệ không khả thi, mà là nguyên lý đã có giới hạn, không thể yêu cầu nó vừa chính xác vừa trung lập.
Dữ liệu bạn huấn luyện càng nhiều, càng có thể giảm bớt thiên kiến, nhưng dễ dàng bắt đầu kể chuyện. Dữ liệu được làm sạch càng kỹ, có thể càng thiên về một lập trường nào đó.
Cơ chế cốt lõi của Mira là xác thực đồng thuận. Thực ra, nó không còn phụ thuộc vào câu trả lời của một mô hình nữa, mà thông qua sự tham gia của nhiều mô hình để đưa ra phán đoán. Chỉ khi tất cả mọi người đều đồng ý, câu trả lời này mới được coi là đã qua xác thực.
Quy trình này được chia thành ba bước sau!
1⃣Binarization Câu trả lời của AI không phải là một đoạn văn hoàn chỉnh để phán đoán, mà là phân tách thành từng câu nhỏ để phán đoán. Ví dụ: Trái đất quay quanh mặt trời, mặt trăng quay quanh trái đất. Mira sẽ tách câu này thành: Trái đất quay quanh mặt trời Mặt trăng quay quanh trái đất
Mỗi câu sẽ được xác minh độc lập. Nó tránh được vấn đề là tổng thể nghe có vẻ đúng, nhưng chi tiết lại sai hoàn toàn.
2⃣Xác thực phân tán Các câu lệnh được tách ra này sẽ được gửi đến các nút xác minh khác nhau trong mạng Mira, mỗi nút là một mô hình hoặc một tập hợp các mô hình, chúng sẽ không nhìn thấy toàn bộ ngữ cảnh, chỉ có trách nhiệm phán xét tính thật giả của câu lệnh của chính mình, đảm bảo việc xác minh trở nên trung lập hơn.
3⃣Xác minh cơ chế đồng thuận Chứng minh công việc" của Mira là suy diễn AI thật sự.
Mỗi mô hình xác thực đều phải stake (đặt cọc) token, sau khi xác thực xong phải đưa ra kết quả. Nếu hiệu suất kém sẽ bị "slash", bị trừ đi token đã đặt cọc.
Mô hình "tính toán đồng thuận" phải được hầu hết tất cả các mô hình đồng ý về một phán quyết mới được coi là hợp lệ. Cơ chế này là việc sử dụng "đồng thuận đa dạng" giữa các mô hình để tiếp cận sự thật bản chất.
Nói cho cùng, @Mira_Network chỉ là thêm một lớp chứng minh độ tin cậy cho đầu ra của AI, lớp này được đạt được thông qua sự đồng thuận, chứ không phải xác minh bằng một mô hình đơn lẻ.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
Phân tích cơ chế hoạt động của @Mira_Network để nhận biết AI đang nói sự thật!
Hiện nay, hầu hết các mô hình AI sử dụng LLM thường xuyên nói chuyện một cách nghiêm túc nhưng lại vô lý, thực sự không thể đáng tin cậy. Không phải là công nghệ không khả thi, mà là nguyên lý đã có giới hạn, không thể yêu cầu nó vừa chính xác vừa trung lập.
Dữ liệu bạn huấn luyện càng nhiều, càng có thể giảm bớt thiên kiến, nhưng dễ dàng bắt đầu kể chuyện. Dữ liệu được làm sạch càng kỹ, có thể càng thiên về một lập trường nào đó.
Cơ chế cốt lõi của Mira là xác thực đồng thuận. Thực ra, nó không còn phụ thuộc vào câu trả lời của một mô hình nữa, mà thông qua sự tham gia của nhiều mô hình để đưa ra phán đoán. Chỉ khi tất cả mọi người đều đồng ý, câu trả lời này mới được coi là đã qua xác thực.
Quy trình này được chia thành ba bước sau!
1⃣Binarization
Câu trả lời của AI không phải là một đoạn văn hoàn chỉnh để phán đoán, mà là phân tách thành từng câu nhỏ để phán đoán.
Ví dụ: Trái đất quay quanh mặt trời, mặt trăng quay quanh trái đất.
Mira sẽ tách câu này thành:
Trái đất quay quanh mặt trời
Mặt trăng quay quanh trái đất
Mỗi câu sẽ được xác minh độc lập. Nó tránh được vấn đề là tổng thể nghe có vẻ đúng, nhưng chi tiết lại sai hoàn toàn.
2⃣Xác thực phân tán
Các câu lệnh được tách ra này sẽ được gửi đến các nút xác minh khác nhau trong mạng Mira, mỗi nút là một mô hình hoặc một tập hợp các mô hình, chúng sẽ không nhìn thấy toàn bộ ngữ cảnh, chỉ có trách nhiệm phán xét tính thật giả của câu lệnh của chính mình, đảm bảo việc xác minh trở nên trung lập hơn.
3⃣Xác minh cơ chế đồng thuận
Chứng minh công việc" của Mira là suy diễn AI thật sự.
Mỗi mô hình xác thực đều phải stake (đặt cọc) token, sau khi xác thực xong phải đưa ra kết quả.
Nếu hiệu suất kém sẽ bị "slash", bị trừ đi token đã đặt cọc.
Mô hình "tính toán đồng thuận" phải được hầu hết tất cả các mô hình đồng ý về một phán quyết mới được coi là hợp lệ. Cơ chế này là việc sử dụng "đồng thuận đa dạng" giữa các mô hình để tiếp cận sự thật bản chất.
Nói cho cùng, @Mira_Network chỉ là thêm một lớp chứng minh độ tin cậy cho đầu ra của AI, lớp này được đạt được thông qua sự đồng thuận, chứ không phải xác minh bằng một mô hình đơn lẻ.