OPML( Machine Learning Lạc Quan ) là một công nghệ AI blockchain mới, nó sử dụng phương pháp lạc quan để thực hiện suy luận và đào tạo mô hình AI. So với ZKML, OPML có ưu điểm chi phí thấp và hiệu quả cao. Rào cản ứng dụng của OPML rất thấp, máy tính PC thông thường không cần GPU vẫn có thể chạy các mô hình ngôn ngữ lớn, chẳng hạn như mô hình 7B-LLaMA có kích thước 26GB.
OPML áp dụng cơ chế trò chơi xác minh để đảm bảo tính phi tập trung và sự đồng thuận có thể xác minh của dịch vụ ML. Quy trình làm việc của nó như sau:
Bên khởi xướng đề xuất nhiệm vụ dịch vụ ML
Máy chủ hoàn thành nhiệm vụ và đưa kết quả lên chuỗi.
Người xác thực kiểm tra kết quả, nếu có ý kiến khác thì khởi động trò chơi xác thực
Thực hiện trọng tài từng bước thông qua hợp đồng thông minh
Trò chơi xác thực một giai đoạn
Chơi trò chơi xác thực một giai đoạn đã tham khảo nguyên lý của ủy thác tính toán (RDoC), giả định nhiều bên thực hiện cùng một chương trình, sau đó xác định bước tranh chấp thông qua sự nghi ngờ chính xác, cuối cùng được trọng tài bởi hợp đồng thông minh trên chuỗi.
Trò chơi xác minh một giai đoạn của OPML bao gồm các yếu tố sau:
Xây dựng máy ảo thực thi ngoài chuỗi và trọng tài trên chuỗi (VM)
Thực hiện thư viện DNN nhẹ để cải thiện hiệu suất suy luận AI
Sử dụng biên dịch chéo để biên dịch mã mô hình AI thành lệnh VM
Sử dụng cây Merkle để quản lý hình ảnh VM, chỉ tải lên hash gốc lên chuỗi.
Trong thử nghiệm, một mô hình DNN phân loại MNIST cơ bản có thể hoàn thành suy diễn trên PC trong vòng 2 giây, toàn bộ quá trình thử thách mất khoảng 2 phút.
Trò chơi xác thực đa giai đoạn
Giới hạn của trò chơi xác minh đơn giai đoạn là tất cả các phép toán phải được thực hiện trong VM, không thể tận dụng GPU/TPU để tăng tốc. Để khắc phục điều này, OPML đã đề xuất mở rộng giao thức đa giai đoạn:
Chỉ tính toán giai đoạn cuối trong VM
Các giai đoạn khác có thể thực hiện trong môi trường cục bộ, sử dụng phần cứng tăng tốc như CPU, GPU.
Nâng cao hiệu suất thực thi đáng kể bằng cách giảm sự phụ thuộc vào VM
Nhiều giai đoạn OPML lấy mô hình LLaMA làm ví dụ, áp dụng phương pháp hai giai đoạn:
Giai đoạn thứ hai thực hiện xác minh trò chơi trên đồ thị tính toán, có thể sử dụng CPU đa luồng hoặc GPU.
Giai đoạn đầu tiên sẽ chuyển đổi tính toán của nút đơn thành lệnh VM
Khi tính toán một nút trong đồ thị tính toán vẫn phức tạp, có thể đưa vào nhiều giai đoạn hơn để nâng cao hiệu quả.
Cải tiến hiệu suất
Phân tích cho thấy, OPML hai giai đoạn có thể đạt được tốc độ tăng α lần so với giai đoạn đơn, với α đại diện cho tỷ lệ tăng tốc của GPU hoặc tính toán song song. Hơn nữa, kích thước cây Merkle của OPML hai giai đoạn là O(m+n), nhỏ hơn nhiều so với giai đoạn đơn là O(mn).
Tính nhất quán và tính xác định
Để đảm bảo tính nhất quán của kết quả ML, OPML áp dụng hai phương pháp:
Sử dụng thuật toán định điểm ( công nghệ định lượng ) giảm thiểu lỗi làm tròn số thực.
Sử dụng thư viện điểm nổi phần mềm nhất quán đa nền tảng
Các công nghệ này giúp vượt qua những thách thức do biến số dấu phẩy động và sự khác biệt giữa các nền tảng, nâng cao độ tin cậy của tính toán OPML.
OPML vs ZKML
OPML hiện đang tập trung chủ yếu vào suy diễn mô hình ML, nhưng khung cũng hỗ trợ quá trình đào tạo. Dự án OPML vẫn đang trong quá trình phát triển, chào mừng những người quan tâm tham gia đóng góp.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
OPML: Học máy lạc quan hỗ trợ sự phát triển AI Blockchain với chi phí thấp và hiệu quả cao
OPML: Sử dụng phương pháp lạc quan trong học máy
OPML( Machine Learning Lạc Quan ) là một công nghệ AI blockchain mới, nó sử dụng phương pháp lạc quan để thực hiện suy luận và đào tạo mô hình AI. So với ZKML, OPML có ưu điểm chi phí thấp và hiệu quả cao. Rào cản ứng dụng của OPML rất thấp, máy tính PC thông thường không cần GPU vẫn có thể chạy các mô hình ngôn ngữ lớn, chẳng hạn như mô hình 7B-LLaMA có kích thước 26GB.
OPML áp dụng cơ chế trò chơi xác minh để đảm bảo tính phi tập trung và sự đồng thuận có thể xác minh của dịch vụ ML. Quy trình làm việc của nó như sau:
Trò chơi xác thực một giai đoạn
Chơi trò chơi xác thực một giai đoạn đã tham khảo nguyên lý của ủy thác tính toán (RDoC), giả định nhiều bên thực hiện cùng một chương trình, sau đó xác định bước tranh chấp thông qua sự nghi ngờ chính xác, cuối cùng được trọng tài bởi hợp đồng thông minh trên chuỗi.
Trò chơi xác minh một giai đoạn của OPML bao gồm các yếu tố sau:
Trong thử nghiệm, một mô hình DNN phân loại MNIST cơ bản có thể hoàn thành suy diễn trên PC trong vòng 2 giây, toàn bộ quá trình thử thách mất khoảng 2 phút.
Trò chơi xác thực đa giai đoạn
Giới hạn của trò chơi xác minh đơn giai đoạn là tất cả các phép toán phải được thực hiện trong VM, không thể tận dụng GPU/TPU để tăng tốc. Để khắc phục điều này, OPML đã đề xuất mở rộng giao thức đa giai đoạn:
Nhiều giai đoạn OPML lấy mô hình LLaMA làm ví dụ, áp dụng phương pháp hai giai đoạn:
Khi tính toán một nút trong đồ thị tính toán vẫn phức tạp, có thể đưa vào nhiều giai đoạn hơn để nâng cao hiệu quả.
Cải tiến hiệu suất
Phân tích cho thấy, OPML hai giai đoạn có thể đạt được tốc độ tăng α lần so với giai đoạn đơn, với α đại diện cho tỷ lệ tăng tốc của GPU hoặc tính toán song song. Hơn nữa, kích thước cây Merkle của OPML hai giai đoạn là O(m+n), nhỏ hơn nhiều so với giai đoạn đơn là O(mn).
Tính nhất quán và tính xác định
Để đảm bảo tính nhất quán của kết quả ML, OPML áp dụng hai phương pháp:
Các công nghệ này giúp vượt qua những thách thức do biến số dấu phẩy động và sự khác biệt giữa các nền tảng, nâng cao độ tin cậy của tính toán OPML.
OPML vs ZKML
OPML hiện đang tập trung chủ yếu vào suy diễn mô hình ML, nhưng khung cũng hỗ trợ quá trình đào tạo. Dự án OPML vẫn đang trong quá trình phát triển, chào mừng những người quan tâm tham gia đóng góp.