OPML(Học máy lạc quan) là một phương pháp suy diễn và huấn luyện mô hình AI blockchain đổi mới. So với ZKML, OPML có lợi thế về chi phí thấp và hiệu quả cao. Ngay cả trên máy tính cá nhân thông thường cũng có thể chạy các mô hình ngôn ngữ lớn, như 26GB của 7B-LLaMA.
OPML áp dụng cơ chế trò chơi xác minh, tương tự như hệ thống Truebit và Optimistic Rollup, để thực hiện dịch vụ ML phi tập trung và có thể xác minh. Quy trình của nó bao gồm:
Người yêu cầu khởi động nhiệm vụ ML
Máy chủ thực hiện nhiệm vụ và nộp kết quả lên khối.
Các xác thực viên kiểm tra kết quả, nếu có tranh chấp thì khởi động trò chơi xác thực.
Thực hiện trọng tài cuối cùng trên hợp đồng thông minh
Trò chơi xác minh một giai đoạn của OPML sử dụng giao thức định vị chính xác, thông qua máy ảo (VM) để thực hiện thực thi ngoại tuyến và trọng tài trực tuyến. Để nâng cao hiệu suất suy luận AI, OPML sử dụng thư viện DNN nhẹ được thiết kế chuyên biệt, và cung cấp hỗ trợ kịch bản chuyển đổi cho các khung ML phổ biến. Hình ảnh VM được quản lý bằng cây Merkle, chỉ tải lên trên chuỗi hàm băm gốc.
Tuy nhiên, trò chơi xác minh một giai đoạn bị giới hạn trong việc thực thi trong VM, không thể tận dụng tối đa việc tăng tốc GPU/TPU. Để khắc phục điều này, OPML đã đề xuất một giải pháp trò chơi xác minh đa giai đoạn. Ở giai đoạn không phải cuối cùng, các phép tính có thể được thực hiện linh hoạt trong môi trường địa phương, phát huy tối đa hiệu suất phần cứng. Phương pháp đa giai đoạn đã cải thiện đáng kể hiệu quả thực thi, gần bằng mức độ của môi trường gốc.
Lấy mô hình LLaMA làm ví dụ, OPML sử dụng phương pháp hai giai đoạn:
Giai đoạn thứ hai thực hiện trò chơi xác minh trên đồ thị tính toán, có thể sử dụng CPU hoặc GPU đa luồng.
Giai đoạn đầu tiên sẽ chuyển đổi tính toán của một nút đơn thành thực thi lệnh VM.
Phương pháp OPML đa giai đoạn đạt được tốc độ gia tăng α lần so với giai đoạn đơn, trong đó α là tỷ lệ gia tốc của GPU/tính toán song song. Hơn nữa, phương pháp đa giai đoạn còn làm giảm đáng kể kích thước của cây Merkle.
Để đảm bảo tính nhất quán giữa các nền tảng, OPML sử dụng thuật toán điểm cố định và thư viện số thực phần mềm, vượt qua những thách thức do sự khác biệt phần cứng mang lại.
Tổng thể, OPML cung cấp một giải pháp hiệu quả và chi phí thấp cho việc học máy trên Blockchain, với triển vọng ứng dụng rộng lớn.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
12 thích
Phần thưởng
12
5
Chia sẻ
Bình luận
0/400
TheShibaWhisperer
· 17giờ trước
Lại đến để tạo ra ý tưởng mới lừa đồ ngốc rồi.
Xem bản gốcTrả lời0
MainnetDelayedAgain
· 17giờ trước
Theo dữ liệu từ cơ sở dữ liệu, Bên dự án đã cam kết tính khả thi đã được lặp lại 78 lần rồi.
OPML: Giải pháp đào tạo và suy luận mô hình AI hiệu quả và chi phí thấp trên chuỗi khối
OPML: Giải pháp học máy Blockchain hiệu quả
OPML(Học máy lạc quan) là một phương pháp suy diễn và huấn luyện mô hình AI blockchain đổi mới. So với ZKML, OPML có lợi thế về chi phí thấp và hiệu quả cao. Ngay cả trên máy tính cá nhân thông thường cũng có thể chạy các mô hình ngôn ngữ lớn, như 26GB của 7B-LLaMA.
OPML áp dụng cơ chế trò chơi xác minh, tương tự như hệ thống Truebit và Optimistic Rollup, để thực hiện dịch vụ ML phi tập trung và có thể xác minh. Quy trình của nó bao gồm:
Trò chơi xác minh một giai đoạn của OPML sử dụng giao thức định vị chính xác, thông qua máy ảo (VM) để thực hiện thực thi ngoại tuyến và trọng tài trực tuyến. Để nâng cao hiệu suất suy luận AI, OPML sử dụng thư viện DNN nhẹ được thiết kế chuyên biệt, và cung cấp hỗ trợ kịch bản chuyển đổi cho các khung ML phổ biến. Hình ảnh VM được quản lý bằng cây Merkle, chỉ tải lên trên chuỗi hàm băm gốc.
Tuy nhiên, trò chơi xác minh một giai đoạn bị giới hạn trong việc thực thi trong VM, không thể tận dụng tối đa việc tăng tốc GPU/TPU. Để khắc phục điều này, OPML đã đề xuất một giải pháp trò chơi xác minh đa giai đoạn. Ở giai đoạn không phải cuối cùng, các phép tính có thể được thực hiện linh hoạt trong môi trường địa phương, phát huy tối đa hiệu suất phần cứng. Phương pháp đa giai đoạn đã cải thiện đáng kể hiệu quả thực thi, gần bằng mức độ của môi trường gốc.
Lấy mô hình LLaMA làm ví dụ, OPML sử dụng phương pháp hai giai đoạn:
Phương pháp OPML đa giai đoạn đạt được tốc độ gia tăng α lần so với giai đoạn đơn, trong đó α là tỷ lệ gia tốc của GPU/tính toán song song. Hơn nữa, phương pháp đa giai đoạn còn làm giảm đáng kể kích thước của cây Merkle.
Để đảm bảo tính nhất quán giữa các nền tảng, OPML sử dụng thuật toán điểm cố định và thư viện số thực phần mềm, vượt qua những thách thức do sự khác biệt phần cứng mang lại.
Tổng thể, OPML cung cấp một giải pháp hiệu quả và chi phí thấp cho việc học máy trên Blockchain, với triển vọng ứng dụng rộng lớn.