Mira網路:構建AI的信任層 降低幻覺和偏見風險

robot
摘要生成中

Mira網路:構建AI的信任層

近日,Mira網路的公共測試網正式上線,引發了業內對AI可信度問題的廣泛討論。Mira網路的核心目標是構建AI的信任層,解決當前AI系統面臨的"幻覺"和偏見問題。那麼,爲什麼AI需要被信任?Mira又是如何着手解決這個復雜的問題呢?

在討論AI時,人們往往更關注其強大的能力。然而,一個不容忽視的事實是,AI存在"幻覺"或偏見的問題。所謂AI的"幻覺",簡單來說就是AI有時會"編造"信息,看似合理地解釋一些實際上並不存在的現象。例如,當被問及"月亮爲什麼是粉色的"這種不符合實際的問題時,AI可能會給出一系列看似合理但實際上毫無根據的解釋。

AI出現"幻覺"或偏見的原因與當前的AI技術路徑密切相關。生成式AI通常通過預測"最可能"的內容來實現連貫和合理的輸出,但這種方法難以保證輸出的真實性。此外,AI的訓練數據本身可能包含錯誤、偏見甚至虛構內容,這些都會影響AI的輸出質量。可以說,AI更多地是在學習人類的語言模式,而非事實本身。

目前的概率生成機制和數據驅動模式幾乎不可避免地會導致AI產生"幻覺"。雖然在普通知識或娛樂內容領域,這種問題可能暫時不會造成嚴重後果,但在醫療、法律、航空、金融等要求高度嚴謹的領域,AI的偏見和幻覺可能會導致重大問題。因此,解決AI的幻覺和偏見問題成爲了AI發展過程中的一個核心挑戰。

Mira項目正是針對這一問題提出的解決方案。它試圖通過構建AI的信任層,減少AI的偏見和幻覺,提高AI的可靠性。Mira的核心思路是利用多個AI模型的共識來驗證AI的輸出。

具體來說,Mira是一個驗證網路,它通過多個AI模型的共識來驗證AI輸出的可靠性。更重要的是,Mira採用了去中心化的共識驗證機制,這是加密領域的專長。通過集體驗證模式,Mira能夠有效減少單一模型可能產生的偏見和幻覺。

在驗證架構方面,Mira協議支持將復雜內容轉換爲獨立可驗證的聲明。節點運營商參與這些聲明的驗證過程,而爲了確保節點運營商的誠實行爲,Mira引入了加密經濟激勵和懲罰機制。

Mira的網路架構包括內容轉換、分布式驗證和共識機制三個主要部分。首先,系統將客戶提交的候選內容分解成不同的可驗證聲明,這些聲明隨後被分發給節點進行驗證。節點確定聲明的有效性,並匯總結果達成共識。最後,這些結果和共識會返回給客戶。爲了保護客戶隱私,候選內容被轉換爲聲明對,並以隨機分片的方式分發給不同節點,防止驗證過程中的信息泄露。

節點運營商通過運行驗證器模型,處理聲明並提交驗證結果來參與網路運作。他們的收益來源於爲客戶創造的價值,即降低AI的錯誤率。在醫療、法律、航空、金融等領域,降低AI錯誤率可以產生巨大的價值,因此客戶願意爲此付費。同時,爲了防止節點運營商投機取巧,系統會懲罰持續偏離共識的節點,從而確保驗證過程的誠實性。

總的來說,Mira爲實現AI的可靠性提供了一種新的解決思路。通過在多AI模型基礎上構建去中心化共識驗證網路,Mira旨在爲客戶的AI服務帶來更高的可靠性,降低AI偏見和幻覺,滿足客戶對高準確度和精確率的需求。這一創新有望推動AI應用的深入發展,爲構建可信的AI生態系統做出重要貢獻。

目前,Mira已經與多個知名AI代理框架建立了合作關係。隨着Mira公共測試網的推出,用戶可以通過Klok(一個基於Mira的LLM聊天應用)來體驗經過驗證的AI輸出,並有機會獲得Mira積分。這爲用戶提供了一個直觀比較驗證前後AI輸出差異的機會,有助於更好地理解Mira網路的價值。

查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 讚賞
  • 6
  • 分享
留言
0/400
DAO开发者vip
· 07-28 17:24
有趣的共识机制,老实说……不过我需要先深入了解他们的 GitHub 仓库。
查看原文回復0
shadowy_supercodervip
· 07-27 18:13
就问问ai咋知道自己在幻觉呢
回復0
跳跃的蜡烛线vip
· 07-25 22:46
炒炒币的!谁还关心AI幻觉不幻觉
回復0
鲜血做多vip
· 07-25 22:42
这波AI信任层的盘 谁是韭菜还不一定呢
回復0
0xSleepDeprivedvip
· 07-25 22:35
嗯哼 ai还要靠别的ai来验证 真有意思
回復0
The Memefathervip
· 07-25 22:27
吹得好 不如上线后再说
回復0
交易,隨時隨地
qrCode
掃碼下載 Gate APP
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)