طريق الثقة في الذكاء الاصطناعي: كيف يحل شبكة ميرا مشاكل التحيز والوهم في الذكاء الاصطناعي
مؤخراً، أثار شبكة اختبار عامة تُدعى Mira اهتمام الصناعة. تهدف هذه الشبكة إلى بناء طبقة ثقة للذكاء الاصطناعي، مما يجعلنا نتساءل: لماذا يحتاج الذكاء الاصطناعي إلى الثقة؟ وكيف تحل Mira هذه المشكلة؟
عند مناقشة الذكاء الاصطناعي، يميل الناس غالبًا إلى التركيز أكثر على قدراته القوية. ومع ذلك، فإن مسألة "الوهم" أو التحيز الموجود في الذكاء الاصطناعي هي مسألة مثيرة للاهتمام وغالبًا ما يتم تجاهلها. ما يسمى "وهم" الذكاء الاصطناعي، ببساطة، هو أن الذكاء الاصطناعي أحيانًا "يختلق"، ويتحدث بجدية دون أن يكون لديه أساس. على سبيل المثال، إذا سألت الذكاء الاصطناعي لماذا القمر وردي، فقد يقدم سلسلة من التفسيرات التي تبدو معقولة ولكنها في الواقع بلا أساس.
ترتبط "الأوهام" أو التحيزات التي تعاني منها الذكاء الاصطناعي ببعض المسارات التكنولوجية الحالية في الذكاء الاصطناعي. عادةً ما تحقق الذكاء الاصطناعي التوليدية التماسك والاتساق من خلال توقع "أكثر المحتويات احتمالية"، لكن هذه الطريقة من الصعب التحقق من صحتها. بالإضافة إلى ذلك، قد تحتوي بيانات التدريب نفسها على أخطاء أو تحيزات أو حتى محتويات خيالية، مما يؤثر على جودة مخرجات الذكاء الاصطناعي. بعبارة أخرى، يتعلم الذكاء الاصطناعي أنماط اللغة البشرية، وليس الحقائق نفسها.
إن الآلية الحالية لتوليد الاحتمالات ونموذج البيانات المدفوعة لا مفر منهما تقريبًا في إمكانية حدوث أوهام الذكاء الاصطناعي. بالنسبة للمحتوى العام أو الترفيهي، قد لا يؤدي هذا الناتج المتحيز أو الوهمي إلى عواقب مباشرة على المدى القصير. ولكن إذا حدث ذلك في مجالات تتطلب دقة عالية مثل الطب أو القانون أو الطيران أو المالية، فقد يؤدي إلى تأثيرات كبيرة. لذلك، أصبح حل أوهام الذكاء الاصطناعي والتحيزات إحدى القضايا الأساسية في عملية تطور الذكاء الاصطناعي.
بالنسبة لهذه المشكلة، اقترحت الصناعة العديد من الحلول. بعضها يستخدم تقنيات تعزيز البحث والتوليد، حيث يتم دمج الذكاء الاصطناعي مع قواعد بيانات حية، مما يعطي الأولوية لإنتاج الحقائق التي تم التحقق منها. وبعضها الآخر يقدم تعليقات بشرية، من خلال وضع علامات يدوية وإشراف بشري لتصحيح أخطاء النموذج.
تتمثل أهداف مشروع ميرا في بناء طبقة ثقة للذكاء الاصطناعي، وتقليل تحيزات الذكاء الاصطناعي والأوهام، وزيادة موثوقية الذكاء الاصطناعي. إذن، كيف تحقق ميرا هذا الهدف؟
المفهوم الأساسي لميرا هو التحقق من مخرجات الذكاء الاصطناعي من خلال توافق عدة نماذج ذكاء اصطناعي. إنها في جوهرها شبكة للتحقق، تستخدم توافق عدة نماذج ذكاء اصطناعي للتحقق من موثوقية مخرجات الذكاء الاصطناعي. والأهم من ذلك، أن ميرا تعتمد طريقة التحقق من التوافق اللامركزي.
تتمثل النقطة الأساسية في شبكة ميرا في التحقق من الإجماع اللامركزي. إنها تستفيد من الخبرة في مجال التشفير، بينما تجمع بين مزايا التعاون متعدد النماذج، من خلال نموذج التحقق الجماعي لتقليل التحيز والوهم.
فيما يتعلق بهيكل التحقق، يدعم بروتوكول ميرا تحويل المحتوى المعقد إلى بيانات يمكن التحقق منها بشكل مستقل. تتطلب هذه البيانات مشاركة مشغلي العقد في عملية التحقق. لضمان نزاهة مشغلي العقد، يعتمد ميرا على آليات الحوافز والعقوبات الاقتصادية المشفرة. تشارك نماذج الذكاء الاصطناعي المختلفة ومشغلو العقد الموزعة معًا لضمان موثوقية نتائج التحقق.
تتكون بنية شبكة ميرا من ثلاثة أجزاء: تحويل المحتوى، والتحقق الموزع، وآلية الإجماع، لتحقيق موثوقية التحقق. حيث يُعتبر تحويل المحتوى مرحلة مهمة. تقوم شبكة ميرا أولاً بتفكيك المحتوى المرشح إلى بيانات قابلة للتحقق، لضمان فهم النموذج للمحتوى في سياق مشابه. ثم يتم توزيع هذه البيانات على النظام إلى العقد للتحقق من صحتها، وتلخيص النتائج للتوصل إلى إجماع. أخيرًا، تُعاد هذه النتائج والإجماع إلى العميل. لحماية خصوصية العميل، يتم تحويل المحتوى المرشح إلى أزواج من البيانات، ويتم توزيعها على عقد مختلفة بطريقة تقطيع عشوائية، لمنع تسرب المعلومات أثناء عملية التحقق.
يكون مشغلو العقد مسؤولين عن تشغيل نموذج التحقق، ومعالجة التصريحات وتقديم نتائج التحقق. إنهم مستعدون للمشاركة في التحقق لأنهم يمكنهم الحصول على مكافآت. تأتي هذه المكافآت من القيمة التي تم إنشاؤها للعملاء. الهدف من شبكة ميرا هو تقليل معدل الأخطاء في الذكاء الاصطناعي (الأوهام والتحيزات)، وبمجرد تحقيق هذا الهدف، يمكن أن تنتج قيمة هائلة في مجالات مثل الرعاية الصحية والقانون والطيران والتمويل. لذلك، يكون العملاء مستعدين لدفع ثمن ذلك. بالطبع، تعتمد استدامة وكمية الدفع على ما إذا كانت شبكة ميرا قادرة على الاستمرار في تقديم القيمة للعملاء. لمنع سلوك المضاربة من خلال الاستجابة العشوائية للعقد، سيتم خصم رموز الرهان من العقد التي تنحرف باستمرار عن الإجماع. بشكل عام، تضمن ميرا من خلال آلية اللعبة الاقتصادية أن يشارك مشغلو العقد ب honesty في التحقق.
تقدم ميرا فكرة جديدة لتحقيق موثوقية الذكاء الاصطناعي. فهي تبني شبكة تحقق لامركزية على أساس نماذج ذكاء اصطناعي متعددة، مما يوفر موثوقية أعلى لخدمات الذكاء الاصطناعي للعملاء، ويقلل من انحياز الذكاء الاصطناعي والوهم، لتلبية احتياجات العملاء لدقة أعلى ومعدل دقة أفضل. في الوقت نفسه، توفر قيمة للعملاء وتحقق أيضًا أرباحًا لمشاركي شبكة ميرا. باختصار، تلتزم ميرا ببناء طبقة ثقة للذكاء الاصطناعي، مما سيدفع التطور العميق لتطبيقات الذكاء الاصطناعي.
في الوقت الحالي، هناك بعض أطر وكيل الذكاء الاصطناعي المعروفة التي تتعاون مع ميرا. مع إطلاق شبكة ميرا العامة للاختبار، يمكن للمستخدمين المشاركة في الاختبار من خلال Klok (وهو تطبيق محادثة يعتمد على LLM الخاص بميرا). لا يتيح استخدام تطبيق Klok فقط تجربة مخرجات الذكاء الاصطناعي الموثوقة، بل يمكن أيضًا كسب نقاط ميرا. على الرغم من أنه لم يتم الإعلان عن الاستخدامات المستقبلية لهذه النقاط، إلا أنها بلا شك توفر حافزًا إضافيًا للمستخدمين للمشاركة.
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
شبكة ميرا: تحقق الإجماع متعدد النماذج لحل مشكلات التحيز والهلوسة في الذكاء الاصطناعي
طريق الثقة في الذكاء الاصطناعي: كيف يحل شبكة ميرا مشاكل التحيز والوهم في الذكاء الاصطناعي
مؤخراً، أثار شبكة اختبار عامة تُدعى Mira اهتمام الصناعة. تهدف هذه الشبكة إلى بناء طبقة ثقة للذكاء الاصطناعي، مما يجعلنا نتساءل: لماذا يحتاج الذكاء الاصطناعي إلى الثقة؟ وكيف تحل Mira هذه المشكلة؟
عند مناقشة الذكاء الاصطناعي، يميل الناس غالبًا إلى التركيز أكثر على قدراته القوية. ومع ذلك، فإن مسألة "الوهم" أو التحيز الموجود في الذكاء الاصطناعي هي مسألة مثيرة للاهتمام وغالبًا ما يتم تجاهلها. ما يسمى "وهم" الذكاء الاصطناعي، ببساطة، هو أن الذكاء الاصطناعي أحيانًا "يختلق"، ويتحدث بجدية دون أن يكون لديه أساس. على سبيل المثال، إذا سألت الذكاء الاصطناعي لماذا القمر وردي، فقد يقدم سلسلة من التفسيرات التي تبدو معقولة ولكنها في الواقع بلا أساس.
ترتبط "الأوهام" أو التحيزات التي تعاني منها الذكاء الاصطناعي ببعض المسارات التكنولوجية الحالية في الذكاء الاصطناعي. عادةً ما تحقق الذكاء الاصطناعي التوليدية التماسك والاتساق من خلال توقع "أكثر المحتويات احتمالية"، لكن هذه الطريقة من الصعب التحقق من صحتها. بالإضافة إلى ذلك، قد تحتوي بيانات التدريب نفسها على أخطاء أو تحيزات أو حتى محتويات خيالية، مما يؤثر على جودة مخرجات الذكاء الاصطناعي. بعبارة أخرى، يتعلم الذكاء الاصطناعي أنماط اللغة البشرية، وليس الحقائق نفسها.
إن الآلية الحالية لتوليد الاحتمالات ونموذج البيانات المدفوعة لا مفر منهما تقريبًا في إمكانية حدوث أوهام الذكاء الاصطناعي. بالنسبة للمحتوى العام أو الترفيهي، قد لا يؤدي هذا الناتج المتحيز أو الوهمي إلى عواقب مباشرة على المدى القصير. ولكن إذا حدث ذلك في مجالات تتطلب دقة عالية مثل الطب أو القانون أو الطيران أو المالية، فقد يؤدي إلى تأثيرات كبيرة. لذلك، أصبح حل أوهام الذكاء الاصطناعي والتحيزات إحدى القضايا الأساسية في عملية تطور الذكاء الاصطناعي.
بالنسبة لهذه المشكلة، اقترحت الصناعة العديد من الحلول. بعضها يستخدم تقنيات تعزيز البحث والتوليد، حيث يتم دمج الذكاء الاصطناعي مع قواعد بيانات حية، مما يعطي الأولوية لإنتاج الحقائق التي تم التحقق منها. وبعضها الآخر يقدم تعليقات بشرية، من خلال وضع علامات يدوية وإشراف بشري لتصحيح أخطاء النموذج.
تتمثل أهداف مشروع ميرا في بناء طبقة ثقة للذكاء الاصطناعي، وتقليل تحيزات الذكاء الاصطناعي والأوهام، وزيادة موثوقية الذكاء الاصطناعي. إذن، كيف تحقق ميرا هذا الهدف؟
المفهوم الأساسي لميرا هو التحقق من مخرجات الذكاء الاصطناعي من خلال توافق عدة نماذج ذكاء اصطناعي. إنها في جوهرها شبكة للتحقق، تستخدم توافق عدة نماذج ذكاء اصطناعي للتحقق من موثوقية مخرجات الذكاء الاصطناعي. والأهم من ذلك، أن ميرا تعتمد طريقة التحقق من التوافق اللامركزي.
تتمثل النقطة الأساسية في شبكة ميرا في التحقق من الإجماع اللامركزي. إنها تستفيد من الخبرة في مجال التشفير، بينما تجمع بين مزايا التعاون متعدد النماذج، من خلال نموذج التحقق الجماعي لتقليل التحيز والوهم.
فيما يتعلق بهيكل التحقق، يدعم بروتوكول ميرا تحويل المحتوى المعقد إلى بيانات يمكن التحقق منها بشكل مستقل. تتطلب هذه البيانات مشاركة مشغلي العقد في عملية التحقق. لضمان نزاهة مشغلي العقد، يعتمد ميرا على آليات الحوافز والعقوبات الاقتصادية المشفرة. تشارك نماذج الذكاء الاصطناعي المختلفة ومشغلو العقد الموزعة معًا لضمان موثوقية نتائج التحقق.
تتكون بنية شبكة ميرا من ثلاثة أجزاء: تحويل المحتوى، والتحقق الموزع، وآلية الإجماع، لتحقيق موثوقية التحقق. حيث يُعتبر تحويل المحتوى مرحلة مهمة. تقوم شبكة ميرا أولاً بتفكيك المحتوى المرشح إلى بيانات قابلة للتحقق، لضمان فهم النموذج للمحتوى في سياق مشابه. ثم يتم توزيع هذه البيانات على النظام إلى العقد للتحقق من صحتها، وتلخيص النتائج للتوصل إلى إجماع. أخيرًا، تُعاد هذه النتائج والإجماع إلى العميل. لحماية خصوصية العميل، يتم تحويل المحتوى المرشح إلى أزواج من البيانات، ويتم توزيعها على عقد مختلفة بطريقة تقطيع عشوائية، لمنع تسرب المعلومات أثناء عملية التحقق.
يكون مشغلو العقد مسؤولين عن تشغيل نموذج التحقق، ومعالجة التصريحات وتقديم نتائج التحقق. إنهم مستعدون للمشاركة في التحقق لأنهم يمكنهم الحصول على مكافآت. تأتي هذه المكافآت من القيمة التي تم إنشاؤها للعملاء. الهدف من شبكة ميرا هو تقليل معدل الأخطاء في الذكاء الاصطناعي (الأوهام والتحيزات)، وبمجرد تحقيق هذا الهدف، يمكن أن تنتج قيمة هائلة في مجالات مثل الرعاية الصحية والقانون والطيران والتمويل. لذلك، يكون العملاء مستعدين لدفع ثمن ذلك. بالطبع، تعتمد استدامة وكمية الدفع على ما إذا كانت شبكة ميرا قادرة على الاستمرار في تقديم القيمة للعملاء. لمنع سلوك المضاربة من خلال الاستجابة العشوائية للعقد، سيتم خصم رموز الرهان من العقد التي تنحرف باستمرار عن الإجماع. بشكل عام، تضمن ميرا من خلال آلية اللعبة الاقتصادية أن يشارك مشغلو العقد ب honesty في التحقق.
تقدم ميرا فكرة جديدة لتحقيق موثوقية الذكاء الاصطناعي. فهي تبني شبكة تحقق لامركزية على أساس نماذج ذكاء اصطناعي متعددة، مما يوفر موثوقية أعلى لخدمات الذكاء الاصطناعي للعملاء، ويقلل من انحياز الذكاء الاصطناعي والوهم، لتلبية احتياجات العملاء لدقة أعلى ومعدل دقة أفضل. في الوقت نفسه، توفر قيمة للعملاء وتحقق أيضًا أرباحًا لمشاركي شبكة ميرا. باختصار، تلتزم ميرا ببناء طبقة ثقة للذكاء الاصطناعي، مما سيدفع التطور العميق لتطبيقات الذكاء الاصطناعي.
في الوقت الحالي، هناك بعض أطر وكيل الذكاء الاصطناعي المعروفة التي تتعاون مع ميرا. مع إطلاق شبكة ميرا العامة للاختبار، يمكن للمستخدمين المشاركة في الاختبار من خلال Klok (وهو تطبيق محادثة يعتمد على LLM الخاص بميرا). لا يتيح استخدام تطبيق Klok فقط تجربة مخرجات الذكاء الاصطناعي الموثوقة، بل يمكن أيضًا كسب نقاط ميرا. على الرغم من أنه لم يتم الإعلان عن الاستخدامات المستقبلية لهذه النقاط، إلا أنها بلا شك توفر حافزًا إضافيًا للمستخدمين للمشاركة.