Manus досягнув проривних результатів у бенчмарку GAIA, що викликало суперечки щодо шляхів розвитку ШІ
Manus продемонстрував видатну продуктивність у бенчмарку GAIA, перевершивши аналоги серед великих мовних моделей. Це досягнення свідчить про те, що Manus має здатність самостійно виконувати складні завдання, такі як обробка міжнародних бізнес-угод, включаючи аналіз умов контракту, розробку стратегій та генерацію планів. Переваги Manus в основному полягають у трьох аспектах: динамічне розбиття цілей, міжмодальне міркування та посилене навчання пам'яті. Він може розбити складні завдання на сотні виконуваних підзадач, одночасно обробляючи різні типи даних і постійно підвищуючи ефективність прийняття рішень за допомогою навчання з підкріпленням, знижуючи рівень помилок.
Поява Manus знову викликала обговорення в галузі щодо шляхів розвитку штучного інтелекту: чи буде майбутнє в єдиній моделі загального штучного інтелекту (AGI), чи в співпраці систем багатьох агентів (MAS)?
Це питання стосується концепції дизайну Manus, натякаючи на два можливі напрямки розвитку:
Шлях AGI: шляхом постійного підвищення можливостей окремої інтелектуальної системи наблизити її до рівня комплексного прийняття рішень людиною.
Шлях MAS: позиціонувати Manus як суперкоординатора, який керує співпрацею тисяч професійних агентів у різних сферах.
На перший погляд, це розбіжність у технологічних шляхах, насправді відображає фундаментальний конфлікт у розвитку ШІ: як збалансувати ефективність і безпеку? Коли єдина інтелектуальна система наближається до AGI, ризик непрозорості її процесу ухвалення рішень зростає; в той час як співпраця багатьох агентів, хоча й може розподілити ризики, але може пропустити критично важливі моменти ухвалення рішень через затримки в комунікації.
Прогрес Manus неявно підкреслює вроджені ризики розвитку ШІ. Наприклад:
Проблема конфіденційності даних: у медичній сфері Manus може знадобитися доступ у режимі реального часу до геномних даних пацієнтів; під час фінансових переговорів можуть бути залучені фінансові дані компанії, які не були оприлюднені.
Алгоритмічна упередженість: під час процесу найму Manus може надавати несправедливі пропозиції щодо заробітної плати для певних груп; під час перевірки юридичних контрактів помилки в умовах нових галузей можуть досягати 50%.
Уразливість до атак з протистояння: Хакери можуть вставити певні аудіосигнали, що призводять до помилкової оцінки Manus щодо діапазону пропозицій супротивника під час переговорів.
Ці проблеми підкреслюють тривожну тенденцію: чим потужніша розумна система, тим ширшим є її потенційна площа атаки.
У сфері Web3 безпека завжди була предметом великої уваги. Теорія "неможливого трикутника", запропонована засновником Ethereum Віталіком Бутеріним (блокчейн-мережі не можуть одночасно забезпечити безпеку, децентралізацію та масштабованість), надихнула на розвиток різних криптографічних технологій:
Модель нульового довіри: дотримуючись принципу "ніколи не довіряй, завжди перевіряй", здійснюється сувера верифікація та авторизація кожного запиту на доступ.
Децентралізована ідентичність (DID): стандарт ідентифікації, який не потребує централізованих реєстраційних установ, що реалізує новий тип децентралізованого управління цифровими ідентичностями.
Повна гомоморфна криптографія (FHE): дозволяє виконувати обчислення над даними в зашифрованому вигляді, підходить для сценаріїв хмарних обчислень і аутсорсингу даних, де необхідно захистити вихідні дані.
У цих технологіях повна гомоморфна криптографія вважається ключовою технологією для вирішення проблем безпеки в епоху ШІ. Вона може забезпечити захист на кількох рівнях:
Дані рівень: Вся інформація, введена користувачем (включаючи біометричні дані, голос тощо), обробляється в зашифрованому стані, навіть сам Manus не може розшифрувати вихідні дані.
Алгоритмічний рівень: через FHE реалізація "навчання моделей з шифруванням", що робить навіть розробників неспроможними безпосередньо зрозуміти процес прийняття рішень AI.
Співпраця: Комунікація між кількома агентами здійснюється за допомогою порогового шифрування, навіть якщо один вузол буде зламано, це не призведе до витоку глобальних даних.
Хоча технології безпеки Web3 можуть здаватися далекими для звичайних користувачів, вони тісно пов'язані з інтересами кожного. У цьому складному середовищі постійне посилення заходів безпеки є ключем до того, щоб уникнути стати "пшеницею".
Декілька проектів, на які варто звернути увагу, включають:
uPort: Можливо, це один з перших децентралізованих ідентифікаційних проектів, випущених на основній мережі Ethereum.
NKN: зроблено досягнення в моделі безпеки нульового довіри.
Mind Network: як перший проект FHE, який запустився на основній мережі, вже встановив партнерство з кількома відомими установами.
Незважаючи на те, що безпечні проекти зазвичай не користуються попитом у спекулянтів, вони є вкрай важливими для довгострокового розвитку технологій штучного інтелекту та блокчейну. З наближенням технологій ШІ до рівня людського інтелекту, нетрадиційні системи захисту стають все більш важливими. FHE не тільки вирішує поточні проблеми безпеки, але й закладає основу для майбутньої ери сильного ШІ. На шляху до AGI FHE перетворилася з варіанту на необхідність для виживання.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
13 лайків
Нагородити
13
4
Поділіться
Прокоментувати
0/400
ser_we_are_ngmi
· 13год тому
Тепер це справді ngmi.
Переглянути оригіналвідповісти на0
WalletWhisperer
· 13год тому
виявлено статистичну аномалію. поведінкові патерни свідчать про 73% ймовірності домінування AGI
Переглянути оригіналвідповісти на0
AirdropFreedom
· 13год тому
Знову буде зростання монет?
Переглянути оригіналвідповісти на0
AirdropHunterZhang
· 13год тому
Ще один airdrop готовий. Завтра починаємо взаємодію з manus. Просто підготуйтесь заздалегідь.
Manus подолав GAIA тестування, що викликало суперечки щодо шляхів розвитку ШІ та безпеки
Manus досягнув проривних результатів у бенчмарку GAIA, що викликало суперечки щодо шляхів розвитку ШІ
Manus продемонстрував видатну продуктивність у бенчмарку GAIA, перевершивши аналоги серед великих мовних моделей. Це досягнення свідчить про те, що Manus має здатність самостійно виконувати складні завдання, такі як обробка міжнародних бізнес-угод, включаючи аналіз умов контракту, розробку стратегій та генерацію планів. Переваги Manus в основному полягають у трьох аспектах: динамічне розбиття цілей, міжмодальне міркування та посилене навчання пам'яті. Він може розбити складні завдання на сотні виконуваних підзадач, одночасно обробляючи різні типи даних і постійно підвищуючи ефективність прийняття рішень за допомогою навчання з підкріпленням, знижуючи рівень помилок.
Поява Manus знову викликала обговорення в галузі щодо шляхів розвитку штучного інтелекту: чи буде майбутнє в єдиній моделі загального штучного інтелекту (AGI), чи в співпраці систем багатьох агентів (MAS)?
Це питання стосується концепції дизайну Manus, натякаючи на два можливі напрямки розвитку:
Шлях AGI: шляхом постійного підвищення можливостей окремої інтелектуальної системи наблизити її до рівня комплексного прийняття рішень людиною.
Шлях MAS: позиціонувати Manus як суперкоординатора, який керує співпрацею тисяч професійних агентів у різних сферах.
На перший погляд, це розбіжність у технологічних шляхах, насправді відображає фундаментальний конфлікт у розвитку ШІ: як збалансувати ефективність і безпеку? Коли єдина інтелектуальна система наближається до AGI, ризик непрозорості її процесу ухвалення рішень зростає; в той час як співпраця багатьох агентів, хоча й може розподілити ризики, але може пропустити критично важливі моменти ухвалення рішень через затримки в комунікації.
Прогрес Manus неявно підкреслює вроджені ризики розвитку ШІ. Наприклад:
Проблема конфіденційності даних: у медичній сфері Manus може знадобитися доступ у режимі реального часу до геномних даних пацієнтів; під час фінансових переговорів можуть бути залучені фінансові дані компанії, які не були оприлюднені.
Алгоритмічна упередженість: під час процесу найму Manus може надавати несправедливі пропозиції щодо заробітної плати для певних груп; під час перевірки юридичних контрактів помилки в умовах нових галузей можуть досягати 50%.
Уразливість до атак з протистояння: Хакери можуть вставити певні аудіосигнали, що призводять до помилкової оцінки Manus щодо діапазону пропозицій супротивника під час переговорів.
Ці проблеми підкреслюють тривожну тенденцію: чим потужніша розумна система, тим ширшим є її потенційна площа атаки.
У сфері Web3 безпека завжди була предметом великої уваги. Теорія "неможливого трикутника", запропонована засновником Ethereum Віталіком Бутеріним (блокчейн-мережі не можуть одночасно забезпечити безпеку, децентралізацію та масштабованість), надихнула на розвиток різних криптографічних технологій:
Модель нульового довіри: дотримуючись принципу "ніколи не довіряй, завжди перевіряй", здійснюється сувера верифікація та авторизація кожного запиту на доступ.
Децентралізована ідентичність (DID): стандарт ідентифікації, який не потребує централізованих реєстраційних установ, що реалізує новий тип децентралізованого управління цифровими ідентичностями.
Повна гомоморфна криптографія (FHE): дозволяє виконувати обчислення над даними в зашифрованому вигляді, підходить для сценаріїв хмарних обчислень і аутсорсингу даних, де необхідно захистити вихідні дані.
У цих технологіях повна гомоморфна криптографія вважається ключовою технологією для вирішення проблем безпеки в епоху ШІ. Вона може забезпечити захист на кількох рівнях:
Дані рівень: Вся інформація, введена користувачем (включаючи біометричні дані, голос тощо), обробляється в зашифрованому стані, навіть сам Manus не може розшифрувати вихідні дані.
Алгоритмічний рівень: через FHE реалізація "навчання моделей з шифруванням", що робить навіть розробників неспроможними безпосередньо зрозуміти процес прийняття рішень AI.
Співпраця: Комунікація між кількома агентами здійснюється за допомогою порогового шифрування, навіть якщо один вузол буде зламано, це не призведе до витоку глобальних даних.
Хоча технології безпеки Web3 можуть здаватися далекими для звичайних користувачів, вони тісно пов'язані з інтересами кожного. У цьому складному середовищі постійне посилення заходів безпеки є ключем до того, щоб уникнути стати "пшеницею".
Декілька проектів, на які варто звернути увагу, включають:
Незважаючи на те, що безпечні проекти зазвичай не користуються попитом у спекулянтів, вони є вкрай важливими для довгострокового розвитку технологій штучного інтелекту та блокчейну. З наближенням технологій ШІ до рівня людського інтелекту, нетрадиційні системи захисту стають все більш важливими. FHE не тільки вирішує поточні проблеми безпеки, але й закладає основу для майбутньої ери сильного ШІ. На шляху до AGI FHE перетворилася з варіанту на необхідність для виживання.