Manus достиг прорывных результатов в GAIA Бенчмарк, вызвав споры о путях развития ИИ
Manus продемонстрировал выдающуюся производительность в бенчмарке GAIA, превзойдя аналогичные крупные языковые модели. Это достижение свидетельствует о том, что Manus способен самостоятельно выполнять сложные задачи, такие как ведение международных коммерческих переговоров, включая анализ условий контрактов, разработку стратегий и генерацию предложений. Преимущества Manus проявляются в трех основных аспектах: динамическое разбиение целей, кросс-модальное рассуждение и обучение с усилением памяти. Он способен разбивать сложные задачи на сотни выполнимых подзадач, одновременно обрабатывая различные типы данных и постоянно повышая эффективность принятия решений и снижая уровень ошибок с помощью обучения с подкреплением.
Появление Manus снова вызвало обсуждение в отрасли о путях развития ИИ: будущее — это единая модель общего искусственного интеллекта (AGI) или совместное доминирование многоагентных систем (MAS)?
Этот вопрос касается дизайнерской концепции Manus и подразумевает два возможных направления развития:
Путь AGI: постепенное повышение способности единой интеллектуальной системы, чтобы она приближалась к уровню комплексного принятия решений человека.
MAS-путь: позиционирование Manus как суперкоординатора, который управляет совместной работой тысяч специализированных агентов.
На поверхности это разногласия по поводу технического пути, на самом деле это отражает основное противоречие в развитии ИИ: как сбалансировать эффективность и безопасность? Когда единая интеллектуальная система приближается к AGI, риск непрозрачности ее процесса принятия решений возрастает; в то время как сотрудничество многопользовательских агентов может снизить риски, но может пропустить ключевые моменты принятия решений из-за задержки в коммуникации.
Прогресс Manus невольно увеличивает присущие риски развития ИИ. Например:
Проблемы конфиденциальности данных: в медицинской сфере Manus может потребоваться доступ к геномным данным пациентов в реальном времени; в финансовых переговорах могут быть вовлечены финансовые данные компаний, не раскрытые для общественности.
Алгоритмическая предвзятость: в процессе найма Manus может давать несправедливые предложения по зарплате для определенных групп; при проверке юридических контрактов ошибка в условиях новых отраслей может достигать 50%.
Уязвимость атак: Хакеры могут внедрять специфические аудиосигналы, что приводит к ошибочной оценке Manus диапазона предложений противника во время переговоров.
Эти проблемы подчеркивают тревожную тенденцию: чем мощнее интеллектуальные системы, тем шире их потенциальные уязвимости.
В области Web3 безопасность всегда была актуальной темой. Теория "невозможного треугольника", предложенная создателем Эфириума Вом, вдохновила на развитие множества криптографических технологий:
Модель нулевого доверия: следуя принципу "никогда не доверяй, всегда проверяй", проводится строгая аутентификация и авторизация для каждого запроса на доступ.
Децентрализованная идентичность (DID): стандарт идентификации, не требующий централизованного регистрационного органа, реализующий новый тип децентрализованного управления цифровой идентичностью.
Полная гомоморфная криптография (FHE): позволяет выполнять вычисления с данными в зашифрованном виде, подходит для облачных вычислений и сценариев внешней передачи данных, требующих защиты исходных данных.
В этих технологиях полная гомоморфная криптография считается ключевой технологией для решения проблем безопасности в эпоху ИИ. Она может обеспечить защиту на нескольких уровнях:
Данные на уровне: вся информация, введенная пользователем (включая биометрические данные, голос и т. д.), обрабатывается в зашифрованном виде, и даже сам Manus не может расшифровать исходные данные.
Алгоритмический уровень: реализация "обучения моделей с шифрованием" с помощью FHE, что делает невозможным даже для разработчиков непосредственно понять процесс принятия решений ИИ.
Кооперативный уровень: связь между несколькими агентами осуществляется с использованием порогового шифрования, и даже если один узел будет взломан, это не приведет к утечке глобальных данных.
Хотя технологии безопасности Web3 могут показаться далекими для обычного пользователя, они имеют прямое отношение к интересам каждого. В этой сложной среде постоянное усиление мер безопасности является ключом к тому, чтобы не стать "韭菜".
Несколько проектов, на которые стоит обратить внимание, включают:
uPort: Возможно, это один из первых децентрализованных проектов идентификации, запущенных в основной сети Ethereum.
NKN: добились успехов в области модели безопасности с нулевым доверием.
Mind Network: как первый проект FHE, запущенный в основной сети, установил партнерство с несколькими известными учреждениями.
Несмотря на то, что безопасные проекты часто не пользуются популярностью у спекулянтов, они имеют решающее значение для долгосрочного развития технологий ИИ и блокчейна. Поскольку технологии ИИ постоянно приближаются к уровню человеческого интеллекта, нетрадиционные системы защиты становятся всё более важными. FHE не только может решить текущие проблемы безопасности, но и заложить основу для будущей эпохи сильного ИИ. На пути к AGI FHE уже превратился из опции в жизненную необходимость.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
Manus преодолел тест GAIA, вызвав споры о пути развития ИИ и безопасности
Manus достиг прорывных результатов в GAIA Бенчмарк, вызвав споры о путях развития ИИ
Manus продемонстрировал выдающуюся производительность в бенчмарке GAIA, превзойдя аналогичные крупные языковые модели. Это достижение свидетельствует о том, что Manus способен самостоятельно выполнять сложные задачи, такие как ведение международных коммерческих переговоров, включая анализ условий контрактов, разработку стратегий и генерацию предложений. Преимущества Manus проявляются в трех основных аспектах: динамическое разбиение целей, кросс-модальное рассуждение и обучение с усилением памяти. Он способен разбивать сложные задачи на сотни выполнимых подзадач, одновременно обрабатывая различные типы данных и постоянно повышая эффективность принятия решений и снижая уровень ошибок с помощью обучения с подкреплением.
Появление Manus снова вызвало обсуждение в отрасли о путях развития ИИ: будущее — это единая модель общего искусственного интеллекта (AGI) или совместное доминирование многоагентных систем (MAS)?
Этот вопрос касается дизайнерской концепции Manus и подразумевает два возможных направления развития:
Путь AGI: постепенное повышение способности единой интеллектуальной системы, чтобы она приближалась к уровню комплексного принятия решений человека.
MAS-путь: позиционирование Manus как суперкоординатора, который управляет совместной работой тысяч специализированных агентов.
На поверхности это разногласия по поводу технического пути, на самом деле это отражает основное противоречие в развитии ИИ: как сбалансировать эффективность и безопасность? Когда единая интеллектуальная система приближается к AGI, риск непрозрачности ее процесса принятия решений возрастает; в то время как сотрудничество многопользовательских агентов может снизить риски, но может пропустить ключевые моменты принятия решений из-за задержки в коммуникации.
Прогресс Manus невольно увеличивает присущие риски развития ИИ. Например:
Проблемы конфиденциальности данных: в медицинской сфере Manus может потребоваться доступ к геномным данным пациентов в реальном времени; в финансовых переговорах могут быть вовлечены финансовые данные компаний, не раскрытые для общественности.
Алгоритмическая предвзятость: в процессе найма Manus может давать несправедливые предложения по зарплате для определенных групп; при проверке юридических контрактов ошибка в условиях новых отраслей может достигать 50%.
Уязвимость атак: Хакеры могут внедрять специфические аудиосигналы, что приводит к ошибочной оценке Manus диапазона предложений противника во время переговоров.
Эти проблемы подчеркивают тревожную тенденцию: чем мощнее интеллектуальные системы, тем шире их потенциальные уязвимости.
В области Web3 безопасность всегда была актуальной темой. Теория "невозможного треугольника", предложенная создателем Эфириума Вом, вдохновила на развитие множества криптографических технологий:
Модель нулевого доверия: следуя принципу "никогда не доверяй, всегда проверяй", проводится строгая аутентификация и авторизация для каждого запроса на доступ.
Децентрализованная идентичность (DID): стандарт идентификации, не требующий централизованного регистрационного органа, реализующий новый тип децентрализованного управления цифровой идентичностью.
Полная гомоморфная криптография (FHE): позволяет выполнять вычисления с данными в зашифрованном виде, подходит для облачных вычислений и сценариев внешней передачи данных, требующих защиты исходных данных.
В этих технологиях полная гомоморфная криптография считается ключевой технологией для решения проблем безопасности в эпоху ИИ. Она может обеспечить защиту на нескольких уровнях:
Данные на уровне: вся информация, введенная пользователем (включая биометрические данные, голос и т. д.), обрабатывается в зашифрованном виде, и даже сам Manus не может расшифровать исходные данные.
Алгоритмический уровень: реализация "обучения моделей с шифрованием" с помощью FHE, что делает невозможным даже для разработчиков непосредственно понять процесс принятия решений ИИ.
Кооперативный уровень: связь между несколькими агентами осуществляется с использованием порогового шифрования, и даже если один узел будет взломан, это не приведет к утечке глобальных данных.
Хотя технологии безопасности Web3 могут показаться далекими для обычного пользователя, они имеют прямое отношение к интересам каждого. В этой сложной среде постоянное усиление мер безопасности является ключом к тому, чтобы не стать "韭菜".
Несколько проектов, на которые стоит обратить внимание, включают:
Несмотря на то, что безопасные проекты часто не пользуются популярностью у спекулянтов, они имеют решающее значение для долгосрочного развития технологий ИИ и блокчейна. Поскольку технологии ИИ постоянно приближаются к уровню человеческого интеллекта, нетрадиционные системы защиты становятся всё более важными. FHE не только может решить текущие проблемы безопасности, но и заложить основу для будущей эпохи сильного ИИ. На пути к AGI FHE уже превратился из опции в жизненную необходимость.