Manus достиг прорывных результатов в бенчмарке GAIA, что вызвало споры о путях развития ИИ

В последнее время Manus достиг прорывных результатов в бенчмарк-тестировании GAIA, его производительность превосходит производительность крупных языковых моделей того же уровня. Этот результат показывает, что Manus способен самостоятельно выполнять сложные задачи, такие как международные бизнес-переговоры, включая разбор условий контракта, предсказание стратегии, генерацию решений, а также может координировать юридические и финансовые команды.

Преимущества Manus проявляются в трех основных аспектах: способности к динамическому разбиению целей, способности к кросс-модальному выводу и способности к обучению с усилением памяти. Он может разбивать крупные задачи на сотни выполнимых подзадач, одновременно обрабатывая различные типы данных и постоянно улучшая эффективность своих решений и снижая уровень ошибок с помощью обучения с подкреплением.

Этот прогресс снова вызвал обсуждение в отрасли о путях эволюции ИИ: будущее будет связано с универсальным искусственным интеллектом (AGI), который объединит все, или с многими агентными системами (MAS), которые будут сотрудничать и доминировать?

Дизайнерская концепция Manus подразумевает две возможные интерпретации:

1. Путь AGI: путем постоянного повышения уровня индивидуального интеллекта, чтобы он приблизился к человеческой способности к комплексному принятию решений.

2. MAS путь: в качестве суперкоординатора, руководит совместной работой тысяч агентов в вертикальных областях.

На поверхности это спор о различных путях развития, но на самом деле это отражает ключевую противоречие в развитии ИИ: как сбалансировать эффективность и безопасность. По мере того, как отдельный интеллект приближается к AGI, риск непрозрачности его решений возрастает; в то время как совместная работа множества интеллектов может снизить риски, она может также привести к упущению ключевых решений из-за задержек в коммуникации.

Прогресс Manus неявно увеличивает присущие риски развития ИИ, включая:

1. Проблемы конфиденциальности данных: в медицинских сценариях необходимо в реальном времени получать доступ к чувствительным данным пациентов; в финансовых переговорах могут быть задействованы непубличные финансовые отчеты компаний.

2. Алгоритмическая предвзятость: при переговорах о найме могут быть даны несправедливые предложения по зарплате для определенных групп; при проверке юридических контрактов вероятность ошибочной интерпретации условий новых отраслей довольно высока.

3. Уязвимость атак с противодействием: Хакеры могут внедрять определенные звуковые частоты, что может привести к неверной оценке диапазона предложений противника в процессе переговоров.

Эти проблемы подчеркивают суровую реальность: чем умнее система, тем шире её поверхность атаки.

В области Web3 безопасность всегда была важной темой. Вокруг этой темы возникло множество криптографических технологий:

1. Модель нулевого доверия: подчеркивает необходимость строгой аутентификации и авторизации для каждого запроса на доступ.

2. Децентрализованная идентичность (DID): осуществление идентификации без централизованного реестра.

3. Полная гомоморфная криптография (FHE): позволяет выполнять вычисления над зашифрованными данными без их расшифровки.

В частности, полностью гомоморфное шифрование считается ключевой технологией для решения проблем безопасности в эпоху ИИ. Оно может обеспечить защиту на нескольких уровнях:

• Данные: Вся информация, введенная пользователем, обрабатывается в зашифрованном виде, и даже сама AI-система не может расшифровать исходные данные.

• Алгоритмический уровень: реализация "обучения зашифрованной модели" с помощью FHE, что гарантирует, что даже разработчики не смогут заглянуть в путь принятия решений ИИ.

• Совместный уровень: связь между несколькими агентами осуществляется с использованием порогового шифрования, чтобы предотвратить утечку данных в результате компрометации одной точки.

Несмотря на то, что технологии безопасности Web3 могут не иметь прямой связи с обычными пользователями, они крайне важны для защиты интересов пользователей. В этой области, полной неизведанного, усиление мер безопасности является необходимым средством для предотвращения превращения в "ножки".

В истории уже было несколько проектов, которые занимались исследованиями в области безопасности Web3:

• uPort был выпущен в 2017 году на основной сети Ethereum и является одним из первых проектов децентрализованной идентификации.
• NKN запустила основную сеть на основе модели нулевого доверия в 2019 году.
• Некоторая сеть стала первым проектом FHE, запущенным в основной сети, и заключила соглашения с несколькими известными учреждениями.

С приближением технологий ИИ к уровню человеческого интеллекта, нетрадиционные системы защиты становятся все более важными. Безопасные технологии, такие как FHE, не только решают текущие проблемы, но и закладывают основу для будущей эпохи сильного ИИ. На пути к AGI эти безопасные технологии уже не являются опциональными, а становятся необходимостью для выживания.