Manus alcançou resultados inovadores nos testes de Referência GAIA, gerando debate sobre o caminho do desenvolvimento da IA

Recentemente, o Manus alcançou resultados inovadores nos testes de Referência GAIA, com desempenho superior ao de grandes modelos de linguagem da mesma camada. Este resultado indica que o Manus possui a capacidade de realizar tarefas complexas de forma independente, como negociações comerciais internacionais, incluindo a decomposição de cláusulas contratuais, previsão de estratégias, geração de propostas, e até mesmo a coordenação de equipes jurídicas e financeiras.

As vantagens do Manus manifestam-se principalmente em três aspectos: capacidade de desagregação de objetivos dinâmicos, capacidade de raciocínio multimodal e capacidade de aprendizado reforçado com memória. Ele consegue desmembrar grandes tarefas em centenas de subtarefas executáveis, enquanto processa vários tipos de dados e aprimora continuamente a sua eficiência de decisão através do aprendizado reforçado, reduzindo a taxa de erros.

Este progresso suscitou novamente discussões na indústria sobre o caminho da evolução da IA: o futuro será uma unificação sob a Inteligência Artificial Geral (AGI) ou a liderança colaborativa de Sistemas Multi-Agentes (MAS)?

O conceito de design do Manus implica duas possibilidades:

1. Caminho AGI: Através da melhoria contínua do nível de inteligência individual, aproximando-se da capacidade de tomada de decisão abrangente dos humanos.

2. Caminho MAS: como super coordenador, dirige milhares de agentes de domínio vertical a trabalharem em conjunto.

À primeira vista, trata-se de uma discussão sobre diferentes caminhos de desenvolvimento, mas na realidade reflete a contradição central no desenvolvimento da IA: como equilibrar eficiência e segurança. À medida que a inteligência individual se aproxima da AGI, o risco de decisões opacas aumenta; enquanto a colaboração entre múltiplos agentes pode dispersar riscos, pode também perder momentos críticos de decisão devido a atrasos na comunicação.

O progresso do Manus amplifica, de forma invisível, os riscos inerentes ao desenvolvimento da IA, incluindo:

1. Problemas de privacidade de dados: no cenário médico, é necessário acessar em tempo real os dados sensíveis dos pacientes; nas negociações financeiras, pode envolver informações financeiras não divulgadas da empresa.

2. Viés algorítmico: durante as negociações de recrutamento, pode haver propostas de salários injustas para grupos específicos; na revisão de contratos legais, a taxa de erro na interpretação de cláusulas de setores emergentes é alta.

3. Vulnerabilidade de ataque adversarial: os hackers podem implantar frequências de áudio específicas, fazendo com que o sistema interprete erroneamente a faixa de preços do oponente durante as negociações.

Esses problemas destacam uma realidade severa: quanto mais inteligente o sistema, maior a sua superfície de ataque.

No domínio do Web3, a segurança tem sido um tema de grande atenção. Em torno deste tema, surgiram várias soluções de tecnologia criptográfica:

1. Modelo de segurança de zero confiança: enfatiza a autenticação e autorização rigorosas de cada solicitação de acesso.

2. Identidade Descentralizada (DID): permitir a identificação sem um registo centralizado.

3. Criptografia Homomórfica Total (FHE): permite realizar cálculos sobre dados criptografados sem precisar descriptografá-los.

Entre eles, a criptografia homomórfica é considerada a tecnologia chave para resolver problemas de segurança na era da IA. Ela pode fornecer proteção em vários níveis:

• Nível de dados: Todas as informações inseridas pelos usuários são processadas em estado de encriptação, e até mesmo o próprio sistema de IA não consegue decifrar os dados originais.

• Nível de algoritmo: implementar "treinamento de modelo criptografado" através de FHE, garantindo que nem os desenvolvedores consigam espiar o caminho de decisão da IA.

• Nível de colaboração: A comunicação entre múltiplos agentes utiliza criptografia de limiar para evitar a exposição de dados globais devido a vazamentos de ponto único.

Embora a tecnologia de segurança Web3 possa não ter uma ligação direta com os usuários comuns, é crucial para proteger os interesses dos usuários. Neste campo repleto de incertezas, reforçar a proteção de segurança é um meio necessário para evitar se tornar um "rebanho".

Historicamente, vários projetos exploraram o campo da segurança em Web3:

• uPort foi lançado na mainnet Ethereum em 2017, sendo um dos primeiros projetos de identidade descentralizada.
• A NKN lançou a sua mainnet baseada no modelo de segurança de zero confiança em 2019.
• Uma rede é o primeiro projeto FHE a ser lançado na mainnet, tendo estabelecido parcerias com várias instituições renomadas.

Com o avanço da tecnologia de IA em direção ao nível de inteligência humana, sistemas de defesa não convencionais tornaram-se cada vez mais importantes. Tecnologias de segurança como FHE não apenas resolvem problemas atuais, mas também estabelecem uma base para a era da IA forte no futuro. No caminho para a AGI, essas tecnologias de segurança já não são opções, mas sim necessidades para a sobrevivência.