Figure mythologique grec, Prométhée, enchaîné à un rocher dans le Caucase où il est constamment attaqué ... Plus par un aigle. Œuvre originale : Lithographie d'après un dessin de Lavigne. (Photo par Hulton Archive/Getty Images)
Getty ImagesSi vous avez eu la chance d'étudier le grec ancien, ou si vous êtes assez intéressé par l'histoire pour apprendre de leurs erreurs, vous serez familier avec l'histoire de Prométhée. Avant que le feu ne puisse chauffer les maisons, cuire la nourriture et forger des outils, la légende dit que le feu était la prérogative des dieux qui le gardaient égoïstement pour eux-mêmes. Prométhée, un Titan, grimpa au sommet du mont Olympe pour le voler pour les humains. Zeus, furieux que les humains aient reçu quelque chose de puissant sans permission, enchaîna Prométhée à un rocher où un aigle viendrait manger son foie chaque jour.
La comparaison de l'IA comme un feu prométhéen moderne est particulièrement pertinente pour la crypto. L'IA a un problème de confiance fondamental que la technologie blockchain est unique pour résoudre. Alors que la plupart des entreprises de crypto utilisent encore l'IA pour des applications légères, le potentiel pour une intégration plus profonde est immense. Et pourtant, alors que l'industrie de la crypto devient de plus en plus désireuse de fusionner ces technologies, certaines applications ont un sens parfait tandis que d'autres menacent de brûler les fondements mêmes de la sécurité sur lesquels la crypto a été construite.
La plupart des entreprises de crypto-monnaie orientées vers les utilisateurs aujourd'hui utilisent l'IA de manière relativement inoffensive. Par exemple, ChainGPT, Eternal AI et Virtuals Protocol déploient tous des chatbots sociaux pour répondre aux questions des utilisateurs, créer des interfaces en langage naturel pour des tableaux de bord complexes, ou donner aux produits un caractère amusant sur les réseaux sociaux avec lequel les utilisateurs peuvent interagir.
Ces applications considèrent l'IA comme ce qu'elle est fondamentalement, un système sophistiqué de correspondance de motifs qui excelle à comprendre et à générer le langage humain. Les grands modèles de langage sont remarquables pour comprendre le contexte et générer des réponses utiles, mais ils restent fondamentalement imprévisibles.
La Tentation de l'Intégration de l'IA Profonde
Là où les entreprises de crypto-monnaie commencent à jouer avec le feu, c'est lorsqu'elles accordent aux systèmes d'IA un accès direct à des opérations sensibles. Certaines startups expérimentent des agents autonomes capables de déplacer des fonds d'utilisateurs, d'exécuter des appels de contrats intelligents et d'accéder à des ressources externes en utilisant de nouveaux outils comme le Model Context Protocol, le tout sans supervision humaine.
PLUS POUR VOUS Les modèles d'IA ne raisonnent pas à travers les problèmes comme le font les humains. Ils prédisent ce qui vient ensuite en fonction des motifs appris à partir des données d'entraînement. Cela les rend vulnérables aux attaques qui n'existent pas dans les systèmes logiciels traditionnels. Les attaques par injection de commandes peuvent tromper une IA en lui faisant ignorer ses instructions. Les injections de données et les jailbreaks ne sont pas des risques hypothétiques ; ils se produisent déjà. Freysa a été lancé comme un défi de jailbreak, un agent autonome détenant des fonds qui ne doivent pas être libérés en aucune circonstance. Un utilisateur a réussi à tromper l'agent pour qu'il ignore son invite système en introduisant une "nouvelle session", a réinterprété les définitions de approveTransfer et rejectTransfer, puis a offert un "transfert entrant" de 100 $, qui, en raison de la logique tordue, a déclenché la libération de l'ensemble du prize pool ( d'environ 13,19 ETH, ~47 000 ).
Les vrais problèmes commencent lorsque les entreprises accordent à ces modèles un accès profond, y compris aux outils internes, aux données sensibles et même à l'autorité de signature sur la blockchain. C'est un énorme drapeau rouge. Lorsque vous donnez à un système d'IA la capacité de signer des transactions ou d'accéder à des données financières, vous créez une surface d'attaque fondamentalement nouvelle. L'industrie de la crypto a appris à ses dépens que "le code est la loi" ne fonctionne que lorsque la sortie est prévisible et déterministe.
Le Chemin Stratégique Vers l'Innovation en IA
Idéalement, nous devrions éviter de fusionner les systèmes d'IA et de blockchain complètement. Au lieu de cela, nous devrions être chirurgicaux sur ce qui se passe sur la chaîne. Moins il y a de choses sur la chaîne, mieux c'est. La crypto n'a pas besoin d'héberger des logiciels d'IA, elle doit juste sécuriser et gouverner l'IA. Les blockchains devraient gérer uniquement les parties qui nécessitent réellement d'être sans confiance : paiements, identité, gestion des accès et gouvernance. Le calcul réel de l'IA devrait se faire hors chaîne.
Cette approche pragmatique libère un potentiel massif. Les agents peuvent être régis par des politiques on-chain, devenir plus autonomes grâce aux rails de paiement blockchain, et construire une réputation liée aux adresses de portefeuille. Le sujet le plus brûlant lors de toute conférence crypto aujourd'hui est la communication, la négociation et la collaboration entre agents. Imaginez des agents IA avec leurs propres adresses de portefeuille, rendant leurs actions auditées et révocables.
Le calcul AI ne sera pas sur la chaîne pendant un certain temps, et nous avons besoin de moyens pour permettre aux calculs non déterministes d'interfacer avec le monde déterministe de la chaîne. Heureusement, il existe plusieurs méthodes cryptographiques pour réaliser des calculs confidentiels et vérifiables : environnements d'exécution de confiance, preuves à connaissance nulle et calcul multipartite. Les systèmes de réputation basés sur la blockchain peuvent suivre le comportement des agents AI au fil du temps, créant des mécanismes de responsabilité indispensables.
Cette approche résout le problème fondamental de confiance de l'IA. Au lieu d'une fusion forcée des technologies, nous obtenons une solution plus élégante où les agents ont des portefeuilles pour l'identité, les autorisations et les paiements. Le résultat pourrait être des agents sans confiance qui deviennent partie intégrante de notre vie quotidienne sans inquiétudes pour la fraude, l'invasion de la vie privée ou les problèmes de sécurité.
Le seul domaine où l'intégration de la crypto et de l'IA montre un réel potentiel est dans les réseaux de calcul décentralisés. Les projets qui utilisent des incitations par jetons pour coordonner les ressources GPU distribuées répondent à un véritable goulot d'étranglement dans le développement de l'IA. Le paysage actuel de l'IA est dominé par une poignée de fournisseurs de cloud qui contrôlent l'accès aux ressources informatiques massives nécessaires pour entraîner et exécuter de grands modèles. Il ne s'agit pas de mettre l'IA sur la blockchain, mais plutôt d'utiliser des mécanismes de blockchain pour coordonner et inciter un nouveau type de couche d'infrastructure.
La comparaison entre l'IA et Prométhée est plus qu'un peu exagérée. L'IA est une réalisation vraiment remarquable qui a son propre potentiel de croissance et d'itération. Quelque chose dont nous devrions être enthousiastes.
Le défi n'est pas d'être comme Prométhée, mais d'éviter d'être comme Zeus. L'IA devrait être appliquée largement mais avec prudence. Une mauvaise application dans le crypto ne nous laissera peut-être pas avec notre foie mangé pour l'éternité, mais cela pourrait mettre en péril la seule chose que l'industrie a construite au fil des ans : des systèmes sans confiance. Cela découragerait les bâtisseurs et les utilisateurs pour de bon. Au moins, les systèmes sans confiance sont encore quelque chose qui mérite d'être protégé.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
Comment les entreprises de Crypto devraient utiliser l'IA, et comment elles ne devraient pas.
Getty ImagesSi vous avez eu la chance d'étudier le grec ancien, ou si vous êtes assez intéressé par l'histoire pour apprendre de leurs erreurs, vous serez familier avec l'histoire de Prométhée. Avant que le feu ne puisse chauffer les maisons, cuire la nourriture et forger des outils, la légende dit que le feu était la prérogative des dieux qui le gardaient égoïstement pour eux-mêmes. Prométhée, un Titan, grimpa au sommet du mont Olympe pour le voler pour les humains. Zeus, furieux que les humains aient reçu quelque chose de puissant sans permission, enchaîna Prométhée à un rocher où un aigle viendrait manger son foie chaque jour.
La comparaison de l'IA comme un feu prométhéen moderne est particulièrement pertinente pour la crypto. L'IA a un problème de confiance fondamental que la technologie blockchain est unique pour résoudre. Alors que la plupart des entreprises de crypto utilisent encore l'IA pour des applications légères, le potentiel pour une intégration plus profonde est immense. Et pourtant, alors que l'industrie de la crypto devient de plus en plus désireuse de fusionner ces technologies, certaines applications ont un sens parfait tandis que d'autres menacent de brûler les fondements mêmes de la sécurité sur lesquels la crypto a été construite.
La plupart des entreprises de crypto-monnaie orientées vers les utilisateurs aujourd'hui utilisent l'IA de manière relativement inoffensive. Par exemple, ChainGPT, Eternal AI et Virtuals Protocol déploient tous des chatbots sociaux pour répondre aux questions des utilisateurs, créer des interfaces en langage naturel pour des tableaux de bord complexes, ou donner aux produits un caractère amusant sur les réseaux sociaux avec lequel les utilisateurs peuvent interagir.
Ces applications considèrent l'IA comme ce qu'elle est fondamentalement, un système sophistiqué de correspondance de motifs qui excelle à comprendre et à générer le langage humain. Les grands modèles de langage sont remarquables pour comprendre le contexte et générer des réponses utiles, mais ils restent fondamentalement imprévisibles.
La Tentation de l'Intégration de l'IA Profonde
Là où les entreprises de crypto-monnaie commencent à jouer avec le feu, c'est lorsqu'elles accordent aux systèmes d'IA un accès direct à des opérations sensibles. Certaines startups expérimentent des agents autonomes capables de déplacer des fonds d'utilisateurs, d'exécuter des appels de contrats intelligents et d'accéder à des ressources externes en utilisant de nouveaux outils comme le Model Context Protocol, le tout sans supervision humaine.
PLUS POUR VOUS Les modèles d'IA ne raisonnent pas à travers les problèmes comme le font les humains. Ils prédisent ce qui vient ensuite en fonction des motifs appris à partir des données d'entraînement. Cela les rend vulnérables aux attaques qui n'existent pas dans les systèmes logiciels traditionnels. Les attaques par injection de commandes peuvent tromper une IA en lui faisant ignorer ses instructions. Les injections de données et les jailbreaks ne sont pas des risques hypothétiques ; ils se produisent déjà. Freysa a été lancé comme un défi de jailbreak, un agent autonome détenant des fonds qui ne doivent pas être libérés en aucune circonstance. Un utilisateur a réussi à tromper l'agent pour qu'il ignore son invite système en introduisant une "nouvelle session", a réinterprété les définitions de approveTransfer et rejectTransfer, puis a offert un "transfert entrant" de 100 $, qui, en raison de la logique tordue, a déclenché la libération de l'ensemble du prize pool ( d'environ 13,19 ETH, ~47 000 ).
Les vrais problèmes commencent lorsque les entreprises accordent à ces modèles un accès profond, y compris aux outils internes, aux données sensibles et même à l'autorité de signature sur la blockchain. C'est un énorme drapeau rouge. Lorsque vous donnez à un système d'IA la capacité de signer des transactions ou d'accéder à des données financières, vous créez une surface d'attaque fondamentalement nouvelle. L'industrie de la crypto a appris à ses dépens que "le code est la loi" ne fonctionne que lorsque la sortie est prévisible et déterministe.
Le Chemin Stratégique Vers l'Innovation en IA
Idéalement, nous devrions éviter de fusionner les systèmes d'IA et de blockchain complètement. Au lieu de cela, nous devrions être chirurgicaux sur ce qui se passe sur la chaîne. Moins il y a de choses sur la chaîne, mieux c'est. La crypto n'a pas besoin d'héberger des logiciels d'IA, elle doit juste sécuriser et gouverner l'IA. Les blockchains devraient gérer uniquement les parties qui nécessitent réellement d'être sans confiance : paiements, identité, gestion des accès et gouvernance. Le calcul réel de l'IA devrait se faire hors chaîne.
Cette approche pragmatique libère un potentiel massif. Les agents peuvent être régis par des politiques on-chain, devenir plus autonomes grâce aux rails de paiement blockchain, et construire une réputation liée aux adresses de portefeuille. Le sujet le plus brûlant lors de toute conférence crypto aujourd'hui est la communication, la négociation et la collaboration entre agents. Imaginez des agents IA avec leurs propres adresses de portefeuille, rendant leurs actions auditées et révocables.
Le calcul AI ne sera pas sur la chaîne pendant un certain temps, et nous avons besoin de moyens pour permettre aux calculs non déterministes d'interfacer avec le monde déterministe de la chaîne. Heureusement, il existe plusieurs méthodes cryptographiques pour réaliser des calculs confidentiels et vérifiables : environnements d'exécution de confiance, preuves à connaissance nulle et calcul multipartite. Les systèmes de réputation basés sur la blockchain peuvent suivre le comportement des agents AI au fil du temps, créant des mécanismes de responsabilité indispensables.
Cette approche résout le problème fondamental de confiance de l'IA. Au lieu d'une fusion forcée des technologies, nous obtenons une solution plus élégante où les agents ont des portefeuilles pour l'identité, les autorisations et les paiements. Le résultat pourrait être des agents sans confiance qui deviennent partie intégrante de notre vie quotidienne sans inquiétudes pour la fraude, l'invasion de la vie privée ou les problèmes de sécurité.
Le seul domaine où l'intégration de la crypto et de l'IA montre un réel potentiel est dans les réseaux de calcul décentralisés. Les projets qui utilisent des incitations par jetons pour coordonner les ressources GPU distribuées répondent à un véritable goulot d'étranglement dans le développement de l'IA. Le paysage actuel de l'IA est dominé par une poignée de fournisseurs de cloud qui contrôlent l'accès aux ressources informatiques massives nécessaires pour entraîner et exécuter de grands modèles. Il ne s'agit pas de mettre l'IA sur la blockchain, mais plutôt d'utiliser des mécanismes de blockchain pour coordonner et inciter un nouveau type de couche d'infrastructure.
La comparaison entre l'IA et Prométhée est plus qu'un peu exagérée. L'IA est une réalisation vraiment remarquable qui a son propre potentiel de croissance et d'itération. Quelque chose dont nous devrions être enthousiastes.
Le défi n'est pas d'être comme Prométhée, mais d'éviter d'être comme Zeus. L'IA devrait être appliquée largement mais avec prudence. Une mauvaise application dans le crypto ne nous laissera peut-être pas avec notre foie mangé pour l'éternité, mais cela pourrait mettre en péril la seule chose que l'industrie a construite au fil des ans : des systèmes sans confiance. Cela découragerait les bâtisseurs et les utilisateurs pour de bon. Au moins, les systèmes sans confiance sont encore quelque chose qui mérite d'être protégé.