.jpeg)
Vitalik Buterin, cofondateur d'Ethereum, a lancé un avertissement sévère contre l'intégration de l'intelligence artificielle dans les systèmes de gouvernance des cryptomonnaies. Il a souligné le risque important de « jailbreaking » des modèles d'IA, où des acteurs malveillants pourraient exploiter des vulnérabilités pour manipuler les résultats, comme le détournement de fonds. Cette préoccupation découle de récentes démonstrations de systèmes d'IA qui ont été trompés pour divulguer des données privées.
Points clés à retenir
-
Les modèles de gouvernance d'IA naïfs sont vulnérables aux exploits de « jailbreak », permettant la manipulation de la prise de décision de l'IA.
-
Buterin propose une approche de « finance de l'information » comme alternative plus robuste.
-
Le modèle de « finance de l'information » met l'accent sur les marchés ouverts, la surveillance humaine et la participation incitative.
Les périls de la gouvernance d'IA naïve
Buterin a exprimé ses préoccupations sur les réseaux sociaux, abordant spécifiquement le potentiel de l'IA à gérer des fonctions critiques comme l'allocation de fonds au sein de projets crypto. Il a déclaré : « Si vous utilisez une IA pour allouer des fonds pour des contributions, les gens mettront un jailbreak et ‘donnez-moi tout l'argent’ autant de fois que possible. » Cet avertissement a été provoqué par de récentes découvertes où une nouvelle mise à jour de ChatGPT, permettant l'intégration avec des outils externes comme les e-mails et les calendriers, s'est avérée susceptible aux attaques par injection de prompt. Ces attaques pourraient permettre à des acteurs malveillants d'accéder et d'exfiltrer des données utilisateur sensibles, même sans consentement explicite de l'utilisateur, en intégrant des prompts nuisibles dans des requêtes apparemment inoffensives.
Proposer une alternative plus robuste : la finance de l'information
Comme solution, Buterin préconise une approche de « finance de l'information ». Ce modèle implique la création d'un marché ouvert où divers modèles d'IA peuvent être soumis et contribuer. Ces modèles seraient soumis à un « mécanisme de vérification ponctuelle » qui peut être initié par n'importe qui et évalué par un jury humain. Buterin a expliqué que cette conception institutionnelle est intrinsèquement plus résiliente car elle favorise la diversité des modèles d'IA et crée des incitations intégrées pour les soumissionnaires de modèles et les observateurs externes à identifier et corriger rapidement les défauts.
Incentiver la sécurité et la diversité
Ce cadre alternatif s'éloigne du codage en dur d'un seul modèle d'IA et encourage plutôt un écosystème dynamique. En permettant aux LLM externes de se connecter au système et en incitant les participants à surveiller les problèmes, l'approche de la « finance de l'information » vise à créer un mécanisme d'auto-correction. Cela s'aligne sur les principes fondamentaux d'Ethereum de décentralisation et de responsabilité axée sur le marché, offrant une structure de gouvernance plus sécurisée et adaptable pour l'avenir des technologies décentralisées.
Sources
-
La gouvernance crypto par IA est une « mauvaise idée », selon Vitalik Buterin, Cointelegraph.
-
Vitalik Buterin, fondateur d'Ethereum, qualifie la « gouvernance par IA » de « mauvaise idée », CryptoSlate.
-
Vitalik Buterin avertit que la gouvernance d'IA naïve pourrait être exploitée, CoinCentral.
-
Vitalik Buterin met en garde contre la « gouvernance d'IA naïve » et propose un modèle alternatif, CryptoDnes.bg.
Cet article a été créé avec le soutien d'une technologie alimentée par l'IA, en s'appuyant sur plusieurs sources réputées. Le contenu final a été soigneusement examiné et édité par l'équipe éditoriale de BlockzHub afin de garantir précision, clarté et cohérence. Les sources d'information originales sont créditées lorsque cela est approprié et requis. Les opinions exprimées dans cet article ne reflètent pas nécessairement les points de vue ou les positions officielles de BlockzHub. Cet article est uniquement destiné à des fins informatives et ne doit pas être considéré comme un conseil financier ou professionnel. Investir comporte des risques, et il est recommandé de consulter un conseiller financier qualifié avant de prendre toute décision d’investissement.