.jpeg)
Vitalik Buterin, co-fondateur d'Ethereum, a proposé une approche radicale pour gérer les risques associés à l'IA superintelligente. Dans un récent article de blog, il a suggéré de mettre en œuvre une "pause douce" temporaire sur la puissance de calcul mondiale pour donner à l'humanité plus de temps pour se préparer aux menaces potentielles posées par les systèmes d'IA avancés.
Points Clés
-
Buterin propose une "pause douce" sur le calcul à l'échelle industrielle pour atténuer les risques liés à l'IA superintelligente.
-
La pause pourrait réduire la puissance de calcul mondiale jusqu'à 99 % pendant un à deux ans.
-
Cette idée suit son plaidoyer pour l'"accélérationnisme défensif" (d/acc), mettant l'accent sur la prudence dans le développement de l'IA.
La proposition de Buterin intervient à la lumière des préoccupations croissantes parmi les leaders technologiques et les chercheurs concernant l'avancement rapide des technologies de l'IA. Il croit que l'IA superintelligente pourrait émerger dans les cinq prochaines années, et les conséquences pourraient être imprévisibles et potentiellement nuisibles.
Dans son article de blog, Buterin a élaboré sur le concept de "pause douce", suggérant qu'elle pourrait servir de dernier recours pour ralentir le développement de systèmes d'IA risqués. Il a souligné que cette pause ne serait pas un arrêt complet mais plutôt une réduction significative des ressources informatiques disponibles, permettant à la société de rattraper son retard et de mettre en œuvre les mesures de sécurité nécessaires.
Le Concept de l'Accélérationnisme Défensif
-
Accélérationnisme Défensif (d/acc) : Une philosophie prônant une approche prudente de l'avancement technologique, en particulier dans l'IA.
-
Accélérationnisme Efficace (e/acc) : Un point de vue contrasté qui promeut un progrès technologique sans restriction et sans surveillance significative.
L'appel de Buterin à une pause douce est ancré dans la conviction que les cadres réglementaires actuels peuvent ne pas être suffisants pour faire face aux dangers potentiels de l'IA superintelligente. Il a mentionné qu'il ne préconiserait une telle pause que s'il était convaincu que des mesures plus fortes étaient nécessaires au-delà des règles de responsabilité existantes, qui tiendraient les développeurs responsables des dommages causés par les systèmes d'IA.
Mécanismes Proposés pour la Mise en Œuvre
Pour faciliter une pause douce, Buterin a décrit plusieurs mécanismes potentiels :
-
Enregistrement du Matériel d'IA : Identifier et enregistrer les emplacements des puces d'IA pour surveiller leur utilisation.
-
Exigence de Signature : Le matériel d'IA à l'échelle industrielle pourrait être conçu pour fonctionner uniquement s'il reçoit une autorisation hebdomadaire des principaux organismes internationaux, garantissant une surveillance collective.
-
Vérification par Blockchain : Le processus d'autorisation pourrait impliquer la technologie blockchain pour assurer la transparence et la sécurité, nécessitant potentiellement des preuves à divulgation nulle de connaissance pour valider les signatures.
La vision de Buterin pour une pause douce reflète une reconnaissance croissante de la nécessité d'une approche plus mesurée du développement de l'IA. À mesure que la technologie continue d'évoluer à un rythme sans précédent, la conversation autour de ses implications pour la société devient de plus en plus critique.