.jpeg)
Vitalik Buterin, co-fondatore di Ethereum, ha proposto un approccio radicale per gestire i rischi associati all'IA superintelligente. In un recente post sul blog, ha suggerito di implementare una temporanea "pausa morbida" sulla potenza di calcolo globale per consentire all'umanità più tempo per prepararsi alle potenziali minacce poste dai sistemi avanzati di IA.
Punti Chiave
-
Buterin propone una "pausa morbida" sulla potenza di calcolo su scala industriale per mitigare i rischi dell'IA superintelligente.
-
La pausa potrebbe ridurre la potenza di calcolo globale fino al 99% per uno o due anni.
-
Questa idea segue la sua difesa del "accelerationismo difensivo" (d/acc), sottolineando la cautela nello sviluppo dell'IA.
La proposta di Buterin arriva alla luce delle crescenti preoccupazioni tra i leader tecnologici e i ricercatori riguardo al rapido avanzamento delle tecnologie IA. Crede che l'IA superintelligente potrebbe emergere entro i prossimi cinque anni e le conseguenze potrebbero essere imprevedibili e potenzialmente dannose.
Nel suo post sul blog, Buterin ha elaborato il concetto di "pausa morbida", suggerendo che potrebbe servire come ultima risorsa per rallentare lo sviluppo di sistemi IA rischiosi. Ha sottolineato che questa pausa non sarebbe un arresto completo ma piuttosto una significativa riduzione delle risorse di calcolo disponibili, permettendo alla società di recuperare e implementare le misure di sicurezza necessarie.
Il Concetto di Accelerationismo Difensivo
-
Accelerationismo Difensivo (d/acc): Una filosofia che sostiene un approccio cauto al progresso tecnologico, in particolare nell'IA.
-
Accelerationismo Efficace (e/acc): Un punto di vista contrastante che promuove un progresso tecnologico senza restrizioni e senza una supervisione significativa.
La richiesta di Buterin per una pausa morbida è radicata nella convinzione che gli attuali quadri normativi potrebbero non essere sufficienti per affrontare i potenziali pericoli dell'IA superintelligente. Ha menzionato che sosterrebbe una tale pausa solo se convinto che fossero necessarie misure più forti oltre alle regole di responsabilità esistenti, che renderebbero gli sviluppatori responsabili dei danni causati dai sistemi IA.
Meccanismi Proposti per l'Implementazione
Per facilitare una pausa morbida, Buterin ha delineato diversi potenziali meccanismi:
-
Registrazione dell'Hardware IA: Identificare e registrare le posizioni dei chip IA per monitorarne l'uso.
-
Requisito di Firma: L'hardware IA su scala industriale potrebbe essere progettato per operare solo se riceve un'autorizzazione settimanale da parte dei principali organismi internazionali, garantendo una supervisione collettiva.
-
Verifica tramite Blockchain: Il processo di autorizzazione potrebbe coinvolgere la tecnologia blockchain per garantire trasparenza e sicurezza, richiedendo potenzialmente prove a conoscenza zero per convalidare le firme.
La visione di Buterin per una pausa morbida riflette un crescente riconoscimento della necessità di un approccio più misurato allo sviluppo dell'IA. Man mano che la tecnologia continua a evolversi a un ritmo senza precedenti, la conversazione sulle sue implicazioni per la società diventa sempre più critica.