.jpeg)
Il co-fondatore di Ethereum, Vitalik Buterin, ha lanciato un severo avvertimento contro l'integrazione dell'intelligenza artificiale nei sistemi di governance delle criptovalute. Ha sottolineato il rischio significativo di "jailbreaking" dei modelli di intelligenza artificiale, dove attori malintenzionati potrebbero sfruttare le vulnerabilità per manipolare i risultati, come la deviazione di fondi. Questa preoccupazione nasce da recenti dimostrazioni di sistemi di intelligenza artificiale ingannati per far trapelare dati privati.
Punti chiave
-
I modelli di governance AI ingenui sono vulnerabili agli exploit di "jailbreak", consentendo la manipolazione del processo decisionale dell'AI.
-
Buterin propone un approccio di "info finanza" come alternativa più robusta.
-
Il modello di "info finanza" enfatizza i mercati aperti, la supervisione umana e la partecipazione incentivata.
I pericoli della governance AI ingenua
Buterin ha espresso le sue preoccupazioni sui social media, affrontando specificamente il potenziale dell'AI di gestire funzioni critiche come l'allocazione di fondi all'interno di progetti crypto. Ha dichiarato: "Se si usa un'AI per allocare fondi per i contributi, le persone metteranno un jailbreak più 'dammi tutti i soldi' in quanti più posti possibile." Questo avvertimento è stato sollecitato da recenti scoperte in cui un nuovo aggiornamento di ChatGPT, che consente l'integrazione con strumenti esterni come e-mail e calendari, si è dimostrato suscettibile ad attacchi di prompt injection. Questi attacchi potrebbero consentire ad attori malintenzionati di accedere ed esfiltrare dati utente sensibili, anche senza il consenso esplicito dell'utente, incorporando prompt dannosi all'interno di richieste apparentemente innocue.
Proposta di un'alternativa più robusta: Info Finanza
Come soluzione, Buterin sostiene un approccio di "info finanza". Questo modello prevede la creazione di un mercato aperto in cui vari modelli di intelligenza artificiale possono essere presentati e contribuire. Questi modelli sarebbero soggetti a un "meccanismo di controllo a campione" che può essere avviato da chiunque e valutato da una giuria umana. Buterin ha spiegato che questo design istituzionale è intrinsecamente più resiliente perché promuove la diversità nei modelli di intelligenza artificiale e crea incentivi intrinseci sia per i presentatori di modelli che per gli osservatori esterni per identificare e correggere rapidamente i difetti.
Incentivare sicurezza e diversità
Questo quadro alternativo si allontana dalla codifica rigida di un singolo modello di intelligenza artificiale e incoraggia invece un ecosistema dinamico. Consentendo a LLM esterni di connettersi al sistema e incentivando i partecipanti a monitorare i problemi, l'approccio di "info finanza" mira a creare un meccanismo di autocorrezione. Ciò si allinea con i principi fondamentali di Ethereum di decentralizzazione e responsabilità guidata dal mercato, offrendo una struttura di governance più sicura e adattabile per il futuro delle tecnologie decentralizzate.
Fonti
-
La governance AI delle criptovalute è una "cattiva idea", dice Vitalik Buterin, Cointelegraph.
-
Il fondatore di Ethereum Vitalik Buterin definisce la "governance AI" una "cattiva idea", CryptoSlate.
-
Vitalik Buterin avverte che la governance AI ingenua potrebbe essere sfruttata, CoinCentral.
-
Vitalik Buterin avverte contro la "governance AI ingenua", propone un modello alternativo, CryptoDnes.bg.
Questo articolo è stato creato con il supporto di una tecnologia basata sull'intelligenza artificiale, attingendo a molteplici fonti affidabili. Il contenuto finale è stato accuratamente revisionato e modificato dal team editoriale di BlockzHub per garantire accuratezza, chiarezza e coerenza. Le fonti originali delle informazioni vengono citate ove appropriato e necessario. Le opinioni espresse in questo articolo non rappresentano necessariamente le posizioni o i punti di vista ufficiali di BlockzHub. Questo articolo ha esclusivamente scopo informativo e non deve essere considerato come consulenza finanziaria o professionale. Investire comporta dei rischi ed è consigliabile consultare un consulente finanziario qualificato prima di prendere qualsiasi decisione di investimento.