.jpeg)
Ethereum kurucu ortağı Vitalik Buterin, yapay zekanın kripto para yönetişim sistemlerine entegrasyonuna karşı sert bir uyarıda bulundu. Kötü niyetli aktörlerin, fonları yönlendirmek gibi sonuçları manipüle etmek için güvenlik açıklarını istismar edebileceği yapay zeka modellerini "jailbreak" etme riskinin önemli olduğunu vurguladı. Bu endişe, yapay zeka sistemlerinin özel verileri sızdırmak için kandırıldığı son gösterilerden kaynaklanıyor.
Temel Çıkarımlar
-
Saf yapay zeka yönetişim modelleri, yapay zeka karar alma süreçlerinin manipülasyonuna izin veren "jailbreak" istismarlarına karşı savunmasızdır.
-
Buterin, daha sağlam bir alternatif olarak bir "bilgi finansmanı" yaklaşımı öneriyor.
-
"Bilgi finansmanı" modeli, açık piyasaları, insan denetimini ve teşvik edilmiş katılımı vurgular.
Saf Yapay Zeka Yönetişiminin Tehlikeleri
Buterin, sosyal medyada endişelerini dile getirerek, özellikle yapay zekanın kripto projeleri içindeki fon tahsisi gibi kritik işlevleri yönetme potansiyeline değindi. Şunları belirtti: "Katkılar için fon tahsis etmek üzere bir yapay zeka kullanırsanız, insanlar mümkün olduğunca çok yere bir jailbreak ve 'tüm parayı bana ver' komutunu yerleştirecektir." Bu uyarı, e-posta ve takvim gibi harici araçlarla entegrasyonu sağlayan yeni bir ChatGPT güncellemesinin, komut enjeksiyon saldırılarına karşı savunmasız olduğunun gösterildiği son bulgularla tetiklendi. Bu saldırılar, kötü niyetli aktörlerin, zararsız görünen isteklerin içine zararlı komutlar yerleştirerek, açık kullanıcı izni olmasa bile hassas kullanıcı verilerine erişmesine ve bunları dışarı sızdırmasına olanak tanıyabilir.
Daha Sağlam Bir Alternatif Önermek: Bilgi Finansmanı
Bir çözüm olarak Buterin, bir "bilgi finansmanı" yaklaşımını savunuyor. Bu model, çeşitli yapay zeka modellerinin sunulabileceği ve katkıda bulunabileceği açık bir pazar oluşturmayı içeriyor. Bu modeller, herkes tarafından başlatılabilen ve bir insan jürisi tarafından değerlendirilen bir "nokta kontrol mekanizmasına" tabi olacaktır. Buterin, bu kurumsal tasarımın, yapay zeka modellerinde çeşitliliği teşvik etmesi ve hem model sunucuları hem de harici gözlemciler için kusurları hızlı bir şekilde tespit edip düzeltmek için yerleşik teşvikler yaratması nedeniyle doğası gereği daha dirençli olduğunu açıkladı.
Güvenliği ve Çeşitliliği Teşvik Etmek
Bu alternatif çerçeve, tek bir yapay zeka modelini sabit kodlamaktan uzaklaşarak dinamik bir ekosistemi teşvik ediyor. Harici büyük dil modellerinin (LLM'ler) sisteme dahil olmasına izin vererek ve katılımcıları sorunları izlemeye teşvik ederek, "bilgi finansmanı" yaklaşımı kendi kendini düzelten bir mekanizma yaratmayı hedefliyor. Bu, Ethereum'un merkeziyetsizlik ve piyasa odaklı hesap verebilirlik temel ilkeleriyle uyumlu olup, merkeziyetsiz teknolojilerin geleceği için daha güvenli ve uyarlanabilir bir yönetişim yapısı sunuyor.
Kaynaklar
-
Vitalik Buterin: Yapay Zeka Destekli Kripto Yönetişimi 'Kötü Bir Fikir', Cointelegraph.
-
Ethereum kurucusu Vitalik Buterin, 'yapay zeka yönetişimini' “kötü bir fikir” olarak nitelendiriyor, CryptoSlate.
-
Vitalik Buterin, Saf Yapay Zeka Yönetişiminin İstismar Edilebileceği Konusunda Uyarıyor, CoinCentral.
-
Vitalik Buterin “Saf Yapay Zeka Yönetişimine” Karşı Uyarıyor, Alternatif Model Öneriyor, CryptoDnes.bg.
Bu makale, yapay zeka destekli teknolojinin yardımıyla oluşturulmuş ve birçok güvenilir kaynaktan yararlanılarak hazırlanmıştır. Nihai içerik, doğruluk, açıklık ve tutarlılığı sağlamak amacıyla BlockzHub editör ekibi tarafından titizlikle gözden geçirilmiş ve düzenlenmiştir. Orijinal haber kaynakları, uygun ve gerekli görüldüğünde belirtilmiştir. Bu makalede ifade edilen görüşler, BlockzHub'ın resmi görüş veya pozisyonlarını mutlaka yansıtmaz. Makale yalnızca bilgilendirme amaçlıdır ve finansal veya profesyonel bir tavsiye olarak değerlendirilmemelidir. Yatırım yapmak risk içerir; herhangi bir yatırım kararı vermeden önce nitelikli bir finansal danışmana danışmanız önerilir.