.jpeg)
Ethereum'un kurucu ortağı Vitalik Buterin, süper zeki yapay zeka ile ilgili riskleri yönetmek için radikal bir yaklaşım önerdi. Son blog yazısında, gelişmiş yapay zeka sistemlerinin oluşturabileceği potansiyel tehditlere karşı insanlığın daha fazla hazırlık yapabilmesi için küresel bilgi işlem gücünde geçici bir "yumuşak duraklama" uygulanmasını önerdi.
Önemli Çıkarımlar
-
Buterin, süper zeki yapay zekadan kaynaklanan riskleri azaltmak için endüstriyel ölçekli bilgi işlemde "yumuşak bir duraklama" öneriyor.
-
Duraklama, küresel bilgi işlem gücünü bir ila iki yıl boyunca %99'a kadar azaltabilir.
-
Bu fikir, yapay zeka geliştirmede temkinli olunmasını vurgulayan "savunmacı hızlanma" (d/acc) savunuculuğunu takip ediyor.
Buterin'in önerisi, teknoloji liderleri ve araştırmacılar arasında yapay zeka teknolojilerinin hızlı ilerlemesiyle ilgili artan endişeler ışığında geliyor. Süper zeki yapay zekanın önümüzdeki beş yıl içinde ortaya çıkabileceğine ve sonuçlarının öngörülemez ve potansiyel olarak zararlı olabileceğine inanıyor.
Blog yazısında Buterin, "yumuşak duraklama" kavramını detaylandırarak, bunun riskli yapay zeka sistemlerinin gelişimini yavaşlatmak için son çare olarak hizmet edebileceğini öne sürdü. Bu duraklamanın tam bir durma değil, mevcut bilgi işlem kaynaklarında önemli bir azalma olacağını ve toplumun gerekli güvenlik önlemlerini alabilmesi için zaman kazanacağını vurguladı.
Savunmacı Hızlanma Kavramı
-
Savunmacı Hızlanma (d/acc): Özellikle yapay zekada teknolojik ilerlemeye temkinli bir yaklaşımı savunan bir felsefe.
-
Etkili Hızlanma (e/acc): Önemli bir denetim olmaksızın sınırsız teknolojik ilerlemeyi teşvik eden zıt bir bakış açısı.
Buterin'in yumuşak duraklama çağrısı, mevcut düzenleyici çerçevelerin süper zeki yapay zekanın potansiyel tehlikelerini ele almak için yeterli olmayabileceği inancına dayanıyor. Yapay zeka sistemlerinin neden olduğu zararlar için geliştiricileri sorumlu tutacak mevcut sorumluluk kurallarının ötesinde daha güçlü önlemlerin gerekli olduğuna ikna edilirse böyle bir duraklamayı savunacağını belirtti.
Uygulama İçin Önerilen Mekanizmalar
Yumuşak bir duraklamayı kolaylaştırmak için Buterin birkaç potansiyel mekanizma önerdi:
-
Yapay Zeka Donanımının Kaydedilmesi: Yapay zeka çiplerinin kullanımını izlemek için yerlerinin belirlenmesi ve kaydedilmesi.
-
İmza Gerekliliği: Endüstriyel ölçekli yapay zeka donanımı, büyük uluslararası kuruluşlardan haftalık yetkilendirme alması durumunda çalışacak şekilde tasarlanabilir, böylece kolektif denetim sağlanır.
-
Blok Zinciri Doğrulaması: Yetkilendirme süreci, şeffaflık ve güvenliği sağlamak için blok zinciri teknolojisini içerebilir, imzaları doğrulamak için sıfır bilgi kanıtları gerektirebilir.
Buterin'in yumuşak duraklama vizyonu, yapay zeka gelişimine daha ölçülü bir yaklaşım ihtiyacının artan bir şekilde kabul edildiğini yansıtıyor. Teknoloji benzeri görülmemiş bir hızla gelişmeye devam ederken, toplum üzerindeki etkileri hakkındaki tartışmalar giderek daha kritik hale geliyor.