.jpeg)
以太坊联合创始人Vitalik Buterin提出了一种激进的方法来管理与超级智能AI相关的风险。在最近的一篇博客文章中，他建议实施临时的“软暂停”全球计算能力，以便人类有更多时间为先进AI系统可能带来的潜在威胁做好准备。
关键要点
-
Buterin提议对工业规模的计算进行“软暂停”，以减轻超级智能AI带来的风险。
-
暂停可能会在一到两年内将全球计算能力减少多达99%。
-
这一想法源于他对“防御性加速主义”（d/acc）的倡导，强调在AI开发中保持谨慎。
Buterin的提议是在科技领袖和研究人员对AI技术快速发展日益担忧的背景下提出的。他认为超级智能AI可能会在未来五年内出现，其后果可能是不可预测的，甚至是有害的。
在他的博客文章中，Buterin详细阐述了“软暂停”的概念，建议这可以作为减缓风险AI系统发展的最后手段。他强调，这种暂停不会是完全停止，而是对可用计算资源的显著减少，使社会能够赶上并实施必要的安全措施。
防御性加速主义的概念
-
防御性加速主义（d/acc）：一种提倡对技术进步，特别是AI，采取谨慎态度的哲学。
-
有效加速主义（e/acc）：一种相反的观点，主张在没有重大监督的情况下不受限制地推进技术进步。
Buterin呼吁进行软暂停的根源在于相信当前的监管框架可能不足以应对超级智能AI的潜在危险。他提到，只有在确信需要比现有责任规则更强有力的措施时，他才会倡导这样的暂停，这些规则将使开发者对AI系统造成的损害负责。
实施的建议机制
为了促进软暂停，Buterin概述了几种潜在的机制：
-
AI硬件注册：识别和注册AI芯片的位置以监控其使用情况。
-
签名要求：工业规模的AI硬件可以设计为仅在获得主要国际机构的每周授权后才能运行，以确保集体监督。
-
区块链验证：授权过程可以涉及区块链技术以确保透明性和安全性，可能需要零知识证明来验证签名。
Buterin对软暂停的愿景反映了对AI开发采取更为谨慎态度的日益认可。随着技术以空前的速度继续发展，围绕其对社会影响的讨论变得越来越重要。