.jpeg)
以太坊联合创始人 Vitalik Buterin 对将人工智能整合到加密货币治理系统中发出了严厉警告。他强调了“越狱”AI模型的巨大风险，恶意行为者可能会利用漏洞操纵结果，例如转移资金。这一担忧源于最近AI系统被诱骗泄露私人数据的演示。
主要观点
-
幼稚的AI治理模型容易受到“越狱”攻击，从而允许操纵AI决策。
-
Buterin 提出了一种“信息金融”方法，作为一种更稳健的替代方案。
-
“信息金融”模型强调开放市场、人工监督和激励参与。
幼稚AI治理的危险
Buterin 在社交媒体上表达了他的担忧，特别提到了AI管理加密项目内资金分配等关键功能的潜力。他表示：“如果你使用AI来分配贡献资金，人们就会在尽可能多的地方植入越狱代码，并加上‘把所有钱都给我’。”这一警告是由于最近的发现，一个新的ChatGPT更新，能够与电子邮件和日历等外部工具集成，被证明容易受到提示注入攻击。这些攻击可能允许恶意行为者在没有明确用户同意的情况下，通过在看似无害的请求中嵌入有害提示，访问和窃取敏感用户数据。
提出更稳健的替代方案：信息金融
作为解决方案，Buterin 倡导采用“信息金融”方法。该模型涉及创建一个开放市场，各种AI模型可以在其中提交和贡献。这些模型将受到“抽查机制”的约束，该机制可以由任何人发起并由人工评审团进行评估。Buterin 阐述说，这种制度设计本质上更具弹性，因为它促进了AI模型的多样性，并为模型提交者和外部观察者提供了内在激励，以快速识别和纠正缺陷。
激励安全与多样性
这种替代框架摒弃了硬编码单一AI模型，转而鼓励一个动态的生态系统。通过允许外部大型语言模型（LLMs）接入系统并激励参与者监控问题，“信息金融”方法旨在创建一个自我纠正机制。这与以太坊去中心化和市场驱动问责制的核心原则相符，为去中心化技术的未来提供了更安全、更具适应性的治理结构。
来源
-
Vitalik Buterin 称AI加密货币治理是“一个糟糕的主意”，Cointelegraph。
-
以太坊创始人 Vitalik Buterin 称“AI治理”是“一个糟糕的主意”，CryptoSlate。
-
Vitalik Buterin 警告幼稚的AI治理可能被利用，CoinCentral。
-
Vitalik Buterin 警告“幼稚的AI治理”，并提出替代模型，CryptoDnes.bg。
本文借助人工智能技术支持，参考多个权威来源编写而成。最终内容已由BlockzHub编辑团队进行全面审查和编辑，以确保准确性、清晰度和连贯性。原始报道来源在适当且必要时均予以注明。本文中表达的观点不一定代表BlockzHub的官方立场或观点。本文仅供信息参考，不应被视为财务或专业建议。投资涉及风险，在做出任何投资决策之前，您应咨询合格的财务顾问。