以太坊联合创始人 Vitalik Buterin 对日益增长的高度自主人工智能模型（常被称为“智能体”AI）的趋势表达了担忧。他主张加强人类监督，以提高AI输出的质量和安全性，认为过度的人工智能独立性会阻碍效率并导致意想不到的后果。
主要观点
-
Vitalik Buterin 批评高度自主的“智能体”AI 模型趋势。
-
他主张增加人类控制，以提高人工智能输出的质量和安全性。
-
过度的人工智能自主性可能导致效率低下和对用户意图的忽视。
-
具有编辑功能和实时反馈机制的开放模型被认为更有前景。
-
人工智能社区存在分歧，一些人同意需要人类监督，另一些人则认为人工智能行为可以通过精确提示来管理。
此次讨论是在 OpenAI 最近发布其旗舰人工智能模型 GPT-5 之后进行的。
迈向人工智能自主性
Buterin 的评论是对特斯拉前人工智能总监 Andrej Karpathy 一篇帖子的回应，Karpathy 观察到大型语言模型正变得过于自给自足，尤其是在针对耗时任务进行优化时。Karpathy 指出，即使是简单的编程请求也可能涉及大量的人工智能分析，他认为这对于迭代开发或快速脚本检查而言是适得其反的。Buterin 对此表示赞同，称：“很多 AI 开发都试图尽可能地‘智能体化’，这让我感到沮丧，而实际上，创造更多人类输入路径既能产生更好的输出……也更有利于安全。”
人类干预的必要性
Buterin 阐述了他的立场，指出当前的人工智能模型经常忽视用户意图和期望中的关键细微之处，从而降低了它们的整体效用。他分享了自己经常用“停止分析。只处理这个文件。不需要额外工具。不需要冗余解决方案。”等命令打断人工智能的个人经历。这突显了他认为人类干预对于引导人工智能实现更精确和高效的结果至关重要。
他进一步提出，具有编辑能力的开放模型优于那些从零开始生成内容的模型。Buterin 还看到了脑机接口的潜力，这些接口可以实时监测用户对人工智能生成内容的反应，从而使人工智能行为能够更好地适应用户意图。
社区反应
Buterin 的观点在人工智能社区引起了许多人的共鸣。人工智能爱好者“barry farkus”分享说，他们已经停止使用人工智能编码助手 Cursor，因为它倾向于过度思考并走向错误的方向，转而从 ChatGPT、Claude 和 Gemini 等模型手动复制粘贴。软件工程师 Can Karakas 表示同意，指出虽然人工智能的深度分析有益，但它可能会减慢更简单的任务。
然而，并非所有用户都表示同意。“Conor”认为，感知到的过度自主性通常是可以通过明确提示修改的默认设置。他建议用户可以通过在系统提示中提供清晰的指令来引导人工智能行为，并承认特定任务可能需要更直接的用户输入。
来源
本文借助人工智能技术支持，参考多个权威来源编写而成。最终内容已由BlockzHub编辑团队进行全面审查和编辑，以确保准确性、清晰度和连贯性。原始报道来源在适当且必要时均予以注明。本文中表达的观点不一定代表BlockzHub的官方立场或观点。本文仅供信息参考，不应被视为财务或专业建议。投资涉及风险，在做出任何投资决策之前，您应咨询合格的财务顾问。