Соучредитель Ethereum Виталик Бутерин выразил обеспокоенность по поводу растущей тенденции к созданию высокоавтономных моделей ИИ, часто называемых «агентными» ИИ. Он выступает за усиление человеческого контроля для повышения как качества, так и безопасности результатов работы ИИ, утверждая, что чрезмерная независимость ИИ может снизить эффективность и привести к непредвиденным последствиям.
Ключевые выводы
-
Виталик Бутерин критикует тенденцию к созданию высокоавтономных «агентных» моделей ИИ.
-
Он выступает за усиление человеческого контроля для повышения качества и безопасности результатов работы ИИ.
-
Чрезмерная автономия ИИ может привести к неэффективности и игнорированию намерений пользователя.
-
Открытые модели с функциями редактирования и механизмами обратной связи в реальном времени считаются более перспективными.
-
Сообщество ИИ разделено: одни согласны с необходимостью человеческого контроля, а другие считают, что поведение ИИ можно регулировать с помощью точных подсказок.
Эта дискуссия последовала за недавним выпуском OpenAI своей флагманской модели ИИ, GPT-5.
Стремление к автономии ИИ
Комментарии Бутерина стали ответом на пост бывшего директора по ИИ Tesla Андрея Карпатого, который заметил, что большие языковые модели становятся чрезмерно самодостаточными, особенно при оптимизации для длительных задач. Карпатый отметил, что даже простые запросы на программирование могут включать обширный анализ ИИ, что он считает контрпродуктивным для итеративной разработки или быстрой проверки скриптов. Бутерин поддержал это мнение, заявив: «Меня расстраивает, как много разработок ИИ стремятся быть максимально «агентными», хотя на самом деле создание больше путей для человеческого вмешательства создает лучший результат... и лучше для безопасности».
Аргументы в пользу человеческого вмешательства
Бутерин подробно изложил свою позицию, предположив, что текущие модели ИИ часто упускают из виду важные нюансы в намерениях и ожиданиях пользователя, тем самым снижая их общую полезность. Он поделился своим личным опытом частого прерывания работы ИИ командами типа: «Прекрати анализ. Придерживайся этого файла. Никаких лишних инструментов. Никаких избыточных решений». Это подчеркивает его убеждение, что человеческое вмешательство жизненно важно для направления ИИ к более точным и эффективным результатам.
Он также предположил, что открытые модели с возможностями редактирования превосходят те, которые генерируют контент с нуля. Бутерин также видит потенциал в нейрокомпьютерных интерфейсах, которые могли бы отслеживать реакции пользователей на контент, сгенерированный ИИ, в режиме реального времени, что позволило бы ИИ адаптировать свое поведение в соответствии с намерениями пользователя.
Реакция сообщества
Взгляды Бутерина нашли отклик у многих в сообществе ИИ. Энтузиаст ИИ «barry farkus» поделился, что они перестали использовать помощника по кодированию ИИ Cursor из-за его склонности к чрезмерному обдумыванию и движению в неверном направлении, вернувшись к ручному копированию и вставке из таких моделей, как ChatGPT, Claude и Gemini. Инженер-программист Джан Каракаш согласился, отметив, что хотя глубокий анализ ИИ полезен, он может замедлять выполнение более простых задач.
Однако не все пользователи были согласны. «Конор» утверждал, что воспринимаемая чрезмерная автономия часто является настройкой по умолчанию, которую можно изменить с помощью явных подсказок. Он предположил, что пользователи могут направлять поведение ИИ, предоставляя четкие инструкции в системных подсказках, признавая, что для выполнения конкретных задач может потребоваться более прямое участие пользователя.
Источники
Эта статья была создана с поддержкой технологий, основанных на искусственном интеллекте, с использованием множества авторитетных источников. Финальный контент был тщательно проверен и отредактирован редакционной командой BlockzHub для обеспечения точности, ясности и согласованности. Оригинальные источники информации указаны, когда это необходимо и уместно. Мнения, выраженные в этой статье, не обязательно отражают официальные взгляды или позиции BlockzHub. Эта статья предназначена исключительно для информационных целей и не должна восприниматься как финансовый или профессиональный совет. Инвестирование связано с рисками, и перед принятием инвестиционных решений следует проконсультироваться с квалифицированным финансовым консультантом.