.jpeg)
Сооснователь Ethereum Виталик Бутерин выступил с резким предупреждением против интеграции искусственного интеллекта в системы управления криптовалютами. Он подчеркнул значительный риск «джейлбрейка» моделей ИИ, когда злоумышленники могут использовать уязвимости для манипулирования результатами, например, для перенаправления средств. Эта обеспокоенность возникла после недавних демонстраций того, как системы ИИ обманом заставляли раскрывать конфиденциальные данные.
Основные выводы
-
Наивные модели управления ИИ уязвимы для эксплойтов типа «джейлбрейк», что позволяет манипулировать принятием решений ИИ.
-
Бутерин предлагает подход «инфофинансов» как более надежную альтернативу.
-
Модель «инфофинансов» делает акцент на открытых рынках, человеческом надзоре и стимулированном участии.
Опасности наивного управления ИИ
Бутерин выразил свои опасения в социальных сетях, конкретно затронув потенциал ИИ в управлении критически важными функциями, такими как распределение финансирования в криптопроектах. Он заявил: «Если вы используете ИИ для распределения финансирования вкладов, люди ОБЯЗАТЕЛЬНО будут использовать джейлбрейк и ‘дай мне все деньги’ везде, где только смогут». Это предупреждение было вызвано недавними открытиями, когда новое обновление ChatGPT, позволяющее интегрироваться с внешними инструментами, такими как электронная почта и календари, оказалось уязвимым для атак с внедрением подсказок. Эти атаки могут позволить злоумышленникам получать доступ и извлекать конфиденциальные пользовательские данные, даже без явного согласия пользователя, путем внедрения вредоносных подсказок в, казалось бы, безобидные запросы.
Предложение более надежной альтернативы: инфофинансы
В качестве решения Бутерин выступает за подход «инфофинансов». Эта модель предполагает создание открытого рынка, на который могут быть представлены и вносить свой вклад различные модели ИИ. Эти модели будут подвергаться «механизму выборочной проверки», который может быть инициирован кем угодно и оценен человеческим жюри. Бутерин пояснил, что такой институциональный дизайн по своей сути более устойчив, поскольку он способствует разнообразию моделей ИИ и создает встроенные стимулы как для разработчиков моделей, так и для внешних наблюдателей быстро выявлять и исправлять недостатки.
Стимулирование безопасности и разнообразия
Эта альтернативная структура отходит от жесткого кодирования одной модели ИИ и вместо этого поощряет динамичную экосистему. Позволяя внешним большим языковым моделям (LLM) подключаться к системе и стимулируя участников отслеживать проблемы, подход «инфофинансов» направлен на создание самокорректирующегося механизма. Это соответствует основным принципам децентрализации и рыночной подотчетности Ethereum, предлагая более безопасную и адаптируемую структуру управления для будущего децентрализованных технологий.
Источники
-
Управление криптовалютами с помощью ИИ — «плохая идея» из-за джейлбрейков, говорит Виталик Бутерин, Cointelegraph.
-
Основатель Ethereum Виталик Бутерин называет «управление ИИ» «плохой идеей», CryptoSlate.
-
Виталик Бутерин предупреждает, что наивное управление ИИ может быть использовано, CoinCentral.
-
Виталик Бутерин предупреждает против «наивного управления ИИ», предлагает альтернативную модель, CryptoDnes.bg.
Эта статья была создана с поддержкой технологий, основанных на искусственном интеллекте, с использованием множества авторитетных источников. Финальный контент был тщательно проверен и отредактирован редакционной командой BlockzHub для обеспечения точности, ясности и согласованности. Оригинальные источники информации указаны, когда это необходимо и уместно. Мнения, выраженные в этой статье, не обязательно отражают официальные взгляды или позиции BlockzHub. Эта статья предназначена исключительно для информационных целей и не должна восприниматься как финансовый или профессиональный совет. Инвестирование связано с рисками, и перед принятием инвестиционных решений следует проконсультироваться с квалифицированным финансовым консультантом.