.jpeg)
Виталик Бутерин, соучредитель Ethereum, предложил радикальный подход к управлению рисками, связанными с суперинтеллектуальным ИИ. В недавнем блоге он предложил ввести временную "мягкую паузу" в глобальной вычислительной мощности, чтобы дать человечеству больше времени для подготовки к потенциальным угрозам, исходящим от продвинутых ИИ-систем.
Ключевые моменты
-
Бутерин предлагает "мягкую паузу" в промышленном масштабе вычислений для снижения рисков от суперинтеллектуального ИИ.
-
Пауза может сократить глобальную вычислительную мощность до 99% на один-два года.
-
Эта идея следует за его поддержкой "оборонительного акцелерационизма" (d/acc), подчеркивающего осторожность в развитии ИИ.
Предложение Бутерина появилось на фоне растущих опасений среди технологических лидеров и исследователей по поводу быстрого развития технологий ИИ. Он считает, что суперинтеллектуальный ИИ может появиться в течение следующих пяти лет, и последствия могут быть непредсказуемыми и потенциально опасными.
В своем блоге Бутерин подробно изложил концепцию "мягкой паузы", предложив, что она может служить последним средством для замедления развития рискованных ИИ-систем. Он подчеркнул, что эта пауза не будет полным прекращением, а скорее значительным сокращением доступных вычислительных ресурсов, позволяя обществу наверстать упущенное и внедрить необходимые меры безопасности.
Концепция оборонительного акцелерационизма
-
Оборонительный акцелерационизм (d/acc): философия, выступающая за осторожный подход к технологическому развитию, особенно в области ИИ.
-
Эффективный акцелерационизм (e/acc): противоположная точка зрения, которая продвигает неограниченный технологический прогресс без значительного контроля.
Призыв Бутерина к мягкой паузе основан на убеждении, что текущие регуляторные рамки могут быть недостаточными для решения потенциальных опасностей суперинтеллектуального ИИ. Он упомянул, что будет поддерживать такую паузу только в том случае, если будет убежден, что необходимы более строгие меры, выходящие за рамки существующих правил ответственности, которые будут привлекать разработчиков к ответственности за ущерб, причиненный ИИ-системами.
Предлагаемые механизмы реализации
Для облегчения мягкой паузы Бутерин изложил несколько потенциальных механизмов:
-
Регистрация оборудования ИИ: идентификация и регистрация местоположений ИИ-чипов для мониторинга их использования.
-
Требование подписи: промышленное оборудование ИИ может быть спроектировано так, чтобы работать только при получении еженедельной авторизации от крупных международных организаций, обеспечивая коллективный надзор.
-
Проверка на блокчейне: процесс авторизации может включать технологию блокчейн для обеспечения прозрачности и безопасности, возможно, требуя доказательства с нулевым разглашением для проверки подписей.
Видение Бутерина о мягкой паузе отражает растущее признание необходимости более взвешенного подхода к развитию ИИ. По мере того как технологии продолжают развиваться с беспрецедентной скоростью, разговор о их последствиях для общества становится все более критичным.