.jpeg)
이더리움 공동 창립자 비탈릭 부테린은 인공지능을 암호화폐 거버넌스 시스템에 통합하는 것에 대해 강력한 경고를 발표했습니다. 그는 악의적인 행위자들이 취약점을 악용하여 자금 유용과 같은 결과를 조작할 수 있는 AI 모델 "탈옥(jailbreaking)"의 심각한 위험성을 강조했습니다. 이러한 우려는 AI 시스템이 개인 데이터를 유출하도록 속임을 당하는 최근 시연에서 비롯되었습니다.
주요 내용
-
순진한 AI 거버넌스 모델은 "탈옥" 공격에 취약하여 AI 의사결정 조작을 허용합니다.
-
부테린은 보다 강력한 대안으로 "정보 금융(info finance)" 접근 방식을 제안합니다.
-
"정보 금융" 모델은 개방형 시장, 인간의 감독, 그리고 인센티브가 부여된 참여를 강조합니다.
순진한 AI 거버넌스의 위험성
부테린은 소셜 미디어에서 자신의 우려를 표명하며, 특히 암호화폐 프로젝트 내에서 자금 할당과 같은 중요한 기능을 AI가 관리할 가능성에 대해 언급했습니다. 그는 "만약 기여에 대한 자금 할당에 AI를 사용한다면, 사람들은 가능한 한 많은 곳에 탈옥과 '모든 돈을 내게 줘'를 심을 것"이라고 말했습니다. 이 경고는 이메일 및 캘린더와 같은 외부 도구와의 통합을 가능하게 하는 새로운 ChatGPT 업데이트가 프롬프트 주입 공격에 취약하다는 최근 발견에 의해 촉발되었습니다. 이러한 공격은 악의적인 행위자들이 겉보기에 무해한 요청 내에 유해한 프롬프트를 삽입함으로써 명시적인 사용자 동의 없이도 민감한 사용자 데이터에 접근하고 유출할 수 있도록 허용할 수 있습니다.
더 강력한 대안 제안: 정보 금융
해결책으로 부테린은 "정보 금융" 접근 방식을 옹호합니다. 이 모델은 다양한 AI 모델이 제출되고 기여할 수 있는 개방형 시장을 만드는 것을 포함합니다. 이러한 모델들은 누구든지 시작할 수 있고 인간 배심원에 의해 평가될 수 있는 "현장 점검 메커니즘"의 대상이 될 것입니다. 부테린은 이러한 제도적 설계가 AI 모델의 다양성을 촉진하고 모델 제출자와 외부 관찰자 모두에게 결함을 신속하게 식별하고 수정할 수 있는 내재된 인센티브를 제공하기 때문에 본질적으로 더 탄력적이라고 설명했습니다.
보안 및 다양성 장려
이 대안적 프레임워크는 단일 AI 모델을 하드코딩하는 방식에서 벗어나 동적인 생태계를 장려합니다. 외부 LLM이 시스템에 연결되도록 허용하고 참가자들이 문제를 모니터링하도록 인센티브를 제공함으로써, "정보 금융" 접근 방식은 자체 수정 메커니즘을 만들고자 합니다. 이는 이더리움의 탈중앙화 및 시장 중심 책임이라는 핵심 원칙과 일치하며, 탈중앙화 기술의 미래를 위한 보다 안전하고 적응 가능한 거버넌스 구조를 제공합니다.
출처
-
비탈릭 부테린, AI 암호화폐 거버넌스는 '나쁜 생각'이라고 말하다, 코인텔레그래프.
-
비탈릭 부테린, "순진한 AI 거버넌스"에 대해 경고하고 대안 모델 제안, 크립토드네스.bg.
이 기사는 AI 기반 기술의 지원을 받아 여러 신뢰할 수 있는 출처를 바탕으로 작성되었습니다. 최종 콘텐츠는 BlockzHub 편집팀에 의해 철저히 검토 및 편집되어 정확성, 명확성, 일관성을 보장합니다. 원본 보도 자료는 필요에 따라 적절히 출처를 명시합니다. 본 기사에 표현된 의견은 반드시 BlockzHub의 공식적인 견해나 입장을 반영하는 것은 아닙니다. 이 기사는 정보 제공 목적으로만 제공되며, 금융 또는 전문가의 조언으로 간주되어서는 안 됩니다. 투자는 위험을 수반하며, 투자 결정을 내리기 전에 반드시 자격을 갖춘 금융 전문가와 상담하시기 바랍니다.