.jpeg)
이더리움 공동 창립자인 비탈릭 부테린은 초지능 AI와 관련된 위험을 관리하기 위한 급진적인 접근 방식을 제안했습니다. 최근 블로그 게시물에서 그는 인류가 고급 AI 시스템이 제기하는 잠재적 위협에 대비할 시간을 더 벌 수 있도록 전 세계 컴퓨팅 파워에 대한 일시적인 "소프트 일시정지"를 구현할 것을 제안했습니다.
핵심 요점
-
부테린은 초지능 AI로 인한 위험을 완화하기 위해 산업 규모의 컴퓨팅에 대한 "소프트 일시정지"를 제안합니다.
-
일시정지는 1~2년 동안 전 세계 컴퓨팅 파워를 최대 99%까지 줄일 수 있습니다.
-
이 아이디어는 AI 개발에 있어 신중함을 강조하는 "방어적 가속주의" (d/acc)를 옹호한 그의 주장을 따릅니다.
부테린의 제안은 AI 기술의 급속한 발전에 대한 기술 리더와 연구자들 사이의 우려가 커지는 가운데 나왔습니다. 그는 초지능 AI가 향후 5년 이내에 등장할 수 있으며 그 결과는 예측할 수 없고 잠재적으로 해로울 수 있다고 믿습니다.
그의 블로그 게시물에서 부테린은 "소프트 일시정지"의 개념을 설명하며, 위험한 AI 시스템의 개발을 늦추기 위한 최후의 수단으로 작용할 수 있다고 제안했습니다. 그는 이 일시정지가 완전한 중단이 아니라 사용 가능한 컴퓨팅 자원의 상당한 감소일 것이며, 사회가 따라잡고 필요한 안전 조치를 구현할 수 있도록 할 것이라고 강조했습니다.
방어적 가속주의의 개념
-
방어적 가속주의 (d/acc): 특히 AI에서 기술 발전에 대한 신중한 접근 방식을 옹호하는 철학.
-
효과적 가속주의 (e/acc): 상당한 감독 없이 무제한적인 기술 발전을 촉진하는 대조적인 관점.
부테린의 소프트 일시정지 요청은 현재의 규제 프레임워크가 초지능 AI의 잠재적 위험을 해결하기에 충분하지 않을 수 있다는 믿음에 뿌리를 두고 있습니다. 그는 AI 시스템이 초래한 피해에 대해 개발자를 책임지게 하는 기존의 책임 규칙을 넘어서는 강력한 조치가 필요하다고 확신할 경우에만 그러한 일시정지를 옹호할 것이라고 언급했습니다.
구현을 위한 제안된 메커니즘
소프트 일시정지를 촉진하기 위해 부테린은 몇 가지 잠재적 메커니즘을 설명했습니다:
-
AI 하드웨어 등록: AI 칩의 위치를 식별하고 등록하여 사용을 모니터링합니다.
-
서명 요구: 산업 규모의 AI 하드웨어는 주요 국제 기관의 주간 승인을 받아야만 작동하도록 설계될 수 있으며, 이를 통해 집단적 감독을 보장합니다.
-
블록체인 검증: 승인 프로세스는 투명성과 보안을 보장하기 위해 블록체인 기술을 포함할 수 있으며, 서명을 검증하기 위해 영지식 증명이 필요할 수 있습니다.
부테린의 소프트 일시정지 비전은 AI 개발에 대한 보다 신중한 접근 방식의 필요성을 인식하는 증가하는 인식을 반영합니다. 기술이 전례 없는 속도로 계속 발전함에 따라 사회에 미치는 영향에 대한 논의가 점점 더 중요해지고 있습니다.