.jpeg)
Vitalik Buterin, cofundador de Ethereum, ha propuesto un enfoque radical para gestionar los riesgos asociados con la IA superinteligente. En una reciente publicación de blog, sugirió implementar una "pausa suave" temporal en la potencia informática global para permitir a la humanidad más tiempo para prepararse ante las amenazas potenciales que plantean los sistemas de IA avanzados.
Conclusiones Clave
-
Buterin propone una "pausa suave" en la computación a escala industrial para mitigar los riesgos de la IA superinteligente.
-
La pausa podría reducir la potencia informática global hasta en un 99% durante uno o dos años.
-
Esta idea sigue su defensa del "aceleracionismo defensivo" (d/acc), enfatizando la precaución en el desarrollo de la IA.
La propuesta de Buterin surge a la luz de las crecientes preocupaciones entre líderes tecnológicos e investigadores sobre el rápido avance de las tecnologías de IA. Él cree que la IA superinteligente podría surgir dentro de los próximos cinco años, y las consecuencias podrían ser impredecibles y potencialmente dañinas.
En su publicación de blog, Buterin elaboró sobre el concepto de una "pausa suave", sugiriendo que podría servir como último recurso para ralentizar el desarrollo de sistemas de IA riesgosos. Enfatizó que esta pausa no sería una detención completa, sino más bien una reducción significativa en los recursos informáticos disponibles, permitiendo a la sociedad ponerse al día e implementar las medidas de seguridad necesarias.
El Concepto de Aceleracionismo Defensivo
-
Aceleracionismo Defensivo (d/acc): Una filosofía que aboga por un enfoque cauteloso hacia el avance tecnológico, particularmente en la IA.
-
Aceleracionismo Efectivo (e/acc): Un punto de vista contrastante que promueve el progreso tecnológico sin restricciones y sin supervisión significativa.
El llamado de Buterin a una pausa suave se basa en la creencia de que los marcos regulatorios actuales pueden no ser suficientes para abordar los peligros potenciales de la IA superinteligente. Mencionó que solo abogaría por tal pausa si estuviera convencido de que se necesitaban medidas más fuertes más allá de las reglas de responsabilidad existentes, que responsabilizarían a los desarrolladores por los daños causados por los sistemas de IA.
Mecanismos Propuestos para la Implementación
Para facilitar una pausa suave, Buterin delineó varios mecanismos potenciales:
-
Registro de Hardware de IA: Identificar y registrar ubicaciones de chips de IA para monitorear su uso.
-
Requisito de Firma: El hardware de IA a escala industrial podría diseñarse para operar solo si recibe autorización semanal de los principales organismos internacionales, asegurando una supervisión colectiva.
-
Verificación en Blockchain: El proceso de autorización podría involucrar tecnología blockchain para asegurar transparencia y seguridad, potencialmente requiriendo pruebas de conocimiento cero para validar firmas.
La visión de Buterin para una pausa suave refleja un reconocimiento creciente de la necesidad de un enfoque más medido hacia el desarrollo de la IA. A medida que la tecnología continúa evolucionando a un ritmo sin precedentes, la conversación sobre sus implicaciones para la sociedad se vuelve cada vez más crítica.