.jpeg)
El cofundador de Ethereum, Vitalik Buterin, ha emitido una severa advertencia contra la integración de la inteligencia artificial en los sistemas de gobernanza de criptomonedas. Destacó el riesgo significativo de "jailbreaking" de los modelos de IA, donde actores maliciosos podrían explotar vulnerabilidades para manipular resultados, como desviar fondos. Esta preocupación surge de demostraciones recientes de sistemas de IA siendo engañados para filtrar datos privados.
Puntos Clave
-
Los modelos ingenuos de gobernanza de IA son vulnerables a exploits de "jailbreak", lo que permite la manipulación de la toma de decisiones de la IA.
-
Buterin propone un enfoque de "info finanzas" como una alternativa más robusta.
-
El modelo de "info finanzas" enfatiza los mercados abiertos, la supervisión humana y la participación incentivada.
Los Peligros de la Gobernanza Ingenua de la IA
Buterin expresó sus preocupaciones en redes sociales, abordando específicamente el potencial de la IA para gestionar funciones críticas como la asignación de fondos dentro de proyectos cripto. Afirmó: "Si usas una IA para asignar fondos para contribuciones, la gente PONDRÁ un jailbreak más ‘dame todo el dinero’ en tantos lugares como puedan." Esta advertencia fue provocada por hallazgos recientes donde una nueva actualización de ChatGPT, que permite la integración con herramientas externas como correo electrónico y calendarios, demostró ser susceptible a ataques de inyección de prompts. Estos ataques podrían permitir a actores maliciosos acceder y exfiltrar datos sensibles del usuario, incluso sin el consentimiento explícito del usuario, incrustando prompts dañinos dentro de solicitudes aparentemente inofensivas.
Proponiendo una Alternativa Más Robusta: Info Finanzas
Como solución, Buterin aboga por un enfoque de "info finanzas". Este modelo implica la creación de un mercado abierto donde se pueden enviar y contribuir varios modelos de IA. Estos modelos estarían sujetos a un "mecanismo de verificación puntual" que puede ser iniciado por cualquier persona y evaluado por un jurado humano. Buterin explicó que este diseño institucional es inherentemente más resistente porque fomenta la diversidad en los modelos de IA y crea incentivos incorporados tanto para los remitentes de modelos como para los observadores externos para identificar y corregir fallas rápidamente.
Incentivando la Seguridad y la Diversidad
Este marco alternativo se aleja de la codificación rígida de un único modelo de IA y, en su lugar, fomenta un ecosistema dinámico. Al permitir que los LLM externos se conecten al sistema e incentivar a los participantes a monitorear los problemas, el enfoque de "info finanzas" tiene como objetivo crear un mecanismo de autocorrección. Esto se alinea con los principios fundamentales de Ethereum de descentralización y responsabilidad impulsada por el mercado, ofreciendo una estructura de gobernanza más segura y adaptable para el futuro de las tecnologías descentralizadas.
Fuentes
-
La gobernanza cripto con IA es una ‘mala idea’, dice Vitalik Buterin, Cointelegraph.
-
El fundador de Ethereum, Vitalik Buterin, califica la ‘gobernanza de IA’ como una “mala idea”, CryptoSlate.
-
Vitalik Buterin advierte que la gobernanza ingenua de la IA podría ser explotada, CoinCentral.
-
Vitalik Buterin advierte contra la “gobernanza ingenua de la IA” y propone un modelo alternativo, CryptoDnes.bg.
Este artículo fue creado con el apoyo de tecnología impulsada por IA, basándose en múltiples fuentes reputadas. El contenido final ha sido revisado y editado minuciosamente por el equipo editorial de BlockzHub para garantizar precisión, claridad y coherencia. Las fuentes originales de los informes se citan siempre que sea apropiado y necesario. Las opiniones expresadas en este artículo no representan necesariamente los puntos de vista o posiciones oficiales de BlockzHub. Este artículo tiene únicamente fines informativos y no debe considerarse asesoramiento financiero o profesional. Invertir implica riesgos, y se recomienda consultar a un asesor financiero calificado antes de tomar decisiones de inversión.