Demis Hassabis propone organismo regulador de IA

⏱ Tiempo de lectura: 3 min

Demis Hassabis, director ejecutivo de Google DeepMind, planteó la creación de un organismo regulador especializado en modelos de inteligencia artificial de frontera. En un ensayo publicado en Substack, el ejecutivo propone que Estados Unidos lidere esta iniciativa, que incluiría pruebas de riesgo estandarizadas y evaluaciones trimestrales. Hassabis ha sostenido conversaciones al respecto con la Casa Blanca, funcionarios europeos y laboratorios de IA competidores, con intención de lanzar la estructura antes de fin de año.

Estructura y funcionamiento del organismo propuesto

El modelo que sugiere Hassabis se inspira en FINRA (Autoridad Reguladora de la Industria Financiera), una organización sin fines de lucro que regula brokers en Estados Unidos bajo supervisión de la SEC. El nuevo organismo crearía evaluaciones de riesgo para modelos de frontera en áreas sensibles como ciberseguridad e investigación biológica. Las pruebas detectarían intentos de elusión de salvaguardas y señales de engaño. Hassabis enfatiza que el sector privado proporcionaría infraestructura técnica y talento, mientras que una junta de expertos técnicos independientes y representantes de código abierto dirigiría el trabajo. La regulación de sistemas de IA es cada vez más central en agendas globales.

Evaluaciones voluntarias y protocolos de riesgo

La propuesta incluye un programa piloto voluntario donde laboratorios enviarían modelos para revisión 30 días antes de disponibilizar públicamente. Según Hassabis, los tests medirían capacidades en tareas específicas mediante marcas de agua digitales en imágenes generadas y tokens legibles por humanos para interpretar razonamientos del modelo. Las evaluaciones se actualizarían cada trimestre, con aceleración posible según evolucione la tecnología. Una vez validado, el protocolo podría volverse obligatorio para desplegar modelos en el mercado estadounidense. Los laboratorios colaborarían además en resolver vulnerabilidades detectadas post-lanzamiento. Fuente: siliconangle.com

Aspecto	Detalle
Proponente	Demis Hassabis, CEO Google DeepMind
Formato	Ensayo Substack con conversaciones en curso
Modelo inspirador	FINRA (regulación financiera), supervisado por equivalente a SEC
Áreas de evaluación	Ciberseguridad, investigación biológica, elusión de salvaguardas, engaño
Mecanismos técnicos	Marcas de agua digitales, tokens legibles por humanos, pruebas agéntiles
Actualización de pruebas	Cada trimestre, con posibilidad de aceleración
Programa piloto	Voluntario, evaluación 30 días previos al despliegue público
Liderazgo propuesto	Junta de expertos técnicos independientes y representantes código abierto
Ventana de lanzamiento	Antes del 31 de diciembre de 2026
Enfoque potencial	De voluntario a protocolo obligatorio en mercado estadounidense

Qué cambia con esta información

La propuesta de Hassabis suma peso a la discusión regulatoria global sobre modelos de frontera. Estados Unidos, Europa y laboratorios privados buscan estándares compartidos para evaluar riesgos sin frenar innovación. Este marco voluntario-obligatorio refleja consenso incipiente en el sector sobre la necesidad de evaluaciones sistemáticas antes del despliegue público.

Preguntas frecuentes sobre organismo regulador de IA

¿Qué propone exactamente Demis Hassabis?

Un organismo independiente que evalúe modelos de IA de frontera mediante pruebas de riesgo estandarizadas, similar a FINRA en el sector financiero. El programa comenzaría siendo voluntario y podría volverse obligatorio tras validarse su efectividad.

¿Cuándo se lanzaría este organismo?

Hassabis expresó la intención de establecerlo antes del 31 de diciembre de 2026. Ha mantenido conversaciones con la Casa Blanca, funcionarios europeos y laboratorios competidores para materializar la iniciativa.

¿Qué laboratorios participarían?

No se especifican nombres en el texto fuente recibido. El documento sugiere participación voluntaria de laboratorios de IA y apoyo de infraestructura del sector privado bajo supervisión de expertos independientes.

Nuestra lectura editorial

La propuesta de Hassabis refleja maduración en debates regulatorios. A diferencia de enfoques gubernamentales unilaterales, este modelo busca colaboración público-privada con estándares técnicos concretos. Un mes antes, Dario Amodei de Anthropic planteó un marco similar inspirado en regulación aérea, indicando convergencia de visiones en laboratorios líderes.

En Inteligencia Artificial observamos que mecanismos voluntarios iniciales pueden sentar bases creíbles para regulaciones futuras. La clave estará en si estos estándares logran legitimidad internacional o fragmentan el ecosistema por regiones. ¿Será esta la estructura que finalmente gobierne evaluaciones de riesgo en IA de frontera?