Investigadores piden herramientas para frenar desarrollo automatizado de modelos IA

⏱ Tiempo de lectura: 4 min

Un grupo de 1.134 trabajadores de empresas de inteligencia artificial publicó una carta abierta pidiendo nuevas herramientas para ralentizar el desarrollo automatizado de modelos. Entre los firmantes están empleados de Anthropic, OpenAI, Google y Meta, así como de laboratorios de IA financiados por capital de riesgo como Thinking Machines e Inherent Laboratories.

Preocupaciones sobre aceleración descontrolada

La carta advierte que los avances en automatización del desarrollo de modelos podrían acelerar el progreso de la IA más allá de nuestra capacidad de entender o controlar los sistemas resultantes. Los firmantes señalan que las herramientas necesarias para implementar una ralentización deliberada no existen actualmente. Entre los signatarios destacan Dario Amodei, director ejecutivo de Anthropic, y los científicos principales de OpenAI, Meta AI y Thinking Machines. El documento solicita al gobierno estadounidense que apoye un esfuerzo internacional para desarrollar las herramientas técnicas y de gobernanza necesarias.

Contexto de aceleración en automatización de modelos

En abril de 2026, OpenAI reveló que su modelo GPT-5.5 optimizó el cluster de procesadores Nvidia en el que se ejecuta, alcanzando mejoras de velocidad superiores al 20% en generación de tokens. La empresa lanzó posteriormente la serie GPT-5.6, con capacidades mejoradas en tareas de programación. Anthropic, por su parte, informó estar usando Claude para acelerar su investigación en seguridad de IA, específicamente en técnicas de supervisión débil a fuerte. La carta refleja una tendencia reciente de investigadores pidiendo cambios en las políticas de IA, en línea con propuestas como la de Demis Hassabis, CEO de Google DeepMind, quien sugirió crear un organismo de estándares para desarrollar evaluaciones de riesgo antes de los lanzamientos públicos.

Datos clave de la iniciativa

Firmantes: 1.134 trabajadores de empresas de desarrollo de modelos IA. Empresas principales: Anthropic PBC, OpenAI Group PBC, Google LLC, Meta Platforms Inc., Thinking Machines Inc., Inherent Laboratories Ltd. Figuras destacadas: Dario Amodei (CEO Anthropic), científicos principales de OpenAI, Meta AI y Thinking Machines. Demanda central: Desarrollo de herramientas técnicas y de gobernanza para ralentizar deliberadamente el desarrollo de IA automatizada. Destinatario: Gobierno estadounidense, con propuesta de esfuerzo internacional. Contexto tecnológico reciente: GPT-5.5 logró optimizaciones de velocidad del 20%+; GPT-5.6 mejoró capacidades en código; Claude aceleró investigación en técnicas de supervisión. Fuente completa en siliconangle.com

Elemento	Detalle
Número de firmantes	1.134 trabajadores de empresas de IA
Empresas mayores representadas	Anthropic, OpenAI, Google, Meta
Laboratorios de IA independientes	Thinking Machines Inc., Inherent Laboratories Ltd.
Demanda principal	Herramientas para ralentizar desarrollo automatizado de modelos
Enfoque de gobernanza	Esfuerzo internacional apoyado por gobiernos
Preocupación central	Aceleración de capacidades más allá de la capacidad de control y comprensión
GPT-5.5 (abril 2026)	Optimizó infraestructura Nvidia; velocidad de tokens mejorada 20%+
GPT-5.6 (abril 2026)	Mejoras significativas en tareas de programación
Claude en investigación de IA	Usado por Anthropic para acelerar investigación en seguridad; enfoque en supervisión débil a fuerte

Preguntas frecuentes sobre desarrollo automatizado de IA

¿Qué es exactamente lo que piden ralentizar los firmantes?

Piden herramientas para frenar el desarrollo automatizado de modelos de IA, es decir, procesos donde los sistemas de IA optimizan y mejoran otros sistemas de IA sin intervención humana constante. La preocupación es que esta aceleración podría ocurrir más rápido que la capacidad de comprenderla o controlarla.

¿Cuál es el riesgo de seguridad que mencionan?

Según la carta, existe un riesgo real de que las capacidades de IA se desarrollen más allá de nuestra capacidad de entender o controlar los sistemas resultantes. No se especifican escenarios concretos en el texto fuente recibido.

¿Ya existen estas herramientas de ralentización?

No. Los firmantes explícitamente señalan que las herramientas técnicas y de gobernanza necesarias para implementar una ralentización deliberada no existen actualmente, razón por la que piden apoyo gubernamental internacional para desarrollarlas.

Por qué este dato es relevante

La carta refleja una tensión creciente dentro de la industria de IA entre la aceleración tecnológica continua y la necesidad de mecanismos de seguridad. Que investigadores de las mayores empresas de IA soliciten públicamente herramientas para frenar su propio progreso indica una preocupación genuina sobre velocidad de desarrollo. Esta iniciativa se suma a otras propuestas de regulación de seguridad que buscan establecer estándares antes de lanzamientos públicos.

La lectura para quienes usan IA a diario

Si trabajas con modelos de lenguaje o planificas adoptar IA en tu organización, esta iniciativa sugiere que los investigadores reconocen riesgos en la automatización sin control. Aunque la carta no detalla qué herramientas específicas se necesitan, apunta a un cambio importante: la industria comienza a pedir límites deliberados en su propia velocidad de innovación.

En Inteligencia Artificial creemos que las demandas internas de ralentización pueden ser más efectivas que regulación externa, ya que provienen de quienes mejor entienden los riesgos técnicos. ¿Crees que estas herramientas de ralentización podrían realmente frenar la carrera de capacidades sin perder competitividad global?

Fuente: siliconangle.com