Mejora recursiva de IA: más lenta de lo esperado

⏱ Tiempo de lectura: 4 min

Un nuevo estudio sugiere que la promesa más audaz de la industria de IA—que los sistemas mejoren por sí solos sin supervisión humana—podría tardar más de lo previsto. Investigadores de Princeton University encontraron que los agentes de IA no pueden realizar investigación abierta, aquella que requiere creatividad y criterio para generar trabajo original de calidad académica.

Qué revela el estudio sobre límites actuales de IA

Científicos liderados por Peter Kirgis y Sayash Kapoor en Princeton evaluaron a Claude Opus 4.8 de Anthropic usando un método llamado "shadow evaluation" con preguntas reales de papers no publicados de NeurIPS 2026. Los agentes recibieron seis días, créditos API de 3.000 dólares, acceso a GPU, computadoras virtuales y conexión web. Completaron la ingeniería necesaria—revisaron literatura, ejecutaron cientos de experimentos y compilaron resultados—pero fracasaron en creatividad e investigación genuina. Los papers fueron rechazados por los autores originales.

Hallazgos clave: ingeniería sí, investigación original no

Los agentes mostraron deficiencias críticas: no exploraron suficientemente ideas diversas, se comprometieron prematuramente con enfoques fallidos, desarrollaron hipótesis novedosas pero las descartaron con datos limitados, y no pudieron replantear fundamentalmente su estrategia cuando fracasaba. Tampoco incorporaron retroalimentación externa ni manejaron eficientemente recursos como tokens y tiempo. Según Kapoor, los modelos excelen en tareas que pueden entrenarse mediante reinforcement learning automático, pero fallan en problemas abiertos sin soluciones verificables. Fuente: MIT Technology Review

Implicaciones para la hoja de ruta de automejoría en IA

Este resultado contrasta con afirmaciones recientes de empresas como Anthropic y OpenAI sobre progreso hacia IA que se mejora a sí misma. Jack Clark, cofundador de Anthropic, escribió que sus hallazgos internos coinciden: existe una "ausencia de creatividad intuitiva valiosa" en sistemas actuales, sugiriendo que el pensamiento repetitivo y formulaico podría frenar investigadores automáticos. El estudio señala que los cronogramas más optimistas sobre mejora recursiva podrían correr demasiado adelantados respecto a la evidencia.

Dato	Detalle
Modelo evaluado	Claude Opus 4.8 de Anthropic (ejecutado con software OpenClaw)
Método de evaluación	Shadow evaluation: responder preguntas de research de papers reales sin publicar
Fuente de papers	NeurIPS 2026 (conferencia de machine learning de tier-1)
Recursos proporcionados	6 días, $3,000 en créditos API, presupuesto GPU, computadoras virtuales, acceso web
Calificadores	Autores originales de los papers (evaluaron como lo harían en conferencia)
Resultado: papers generados	Ambos rechazados; no calificaron para publicación en conferencia top
Fortaleza de agentes	Ingeniería de investigación: revisión de literatura, experimentos, compilación de resultados
Debilidades principales	Falta de creatividad, criterio limitado, incapacidad para replantear enfoques, uso ineficiente de recursos
Línea directa de autores	Peter Kirgis, Sayash Kapoor (Princeton); multi-institucional
Siguiente paso	Experimento con Mythos (modelo más avanzado de Anthropic, lanzado abril 2026)

Preguntas frecuentes sobre mejora recursiva de IA

¿Qué es la mejora recursiva en IA?

Se refiere a sistemas de IA que se mejoran a sí mismos sin intervención humana constante. La promesa es que modelos escriban código, generen datos de entrenamiento y optimicen chips para ejecutarse más rápido, acelerando su propio desarrollo exponencialmente.

¿Cuándo podría estar lista la IA para investigar por sí sola?

El estudio no proporciona una fecha. Sugiere que los cronogramas actuales pueden ser optimistas. Kapoor indica que entrenar modelos en problemas abiertos es más difícil que en tareas verificables automáticamente, así que el progreso podría ser gradual.

¿Esto significa que la IA nunca hará investigación original?

No. El estudio muestra que no es posible aún con sistemas actuales. Si hay inversión y esfuerzo consciente, podría haber avances, aunque sin garantía de velocidad rápida o cercana.

El punto clave para la comunidad tech

El debate sobre velocidad de progreso en IA automejorada sigue abierto. Este estudio añade evidencia empírica a afirmaciones internas de empresas líderes sobre límites reales, frenando narrativas de transición inminente a sistemas totalmente autónomos en investigación.

En Inteligencia Artificial creemos que evaluar honestamente dónde falla IA hoy—no dónde podría llegar mañana—es crítico para roadmaps realistas. ¿Debería la industria reajustar expectativas públicas sobre automejoría recursiva?

Fuente: www.technologyreview.com