Armas biológicas con IA: la alerta que divide a la ciencia

⏱ Tiempo de lectura: 4 min

Líderes de grandes empresas de inteligencia artificial advierten sobre riesgos existenciales derivados de sus propias tecnologías. Dario Amodei de Anthropic y Sam Altman de OpenAI coinciden en que el progreso debe moderarse, mientras investigadores internos denuncian que sus organizaciones no actúan con la responsabilidad necesaria para prevenir el uso malintencionado de sistemas de IA en diseño de bioarmas.

El riesgo de armas biológicas generadas por IA

La preocupación central es que modelos de lenguaje de gran escala pueden asistir en el diseño, creación y distribución de agentes biológicos letales. Un virus altamente mortal dirigido a perfiles genéticos específicos, un hongo que destruya cosechas causando inseguridad alimentaria, o una toxina indetectable en suministros de agua son escenarios que expertos consideran viables si sistemas de IA se utilizan sin control. En 2022, investigadores de Collaborations Pharmaceuticals demostraron que un generador de moléculas basado en IA creó 40.000 moléculas con potencial de armas químicas en menos de seis horas, algunas más tóxicas que agentes neurotóxicos conocidos. David Magnus, profesor de ética biomédica en Stanford, calificó el hallazgo como aterrador, especialmente considerando avances posteriores.

Capacidades de IA y accesibilidad de herramientas biotecnológicas

Los modelos de lenguaje actuales pueden responder preguntas sobre cualquier disciplina científica, accediendo al conocimiento acumulado de casi todos los científicos que han vivido. Dunja Sabra, investigadora de bioseguridad en la Universidad de Hamburgo, señala que estas herramientas proporcionan instrucciones y entrenamientos en video para realizar experimentos. Simultáneamente, avances en edición génica y biología sintética han democratizado el acceso a estas tecnologías. El movimiento de biología DIY (hazlo tú mismo) ya permite que personas establezcan laboratorios caseros. La combinación de IA accesible, literatura científica libre y equipo biotecnológico asequible crea, según Sabra, una situación potencialmente muy peligrosa donde alguien determinado podría eventualmente tener éxito.

Salvaguardas actuales y sus limitaciones

Existen mecanismos de protección. Las empresas que venden secuencias de ADN sintetizado emplean sistemas de filtrado para detectar solicitudes sospechosas. Investigadores responsables someten trabajos de riesgo a análisis de "red team" (equipos independientes que buscan usos malintencionados) y "blue team" (que proponen mitigaciones). Empresas de IA han modificado sus sistemas para evitar proporcionar información científica potencialmente peligrosa. Sin embargo, Anthropic reconoció en un reporte reciente que usuarios intentaron utilizar sus modelos para hacer el virus chikungunya más transmisible, crear una cepa de gripe aviar más peligrosa para humanos y construir un "atlas de péptidos de toxina de veneno". Magnus advierte que existe un "constante vaivén": es necesario construir mejores herramientas de vigilancia, pero la IA es particularmente efectiva descubriendo formas de eludirlas.

Perspectivas divergentes en la comunidad científica

No todos los expertos coinciden sobre el nivel de riesgo. Biólogos de Imperial College London argumentan que sistemas de IA aún no son suficientemente competentes para desarrollar bioarmas completamente funcionales y que probar nuevos patógenos requiere trabajo humano difícil y laborioso. Wendy Barclay, profesora de enfermedades infecciosas en Imperial, subraya que el mayor riesgo pandémico actual proviene de patógenos ya circulantes, como H5N1, que ha matado millones de aves y se ha propagado en ganado lechero estadounidense. Kevin Esvelt, biólogo del MIT, advierte que un modelo de lenguaje reveló una forma novedosa de bioarma que previamente no consideraba posible, instando a proceder "con extrema cautela".

Aspecto	Detalle
Experimento 2022 (Collaborations Pharmaceuticals)	40.000 moléculas de armas químicas generadas en menos de 6 horas
Intentos documentados (Anthropic)	Hacer chikungunya más transmisible, cepa de gripe aviar más peligrosa, atlas de toxinas de veneno
Expertos clave	David Magnus (Stanford), Dunja Sabra (Universidad de Hamburgo), Wendy Barclay (Imperial College), Kevin Esvelt (MIT)
Salvaguardas principales	Filtrado de solicitudes de ADN sintetizado, análisis red team/blue team, restricciones en salidas de modelos de IA
Posición de líderes de IA	Dario Amodei (Anthropic) y Sam Altman (OpenAI) coinciden en necesidad de moderar progreso
Riesgo alternativo destacado	H5N1 (gripe aviar) ya circulante representa mayor riesgo pandémico actual según algunos expertos

Preguntas frecuentes sobre bioarmas y IA

¿Pueden realmente los modelos de IA generar instrucciones para crear bioarmas?

Sí, según la evidencia presentada. Los modelos de lenguaje pueden responder preguntas científicas sobre cualquier tema. Usuarios ya han intentado utilizarlos para hacer patógenos más transmisibles y peligrosos, tal como documentó Anthropic.

¿Qué tan accesible es crear una bioarma en la actualidad?

Sabra advierte que alguien determinado probablemente tendría éxito eventualmente, dada la combinación de IA accesible, equipo biotecnológico disponible y democracia de la información científica. Sin embargo, biólogos de Imperial College sostienen que aún se requiere trabajo humano especializado difícil.

¿Existen suficientes controles para evitar mal uso?

No completamente. Aunque hay salvaguardas (filtrado de ADN sintetizado, análisis de riesgos, restricciones en IA), Magnus señala que la IA es particularmente efectiva eludiendo estas medidas. Se necesitarían herramientas de vigilancia más sofisticadas, posiblemente basadas en IA misma.

Qué falta por confirmar

La comunidad científica permanece dividida sobre la magnitud real del riesgo en corto plazo. No hay consenso sobre si sistemas actuales de IA son técnicamente suficientes para generar bioarmas funcionales sin intervención humana especializada. Organismos de regulación internacional aún no han emitido marcos coordinados de respuesta a este escenario específico.

En Inteligencia Artificial consideramos que esta debate ilustra una tensión fundamental: la misma capacidad de IA para acelerar descubrimientos científicos beneficiosos también amplifica riesgos de mal uso. ¿Dónde debería establecerse el equilibrio entre acceso abierto al conocimiento y restricción preventiva de información potencialmente peligrosa?

Fuente: www.technologyreview.com