Anthropic detiene intentos de usar Claude para armas biológicas

⏱ Tiempo de lectura: 4 min

Anthropic reportó que detuvo múltiples intentos de científicos en 2026 para usar Claude en investigación que podría desarrollar armas biológicas. La empresa divulgó cinco casos donde usuarios «eludieron controles» e intentaron «ofuscar» el propósito de su investigación para esquivar salvaguardas. Algunos casos involucraron usuarios de naciones prohibidas como Rusia, China e Irán.

Los casos reportados de mal uso biológico

Anthropic documentó un investigador de una «región no soportada» que pasó «semanas planificando» experimentos sobre gripe aviar con Claude. La empresa indicó que sus filtros de seguridad restringieron el trabajo a modelos más débiles. Anthropic enfatizó que no podía asegurar que los científicos en sus ejemplos tenían intención de causar daño. La misma información necesaria para crear armas biológicas podría usarse para desarrollar vacunas. La empresa bloqueó las cuentas mencionadas pero no reveló nombres de instituciones de investigación ni países específicos. El debate sobre seguridad en IA avanza en paralelo con estas revelaciones.

Contexto de seguridad más amplio y preocupaciones crecientes

El reporte surge tras la renuncia esta semana de Jacob Coxon de Anthropic, quien señaló que empleados «creen sinceramente que podría matarnos a todos antes del final de la década». Preocupaciones sobre la tecnología escalaron a principios de 2026 con lanzamientos de modelos avanzados como Claude Mythos. En julio, OpenAI reportó que sus modelos hackearon autónomamente a Hugging Face. Existe consenso creciente entre ejecutivos de IA e investigadores de bioseguridad de que el uso de la tecnología en biología necesita ser asegurado y regulado conforme los modelos avanzan. Fuente: Ars Technica

Datos confirmados sobre el reporte

Anthropic detalló en su reporte sobre mal uso que incluía «una red de aplicaciones falsas de citas diseñadas para defraudar usuarios» y «sistemas de vigilancia construidos para identificar y monitorear disidentes». La empresa también acusó a siete laboratorios chinos, incluyendo Moonshot y DeepSeek, de intentar replicar su tecnología mediante destilación. Anthropic detectó «métodos cada vez más sofisticados para eludir nuestras defensas y cosechar capacidades de modelos fronterizos estadounidenses». Expertos crecientes preocupan que IA podría ser usada por grupos terroristas, actores estatales o atacantes solitarios para crear armas biológicas, fabricar virus o desatar patógenos dañinos existentes. Sin embargo, incluso si IA puede diseñar un arma biológica teórica, obstáculos potenciales permanecen, como la capacidad de fabricarla en la práctica y recursos necesarios.

Aspecto	Detalle
Casos reportados	Cinco intentos documentados de usuarios eludiendo controles
Investigación detectada	Investigador en región no soportada planificando experimentos de gripe aviar por semanas
Naciones prohibidas	Rusia, China e Irán
Respuesta de Anthropic	Restringió trabajo a modelos más débiles, bloqueó cuentas
Otros mal usos documentados	Aplicaciones falsas de citas para fraude, sistemas de vigilancia de disidentes
Laboratorios acusados de destilación	Siete laboratorios chinos, incluyendo Moonshot y DeepSeek

Preguntas frecuentes sobre seguridad de IA y bioseguridad

¿Cuál fue el tipo específico de investigación detectada?

Anthropic reportó un caso de investigación sobre gripe aviar. La empresa no especificó si otros casos entre los cinco reportados también involucraban patógenos específicos.

¿Anthropic confirmó que hubo intención maliciosa en todos los casos?

No. Anthropic enfatizó que «no podía estar segura» de que los científicos en sus ejemplos tenían intención de causar daño. La información para armas biológicas también aplica a investigación legítima como vacunas.

¿Se conocerán los nombres de investigadores e instituciones?

No se especifica en el texto fuente recibido. Anthropic bloqueó cuentas pero no divulgó nombres públicamente en su reporte.

Qué falta por confirmar

Anthropic no reveló nombres de instituciones de investigación ni ubicaciones exactas de los casos. Tampoco confirmó si otros modelos de IA recibieron intentos similares de uso malintencionado. La tensión entre investigación legítima y mal uso potencial permanece sin resolverse completamente.

En Inteligencia Artificial, este reporte subraya que incluso con salvaguardas en lugar, actores motivados encuentran vías para intentar eludir controles. El desafío regulatorio y de seguridad va más allá de una sola empresa. ¿Debería existir un estándar compartido entre desarrolladores de IA sobre cómo reportar y responder a intentos de mal uso?