Trump podría revelar reglas secretas de seguridad en IA

⏱ Tiempo de lectura: 4 min

Cuatro agencias federales estadounidenses enfrentan una demanda para divulgar los detalles del marco secreto que la administración Trump utiliza para revisar la seguridad de modelos de IA frontera antes de su lanzamiento público. Protect Democracy, una organización sin fines de lucro no partidista, alega que casi no se han publicado detalles sobre este proceso, ni siquiera ante el Congreso o expertos externos.

El marco secreto de revisión de seguridad en IA

La Oficina del Director Nacional de Ciberseguridad, la Oficina de Política Científica y Tecnológica, el Departamento del Tesoro y el Departamento de Comercio han implementado un proceso de revisión voluntaria para modelos de IA frontera. Según la demanda, el público desconoce qué criterios se utilizan, qué empresas participan en la construcción del marco y bajo qué autoridad legal los funcionarios de Trump conducen estas revisiones. Protect Democracy solicita un fallo que requiera a los funcionarios producir toda la información no clasificada antes del 30 de septiembre, incluyendo la arquitectura procedural y contractual del marco, los términos de participación, identidades de participantes y los procesos para otorgar o negar acceso a modelos frontera. La regulación de la IA es un tema crítico en la política tecnológica actual.

Empresas involucradas y posible favoritismo

OpenAI habría negociado un acuerdo privado con el gobierno federal para limitar la distribución de sus modelos más avanzados solo a socios validados por el gobierno. Protect Democracy señala que la falta de transparencia podría permitir favoritismo hacia empresas alineadas con Trump, mientras que históricamente ha habido represalias contra compañías consideradas demasiado "woke". Un juez recientemente falló que fue ilegal que Trump pusiera en la lista negra a Anthropic. El grupo también menciona GOLD EAGLE, un centro de información lanzado en julio por la Casa Blanca que se basa en socios de la industria para identificar vulnerabilidades de ciberseguridad, pero sin revelar qué empresas participan ni bajo qué términos. Ver fuente completa en Ars Technica.

Falta de claridad en definiciones críticas

El término "modelo frontera cubierto" nunca fue definido públicamente, lo que plantea preocupaciones críticas: una definición demasiado estrecha podría permitir que modelos peligrosos pasen sin revisión, mientras que una definición muy amplia podría sobrecargar agencias ya debilitadas por recortes de DOGE. Aunque algunos aspectos clasificados del proceso de revisión existen, el marco en sí no está clasificado, pero la Casa Blanca se ha negado a compartir detalles públicos. Un portavoz declaró que "solo porque las cosas no estén clasificadas, eso no significa que vamos a transmitirlo a todos". El senador estatal de California Josh Becker argumenta que California está considerando el proyecto de ley SB 813, que establecería que organizaciones independientes definan estándares de seguridad en IA con total transparencia pública, contrario al enfoque de Trump.

Qué significa para los usuarios y desarrolladores

La falta de transparencia en las revisiones de seguridad de IA podría afectar qué modelos están disponibles para el público y bajo qué condiciones. Usuarios y desarrolladores dependen de que estas revisiones sean rigurosas e imparciales, pero sin conocer los criterios exactos, es imposible verificar si los estándares de seguridad se aplican consistentemente o si existen sesgos comerciales o políticos en el proceso de aprobación.

Aspecto	Detalle
Agencias demandadas	Oficina del Director Nacional de Ciberseguridad, Oficina de Política Científica y Tecnológica, Departamento del Tesoro, Departamento de Comercio
Solicitante	Protect Democracy (organización sin fines de lucro no partidista)
Fecha límite de divulgación	30 de septiembre (según demanda)
Información solicitada	Arquitectura procedural, términos de participación, identidades de participantes, criterios de acceso (no clasificada)
Empresa mencionada	OpenAI (acuerdo privado reportado); Anthropic (represalia legal documentada)
Iniciativa complementaria	GOLD EAGLE (julio 2026, empresas participantes no reveladas)
Alternativa legislativa	SB 813 de California (propone estándares públicos y independientes)

Preguntas frecuentes sobre regulación de seguridad en IA

¿Por qué es importante que estas reglas sean públicas?

Porque las decisiones sobre qué modelos se aprueban y se lanzan podrían ser "la pregunta de política más importante de esta administración", según Protect Democracy. Sin transparencia, no es posible verificar si los estándares de seguridad se aplican de forma justa e imparcial a todas las empresas.

¿Qué sucedió con OpenAI y Anthropic?

OpenAI habría negociado un acuerdo privado no revelado con el gobierno para limitar la distribución de sus modelos más avanzados. Anthropic enfrentó represalias legales cuando Trump intentó ponerla en la lista negra, aunque un juez falló que eso era ilegal.

¿Cuál es el plazo para que las agencias divulguen esta información?

Protect Democracy solicitó que toda la información no clasificada sea producida antes del 30 de septiembre. Sin embargo, no se especifica en el texto fuente recibido si ese plazo será vinculante o si las agencias ya han presentado documentos.

El punto clave para la comunidad tech

La transparencia en regulación de IA es fundamental para evitar favoritismo comercial o político. Sin conocer los criterios exactos de revisión de seguridad, ni el público ni el Congreso pueden supervisar adecuadamente un proceso que afecta el futuro del desarrollo de IA en el país.

En Inteligencia Artificial consideramos que la demanda de Protect Democracy plantea un debate crítico sobre equilibrio entre seguridad, innovación y rendición de cuentas democrática. ¿Puede existir una revisión efectiva de seguridad en IA sin transparencia pública sobre los estándares utilizados?

Fuente: arstechnica.com