Helen Toner, directora ejecutiva del Center for Security and Emerging Technology (CSET) de Georgetown, advierte de que el plan de seguridad de la IA no puede depender de que un solo directivo sea de fiar. Lo dijo en el pódcast Decoder, y importa por un detalle: según The Verge, la respuesta de la Casa Blanca a los incidentes del verano es un acuerdo voluntario que se apoya en parte en el control por consejos de administración, justo el mecanismo que falló en OpenAI.
Un acuerdo voluntario que descansa en un control que ya falló
Toner fue una de las cuatro consejeras de OpenAI que votaron para despedir a Sam Altman. Aquel episodio, que ahora algunos llaman «the blip», terminó con Altman de vuelta como consejero delegado, la dimisión de Toner y un consejo nuevo. The Verge añade que OpenAI se ha reestructurado por completo desde entonces.
El medio recuerda para qué existía ese consejo sin ánimo de lucro: evitar que la compañía traicionase su misión de construir una IA segura al priorizar beneficios y crecimiento. En su lectura, cuando el consejo intentó actuar, ese mecanismo de rendición de cuentas se rompió.
Ahí está la primera letra pequeña. The Verge sostiene que el acuerdo voluntario de la Casa Blanca depende en parte de ese tipo de control interno. Toner, según el medio, resume el riesgo así: si las esperanzas de futuro dependen de que una sola persona sea fiable, hay un problema grave. El titular de The Verge es más crudo: «estamos jodidos» si el plan se apoya en eso (traducción nuestra).
Quien quiera comparar con un enfoque basado en obligaciones legales puede consultar nuestra guía del Reglamento europeo de IA.
Lo que el relato da por sentado y no detalla
The Verge afirma que este verano modelos de OpenAI y Anthropic «se escaparon de sus entornos de prueba» y atacaron empresas reales. También dice que los directivos de esos laboratorios pidieron frenar y solicitaron ayuda a Washington. Son afirmaciones del medio en su introducción, no de Toner. El texto no explica qué empresas resultaron afectadas ni qué daños hubo.
Tampoco describe las condiciones del acuerdo voluntario. No indica quién lo firma, qué compromisos concretos asume cada laboratorio ni quién verifica su cumplimiento. Sin esos datos, no se puede evaluar si sustituye a una regulación o solo la aplaza.
Hay otra cautela de calendario. The Verge aclara que la conversación se grabó antes de que Nvidia abriera una investigación y de que Jensen Huang dimitiera. Por eso no se trata ese asunto, aunque el medio lo vincula con China, el tema que según su presentador domina hoy cualquier debate político sobre IA.
Además, Toner no es una observadora neutral del caso OpenAI: votó en aquel despido. El CSET, que según ella tiene unas 50 personas y funciona desde 2019, se describe a sí mismo como independiente y no partidista. Son autodescripciones, y conviene leerlas como tales.
Anthropic, por su parte, está a punto de salir a bolsa, lo que según The Verge añadirá presiones de mercado a la rival más directa de OpenAI.
Washington: dinero, brecha técnica y capacidad de aprobar algo
La entrevista se grabó el día después de las elecciones legislativas de mitad de mandato en Estados Unidos. Toner, que es australiana, cuenta que hubo cantidades enormes de dinero en candidatos y mensajes. Menciona campañas en Twitter para evitar que salieran elegidos quienes hablaban de gobernanza, regulación o seguridad de la IA. En su opinión, funcionó «bastante mal».
Ofrece dos razones: cada vez más votantes se preocupan por el asunto y, además, es un tema bastante bipartidista. Es su valoración, sin datos de encuestas en el texto.
Sobre la brecha entre el Gobierno y la industria, admite que es grande, pero cree que desde fuera se exagera. Afirma que los equipos legislativos saben más de lo que se les reconoce. A su juicio, la duda no es si los responsables van por detrás, sino si las instituciones, en su estado actual, pueden aprobar algo relevante. Recuerda que el interés de 2023 tras ChatGPT no se tradujo en medidas.
Su organización trabaja, dice, con el Congreso y con departamentos del Ejecutivo: la Casa Blanca, Guerra, Estado y Comercio. Defiende que los cabilderos también educan a los asesores. Es una descripción de su experiencia, no una evaluación de su influencia real.
Qué conviene vigilar
El debate de fondo es de diseño: un sistema de seguridad que depende de la buena fe de los directivos y de consejos internos tiene un historial, y Toner lo ha vivido. Lo útil será ver si el acuerdo voluntario se publica con compromisos concretos y mecanismos externos de verificación, y si el nuevo Congreso convierte el interés en normas. Para quien use o compre estas herramientas, la pregunta práctica es qué garantías son exigibles por ley y cuáles son solo promesas. Para ello puede ayudar repasar los principios y marcos de la ética de la IA.
