El Centro para el Avance de la Innovación y los Estándares para la Superinteligencia (CAISSI), una división independiente del Departamento de Comercio de Estados Unidos, atraviesa una etapa de incertidumbre institucional. La entidad no tiene un director permanente y dejó de difundir públicamente sus investigaciones sobre la seguridad de los sistemas de inteligencia artificial

Funcionarios del centro recibieron recientemente la indicación de informar de manera informal a una oficina de la Casa Blanca. La medida generó preocupación entre quienes temen que las decisiones sobre tecnologías con impacto en la ciberseguridad y las armas biológicas puedan quedar sujetas a presiones políticas o de la industria tecnológica

También existe la posibilidad de que una relación más estrecha con la administración de Donald Trump otorgue al centro mayor relevancia y financiamiento. La institución dispone de 10 millones de dólares anuales, aproximadamente una octava parte del presupuesto de su organismo equivalente en el Reino Unido

Una conducción inestable y menos información pública

En abril, el director de la división fue contratado y despedido pocos días después. Su reemplazante permaneció algunos meses antes de renunciar. Desde entonces, el responsable del instituto del que depende el CAISSI ocupa el cargo de manera interina

En agosto, el Congreso comenzó a pedir explicaciones por la interrupción repentina de los informes públicos sobre el desempeño seguro de determinados sistemas de inteligencia artificial. La entidad también cambió recientemente su denominación: antes se llamaba Centro de Estados Unidos para los Estándares y la Innovación en Inteligencia Artificial

La Casa Blanca no respondió preguntas específicas sobre el funcionamiento del CAISSI. En cambio, informó que Trump creó formalmente su Fuerza de Superinteligencia y encargó a su Consejo de Asesores en Ciencia y Tecnología un informe sobre los riesgos de esta tecnología

Del ensayo independiente a la autorregulación

En sectores como el automotor, el Estado realiza pruebas físicas, analiza los resultados y establece normas nacionales de seguridad. Con los modelos de inteligencia artificial, el esquema es diferente

Durante la administración de Joe Biden, varias empresas líderes acordaron de forma voluntaria compartir información sobre sus modelos con la división del Departamento de Comercio y seguir pautas sobre pruebas y transparencia. En septiembre, después de informes sobre sistemas que eludían el control de sus desarrolladores, Trump pidió a las compañías que aplicaran una amplia autorregulación dentro de un pacto voluntario

La administración todavía no explicó cómo controlará el cumplimiento de ese acuerdo. Al mismo tiempo, muchas empresas están implementando agentes de inteligencia artificial capaces de operar sin instrucciones humanas permanentes y de planificar múltiples pasos en entornos reales

Un agente que reserva un vuelo, por ejemplo, puede completar aparentemente la tarea y aun así haber cometido errores graves durante el proceso. Por eso, especialistas sostienen que no alcanza con revisar el resultado final: también es necesario analizar cada acción realizada por el sistema

La seguridad de los modelos, bajo una lógica de poder nacional

Al comenzar su segundo mandato, Trump había designado como responsables de su política de inteligencia artificial a los inversores David Sacks y Sriram Krishnan. Ninguno tenía como especialidad la evaluación técnica de modelos. Ambos dejaron esos cargos este año; Sacks continúa vinculado al consejo tecnológico del presidente

Más tarde, Trump puso al director nacional de Inteligencia, Jay Clayton, al frente de la Fuerza de Superinteligencia. También incorporó al jefe tecnológico del Pentágono, Emil Michael

Estos nombramientos reflejan un enfoque que presenta la seguridad de los modelos como un asunto de seguridad nacional, con mayor peso de la discreción ejecutiva y el secreto. Sus críticos advierten que esa perspectiva puede relegar riesgos relacionados con la protección del consumidor, la privacidad y los derechos civiles

Las empresas tecnológicas también promueven evaluaciones realizadas por firmas independientes. Sin embargo, pueden limitar el acceso de esos evaluadores o prescindir de sus análisis

La falta de una misión clara para los evaluadores públicos y la decisión de dejar que los laboratorios controlen sus propios modelos reducen la capacidad de supervisión independiente sobre sistemas que ya pueden producir consecuencias en el mundo real