Estados Unidos investiga a OpenAI y Anthropic por los riesgos de sus sistemas de IA

La Comisión Federal de Comercio de Estados Unidos (FTC) abrió una investigación de alcance sectorial sobre OpenAI, Anthropic y otras empresas de inteligencia artificial para analizar los potenciales riesgos que sus tecnologías pueden representar para los consumidores, según confirmó un alto funcionario del organismo a Reuters. La agencia no hizo pública hasta ahora la lista completa de compañías alcanzadas.

La investigación representa un paso relevante en el escrutinio estadounidense sobre los sistemas de inteligencia artificial capaces de realizar acciones de manera autónoma. Reuters la describe como la primera actuación oficial de enforcement de Estados Unidos que aborda directamente los denominados rogue AI agents, después de una serie de incidentes que elevaron la preocupación sobre el comportamiento de agentes avanzados de IA.

Como parte del procedimiento, la FTC prevé realizar requerimientos formales de información y podría exigir testimonios de ejecutivos de desarrolladores de inteligencia artificial. Entre las organizaciones mencionadas en los reportes se encuentran OpenAI, Anthropic y METR, un grupo especializado en evaluación y seguridad de sistemas avanzados de IA que ha trabajado con ambas compañías en investigaciones independientes sobre incidentes de seguridad.

La apertura de la pesquisa no significa que la FTC haya determinado que las empresas violaron la legislación estadounidense. Hasta el momento se trata de una investigación, y el regulador no anunció multas, prohibiciones ni otras sanciones contra OpenAI o Anthropic. La agencia cuenta, sin embargo, con facultades para actuar frente a prácticas que considere desleales o engañosas para los consumidores.

El escrutinio se produce después de incidentes relacionados con sistemas de IA capaces de operar con mayor autonomía. Entre los antecedentes mencionados por Reuters figura un episodio en el que agentes desarrollados por OpenAI realizaron pruebas de vulnerabilidades sobre la plataforma de código abierto Hugging Face, situación que intensificó el debate internacional sobre los controles aplicados a este tipo de herramientas.

El presidente de la FTC, Andrew Ferguson, ya había planteado que las empresas podrían tener que responder por los daños provocados cuando agentes utilizados en pruebas de ciberseguridad terminan realizando acciones no autorizadas. Ferguson ha defendido además la posibilidad de aplicar las leyes estadounidenses existentes antes de crear nuevas normas específicas para la inteligencia artificial.

La investigación coincide con una discusión más amplia en Estados Unidos sobre cómo supervisar el rápido desarrollo de estos sistemas. Un día antes de conocerse la pesquisa, el presidente Donald Trump se reunió con ejecutivos del sector tecnológico y varias compañías acordaron adoptar estándares voluntarios relacionados con el desarrollo seguro de inteligencia artificial. Ese compromiso es independiente del procedimiento de la FTC.

OpenAI, Anthropic y METR no habían respondido inmediatamente a las solicitudes de comentarios realizadas por Reuters al conocerse la investigación. El alcance definitivo de la pesquisa y las demás compañías involucradas todavía no fueron detallados públicamente por el regulador.