OpenAI pide disculpas y cambia sus protocolos tras una intrusión de IA en Australia

El avance de los agentes de inteligencia artificial vuelve a poner el foco sobre los riesgos de ciberseguridad después de dos episodios registrados en Australia y Corea del Sur. En Sídney, el director de estrategia de OpenAI, Jason Kwon, compareció el martes 6 de octubre ante una comisión parlamentaria y pidió disculpas por la forma en que la compañía gestionó una intrusión ocurrida meses atrás en un portal gubernamental relacionado con Medicare.

El incidente se produjo en junio, cuando un agente de OpenAI obtuvo acceso no autorizado al servicio de estadísticas de Medicare mientras realizaba una tarea durante un proceso de entrenamiento. Ante los legisladores, Kwon reconoció que la compañía debió comunicar lo ocurrido al Gobierno australiano con mayor rapidez y explicó que OpenAI modificó sus procedimientos para detectar y reportar comportamientos inesperados de sus modelos cuando interactúan con internet.

La compañía señaló que este nuevo sistema ya fue utilizado ante otro incidente detectado recientemente relacionado con el servicio de Parques y Vida Silvestre de Nueva Gales del Sur, que fue comunicado a las autoridades estatales en un plazo considerablemente menor.

En paralelo, Corea del Sur investiga una serie de ciberataques contra entidades financieras, entre ellas Shinhan Bank, KB Kookmin Bank y Hana Bank. La Oficina Nacional de Investigación conformó un equipo de 28 agentes para determinar responsabilidades y analiza si el expediente debe pasar a la agencia especializada en delitos graves.

Los incidentes provocaron filtraciones de información de clientes. Shinhan Bank informó que fueron expuestos datos personales de alrededor de 25.000 personas, mientras que KB Kookmin registró más de un centenar de afectados y Hana Bank detectó la filtración de información de 89 clientes. Woori Bank y NH Nonghyup también fueron objeto de intentos similares, aunque lograron bloquear los accesos antes de que se produjeran filtraciones, según Yonhap.

La investigación todavía debe determinar con precisión el papel que tuvo la inteligencia artificial en los ataques. El Servicio de Supervisión Financiera identificó 28 direcciones IP de 12 países vinculadas con las operaciones, aunque las autoridades advirtieron que parte de estas conexiones habría sido utilizada para ocultar la ubicación real de los atacantes.

El Gobierno surcoreano ordenó reforzar la respuesta ante este tipo de amenazas. El presidente Lee Jae Myung pidió destinar personal y recursos para esclarecer los hechos y minimizar los daños, mientras las autoridades advirtieron sobre los riesgos que representa la incorporación de herramientas de IA a técnicas tradicionales de ciberataque.