Australia pide en la ONU “salvaguardas” para la IA tras el ‘hackeo’ de su sistema de salud

El primer ministro Anthony Albanese considera el incidente “inaceptable”, mientras su Gobierno prepara una ley que permitirá desconectar el algoritmo de las redes sociales

El primer ministro australiano, Anthony Albanese , aprovechó anoche el gran altavoz mediático que supone hablar en la Asamblea General de las Naciones Unidas para denunciar el ciberataque que sufrió su país a manos de un agente de inteligencia artificial (IA) . El mandatario reclamó la cooperación internacional ante los nuevos desafíos que trae consigo esta tecnología, y dijo que la intrusión de un agente de IA de OpenAI en el sistema de salud de su país ilustra los riesgos que implica afrontar el desarrollo de esta tecnología “sin salvaguardas”.

Australia se convierte así en el primer país en alzar la voz contra ciberataques ejecutados por modelos de IA, lo que casa con el perfil combativo que está adoptando contra las grandes tecnológicas. Canberra puso en marcha el año pasado la normativa más estricta del mundo hasta la fecha con las redes sociales, que están totalmente prohibidas para los menores de 16 años. También ha anunciado la puesta en marcha de fuertes controles a los algoritmos de las plataformas, que obligará a Meta, Google, TikTok y el resto de grandes tecnológicas a ofrecer la opción de apagar las recomendaciones algorítmicas de contenidos o, de otro modo, se enfrentarán a “grandes multas”. Australia está considerando, asimismo, prohibir las gafas inteligentes, o gafas de pervertido , como se ha venido a llamar a las lentes con IA de Meta , que incluso acaba de presentar un modelo sin cámara integrada para tratar de borrarse esa fama.

En su discurso, Albanese situó a la IA junto al cambio climático y el deterioro de las reglas internacionales entre los grandes retos que afronta la comunidad internacional, y vinculó la respuesta actual con la creación de Naciones Unidas tras la Segunda Guerra Mundial como un mecanismo para evitar un tercer conflicto a escala planetaria. A su modo de ver, los nuevos riesgos de la IA no dejan obsoleta la estructura de la ONU, que lleva operativa más de 80 años, sino que ponen a prueba su capacidad para adaptarse a la nueva realidad.

Según denunció el propio Albanese este miércoles, un agente de IA desarrollado por OpenAI accedió sin autorización en junio a un portal del sistema público de salud de Australia y obtuvo archivos públicos y no públicos, un incidente que el Gobierno australiano conoció tres meses después y que ya está bajo investigación. El primer ministro expresó su “extrema preocupación” por el acceso no autorizado en una conversación con Sam Altman, presidente ejecutivo de OpenAI, así como su malestar con la compañía por haber tardado tres meses en informar a las autoridades australianas. El aviso se hizo enviando un correo electrónico a una dirección genérica de los servicios públicos de Australia.

Albanese destacó en su discurso ante sus homólogos en la Asamblea General de la ONU el lado positivo de la IA, como su potencial para “mejorar vidas, impulsar el crecimiento y la productividad” y generar avances científicos y médicos, pero advirtió también de los riesgos derivados de permitir que los sistemas más avanzados evolucionen sin suficientes controles. “Los propios líderes de las compañías han advertido de los riesgos potenciales de permitir que la IA se desarrolle demasiado rápido sin salvaguardas”, señaló.

El día antes de su comparecencia, varios líderes de la industria, entre ellos Sam Altman (OpenAI) y Dario Amodei (Anthropic), participaron en una sesión del Consejo de Seguridad de Naciones Unidas dedicada a la gobernanza de la IA . En la reunión, los ejecutivos pidieron la cooperación internacional para controlar la tecnología que ellos mismos están desarrollando y que consideran que puede ser peligrosa para la humanidad, aunque en ningún momento se plantearon dejar de impulsarla.

Fuente: El País