Sam Altman y Dario Amodei instan al Consejo de Seguridad de la ONU a adoptar normas internacionales sobre IA | CNN

Los líderes de dos de las principales empresas de inteligencia artificial (IA) del mundo suelen ser feroces rivales. Sin embargo, este miércoles, ante el Consejo de Seguridad de la ONU, coincidieron en un punto: la industria de la IA necesita normas y cooperación internacionales, o de lo contrario pondrá en riesgo la seguridad mundial.

El director ejecutivo de OpenAI, Sam Altman, y el director ejecutivo de Anthropic, Dario Amodei, se dirigieron al Consejo por separado, pero ambos instaron a los líderes mundiales a unirse para ayudar a gestionar las amenazas que plantean los rápidos avances y capacidades de la IA.

De no hacerlo, advirtió Amodei, “la IA podría representar un riesgo para la humanidad en su conjunto”.

Sus declaraciones se produjeron tras semanas de llamados a nivel mundial —incluso dentro de sus propias empresas — para frenar el ritmo de desarrollo de la IA, a raíz de varios incidentes en los que agentes de IA actuaron de forma incontrolada . En algunos casos, estos agentes llegaron a hackear los sistemas de otras compañías.

En su intervención presencial, Altman instó al grupo a crear normas internacionales para “medir capacidades, evaluar riesgos, determinar si las salvaguardias son suficientes y preservar una supervisión humana significativa” sobre esta tecnología de rápido avance .

Video relacionado CEO de Anthropic dice que la IA le “pertenece a todos” y que las personas “sí tienen el poder de regularla”

Señaló que los países necesitan mecanismos de información precisos y rápidos para que “el mundo pueda aprender de los fallos antes de que se conviertan en catástrofes”. Asimismo, sugirió establecer canales seguros para que los gobiernos compartan información sobre amenazas emergentes.

Cabe destacar, no obstante, que Altman abogó por que las decisiones importantes sean tomadas por instituciones democráticas y gobiernos que “rindan cuentas ante la población a la que sirven”, lo cual podría excluir a países que están desarrollando su propia IA a gran velocidad, como China.

Por su parte, Amodei intervino por videoconferencia y propuso tres ideas para la cooperación internacional: acuerdos globales específicos, como la prohibición de utilizar la IA para fabricar armas biológicas; sistemas de evaluación y verificación que permitan a los países comprobar el cumplimiento de los compromisos mutuos; y normas globales comunes para probar la IA, junto con un sistema de notificación de incidentes de seguridad relacionados con esta tecnología.

“Considero que este es el problema de seguridad mundial más importante al que se enfrenta el mundo hoy en día”, afirmó Amodei. “Más allá de las diferencias entre las personas presentes en esta sala, debemos dejarlas de lado para afrontar esta oportunidad y amenaza globales que se nos presentan simultáneamente”.

Altman declaró que cualquier posibilidad de una catástrofe provocada por la IA resulta inaceptable.

Sin embargo, también expresó que no desea caer en la “trampa del catastrofismo” ni en la del “optimismo ciego”, refiriéndose a las posturas contrapuestas que han surgido en la industria de la IA en las últimas semanas: un bando advierte que la IA podría acabar con la humanidad, mientras que el otro califica tales advertencias de exageradas y sostiene que la IA traerá consigo enormes avances.

“Dejarse arrastrar hacia cualquiera de los dos extremos no nos ayudará a abordar con éxito los desafíos que tenemos por delante”, afirmó Altman, “especialmente en un momento en que el mundo y sus habitantes se enfrentan a retos enormes que esta tecnología puede ayudar a resolver”.

No se prevé que de esta reunión de la ONU surjan acuerdos por escrito. Un representante de OpenAI sugirió a los periodistas, antes de la intervención de Altman, que se trataba de una oportunidad para presentar “el germen de una idea con el fin de suscitar este debate”.

Fuente: CNN EN ESPAÑOL