La reunión convocada por Francia abordará el control humano de modelos avanzados, armas autónomas y posibles usos malintencionados de la tecnología.
Imagen referencial sobre inteligencia artificial - Agencia EFE
El Consejo de Seguridad de la ONU celebra este miércoles una sesión informativa de alto nivel sobre inteligencia artificial (IA), en la que participarán representantes de algunas de las principales empresas tecnológicas del sector. El encuentro se realizará bajo el punto de agenda 'Mantenimiento de la paz y la seguridad internacionales'.
El Consejo, convocado por Francia en el marco de su presidencia rotatoria del organismo, abordará por primera vez de forma específica los riesgos sistémicos y la posible pérdida de control humano sobre los modelos tecnológicos más avanzados.
El ministro francés de Europa y Asuntos Exteriores, Jean-Noël Barrot, abrirá la sesión y después intervendrán Yoshua Bengio, premio Turing y copresidente del Panel Científico Internacional sobre IA de la ONU, y Sam Altman, director ejecutivo de OpenAI.
También se conectarán por videoconferencia Dario Amodei, consejero delegado de Anthropic, y Clément Delangue, máximo responsable de Hugging Face, compañía que fue clasificada por el ministro francés como una "víctima" tras los ataques que recibió en verano.
"A raíz de los incidentes ocurridos este verano, con la pérdida de control de ciertos modelos que se introdujeron en los sistemas de información de algunas empresas tecnológicas, Francia ha decidido dedicar una reunión del Consejo de Seguridad a este asunto", declaró Barrot a los medios.
El ministro destacó que se abordará formalmente el impacto de la IA generativa en la proliferación de armas autónomas y su potencial uso malintencionado por actores no estatales, en un momento en que crece la inquietud social con protestas y disturbios vinculados a la instalación de centros de datos.
Según detalla la publicación especializada Security Council Report (SCR), la reunión girará en torno a cuatro preguntas clave.
Qué riesgos plantean los rápidos avances de la IA para la paz mundial; cómo deben responder actores estatales y no estatales; qué medidas diplomáticas y de confianza pueden contener estas amenazas; y cómo evaluar y verificar estos modelos a un ritmo parejo al desarrollo tecnológico.
El debate llega precedido por episodios en los que diversas pruebas de Anthropic, OpenAI y Google eludieron las restricciones de contención en sus entornos de prueba, desatando temores sobre posibles ciberataques autónomos.
Varios líderes del sector, incluidos Amodei, Altman, Elon Musk y Demis Hassabis, han abogado por moderar la velocidad del desarrollo de la tecnología.
El líder de Anthropic propuso este mes pactar estándares comunes de seguridad con salvaguardas institucionales y excepciones antimonopolio.
Esta búsqueda de consenso regulatorio contrasta con la postura exhibida en la Asamblea General por el presidente de Estados Unidos, Donald Trump.
El mandatario rechazó frontalmente cualquier "esquema globalista" que pretenda intervenir sobre el sector tecnológico y anunció que la documentación oficial estadounidense sustituirá en adelante el término inteligencia artificial por el de "superinteligencia".
