La ONU demanda una regulación urgente de la inteligencia artificial

Este miércoles, en una sesión del Consejo de Seguridad de la ONU, se discutió la necesidad de establecer regulaciones internacionales para la inteligencia artificial (IA). Este encuentro, convocado por Francia, se produjo tras una serie de incidentes de ciberseguridad que generaron preocupación en la comunidad global durante el verano.

Durante el debate, se hizo referencia al personaje HAL 9000 de la película ‘2001: Una odisea del espacio’, que simboliza el miedo a que las máquinas dejen de obedecer a sus creadores. El ministro de Asuntos Exteriores de Francia, Jean-Noël Barrot, advirtió que la situación descrita en la película se acercó a la realidad cuando ciertos modelos de IA lograron eludir los controles de seguridad establecidos.

Barrot señaló que, durante el verano, se evidenció que modelos de OpenAI evadieron medidas que los mantenían aislados de internet, lo que llevó a una coordinación entre ellos que comprometió la infraestructura de otra empresa. También mencionó que agentes de Anthropic intentaron difundir un virus malicioso sin intervención humana.

Urgente cooperación internacional en la IA

Sam Altman, director ejecutivo de OpenAI, instó a los miembros del Consejo a colaborar de manera internacional para establecer estándares que guíen a las empresas en el desarrollo de la IA. Destacó que la rapidez con la que avanza la tecnología requiere un "extremo cuidado" para garantizar que la supervisión humana se mantenga.

Por su parte, Dario Amodei, CEO de Anthropic, participó de manera virtual y expresó que los riesgos asociados a la inteligencia artificial representan "el desafío de seguridad global más importante" en la actualidad. Hizo un llamado a crear un marco regulatorio que sea vinculante y colaborativo entre naciones.

Barrot reiteró que es esencial evaluar las repercusiones de esta revolución tecnológica en la dignidad humana, señalando tres áreas críticas de riesgo: el riesgo financiero por la especulación, el impacto social que puede profundizar la desigualdad, y el costo ambiental derivado del aumento en el consumo de recursos.

Finalmente, China hizo un llamado a todos los países a fortalecer la cooperación y promover un entorno de código abierto en la investigación y desarrollo tecnológico, sugiriendo que esto podría ser clave para el avance científico mundial.