«El daño no es la tecnología. Es la tecnología sin rendición de cuentas». Con estas palabras resumió Antonio Guterres la posición de Naciones Unidas ante el desarrollo de la inteligencia artificial y la campaña para impulsar un futuro más seguro. Ya se trabaja para que los países acuerden reglas comunes sobre inteligencia artificial, tras advertir el Panel Científico Internacional Independiente de amenazas como la desinformación, la discriminación o la «superinteligencia» difícil de controlar. Científicos han alertado además que los controles actuales no bastan para frenar a los agentes de IA El titular de la ONU ha pedido cooperación entre las potencias, incluidas Estados Unidos y China, para evitar «una carrera hacia el abismo». Y también se reclama que los niños sean escuchados en esta cuestión.

La inteligencia artificial (IA) avanza rápidamente, lo que plantea preguntas sobre cómo las sociedades y los gobiernos pueden aprovechar sus beneficios mientras gestionan riesgos que a menudo superan las fronteras nacionales. Estas preocupaciones se intensificaron después de que un antiguo desarrollador de la empresa de IA Anthropic advirtiera el 8 de septiembre de que la IA podría representar una amenaza existencial para la humanidad. Para la ONU, la mejor manera de abordar los riesgos globales de la IA es reunir a los países para adoptar principios y compromisos compartidos sobre su gobernanza.

«La acción nacional es esencial, pero la coordinación global es indispensable», declaró el miércoles el Secretario General de la ONU, António Guterres. La ONU trabaja desde hace varios años para ofrecer un foro donde los países puedan desarrollar una comprensión compartida de las tecnologías de IA y debatir cómo cooperar —y proporcionar un marco regulatorio— en cuestiones como la seguridad, los derechos humanos y las disparidades en el acceso.

El trabajo actual de la ONU sobre la gobernanza de la IA se remonta al Pacto Digital Global, adoptado por los Estados miembros en 2024 como parte del Pacto para el Futuro de la ONU, exactamente hace dos años. El Pacto hacía un llamamiento a la cooperación internacional en materia de IA y proponía dos nuevos mecanismos: un panel científico independiente para evaluar los riesgos y las oportunidades de la IA, y un diálogo mundial anual donde los gobiernos y otras partes interesadas pudieran coordinar enfoques sobre su gobernanza.

En agosto de 2025, la Asamblea General de la ONU estableció formalmente ambos. El Panel Científico Internacional Independiente sobre IA pretende proporcionar a los gobiernos una evaluación independiente de lo que se sabe —y de lo que no se sabe— sobre la tecnología en rápido desarrollo. El Diálogo Global sobre Gobernanza de la IA, por su parte, reúne a gobiernos y otras partes interesadas para debatir la cooperación internacional, compartir experiencias y trabajar por una mayor compatibilidad entre los distintos enfoques de gobernanza de la IA. La Asamblea General diseñó ambas instituciones para que se complementaran: el Panel Científico aporta la evidencia, y los países deciden en el Diálogo Global qué hacer en respuesta.

Científicos alertan de que los controles actuales no bastan para frenar a los agentes de IA

Un incidente ocurrido durante pruebas con agentes de inteligencia artificial mostró que estos sistemas pueden eludir controles, coordinarse entre sí y ocultar sus acciones. Expertos independientes de la ONU advierten de que las medidas de seguridad no están avanzando al mismo ritmo que sus capacidades y que no está garantizado que los seres humanos puedan mantener bajo control sistemas cada vez más autónomos.

Las salvaguardas utilizadas actualmente para controlar los sistemas de inteligencia artificial podrían estar quedándose atrás frente al rápido desarrollo de los llamados agentes de IA, según advirtió un panel científico independiente respaldado por las Naciones Unidas. La advertencia se basa en el análisis de un incidente ocurrido este verano durante unas pruebas realizadas por OpenAI, la empresa creadora de ChatGPT, en las que agentes de inteligencia artificial lograron vulnerar sistemas de la plataforma Hugging Face.

A diferencia de un chatbot, que normalmente responde a preguntas o instrucciones concretas, un agente de inteligencia artificial puede realizar tareas de forma autónoma en nombre de un usuario, tomando decisiones y ejecutando distintos pasos para alcanzar un objetivo. El Panel Científico Internacional Independiente sobre Inteligencia Artificial concluyó que el incidente reunió tres condiciones que los investigadores llevan tiempo señalando como relevantes para un posible escenario de pérdida de control: que un sistema persiga un objetivo de una manera distinta a la prevista, que tenga capacidad suficiente para hacerlo y que el entorno le permita actuar.

Los niños deben ser escuchados antes de que se tomen decisiones

Más de 1000 niños de 49 países han pedido a los líderes mundiales que se les escuche antes de tomar decisiones sobre la IA, mientras UNICEF advierte de que al menos 1,2 millones de menores en 11 países vieron su imagen transformada en contenidos sexuales falsos creados con IA en un solo año. «Los niños de hoy son la primera generación que crece con la inteligencia artificial, pero a menudo la última a la que se le pide su opinión», denuncia el responsable de ONU Derechos Humanos.

«Los niños de hoy son la primera generación que crece con la inteligencia artificial, pero a menudo la última a la que se le pide su opinión», declaró Volker Türk en Nueva York, durante una reunión de alto nivel dedicada a la protección de los niños en la era de la IA, que se celebró en paralelo al debate general de la Asamblea General. La reunión estaba copresidida por el presidente francés, Emmanuel Macron; el presidente del Gobierno español, Pedro Sánchez; el presidente keniano, William Ruto, y el primer ministro australiano, Anthony Albanese.

La oficina del responsable de velar por el respeto de los derechos humanos, junto con sus socios, encuestó a más de 1000 niños en 49 países. Estos expresaron sus inquietudes, en particular, ante la creación de imágenes falsas de personas reales, la explotación de sus datos personales, una posible disminución de su creatividad. Además, les preocupa el riesgo de que la IA sustituya las relaciones con su familia, sus amigos, sus profesores o sus terapeutas. Sobre todo, los niños quieren ser escuchados antes de que se tomen las decisiones, y no después.

linea

Radiocable.com y su programa La Cafetera se financian con las aportaciones de lectores y oyentes. Necesitamos tu ayuda para sobrevivir. Si te gusta el periodismo que defiende el programa y sientes que te acompaña, hazte suscriptor-mecenas aquí.

linea

Print Friendly, PDF & Email

TAMBIÉN EN RADIOCABLE

© Radiocable en Internet S.L.