Una IA sin control: el peligro de crear un “monstruo de Frankenstein”

El responsable de la ONU de velar por los derechos humanos cree que se deben poner salvaguardas al uso de la nueva tecnología, ya que de no hacerlo, ahondará la desigualdad, amplificará los prejuicios y generará daños en el mundo real. Además un estudio apunta que la inteligencia artificial puede provocar que músicos, cineastas, escritores y otros artistas pierdan hasta un 24% de sus ingresos en 2028.

El Alto Comisionado de la ONU para los Derechos Humanos, Volker Turk, ha alertado sobre el riesgo de que la inteligencia artificial se convierta en «el monstruo de Frankenstein» si quienes la desarrollan carecen de una comprensión profunda de los principios éticos y sociales fundamentales. «Cuando los desarrolladores tienen un conocimiento muy superficial de los principios fundamentales, me recuerda un poco al monstruo de Frankenstein: desarrollas algo que ya no controlas», advirtió Türk, durante la Cumbre sobre el Impacto de la IA en Nueva Delhi. «Si no eres consciente de los peligros y los riesgos, puedes causar estragos».

El máximo responsable de derechos humanos de Naciones Unidas instó a gobiernos y empresas a establecer urgentemente salvaguardas para evitar que la tecnología profundice la desigualdad, amplifique los sesgos y genere daños en el mundo real.

Los riesgos: desigualdad, prejuicios y discriminación y la metáfora del genio liberado

Türk identificó la inequidad como uno de los peligros más acuciantes, y celebró que la cumbre se celebrara en India precisamente para garantizar que estas herramientas «se utilicen y desarrollen en todas partes». «Si los datos solo se recogen de una parte del mundo, si solo los hombres desarrollan la IA, se incorporarán sesgos inconscientes», señaló. «Es clave prestar atención a los grupos vulnerables y las minorías, porque a menudo quedan excluidos del desarrollo de la IA».

El Alto Comisionado también comparó el avance descontrolado de la IA con «dejar salir el genio de la botella». Puso como ejemplo el caso de Myanmar, donde las plataformas de redes sociales amplificaron el discurso de odio contra los rohinyás. Türk advirtió además sobre el impacto de la desinformación en el tejido social: «Crea sociedades divididas y polarizadas donde cada uno vive en su propia burbuja». También mencionó el preocupante aumento de la misoginia: «Muchas mujeres me dicen que están pensando en dejar la política por lo que experimentan en las redes sociales».

Türk comparó la necesidad de regulación con la industria farmacéutica: «Cuando se trata de herramientas de IA, debemos exigir a las empresas que realicen una evaluación de impacto sobre derechos humanos cuando las diseñan, las lanzan y las comercializan». Recordó que algunas empresas tecnológicas tienen presupuestos superiores a los de países pequeños, lo que les permite ejercer un poder global. «Puedes usar ese poder para el bien —salud, educación, desarrollo sostenible— pero también para el mal: armas letales autónomas, desinformación, odio y misoginia violenta».

El impacto de la IA para músicos, cineastas, escritores y otros artistas

Un nuevo informe de UNESCO alerta sobre el impacto devastador de la inteligencia artificial generativa en las industrias creativas. La amenaza va más allá de los ingresos. La IA puede ahogar la creación humana: hasta 50.000 canciones robotizadas se suben cada día a las plataformas. El estudio Re|Shaping Policies for Creativity, presentado este martes en París, analiza la situación de las industrias culturales en más de 120 países y dibuja un panorama preocupante: cada día se suben a plataformas como Deezer más de 50.000 canciones generadas íntegramente por inteligencia artificial, y la mayoría de los oyentes no distingue entre la música artificial y la producida por humanos.

El informe define estos productos como «contenidos sintéticos generados por IA»: creaciones hechas «enteramente a partir de comandos de IA con contribución humana limitada», de «calidad baja a media», que «imitan estilos existentes de obras protegidas por derechos de autor». Esta imitación sistemática alimenta un círculo vicioso. A medida que los conjuntos de datos de entrenamiento se saturan de contenido sintético en lugar de humano, crece el riesgo de «colapso del modelo»: la IA termina alimentándose de sus propios resultados, lo que lleva a una degeneración progresiva de la calidad y fiabilidad de los contenidos futuros.

El golpe a los ingresos

El dato más contundente del informe apunta directamente al bolsillo de los músicos, cineastas, escritores y otros artistas. Para 2028, la irrupción de la inteligencia artificial generativa provocará una caída global de ingresos del 24% en el sector musical y del 21% en el audiovisual. Las máquinas que aprenden de obras humanas para producir contenido similar están empezando a competir directamente con quienes las alimentaron con su talento.

A esto se suma una transformación estructural del mercado digital: los ingresos por vías digitales ya representan el 35% de lo que ganan los artistas, el doble que en 2018. Pero esa dependencia de lo digital viene acompañada de inestabilidad, precariedad y una exposición creciente a la violación de derechos de autor.

Radiocable.com y su programa La Cafetera se financian con las aportaciones de lectores y oyentes. Necesitamos tu ayuda para sobrevivir. Si te gusta el periodismo que defiende el programa y sientes que te acompaña, hazte suscriptor-mecenas aquí.