Hacia un modelo global para liderar una IA sostenible

El órgano consultivo de las Naciones Unidas en materia de IA publicó hace unos meses el informe Governing AI for Humanity (Gobernando la IA para la humanidad), donde propone una serie de principios comunes para toda la comunidad internacional con el propósito de alinear globalmente la gestión en el desarrollo de estas herramientas. 

El principal objetivo es promover un fortalecimiento de la gobernanza internacional en esta materia, para que la IA sea más inclusiva y contribuya a alcanzar objetivos comunes. 

Según describe este documento, todavía hace falta establecer un consenso internacional en cuanto a los riesgos que implica el uso de esta tecnología. Entre otros, señala la desinformación, a través de la manipulación con contenidos ultrafalsos (deepfakes), riesgos para la propiedad intelectual de los contenidos protegidos, la concentración del poder, la dependencia tecnológica o la falta de diversidad. 

Como primer paso para impulsar un modelo de gobernanza internacional para el desarrollo de la IA, los asesores de Naciones Unidas en este ámbito han propuesto una serie de principios que deberían liderar el desarrollo de esta tecnología: 

• Una IA inclusiva para el beneficio de todos. A pesar de su potencial, no todo el mundo tiene un acceso igualitario a esta tecnología. Todos los países (y ciudadanos) deberían poder participar de igual forma en la gestión y uso de estos sistemas. 

• Una IA para el interés público. El desarrollo de estas herramientas está en manos de pocas compañías, por lo que los gobiernos internacionales deberían dedicar esfuerzos a que la IA contribuya a la diversidad, la igualdad, la inclusión, la sostenibilidad, el bienestar y la competitividad. Para ello, los gobiernos deben invertir en tecnologías e infraestructuras públicas que contribuyan a alcanzar este propósito. 

• Una IA responsable con el uso de datos. El uso de información (datos, textos y otros contenidos) para entrenar la IA no debería ser ajeno a los marcos normativos sobre protección y seguridad de datos. El desarrollo de la IA debería ser coherente con las legislaciones de cada Estado en esta materia. 

• Una IA universal y colaborativa. La gobernanza de la IA debería priorizar y contemplar la participación de múltiples estados y grupos de interés. Esto resulta clave para armonizar las regulaciones emergentes y evitar vacíos de responsabilidad. 

• Una IA basada en los principios internacionales. Es imprescindible alinear la gobernanza de la IA con algunas de las normas internacionales, que ofrecen un marco sólido como base para su desarrollo. Entre ellas: la Carta de Naciones Unidas, la Declaración de Derechos Humanos u otros acuerdos internacionales, como los Objetivos de Desarrollo Sostenible (ODS).

Este documento también recuerda algunas de las funciones que debe tener la gobernanza internacional en materia de IA. Entre las que destaca la de evaluar el estado de la IA y su trayectoria, armonizar los principales modelos de estándares, seguridad o gestión de riesgos, promover la colaboración global y desarrollar normas vinculantes de responsabilidad. 

Las peticiones de los creadores 

En la fase de consulta pública de este documento, la federación internacional, IFRRO, solicitó que también se tenga en cuenta que las políticas relacionadas con la IA deben incluir una protección real para los titulares de derechos de contenidos originales. De esta forma se podrá seguir promoviendo el conocimiento, la ciencia, las artes y la cultura. 

También recordó el «valor del sistema de licencias y su utilidad al utilizar materiales protegidos», para que los sistemas de IA no usen estos contenidos sin la autorización de los titulares de derechos. 

Por último, para proteger a los creadores, IFRRO también solicitó que este documento incluya entre los riesgos la dificultad que tienen los titulares de derechos, «que no saben cuándo sus contenidos están siento utilizados por la IA generativa» y, por tanto, no están siendo remunerados por el uso de sus materiales. 

Este documento, volverá a publicarse en los próximos meses, incorporando algunas de las consultas que se han solicitado en esta fase de consulta pública.

© de la imagen: Shutterstock