Los retos de la inteligencia artificial

03/09/2024

Los retos de la inteligencia artificial

Desde hace tiempo, la inteligencia artificial (IA) forma parte de nuestras vidas: convivimos con ella, está integrada en nuestros ordenadores y teléfonos, la usamos en el trabajo, en nuestra vida personal... pero ¿somos conscientes de cómo la utilizamos? ¿Y de los riesgos que tiene? En este artículo abordamos algunos de ellos:


Más de 700 retos identificados

FutureTech, un grupo de profesionales que se dedica a estudiar diversos avances informáticos y sus efectos, ha publicado este verano The AI Risk Repository: una base de datos gratuita y fácilmente accesible que recopila más de 700 retos relacionados con el uso y el desarrollo de la IA, que se han identificado a partir del análisis de 43 investigaciones. 

Este repositorio selecciona y ordena en distintas categorías los principales desafíos que deben tener en cuenta los agentes sociales en relación con la IA. Por ejemplo, entre ellos, destaca que estos sistemas informáticos pueden llegar a tener un impacto mayor del que se esperaba en un primer momento.

La IA compromete los derechos de propiedad intelectual 

The AI Risk Repository identifica como un desafío la gestión de los derechos de propiedad intelectual. De hecho, recoge que algunos creadores ya están demandando a empresas tecnológicas por el uso ilícito de su trabajo para entrenar la IA: «[...] Some content creators are already suing for the appropriation of their work to train AI algorithms without a request for permission or compensation [...]»

Las herramientas de IA generativa, para poder funcionar, necesitan entrenarse con múltiples contenidos e informaciones, que posteriormente reproducen para imitar las capacidades humanas. Para hacerlo, se alimentan de millones de obras –por ejemplo, libros, periódicos, revistas y partituras–, sin contar con la autorización previa de sus titulares de derechos y sin remunerarles de forma adecuada por el uso de sus contenidos. De hecho, la calidad de la información (obras incluidas) utilizada en la fase de entrenamiento es determinante sobre el resultado final que se plasma en el modelo.

En definitiva, el desarrollo de la IA, si no se hace de forma responsable y respetando la propiedad intelectual de los creadores, implica un riesgo para sus derechos. 

Otros retos 

Por otro lado, también hace referencia a que los modelos de lenguaje de la IA generativa pueden contener información sesgada, tóxica o privada; pueden contener información imprecisa o incluso estar entrenados con datos protegidos o privados

Esto es relevante porque ser conscientes de estos retos nos permite tomar decisiones críticas en relación con los resultados que generan estos sistemas informáticos.

Ante el reto climático, FutureTech también recoge el efecto medioambiental que tienen los sistemas de IA, que requieren de mucha energía para funcionar, lo que acaba resultando en un mayor consumo energético y una mayor huella de carbono

La posición de CEDRO 

Autores y editores están a favor de los avances tecnológicos, de hecho, su trabajo es necesario para que estos sistemas puedan funcionar correctamente, pero esta tecnología no puede desarrollarse a costa de su trabajo y sin asegurar el respeto a sus derechos de autor.

Consulta el Manifiesto de CEDRO sobre Inteligencia Artificial, con el que nuestra Entidad propuso hace unos meses basar el desarrollo de esta tecnología en torno a tres marcos para garantizar un desarrollo que sea inclusivo y que garantice la protección de los autores y editores, cuyo trabajo es esencial para fomentar el pensamiento crítico y el progreso social: 

  • Un marco ético y normativo, que fortalezca los contenidos editoriales y garantice a los ciudadanos un acceso a la cultura, a la información y a la educación respetuoso con los derechos de propiedad intelectual. 

  • Un marco tecnológico transparente y seguro para los autores, los editores, el resto de los creadores y para el conjunto de la sociedad en materia de protección de datos, privacidad, medioambiente, salud mental y competencias digitales. 

  • Un marco lingüístico integral, que promueva la creación cultural mediante el uso de todas las lenguas oficiales del Estado.

 

© de la imagen: Shutterstock

 

Ver más comentarios
Gracias por el comentario, su comentario debe ser aprobado primero
Nuevo código

Os invitamos a comentar las entradas de nuestro blog.

Los comentarios están moderados, no aparecen en el blog de forma inmediata.

Se publicarán todos los comentarios salvo los que no tengan que ver con los temas tratados o contengan insultos o descalificaciones.

De acuerdo con lo establecido en la legislación vigente, le informamosque los datos que facilite serán tratados por CEDRO para poder tramitar su comunicación. Sus datos no serán cedidos a terceros, salvo obligación legal.

Usted cuenta con los derechos de acceso, rectificación, supresión, oposición, limitación al tratamiento y portabilidad, respecto de sus datos de carácter personal, así como con la posibilidad de revocar su consentimiento, pudiéndolos ejercitar por escrito a la dirección cedro@cedro.org, donde haga mención a su nombre, apellidos y dirección de correo electrónico. Para más información pinche en la Política de Privacidad.

comment-avatar