La Inteligencia Artificial entrenada en Internet puede arrojar resultados "absurdos"
- Modelos como ChatGPT adiestran sus nuevas versiones con datos creados por las anteriores que pueden contener errores
- Un experimento de generación de imágenes con esta tecnología produce resultados inutilizables
La inteligencia artificial generativa, capaz de crear contenidos originales a partir de datos existentes, está experimentando un éxito espectacular.
Millones de personas se valen de ella para generar imágenes, texto o música. En los próximos años, de seguir la tendencia, el contenido producido de este modo puede llegar a ser mayoritario en internet.
Esto plantea una situación problemática, ya que las herramientas de inteligencia artificial generativa se entrenan en muchos casos con grandes conjuntos de datos extraídos de internet.
La IA también estigmatiza a las personas con trastorno mental
Por tanto, en breve, modelos como el popular ChatGPT estarán adiestrando sus nuevas versiones con datos creados por las anteriores que pueden contener errores.
¿Qué efecto tendrá esta retroalimentación? ¿Mejorará o empeorará la calidad de los futuros modelos de inteligencia artificial? ¿Introducirá nuevos sesgos?.
La solución podría pasar por descartar los datos previos generados por inteligencia artificial. De hecho, existen métodos para hacerlo, “pero el lanzamiento diario de nuevos modelos los vuelve rápidamente obsoletos”
Estas son cuestiones que se ha planteado un equipo de investigadores de diferentes instituciones entre los que figura Pedro Reviriego, profesor titular de la Universidad Politécnica de Madrid (UPM) en la Escuela Técnica Superior de Ingenieros de Telecomunicación (ETSIT).
En un estudio titulado Towards Understanding the Interplay of Generative Artificial Intelligence and the Internet, han explorado el efecto de la mencionada retroalimentación en modelos sencillos de inteligencia artificial para la generación de imágenes, como Stable Diffusion o DALL-E.
Inteligencia artificial madrileña para gestionar mejor el tráfico aéreo
RESULTADOS INUTILIZABLES
Su conclusión es que, a medida que nuevas versiones trabajan con datos generados por las precedentes, la calidad y la diversidad de las imágenes obtenidas se reduce de manera drástica.
Los investigadores observaron que un modelo de difusión simple entrenando con una categoría específica de imágenes, como fotografías de pájaros y flores, producía resultados inutilizables al cabo de varias generaciones.
Denuncian en Alcalá dos fotos de niñas 'desnudadas' con IA
La solución podría parecer tan sencilla como descartar los datos previos generados por inteligencia artificial. De hecho, existen métodos para hacerlo, “pero el lanzamiento diario de nuevos modelos los vuelve rápidamente obsoletos”, aclara Reviriego, quien forma parte en la UPM del grupo de investigación Internet de Nueva Generación.
El profesor de la ETSIT afirma que los resultados del estudio, que se presentó en el congreso anual de la Association for Uncertainty in Artificial Intelligence celebrado en agosto en la Universidad Carnegie Mellon (EEUU, coinciden con los de investigadores de otras universidades sobre modelos de generación de texto.
La Inteligencia Artificial ayuda a identificar mutaciones en proteínas que pueden causar enfermedades genéticas
“Estos resultados iniciales sugieren que la interacción entre modelos de inteligencia artificial generativa e internet pueden tener efectos indeseados y abren una línea de investigación de alto interés tanto a nivel teórico como por sus potenciales implicaciones en la sociedad”, explica.
