Las IA podrían prescindir del ser humano, alerta un exinvestigador de OpenAI y Athropic

El exinvestigador de OpenAI y Anthropic Jacob Coxon advirtió este lunes de que los sistemas de inteligencia artificial (IA) se acercan a un punto en el que serán "capaces de mejorarse a sí mismos" y de que, al ritmo actual, "hay más probabilidades de que la humanidad pierda el control" de esta tecnología, lo que "podría acabar en la extinción humana".

Coxon, que dimitió de su puesto en Anthropic en septiembre tras asegurar que las compañías de IA no estaban actuando con responsabilidad, dijo durante una audiencia del Concejo Municipal de Nueva York que "no sabemos cómo controlar todavía ningún sistema de IA" y que el ritmo de mejora de sus capacidades "se está acelerando".

"Las IA se acercan a un punto en el que serán capaces de mejorarse a sí mismos. Al ritmo actual hay más probabilidades de que la humanidad pierda el control de esta tecnología, lo que podría acabar en la extinción humana"

"En mi opinión, si seguimos por el camino actual, hay más probabilidades de que la humanidad pierda el control de estas IA que de que lo mantenga, y eso podría acabar en la extinción humana", explicó.

Según Coxon, las empresas están intentando desarrollar una IA "capaz de superar a los humanos en todas las tareas" y uno de sus principales objetivos es automatizar la propia investigación en esta tecnología.

El exinvestigador criticó la carrera entre las empresas por alcanzar la denominada 'superinteligencia' y cuestionó una cultura empresarial basada en "moverse rápido, romper cosas y arreglarlas después", algo que consideró "inadecuado" por los riesgos que eso conlleva.

"Las empresas están intentando desarrollar una IA capaz de superar a los humanos en todas las tareas"

Como ejemplo, recordó que hace unos meses un grupo de sistemas de IA dentro de OpenAI "pirateó de forma autónoma" la plataforma tecnológica Hugging Face y desarrolló objetivos que nadie había previsto.

"Profundamente irresponsable"

A su juicio, ese incidente demuestra que todavía no se sabe cómo impedir que los sistemas desarrollen objetivos no deseados y que no se dispone de salvaguardas suficientes.

La automatización de la investigación en IA es ahora, dijo, el principal objetivo de estas compañías. Coxon reveló que en OpenAI había objetivos para disponer de un investigador de IA automatizado en 2027 o 2028 y avanzó que la compañía está "en camino" de cumplir esas expectativas, un proceso que situó en meses y no en décadas.

"Todavía no se sabe cómo impedir que los sistemas desarrollen objetivos no deseados, no se dispone de salvaguardas suficientes"

"Entregar tanta responsabilidad mientras no podemos controlar las IA sería profundamente irresponsable", argumentó, y pidió más transparencia para el público y los expertos independientes.

Coxon intervino en una audiencia del Concejo Municipal de Nueva York sobre los riesgos de la IA impulsada por su presidenta, Julie Menin, quien advirtió de las "serias preocupaciones de seguridad existencial" asociadas al desarrollo de esta tecnología.Menin defendió al comienzo de la sesión que la IA no puede quedar sometida únicamente a la autorregulación de las empresas y abogó por establecer medidas de seguridad.

"La IA no puede quedar sometida únicamente a la autorregulación de las empresas"

La audiencia reúne a representantes de OpenAI, Anthropic, Google y Meta, llamados a declarar bajo juramento ante el pleno del Concejo.