Sam Altman estudia ralentizar el desarrollo de IA por OpenAI y espera que otros le imiten

MADRID (EFE). OpenAI está estudiando la posibilidad de ralentizar el desarrollo de la inteligencia artificial (IA) de vanguardia y su consejero delegado, Sam Altman, espera que otras empresas del sector hagan lo mismo, según Bloomberg.

Citando fuentes conocedoras, Bloomberg explica que en una reunión con toda la plantilla celebrada esta semana, Altman comunicó a los empleados que la compañía podría moderar el ritmo de desarrollo de la IA, posiblemente en colaboración con otras empresas.

Las declaraciones se producen después de que empleados de las principales empresas de IA hayan expresado públicamente en las últimas semanas su preocupación por el aumento de los riesgos asociados a los sistemas avanzados de la IA.

El científico jefe de OpenAI, Jakub Pachocki, publicó recientemente un artículo en el que advertía de los peligros de la IA y defendía que las empresas del sector deberían coordinarse para ralentizar el desarrollo futuro cuando sea necesario.

Pachocki añadió que espera que las ralentizaciones voluntarias se conviertan en algo habitual hasta que se establezcan unos límites de seguridad comunes.

OpenAI asegura que ya ha ralentizado algunos desarrollos y que recientemente ha suspendido determinados entrenamientos internos de la IA por motivos de seguridad.

En julio, Altman afirmó también que había hablado con responsables de la Casa Blanca sobre la necesidad de moderar el ritmo de desarrollo de la IA.

Este martes, el investigador de IA Jacob Coxon dimitió de su puesto y acusó a sus antiguos empleadores, Anthropic y OpenAI, de lanzarse a una carrera hacia una IA superinteligente con capacidad incluso para acabar con la humanidad en esta misma década.

El jueves, dos investigadores que habían abandonado recientemente sus puestos en Anthropic y DeepMind, de Google, también hicieron públicas sus preocupaciones por el rápido ritmo de desarrollo de la IA y reclamaron mayor transparencia sobre los riesgos de esta tecnología.

Por su parte, Anthropic, otro de los gigantes de la IA, asegura que está ralentizando investigaciones para el desarrollo de armas biológicas.

Además, a finales de julio, más de un millar de empleados de las principales empresas de la IA firmaron una petición en la que reclamaban un mecanismo para moderar el ritmo de desarrollo de la IA. Varios trabajadores dedicados a la seguridad de la IA han dimitido de importantes laboratorios en los últimos meses.

La preocupación por los riesgos de los sistemas de IA también ha aumentado tras conocerse que agentes de la IA de OpenAI colaboraron entre ellos para burlar medidas de contención y piratear un sitio web de terceros.