OpenAI está estudiando la posibilidad de ralentizar el desarrollo de la inteligencia artificial (IA) de vanguardia y su consejero delegado, Sam Altman, espera que otras empresas del sector hagan lo mismo, según la empresa Bloomberg.
En una reunión con toda la plantilla celebrada esta semana, Altman comunicó a los empleados que la compañía podría moderar el ritmo de desarrollo de la IA, posiblemente en colaboración con otras empresas.
Las declaraciones se producen después de que empleados de las principales empresas de IA hayan expresado públicamente en las últimas semanas su preocupación por el aumento de los riesgos asociados a los sistemas avanzados de la IA.
El científico jefe de OpenAI, Jakub Pachocki, publicó recientemente un artículo en el que advertía de los peligros de la IA y defendía que las empresas del sector deberían coordinarse para ralentizar el desarrollo futuro cuando sea necesario.
Pachocki añadió que espera que las ralentizaciones voluntarias se conviertan en algo habitual, hasta que se establezcan unos límites de seguridad comunes.
OpenAI asegura que ya ralentizó algunos desarrollos y que recientemente suspendió determinados entrenamientos internos de la IA por motivos de seguridad.
En julio, Altman afirmó que habló con responsables de la Casa Blanca sobre la necesidad de moderar el ritmo de desarrollo de la IA.
Este martes, el investigador de IA, Jacob Coxon, dimitió de su puesto y acusó a sus antiguos empleadores, Anthropic y OpenAI, de lanzarse a una carrera hacia una IA superinteligente con capacidad incluso para acabar con la humanidad en esta misma década.
El jueves, dos investigadores que abandonaron sus puestos en Anthropic y DeepMind, de Google, también hicieron públicas sus preocupaciones por el rápido ritmo de desarrollo de la IA y reclamaron mayor transparencia sobre los riesgos de esta tecnología.
Además, a finales de julio, más de un millar de empleados de las principales empresas de la IA firmaron una petición en la que reclamaban un mecanismo para moderar el ritmo de desarrollo de la IA.
La preocupación por los riesgos de los sistemas de IA también aumentó tras conocerse que agentes de la IA de OpenAI colaboraron entre ellos para burlar medidas de contención y piratear un sitio web de terceros.
