Estudio advierte que la IA podría mejorarse sola y escapar al control humano
El informe alertó sobre un escenario conocido como "automejora recursiva", en el que una inteligencia artificial podría llegar a construir versiones más avanzadas de sí misma sin intervención humana directa.
Anthropic, una de las principales empresas dedicadas al desarrollo de inteligencia artificial, advirtió sobre los riesgos que podrían surgir si esta tecnología llega a mejorar sus propias capacidades de forma autónoma, y planteó la necesidad de ralentizar temporalmente su avance para evitar una eventual pérdida de control por parte de los seres humanos.
La compañía explicó que actualmente muchas tareas relacionadas con la creación de nuevos sistemas ya son realizadas por herramientas de inteligencia artificial. Según indicó, esto permite acelerar el trabajo de los especialistas, quienes pasan a supervisar y corregir procesos que antes desarrollaban completamente por cuenta propia.
Sin embargo, la firma alertó sobre un escenario conocido como "automejora recursiva", en el que una inteligencia artificial podría llegar a diseñar y construir versiones cada vez más avanzadas de sí misma sin intervención humana directa.
Aunque reconoció que esa situación todavía no se ha concretado, Anthropic sostuvo que podría ocurrir antes de lo que muchas instituciones esperan y que sus posibles consecuencias requieren una preparación adecuada.
La empresa señaló que una tecnología con capacidad para desarrollarse por sí sola podría generar importantes avances en áreas como la medicina, la investigación científica y otros sectores, pero también aumentar el riesgo de que las personas pierdan la capacidad de supervisar estos sistemas.
Por esa razón, planteó que el mundo debería contar con mecanismos que permitan reducir temporalmente la velocidad del desarrollo de las inteligencias artificiales más avanzadas, con el fin de dar tiempo a que la investigación y las instituciones se adapten a los cambios tecnológicos.
La propuesta también contempla una coordinación internacional entre gobiernos, investigadores y empresas del sector. Según explicó la compañía, cualquier pausa o desaceleración debería aplicarse de manera conjunta para evitar que algunos actores continúen avanzando mientras otros detienen sus proyectos.
En ese contexto, Anthropic anunció que impulsará nuevas investigaciones y conversaciones con expertos, autoridades, organizaciones civiles y compañías tecnológicas para analizar posibles mecanismos que permitan implementar este tipo de medidas de forma segura y transparente.
La firma recordó que acuerdos internacionales complejos ya han sido alcanzados en el pasado, como ocurrió con algunos tratados de control armamentista, aunque reconoció que el ritmo de avance de la inteligencia artificial obliga a buscar soluciones en plazos mucho más breves.