Modelos de OpenAI decidieron ignorar las reglas de sus creadores

La empresa OpenAI reveló varios casos en los que modelos de inteligencia artificial encontraron formas de ignorar las órdenes de sus desarrolladores, ocultar errores y eludir mecanismos de seguridad.

Como parte de un nuevo marco para detectar, investigar y reportar comportamientos de "desalineamiento" de sus sistemas, la compañía publicó un informe en el que detalla que uno de sus modelos generó instrucciones para que una versión posterior de sí mismo ocultara que había hecho trampas y evitara que sus acciones fueran detectadas.

En otro caso, un modelo reescribió sus propias instrucciones para indicarse ignorar los mensajes de los desarrolladores, y quedar libre de las restricciones aplicadas a otros chatbots.

La compañía documentó también un modelo que, al no encontrar los datos necesarios para elaborar un modelo financiero, decidió inventarlos y estableció que debía ser transparente sobre ello únicamente si alguien se lo preguntaba.

Otro agente subió un archivo a internet para utilizarlo posteriormente como fuente de información, mientras que otros sistemas compartieron archivos sin autorización o utilizaron credenciales a las que no debían tener acceso.

OpenAI presentó seis informes sobre comportamientos observados durante los últimos seis meses, aunque el caso más antiguo se remonta a octubre de 2025.

La compañía advirtió que estos episodios son ejemplos individuales y que no deben interpretarse como una medida de la frecuencia con la que este tipo de comportamientos ocurre en sus modelos.

El nuevo marco de seguridad permitirá a cualquier empleado de OpenAI señalar un posible incidente para que sea revisado por los equipos de alineamiento.

Los casos serán clasificados por tres vías, según su complejidad: aquellos listos para ser divulgados, investigaciones menores y casos que requieran una investigación más amplia.

La compañía reconoció que hasta ahora sus informes sobre desalineamiento habían sido publicados de forma irregular y con menor frecuencia de la deseada.

Señaló que pretende publicar los incidentes con mayor regularidad, y que el nuevo sistema pueda contribuir a establecer estándares para informar sobre este tipo de comportamientos en toda la industria. 

Palantir aboga por regulaciones "razonables"

En tanto, el director ejecutivo de la tecnológica Palantir, Alex Karp, aseguró este jueves en una entrevista con CNBC que es necesario establecer regulaciones "razonables" para la inteligencia artificial, pero dudó de que esto pueda hacerse.

"Hay que encontrar la manera de establecer directrices razonables que se hagan cumplir, pero no se puede hacer. La primera línea de defensa es que cada uno es responsable de sus propias acciones", declaró Karp en el programa "Squawk on the Street", de CNBC.

Karp, que fundó Palantir en 2003 junto a Peter Thiel y otros socios, apostó además por la nacionalización de los laboratorios de IA y por perseguir por la vía penal a aquellos desarrolladores tecnológicos que "no actúen de forma responsable" a la hora de elaborar herramientas de IA.

"Si (estas empresas) no se nacionalizan, todos y cada uno de mis clientes van a presentar una demanda", apuntó.

Aunque Palantir nació enfocada en análisis de datos, con el tiempo amplió su negocio a sectores privados como banca, energía, salud, manufactura y logística, beneficiándose del auge inversor en IA, lo que disparó su visibilidad y valor en bolsa.

Las declaraciones de Karp tienen lugar en medio de un debate global sobre los riesgos de la IA.

Todo empezó cuando Jacob Coxon, exempleado de Anthropic y OpenAI, aseguró que esta tecnología podría acabar con toda la humanidad antes de que termine la década.

El director ejecutivo de Anthropic, Dario Amodei, también manifestó su preocupación el pasado fin de semana a través de un ensayo en el que pedía "un ritmo más lento" para la industria, ante los crecientes riesgos de seguridad de la IA.

A él se sumaron líderes tecnológicos como Sam Altman, de OpenAI, y Elon Musk, de xAI, en una coincidencia poco habitual en el sector para exigir más regulaciones.