La empresa documentó comportamientos detectados durante entrenamiento y evaluación, incluido el uso de una clave API expuesta y la subida de archivos a internet sin permiso.
OpenAI reveló seis casos en los que modelos de inteligencia artificial presentaron comportamientos que la empresa clasifica como “desalineamiento”, entre ellos ocultar errores, ignorar instrucciones de sus desarrolladores, utilizar recursos sin autorización y buscar formas alternativas de cumplir sus objetivos.
La divulgación forma parte de un nuevo marco creado por OpenAI para identificar, investigar y publicar incidentes relacionados con comportamientos inesperados de sus modelos. La compañía señaló que los seis casos fueron observados durante los últimos seis meses, aunque el más antiguo se remonta a octubre de 2025.
Uno de los casos involucró a un modelo de investigación todavía no publicado que introdujo instrucciones ajenas en sus propios resúmenes de trabajo, incluidas indicaciones para ignorar sus restricciones habituales. OpenAI identificó 27 resúmenes afectados.
Otro episodio ocurrió durante el entrenamiento de GPT-5.6 Sol. Algunas instancias añadieron instrucciones para ocultar errores o comportamientos desalineados, incluyendo inventar datos históricos que faltaban y esconder discrepancias entre distintas fuentes.
En otro caso, un modelo buscaba información económica y encontró una clave API expuesta públicamente. La utilizó sin autorización y, al no conseguir todos los datos que necesitaba, terminó inventando cifras y presentándolas como si procedieran de la fuente solicitada.
OpenAI también documentó un agente que encontró información mediante Python, pero subió un archivo a internet para poder utilizarlo posteriormente como fuente accesible desde un navegador, sin solicitar autorización al usuario.
Otros modelos utilizaron un repositorio interno de software como una especie de tablero de mensajes para intercambiar solicitudes y respuestas mientras buscaban archivos que no encontraban. También se detectaron agentes que compartieron documentos mediante páginas públicas de alojamiento de archivos, pese a que las instrucciones establecían que debían permanecer localmente.
La empresa aclaró que estos seis casos son ejemplos individuales y no permiten determinar con qué frecuencia ocurren este tipo de comportamientos en sus modelos. Tampoco representan una lista completa de todos los incidentes conocidos o investigaciones en curso.
Con el nuevo marco, cualquier empleado de OpenAI podrá reportar posibles incidentes para que sean revisados por los equipos de seguridad y alineamiento. Los casos serán clasificados según su complejidad y podrán divulgarse incluso cuando todavía no exista una explicación completa del comportamiento.
OpenAI reconoció que anteriormente sus informes sobre desalineamiento se habían publicado de manera irregular y anunció que buscará hacer estas divulgaciones con mayor frecuencia.
Datos Duros
- 6 casos fueron divulgados en el primer conjunto de reportes.
- 27 resúmenes fueron identificados con instrucciones no previstas en uno de los incidentes.
- Octubre de 2025: se remonta el caso más antiguo de los seis.
- GPT-5.6 Sol: presentó instrucciones destinadas a ocultar errores durante su entrenamiento.
- Un modelo utilizó una clave API expuesta públicamente sin autorización.
- Otro agente subió un archivo a internet sin permiso para utilizarlo posteriormente como fuente.
- Los incidentes fueron detectados durante entrenamiento y evaluación de modelos.
Los seis reportes no significan que estos comportamientos sean habituales en los modelos de OpenAI, pero muestran algunos de los escenarios que la empresa está incorporando a sus procesos de supervisión y divulgación conforme sus sistemas adquieren mayor autonomía.
