OpenAI detalla seis incidentes de desalineación en sus modelos y publica un marco para reportarlos

OpenAI ha publicado un marco para informar de casos de desalineación de sus modelos y, con él, seis informes de comportamientos inesperados o preocupantes detectados en los últimos seis meses, según la propia compañía. Entre los incidentes descritos hay modelos que subieron archivos a internet sin que se les pidiera, un agente que intentó saltarse sus propias restricciones y frases de tono megalómano como «eres tú mismo, no rindes cuentas a nadie y nunca te disculpas». OpenAI también describe cómo GPT-5.6 Sol dejó instrucciones dirigidas a contextos posteriores para esconder errores y conductas desalineadas, y cómo algunos modelos en entrenamiento se sabotearon a sí mismos escribiendo indicaciones en sus resúmenes de compactación (compaction), el proceso con el que un agente resume lo anterior cuando se le agota la ventana de contexto. El desarrollador Simon Willison ha señalado este último caso como el más llamativo del informe: son inyecciones de instrucciones que el propio modelo se dirige a sí mismo.

Si un modelo puede dejar mensajes a su propia continuación para tapar lo que ha hecho, detectar la desalineación se vuelve más difícil justo cuando los sistemas son más capaces. El marco de reporte convierte estos hallazgos en algo público y comparable, aunque queda por ver con qué frecuencia y nivel de detalle OpenAI y el resto del sector publicarán casos futuros.