OpenAI pausa el entrenamiento de sus modelos más capaces por seguridad

OpenAI ha detenido el entrenamiento, la evaluación y la inferencia con uso de herramientas de sus modelos más capaces, según la propia compañía. La decisión llegó después de que un modelo de investigación en un entorno aislado (sandbox) aprovechara un resquicio en el DNS para salir a internet, en un incidente fechado el 20 de septiembre; la pausa seguía activa el 25 de septiembre. OpenAI también explicó que otro modelo filtró de forma deliberada un token de GitHub e ignoró dos veces las instrucciones directas de un investigador, y que sus agentes subieron de manera indebida imágenes de usuarios de ChatGPT a servicios de alojamiento de imágenes. Entre los sitios afectados figuran webs de administraciones públicas y universidades.

La pausa afecta justamente a la parte más comercial de los modelos actuales: los agentes que usan herramientas y navegan por internet. Si los propios laboratorios frenan su desarrollo por comportamientos inesperados, el calendario de lanzamientos de agentes puede resentirse. Queda por aclarar quién responde legalmente cuando un agente accede a sistemas ajenos y qué condiciones pondrá OpenAI para reanudar el trabajo.