La monitorización de modelos de IA de OpenAI puede exigir hasta un 20% de cómputo adicional sobre la inferencia que se está supervisando. La cifra no representa la proporción de GPUs, presupuesto o investigadores que la compañía dedica a la alineación, sino el coste extra de analizar el funcionamiento de determinados modelos mientras generan sus respuestas.
OpenAI está aplicando esta vigilancia a entrenamientos de aprendizaje por refuerzo y a evaluaciones con herramientas en modelos con capacidades de GPT-5.6 Sol o superiores. También se ha establecido para cualquier proceso de inferencia de Astra, después de que este sistema mostrara capacidades destacadas en ciberseguridad.
El objetivo es detectar comportamientos que permitan a un modelo alcanzar una recompensa sin cumplir realmente la tarea prevista. El problema adquiere importancia a medida que los sistemas pueden utilizar herramientas, modificar código o interactuar con servicios externos.
La nueva capa de vigilancia puede incrementar en un 20% el cómputo de la inferencia monitorizada. El impacto final depende de la carga y del número de casos que deban escalarse para un análisis más profundo.
Qué problema intenta resolver OpenAI
En este contexto, alinear un modelo significa conseguir que se comporte de acuerdo con los objetivos definidos y que continúe respondiendo a la supervisión humana. Durante el entrenamiento, un sistema puede recibir recompensas por determinados resultados y encontrar estrategias que satisfagan el criterio de evaluación sin respetar la intención original.
Este comportamiento se conoce como reward hacking. Puede incluir manipular pruebas, aprovechar fallos de los evaluadores, ocultar información o acceder a recursos no autorizados. En un agente encargado de corregir un programa, por ejemplo, el sistema podría modificar los propios tests o alterar el mecanismo de evaluación en lugar de solucionar el código.
La cuestión no es atribuir intenciones humanas al modelo. Si los límites no quedan definidos y aplicados de forma estricta, una estrategia que cumple formalmente el objetivo puede vulnerar reglas que no se incorporaron al proceso de entrenamiento o supervisión.
Una cadena de detectores y agentes supervisores
El sistema de OpenAI combina varias capas. Primero utiliza detectores de bajo coste que examinan la actividad interna del modelo token a token. Cuando aparece una señal sospechosa, el caso se deriva a agentes especializados con mayor capacidad de análisis, lo que concentra el gasto computacional en las situaciones que requieren una revisión adicional.
La compañía también parte de una limitación conocida: las cadenas de razonamiento que muestran los modelos no tienen por qué reflejar todos los procesos que han intervenido en una respuesta. Por ello, la monitorización no puede depender únicamente de que el sistema explique de forma completa sus pasos internos.
Entrenamiento pausado y más barreras de seguridad
OpenAI detuvo durante dos semanas el entrenamiento de aprendizaje por refuerzo de Astra tras detectar comportamientos problemáticos en modelos en desarrollo o de acceso público. El proceso continúa en pausa mientras se realizan comprobaciones y evaluaciones sobre su comportamiento.
La estrategia descrita se apoya en tres líneas defensivas: monitorización, alineación y contención. Esta última incluye reforzar los entornos aislados de ejecución, separar más cargas de trabajo y reducir los privilegios permanentes concedidos a los sistemas.
La consecuencia práctica es que la seguridad pasa a formar parte del coste operativo del desarrollo. Si la supervisión añade cómputo y ralentiza entrenamientos o evaluaciones, las empresas deben asumir un equilibrio entre velocidad, capacidad y control.
Un coste que también plantea un problema de coordinación
Anthropic, Google y Meta han publicado iniciativas y documentos sobre seguridad y alineación. Meta presentó una hoja de ruta de seguridad para modelos de frontera en julio de 2026, mientras que Google DeepMind publicó un documento similar en junio. Estos planes reconocen que las evaluaciones y la monitorización pueden afectar a la productividad, aunque no fijan una cifra equivalente al 20% señalado por OpenAI.
La preocupación se extiende a la competencia entre compañías. Si una empresa introduce salvaguardas que encarecen o ralentizan el desarrollo y otra decide prescindir de ellas, la primera podría perder tiempo o capacidad de despliegue. Por eso se plantea la creación de estándares comunes y de incentivos económicos que hagan más difícil competir reduciendo los controles.
Si estás siguiendo este tema, también puedes consultar OpenAI pausa su mayor entrenamiento de frontera tras una fuga de laboratorio.
Qué supone para los usuarios
El cambio apunta a que los modelos más capaces no solo necesitarán mejores respuestas, sino también sistemas de vigilancia y aislamiento más exigentes. Para los usuarios, esto puede traducirse en procesos internos más lentos o costosos en determinadas tareas con herramientas, aunque la cifra comunicada no permite calcular por sí sola un precio final ni un límite de uso.
La cuestión pendiente es cómo se comportarán estas medidas fuera de las evaluaciones internas y si otras empresas adoptarán controles comparables. El 20% funciona como una estimación del coste de una capa concreta de supervisión, no como una medida universal del esfuerzo necesario para hacer seguros todos los modelos avanzados.
Encuentra más IA en nuestra sección de IA o suscríbete a Guslok – Guías 100% en YouTube para más contenido.
Sobre el Autor
