OpenAI desarrolló GPT-Red, un modelo de IA que simula ataques hackers contra sus sistemas
OpenAI creó GPT-Red, un modelo avanzado de inteligencia artificial diseñado para vulnerar las defensas de sus propios sistemas y detectar debilidades antes de que sean explotadas.
- GPT-Red fue entrenado con cantidad de capacidad computacional sin precedentes usando aprendizaje por refuerzo basado en autojuego (self-play)
- El modelo ha alcanzado nivel de eficacia capaz de comprometer prácticamente todos los sistemas a los que se enfrenta, tanto internos como modelos desplegados para usuarios
- OpenAI mantiene GPT-Red completamente separado del resto de modelos para impedir que capacidades ofensivas caigan en manos de actores maliciosos
OpenAI desarrolló GPT-Red, un avanzado modelo de inteligencia artificial diseñado para simular ciberataques realistas contra sus propios sistemas. La empresa explicó que internamente ha entrenado varios modelos para respaldar el trabajo de su red team o equipo rojo, un grupo especializado en simular ataques informáticos con fin de detectar vulnerabilidades y fortalecer medidas de protección. GPT-Red se convirtió en el modelo más avanzado de esta serie, entrenado con 'una cantidad de capacidad de cómputo sin precedentes dedicada exclusivamente a mejorar la seguridad', según detalle de OpenAI.
Para lograrlo, la empresa utilizó aprendizaje por refuerzo basado en autojuego. En este proceso, GPT-Red competía contra otros modelos intentando introducir inyecciones de código malicioso mediante instrucciones diseñadas para alterar comportamientos. Cada vez que conseguía provocar un fallo válido obtenía recompensa, mientras que modelos defensores eran premiados cuando resistían ataques y cumplían correctamente sus tareas. Este sistema genera evolución constante: conforme modelos defensivos se vuelven más resistentes, GPT-Red desarrolla técnicas de ataque cada vez más sofisticadas.
OpenAI asegura que GPT-Red ha alcanzado un nivel de eficacia capaz de comprometer prácticamente todos los sistemas a los que se enfrenta. La compañía utilizó el modelo para fortalecer la seguridad de sus sistemas de producción desde GPT-5.3, incluido GPT-5.6 Sol, que incorpora el 'sistema de protección más sólido desarrollado hasta ahora'. Sin embargo, por el potencial ofensivo que ha adquirido, OpenAI mantiene GPT-Red completamente separado del resto de modelos para impedir que capacidades con las que fue entrenado caigan en manos de actores maliciosos.
La empresa adelantó que continuará incrementando capacidad de procesamiento, ampliará volumen de datos de entrenamiento y perfeccionará algoritmos para desarrollar futuras versiones de GPT-Red que superen rendimiento del modelo actual, según reportó Semana.
Este artículo fue redactado con asistencia de IA a partir de fuentes públicas y está sujeto a revisión editorial de Ahora.
