Qué es GPT‑Red de OpenAI y cómo un enfoque de red teaming automatizado con autojuego busca mejorar seguridad, alineación y re

GPT‑Red de OpenAI: red teaming automatizado con autojuego para mejorar seguridad, alineación y robustez

GPT‑Red es un sistema de red teaming automatizado de OpenAI que recurre al autojuego para fortalecer la seguridad, la alineación y la resistencia frente a inyecciones de prompt. En este artículo explicamos el enfoque y su relevancia.

OpenAI comparte lecciones sobre modelos de largo horizonte: nuevos riesgos de seguridad, fallos observados y mejoras mediante

Seguridad y alineación en la era de los modelos de largo horizonte

OpenAI comparte lecciones de la puesta en producción de modelos de ejecución prolongada, subrayando riesgos de seguridad emergentes, fallos observados y la utilidad del despliegue iterativo para fortalecer salvaguardas.