GPT‑Red es un sistema de red teaming automatizado de OpenAI que recurre al autojuego para fortalecer la seguridad, la alineación y la resistencia frente a inyecciones de prompt. En este artículo explicamos el enfoque y su relevancia.
OpenAI expone un enfoque de “federalismo inverso” para la gobernanza de la IA: que las leyes estatales ayuden a cimentar un marco nacional para una IA segura y democrática.
Leer más «Estados Unidos avanza en seguridad de la IA mediante acciones estatales y federales»
OpenAI comparte lecciones de la puesta en producción de modelos de ejecución prolongada, subrayando riesgos de seguridad emergentes, fallos observados y la utilidad del despliegue iterativo para fortalecer salvaguardas.
Leer más «Seguridad y alineación en la era de los modelos de largo horizonte»
