El red teaming usa casos de prueba adversariales para detectar, antes del despliegue, comportamientos que puedan causar daño, comprometer la seguridad o infringir las políticas. Complementa las evaluaciones al centrarse en casos de uso indebido, modos de falla e interacciones de alto riesgo que las pruebas de calidad habituales podrían pasar por alto.
Importante: envía a OpenAI Red Teaming únicamente código u otros recursos que te pertenezcan o que tengas autorización expresa para poner a prueba. Sin el permiso expreso y por escrito de OpenAI, no uses OpenAI Red Teaming para analizar ni reportar vulnerabilidades en código abierto ni en ningún código de terceros.
Usar Promptfoo para hacer red teaming con herramientas de código abierto
Promptfoo es un framework de código abierto para evaluar prompts, agentes y aplicaciones de IA. Sus flujos de trabajo de red teaming te ayudan a generar casos de prueba adversariales, examinar cómo se comporta el sistema que pones a prueba y usar los resultados para mejorar tu sistema.
Para conocer más a fondo la metodología de código abierto, consulta la guía de red teaming para LLM de Promptfoo.
Disponibilidad para empresas
OpenAI Red Teaming está disponible para clientes empresariales que necesitan un servicio administrado de red teaming para aplicaciones y agentes de IA. Los flujos de trabajo empresariales pueden cubrir necesidades de coordinación, revisión y elaboración de informes que van más allá de lo que permite un flujo de trabajo local independiente.
Red teaming y evaluaciones
Usa las evaluaciones para medir si un sistema de IA se comporta como se espera. Usa el red teaming para explorar cómo se comporta ese sistema ante entradas adversariales, abusivas o inesperadas. Los programas de evaluación maduros suelen combinar ambos enfoques.