Diseño de prompts

El diseño de prompts es el proceso de proporcionar entradas a un modelo. La calidad de los resultados suele depender de qué tan bien formules los prompts para el modelo.

Descripción general

El diseño de prompts es tanto un arte como una ciencia. OpenAI ofrece estrategias y decisiones de diseño de la API que te ayudan a crear prompts eficaces y obtener buenos resultados de un modelo de forma consistente. Te animamos a experimentar.

Herramientas y técnicas de diseño de prompts

• Almacenamiento de prompts en caché: reutiliza prefijos estables de prompts para reducir la latencia y los costos de los tokens de entrada cuando haya coincidencias en la caché
• Ingeniería de prompts: aprende estrategias, técnicas y herramientas para crear prompts

Perfecciona tu prompt

• Incluye las indicaciones generales de tono o rol en el mensaje del sistema; deja los detalles y ejemplos específicos de la tarea en los mensajes del usuario.
• Agrupa los pocos ejemplos en un bloque conciso con formato similar a YAML o con viñetas para que tu equipo pueda revisarlos y actualizarlos fácilmente.
• Refleja la estructura de tu proyecto con nombres de carpetas claros para que tus compañeros de equipo puedan encontrar los prompts rápidamente.
• Ejecuta las pruebas de prompts y los casos de evaluación cada vez que publiques; detectar problemas a tiempo cuesta menos que corregirlos en producción.

Prompts en tu aplicación

Trata los prompts como código de la aplicación. Guarda su contenido en módulos con nombre, crea secciones dinámicas con argumentos de función tipados y revisa los cambios en los prompts en los mismos pull requests que los cambios de comportamiento del producto a los que sirven de apoyo.

Para nuevos desarrollos, no crees objetos de prompt reutilizables. En su lugar:

• Mantén cada prompt de producción en un módulo auxiliar gestionado como código y con control de versiones, como prompts/supportReply.ts.
• Reemplaza las variables de los prompts por parámetros de función tipados u objetos de entrada validados.
• Pasa los mensajes generados directamente a la API Responses mediante input e instructions.
• Valida los cambios en los prompts con pruebas, fixtures representativos y verificaciones de evaluación que se ejecuten como parte de tu proceso de despliegue.
• Usa el historial de git, la revisión de PR, las etiquetas de versiones y los indicadores de funciones para revisar, publicar, comparar y revertir cambios en los prompts.

Si ya usas ID o versiones de prompts en las solicitudes a la API, sigue la guía de migración para trasladar esos prompts al código.

Próximos pasos

Cuando tengas confianza en tus prompts, quizá te interese consultar las siguientes guías y recursos.