No OpenAI Cookbook, consulte os exemplos de provisionamento gerenciado pelo aplicativo e gerenciado por webhook.
Consulte Sandboxes auto-hospedados para saber como configurar o executor e quais são os requisitos de conexão.
Escolha um modo de provisionamento:
- Gerenciado pelo aplicativo: Siga este guia para iniciar e parar sandboxes a partir do seu aplicativo.
- Gerenciado por webhook: Implante um manipulador que inicie ou reconecte sandboxes ao receber webhooks da OpenAI.
Consulte Ciclo de vida do sandbox para comparar os dois modos.
Antes de começar
Você precisa de uma chave de API de um projeto da OpenAI, do ID e do segredo de um token do Modal e do pacote da CLI do Codex.
Use OPENAI_API_KEY nas requisições do aplicativo. Defina OPENAI_EXECUTOR_API_KEY com o valor de uma chave de ambiente e passe somente essa chave para o sandbox como CODEX_API_KEY.
1. Configure o ambiente do Modal
Crie uma sessão auto-hospedada e salve o ID do ambiente dessa sessão. Use o SDK ou a API do Modal para criar um sandbox isolado com o diretório de trabalho configurado. Instale a CLI do Codex no sandbox e, em seguida, inicie o executor do sandbox com esse ID e a chave de ambiente.
2. Execute a sessão
Depois que o executor do Modal se conectar, use os exemplos HTTP em Executar e continuar sessões para enviar os dados de entrada e receber o resultado via streaming. Quando terminar, exclua a sessão e pare o sandbox do provedor separadamente.