OpenAI no Google Cloud

Os modelos da OpenAI estão disponíveis na plataforma Gemini pelo Google Cloud. A cobrança pelo uso é feita na sua conta do Google Cloud. Os modelos são executados dentro do perímetro de segurança do Google Cloud, e sua organização gerencia o acesso pelo IAM do Google Cloud.

Este guia mostra como enviar uma solicitação à Responses API pelo Google Cloud e quais recursos estão disponíveis em comparação com a API oferecida diretamente pela OpenAI.

Os seguintes modelos estão disponíveis:

Antes de começar

Antes de você enviar solicitações, o administrador do Google Cloud precisa:

• Ativar o faturamento do projeto, providenciar a aprovação do projeto e coordenar com o administrador de faturamento a aceitação da oferta privada do Marketplace.
• Ativar a API Vertex AI (aiplatform.googleapis.com) e habilitar o modelo no Model Garden, aceitando os termos do modelo.
• Se a política da sua organização restringir o acesso a modelos, permitir o acesso ao modelo nessa política.
• Conceder ao usuário ou à conta de serviço que envia as solicitações permissão para chamar o modelo, por exemplo, atribuindo o papel roles/aiplatform.user.

Quando o projeto estiver pronto, peça o ID do projeto ao administrador.

Faça sua primeira chamada à API

Para desenvolver localmente, instale a CLI do Google Cloud e faça login com a Conta do Google que tem acesso ao seu projeto:

gcloud auth application-default login

Obtenha um token de acesso no terminal em que você vai enviar a solicitação:

export GOOGLE_CLOUD_ACCESS_TOKEN="$(gcloud auth application-default print-access-token)"

Quando o token de acesso expirar, execute esse comando novamente para obter um novo token com as credenciais de login salvas.

Envie a solicitação com cURL ou com o SDK da OpenAI, substituindo your-project-id pelo ID do seu projeto.

1
2
3
4
5
6
7
8
9
10
11PROJECT_ID="your-project-id"
PROJECT_URL="https://aiplatform.googleapis.com/v1/projects/$PROJECT_ID"

curl --fail-with-body "$PROJECT_URL/locations/global/publishers/openai/v1/responses" \
  -H "Authorization: Bearer $GOOGLE_CLOUD_ACCESS_TOKEN" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-6-luna",
    "input": "Write a one-sentence bedtime story about a unicorn.",
    "store": false
  }'

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16import OpenAI from "openai";

const projectId = "your-project-id";

const client = new OpenAI({
  apiKey: process.env.GOOGLE_CLOUD_ACCESS_TOKEN,
  baseURL: `https://aiplatform.googleapis.com/v1/projects/${projectId}/locations/global/publishers/openai/v1`,
});

const response = await client.responses.create({
  model: "gpt-6-luna",
  input: "Write a one-sentence bedtime story about a unicorn.",
  store: false,
});

console.log(response.output_text);

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19import os

from openai import OpenAI

project_id = "your-project-id"

client = OpenAI(
    api_key=os.environ["GOOGLE_CLOUD_ACCESS_TOKEN"],
    base_url=(
        f"https://aiplatform.googleapis.com/v1/projects/{project_id}"
        "/locations/global/publishers/openai/v1"
    ),
)
response = client.responses.create(
    model="gpt-6-luna",
    input="Write a one-sentence bedtime story about a unicorn.",
    store=False,
)
print(response.output_text)

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32package main

import (
	"context"
	"fmt"
	"os"

	"github.com/openai/openai-go/v3"
	"github.com/openai/openai-go/v3/option"
	"github.com/openai/openai-go/v3/responses"
)

func main() {
	ctx := context.Background()
	projectID := "your-project-id"
	client := openai.NewClient(
		option.WithAPIKey(os.Getenv("GOOGLE_CLOUD_ACCESS_TOKEN")),
		option.WithBaseURL("https://aiplatform.googleapis.com/v1/projects/"+projectID+"/locations/global/publishers/openai/v1"),
	)

	response, err := client.Responses.New(ctx, responses.ResponseNewParams{
		Model: "gpt-6-luna",
		Input: responses.ResponseNewParamsInputUnion{
			OfString: openai.String("Write a one-sentence bedtime story about a unicorn."),
		},
		Store: openai.Bool(false),
	})
	if err != nil {
		panic(err)
	}
	fmt.Println(response.OutputText())
}

Para obter tokens de acesso pela biblioteca de autenticação do Google em vez de exportá-los no terminal, siga o guia de primeiros passos do Google. Ele explica como usar as credenciais padrão do aplicativo (Application Default Credentials, ADC) e solucionar erros da API.

Disponibilidade de recursos

A tabela compara os recursos disponíveis no Google Cloud com os da API oferecida diretamente pela OpenAI.

Retenção de dados

Seus prompts e respostas não são usados para treinar os modelos da OpenAI. Por padrão, o prazo de retenção é de até 30 dias.

Se você precisa de zero retenção de dados (ZDR), entre em contato com seu representante da OpenAI ou do Google Cloud durante a integração e aguarde a confirmação de que o recurso está disponível para você. Definir store: false em uma solicitação não ativa a ZDR.