OpenAI en Google Cloud

Los modelos de OpenAI están disponibles en la plataforma Gemini a través de Google Cloud. El uso se factura a tu cuenta de Google Cloud. Los modelos se ejecutan dentro del perímetro de seguridad de Google Cloud y tu organización administra el acceso mediante Google Cloud IAM.

En esta guía aprenderás a enviar una solicitud a la API de Respuestas a través de Google Cloud y verás qué funciones están disponibles en Google Cloud y cuáles ofrece OpenAI directamente en su API.

Estos son los modelos disponibles:

Antes de empezar

Para que puedas enviar solicitudes, tu administrador de Google Cloud debe:

• Habilitar la facturación del proyecto, gestionar la aprobación del proyecto y coordinar con tu administrador de facturación la aceptación de la oferta privada de Marketplace.
• Habilitar la API de Vertex AI (aiplatform.googleapis.com) y habilitar el modelo en Model Garden, lo que incluye aceptar los términos del modelo.
• Si la política de tu organización restringe el acceso a los modelos, permitir el acceso al modelo en esa política.
• Otorgar al usuario o a la cuenta de servicio que envía las solicitudes el permiso para llamar al modelo, por ejemplo, mediante la asignación del rol roles/aiplatform.user.

Cuando el proyecto esté listo, pídele a tu administrador el ID del proyecto.

Hacer tu primera llamada a la API

Para el desarrollo local, instala la CLI de Google Cloud e inicia sesión con la cuenta de Google que tiene acceso a tu proyecto:

gcloud auth application-default login

Obtén un token de acceso en la terminal desde la que enviarás la solicitud:

export GOOGLE_CLOUD_ACCESS_TOKEN="$(gcloud auth application-default print-access-token)"

Cuando venza el token de acceso, vuelve a ejecutar este comando para obtener uno nuevo con las credenciales de inicio de sesión guardadas.

Envía la solicitud con cURL o con el SDK de OpenAI. Reemplaza your-project-id por el ID de tu proyecto.

1
2
3
4
5
6
7
8
9
10
11PROJECT_ID="your-project-id"
PROJECT_URL="https://aiplatform.googleapis.com/v1/projects/$PROJECT_ID"

curl --fail-with-body "$PROJECT_URL/locations/global/publishers/openai/v1/responses" \
  -H "Authorization: Bearer $GOOGLE_CLOUD_ACCESS_TOKEN" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-6-luna",
    "input": "Write a one-sentence bedtime story about a unicorn.",
    "store": false
  }'

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16import OpenAI from "openai";

const projectId = "your-project-id";

const client = new OpenAI({
  apiKey: process.env.GOOGLE_CLOUD_ACCESS_TOKEN,
  baseURL: `https://aiplatform.googleapis.com/v1/projects/${projectId}/locations/global/publishers/openai/v1`,
});

const response = await client.responses.create({
  model: "gpt-6-luna",
  input: "Write a one-sentence bedtime story about a unicorn.",
  store: false,
});

console.log(response.output_text);

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19import os

from openai import OpenAI

project_id = "your-project-id"

client = OpenAI(
    api_key=os.environ["GOOGLE_CLOUD_ACCESS_TOKEN"],
    base_url=(
        f"https://aiplatform.googleapis.com/v1/projects/{project_id}"
        "/locations/global/publishers/openai/v1"
    ),
)
response = client.responses.create(
    model="gpt-6-luna",
    input="Write a one-sentence bedtime story about a unicorn.",
    store=False,
)
print(response.output_text)

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32package main

import (
	"context"
	"fmt"
	"os"

	"github.com/openai/openai-go/v3"
	"github.com/openai/openai-go/v3/option"
	"github.com/openai/openai-go/v3/responses"
)

func main() {
	ctx := context.Background()
	projectID := "your-project-id"
	client := openai.NewClient(
		option.WithAPIKey(os.Getenv("GOOGLE_CLOUD_ACCESS_TOKEN")),
		option.WithBaseURL("https://aiplatform.googleapis.com/v1/projects/"+projectID+"/locations/global/publishers/openai/v1"),
	)

	response, err := client.Responses.New(ctx, responses.ResponseNewParams{
		Model: "gpt-6-luna",
		Input: responses.ResponseNewParamsInputUnion{
			OfString: openai.String("Write a one-sentence bedtime story about a unicorn."),
		},
		Store: openai.Bool(false),
	})
	if err != nil {
		panic(err)
	}
	fmt.Println(response.OutputText())
}

Si prefieres obtener los tokens de acceso mediante la biblioteca de autenticación de Google en lugar de exportarlos en tu terminal, sigue la guía de inicio de Google. Allí se explica cómo usar las credenciales predeterminadas de la aplicación (ADC) y solucionar errores de la API.

Disponibilidad de funciones

La tabla compara las funciones disponibles en Google Cloud con las que ofrece OpenAI directamente en su API.

Retención de datos

Tus prompts y respuestas no se usan para entrenar los modelos de OpenAI. El plazo de retención predeterminado es de hasta 30 días.

Si necesitas retención cero de datos (ZDR), comunícate con tu representante de OpenAI o de Google Cloud durante el proceso de incorporación y espera a que te confirme que esta opción está disponible para ti. Configurar store: false en una solicitud no activa la ZDR.