프롬프팅

프롬프팅은 모델에 입력을 제공하는 과정입니다. 모델이 얼마나 좋은 결과를 내는지는 프롬프트를 어떻게 작성하느냐에 따라 달라지는 경우가 많습니다.

개요

프롬프팅에는 창의적인 감각과 체계적인 접근이 모두 필요합니다. OpenAI는 효과적인 프롬프트를 작성해 모델에서 일관되게 좋은 결과를 얻을 수 있도록 전략을 제시하고 이를 API 설계에도 반영했습니다. 다양한 방법을 직접 시도해 보세요.

프롬프팅 도구와 기법

• 프롬프트 캐싱: 프롬프트 앞부분을 일정하게 유지해 재사용하면 캐시 적중 시 지연 시간과 입력 토큰 비용을 줄일 수 있습니다.
• 프롬프트 엔지니어링: 프롬프트 작성에 필요한 전략, 기법, 도구를 알아보세요.

프롬프트 다듬기

• 전반적인 어조나 역할에 관한 지침은 시스템 메시지에 넣고, 작업별 세부 사항과 예시는 사용자 메시지에 넣으세요.
• 팀원이 퓨샷 예시를 한눈에 파악하고 수정할 수 있도록 YAML 형식이나 글머리 기호 목록으로 간결하게 묶으세요.
• 팀원이 프롬프트를 빠르게 찾을 수 있도록 프로젝트 구조에 맞춰 폴더를 구성하고 이름을 명확하게 지으세요.
• 프롬프트를 게시할 때마다 프롬프트 테스트와 평가 케이스를 실행하세요. 문제를 일찍 발견하면 프로덕션에서 수정할 때보다 비용이 적게 듭니다.

애플리케이션에서 프롬프트 관리하기

프롬프트를 애플리케이션 코드처럼 관리하세요. 프롬프트 내용은 이름이 있는 모듈에 저장하고, 동적으로 바뀌는 부분은 타입이 지정된 함수 인자로 구성하세요. 프롬프트 변경 사항은 해당 프롬프트를 사용하는 제품 기능의 변경 사항과 같은 Pull Request에서 검토하세요.

새로 작업할 때는 재사용 가능한 프롬프트 객체를 만들지 말고 다음과 같이 프롬프트를 관리하세요.

• 각 프로덕션 프롬프트는 prompts/supportReply.ts처럼 코드로 관리하고 버전을 추적하는 헬퍼에 보관하세요.
• 프롬프트 변수는 타입이 지정된 함수 매개변수나 검증된 입력 객체로 대체하세요.
• 생성한 메시지는 Responses API의 input과 instructions를 통해 직접 전달하세요.
• 배포 과정에서 테스트와 평가를 실행해 프롬프트 변경 사항을 검증하고, 테스트에는 대표적인 사례를 담은 픽스처를 사용하세요.
• Git 기록, PR 리뷰, 릴리스 태그, 기능 플래그를 활용해 프롬프트 변경 사항을 검토하고 배포하고 비교하거나 롤백하세요.

이미 API 요청에서 프롬프트 ID나 프롬프트 버전을 사용하고 있다면 마이그레이션 가이드에 따라 해당 프롬프트를 코드로 옮기세요.

다음 단계

프롬프트 작성에 자신이 생기면 다음 가이드와 자료를 살펴보세요.