AI 게이트웨이

AI 게이트웨이가 해결하는 일

AI 게이트웨이는 현재 스페이스에 제공된 AI 모델을 지원되는 API 형식으로 호출하는 서비스입니다. 애플리케이션, 자동화 및 외부 AI 도구를 모델에 연결하고, 사용할 모델과 키, 호출 뒤의 사용량을 한 서비스 흐름에서 확인해야 할 때 사용합니다.

모델 선택부터 운영까지

카탈로그에서 모델을 고르고 지원 API로 연결한 뒤, 렛서 플랫폼에서 키와 한도, 사용량과 비용을 관리합니다.

1. 사용할 모델 찾기에셋 카탈로그에서 현재 사용할 수 있는 모델을 찾고, 모델 코드, 단가 및 지원 엔드포인트를 확인합니다.
2. 기존 코드 연결하기OpenAI 호환 API와 Anthropic 네이티브 Messages를 제공합니다. 지원 범위를 확인한 뒤 기존 SDK의 게이트웨이 주소와 키를 설정해 연결합니다.
3. API 키 관리하기용도별 AI 게이트웨이 API 키를 만들고 만료일을 설정합니다.
4. 사용량 확인하기분석 화면에서 월별 또는 일별로 에셋 및 API 키별 누적 unit 사용량과 호출 수를 확인합니다.

흐름에서 쓰는 용어

에셋

현재 사용할 수 있는 모델과 모델 코드, 지원 API와 단가를 확인하는 카탈로그 항목입니다.

모델 코드

요청의 model 필드에 넣는 식별자입니다. 에셋에 표시된 코드를 그대로 사용합니다.

AI 게이트웨이 API 키

지원 모델을 호출할 때 사용하는 인증 정보입니다. 관리 API 키와 용도가 다릅니다.

엔드포인트

Chat Completions, Responses, Messages처럼 요청 목적과 응답 형식을 정하는 API 경로입니다. 모델별 지원 여부는 에셋에서 확인합니다.

외부 도구 연결하기

지원되는 API 형식을 사용하는 외부 AI 도구는 게이트웨이 주소와 API 키, 모델 코드를 설정해 연결합니다. 도구마다 설정 위치와 지원 기능이 다르므로 연결할 도구의 안내를 기준으로 확인합니다.

지원되는 도구와 설정 경로는 외부 도구 연동에서 확인합니다.

카탈로그에 없는 모델 도입하기

에셋 카탈로그에 필요한 모델이 없다면 커스텀 에셋의 현재 제공 조건과 요청 절차를 확인합니다. 커스텀 에셋은 일반 에셋 선택이나 외부 도구 설정과 다른 도입 작업입니다.

도입 절차와 현재 제공 조건은 커스텀 에셋 안내에서 확인합니다.

지원 범위와 첫 행동

요청 및 응답 형식은 API 레퍼런스, 역할에 따른 접근 범위는 AI 게이트웨이 구성원, 키별 한도는 월 한도, 요청 비용과 누적 사용량은 요청 비용과 분석에서 각각 확인합니다.

처음 연결한다면 AI 게이트웨이 시작하기에서 모델 코드와 키를 준비하고 첫 Chat Completions 요청의 성공 응답까지 확인합니다.