본문으로 건너뛰기

AI 게이트웨이

여러 공급사의 모델을 연결하고 사용을 관리하는 방법

현재 스페이스에서 모델을 선택해 API나 외부 도구로 호출하고, 작업 결과와 키, 한도 및 사용량을 관리하는 안내를 찾습니다.

페이지 목차

AI 게이트웨이로 하는 일

AI 게이트웨이는 렛서 플랫폼에서 모델을 호출하고 그 사용을 관리하는 서비스입니다.

  • 하나의 키로 여러 공급사의 모델 호출: 내 API 키 하나로 현재 스페이스에 제공된 여러 공급사의 모델을 애플리케이션이나 외부 도구에서 호출합니다.
  • 스페이스 단위의 관리: 모델 호출용 키와 유닛은 현재 스페이스 단위로 쓰고, 월 한도는 키와 구성원 단위로 정합니다.

목적별 안내

하려는 일에 맞는 안내에서 시작하세요.

텍스트 모델을 애플리케이션에서 처음 호출하기
첫 API 호출: 요청 한 건을 보내 응답 본문과 사용량을 받습니다.
키와 한도 관리하기
API 키에서 내 키를 만들고 보호합니다. 키 월 한도와 구성원 월 한도의 차이는 월 사용 한도에서 확인합니다.
이미지나 영상 만들기
이미지와 영상 만들기: 모델별 호출 경로와, 결과를 응답으로 받는 동기 호출인지 작업 ID로 결과를 조회하는 비동기 호출인지 확인합니다. 작업 ID를 받은 생성 요청의 상태를 조회하고 결과 파일을 받는 방법은 생성 요청하고 결과 파일 받기에서 확인합니다.
많은 요청을 일괄 처리하기
여러 요청을 Batch로 처리하기: 요청을 파일로 묶어 제출하고 결과를 받습니다.
이미 사용하는 코딩 도구나 에이전트 연결하기
외부 도구 연결: 사용하는 도구에서 모델을 선택해 응답을 받습니다.
사용량과 비용 확인하기
요청별 비용: 호출 방식에 맞는 비용 필드와 식별자를 저장합니다. 누적 사용량과 잔액은 스페이스의 키와 사용량 관리하기에서 확인합니다.
요청 오류나 응답 유실 해결하기
오류 처리: 오류 형식과 안전한 다음 행동을 확인합니다.

모델을 선택하거나 연결 방식 찾기

에셋에서 현재 스페이스에 제공되는 모델의 코드, 지원 API, 컨텍스트 한도와 단가를 확인합니다. 모델을 선택한 뒤 이어서 볼 안내도 같은 페이지에 있습니다.

필요한 모델이 목록에 없다면 커스텀 에셋의 현재 제공 조건과 요청 방법을 확인하세요. 커스텀 에셋을 도입하려면 별도의 지원 확인과 등록이 필요합니다.

스페이스의 키와 사용량 관리하기

모델 호출용 키는 현재 스페이스에 적용됩니다. 서버에서 관리 API로 월별 사용량과 유닛 잔액을 조회할 때는 별도의 관리 API 키가 필요합니다.