AI
프라이빗 대규모 언어 모델 배포
고객사 서버에서 돌아가고, 고객사 데이터로 맞춤 학습하는 언어 모델.
시연 영상 보기 · 0:11
소개
고객사 자체 인프라나 전용 클라우드 테넌트 안에서만 동작하는 프라이빗 대규모 언어 모델 배포입니다. 전용 GPU 자원에서의 모델 서빙, 표준 대화 완성 인터페이스에 맞춘 API 계층, 요청 기록과 요청 제한을 제공하며, 어떤 데이터도 고객사 환경을 벗어나지 않습니다. 외부 AI 제공업체에 데이터를 보낼 수 없는 조직을 위한 배포입니다.
기능
- 전용 GPU 자원에서의 모델 서빙
- 표준 대화 완성 인터페이스를 갖춘 API 계층
- 요청 기록과 요청 제한
- GPU 노드 전반의 수평 확장
- 접근 제어와 API 키 관리
- 사용량 모니터링 대시보드
- 망분리 배포 선택지
플랫폼
- 웹
- 온프레미스
제공 방식
- 저희 클라우드
- 고객사 클라우드
- 온프레미스
- 망분리
연동
- 컴퓨트 제공업체
- SSO / SAML
- 오브젝트 스토리지
일정
가격은 프로젝트마다 따로 정합니다.
5~10일
데모
4주
구축
6–8주
운영 개시
데모는 영업일 5~10일, $2,500이며, 60일 이내에 계약하시면 구축 비용에서 공제됩니다. 고정 견적은 보통 빠짐없는 문의를 받은 뒤 영업일 기준 하루 안에 보내 드립니다.
