고성능 GPU 서버를 무약정 & 최저가로 이용

CLOUDV는 고성능 GPU 서버를 무약정으로 제공하여, 장기 계약에 따른 위약금 부담 없이 최대 8way GPU를 최저가로 이용할 수 있습니다.
또한, 구매형 및 소유권 이전형 옵션을 통해 기존 데이터와 GPU 서버를 그대로 양도받아 운영할 수 있는 유연한 조건을 갖추고 있습니다.

384GB GDDR6 with ECC

대규모 데이터셋과 복잡한 AI 모델 학습에 필요한 방대한 메모리 대역폭을 확보로 안정적이고 신뢰성이 높은 딥러닝 및 고성능 컴퓨팅 작업을 지원합니다.
ECC(Error-Correcting Code) GDDR6 메모리는 데이터 무결성과 연산 중 발생할 수 있는 오류 최소화, 중요한 연구 및 개발 작업에서의 신뢰성을 더욱 높여줍니다.

IDC-SMILE 맞춤 인프라

직접 설계하고 자체 운영하는 데이터센터에서 고성능 GPU 컴퓨팅 환경을 제공합니다. IDC-SMILE 데이터센터의 전력 효율성과 냉각 시스템은 최적의 성능을
유지하면서도 운영 비용을 절감할 수 있도록 설계되었습니다. 24시간 365일 모니터링과 유지보수를 통해 항상 안정적이고 신뢰할 수 있는 서비스를 제공합니다.

고성능 추론 프레임워크 지원

Ollama, vLLM, KTransformers 등의 AI 프레임워크를 기반으로 대규모 언어 모델(LLM)을 실행할 수 있는 최적화된 사양을 제안합니다.
수억원 대 NVIDIA 최상급 Multi-GPU 시스템에서나 실행할 수 있었던 DeepSeek-R1 671B를 Ktransformers를 통해 가벼운 성능에서도 쉽게 구동할 수 있습니다. [ LLM&GPU 바로가기 ]

NVIDIA 4000AdaAda Lovelace architecture / CUDA Core 6,144 / GPU Memory 20GB, Bandwidth 360GB/s / PCIe 4.0 x 16

※ 상품 이용 전 이용 조건 및 공통 사항을 반드시 확인하시기 바랍니다.
※ GPU, RAM, DISK는 선택한 서버 사양에 따라 확장 가능하오니 자세히 보기를 참고하시기 바랍니다.
※ GPU 서버 모든 사양 및 요금은 부품 수급 상황에 따라 변동 될 수 있습니다.

NVIDIA A6000AMPERE architecture / CUDA Core 10,752 / GPU Memory 48GB, Bandwidth 768GB/s / PCIe 4.0 x 16

※ 상품 이용 전 이용 조건 및 공통 사항을 반드시 확인하시기 바랍니다.
※ GPU, RAM, DISK는 선택한 서버 사양에 따라 확장 가능하오니 자세히 보기를 참고하시기 바랍니다.
※ GPU 서버 모든 사양 및 요금은 부품 수급 상황에 따라 변동 될 수 있습니다.

NVIDIA PRO5000Blackwell architecture / CUDA Core 14,080 / GPU Memory 48GB, Bandwidth 1,344 GB/s / PCIe 5.0 x 16

NVIDIA PRO6000Blackwell architecture / CUDA Core 24,064 / GPU Memory 96GB, Bandwidth 1,792 GB/s / PCIe 5.0 x 16

NVIDIA RTX 4090Ada Lovelace architecture / CUDA Core 16,384 / GPU Memory 24GB, Bandwidth 1008GB/s / PCIe 4.0 x 16

※ 상품 이용 전 이용 조건 및 공통 사항을 반드시 확인하시기 바랍니다.
※ GPU, RAM, DISK는 선택한 서버 사양에 따라 확장 가능하오니 자세히 보기를 참고하시기 바랍니다.
※ GeForce 그래픽카드가 장착된 GPU 서버 사용시 반드시NVIDIA GeForce 소프트웨어 사용을 위한 라이선스 를 확인하시기 바랍니다.
※ GPU 서버 모든 사양 및 요금은 부품 수급 상황에 따라 변동 될 수 있습니다.

맞춤 서버(Custom Dedicated Server)

LLM 서버 성능은 사용 목적에 맞는 사양 설정에 따라 달라집니다. GPU는 병렬 연산, CPU는 모델 관리 및 데이터 처리, RAM은 대용량 처리, Storage는 데이터 저장 및 I/O 속도에 각각 기여합니다. LLM 모델의 규모, 목적, 예산에 맞춰 선택할 수 있습니다.

GPU는 LLM 처리에서 가장 중요한 요소 중 하나로, 대규모 병렬 연산을 수행합니다.
- GPU 메모리 용량 (VRAM): 대규모 언어 모델의 경우 모델 크기가 매우 크기 때문에 GPU의 VRAM 용량이 충분히 커야 합니다.
- FP16/FP32 연산 속도 : AI 작업에서 주로 사용되는 FP16(half-precision) 연산 속도가 높은 GPU를 선택해야 합니다.
- 다중 GPU 지원 여부 : 대형 모델은 기본적으로 멀티 GPU 구성이 필요합니다.

CPU는 전체 시스템의 제어와 데이터 전처리 및 모델 관리를 담당합니다.
- 코어 수: CPU 코어는 병렬 데이터 로딩 및 모델 스케줄링을 처리하므로 멀티코어 프로세서가 유리합니다.
- 클럭 속도 : 높은 클럭 속도는 빠른 데이터 준비와 모델 실행 속도를 지원합니다.

RAM은 모델 실행 및 데이터 처리 시 임시 데이터를 저장하는 역할을 합니다.
- 용량: RAM은 GPU 메모리의 한계를 보완하는 역할을 합니다. 따라서 충분한 RAM 용량이 중요합니다.
- 속도 (클럭) : RAM 클럭 속도가 빠를수록 데이터 처리 속도가 향상됩니다. DDR4 또는 최신 DDR5 메모리를 추천합니다.
- 메모리 확장성 : 서버의 RAM 슬롯 수를 확인하여 필요 용량을 계산할 수 있습니다.

Storage는 LLM 작업에서는 모델 저장 및 데이터 I/O 성능이 중요합니다.
- 속도: 고속 데이터 입출력을 위해 NVMe SSD를 추천합니다.
- 입출력 작업 수 : 대규모 데이터셋을 빠르게 불러오기 위해 IOPS(초당 입력/출력 작업 수)가 높은 SSD를 추천합니다.
- 용량 : 1~2TB 이상의 용량을 권장합니다.

※ 맞춤 서버는 상담 > 견적 > 납품 순으로 진행하며, 이 과정에서 서비스 이용까지 시간이 소요될 수 있습니다.
※ 스마일서브 IDC 외 설치 장소는 스마일서브 협력사를 통하여 납품을 제공하므로 출장비가 발생합니다.
※ 맞춤 서버는 견적 당시 기준으로 공급가가 결정되며, 견적 유효 기간 또는 공공 요금 인상 등의 이유로 변경 될 수 있습니다.
※ 표시된 정보는 실제 정보를 확인할 수 있는 상품 페이지의 내용과 상이할 수 있으며, 실제 서비스가 가능한 페이지의 정책을 우선으로 합니다.
※ 기타 이용에 관한 사항은 약관 및 SLA에서 확인하시기 바랍니다.

고객 소유의 GPU를 장착할 수 있는 베어본 서버 기반의 IDC 서비스를 제공합니다. 최대 8WAY까지 장착 가능하며 CPU, RAM, Storage 사양을 선택할 수 있습니다. 스마일서브가 직접 설계한 서버를 통해 안정적인 성능을 제공합니다.

※ 커스텀 GPU 서버 서비스는 스마일서브 담당자와의 상담과 견적을 통해서만 신청이 가능합니다.
※ 고객 소유의 GPU에 발생하는 장애나 파손에 대한 책임과 관리는 고객에게 있습니다.
※ 베어본 서버에 장착되는 GPU의 호환성은 스마일서브에서 보장하지 않습니다.
※ 베어본 서버의 A/S는 스마일서브의 규정을 따르며, GPU는 A/S 대상에서 제외됩니다.
※ 서비스 해지 등의 사유로 서버나 GPU 장치를 반출할 경우, 미납 요금은 전액 완납해야 합니다.
※ 고객이 소유한 GPU 장치의 사용에 필요한 라이선스는 고객이 직접 취득해야 합니다.
※ IDC 이용료(전기 요금 포함)는 GPU 모델의 최대 전력 소비량을 기준으로 책정됩니다.

GPU 모델 사양 비교

이용조건 및 공통사항

안전한 서버관리를 위한 필수 권장사항!