DG3R
Rackmount Server
최대 65dB
일상 대화 수준의 소음GPU 10장
GPU 10장까지 장착 가능한 폼 팩터셀프 인클루시브
관리가 필요 없는 내장형 수냉 시스템
안전
세계 최초의 수냉식 이종 슈퍼컴퓨터로 부터
세계 최초의 수냉식 이종 슈퍼컴퓨터를 개발한 매니코어소프트의 기술력을 바탕으로 설계된 DG3R 서버는 탁월한 안정성을 자랑합니다.
견고한 강철 프레임
자체 설계된 두꺼운 강철 프레임과 강철 플레이트로 제작되어 강한 충격에도 끄떡없는 안정성
물 샐 틈 없는 연결 구조
세계 최고 수준의 안정성을 자랑하는 완전 밀폐형 내부 수로
충격 방지
충격에 매우 취약한 수냉식 GPU를 위해 GPU와 충격 흡수 패드를 자체 설계된 알루미늄 프레임에 고정시켜 안전하게 GPU를 보호
노하우
세계 최초의 수냉식 GPU 슈퍼컴퓨터인 ‘천둥’은 2012년부터 매니코어소프트의 수냉 솔루션을 이용하여 수백 개의 CPU와 GPU를 서비스
특허
수냉 시스템 기술 특허 등록 (등록번호: 10-2118786, 컴퓨터용 수냉식 냉각장치 및 그 구동방법)
수냉 시스템
GPU 10장을 동시에 냉각할 수 있는 강력한 성능
강력한 12개의 Fan, 맞춤 설계된 3개의 Radiator, 자체 제작 Cooling plate로 구성된 수냉 시스템은 최대 GPU 10장까지도 냉각할 수 있는 강력한 냉각 성능을 제공합니다. GPU 10장에 Full load를 걸었을 때도 60도 이하의 온도를 유지합니다.
강력한 12개의 Fan
저소음으로 설계된 강력한 12개의 Fan
맞춤 설계된 3개의 Radiator
시스템에서 발생하는 열을 모두 처리하기 위한 3개의 대용량 Radiator
자체 제작 냉각판
효율적으로 GPU와 CPU의 열을 전달하기 위해 구리와 알루미늄으로 자체 제작한 견고한 냉각판
CPU/GPU 냉각
CPU와 GPU를 모두 단일 수냉 시스템이 냉각하여 안정적인 동작을 보장
적응적으로 작동하는 수냉 시스템
DEEP Gadget은 시스템의 사용률과 온도를 상시로 체크하여 수냉 시스템을 적응적으로 컨트롤합니다. 시스템이 가벼운 일을 하고 있다면 더 조용하게 동작합니다.
성능
GPU 10장의 강력한 성능
기존 서버에 GPU를 여러 개 장착하면 발열 때문에 GPU 성능이 10~20% 감소합니다. DEEP Gadget 3에 탑재된 냉각 시스템은 최대 10장의 GPU를 60도 이하의 낮은 온도로 동작하게 하여 GPU 성능을 최대로 발휘할 수 있게 합니다.
딥 러닝에 최적화된 구성 NVIDIA A100 사용시 최대 6.24 PF의 성능
* Peta FLOPS: 1초에 1000조 번 연산
* FP16 Tensor 코어 사용 성능
10장의 GPU 지원
DEEP Gadget 3의 냉각 시스템은 10장의 GPU 냉각 가능
직접 연결되는 GPU
PCIe 스위치를 사용하여 간접적으로 연결하는 방식이 아닌 마더보드에 GPU를 직접 연결하여 성능 저하를 최소화
최고 성능 보장
세계 최고 수준의 냉각 시스템을 장착하여 발열로 인한 GPU 스로틀링 문제를 완벽하게 방지
저소음
세계 최고 수준의 저소음
DG3R 에서 발생하는 소음은 일반 GPU 서버와 다릅니다. GPU를 100%를 사용하는 동안에도 소음은 일상 대화 수준의 최대 65 dB 이하로 유지됩니다. 세계 최고 수준으로 설계된 DEEP Gadget의 수냉 시스템은 거슬리는 고주파 소음을 최대한 방지합니다.
세계 최고 수준의 저소음
최대 65 dB로 일상 대화 수준인 저소음을 달성
저소음 Fan 장착
고주파 소음 발생을 최소화하는 대형 Fan을 다수 장착
최적화된 Air flow
서버 앞에서 뒤까지 최적의 Air flow를 구성
CPU, GPU 모두 수냉
열이 많이 발생하는 CPU와 GPU를 모두 수냉하여 저소음 달성
다양성
다양한 GPU를 마음대로 선택
저렴한 게이밍 GPU를 사용하여 딥 러닝 머신을 꾸며보세요. DEEP Gadget은 완벽하게 설계된 수냉 시스템을 통해 가격 효율이 좋은 게이밍 GPU에서도 엔터프라이즈 GPU급 안정성을 보장합니다.
AI 학습용
AI 학습에 있어서는 TF32, BFLOAT16의 성능이 중요합니다. 해당 metric에 대한 DEEP Gadget에 장착 가능한 GPU 성능 순위는 아래와 같습니다.
AI 추론용
AI 추론에 있어서는 INT8의 성능이 중요합니다. 해당 metric에 대한 DEEP Gadget에 장착 가능한 GPU 성능 순위는 아래와 같습니다.
정밀 연산용
정밀 연산(Computational Science 등)에 있어서는 FP64의 성능이 중요합니다. 해당 metric에 대한 DEEP Gadget에 장착 가능한 GPU 성능 순위는 아래와 같습니다.
일반 연구용
일반 연구에는 주로 FP32가 사용됩니다. 해당 metric에 대한 DEEP Gadget에 장착 가능한 GPU 성능 순위는 아래와 같습니다..
소프트웨어
모든 소프트웨어가 준비된 상태로
운영체제(Ubuntu, CentOS, Windows 등)부터, GPU 드라이버(CUDA, ROCM 등), 딥 러닝 프레임워크(PyTorch, TensorFlow, Keras 등)까지 사용자가 원하는 모든 최신 버전의 소프트웨어가 미리 준비된 상태로 제공됩니다. 번거로운 세팅 없이 바로 딥 러닝을 시작할 수 있습니다.
- DEEP Gadget은 사용자가 원하는 소프트웨어가 미리 설치되어 사용할 준비가 된 상태로 출고됩니다.
운영체제
Linux (Ubuntu, CentOS) 혹은 Windows
GPU 드라이버
CUDA, ROCm 등
딥 러닝 플랫폼
PyTorch, TensorFlow, Keras 등
기타 소프트웨어
Docker, Anaconda, R 등
시스템 수명
낮은 동작 온도로 시스템 수명 연장
고열로 장기간 GPU 시스템을 운영하면 시스템의 수명에 악영향을 끼칩니다. DEEP Gadget은 시스템을 100% 사용 시에도 GPU를 60도 이하의 낮은 온도로 유지하므로 GPU를 문제 없이 오래 사용할 수 있습니다.
제품 사양
폼 팩터
5U 랙마운트 (손잡이 포함 W×H×D 440×218×920 mm)CPU 소켓 수
2개CPU
Intel Xeon Scalable 2세대 (Cascade Lake)최대 GPU 개수
8개 (NVIDIA GeForce GPU 장착 시) 혹은 10개GPU다른 GPU를 장착하고 싶으신 경우
NVIDIA GeForce RTX 3080
별도로 문의하시기 바랍니다.
NVIDIA GeForce RTX 3080 Ti
NVIDIA GeForce RTX 3090
NVIDIA RTX A5000
NVIDIA RTX A6000
NVIDIA A10 Tensor Core GPU
NVIDIA A30 Tensor Core GPU
NVIDIA A100 Tensor Core GPU 80GB for PCIePCIe
PCIe 3.0 x16 4개, PCIe 3.0 x8 4개, PCIe 3.0 x4 1개
또는 GPU 10개 장착 시, PCIe 3.0 x16 2개, PCIe 3.0 x8 8개, PCIe 3.0 x4 1개메인 메모리
DDR4 2666 MHz ECC Registered 메모리, 최대 1 TB주 스토리지
M.2 NVMe SSD 1 TB 혹은 2 TB대용량 보조 스토리지선택사항
최대 64 TB SSD 스토리지마더보드
Supermicro X11DPX-T파워 서플라이
2000 W 2개 (80 PLUS Platinum)운영체제
Ubuntu 18.04 LTS (TensorRT 필요 시), Ubuntu 20.04 LTS, CentOS, Rocky linux라이브러리
CUDA Toolkit, cuDNN, NCCL, TensorRT, DeepSpeed, ...딥 러닝 프레임워크
TensorFlow, PyTorch, Megatron-LM, Hugging Face, ...