- 둘 다 슈퍼칩을 기반으로 합니다. NVIDIA GB10 그레이스 블랙웰은 128GB 통합 메모리로 1페타플롭 FP4를 목표로 합니다.
- AI TOP ATOM은 ConnectX‑7(최대 200Gbps)을 사용하여 두 개의 노드를 연결하여 매개변수를 200B에서 ~405B까지 확장할 수 있습니다.
- 전체 소프트웨어 스택: NVIDIA DGX OS/Ubuntu 지원 및 AI TOP 유틸리티 descargas, 추론, RAG 및 ML.
- 10GbE, HDMI 2.1ay를 갖춘 1리터 포맷 USB 3.2 Gen 2x2; 출시 여부와 가격은 이미 Newegg에 공개되어 있습니다.
데스크톱 미니 슈퍼컴퓨터 간의 대결이 흥미로워지고 있습니다. 기가바이트 AI TOP ATOM vs NVIDIA DGX Spark. 둘 다 새로운 컴퓨팅 시대의 핵심을 공유합니다. IA NVIDIA에서 출시되었지만, 두 제품은 서로 다른 "패키지"로 제공됩니다. 하나는 레퍼런스 플랫폼이고, 다른 하나는 바로 사용 가능한 턴키 제품입니다. 랙 설치 없이도 강력한 AI 성능을 원한다면, 여기에서 분석할 만한 것이 많습니다.
우리는 최근까지 그렇게 작은 PC에서는 상상도 할 수 없었던 성능 수치를 약속하는, 무게가 단 1리터에 불과한 컴퓨터에 대해 이야기하고 있습니다. FP4에서 1페타플롭의 AI 성능(1.000 TOPS)고속 통합 메모리, 그리고 차세대 모델을 생성, 미세 조정 및 추론하는 전체 NVIDIA 소프트웨어 생태계를 통해, 그리고 네, 이 모든 것이 낮은 전력 소비와 필요에 따라 확장 가능한 네트워크 연결을 통해 가능합니다.
각각은 무엇입니까? DGX Spark 플랫폼과 GIGABYTE의 미니 PC
우리 자신의 위치를 정하려면: 엔비디아 DGX 스파크 NVIDIA의 데스크톱 참조 플랫폼(이전 명칭: Project DIGITS)이며 다음과의 협업을 통해 탄생했습니다. 미디어 텍이는 다양한 제조업체가 소형 AI 기기를 개발할 수 있는 "틀"입니다. 이러한 틀 안에서 MSI와 ASUS 같은 브랜드는 이미 자사 제품을 선보였으며, GIGABYTE도 자신만의 방식으로 참여하고 있습니다.
그 반전은 기가바이트 AI 탑 아톰DGX Spark의 기술적 기반을 바탕으로 명확한 사양, 자체 유틸리티, 그리고 상업적 가용성을 갖춘 최종 제품으로 패키징한 1리터 미니 PC입니다. 다시 말해, Spark는 표준을 설정하고 AI TOP ATOM은 GIGABYTE의 구체적인 해석입니다. 개발자 데스크톱, 연구 센터, 교실에 이러한 기능을 제공합니다.
아키텍처: NVIDIA GB10 Grace Blackwell(위에서 아래까지)
공통분모는 슈퍼칩입니다 엔비디아 그레이스 블랙웰 GB10, CPU와 GPU를 통합 고대역폭 메모리로 통합한 SoC입니다. CPU 쪽에는 프로세서가 있습니다. 20코어 Armv9효율성을 위해 고성능 Cortex-X925 코어 10개와 Cortex-A725 코어 10개를 탑재했습니다. 이러한 조합은 두 컴퓨팅 작업 모두에서 민첩성을 제공합니다. 전처리 및 오케스트레이션 복잡한 AI 파이프라인처럼요.
GPU는 아키텍처를 구현합니다 블랙웰 최신 세대의 전문화된 NVIDIA 코어를 탑재: 5세대 텐서 AI를 가속화하고 4세대 RT 레이 트레이싱을 위해. 또한 GB10은 다음을 통합합니다. 1개의 NVENC와 1개의 NVDEC분석 또는 다중 모드 애플리케이션에서 비디오 스트림을 사용하는 경우 유용합니다. 이 모든 것이 다음을 통해 통합됩니다. NV링크-C2C, CPU와 GPU 사이의 초고속 "접착제"로, 시스템 내에서 PCI Express 5.0이 제공하는 것보다 훨씬 뛰어납니다.
AI 성능 및 모델 크기
주목을 끄는 데이터는 낮은 정밀도 계산입니다. 생성 적 AI: FP4에서 1.000 TOPS, 1 petaFLOP에 해당실제로 이는 작은 섀시에서 클라우드에 의존하지 않고도 현대 언어 및 멀티모달 모델을 효율적으로 실행하고 조정하고, 신속한 프로토타입을 제작하고, 까다로운 추론을 프로덕션에 배포할 수 있음을 의미합니다.
모델의 크기에 관해서는 소스의 정보가 단일하지 않으며 모든 것을 수집하는 것이 좋습니다. 한편으로는 최대 200.000억 개의 매개변수가 있는 모델에 대한 로컬 지원이 표시됩니다. 단일 단위로; 반면, "최대 70조 및 200조(미국 달러) 매개변수의 LLM 지원을 약속한다"고도 언급합니다. 이 마지막 표현은 스페인어의 "billones"와 영어의 "billion" 사이의 모호성을 이용하지만, 핵심 메시지는 변함이 없습니다. 이 팀들의 작업 임계값은 완전히 최상위 리그 내에 있습니다. 현재 LLM을 위한.
두 개의 유닛이 상호 연결되면 조인트 한계는 대략 다음과 같이 확장됩니다. 405.000억 개의 매개변수더 큰 모델과 분산 워크로드를 위한 문을 열어줍니다. 확장된 컨텍스트, 대용량 인덱스를 사용하는 RAG 또는 다단계 파이프라인을 탐색하는 사람들에게 이러한 여유 공간은 큰 차이를 만들어냅니다.
이런 종류의 성능은 실험실에만 국한되지 않습니다. 개발, 교육, 연구, 과학, 스마트 시티 및 로봇 공학 이러한 시나리오는 자연스러운 것처럼 보입니다. 페타플롭급 AI를 활용하면 테스트 속도가 빨라지고, 운영 비용이 절감되며, 클라우드에서 대기열에 갇히지 않고도 민첩한 반복 작업이 가능해집니다.
통합 메모리, 스토리지 및 대역폭
시스템 메모리는 강점입니다. 256비트 버스의 128GB LPDDR5X약 273GB/s의 대역폭을 가지고 있습니다. 통일 CPU와 GPU 사이에서 단순화합니다. 프로그래밍 또한, 가벼운 학습이나 높은 동시성 추론에서 대용량 텐서와 배치를 이동하는 데 중요한 중복 복사를 방지합니다.
에 저장, GIGABYTE는 최대 4TB SSD PCIe Gen5, 상업적 구성은 다음과 같이 시작됩니다. PCIe 4.0에서 1TB. 용량을 넘어서 중요한 점은 부피가 큰 모델을 로드할 때 병목 현상이 최소화된다는 것입니다. 대용량 파일 복사 빠르게 임베딩이나 비전 및 오디오 데이터 세트를 좋은 속도로 수집하여 팀의 성과를 "최적의 지점"으로 유지합니다.
내부 상호 연결 NV링크-C2C 또 다른 주요 차이점을 나타냅니다. 훨씬 더 높은 대역폭을 제공함으로써 PCIe 5.0 SoC 내에서 CPU-GPU 통신을 위해 대기 시간을 줄이고 전송에 민감한 시나리오에서 통합 메모리를 활용합니다. 이는 생성적 AI와 ML에서 주로 사용되는 방식입니다.
더욱 발전된 연결성과 확장성
포트와 연결 측면에서는 부족함이 없습니다. 장비는 기본적으로 다음을 통합합니다. 10GbE 고성능 유선 네트워크를 위해 Wi-Fi 7 및 Bluetooth 5.3 최신 무선 연결을 위해 HDMI 2.1 그리고 여러 USB 3.2 Gen 2x2 타입-C (전원 공급을 위한 PD IN 포트 포함). HDMI를 통해 멀티채널 오디오 출력이 가능하므로 별도의 액세서리 없이도 멀티미디어 요구 사항을 충족할 수 있습니다.
성장을 가능하게 하는 부분은 NVIDIA ConnectX‑7 SmartNIC. 최대 링크로 두 시스템을 상호 연결합니다. 200Gbps, 저지연 클러스터 컴퓨팅을 가능하게 합니다. 출처에서는 이 인터페이스를 다음과 같이 설명합니다. ConnectX‑7 InfiniBand NIC최소 지연 시간과 지속적인 대역폭에 중점을 두는 방식입니다. 실제로 이를 통해 200B에서 ~405B 매개변수로 이동 두 개의 노드를 결합할 때.
두 팀의 이러한 연합 외에도 운영 관점에서 다음과 같은 것이 가능합니다. 여러 AI TOP ATOM 유닛을 쌓으세요 ConnectX‑7을 사용하여 이들을 연결하여 동시에 작동하고 작업을 용이하게 합니다. 네트워크 폴더 동기화연구 워크숍이나 고급 강의실의 경우 모듈 방식으로 추가되는 "블록"을 사용하는 것이 특히 실용적입니다.
소프트웨어, 운영 체제 및 유틸리티
소프트웨어에는 타협이 없습니다. 팀이 지원합니다. 엔비디아 DGX OS y Ubuntu Linux, 그리고 통합됩니다 NVIDIA AI 소프트웨어 스택즉, 최첨단 AI 프로젝트를 구축하고 배포하는 데 사용되는 도구, 프레임워크 및 라이브러리 집합입니다. 이를 통해 이미 CUDA 생태계에 참여하고 있는 개발자와 교육팀 모두의 진입 장벽이 낮아지고, 예를 들어 다음과 같은 이점이 있습니다. Linux에서 펌웨어 업데이트 표준으로.
GIGABYTE는 또한 다음을 추가합니다. AI TOP 유틸리티, 일반적인 흐름을 단순화하는 레이어: 모델 다운로드, 추론, RAG 및 머신 러닝 더 직접적인 인터페이스에서. 제안은 다음을 강조합니다. 로컬 데이터 개인 정보 보호 및 보안규정을 준수해야 하는 조직이나 민감한 정보를 사내에 보관하고 싶어하는 조직에 적합한 솔루션입니다.
물리적 디자인, 소비 및 형식
이 세트는 약 섀시에 맞습니다. 1 리터. 공식 측정값이 포함된 놀라울 정도로 컴팩트한 상자입니다. 150 150 × × 50,5 MM 그리고 무게는 대략 1,2의 kg. 전원은 외부 어댑터를 통해 공급됩니다. 240 승, 합병증 없이 최고의 성능을 유지하기에 충분하며, 출처에서 자세히 설명한 대로 시스템은 표준 가정용 콘센트와 호환 가능 특별한 인프라가 필요 없습니다.
GIGABYTE는 규모를 넘어 신속하고 체계적인 배포를 고려했습니다. 여러 개의 유닛을 물리적으로 쌓다 적절한 SmartNIC에 연결하면 매우 작은 공간에 소규모 클러스터를 구축하는 데 도움이 됩니다. 프로젝트 담당자에게 필요에 따라 "박스를 추가"하고 노드를 제거할 수 있는 기능은 매우 유용합니다.
GIGABYTE AI TOP ATOM의 주요 사양
- SoC – 엔비디아 GB10
- CPU – 10× Cortex‑X925 및 10× Cortex‑A725를 갖춘 20개의 Armv9 코어
- 구조 – NVIDIA 그레이스 블랙웰
- GPU – 블랙웰 아키텍처
- 쿠다 코어 – 블랙웰 세대
- 텐서 코어 – 5세대
- RT 코어 – 4세대
- 텐서 성능 – 1.000개의 AI TOPS(FP4)
- VPU – 1× NVENC, 1× NVDEC
- 시스템 메모리 – 128GB 256비트 LPDDR5X(≈273GB/s)
- 저장 – 최대 4TB PCIe Gen5 SSD
- 비디오 – HDMI 2.1a 출력
- 오디오 – HDMI를 통한 다중 채널 오디오
- 빨간색
- 1× 10GbE RJ45
- 스마트NIC ConnectX‑7 최대 200Gbps까지 두 시스템을 연결
- 와이파이 7 y Bluetooth 5.3
- USB
- 1× USB 3.2 Gen 2×2 Type‑C(PD IN)
- 3× USB 3.2 Gen 2×2 Type‑C(최대 20Gbps)
- 소비 – 240W 외부 어댑터
- 치수 – 150 × 150 × 50,5mm
- 무게 – 1,2kg
가격 및 가용성
GIGABYTE AI TOP ATOM은 현재 다음과 같은 매장에서 구매 가능합니다. Newegg, 시작 가격은 약 달러 3.499,99 1TB PCIe 4.0 SSD가 장착된 버전의 경우. 위에 옵션이 있습니다. 4TB PCIe 4.0 (약 $3.899,99) 및 상위 변형 4TB PCIe 5.0 (약 3.999,99달러). 언제나 그렇듯, 그만한 가치가 있어요 현지 유통업체에 재고 확인 구성 및 마감일은 공식 제품 페이지와 보도자료를 참조하세요.
동일한 기준의 생태계와 대안
이 플랫폼의 도입은 GIGABYTE에만 국한되지 않습니다. MSI와 ASUS는 이미 자사 미니 PC를 선보였다. 동일한 NVIDIA DGX Spark 레퍼런스를 기반으로, 이는 우리가 "데스크톱 AI"의 사실상 표준에 직면하고 있음을 확인시켜 줍니다. 최종 사용자에게 이는 설계, 포트, 서비스 및 추가 유틸리티 측면에서 가장 적합한 어셈블러를 선택하는 것을 의미합니다. 기술 핵심(GB10) 동일합니다.
직접 비교: AI TOP ATOM vs DGX Spark
위의 모든 내용을 고려하면 비교가 더 잘 이해될 것입니다. DGX 스파크 이는 개념이자 참조 플랫폼입니다. 1리터 형식과 사용을 정의합니다. GB10 그레이스 블랙웰 그리고 페타플롭 FP4를 구현한다는 목표. 이를 바탕으로 AI 탑 아톰 GIGABYTE는 128GB 통합 메모리, 빠른 스토리지, 전용 포트, AI 흐름을 단순화하는 자체 유틸리티를 탑재하여 이러한 아이디어를 구체화한 최종 제품입니다.
따라서 우리는 원시 전력과 모델 범위 측면에서 실질적으로 동일한 수치(1.000 TOPS FP4 및 최대)를 보고 있습니다. 200B 노드의 매개변수, ~405B 두 개의 연결된 노드에서). 실제적인 차이점은 다음에서 확인할 수 있습니다. 구체적인 구현: : 유틸리티(AI TOP 유틸리티), 포트의 정확한 조합, 저장 옵션 등이 포함되어 있습니다. 가격 및 가용성OEM 브랜드의 "즉각적인" 경험을 원하신다면 ATOM이 적합합니다.
원을 닫으려면 스페인 소식통이 지적한 내용을 기억해야 합니다. GIGABYTE는 다음과 같이 명시적으로 말합니다. 여러 개의 유닛을 쌓기 그리고 사용 범위는 다음과 같습니다. 과학계에 대한 교육스마트 시티와 로봇 공학을 통해. Spark의 정신은 변함없이 유지됩니다. 최소한의 포맷으로 진정한 AI 역량을 구현하고, 더 강력한 기능이 필요할 때 즉시 확장할 수 있다는 것입니다.
우리가 "데스크톱 AI"의 세대적 도약에 대해 이야기하고 있다는 것은 분명합니다. 기가바이트 AI 탑 아톰 의 본질을 계승하다 엔비디아 DGX 스파크 (이전 명칭: Project DIGITS)에 집중 1페타플롭 FP4 1리터에 다음을 제공합니다. 128GB 통합 NVLink‑C2C를 사용하면 최대 ~405B 매개변수 ConnectX‑7을 사용하여 두 노드를 페어링하면 엔비디아 스택 DGX OS/Ubuntu 및 AI TOP 유틸리티를 사용하여 다운로드, 추론, RAG 및 ML을 용이하게 합니다. 10GbE, HDMI 2.1, USB 3.2 Gen 2 × 2 그리고 Newegg에 이미 게시된 가격을 고려하면, 전용 서버를 설정하지 않고도 AI 주기를 가속화하고자 하는 연구, 교실 및 팀을 위한 매우 견고한 제안이 있습니다.
바이트와 기술 전반에 관한 세계에 대한 열정적인 작가입니다. 나는 글쓰기를 통해 내 지식을 공유하는 것을 좋아하며 이것이 바로 이 블로그에서 할 일이며 가젯, 소프트웨어, 하드웨어, 기술 동향 등에 관한 가장 흥미로운 모든 것을 보여 드리겠습니다. 제 목표는 여러분이 간단하고 재미있는 방식으로 디지털 세계를 탐색할 수 있도록 돕는 것입니다.