NVIDIA DGX Spark

NVIDIA DGX Spark হল NVIDIA GB10 Grace Blackwell Superchip-এর জন্য রেফারেন্স ডেস্কটপ সিস্টেম, যা প্রথমবারের মতো জনসমক্ষে জানুয়ারি ২০২৫-এ Project DIGITS নামে প্রদর্শিত হয়েছিল এবং চূড়ান্ত নামে সরবরাহের পূর্বে। NVIDIA-এর নিজস্ব ডিজাইন করা, বৈধকৃত এবং সরাসরি আপডেট করা প্ল্যাটফর্ম হিসেবে, এটি ১ পেটাফ্লপ FP4 AI পারফরম্যান্স এবং ১২৮ জিবি কোহেরেন্ট ইউনিফাইড মেমরি একটি ১.২ কেজি এনক্লোজারে প্যাকেজ করে যা একটি কীবোর্ডের পাশে ডেস্কে রাখার জন্য যথেষ্ট ছোট।

যেহেতু DGX Spark হল NVIDIA-এর নিজস্ব রেফারেন্স ডিজাইন, এটি সেই প্ল্যাটফর্ম যেখানে নতুন GB10 ইকোসিস্টেম ক্ষমতাগুলো প্রথমে বৈধকৃত হয়। মার্চ ২০২৬-এর শেষে NVIDIA-এর GTC ২০২৬ কনফারেন্স-এর পর, ৪-নোড RoCE ক্লাস্টারিং-এর অফিসিয়াল সাপোর্ট — যা একটি একক ডিপ্লয়মেন্টকে ৫১২ জিবি শেয়ার্ড ইউনিফাইড মেমরিতে উন্নীত করে — DGX Spark-এ নিশ্চিত করা হয়েছিল পার্টনার হার্ডওয়্যারে গৃহীত হওয়ার পূর্বে, GB10 লাইনআপ জুড়ে ইতিমধ্যে স্ট্যান্ডার্ড ২-ইউনিট ডাইরেক্ট-লিঙ্কিং ক্ষমতার পাশাপাশি।

হার্ডওয়্যার স্পেসিফিকেশন

এর কেন্দ্রে রয়েছে NVIDIA GB10 Grace Blackwell Superchip, যা একটি ২০-কোর Arm প্রসেসর (১০ × Cortex-X925 পারফরম্যান্স কোর + ১০ × Cortex-A725 এফিসিয়েন্সি কোর) একটি ব্ল্যাকওয়েল-জেনারেশন GPU-এর সাথে একত্রিত করে যাতে রয়েছে ৫ম-জেনারেশন টেনসর কোর এবং নেটিভ FP4 স্পার্সিটি সাপোর্ট। এ二者কে সংযুক্ত করেছে ১২৮ জিবি LPDDR5x ইউনিফাইড মেমরি যা CPU এবং GPU-এর মধ্যে শেয়ার করা ২৭৩ জিবি/সে কোহেরেন্ট ব্যান্ডউইথ প্রদান করে, পৃথক CPU/GPU মেমরি পুল দ্বারা সাধারণত সৃষ্ট কপি ওভারহেড দূর করে। স্টোরেজ হল একটি ৪ টিবি স্ব-এনক্রিপ্টিং PCIe Gen4 NVMe SSD, যা বড় মডেল চেকপয়েন্ট এবং ডেটাসেট স্থানীয়ভাবে ধারণ করার জন্য আকারযুক্ত।

সফটওয়্যার: সম্পূর্ণ NVIDIA AI স্ট্যাক, প্রি-ইন্সটলড

DGX Spark সরবরাহ করা হয় NVIDIA DGX OS (Ubuntu 24.04 LTS) এবং সম্পূর্ণ NVIDIA AI সফটওয়্যার স্ট্যাক প্রি-ইন্সটলড এবং হার্ডওয়্যারের বিপরীতে বৈধকৃত অবস্থায় — প্রথম বুটেই CUDA, cuDNN, TensorRT, এবং NVIDIA Container Runtime প্রস্তুত। NVIDIA NIM মাইক্রোসার্ভিসগুলি সাপোর্টেড মডেলগুলিকে ম্যানুয়াল টিউনিং ছাড়াই অপ্টিমাইজড ইনফারেন্স কন্টেইনার হিসেবে ডিপ্লয় করতে দেয়, এবং ওয়ার্কলোড পরে NVIDIA DGX Cloud বা একটি ডেটাসেন্টার DGX সিস্টেমে স্থানান্তরিত হলে একই কন্টেইনারগুলি অপরিবর্তিত থাকে। ক্রমাগত রক্ষণাবেক্ষণকৃত অফিসিয়াল প্লেবুকগুলির একটি সেট সাধারণ ওয়ার্কফ্লো কভার করে — vLLM এবং TensorRT-LLM সার্ভিং থেকে NeMo এবং Unsloth-এর সাথে ফাইন-টিউনিং পর্যন্ত — যা প্রথমবার এবং অ্যাডভান্সড ব্যবহারকারী উভয়ের জন্য সেটআপ সময় হ্রাস করে।

এজেন্টিক AI ওয়ার্কলোডের জন্য, DGX Spark অন্তর্ভুক্ত করে NemoClaw, NVIDIA-এর স্যান্ডবক্সড এজেন্ট-এক্সিকিউশন লেয়ার। এটি স্বায়ত্তশাসিত এজেন্টগুলির চারপাশে পলিসি-ভিত্তিক অ্যাক্সেস কন্ট্রোল প্রয়োগ করে, অডিট উদ্দেশ্যে তাদের ক্রিয়া লগ করে এবং সাম্প্রতিক DGX OS আপডেটে পরিমাপযোগ্যভাবে দ্রুত স্থানীয় এজেন্ট ইনফারেন্স প্রদানের জন্য অপ্টিমাইজ করা হয়েছে।

কানেক্টিভিটি ও নেটওয়ার্কিং

নেটওয়ার্কিং গঠিত হয়েছে একটি NVIDIA ConnectX-7 Smart NIC-কে কেন্দ্র করে যার রয়েছে ডুয়াল ২০০ Gbps QSFP পোর্ট, যা সরাসরি ইউনিট-টু-ইউনিট লিঙ্কিং বা বড় ডিপ্লয়মেন্টে ম্যানেজড RoCE সুইচ ফ্যাব্রিকের সাথে সংযোগের জন্য ব্যবহৃত হয়। অতিরিক্ত অনবোর্ড কানেক্টিভিটিতে রয়েছে ১০ GbE ইথারনেট (RJ-45), Wi-Fi 7, এবং Bluetooth 5.4। চারটি USB4 Type-C পোর্ট স্থানীয় মাল্টি-মনিটর ব্যবহারের জন্য ডিসপ্লেপোর্ট আউটপুট সাপোর্ট করে — একসাথে তিনটি ডিসপ্লে পর্যন্ত — HDMI-এর পাশাপাশি, একই ইউনিটকে ডেভেলপমেন্ট ওয়ার্কস্টেশন এবং সর্বদা চালু ইনফারেন্স সার্ভার উভয় হিসাবে কাজ করতে দেয়।

এন্টারপ্রাইজ ম্যানেজমেন্ট ও সিকিউরিটি

DGX Spark ইন্টারনেট সংযোগবিহীন পরিবেশের জন্য এয়ার-গ্যাপড ডিপ্লয়মেন্ট সাপোর্ট করে, যার মধ্যে রয়েছে Cloud-init-এর মাধ্যমে কাস্টম ISO তৈরি এবং USB-ভিত্তিক OS ও ড্রাইভার আপডেট — যা ফ্লিটগুলিকে বাহ্যিক নেটওয়ার্ক নির্ভরতা ছাড়াই প্রোভিশন এবং রক্ষণাবেক্ষণ করতে সক্ষম করে। স্টোরেজ ডিফল্টরূপে স্ব-এনক্রিপ্টিং, এবং প্ল্যাটফর্মটিতে রয়েছে TPM 2.0 এবং সিকিউর বুট, যা এটিকে একটি সিকিউরিটি বেসলাইন দেয় যা নিয়ন্ত্রিত, ডেটা-সেনসিটিভ ডিপ্লয়মেন্টের জন্য উপযুক্ত যেখানে প্রসেসিং সম্পূর্ণরূপে অন-প্রিমিসে থাকতে হবে।

স্কেলিং: একক, ২-ইউনিট, এবং ৪-ইউনিট কনফিগারেশন

একটি একক DGX Spark স্থানীয়ভাবে প্রায় ২০০ বিলিয়ন প্যারামিটার পর্যন্ত মডেলগুলি আরামদায়কভাবে সার্ভ করে। বড় মডেলগুলির জন্য, দুটি ইউনিট সরাসরি ConnectX-7 QSFP পোর্টের মাধ্যমে একটি সম্মিলিত ২৫৬ জিবি ইউনিফাইড মেমরি পুলে লিঙ্ক হয়, এবং চারটি ইউনিট পর্যন্ত একটি ম্যানেজড ২০০ GbE RoCE সুইচ ফ্যাব্রিকের মাধ্যমে ৫১২ জিবি কোহেরেন্ট পুলের জন্য যুক্ত করা যেতে পারে — NVIDIA কর্তৃক GTC ২০২৬-এ বৈধকৃত একই ক্লাস্টারিং পাথ।

ইকোসিস্টেম ও দীর্ঘমেয়াদী স্কেলিং পাথ

যেহেতু DGX Spark একই DGX OS এবং NVIDIA AI সফটওয়্যার স্ট্যাক চালায় যা NVIDIA DGX Cloud এবং ডেটাসেন্টার DGX সিস্টেম জুড়ে ব্যবহৃত হয়, স্থানীয়ভাবে ডেভেলপ করা ওয়ার্কলোডগুলি — কন্টেইনার, NIM ডিপ্লয়মেন্ট, ফাইন-টিউনিং পাইপলাইন — পরিবর্তন ছাড়াই বহন করে যখন ডেস্কটপ প্রোটোটাইপ থেকে একটি বৃহত্তর প্রোডাকশন ডিপ্লয়মেন্টে স্থানান্তর করার সময় আসে।