NVIDIA DGX Station এআই ওয়ার্কস্টেশন

এনভিডিয়া ২০২৬ সালের ১৭ মার্চ ডিজিএক্স স্টেশন চালু করে NVIDIA GB300 Grace Blackwell Superchip প্ল্যাটফর্মের জন্য রেফারেন্স ডেস্কসাইড সিস্টেম হিসেবে— যা ট্রিলিয়ন-প্যারামিটার মডেল স্থানীয়ভাবে চালানোর জন্য সরাসরি এনভিডিয়া দ্বারা ডিজাইন ও যাচাইকৃত, এবং এনভিডিয়ার হার্ডওয়্যার পার্টনারদের লাইসেন্সের অধীনে উৎপাদিত।

হার্ডওয়্যার স্পেসিফিকেশন

ডিজিএক্স স্টেশন তৈরি করা হয়েছে একটি একক NVIDIA Grace CPU Superchip কে কেন্দ্র করে— ৭২টি ARM Neoverse V2 কোর এবং ৪৯৬ জিবি LPDDR5X মেমোরি— যা ২৫২ জিবি HBM3e GPU মেমোরি সহ একটি NVIDIA Blackwell Ultra GPU এর সাথে যুক্ত, NVLink-C2C এর মাধ্যমে ৭৪৮ জিবির একটি সমন्वিত মেমোরি পুলে একীভূত। সর্বোচ্চ ৭টি বিচ্ছিন্ন MIG পার্টিশন একটি স্টেশনকে একই সাথে একাধিক টিম বা ওয়ার্কলোড সেবা দিতে সক্ষম করে কোনো দ্বন্দ্ব ছাড়াই। সিস্টেমটি প্রদান করে ৪× M.2 2280 PCIe 5.0 x4 NVMe স্টোরেজ, একটি ডুয়াল-পোর্ট NVIDIA ConnectX-8 400G SuperNIC, এবং ডিসপ্লে ও ভিজুয়ালাইজেশন আউটপুটের জন্য একটি ঐচ্ছিক NVIDIA RTX PRO GPU এর জন্য PCIe 5.0 এক্সপেনশন স্লট।

ব্যবসায়িক ব্যবহারের জন্য স্থানীয় এআই সার্ভার

ডিজিএক্স স্টেশন ডিজাইন করা হয়েছে একটি শেয়ার্ড স্থানীয় এআই রিসোর্স হিসেবে কাজ করার জন্য। একাধিক কর্মী কাজের দিন জুড়ে ডকুমেন্ট প্রসেসিং টাস্ক জমা দিতে পারে— চুক্তি পর্যালোচনা, চালান এক্সট্রাকশন, রিপোর্ট ড্রাফটিং, ইমেইল ট্রায়েজ— যেখানে কাজগুলো এক্সটার্নাল ক্লাউড সার্ভিসের মাধ্যমে রাউট করার পরিবর্তে কেন্দ্রীয়ভাবে অন-সাইটে হ্যান্ডেল করা হয়।

NVIDIA NemoClaw এর মাধ্যমে, স্বয়ংক্রিয় এজেন্ট সিস্টেমে নিরবচ্ছিন্নভাবে চলতে পারে, ইনবক্স মনিটরিং বা নির্ধারিত রিপোর্ট জেনারেশনের মতো পুনরাবৃত্তিমূলক কাজগুলো হ্যান্ডেল করে প্রতিটি অনুরোধ শুরু করার জন্য কোনো ব্যক্তির প্রয়োজন ছাড়াই। এটি ডিজিএক্স স্টেশনকে ব্যবসার জন্য চলমান এআই ইনফ্রাস্ট্রাকচার হিসেবে পরিচালনা করতে সক্ষম করে, স্থির ডকুমেন্ট ওয়ার্কলোড সমর্থন করে।

ক্ষমতা সম্প্রসারণ: দুই-স্টেশন ক্লাস্টারিং

যেসব ওয়ার্কলোড একটি এককের সীমা অতিক্রম করে, সেগুলোর জন্য দুটি ডিজিএক্স স্টেশন তাদের অনবোর্ড ৪০০জি ConnectX-8 SuperNIC পোর্টের মাধ্যমে সংযুক্ত করা যেতে পারে, উভয় মেশিন জুড়ে অ্যাড্রেসযোগ্য একটি একক ১,৪৯৬ জিবি সমন্বিত মেমোরি পুলে একত্রিত হয়ে। এটি ক্রমবর্ধমান টিমগুলোর জন্য একটি সরল আপগ্রেড পথ প্রদান করে নতুন আর্কিটেকচার বা ওয়ার্কফ্লো পরিবর্তনের প্রয়োজন ছাড়াই, চেকআউটে একটি কনফিগারেশন অপশন হিসেবে উপলব্ধ।

নয় বছর ধরে ডিজিএক্স স্টেশন উন্নয়নের উপর নির্মিত একটি রেফারেন্স প্ল্যাটফর্ম

ডিজিএক্স স্টেশন নামটির সূত্রপাত ২০১৭ সালে, যখন এনভিডিয়া মূল ডিজিএক্স স্টেশন চালু করে র্যাক-মাউন্টেড এআই ইনফ্রাস্ট্রাকচারের বিকল্প হিসেবে ডেস্কসাইডে, চারটি NVIDIA Tesla V100 GPU কে কেন্দ্র করে তৈরি। নভেম্বর ২০২০ সালে, DGX Station A100 এটি প্রতিস্থাপন করে, চারটি NVIDIA A100 Tensor Core GPU তে স্থানান্তরিত হয় এবং সর্বোচ্চ ৩২০ জিবি GPU মেমোরি অফার করে চারটি পৃথক কার্ডে বিস্তৃত, যার প্রতিটির জন্য মাল্টি-জিপিইউ কনফিগারেশনে ওয়ার্কলোড স্পষ্টভাবে বিতরণ ও পরিচালনা করা প্রয়োজন ছিল।

২০২৬ সালে চালু হওয়া বর্তমান ডিজিএক্স স্টেশন, সেই মাল্টি-জিপিইউ পদ্ধতিকে প্রতিস্থাপন করেছে একটি একক NVIDIA GB300 Grace Blackwell Ultra Superchip দিয়ে: একটি সমন্বিত, একীভূত ৭৪৮ জিবি মেমোরি পুল যা সিপিইউ এবং জিপিইউ এর মধ্যে সরাসরি NVLink-C2C এর মাধ্যমে শেয়ার করা হয়, সফ্টওয়্যারে সেলাই করা চারটি পৃথক জিপিইউ মেমোরি পুলের পরিবর্তে।

খরচের তুলনা: অন-প্রিমাইজেস বনাম ক্লাউড এআই এপিআই

যেসব এসএমবি দৈনিক উচ্চ পরিমাণে ডকুমেন্ট প্রসেসিং করে, তাদের জন্য একটি নির্দিষ্ট অন-প্রিমাইজেস সিস্টেম এবং ব্যবহার-ভিত্তিক ক্লাউড এআই বিলিং এর মধ্যে পার্থক্য সময়ের সাথে উল্লেখযোগ্যভাবে বৃদ্ধি পায়।

যেহেতু প্রসেসিং সম্পূর্ণরূপে অন-সাইটে ঘটে, ডকুমেন্ট এবং ব্যবসায়িক ডেটা তৃতীয় পক্ষের সার্ভারে প্রেরণ করা হয় না। আইনি, আর্থিক বা অন্যান্য ডেটা-সেনসিটিভ সেক্টরের প্রতিষ্ঠানগুলোর জন্য এটি একটি প্রাসঙ্গিক বিবেচ্য বিষয়।

সারসংক্ষেপ

ডিজিএক্স স্টেশন একটি একক, নির্দিষ্ট-খরচের সিস্টেম প্রদান করে যা অবিচ্ছিন্ন এআই ডকুমেন্ট প্রসেসিং সমর্থনে সক্ষম, স্থানীয়ভাবে বড় এআই মডেল চালানোর জন্য এনভিডিয়ার রেফারেন্স আর্কিটেকচারের সাথে সমন্বিত। স্থায়ী এআই ওয়ার্কলোড সহ এসএমবিগুলোর জন্য, এটি পুনরাবৃত্তিমূলক ক্লাউড এআই ব্যয়ের একটি কম খরচের বিকল্প অফার করে, একটি দুই-স্টেশন ক্লাস্টারে ডকুমেন্টেড আপগ্রেড পথ সহ।