এক্স্যাক্ট ভ্যালেন্স ডিজিএক্স স্টেশন

এক্স্যাক্ট ২০ জানুয়ারি, ২০২৬-এ ভ্যালেন্স ডিজিইক্স স্টেশন চালু করেছে, যা এনভিডিয়ার ডিজিইক্স স্টেশন স্পেসিফিকেশনের অধীনে এনভিডিয়া জিবি৩০০ গ্রেস ব্ল্যাকওয়েল সুপারচিপ প্ল্যাটফর্মে নির্মিত একটি ডেস্কসাইড সিস্টেম, যা একটি অফিস-বান্ধব টাওয়ার থেকে স্থানীয়ভাবে ট্রিলিয়ন-প্যারামিটার মডেল চালানোর জন্য ডিজাইন করা হয়েছে।

হার্ডওয়্যার স্পেসিফিকেশন

ভ্যালেন্স একটি একক এনভিডিয়া গ্রেস সিপিইউ সুপারচিপ - ৭২টি আর্ম নিওভার্স ভি২ কোর এবং ৪৯৬ জিবি এলপিডিডিআর৫এক্স মেমোরি - এর চারপাশে নির্মিত, যা ২৫২ জিবি এইচবিএম৩ই জিপিইউ মেমোরি সহ একটি এনভিডিয়া ব্ল্যাকওয়েল আল্ট্রা জিপিইউ এর সাথে যুক্ত, এনভিলিঙ্ক-সি২সি-এর মাধ্যমে ৭৪৮ জিবি-এর একটি সমন্বিত মেমোরি পুলে একত্রিত। স্টোরেজ দুটি স্তরে বিভক্ত: অপারেটিং সিস্টেমের জন্য ২× এম.২ ২২৮০ পিসিআইই ৫.০ এক্স৪ এনভিএমই, এবং ২× এম.২ ২২৮০ পিসিআইই ৬.০ এক্স৪ এনভিএমই (৬৪জিবি/সে) প্রশিক্ষণ ডেটা এবং মডেল চেকপয়েন্টের জন্য একটি ডেডিকেটেড পাথ হিসাবে সংরক্ষিত, যা দৈনন্দিন সিস্টেম I/O কে ভারী এআই ওয়ার্কলোড থেকে পৃথক রাখে। নেটওয়ার্কিং পরিচালনা করা হয় একটি ডুয়াল-পোর্ট কানেক্টএক্স-৮ ৪০০জি সুপারএনআইসি দ্বারা, যা আউট-অফ-ব্যান্ড ম্যানেজমেন্টের জন্য একটি ১০জিবিই পোর্ট দ্বারা পরিপূরক।

একটি ডাবল-উইডথ পিসিআইই ৫.০ এক্স১৬ স্লট ৯৬ জিবি জিডিডিআর৭ সহ একটি ডিসক্রিট আরটিএক্স প্রো ৬০০০ ব্ল্যাকওয়েল জিপিইউ সিস্টেমে যোগ করার অনুমতি দেয়।

ব্যবসায়িক ব্যবহারের জন্য স্থানীয় এআই সার্ভার

ভ্যালেন্স একটি শেয়ার্ড স্থানীয় এআই রিসোর্স হিসাবে কাজ করার জন্য ডিজাইন করা হয়েছে। একাধিক কর্মী কাজের দিন জুড়ে ডকুমেন্ট প্রসেসিং টাস্ক জমা দিতে পারে - চুক্তি পর্যালোচনা, চালান এক্সট্রাকশন, রিপোর্ট ড্রাফটিং, ইমেইল ট্রায়েজ - যেখানে কাজগুলি বাহ্যিক ক্লাউড পরিষেবার মাধ্যমে রাউট করার পরিবর্তে কেন্দ্রীয়ভাবে অন-সাইটে পরিচালিত হয়।

এনভিডিয়া নেমোক্ল-এর মাধ্যমে, স্বায়ত্তশাসিত এজেন্টগুলি সিস্টেমে অবিচ্ছিন্নভাবে চলতে পারে, ইনবক্স মনিটরিং বা নির্ধারিত রিপোর্ট জেনারেশনের মতো পুনরাবৃত্তিমূলক কাজগুলি পরিচালনা করে প্রতিটি অনুরোধ শুরু করার জন্য একজন ব্যক্তির প্রয়োজন ছাড়াই। এটি ভ্যালেন্সকে ব্যবসার জন্য চলমান এআই অবকাঠামো হিসাবে পরিচালনা করতে দেয়, যা স্থির ডকুমেন্ট ওয়ার্কলোড সমর্থন করে।

খরচের তুলনা: অন-প্রিমাইজিস বনাম ক্লাউড এআই এপিআই

প্রতিদিন উচ্চ ভলিউমের ডকুমেন্ট প্রসেসিং করা এসএমবিগুলির জন্য, একটি অন-প্রিমাইজিস সিস্টেম এবং ক্লাউড এআই বিলিংয়ের মধ্যে পার্থক্য সময়ের সাথে উল্লেখযোগ্যভাবে বৃদ্ধি পায়।

যেহেতু প্রসেসিং সম্পূর্ণরূপে অন-সাইটে ঘটে, তাই ডকুমেন্ট এবং ব্যবসায়িক ডেটা তৃতীয় পক্ষের সার্ভারে প্রেরণ করা হয় না। আইনি, আর্থিক বা অন্যান্য ডেটা-সংবেদনশীল খাতের প্রতিষ্ঠানগুলির জন্য এটি একটি প্রাসঙ্গিক বিবেচনা।

সারসংক্ষেপ

ভ্যালেন্স ডিজিইক্স স্টেশন একটি স্থির-খরচ, ডেস্কসাইড-বান্ধব সিস্টেমকে স্থানীয়ভাবে বড় এআই মডেল চালানোর আর্কিটেকচারের সাথে একত্রিত করে, পাশাপাশি একটি ঐচ্ছিক আরটিএক্স প্রো ব্ল্যাকওয়েল জিপিইউ-এর মাধ্যমে রেন্ডারিং ক্ষমতা যোগ করার নমনীয়তা দেয়। স্থায়ী এআই ওয়ার্কলোড সহ এসএমবিগুলির জন্য, এটি পুনরাবৃত্তিমূলক ক্লাউড এআই ব্যয়ের একটি কম খরচের বিকল্প প্রদান করে।