MSI EdgeXpert MS-C931

এমএসআই ২০ মে, ২০২৫-এ এজএক্সপার্ট এমএস-সি৯৩১ চালু করেছে, এটিকে এনভিডিয়া জিবি১০ গ্রেস ব্ল্যাকওয়েল সুপারচিপ ইকোসিস্টেমের মধ্যে একটি কমপ্যাক্ট এআই ডেভেলপমেন্ট এবং ইনফারেন্স সিস্টেম হিসেবে অবস্থান দিয়েছে, যা বিশেষভাবে টেকসই, নিরবচ্ছিন্ন অপারেশনের জন্য নকশা করা হয়েছে, সংক্ষিপ্ত বেঞ্চমার্ক বিস্ফোরণের জন্য নয়।

এজএক্সপার্ট এমএস-সি৯৩১-এর পিছনে নির্ধারিত ইঞ্জিনিয়ারিং পছন্দটি হল তাপীয় হেডরুম: একটি বাষ্প-চেম্বার এবং ট্রিপল-হিট-পাইপ কুলিং মডিউল, একটি ঘন কপার-ফিন স্ট্যাক এবং সামনে-থেকে-পিছনে নির্দেশিত এয়ারফ্লো পাথের সাথে জোড়া দেয়া হয়েছে, যা সুপারচিপটিকে লোডের অধীনে ধাপ কমাতে না দিয়ে বহু-ঘণ্টাব্যাপী ট্রেনিং এবং ইনফারেন্স সেশনে তার পূর্ণ ক্লক প্রোফাইলে চলমান রাখতে নকশা করা হয়েছে। এটি একটি বান্ডিল সার্বভৌম এআই গভর্নেন্স লেয়ার, গ্যালেন.এআই-এর সাথে সংযুক্ত, যা নিয়ন্ত্রিত প্রতিষ্ঠানসমূহকে প্রথম দিন থেকেই অন-প্রিমাইস ডেপ্লয়মেন্টের জন্য একটি প্রস্তুত অর্কেস্ট্রেশন এবং অডিট লেয়ার দেয়।

হার্ডওয়্যার স্পেসিফিকেশন

কোরের কেন্দ্রে বসে আছে এনভিডিয়া জিবি১০ গ্রেস ব্ল্যাকওয়েল সুপারচিপ, যা একটি কমপ্যাক্ট চ্যাসিসে ১ পেটাফ্লপ FP4 এআই পারফরম্যান্স প্রদান করে। ২০-কোর আর্ম প্রসেসরটি ১০ × কর্টেক্স-এক্স৯২৫ পারফরম্যান্স কোরকে ১০ × কর্টেক্স-এ৭২৫ এফিসিয়েন্সি কোরের সাথে যুক্ত করেছে, ১২৮ জিবি এলপিডিডিআর৫এক্স ইউনিফাইড মেমরির সাথে জোড়া যা সিপিইউ এবং জিপিইউ-এর মধ্যে সুসঙ্গতভাবে ভাগ করা ২৭৩ জিবি/সে ব্যান্ডউইথ প্রদান করে। স্টোরেজ হল একটি স্ব-এনক্রিপ্টিং পিসিআইই জেন৪ এনভিএমই এম.২ এসএসডি, ১ টিবি বা ৪ টিবি ধারণক্ষমতায় উপলব্ধ, যা বাহ্যিক স্টোরেজের উপর নির্ভর না করে বড় মডেল চেকপয়েন্টের স্থানীয় ক্যাশিং সমর্থন করে।

সংযোগ ও নেটওয়ার্কিং

এজএক্সপার্ট এমএস-সি৯৩১ একটি এনভিডিয়া কানেক্টএক্স-৭ স্মার্ট এনআইসি সংহত করেছে, যাতে ডুয়াল ২০০ জিবিপিএস কিউএসএফপি পোর্ট রয়েছে সরাসরি পিয়ার-টু-পিয়ার ইউনিট লিঙ্কিংয়ের জন্য, পাশাপাশি স্ট্যান্ডার্ড নেটওয়ার্ক ইন্টিগ্রেশনের জন্য ১০ জিবিই ইথারনেট (আরজে-৪৫)। ওয়্যারলেস সংযোগে ওয়াই-ফাই ৭ এবং ব্লুটুথ ৫.৪ অন্তর্ভুক্ত। চারটি ইউএসবি ৩.২ টাইপ-সি পোর্ট ডাইরেক্ট মাল্টি-মনিটর আউটপুটের জন্য ডিসপ্লেপোর্ট অল্ট-মোড সমর্থন করে, যা সিস্টেমটিকে ইনফারেন্স সার্ভারের পাশাপাশি একটি পূর্ণ স্থানীয় ডেভেলপমেন্ট ওয়ার্কস্টেশন হিসেবেও কাজ করতে দেয়।

তাপীয় প্রকৌশল ও টেকসই কর্মক্ষমতা

কমপ্যাক্ট এআই সিস্টেম সাধারণত দীর্ঘস্থায়ী লোডের অধীনে ক্লক স্পিড কমিয়ে দেয় যখন অভ্যন্তরীণ তাপমাত্রা বৃদ্ধি পায় — এমন একটি আচরণ যা দীর্ঘ ট্রেনিং রান বা বর্ধিত ইনফারেন্স সার্ভিসিংয়ের সময় থ্রুপুট সরাসরি হ্রাস করে। এজএক্সপার্ট এমএস-সি৯৩১-এর কুলিং মডিউলটি বিশেষভাবে এই সমস্যা এড়ানোর জন্য নকশা করা হয়েছে: এনভিডিয়ার স্ট্যান্ডার্ড জিপিইউ স্ট্রেস মেথডোলজি ব্যবহার করে স্বাধীন টেকসই-লোড বৈধকরণ নিম্নলিখিত স্থির-অবস্থার পরিসংখ্যান রেকর্ড করেছে।

চ্যাসিসের বাইরের তাপমাত্রা অপারেশন চলাকালীন সরাসরি ইউনিট হ্যান্ডল করার জন্য যথেষ্ট কম থাকে, এবং এসএসডি টেকসই ডেটাসেট লোডিংয়ের সময়ও তাপ-চালিত রিড/রাইট ডিগ্রেডেশন থেকে মুক্ত থাকে। অনুশীলনে, এটি বহু-ঘণ্টাব্যাপী ফাইন-টিউনিং কাজ এবং দীর্ঘস্থায়ী ইনফারেন্স ওয়ার্কলোড জুড়ে স্থিতিশীল, অপরিবর্তিত ক্লক স্পিডে রূপান্তরিত হয় — এমন দৃশ্যপট যেখানে কমপ্যাক্ট ফর্ম-ফ্যাক্টর এআই সিস্টেম সময়ের সাথে কর্মক্ষমতা হারায়।

সফটওয়্যার: সার্বভৌম এআই গভর্নেন্স

এজএক্সপার্ট এমএস-সি৯৩১ প্রি-ইনস্টলড এনভিডিয়া ডিজিএক্স ওএস সহ শিপ হয়, যা বক্সের বাইরে সম্পূর্ণ কিউডিএ এবং এআই ফ্রেমওয়ার্ক স্ট্যাক প্রদান করে। এর উপরে, এমএসআই গ্যালেন.এআই বান্ডিল করে, যা একটি সার্বভৌম এআই গভর্নেন্স প্ল্যাটফর্ম যা নিয়ন্ত্রিত, অন-প্রিমাইস ডেপ্লয়মেন্টের জন্য তৈরি: এটি Docker Compose-ভিত্তিক অর্কেস্ট্রেশন, অ্যাক্সেস কন্ট্রোল এবং অডিট-রেডি লগিং প্রদান করে যাতে একটি প্রতিষ্ঠানের ভিতরে মডেল ব্যবহার সম্পূর্ণ স্থানীয়, ট্রেসযোগ্য এবং সরাসরি প্রশাসনিক নিয়ন্ত্রণে থাকে — কোনও বাহ্যিক ক্লাউড পরিষেবার উপর নির্ভরতা ছাড়াই।

স্টোরেজ ও নিরাপত্তা

১ টিবি এবং ৪ টিবি এনভিএমই কনফিগারেশন উভয়ই ডিফল্টরূপে স্ব-এনক্রিপ্টিং, যা অতিরিক্ত সফটওয়্যার ওভারহেড ছাড়াই বিশ্রামের সময় মডেল ওজন, ফাইন-টিউনিং ডেটাসেট এবং ইনফারেন্স লগ সুরক্ষা করে। টিপিএম ২.০-এর সাথে মিলিত হয়ে, এটি এজএক্সপার্ট এমএস-সি৯৩১-কে একটি নিরাপত্তা বেসলাইন দেয় যা আইনি, আর্থিক এবং অন্যান্য ডেটা-সংবেদনশীল পরিবেশের জন্য উপযুক্ত যেখানে অন-প্রিমাইস প্রসেসিং একটি পছন্দের পরিবর্তে প্রয়োজনীয়তা।

একক ইউনিটের বাইরে স্কেলিং

এনভিডিয়া জিবি১০ সুপারচিপ-এর উপর নির্মিত সমস্ত সিস্টেমের মতো, এজএক্সপার্ট এমএস-সি৯৩১ তার কানেক্টএক্স-৭ পোর্টের মাধ্যমে সরাসরি ২-ইউনিট লিঙ্কিং সমর্থন করে, দুটি ইউনিটকে ২৫৬ জিবি ইউনিফাইড মেমরি পুলে একত্রিত করে যা ৪০০ বিলিয়ন প্যারামিটারের বাইরের মডেল সার্ভ করতে সক্ষম। এটি দলগুলির জন্য একটি সহজ আপগ্রেড পথ প্রদান করে যারা একটি একক ডেস্কটপ ইউনিট দিয়ে শুরু করে এবং পরে বড় মডেলের জন্য অতিরিক্ত হেডরুম প্রয়োজন হয়, সফটওয়্যার স্ট্যাক বা গভর্নেন্স কনফিগারেশন পরিবর্তন না করেই।