- डीपसेक आर 1 के 671 बिलियन पैरामीटर एम 3 अल्ट्रा की एकीकृत मेमोरी पर सुचारू रूप से चलते हैं
- Apple का मैक स्टूडियो साबित करता है
- M3 अल्ट्रा 200W के तहत खपत करता है, पारंपरिक मल्टी-जीपीयू एआई सेटअप से कम है
M3 अल्ट्रा चिप के साथ Apple के मैक स्टूडियो ने एक क्षमता का प्रदर्शन किया है कि कोई अन्य व्यक्तिगत कंप्यूटर मेल नहीं खा सकता है, जो पूरी तरह से मेमोरी में 671 बिलियन मापदंडों के साथ डीपसेक R1 AI टूल को चला सकता है।
YouTube समीक्षक Dave2D द्वारा एक परीक्षण ने मॉडल के 4-बिट की मात्राबद्ध संस्करण का उपयोग करने के बावजूद दिखाया, इसने अपनी पूर्ण पैरामीटर गिनती को बनाए रखा और सुचारू रूप से प्रदर्शन किया।
डीपसेक आर 1 मॉडल, एक भारी 404 जीबी स्टोरेज और हाई-बैंडविड्थ मेमोरी जो आमतौर पर जीपीयू वीआरएएम में पाई जाती है, आमतौर पर मल्टी-जीपीयू सेटअप पर चलाई जाती है जो कई उच्च-अंत ग्राफिक्स कार्डों में प्रसंस्करण को वितरित करती है।
एक अद्वितीय करतब: स्मृति में डीपसेक आर 1 चलाना
हालांकि, एम 3 अल्ट्रा की एकीकृत मेमोरी सिस्टम, बाहरी जीपीयू पर भरोसा करने के बजाय, एआई मॉडल को इस तरह से स्टोर करने और संसाधित करने के लिए अपनी 512 जीबी यूनिफाइड मेमोरी का उपयोग करता है जो कोई अन्य व्यक्तिगत कंप्यूटर नहीं कर सकता है।
यद्यपि MacOS एक डिफ़ॉल्ट VRAM सीमा थोपता है, डेव ली ने मैन्युअल रूप से AI प्रसंस्करण के लिए 448GB तक आवंटित करने के लिए टर्मिनल के माध्यम से इसे बढ़ाया, मेमोरी की अड़चनों को समाप्त करने और एकल प्रणाली पर AI प्रदर्शन को सुव्यवस्थित करने के लिए कई घटकों की आवश्यकता को कम किया।
इस परीक्षण के सबसे हड़ताली पहलुओं में से एक एम 3 अल्ट्रा की शक्ति दक्षता थी, क्योंकि यह डीपसेक आर 1 को चलाने के दौरान 200W से कम का उपभोग करता था।
मल्टी-जीपीयू सेटअप के बिना इस तरह की मांग वाले एआई मॉडल को चलाने की क्षमता उद्योग मानक को चुनौती देती है, जो उच्च-अंत एनवीडिया और एएमडी ग्राफिक्स कार्ड पर निर्भर करती है, क्योंकि सबसे अच्छा वर्कस्टेशन और सर्वर फार्म आमतौर पर जीपीयू क्लस्टर का उपयोग करते हैं जो विशाल मात्रा में बिजली का उपभोग करते हैं।
Apple की एकीकृत मेमोरी आर्किटेक्चर पारंपरिक पीसी सेटअप के विपरीत, CPU और GPU वर्कलोड में M3 अल्ट्रा के मेमोरी पूल को साझा करके महत्वपूर्ण बिजली बचत में सक्षम बनाता है, जहां VRAM सिस्टम मेमोरी से अलग है, ऊर्जा उपयोग को कम करते हुए बैंडविड्थ को अधिकतम करता है।
M3 अल्ट्रा चिप के साथ लॉन्च किए गए Apple के मैक स्टूडियो में 32-कोर CPU और 80-कोर GPU तक की सुविधा है, जो इसे सर्वश्रेष्ठ LLM वर्कस्टेशन में से एक और सबसे अच्छा वीडियो एडिटिंग कंप्यूटरों में से एक बनाता है।
Wia wccftech
आपको यह भी पसंद आ सकता हैं
Hello Readers! I am RAHUL KUMAR MAHTO RKM With 3 Year of Experience in Writing Content About Scholarship. With Masters in IT, I love to to write digital content about Government Scholarship Schemes, Private Scholarship Schemes.
