NVIDIA-ի GeForce RTX 5090-ը ցույց է տվել զգալիորեն գերազանցող արդյունավետություն DeepSeek-ի R1 AI մոդելների վրա՝ համեմատած AMD-ի Radeon RX 7900 XTX-ի հետ: Այս գերազանցությունը պայմանավորված է RTX 5090-ի հինգերորդ սերնդի Tensor միջուկներով՝ ընդգծելով NVIDIA-ի ուժը AI արագացման ոլորտում:
Թեև AMD-ն վերջերս ցուցադրեց իր RDNA 3 առաջատար GPU-ի հնարավորությունները DeepSeek R1 LLM-ի վրա, NVIDIA-ն պատասխանել է՝ ցուցադրելով իր RTX Blackwell GPU-ների վրա աշխատող չափանիշները՝ բացահայտելով RTX 5090-ի հստակ առավելությունը: Տարբեր DeepSeek R1 մոդելների վրա RTX 5090-ը գերազանցում է ինչպես RX 7900 XTX-ին, այնպես էլ NVIDIA-ի նախորդ սերնդի համարժեքներին: RTX 5090-ը հասել է վայրկյանում մինչև 200 թոքենի Distill Qwen 7b-ում և Distill Llama 8b-ում, ինչը գրեթե կրկնակի գերազանցում է AMD-ի RX 7900 XTX-ի արդյունքը: Այս զգալի տարբերությունը ընդգծում է NVIDIA-ի գերակայությունը AI արդյունավետության ոլորտում և ենթադրում է ապագա, որտեղ եզրային AI-ը սպառողական համակարգիչներում ավելի տարածված կդառնա, հատկապես “RTX on AI” աճող էկոհամակարգի հետ:
NVIDIA-ն պարզեցրել է DeepSeek R1-ին RTX GPU-ների վրա հասանելիությունը: Հատուկ բլոգի գրառումը ուղեցույց է տրամադրում՝ դարձնելով գործընթացը նույնքան պարզ, որքան առցանց չաթբոտ օգտագործելը: Ավելին, NVIDIA-ի NIM միկրոսերվիսը թույլ է տալիս մշակողներին փորձարկել 671 միլիարդ պարամետր ունեցող DeepSeek-R1 մոդելը: Հասանելի լինելով որպես նախադիտում build.nvidia.com կայքում, DeepSeek-R1 NIM միկրոսերվիսը կարող է ապահովել մինչև 3872 թոքեն վայրկյանում մեկ NVIDIA HGX H200 համակարգի վրա: API-ն նույնպես նախատեսվում է թողարկվել որպես ներբեռնվող NIM միկրոսերվիս NVIDIA AI Enterprise ծրագրային հարթակում:
NVIDIA-ի NIM-ը պարզեցնում է տեղակայումները արդյունաբերական ստանդարտ API աջակցությամբ: Ձեռնարկությունները կարող են առաջնահերթություն տալ անվտանգությանը և տվյալների գաղտնիությանը՝ գործարկելով NIM միկրոսերվիսը իրենց նախընտրած արագացված հաշվողական ենթակառուցվածքում: Այս հասանելիությունը հնարավորություն է տալիս մշակողներին և էնտուզիաստներին փորձարկել AI մոդելը տեղական հավաքածուների վրա՝ բարձրացնելով տվյալների անվտանգությունը և պոտենցիալորեն բարելավելով արդյունավետությունը՝ հիմնվելով տեղական ապարատային հնարավորությունների վրա: Այս տեղական կատարման հնարավորությունը զգալի առավելություն է՝ թույլ տալով ավելի արագ իտերացիա և զգայուն տվյալների ավելի ապահով մշակում: Գերազանց ապարատային արդյունավետության և NIM-ի միջոցով պարզեցված տեղակայման համադրությունը NVIDIA-ին դիրքավորում է որպես տեղական AI մշակումը հնարավոր դարձնող առաջատար:
