Intel ostvario prvu i jedinu potpunu NPU podršku po MLPerf Client v0.6 testiranju
Rezultati pokazuju da procesori Intel Core™ Ultra 2 serije neviđene performanse za AI računanje putem CPU-a, GPU-a i NPU-a.
Intel je objavio da je jedina kompanija koja je postigla potpunu podršku za neuronske procesorske jedinice (NPU) u novom MLPerf klijentskom testu v0.6. Ovo je prva standardizovana procena performansi velikih jezičkih modela (LLM) na klijentskim NPU jedinicama u industriji. Intelova merenja pokazuju da procesori Intel® Core™ Ultra 2 serije generišu rezultate putem grafičkog procesora (GPU) i NPU brže nego što čovek može da pročita.
„Ponosni smo što predvodimo industriju u omogućavanju potpune NPU akceleracije i vodećih GPU performansi za AI zadatke na klijentskim PC platformama. Ovaj uspeh odražava Intelovu duboku hardversko-softversku kooptimizaciju i posvećenost demokratizaciji AI na računarima širom sveta.“
– Daniel Rodžers, potpredsednik i generalni menadžer marketinga za PC proizvode u Intelu
Zašto je ovo važno?
Sa procesorima Intel Core Ultra 2 serije, Intel se nalazi na čelu evolucije AI računara, nudeći neviđene performanse za AI obradu podataka kroz centralnu procesorsku jedinicu (CPU), grafičku jedinicu (GPU) i neuronsku jedinicu (NPU).
MLPerf Client v0.6 meri četiri scenarija generisanja i sažimanja sadržaja zasnovana na modelu Llama 2 7B. Intel je pokazao vodeće performanse kroz NPU i ugrađeni Intel® Arc™ GPU.
Intel je postigao najbrže vreme odziva NPU-a, generišući prvu reč za samo 1,09 sekundi (kašnjenje prvog tokena), što znači da sistem gotovo odmah počinje da odgovara nakon što primi upit. Takođe je ostvario najveći protok NPU-a sa 18,55 tokena u sekundi, što se odnosi na brzinu generisanja svakog narednog dela teksta – omogućavajući glatku AI interakciju u realnom vremenu. Pored toga, u poređenju s konkurencijom, Intel je pokazao i prednost GPU-a u brzini do prvog tokena, počinjući brže i dodatno potvrđujući prednost u end-to-end AI akceleraciji putem NPU-a i GPU-a.
O NPU testiranju u MLPerf-u
MLPerf Client v0.6 razvijen je u saradnji članova MLCommons konzorcijuma — uključujući Intel, AMD, Microsoft, Nvidia i Qualcomm — i proširuje prethodne testove koji su se fokusirali isključivo na GPU, uključivanjem posebnog benchmark testa za NPU.
Zahvaljujući bliskoj saradnji između Intelovih timova za NPU hardver i OpenVINO™ softver, procesori Intel Core Ultra ostaju jedini koji su postigli potpunu usklađenost sa zahtevima za NPU u konačnom benchmarku.
Konfiguracije testiranja
AMD | Intel | |
---|---|---|
OEM Platforma | ASUS Zenbook S 16 | ASUS Zenbook S 14 |
Model | UM5606WA | UX5406SA |
CPU Model | AMD Ryzen AI HX 370 | Intel® Core™ Ultra 9 288V |
BIOS Datum | 21. mart 2025. | 26. februar 2025. |
BIOS Verzija | UM5606WA.317 | UX5406SA.306 |
Memorija | 32GB LPDDR5, 7500 MHz | 32GB LPDDR5, 8533 MHz |
Grafika | AMD Radeon 890M | Intel Arc 140V |
Skladište | 1TB | 1TB |
OS | Windows 11 Pro x64 | Windows 11 Pro x64 |
Napajanje | AC | AC |
Plan napajanja | Balansiran | Balansiran |
Režim | Najbolje performanse | Najbolje performanse |
OEM Podešavanje | myASUS: FullSpeed | myASUS: FullSpeed |
*Svi podaci mereni su 28. aprila 2025. Detalji o konfiguraciji dostupni su u obaveštenju za štampu.
Obaveštenja i odricanje od odgovornosti
Performanse variraju u zavisnosti od načina korišćenja, konfiguracije i drugih faktora. Više informacija potražite na intel.com/performanceindex. Rezultati performansi se zasnivaju na testiranju važećem na dane prikazane u konfiguraciji i možda ne odražavaju sve dostupne javne nadogradnje. Detalje o konfiguraciji pogledajte u propratnoj dokumentaciji. Nijedan proizvod ili komponenta ne može biti apsolutno sigurna. Vaši troškovi i rezultati mogu da variraju.
ASBIS je ovlašćeni distributer Intel procesora za Republiku Srbiju.
Za sve informacije možete nas kontaktirati na infosales@asbis.rs ili pozovite +381693107755.