Intel ostvario prvu i jedinu potpunu NPU podršku po MLPerf Client v0.6 testiranju

Rezultati pokazuju da procesori Intel Core™ Ultra 2 serije neviđene performanse za AI računanje putem CPU-a, GPU-a i NPU-a.

Intel je objavio da je jedina kompanija koja je postigla potpunu podršku za neuronske procesorske jedinice (NPU) u novom MLPerf klijentskom testu v0.6. Ovo je prva standardizovana procena performansi velikih jezičkih modela (LLM) na klijentskim NPU jedinicama u industriji. Intelova merenja pokazuju da procesori Intel® Core™ Ultra 2 serije generišu rezultate putem grafičkog procesora (GPU) i NPU brže nego što čovek može da pročita.

„Ponosni smo što predvodimo industriju u omogućavanju potpune NPU akceleracije i vodećih GPU performansi za AI zadatke na klijentskim PC platformama. Ovaj uspeh odražava Intelovu duboku hardversko-softversku kooptimizaciju i posvećenost demokratizaciji AI na računarima širom sveta.“
– Daniel Rodžers, potpredsednik i generalni menadžer marketinga za PC proizvode u Intelu

Zašto je ovo važno?

Sa procesorima Intel Core Ultra 2 serije, Intel se nalazi na čelu evolucije AI računara, nudeći neviđene performanse za AI obradu podataka kroz centralnu procesorsku jedinicu (CPU), grafičku jedinicu (GPU) i neuronsku jedinicu (NPU).

MLPerf Client v0.6 meri četiri scenarija generisanja i sažimanja sadržaja zasnovana na modelu Llama 2 7B. Intel je pokazao vodeće performanse kroz NPU i ugrađeni Intel® Arc™ GPU.

Intel je postigao najbrže vreme odziva NPU-a, generišući prvu reč za samo 1,09 sekundi (kašnjenje prvog tokena), što znači da sistem gotovo odmah počinje da odgovara nakon što primi upit. Takođe je ostvario najveći protok NPU-a sa 18,55 tokena u sekundi, što se odnosi na brzinu generisanja svakog narednog dela teksta – omogućavajući glatku AI interakciju u realnom vremenu. Pored toga, u poređenju s konkurencijom, Intel je pokazao i prednost GPU-a u brzini do prvog tokena, počinjući brže i dodatno potvrđujući prednost u end-to-end AI akceleraciji putem NPU-a i GPU-a.

O NPU testiranju u MLPerf-u

MLPerf Client v0.6 razvijen je u saradnji članova MLCommons konzorcijuma — uključujući Intel, AMD, Microsoft, Nvidia i Qualcomm — i proširuje prethodne testove koji su se fokusirali isključivo na GPU, uključivanjem posebnog benchmark testa za NPU.

Zahvaljujući bliskoj saradnji između Intelovih timova za NPU hardver i OpenVINO™ softver, procesori Intel Core Ultra ostaju jedini koji su postigli potpunu usklađenost sa zahtevima za NPU u konačnom benchmarku.

Konfiguracije testiranja

^{*Svi podaci mereni su 28. aprila 2025. Detalji o konfiguraciji dostupni su u obaveštenju za štampu.}

^{Obaveštenja i odricanje od odgovornosti
Performanse variraju u zavisnosti od načina korišćenja, konfiguracije i drugih faktora. Više informacija potražite na intel.com/performanceindex. Rezultati performansi se zasnivaju na testiranju važećem na dane prikazane u konfiguraciji i možda ne odražavaju sve dostupne javne nadogradnje. Detalje o konfiguraciji pogledajte u propratnoj dokumentaciji. Nijedan proizvod ili komponenta ne može biti apsolutno sigurna. Vaši troškovi i rezultati mogu da variraju.}

ASBIS je ovlašćeni distributer Intel procesora za Republiku Srbiju.

Za sve informacije možete nas kontaktirati na infosales@asbis.rs ili pozovite +381693107755.

Share via social media: