Čo to vlastne je to ACE? Poďme pekne postupne. Keď sa dnes hovorí o behu modelov umelej inteligencie, väčšina ľudí si okamžite predstaví masívny výkon grafických kariet. Realita technologického sveta je ale pestrejšia. Nie každá AI úloha si vyžaduje surovú silu grafického čipu.
Nový technologický štandard ACE
Pri menších modeloch alebo operáciách jedného používateľa, kde je kľúčová rýchla odozva, môže byť beh priamo na procesore oveľa výhodnejší. Navyše existuje množstvo situácií, kedy dedikovaná grafická karta jednoducho nie je k dispozícii alebo ide o slabé integrované riešenie s obmedzenými schopnosťami.
Práve preto spoločnosti Intel a AMD nedávno zverejnili kompletnú špecifikáciu nových procesorových rozšírení s názvom ACE. Táto nová technologická norma má za cieľ uľahčiť a energeticky zefektívniť beh AI úloh priamo na klasických x86 procesoroch. Na tému upozornil portál Tomshardware.
Efektívnejšie násobenie matíc s ACE
Základným stavebným kameňom všetkých AI výpočtov je násobenie matíc – v podstate ide o tabuľku čísel, nad ktorou sa v neustálej slučke vykonávajú operácie násobenia a sčítania. Spustiť takúto slučku dokázal doteraz takmer akýkoľvek procesor, no daňou bola obmedzená rýchlosť a obrovská spotreba energie. Vývojári síce doteraz využívali existujúce inštrukcie AVX10, no z technického hľadiska išlo skôr o šikovný hack, keďže architektúra AVX pôvodne nebola navrhnutá pre prácu s 2D maticami.
Nové rozšírenie ACE situáciu zásadne mení. Využíva síce existujúce 512-bitové registre AVX10, no pridáva dedikované obvody určené výhradne na násobenie matíc. Výsledok? Pre rovnaký počet vstupov dokáže ACE vykonať až 16-krát viac operácií v porovnaní s čistým AVX10.
Pre upozornenie ale dodáme, že to automaticky neznamená 16-násobné zrýchlenie celého systému, keďže reálny výkon bude závisieť od konkrétnej implementácie softvéru.
Veľká úľava pre vývojárov
Jedným z najväčších benefitov ACE je jeho univerzálnosť. Tvorcovia už nebudú musieť písať a optimalizovať desiatky rôznych ciest kódu v závislosti od toho, akú generáciu AVX daný procesor podporuje. Napíšu jeden spoločný kód, ktorý pobeží efektívne na hardvéri od Intelu aj AMD.
Nová technológia otvára dvere aj zaujímavému trendu. Vývojári budú môcť presunúť časť úloh, ktoré doteraz vyžadovali špecializované neurónové procesory, späť na klasické CPU, ak budú potrebovať niečo vyriešiť okamžite a rýchlo. Vzhľadom na to, že každé NPU na trhu je v súčasnosti architektúrou úplne iné, predstavuje jednotný štandard ACE v rámci x86 platformy pre programátorov vytúžený stabilný záchytný bod.
