Vedci FMFI UK zrýchľujú umelú inteligenciu a prepisujú históriu

Prehrať aktualitu:

Obsah aktuality

Vedcom z Fakulty matematiky, fyziky a informatiky Univerzity Komenského v Bratislave (FMFI UK) sa podaril mimoriadny úspech v oblasti výskumu umelej inteligencie. Tím pod vedením docenta Vladimíra Božu a doktoranda Vladimíra Macka vyvinul novú metódu MACKO-SpMV, ktorá dokáže výrazne zrýchliť a odľahčiť veľké jazykové modely (LLM).

Práca získala prestížne ocenenie Spotlight na konferencii ICML v Soule (International Conference on Machine Learning). Ide o historicky prvý štatút Spotlight na tejto top svetovej konferencii pre výskumný tím zo slovenskej inštitúcie – ocenenie získavajú len 3 až 5 % najlepších príspevkov z celého sveta.

V čom spočíva prelomový objav?

• Riešenie hardvérového problému: Orezávanie modelov (vytváranie tzv. riedkych sietí) doteraz na moderných grafických kartách (GPU) zlyhávalo, pretože hardvér nedokázal teoretickú úsporu efektívne spracovať.
• Algoritmus MACKO-SpMV: Vyvinutá metóda kombinuje nový spôsob ukladania dát s optimalizovanými algoritmami pre GPU.
• Konkrétne výsledky: Pri 50 % riedkosti modelu sa podarilo zrýchliť spracovanie dát 1,2 až 1,5-násobne a znížiť spotrebu pamäte na polovicu bez nutnosti špeciálneho hardvéru.

Vytvorená softvérová knižnica je k dispozícii ako open-source. Význam slovenskej inovácie potvrdzuje aj fakt, že ju vo svojom oficiálnom vývojárskom blogu citoval priamo technologický gigant NVIDIA.

„MACKO-SpMV umožňuje rýchly beh riedkych modelov na modernom hardvéri, čo robí riedke modely praktickou alternatívou a nielen teoretickým snom,“ vysvetľuje docent Vladimír Boža.

zdroj: https://uniba.sk/spravodajsky-portal/detail-aktuality/back_to_page/spravodajsky-portal/article/vedci-fmfi-uk-zrychluju-umelu-inteligenciu-a-prepisuju-historiu/

Späť