Vedcom z Fakulty matematiky, fyziky a informatiky Univerzity Komeského v Bratislave (FMFI UK) sa podaril mimoriadny úspech na poli výskumu umelej inteligencie. Tím pod vedením doktora Vladimíra Božu a doktoranda Vladimíra Macka vyvinul metódu, ktorá dokáže výrazne zrýchliť a odľahčiť veľké jazykové modely (LLM). Ich práca si získala celosvetovú pozornosť a na medzinárodnej konferencii ICML v Soule získala prestížne ocenenie Spotlight.
Veľké jazykové modely, ako napríklad tie, ktoré poháňajú známe chatboty, majú obrovský potenciál. Ich prevádzka si však vyžaduje neuveriteľný výpočtový výkon a gigantickú pamäť. „LLM je vlastne výpočet, ktorý sa dá popísať pomocou veľa – desiatky až stovky miliárd – čísel, ktorým hovoríme váhy. Práve uloženie týchto váh je obrovský problém,“ vysvetľuje v úvode docent Vladimír Boža z Katedry počítačovej vedy FMFI UK.
Aby sa modely zmenšili, v praxi sa podľa jeho slov najčastejšie využíva zníženie presnosti čísel (tzv. kvantizácia). Druhou cestou je orezávanie modelu, kedy sa nepotrebné spojenia v sieti vynulujú a vznikne odľahčená, „riedka“ sieť. Táto myšlienka však doteraz narážala na zásadnú prekážku.
„Zatiaľ čo v teórii vyzerala riedkosť skvele, v praxi na moderných grafických kartách (GPU) často zlyhávala, pretože hardvér je stavaný na masívne výpočty s predvídateľnou štruktúrou,“ objasňuje Vladimír Boža. Výsledkom bolo, že hoci sa z modelu vymazala polovica čísel, čas spracovania sa na bežnom hardvéri v podstate neskrátil.
Výskumníci ale ukázali svoje kvality a dokázali tento hardvérový problém vyriešiť. Vyvinuli novú metódu s názvom MACKO-SpMV, ktorá predstavuje efektívny spôsob ukladania dát spojený so špeciálne optimalizovanými algoritmami pre grafické karty. „MACKO-SpMV umožňuje rýchly beh riedkych modelov na modernom hardvéri, čo robí riedke modely praktickou alternatívou a nielen teoretickým snom,“ hovorí Vladimír Boža. Pri 50-percentnej riedkosti sa tímu podarilo zrýchliť spracovanie dát 1,2 až 1,5-násobne a zároveň znížiť spotrebu pamäte o polovicu – a to všetko bez nutnosti nákupu špecializovaného hardvéru.
Historický úspech pre slovenské AI
Význam objavu potvrdilo aj prijatie príspevku na medzinárodnú konferenciu International Conference on Machine Learning (ICML) v juhokórejskom Soule, ktorá spolu s NeurIPS a ICLR patrí k trom absolútne najprestížnejším svetovým fóram v oblasti umelej inteligencie. Práca výskumníkov z UK tam získala štatút Spotlight, ktorý je vyhradený len pre úzku špičku – približne 3 až 5 percent najlepších príspevkov z tisícov prihlásených z celého sveta.
Pre slovenskú vedu je to mimoriadny míľnik, keďže ide o historicky prvý štatút Spotlight na ICML pre výskumný tím zo slovenskej inštitúcie. Užitočnosť výskumu potvrdzuje aj fakt, že vytvorená softvérová knižnica je voľne dostupná (open-source) a vo svojom oficiálnom vývojárskom blogu ju citoval a spomenul priamo technologický gigant NVIDIA. Výskum bol podporený grantmi APVV-24-0045, VEGA-1/0140/2 a VEGA-1/0538/2. Autori zároveň vyjadrujú poďakovanie správcom HPC klastrov Devana a Leonardo za poskytnutie výpočtových kapacít.
Zdroj: https://uniba.sk, zverejnené: 3.9.2026; autor: rup
