Medtem ko so modeli Vision Transformers (ViT) v zadnjih letih postavili nova merila na področju analize obrazov, njihova ogromna računska zahtevnost še vedno predstavlja veliko oviro za uporabo v praksi.

Prav zato so asist. Romanela Lajić, prof. dr. Peter Peer, doc. dr. Blaž Meden in doc. dr. Žiga Emeršič s Fakultete za računalništvo in informatiko skupaj s soavtorji v članku FACES: Facial analysis with compressed efficient systems predstavili novo, inovativno tehniko rezanja (pruning) parametrov nevronskih mrež, zasnovano posebej za optimizacijo ViT‑modelov brez izgube natančnosti.

Raziskovalci so razvili metodo rezanja, ki kot ocene pomembnosti uporablja obstoječe parametre samega transformatorja. Tak pristop omogoča enostaven postopek obrezovanja in ponovnega učenja v enem koraku, s katerim je mogoče občutno zmanjšati porabo pomnilnika in računske stroške, hkrati pa ohraniti visoko raven učinkovitosti pri analizi obrazov.

Slika: Obrezovanje nevronskih mrež je tehnika optimizacije, pri kateri se iz modela odstrani nepotrebne ali manj pomembne povezave in nevrone. S tem postopkom se zmanjša velikost mreže in pospeši njeno delovanje, ne da bi se pri tem bistveno poslabšala natančnost napovedi.

Več si lahko preberete tukaj:

• Lajić, R., Peer, P., Štruc, V., Han, D. S., Meden, B., & Emeršič, Ž. (2026). Faces: Facial analysis with compressed efficient systems. ICT Express. https://doi.org/10.1016/j.icte.2026.02.008