Naslov diplomskega dela: Bayesovska optimizacija hiperparametrov v strojnem učenju

Povzetek:

Cilj naše diplomske naloge je bil analizirati Bayesovsko optimizacijo na problemu optimizacije hiperparametrov.
Podlaga za analizo sta pogosto uporabljani orodji za optimizacijo hiperparametrov: naključno iskanje in iskanje v mreži.
Predstavimo Bayesovsko optimizacijo, s poudarkom na Gaussovih procesih in odločilnih funkcijah: EI, PI in LCB.
Izvedemo deset eksperimentov, pri katerih optimiziramo hiperparametre petih različnih modelov.
Pri eksperimentih analiziramo dve zelo pomembni metriki: hitrost optimizacije in rezultate, ki jih doseže optimizirani model.
Modeli optimizirani z Bayesovsko optimizacijo so v povprečju v primerljivem času dosegli boljše rezultate kot tisti, ki so bili optimizirani z naključnim iskanjem in iskanjem v mreži.

Mentor: izr. prof. dr. Matjaž Kukar

Komisija za zagovor:​

doc. dr. Aleš Jaklič (predsednik),

izr. prof. dr. Matjaž Kukar (mentor)

doc. dr. Jure Žabkar (član). 

Povezava do video kanala, po katerem se bo prenašal zagovor in ga bo možno spremljati, bo dodana najkasneje na dan zagovora (predvidoma 30 minut pred terminom izvedbe zagovora) na spletni strani: https://ucilnica.fri.uni-lj.si/course/view.php?id=35