1.
Učenje redkih nevronskih mrež z iterativnim rezanjem parametrovNejc Podvratnik, 2025, magistrsko delo
Opis: Moderno globoko učenje pogosto vključuje nevronske mreže, ki imajo nepotrebno veliko število parametrov oziroma povezav. Posledica tega je višja časovna in prostorska zahtevnost pri delu z mrežami. Možna rešitev problema je hipoteza loterijskih srečk, ki pravi, da v množici povezav vsake naprej povezane nevronske mreže obstaja podmnožica, ki je manjša in ohranja enako in v nekaterih primerih tudi večjo uspešnost. Imenujemo jo zmagovita srečka. V magistrskem delu je predstavljena in dokazana hipoteza loterijske srečke ter implementiran lasten algoritem za iterativno rezanje parametrov, ki je bil testiran in analiziran na različnih arhitekturah, podatkovnih zbirkah in hiperparametrih.
Ključne besede: strojno učenje, redka nevronska mreža, hipoteza loterijskih srečk, rezanje
Objavljeno v DKUM: 04.03.2025; Ogledov: 0; Prenosov: 27
Celotno besedilo (2,88 MB)