1. Federativno učenje z nevronskimi mrežami : magistrsko deloJaka Čugalj, 2024, magistrsko delo Opis: V magistrskem delu raziščemo postopek učenja nevronskih mrež in predstavimo idejo federativnega učenja, ki omogoči sodelovanje več naprav pri učenju enega modela nevronske mreže brez izmenjave učnih primerov. Glavna prednost federativnega učenja je, da naprava svojih lokalnih podatkov ne deli z ostalimi napravami, zato ostanejo zasebni. Preučili smo algoritme federativnega učenja FedSGD, FedAvg, FedProx, SCAFFOLD, FedVARP, ClusterFedVARP in FedRolex, ki na različne načine rešujejo izzive takšnega načina učenja. Prav tako predstavimo novo rešitev, ki komplementarno združi nekatere naštete algoritme tako, da se lahko v nekaterih primerih ob istih pogojih učenje izvaja učinkoviteje. Učinkovitost učenja smo testirali na klasifikacijskem problemu razpoznave ročno napisanih števil podatkovne zbirke MNIST ter problemu napovedovanja naslednje črke v stavku, kjer smo učne primere generirali s pomočjo literarnih del Williama Shakespeara. Izvedli smo analizo vpliva različnih parametrov algoritmov na učenje nevronskih mrež in primerjali vpliv neenakomerne porazdelitve podatkov na hitrost konvergence posameznih algoritmov na različnih podatkovnih zbirkah. Implementirali smo simulator federativnega učenja z uporabniškim vmesnikom, preko katerega lahko uporabnik ureja parametre učnih algoritmov in odjemalcev ter izvaja učenje in testiranje različnih modelov v ločenih nitih. Ključne besede: nevronske mreže, federativno učenje, klasifikacija, MNIST, stohastični gradientni spust Objavljeno v DKUM: 01.07.2024; Ogledov: 169; Prenosov: 57 Celotno besedilo (6,46 MB) |
2. A review of federated learning in agricultureKrista Rizman Žalik, Mitja Žalik, 2023, pregledni znanstveni članek Opis: Federated learning (FL), with the aim of training machine learning models using data and computational resources on edge devices without sharing raw local data, is essential for improving agricultural management and smart agriculture. This study is a review of FL applications that address various agricultural problems. We compare the types of data partitioning and types of FL (horizontal partitioning and horizontal FL, vertical partitioning and vertical FL, and hybrid partitioning and transfer FL), architectures (centralized and decentralized), levels of federation (cross-device and cross-silo), and the use of aggregation algorithms in different reviewed approaches and applications of FL in agriculture. We also briefly review how the communication challenge is solved by different approaches. This work is useful for gaining an overview of the FL techniques used in agriculture and the progress made in this field. Ključne besede: federated learning, agriculture, architecture, data partitioning, federation scal, aggregation algorithms, communication bottleneck Objavljeno v DKUM: 05.06.2024; Ogledov: 142; Prenosov: 17 Celotno besedilo (839,33 KB) Gradivo ima več datotek! Več... |
3. FLoCIC: A Few Lines of Code for Raster Image CompressionBorut Žalik, Damjan Strnad, Štefan Kohek, Ivana Kolingerová, Andrej Nerat, Niko Lukač, Bogdan Lipuš, Mitja Žalik, David Podgorelec, 2023, izvirni znanstveni članek Ključne besede: computer science, algorithm, prediction, interpolative coding, PNG, JPEG LS, JPEG 2000 lossless Objavljeno v DKUM: 22.05.2024; Ogledov: 165; Prenosov: 23 Celotno besedilo (10,78 MB) Gradivo ima več datotek! Več... |
4. Density-based entropy centrality for community detection in complex networksKrista Rizman Žalik, Mitja Žalik, 2023, izvirni znanstveni članek Opis: One of the most important problems in complex networks is the location of nodes that are essential or play a main role in the network. Nodes with main local roles are the centers of real communities. Communities are sets of nodes of complex networks and are densely connected internally. Choosing the right nodes as seeds of the communities is crucial in determining real communities. We propose a new centrality measure named density-based entropy centrality for the local identification of the most important nodes. It measures the entropy of the sum of the sizes of the maximal cliques to which each node and its neighbor nodes belong. The proposed centrality is a local measure for explaining the local influence of each node, which provides an efficient way to locally identify the most important nodes and for community detection because communities are local structures. It can be computed independently for individual vertices, for large networks, and for not well-specified networks. The use of the proposed density-based entropy centrality for community seed selection and community detection outperforms other centrality measures. Ključne besede: networks, undirected graphs, community detection, node centrality, label propagation Objavljeno v DKUM: 06.02.2024; Ogledov: 335; Prenosov: 26 Celotno besedilo (707,65 KB) Gradivo ima več datotek! Več... |
5. High-resolution spatiotemporal assessment of solar potential from remote sensing data using deep learningMitja Žalik, Domen Mongus, Niko Lukač, 2024, izvirni znanstveni članek Ključne besede: deep learning, fully convolutional neural network, LiDAR data, digital elevation model, solar energy, solar potential Objavljeno v DKUM: 26.01.2024; Ogledov: 244; Prenosov: 8 Celotno besedilo (6,42 MB) |
6. Analiza učinkovitosti učenja s prenosom znanja pri detekciji objektov : magistrsko deloMitja Žalik, 2022, magistrsko delo Opis: Zaradi nedefiniranosti procesov odločanja globokih nevronskih mrež in njihovega dolgotrajnega učenja predstavlja določitev prenesenega znanja ključen izziv pri implementaciji učinkovite detekcije objektov na novih domenah. Preneseno znanje opredeljuje struktura plasti nevronske mreže, nad katerimi izgradimo nov model, ter izbira plasti, ki jim med učenjem zamrznemo vrednosti uteži. V magistrskem delu analiziramo vpliv števila zamrznjenih plasti na uspešnost učenja s prenosom znanja. V prvem delu opišemo tehnike prenosa znanja ter podamo formalno definicijo detekcije objektov, pri čemer opredelimo poznane metode in izpostavimo ključne izzive, povezane z njimi. Nato predstavimo izveden eksperiment, v katerem primerjamo uspešnost štirih konfiguracij pri prenosu znanja na modelu YOLOv4 na štiri različne ciljne domene. Ugotovimo, da so pri različnih ciljnih domenah uspešne različne konfiguracije, ki so odvisne od stopnje podobnosti izvorne in ciljne domene ter plasti izvornega modela, na kateri je določena značilka izluščena. Čeprav predstavljeni rezultati kažejo nemožnost predvidevanja optimalne konfiguracije prenosa znanja, izveden eksperiment nakazuje, da je učenje tudi v primeru neoptimalnega prenosa znanja uspešnejše od učenja brez prenosa znanja. Ključne besede: učenje s prenosom znanja, prenos znanja, detekcija objektov, obdelava videoposnetkov, globoko učenje Objavljeno v DKUM: 07.06.2022; Ogledov: 1027; Prenosov: 203 Celotno besedilo (16,36 MB) |
7. |