1. Cephalometric landmark detection in lateral skull X-ray images by using improved spatialconfiguration-netMartin Šavc, Gašper Sedej, Božidar Potočnik, 2022, izvirni znanstveni članek Opis: Accurate automated localization of cephalometric landmarks in skull X-ray images is the
basis for planning orthodontic treatments, predicting skull growth, or diagnosing face discrepancies.
Such diagnoses require as many landmarks as possible to be detected on cephalograms. Today’s
best methods are adapted to detect just 19 landmarks accurately in images varying not too much.
This paper describes the development of the SCN-EXT convolutional neural network (CNN), which
is designed to localize 72 landmarks in strongly varying images. The proposed method is based
on the SpatialConfiguration-Net network, which is upgraded by adding replications of the simpler
local appearance and spatial configuration components. The CNN capacity can be increased without
increasing the number of free parameters simultaneously by such modification of an architecture.
The successfulness of our approach was confirmed experimentally on two datasets. The SCN-EXT
method was, with respect to its effectiveness, around 4% behind the state-of-the-art on the small ISBI
database with 250 testing images and 19 cephalometric landmarks. On the other hand, our method
surpassed the state-of-the-art on the demanding AUDAX database with 4695 highly variable testing
images and 72 landmarks statistically significantly by around 3%. Increasing the CNN capacity
as proposed is especially important for a small learning set and limited computer resources. Our
algorithm is already utilized in orthodontic clinical practice.
Ključne besede: detection of cephalometric landmarks, skull X-ray images, convolutional neural networks, deep learning, SpatialConfiguration-Net architecture, AUDAX database
Objavljeno v DKUM: 27.03.2025; Ogledov: 0; Prenosov: 5
 Celotno besedilo (2,46 MB)
Gradivo ima več datotek! Več... |
2. Deeply-supervised 3D convolutional neural networks for automated ovary and follicle detection from ultrasound volumesBožidar Potočnik, Martin Šavc, 2022, izvirni znanstveni članek Opis: Automated detection of ovarian follicles in ultrasound images is much appreciated when
its effectiveness is comparable with the experts’ annotations. Today’s best methods estimate follicles
notably worse than the experts. This paper describes the development of two-stage deeply-supervised
3D Convolutional Neural Networks (CNN) based on the established U-Net. Either the entire U-Net
or specific parts of the U-Net decoder were replicated in order to integrate the prior knowledge into
the detection. Methods were trained end-to-end by follicle detection, while transfer learning was
employed for ovary detection. The USOVA3D database of annotated ultrasound volumes, with its
verification protocol, was used to verify the effectiveness. In follicle detection, the proposed methods
estimate follicles up to 2.9% more accurately than the compared methods. With our two-stage CNNs
trained by transfer learning, the effectiveness of ovary detection surpasses the up-to-date automated
detection methods by about 7.6%. The obtained results demonstrated that our methods estimate
follicles only slightly worse than the experts, while the ovaries are detected almost as accurately as
by the experts. Statistical analysis of 50 repetitions of CNN model training proved that the training
is stable, and that the effectiveness improvements are not only due to random initialisation. Our
deeply-supervised 3D CNNs can be adapted easily to other problem domains.
Ključne besede: 3D deep neural networks, 3D ultrasound images of ovaries, deep supervision, detection of follicles and ovaries, U-Net based architecture
Objavljeno v DKUM: 27.03.2025; Ogledov: 0; Prenosov: 5
Celotno besedilo (1,28 MB)
Gradivo ima več datotek! Več... |
3. Kombiniranje modelov razvrščanja vzorcev za razpoznavanje čustvenih izrazov iz posnetkov obraza v nekontroliranem okolju : diplomsko deloJuš Osojnik, 2023, diplomsko delo Opis: V tem delu smo se ukvarjali z razpoznavanjem čustvenih izrazov v nekontroliranem okolju.
Uporabljali smo metodo prenosnega učenja, kjer smo učili arhitekture konvolucijskih nevronskih mrež: EfficientNetB0, ResNet50, DenseNet121, InceptionV3 in Xception, na naboru podatkovnih zbirk FER-2013, AffectNet, AFEW/SFEW in Aff-Wild2. Modele smo nato kombinirali na osnovi rezultatov z metodama povprečenja in glasovanja. Modele smo kombinirali tudi na osnovi izluščenih značilnic. Uspešnost modelov smo merili po metrikah natančnosti in ocene F1. Na podatkovni zbirki FER-2013 smo dosegli najboljšo natančnost 72 %, na zbirkah AffectNet 67 %, AFEW/SFEW 47 % in Aff-Wild2 52 % natančnost. Z našimi rezultati smo se približali najuspešnejšim raziskavam, ki so na posameznih podatkovnih zbirkah dosegle natančnosti: FER-2013 77 %, AffectNet 67 %, AFEW/SFEW 54 % in Aff-Wild2 52 %.
Ključne besede: prepoznavanje čustvenih izrazov, slike obrazov, globoke nevronske mreže, modelno združevanje, ekstrakcija značilnic, okolje Keras
Objavljeno v DKUM: 13.10.2023; Ogledov: 512; Prenosov: 60
Celotno besedilo (4,01 MB) |
4. Kombiniranje več modelov razvrščanja vzorcev na primeru ocenjevanja starosti osebe iz digitalnih posnetkov : diplomsko deloTadej Horvat, 2023, diplomsko delo Opis: V tej diplomski nalogi se ukvarjamo s kombiniranjem različnih prosto dostopnih modelov konvolucijskih nevronskih mrež za reševanje problema ocenjevanja starosti oseb iz digitalnih posnetkov. Naš cilj je bil implementirati ansambelske metode, ki so bolj uspešne od vsakega posameznega modela v našem ansamblu. Kombinirali smo pet osnovnih modelov konvolucijskih nevronskih mrež, in sicer Xception, ResNet152V2, InceptionV3, InceptionResNetV2 in EfficientNetV2B0. Modele smo kombinirali na nivoju rezultatov in na nivoju značilnic, pri čemer smo implementirali štiri metode kombiniranja na nivoju rezultatov in pet metod kombiniranja na nivoju značilnic. Za učenje posameznih modelov in testiranje metod smo uporabili bazo podatkov UTKFace. Najboljši rezultat smo dosegli z metodo večslojnega »stackinga«, in sicer srednjo absolutno napako 4,526 let nad našo testno množico. Rezultat le malenkost zaostaja za rezultati najboljših sodobnih metod ocenjevanja starosti iz digitalnih posnetkov.
Ključne besede: ocenjevanje starosti oseb, konvolucijske nevronske mreže, ansambelsko učenje
Objavljeno v DKUM: 05.10.2023; Ogledov: 424; Prenosov: 33
Celotno besedilo (1,75 MB) |
5. Ogrodje za ocenjevanje barve svetila z linearnimi digitalnimi filtri, prilagojenimi na posamezno slikoMartin Šavc, 2020, doktorska disertacija Opis: V doktorski nalogi raziskujemo problem barvne vztrajnosti oziroma problem ocenjevanja barve uniformne osvetlitve scene na podlagi zajete digitalne slike. Predstavimo posplošitev uveljavljenega ogrodja sivih robov z vpeljavo diskretizacije in operacije konvolucije. Za ocenjevanje osvetlitve z našim ogrodjem predlagamo uporabo filtrov, prilagojenih vsebini slike. Filtre konstruiramo bodisi z metodo linearne analize osnovnih komponent (PCA) ali z metodo neodvisnih komponent (ICA). Metodo pospešimo tako, da namesto računanja celotne konvolucije uporabimo zgolj vzorce iz slike oziroma uporabimo tehniko podvzorčenja. Skonstruirane prilagojene filtre v nadaljevanju uporabimo tudi kot samostojne metode barvne vztrajnosti v postopku kombiniranja metod. V eksperimentalnem delu opravimo tri večje eksperimente z uveljavljenima javnima evalvacijskima podatkovnima zbirkama Gehler-Shi in NUS. V prvem eksperimentu primerjamo rezultate predlaganih metod z metodami ogrodja sivih robov in drugimi modernimi metodami ocenjevanja osvetlitve. Predlagani metodi barvne vztrajnosti iz našega ogrodja dosegata nižje napake in nižji povprečni rang od drugih metod ogrodja sivih robov. Predlagana metoda kombiniranja rezultatov pa dosega nižje napake od izvorne metode. V drugem eksperimentu primerjamo odpornost naših metod barvne vztrajnosti in metod ogrodja sivih robov na manjše spremembe v sceni. Spremembe simuliramo z rotacijo in translacijo slik. Pokažemo, da je predlagana metoda barvne vztrajnosti odporna na rotacijo scene, kadar v našem ogrodju uporabimo filtre, ki so prilagojeni vsebini slike z analizo osnovnih komponent. Po drugi strani pa so vse primerjane metode občutljive na premike v sceni. V tretjem eksperimentu primerjamo natančnost ocenjevanja osvetlitve, in sicer če v našem predlaganem ogrodju uporabimo bodisi tehniko podvzorčenja oziroma če osvetlitev ocenjujemo s pomočjo konvolucije. Pokažemo statistično značilno razliko v rezultatih med obema pristopoma. Ocena osvetlitve, pridobljena s podvzorčenjem, je bolj natančna od ocene osvetlitve, izračunane s pomočjo konvolucije. S predlaganimi pristopi v tej doktorski disertaciji dobimo primerljive ali boljše rezultate od sodobnih metod barvne vztrajnosti ob nižji računski kompleksnosti.
Ključne besede: barvna vztrajnost, ocenjevanje osvetlitve, ogrodje sivih robov, konvolucija, prilagajanje filtrov, analiza osnovnih komponent, PCA, analiza neodvisnih komponent, ICA
Objavljeno v DKUM: 11.08.2020; Ogledov: 1399; Prenosov: 162
Celotno besedilo (15,35 MB) |
6. Prepoznavanje aktivnosti osebe iz zaporedja slik z globokimi povratnimi nevronskimi mrežami : diplomsko deloDavid Pintarič, 2019, diplomsko delo Opis: V diplomskem delu se ukvarjamo s problemom prepoznavanja aktivnosti osebe iz zaporedja slik, pri čemer prepoznavo poskušamo izboljšati z upoštevanjem časovne komponente. To dosežemo z uporabo povratnih nevronskih mrež. Omejili smo se na naslednje aktivnosti: oseba ni v ravnovesju, se pripogiba, stoji, sedi, leži, hitro hodi, počasi hodi in pada. Pregledali smo obstoječe postopke prepoznavanja, preučili povratne nevronske mreže, pripravili množico podatkov, zasnovali algoritem, izvedli eksperimente in na koncu analizirali rezultate. Rezultati na 25 označenih videoposnetkih so pri uporabi povratne nevronske mreže pokazali 83,24 % povprečno natančnost pri uporabi tipa zaporedje v vektor in 75,53 % povprečno natančnost pri uporabi tipa zaporedje v zaporedje. Kljub temu da so dobljeni rezultati boljši od tistih, kjer ne upoštevamo časovne komponente, ugotavljamo, da povratne nevronske mreže zaradi računske zahtevnosti niso vedno najboljša izbira.
Ključne besede: računalniški vid, povratna nevronska mreža, pomnilna celica LSTM, pomnilna celica GRU, globoko učenje, detekcija oseb, prepoznavanje aktivnosti osebe
Objavljeno v DKUM: 23.11.2019; Ogledov: 1347; Prenosov: 269
Celotno besedilo (3,78 MB) |
7. Uporabniška programska oprema za napredno organiziranje in urejanje digitalnih slik na osnovi nevronskih mrež : diplomsko deloKristjan Žagar, 2019, diplomsko delo Opis: V diplomskem delu smo razvili razširljivo uporabniško programsko opremo za organiziranje in urejanje digitalnih slik. Program se deli na tri dele, in sicer organizacijski, urejevalni ter napredni način. Organizacijski način dodatno omogoča razširljive dinamične bližnjice na tipkovnici. Poleg tega smo implementirali dve konvolucijski nevronski mreži. Prva je namenjena skaliranju in ostrenju slik, druga pa za ločevanje nočnih in dnevnih slik. Obe naučeni mreži sta vključeni v napredni način naše aplikacije kot vtičnika. Program smo implementirali v ogrodju .NET, s pomočjo WPF-ja ter programskega jezika C#. Nevronski mreži smo implementirali v jeziku Python in z uporabo aplikacijskega programskega vmesnika Keras. Našo aplikacijo in rezultate smo ovrednotili tako kvalitativno kot tudi kvantitativno na manjši testni množici slik. Dobljeni rezultati so bili primerljivi s sorodnimi rešitvami. Po opravljeni fazi testiranja smo našo programsko opremo posredovali v ocenitev še dvema profesionalnima fotografoma. Dobili smo pozitivno povratno informacijo. Na osnovi vseh rezultatov in povratnih informacij lahko trdimo, da naša programska oprema deluje učinkovito in ponuja primerno uporabniško izkušnjo.
Ključne besede: fotografije, windows aplikacija, programski jezik C#, konvolucijske nevronske mreže
Objavljeno v DKUM: 23.11.2019; Ogledov: 1040; Prenosov: 89
Celotno besedilo (1,99 MB) |
8. Detekcija karakterističnih točk na rentgenskih posnetkih glave s pomočjo tehnik globokega učenjaGašper Sedej, 2018, magistrsko delo Opis: V tem magistrskem delu smo se ukvarjali s sistemom za detekcijo karakterističnih točk na slikovnih podatkih. Izdelali smo splošen sistem za avtomatsko zaznavanje karakterističnih točk, ki smo ga prilagodili za kefalometrične točke na rentgenskih slikah. Kot detektor smo uporabili obstoječo globoko nevronsko mrežo SegNet, ki je namenjena segmentiranju slik. To mrežo smo modificirali za iskanje karakterističnih točk. Novo mrežo smo poimenovali KeypointNet. Izdelali smo tudi sistem za označevanje točk na slikah. Detektor smo učili z učno množico. Na testni množici smo izvedli detekcijo in izmerili napako, ki jo definiramo kot evklidsko razdaljo med napovedano in označeno točko. Testirali smo tudi nabor krmilnih hiperparametrov pri zagonu učenja. Sistem smo testirali na množici 124 kefalometričnih slik velikosti 480 × 360 pikslov, in sicer za nabor 10 izbranih točk. Na vseh slikah smo označili te točke. Slike smo razdelili v učno in testno množico v razmerju približno 75 % in 25 %. Testirali smo 16 naborov hiperparametrov. Za vsak nabor smo izvedli 5 ponovitev učenja. Povprečna napaka v položaju točke na testni množici je bila 2,7 piksla. Testirali smo tudi vpliv dveh hiperparametrov za nadzor učenja. Testi so pokazali, da rahel odklon od priporočenih vrednosti za ta dva hiperparametra nima signifikantnega vpliva na končni rezultat. Dobljeni rezultati so zelo spodbudni. Razvili smo torej napreden sistem na osnovi globokega učenja, ki uspešno detektira karakteristične točke na slikah.
Ključne besede: globoko učenje, nevronske mreže, kefalometrija, razpoznavanje vzorcev, optimizacija, paralelno izvajanje
Objavljeno v DKUM: 10.01.2019; Ogledov: 1518; Prenosov: 195
Celotno besedilo (5,14 MB) |
9. Prepoznavanje aktivnosti osebe iz zaporedja slik s pomočjo konvolucijskih nevronskih mrežMihael Baketarić, 2018, diplomsko delo Opis: V diplomskem delu smo se ukvarjali s prepoznavanjem aktivnosti osebe iz zaporedja slik. Omejili smo se na aktivnosti: stoji, sedi, leži, hitro hodi, počasi hodi in pada. Pregledali smo obstoječe postopke prepoznavanja, pripravili množico podatkov, preučili konvolucijske nevronske mreže in jih uporabili pri reševanju našega problema. Naš algoritem je sestavljen iz dveh korakov: iz izločevanja oseb iz slik in prepoznavanja aktivnosti. Oba koraka smo implementirali z uporabo konvolucijskih nevronskih mrež in analizirali rezultate. Za učenje in testiranje smo uporabili lastno podatkovno zbirko, ki je vsebovala video posnetke 6-ih različnih oseb, ki so izvajali vseh šest aktivnosti. Na veliko slikah oseba ni bila pravilno izločena oz. detektirana, zato se je naša množica podatkov občutno zmanjšala po odstranitvi takšnih slik. Naš postopek smo preverili s 6-kratno navzkrižno validacijo. Povprečna uspešnost prepoznavanja aktivnosti je bila 36 %, kar seveda ni dovolj visoko za realne aplikacije. Ugotavljamo, da se pri rezultatih prepoznavanja aktivnosti močno pozna dejstvo, da v našem postopku nismo upoštevali časovne komponente oz. rezultatov prepoznav na predhodnih slikah.
Ključne besede: računalniški vid, konvolucijska nevronska mreža, globoko učenje, detekcija oseb, prepoznavanje aktivnosti osebe
Objavljeno v DKUM: 19.10.2018; Ogledov: 2091; Prenosov: 269
Celotno besedilo (1,55 MB) |
10. Prepoznavanje jedi iz digitalnih slik s pomočjo konvolucijskih nevronskih mrežJan Banko, 2018, diplomsko delo Opis: V diplomskem delu se ukvarjamo s prepoznavo jedi iz digitalnih slik s pomočjo konvolucijskih nevronskih mrež. Namen diplomskega dela je razvoj in implementacija sistema, ki je zmožen prepoznati hrano na digitalni sliki. Natančneje smo preučili delovanje konvolucijskih nevronskih mrež ter postopek prepoznavanja objektov. Opisali smo tudi uporabljene algoritme za detekcijo objektov, ki uporabljajo konvolucijske nevronske mreže. Pri implementaciji razpoznavalnika hrane smo se omejili na 8 različnih kategorij hrane. Pri testiranju na podatkovni zbirki »The Food-101 Data Set« je na množici 2400 slik najboljši izmed uporabljenih modelov detektorjev dosegel natančnost prepoznavanja 95,59 % pri uporabi metrike »PASCAL VOC 2010« ter 72,1 % pri uporabi metrike »COCO«.
Ključne besede: računalniški vid, prepoznavanje hrane, konvolucijske nevronske mreže, Tensorflow
Objavljeno v DKUM: 31.08.2018; Ogledov: 3039; Prenosov: 314
Celotno besedilo (2,69 MB) |
