| | SLO | ENG | Cookies and privacy

Bigger font | Smaller font

Show document

Title:Development of a Model for Predicting Brake Torque Using LSTM and TCN Models : magistrsko delo
Authors:Roškar, Tomaž (Author)
Klančnik, Simon (Mentor) More about this mentor... New window
Vok, Alenka (Co-mentor)
Files:.pdf MAG_Roskar_Tomaz_2020.pdf (3,33 MB, This file will be accessible after 30.06.2023)
MD5: 6B1BF5EB04A1078EBFA95FF26AADBCF7
 
Language:English
Work type:Master's thesis/paper (mb22)
Typology:2.09 - Master's Thesis
Organization:FS - Faculty of Mechanical Engineering
Abstract:The main purpose of this thesis is to compare two state-of-the-art machine learning models, LSTM (Long Short-Term Memory) and TCN (Temporal Convolutional Network), on an AVL List GmbH case use, where the goal is to predict vehicle brake torque. Dataset used for model testing consists of multiple features which are preprocessed using several preprocessing methods. For model implementation Python’s libraries Keras and TensorFlow are used. Results from this thesis show that TCN is able to outperform LSTM. TCN achieves lower RMSE on the test dataset and is significantly faster in training and evaluation.
Keywords:brake torque, machine learning, neural network, LSTM, TCN, RNN, CNN
Year of publishing:2020
Place of performance:Maribor
Publisher:[T. Roškar]
Number of pages:IX, 55 f.
Source:Maribor
UDC:004.85:62-59(043.2)
COBISS_ID:40383747 New window
NUK URN:URN:SI:UM:DK:BGDRKWBP
Views:216
Downloads:0
Metadata:XML RDF-CHPDL DC-XML DC-RDF
Categories:KTFMB - FS
:
  
Average score:(0 votes)
Your score:Voting is allowed only for logged in users.
Share:AddThis
AddThis uses cookies that require your consent. Edit consent...

Hover the mouse pointer over a document title to show the abstract or click on the title to get all document metadata.

Licences

License:CC BY-NC-ND 4.0, Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International
Link:http://creativecommons.org/licenses/by-nc-nd/4.0/
Description:The most restrictive Creative Commons license. This only allows people to download and share the work for no commercial gain and for no other purposes.
Licensing start date:29.06.2020

Secondary language

Language:Slovenian
Title:Razvoj modela za napovedovanje zavornega momenta z uporabo LSTM in TCN modelov
Abstract:Cilj magistrske naloge je primerjava dveh modelov strojnega učenja, LSTM (ang. Long short-term memory) in TCN (ang. Temporal convolutional network) pri napovedovanju zavornega momenta. Gre za dva tipa nevronskih mrež. Nevronske mreže so skupek algoritmov, ki delujejo po vzoru človeških možganov. Sestavljene so iz osnovnih enot – nevronov, ki so običajno razporejeni v več plasti. Razmestitev nevronov v mreži vpliva na hitrost učenja in kvaliteto rezultatov naučene mreže. LSTM spada med povratne nevronske mreže (ang. Recurrent neural network – RNN). Povratne nevronske mreže vsebujejo povratne povezave, ki jim omogočajo pomnenje informacij iz predhodnih časovnih korakov, zaradi česar dosegajo zelo dobre rezultate pri obdelavi sekvenčnih podatkov. Najpogosteje se uporabljajo za prepoznavanje govora in pisav, zaznavanje anomalij v časovnih vrstah in napovedovanje nadaljnega razvoja časovnih vrst. Pri učenju običajnih RNN naletimo na več problemov: problem izginjanja in eksplozije gradientov ter kratkoročni spomin. LSTM odpravi problem izginjanja gradientov in kratkoročni spomin z uporabo spominskih celic, ki sestojijo iz stanja celice in treh vrat. Stanje celice je posledica predhodnih časovnih korakov in si ga lahko razlagamo kot spomin celice. Vrata služijo za posodabljanje stanja celice in so naučena tekom učenja LSTM. TCN spada med konvolucijske nevronske mreže (ang. Convolutional neural network – CNN). Konvolucijske mreže uporabljajo matematično operacijo imenovano konvolucija, za pridobivanje značilk in so izjemno uspešne na področju strojnega vida. Njihova uporaba za modeliranje časovnih vrst je manj razširjena, vendar v mnogih primerih dosegajo boljše rezultate kot RNN. TCN združuje najboljše prakse sodobnih konvolucijskih mrež. Uporablja princip razširjenih konvolucij (ang. dilated convolution), kar omogoča razširitev zaznavnega polja. Primerjava LSTM in TCN je bila izvedena na primeru iz podjetja AVL List GmbH, katerega cilj je izdelava modela za napovedovanje zavornega momenta. Za učenje nevronskih mrež so se uporabili podatki o temperaturi zavor, tlaku zavorne tekočine v zavornem valju, vrtljajih zavornih diskov in zavornem momentu. Podatki so bili prefiltrirani z uporabo nizkopasovnega Butterworth filtra, kar je imelo velik vpliv na kvaliteto naučenih modelov. Dodani sta bili dve značilki, ki smo ju pridobili z obdelavo obstoječih. Za pripravo podatkov sta bili uporabljeni knjižnici programskega jezika Python, Pandas in Scipy. Modela sta bila implementirana v programskem okolju TensorFlow, ki je odprtokodno okolje za strojno učenje. S primerjavo rezultatov, smo prišli do ugotovitve, da je v obravnavanem primeru TCN model zmožen doseči večjo natančnost napovedi v krajšem času učenja, kot LSTM. Rezultati so pokazali, da se pri večjem številu časovnih korakov, ki jih uporabimo za napoved, pri LSTM pojavi problem eksplozije gradientov, zaradi česar je potrebno uvesti omejevanje gradienta (ang. Gradient clipping). Velika prednost TCN modela napram LSTM je čas potreben za izračun napovedi. Izkazalo se je, da je v obravnavanem primeru že najmanjši LSTM model prepočasen za uporabo v realnem času. Predvidevamo, da bi z implementacijo obeh modelov v programskem jeziku C, lahko tudi LSTM pospešili do te mere, da bi se lahko uporabljal v realnem času.
Keywords:zavorni moment, strojno učenje, nevronske mreže, LSTM, TCN, RNN, CNN


Comments

Leave comment

You have to log in to leave a comment.

Comments (0)
0 - 0 / 0
 
There are no comments!

Back
Logos of partners University of Maribor University of Ljubljana University of Primorska University of Nova Gorica