Episode 14 - Neuronale Netze in sicherheitskritischen Systemen - mit Mathias Lechner

Mathis Lechner ist PhD-Student und Machine Learning Forscher am
Institute of Science and Technology Austria in Maria Gugging bei
Klosterneuburg. Seine Forschungsschwerpunkte sind Machine
Learning, Formale Methoden und Robotik. In diesem Zusammenhang
kam es zur Zusammenarbeit mit Forscherinnen und Forschern des
IST, der TU Wien und dem MIT .


In dieser Episode haben wir darüber gesprochen, welche Aspekte
beachtet werden müssen, um Systeme mit neuronalen Netzen in
sicherheitskritischen Systemen einsetzen zu können. Spezieller
Fokus wurde auf eine Arbeit vom letzten Jahr gelegt. Zusammen mit
Ramin Hasani war er Hauptautor einer Arbeit die gezeigt hat, dass
mit wenigen Neuronen in autonomen Fahrsituationen teilweise
bessere Ergebnisse erzielt werden können, als mit komplexen
neuronalen Netzen, wenn man sich an der Natur orientiert. Diese
Arbeit wurde in Nature Machine Intelligence publiziert.


Das sind die im Podcast angesprochenen Paper:


Neurales Netzwerk mit wenigen Neuronen (Lechner, Hasani et.
Al): Neural circuit policies enabling auditable autonomy

Verifikation quantisierter neuraler Netze (Henzinger et.
Al.): Scalable Verification of Quantized Neural Networks
(Technical Report)

Adversial Training – Genauigkeit vs. Robustheit (Lechner et.
Al): Adversarial Training is Not Ready for Robot Learning