Thesis - Generating a Tree-Based Explanation for AI Models

Die Fraunhofer-Gesellschaft (www.fraunhofer.de) betreibt in Deutschland derzeit 76 Institute und Forschungseinrichtungen und ist die weltweit führende Organisation für anwendungsorientierte Forschung. Rund 30 800 Mitarbeitende erarbeiten das jährliche Forschungsvolumen von 3,0 Milliarden Euro.

Advertisement for subjects such as: Automatisierungstechnik, Elektrotechnik, Informatik, Kybernetik, Luft- und Raumfahrttechnik, Maschinenbau, Mathematik, Physik, Regelungstechnik, Softwaredesign, Softwareengineering, technische Informatik, Technologiemanagement or similar.

Explaining the predictions of ML models remains an important yet challenging task for the successful application of ML-based solutions, especially in safety-critical domains. A frequently used explanation method is SHAP (SHapley Additive exPlanations), which measures the contribution of each input feature to the prediction. However, interpreting these explanations can be challenging.

Was Sie bei uns tun

In this thesis, you will implement and evaluate the feasibility of a novel explanation method inspired by SHAP. This method will generate a set of explanations represented by a tree, potentially offering a more intuitive understanding of model predictions.

Was Sie mitbringen

Experience in Python programming and the ability to write clean and well-structured code
Prior experience with machine learning and common frameworks such as TensorFlow, PyTorch, or scikit-learn is a plus
Knowledge of German is a plus

Was Sie erwarten können

Opportunity to work at the intersection of research and industry within one of Europe's leading AI ecosystems
Contribute to actual industrial projects with code that is implemented in real-world applications
Employment as a research assistant (HiWi) for the duration of your thesis contract

Wir wertschätzen und fördern die Vielfalt der Kompetenzen unserer Mitarbeitenden und begrüßen daher alle Bewerbungen – unabhängig von Alter, Geschlecht, Nationalität, ethnischer und sozialer Herkunft, Religion, Weltanschauung, Behinderung sowie sexueller Orientierung und Identität. Schwerbehinderte Menschen werden bei gleicher Eignung bevorzugt eingestellt.

Mit ihrer Fokussierung auf zukunftsrelevante Schlüsseltechnologien sowie auf die Verwertung der Ergebnisse in Wirtschaft und Industrie spielt die Fraunhofer-Gesellschaft eine zentrale Rolle im Innovationsprozess. Als Wegweiser und Impulsgeber für innovative Entwicklungen und wissenschaftliche Exzellenz wirkt sie mit an der Gestaltung unserer Gesellschaft und unserer Zukunft.

Haben wir Ihr Interesse geweckt? Dann bewerben Sie sich jetzt online mit Ihren aussagekräftigen Bewerbungsunterlagen. Wir freuen uns darauf, Sie kennenzulernen!

Frau Jennifer Leppich
Recruiting
Tel. +49 711 970-1415

jennifer.leppich@ipa.fraunhofer.de

Fraunhofer-Institut für Produktionstechnik und Automatisierung IPA

www.ipa.fraunhofer.de

Kennziffer: 72930

Stellensegment: Research Assistant, Research

Jetzt bewerben »