Ort:  Erlangen
Datum:  02.09.2022

Masterand (w/m/d) - Erklärbares Interaktives ML mit Counterfactual Explanations für ordinale Daten

Die Fraunhofer-Gesellschaft (www.fraunhofer.de) betreibt in Deutschland derzeit 76 Institute und Forschungseinrichtungen und ist die weltweit führende Organisation für anwendungsorientierte Forschung. Rund 30 000 Mitarbeitende erarbeiten das jährliche Forschungsvolumen von 2,9 Milliarden Euro.  

Das Fraunhofer-Institut für Integrierte Schaltungen IIS ist eine der weltweit führenden anwendungsorientierten Forschungseinrichtungen für mikroelektronische und informationstechnische Systemlösungen und Dienstleistungen. Die Projektgruppe »Comprehensible Artificial Intelligence« entwickelt in Kooperation mit der Universität Bamberg Verfahren, die künstliche intelligente Systeme für End-User nachvollziehbar und interaktiv machen. Dabei greift sie sowohl auf datengetriebenes statistisches Maschinelles Lernen als auch auf wissensbasierte Ansätze zurück.

 

Zusammenfassung:
Maschinelles Lernen (ML) wird bereits heute in vielen Bereichen von Gesellschaft und Wirtschaft eingesetzt. Viele der verwendeten ML-Verfahren sind jedoch Black Boxes für End-User. Gründe dafür sind unter anderem die mangelnde Kontrolle über die Datensatzqualität und unzureichende Erklärungen der Entscheidungen des ML-Systems. Erklärbares ML generiert verständliche Erklärungen und interaktives ML gibt Nutzer*innen die Möglichkeit, auf Entscheidungen des ML-Modells aktiv Einfluss zu nehmen.
CAIPI ist ein erklärbarer und interaktiver Algorithmus zur Optimierung von ML-Modellen. Er nutzt dafür iterativ menschliches Feedback zu den lokalen Erklärungen des Modells. Wohingegen viele lokale Erklärungsalgorithmen performant auf Bilddaten sind, können sie nur eingeschränkt auf andere Datenstrukturen angewendet werden.  
In dieser Masterarbeit soll der CAIPI Algorithmus deshalb auf ordinale Datenstrukturen erweitert werden. Erklärungen sollen als sog. Counterfactual Explanations generiert werden. So sollen Aussagen getroffen werden wie z.B.: „Wäre dieser Parameter um x Prozent höher, würde sich die Modellentscheidung ändern.“ Ziel der Abschlussarbeit ist es, einen erklärbaren und interaktiven ML-Ansatz für ordinale Daten zu entwickeln.

 

Was Du bei uns tust

•    Du implementierst erklärbare und interaktive Algorithmen des Maschinellen Lernens (XIML)
•    Du entwickelst Algorithmen zur Generierung von Counterfactual Explanations für ordinale Daten
•    Du adaptierst statistische Verfahren zur metrischen Approximation ordinaler Daten

 

Was Du mitbringst

•    Du studierst Informatik, Mathematik, Statistik oder einen ähnlichen Studiengang
•    Du interessierst Dich für Verfahren des erklärbaren Maschinellen Lernens
•    Du bringst Grundkenntnisse in der Python-Programmierung mit
•    Du hast ein grundlegendes Verständnis für die Entwicklung von Modellen des Maschinellen Lernens und der Implementierung von statistischen Algorithmen
•    Du bist geübt in kreativen Problemlösungen und lernst gerne Neues dazu
•    Du konntest möglicherweise bereits Erfahrung in der Implementierung erklärungsgenerierender Algorithmen sammeln

 

Was Du erwarten kannst

•    Flexible Arbeitszeiten
•    Offene und kollegiale Arbeit im Team
•    Abwechslungsreiche Aufgaben
•    Spannende Seminare und Events 
•    Vernetzung in und mit der Wissenschaft
•    Anwendungsorientierte Forschung aktiv mitgestalten
•    Interessante und innovative Projekte
•    Mentoringprogramm »josephine©« für talentierte Studentinnen

 

Wenn Du Fragen zu dieser Stelle hast, wende Dich gern an Emanuel Slany (emanuel.slany@iis.fraunhofer.de).


Deine wöchentliche Arbeitszeit wird nach Absprache vereinbart. Nach Deinem Studium besteht die Möglichkeit, in Voll- oder Teilzeit bei uns zu arbeiten.

 

Für die Vergabe und Durchführung der Arbeiten gelten die Regeln der Hochschule, an der Du eingeschrieben bist. Bitte halte für die Betreuung Deiner Abschlussarbeit Rücksprache mit einem Professor / einer Professorin Deiner Wahl.

 

Wir wertschätzen und fördern die Vielfalt der Kompetenzen unserer Mitarbeitenden und begrüßen daher alle Bewerbungen – unabhängig von Alter, Geschlecht, Nationalität, ethnischer und sozialer Herkunft, Religion, Weltanschauung, Behinderung sowie sexueller Orientierung und Identität. Schwerbehinderte Menschen werden bei gleicher Eignung bevorzugt eingestellt.

 

Mit ihrer Fokussierung auf zukunftsrelevante Schlüsseltechnologien sowie auf die Verwertung der Ergebnisse in Wirtschaft und Industrie spielt die Fraunhofer-Gesellschaft eine zentrale Rolle im Innovationsprozess. Als Wegweiser und Impulsgeber für innovative Entwicklungen und wissenschaftliche Exzellenz wirkt sie mit an der Gestaltung unserer Gesellschaft und unserer Zukunft. 

 

Haben wir Dein Interesse geweckt? Dann bewirb Dich jetzt online mit Deinen aussagekräftigen Bewerbungsunterlagen (PDF: Anschreiben, Lebenslauf, Zeugnisse). Wir freuen uns darauf, Dich kennenzulernen! 

 

Fraunhofer-Institut für Integrierte Schaltungen IIS 

www.iis.fraunhofer.de 


Kennziffer: 22208                Bewerbungsfrist: Keine              Standort: Erlangen / Bamberg