Anforderungen auf einen Blick

Hochschulstudium Informatik Physik Mathematik (Erforderlich)
Maschinelles Lernen (Erforderlich)
Künstliche Intelligenz (Erforderlich)
Python (Erforderlich)
PyTorch (Erforderlich)
TensorFlow (Erforderlich)
Docker (Erforderlich)
Deutsch C1 (Erforderlich)
Englisch C1 (Erforderlich)
Promotion (Wünschenswert)

ErforderlichWünschenswert

Heute

Ort: Sankt Augustin Datum: 20.10.2026

Wissenschaftlicher Mitarbeiter - Experte für vertrauenswürdige KI (all genders)

Die Fraunhofer-Gesellschaft ist eine der weltweit führenden Organisationen für anwendungsorientierte Forschung. 74 Institute entwickeln wegweisende Technologien für unsere Wirtschaft und Gesellschaft – genauer: 30 000 Menschen aus Technik, Wissenschaft, Verwaltung und IT. Sie wissen: Wer zu Fraunhofer kommt, will und kann etwas verändern. Für sich, für uns und die Märkte von heute und morgen.

Am Fraunhofer IAIS erforschen und entwickeln rund 360 Mitarbeitende individuelle Lösungen zur Integration und Analyse von Daten für unsere Fördergeberinnen und unsere Kundinnen aus der Wirtschaft. Künstliche Intelligenz, Machine Learning, Big Data, Multimedia Content Analytics, Information Integration sowie Unternehmensmodellierung und -analyse sind die inhaltlichen Schwerpunkte unserer Arbeiten.

In der Abteilung AI Assurance and Assessments (AAA) operationalisieren wir KI-Vertrauenswürdigkeit entlang von drei Schritten:

Wir analysieren Anforderungen an KI-Systeme aus Gesetzen und Standards.
Wir setzen diese Anforderungen um, indem wir technische Absicherungsmethoden für KI-Systeme entwickeln und diese auf organisatorischer Ebene durch effektive KI-Governance Mechanismen komplettieren.
Wir entwickeln Prüfkriterien und Testverfahren für KI-Systeme und forschen zu der Frage, wie sich solche Prüfungen und Tests automatisieren lassen.

Hierbei beschäftigen uns Fragestellungen wie: Wie lassen sich a priori inkommensurable KI-Risiken, etwa die Verletzung von Persönlichkeitsrechten und Safety-Risiken zu einem Gesamtrisiko aggregieren? Wie lassen sich die Unsicherheiten von Transformer-Modellen messen? Welche Controls in KI-Managementsystemen operationalisieren den AI Act? Wie lassen sich KI-Prüfworkflows automatisieren? Was sind die besten Redteaming Ansätze, um die Safeguards von LLMs zu testen? Wie lassen sich KI-Agenten im Betrieb absichern?

Bei Fraunhofer IAIS zu arbeiten, heißt unternehmerisches Denken mit Spitzenforschung zu verbinden: Unsere Abteilung AAA hat weltweit Kunden, die von großen Technologiekonzernen bis hin zu Start-ups reichen. Auch viele Behörden zählen zu unseren Auftraggebern. Gleichzeitig entstehen aus unserer Forschung wissenschaftliche Publikationen und Doktorarbeiten. Unser interdisziplinäres Team hat Abschlüsse in Informatik, Naturwissenschaften, Rechtswissenschaften und Psychologie und freut sich auf Sie!