Blick in die Blackbox: Tracing-Architekturen für Generative KI (m/w/d)

KI-Agenten und LLM-Anwendungen laufen inzwischen im echten Betrieb. Was zwischen Prompt und Antwort passiert, bleibt aber oft unsichtbar. Klassisches Monitoring zeigt Latenz und Fehlerraten, aber nicht, warum sich ein KI-System so verhalten hat. Für dieses Problem gibt es gerade viele Lösungen: spezialisierte Plattformen wie MLflow, Arize oder Langfuse, eigene Ansätze der großen Cloud-Anbieter und den offenen Standard OpenTelemetry. Alles entwickelt sich schnell und ist oft noch nicht ausgereift. Im Mittelpunkt deiner Arbeit steht OpenTelemetry: Der Standard entwickelt sich gerade aktiv weiter und wird von immer mehr Anbietern unterstützt. Andere Ansätze ziehst du zum Vergleich heran. Genau hier setzt du an, ganz vorne bei einem Thema, das sich gerade erst formt. Deine Aufgaben: - Du verschaffst dir einen Überblick über aktuelle Ansätze für Tracing und Observability bei Generativer KI. - Du erarbeitest Referenzarchitekturen und wägst sie gegeneinander ab. - Du beurteilst, wie ausgereift die Ansätze heute sind: Was funktioniert schon gut, und wo gibt es noch offene Fragen? - Du baust einen praktischen Demonstrator, an dem du deine Ergebnisse testest und belegst.Du bekommst Einblicke in: - Distributed Tracing und Observability - LLM- und Agent-Frameworks - aktuelle Tools und Plattformen rund um KI im BetriebUnd vor allem siehst du, wie man KI-Systeme nachvollziehbar und vertrauenswürdig macht. Das passt zu dir, wenn … - Du studierst Informatik, Softwaretechnik, Wirtschaftsinformatik oder etwas Vergleichbares. - Du programmierst sicher in mindestens einer gängigen Sprache, zum Beispiel Python, TypeScript oder C#. - Du hast schon praktisch mit LLMs gearbeitet, zum Beispiel über APIs oder Agent-Frameworks, gerne auch in eigenen Projekten. - Du kennst die Grundlagen von Logging, Monitoring oder Tracing in verteilten Systemen. - Du gehst sicher mit Git, Docker und Schnittstellen bzw. APIs um. - Du liest technische Dokumentationen auf Englisch ohne Probleme. - Du arbeitest eigenständig, strukturierst offene Fragen selbst und begründest deine Entscheidungen gut. - Individuelle Unterstützung: Ein/e dedizierte/r Betreuer:in an deiner Seite unterstützt dich bei deinem Projekt und steht für Fragen zur Verfügung - Networking: Bei uns kannst du dein berufliches Netzwerk ausbauen und wertvolle Kontakte innerhalb des Unternehmens knüpfen. Diese Masterthesis wird von unseren Expert:innen des Competence Centers Data & AI begleitet. - Regelmäßige Feedbackgespräche: Wir werden regelmäßig Feedback austauschen, um deinen Fortschritt zu überprüfen und deine Entwicklung zu fördern - Hybrides Arbeiten: In Abstimmung mit deiner Führungskraft wählst du aus einer Kombination von Remote-Arbeit und Büro-Präsenz, für mehr Flexibilität und Freiheit - Großzügige Gleitzeitregelung: In Abstimmung mit deiner Führungskraft legst du deine Arbeitszeiten nach deinen Präferenzen fest, um deinen persönlichen Bedürfnissen gerecht zu werden Fiona Laube, Specialist Recruiting & HR Marketing [email protected] Tel.: +49 7724 9415-36 Bewirb dich gerne per du und nutze unsere Vornamen!