Senior AI / Machine Learning Engineer – Enterprise & On-Prem Systems

Job Post Information* : Posted Date 3 weeks ago(11/03/2026 04:46)
ID
2026-5514
# of Openings
1
Job Locations
DE
Category
Data & Analytics

Overview

Wir bei Nortal unterstützen den öffentlichen Sektor und Unternehmen dabei, KI nicht nur zu diskutieren, sondern produktiv und verantwortungsvoll einzusetzen. Wenn Du bei Themen wie LLMs, RAG-Architekturen und On-Prem-Deployments nicht an Spielerei, sondern an robuste, auditierbare Systeme denkst, passt Du gut zu uns.

Wir suchen eine:n Senior AI / Machine Learning Engineer – Enterprise & On-Prem Systems (m/w/d) mit starkem Fokus auf Enterprise-AI-Systeme.

In dieser Rolle entwickelst Du keine Demo-Chatbots, sondern produktionsreife KI-Lösungen für regulierte Umgebungen. Du konzipierst, baust und deployest AI-Systeme, die unter realen Bedingungen funktionieren – mit klaren Workflows, reproduzierbaren Ergebnissen und hoher technischer Qualität.

Du arbeitest eng mit unseren lokalen Teams in Deutschland zusammen und – wenn es das Projekt erfordert – auch standortübergreifend mit internationalen Kolleg:innen. Gemeinsam entwickelt Ihr skalierbare, sichere und nachvollziehbare AI-Architekturen für anspruchsvolle Kundenumgebungen

 

Über Nortal

Seit über 25 Jahren gestalten wir die digitale Transformation – mit komplexen Lösungen für globale Unternehmen und Organisationen im öffentlichen Sektor. Heute stehen wir an der Spitze einer KI-getriebenen Transformationsära und unterstützen Organisationen dabei, Daten in echten geschäftlichen Mehrwert zu verwandeln. Durch die Kombination aus tiefgehender Fachexpertise sowie Daten- und KI-Kompetenz entwickeln wir Lösungen, die sofort Wirkung zeigen und gleichzeitig langfristig skalierbar sind.

Wir sind überzeugt: Komplexität muss nicht kompliziert sein – und die besten Lösungen sind diejenigen, die in der Praxis funktionieren, nicht nur auf dem Papier. Deshalb vertrauen uns unsere Kunden ihre ambitioniertesten und geschäftskritischen Vorhaben an.

 

Unser Angebot – perfekte Rahmenbedingungen

Als motivierte und offene Persönlichkeit findest du bei uns die ideale Möglichkeit, dich in einem internationalen und wachsenden Unternehmen zu entfalten.

  • Flexible Arbeitszeiten mit Freizeitausgleich und Sabbatical-Optionen für eine gesunde Work-Life-Balance
  • Persönliches Onboarding mit Patensystem für einen starken Start
  • Kontinuierliche Weiterentwicklung durch internationale Learning Hives, bezahlte Trainings und 6 Learning & Development Days pro Jahr
  • Offene, wertschätzende Unternehmenskultur mit gelebter Transparenz auf allen Ebenen

Kurzum: Wir bieten dir ein Umfeld, in dem du wirklich zählst – fachlich und menschlich.

Responsibilities

  • Design von End-to-End AI-Systemarchitekturen (LLM-basiert und klassische ML-Ansätze)

  • Aufbau produktionsreifer RAG-Pipelines

  • Definition von Modell- und Inferenzstrategien für On-Prem-GPU-Umgebungen

  • Konzeption strukturierter, auditierbarer AI-Workflows (keine generischen Chatbots)

  • Sicherstellung von Reproduzierbarkeit, Observability und Traceability von AI-Outputs

Qualifications

Dein Profil (Must-have)

  • Mehrjährige praktische Erfahrung in der Entwicklung produktionsreifer AI-/LLM-Systeme

  • Fundierte Kenntnisse im Bereich LLM- und NLP-Engineering

  • Sehr gute Python-Kenntnisse

  • Erfahrung mit Containerisierung (Docker) und Kubernetes

  • Praxis in der Implementierung von RAG-Architekturen und Retrieval-Systemen

  • Erfahrung mit Vektordatenbanken

  • Verständnis für On-Prem-Architekturen und regulatorische Anforderungen

  • Fähigkeit, Architekturentscheidungen eigenständig zu treffen

  • Sehr gute Deutschkenntnisse (C1/C2, verhandlungssicher)

Nice-to-have

  • Erfahrung in der Arbeit mit regulierten Branchen (z. B. Public Sector, Finance, Healthcare)

  • Erfahrung in der Optimierung von LLM-Inferenz auf GPU-Hardware

  • Know-how in Observability- und Monitoring-Setups für AI-Systeme

  • Erfahrung in der Zusammenarbeit mit Frontend-, DevOps- und IT-Teams auf Kundenseite

  • Fähigkeit, technische Konzepte adressatengerecht zu vermitteln

Persönlich passt Du gut zu uns, wenn Du:

  • AI-Use-Cases eigenständig von der Idee bis zur produktiven Lösung treibst

  • Unklare Business-Anforderungen in belastbare technische Konzepte übersetzen kannst

  • Unter Zeitdruck MVPs lieferst, ohne die Architekturqualität zu kompromittieren

  • Verantwortung übernimmst und strukturiert arbeitest

Optionen

Sorry the Share function is not working properly at this moment. Please refresh the page and try again later.
Share on your newsfeed