Viele SAP-Bestandskunden verbinden den Einsatz von KI automatisch mit einem vollständigen Wechsel in die Cloud. Doch KI mit SAP On-Premise ist schon heute möglich. Ob SAP R/3 oder S/4HANA: Analytische und operative KI-Szenarien können bereits heute gezielt in bestehende Systemlandschaften integriert werden.
Entscheidend ist deshalb nicht, ob deine gesamte SAP-Landschaft bereits in der Cloud läuft. Viel wichtiger ist die Frage, welcher konkrete Use Case Mehrwert schafft und wie er sich sinnvoll in deine bestehende Architektur integrieren lässt.
Wir bei XEPTUM haben in den vergangenen Monaten genau solche fokussierten KI-Szenarien umgesetzt. Dieser Beitrag zeigt dir, welche Möglichkeiten es gibt, wo die Grenzen liegen und warum du mit dem Einstieg nicht auf den vollständigen Cloud-Umzug warten musst.
Wie gelingt der Einstieg in KI mit SAP On-Premise?
Der Reiz der großen KI-Vision ist verständlich aber der Einstieg muss nicht groß sein. Sinnvoller ist häufig ein schrittweises Vorgehen: ein konkreter Pain Point, ein klar abgegrenztes Szenario und ein messbarer Quick Win. Genau dafür braucht es keinen Cloud-Komplettumzug.
Grundsätzlich lohnt es sich, zwei Arten von KI zu unterscheiden:
- Analytische KI „Talk-to-your-data“: Analysen, Forecasts und Anomalieerkennung.
- Operative KI: Agenten, die direkt im Geschäftsprozess handeln, beispielsweise Belege erfassen oder Stammdaten pflegen.
Beide Ansätze lassen sich mit bestehenden SAP-Systemen verbinden, allerdings auf unterschiedliche Weise.
Wie lässt sich analytische KI mit SAP On-Premise nutzen?
Etablierte Datenplattformen bringen heute leistungsfähige ML- und LLM-Funktionen mit, egal ob im SAP-Kosmos, etwa mit SAP Business Data Cloud, SAP Databricks und SAP AI Foundation, oder auf Non-SAP-Plattformen wie Databricks, Microsoft Fabric oder Snowflake.
Für SAP-Bestandskunden ist dabei entscheidend: Den angebundenen Tools ist zunächst gleichgültig, ob das Quellsystem On-Premise läuft. Über entsprechende Datenkonnektoren lässt sich ein R/3- oder S/4HANA-System anbinden, ohne die bestehende Systemlandschaft grundlegend verändern zu müssen.
Analytische KI kann damit für viele Unternehmen ein vergleichsweise schnell erreichbarer erster Schritt sein.
Wie können KI-Agenten in SAP-On-Premise-Prozessen handeln?
Noch spannender und für viele Unternehmen der eigentliche Hebel, wird es bei operativer KI. Hier analysiert die KI nicht nur Daten, sondern unterstützt aktiv bei konkreten Aufgaben und Prozessen.
Als Einstiegspunkt für Endanwender kommen neben SAP Joule zahlreiche Agenten-, Copilot- und Orchestrierungsplattformen infrage. Das Spektrum reicht von Microsoft Copilot, OpenAI ChatGPT oder Anthropic Claude bis hin zu maßgeschneiderten Lösungen oder unserer eigenen HeinzAI.
Wie sich Business AI in bestehende SAP-Landschaften integrieren lässt und welche Rolle SAP-Technologien und agentische KI dabei spielen, erfährst du unter Business AI & Autonomous Enterprise.
Der entscheidende Vorteil bestehender SAP-Systeme: Sie verfügen bereits über zahlreiche klassische Schnittstellen wie OData, IDoc oder RFC. Über diese werden operative Tätigkeiten längst ausgeführt, beispielsweise Eingangsrechnungen verarbeitet, Angebote und Aufträge erfasst oder Stammdaten geändert.
Genau diese Schnittstellen können zu einem Tool beziehungsweise Skill für einen KI-Agenten werden. Dafür werden die Schnittstellenfelder mit semantischen Informationen angereichert. Vereinfacht gesagt: Technische Felder erhalten menschenlesbare Beschreibungen, während Rahmenbedingungen, Buchungsvorgaben und fachlicher Kontext zusätzlich mitgegeben werden.
So kann der Agent verstehen, welche Funktionen ihm zur Verfügung stehen, welche Informationen er benötigt und unter welchen Bedingungen er eine Aktion ausführen darf.

KI braucht keinen Cloud-Komplettumzug: Auch bestehende SAP-On-Premise-Systeme lassen sich über vorhandene Schnittstellen mit KI verbinden – für Quick Wins, automatisierte Prozesse und den schrittweisen Weg zum Autonomous Enterprise.
Welche Rolle spielt MCP bei der Integration von KI-Agenten in SAP?
Das standardisierte Protokoll für eine solche Verbindung ist das Model Context Protocol (MCP), häufig anschaulich als „USB-C für KI“ bezeichnet.
Ein MCP-Server dient als Übersetzungsschicht zwischen einer klassischen SAP-Schnittstelle und einem KI-Agenten. Statt die bestehende SAP-Landschaft grundlegend umzubauen, kann der Agent vorhandene Funktionen kontrolliert als Tools verwenden.
Ein fokussierter MCP-Server lässt sich je nach Komplexität mit überschaubarem Entwicklungsaufwand realisieren. Dafür braucht es allerdings nicht nur technisches Know-how, sondern auch ein tiefes Verständnis des dahinterliegenden Geschäftsprozesses: Was darf der Agent tun? Welche Regeln gelten? Welchen Kontext benötigt er?
Genau hier bringen wir bei XEPTUM beide Welten zusammen: technisches SAP- und KI-Know-how und das notwendige Verständnis für die Geschäftsprozesse.
Damit werden fokussierte KI-Quick-Wins für konkrete Pain Points auch in bestehenden SAP-On-Premise-Landschaften realistisch.
Welche KI-Szenarien funktionieren bereits in der Praxis?
Dass dieser Ansatz nicht nur theoretisch funktioniert, zeigen Szenarien, die wir bei XEPTUM bereits konkret umgesetzt haben:
- Auftrags- und Angebotserfassung per KI-Agent
- Interne Zeiterfassung über natürliche Sprache
Statt direkt eine umfassende KI-Architektur aufzubauen, steht dabei ein klar definierter Prozess im Mittelpunkt. So lässt sich früh prüfen, welchen Mehrwert der KI-Einsatz tatsächlich bringt und ob sich eine spätere Skalierung lohnt.
Welcher KI-Use-Case steckt in deiner SAP-Landschaft?
Gemeinsam identifizieren wir konkrete Einsatzmöglichkeiten und prüfen, wie sich KI wirtschaftlich und sinnvoll in deine bestehende SAP-Landschaft integrieren lässt.
Unverbindlich Kontakt aufnehmen
Wo liegen die Grenzen von KI mit SAP On-Premise?
Bei aller Begeisterung für die Möglichkeiten gehört auch ein realistischer Blick dazu. Pro operativem Agenten-Tool kann ein eigener MCP-Server beziehungsweise eine entsprechende Integrationslogik notwendig sein. Soll ein Agent auf viele unterschiedliche Tools und Prozesse zugreifen, können Integration, Governance und Betrieb entsprechend aufwendiger werden.
Das ist kein Ausschlusskriterium. Es zeigt aber, warum ein fokussierter Einstieg sinnvoll ist: Statt möglichst viele Prozesse gleichzeitig für KI zu öffnen, solltest du dort starten, wo Nutzen, technischer Aufwand und Risiko in einem guten Verhältnis stehen.
Wie passt das zur KI-Strategie von SAP?
XEPTUM ist SAP Silver Partner und begleitet Unternehmen seit mehr als 25 Jahren bei der Weiterentwicklung ihrer SAP-Landschaften.
Mehr über unsere SAP-Partnerschaft erfahren
Auch SAP treibt die Integration von KI-Agenten in Geschäftsprozesse konsequent voran. Mit Joule bietet SAP bereits eine stark in den SAP-Kontext eingebettete KI- und Agentenlösung mit zahlreichen vorkonfigurierten Skills. Der Schwerpunkt liegt dabei bislang auf Cloud-Szenarien.
Für SAP-Bestandskunden bedeutet das jedoch nicht, dass du mit KI bis zu einem vollständigen Cloud-Umzug warten musst. Neben eigenen MCP-Servern bietet auch das SAP-Ökosystem Möglichkeiten, bestehende Systeme mit KI-Agenten zu verbinden.
Über die SAP Integration Suite lassen sich bestehende Schnittstellen als MCP-Tools für Agenten bereitstellen, ohne für jedes Szenario einen eigenen MCP-Server betreiben zu müssen. Mit Joule Studio und dem Skill Builder können zudem eigene Skills entwickelt werden, die beispielsweise bestehende OData-Schnittstellen mit dem notwendigen Kontext aufrufen. Die verschiedenen Ansätze lassen sich auch miteinander kombinieren.
Wie SAP das Autonomous Enterprise versteht und welche Rolle Mensch und KI-Agenten darin spielen, haben wir in unserem Beitrag „KI-Agenten im Unternehmen: Der Mensch bleibt im Autonomous Enterprise am Steuer“ ausführlicher eingeordnet.
Wie startest du jetzt sinnvoll mit SAP KI?
Du musst nicht auf den vollständigen Cloud-Umzug warten, um KI gewinnbringend einzusetzen. Entscheidend ist, mit dem richtigen Anwendungsfall zu beginnen.
Gemeinsam identifizieren wir die größten Pain Points in deinen bestehenden SAP-Prozessen, bewerten geeignete KI-Szenarien und entwickeln einen pragmatischen Einstieg, der zu deiner heutigen Systemlandschaft und deiner langfristigen SAP-Strategie passt.
Du möchtest wissen, welches KI-Szenario sich in deiner SAP-Landschaft kurzfristig umsetzen lässt? Vereinbare ein unverbindliches Gespräch, gemeinsam betrachten wir deine Ausgangssituation.


