In der heutigen Zeit modularer Services wird die Integration von modernen Technologien immer wichtiger. Die rasante Entwicklung von Large Language Models (LLMs) bietet Unternehmen neue Möglichkeiten, ihre Geschäftsprozesse zu optimieren und zu automatisieren. Diese Technologien ermöglichen es, große Datenmengen effizient zu verarbeiten und wertvolle Erkenntnisse zu gewinnen. 
Als mittelständisches Beratungshaus ist es für uns von entscheidender Bedeutung, stets am Puls der Zeit zu bleiben und innovative Lösungen zu entwickeln, die unseren Kunden einen echten Mehrwert bieten. 
Die Integration von LLMs in SAP- als auch Non-SAP-Systemlandschaften eröffnet neue Perspektiven und kann dazu beitragen, die Effizienz und Produktivität unserer Kunden erheblich zu steigern. Ein konkreter Use Case von uns ist die automatisierte Bewertung von IT Tickets und die Erstellung einer Lösungsdatenbank.

Ziel der Arbeit ist die Installation und Bereitstellung eines lokalen virtuellen Linux-Servers für ein modernes LLM (z. B. Llama 3.1), das Feintuning des LLM mit unternehmenseigenen Daten aus einem Office 365 Tenant sowie die nahtlose Bereitstellung des LLM über eine intuitive GUI (z. B. Power Apps, Teams App, SharePoint Online Integration, usw.). Darüber hinaus sollen Use Cases für eine Integration in SAP-Systemlandschaften aufgezeigt werden.