Zugegeben, wir stehen noch ganz am Anfang in der Evaluierung der Möglichkeiten generativer KI. Es zeichnet sich aber bereits heute ab, dass die Anforderungen an den produktiven Einsatz etliche neue Herausforderungen mit sich bringen wird, für die es entsprechende Patterns und Architekturansätze zu entwickeln gilt.

An einem praktischen Beispiel werden wir Schritt für Schritt einen LLM-basierten AI-Service aufbauen, mit dessen Hilfe die eigenen Wissensbasis gezielt abgefragt werden kann (Retrieval-Augmented Generation aka RAG). In jedem dieser Schritte werden wir ein wenig professioneller und begegnen dabei neuen Herausforderungen, die es zu lösen gilt. Am Ende steht ein „production ready“ AI-Service, der in die eigene Landschaft eingebunden werden kann.