Ich habe erklärt, wie ich LLM- und RAG-basierte Systeme von Grund auf konzipiere (System Design) und auf Cloud-Plattformen bzw. Hyperscalern skalierbar aufsetze. Dabei bin ich besonders darauf eingegangen, wie wichtig kontinuierliche Evaluationen (Evals) und ein lückenloses Monitoring (Observability) im produktiven Betrieb sind, um die Qualität von Machine-Learning-Modellen nachhaltig zu sichern.
