#### Zielgruppe Das Seminar richtet sich an IT-Beschäftigte und technische Fachkräfte im Hochschulumfeld, die ein fundiertes Verständnis für Architektur, Betrieb und Implementierung von KI-Anwendungen aufbauen möchten. Es wendet sich an Teilnehmende mit bestehenden IT-Grundkenntnissen, die für die Konzeption, den Betrieb oder die Weiterentwicklung intelligenter Systeme verantwortlich sind. #### Lernziele Technische Fundierung: - Verständnis der technischen Funktionsweise von LLMs (Tokenisierung, Embeddings, Transformer-Architekturen) - Fähigkeit zur Unterscheidung und Bewertung verschiedener RAG-Architekturen (Naive RAG, Graph RAG, hybride Ansätze) - Kenntnisse zur fundierten Modellauswahl unter Berücksichtigung von Parametern, Quantisierung und Lizenzmodellen (Open Source vs. kommerziell) Betriebliche Umsetzung: - Kompetenz zur Einschätzung von Systemlast, Performance-Kennzahlen (TPS, TTFT) und Betriebskosten - Praktische Fähigkeiten zur Integration von KI über APIs (OpenAI-Standard, lokale APIs) - Know-how für den eigenständigen Betrieb von Modellen (Hosting-Modelle, Hardware-Bedarf, Performance-Tuning) Entwicklungspraxis: - Beherrschung des Entwicklungsprozesses für Chatbots einschließlich Datenaufbereitung, System-Prompting und Qualitätssicherung - Einblick in konkrete Betriebserfahrungen und Anwendungsszenarien im Hochschulkontext #### Themen Tag 1: Architektur & Hintergründe – Wie funktioniert KI technisch? - Grundlagen der KI-Technik: Transformer, Tokens, Embeddings - RAG-Methoden im Detail: Naive, Advanced und Graph RAG, hybride Suchverfahren - Modellauswahl & -bewertung: Quantisierungsstrategien, Parametergrößen, Open Source vs. kommerzielle Lösungen - Systemarchitektur: Lastabschätzung, Kostenanalyse, API-Key-Management und Performance-Metriken (TPS, TTFT) Tag 2: Anwendung, Betrieb & Entwicklung – KI praktisch umsetzen - KI als API & Integration: Anbindung über Standardschnittstellen und lokale APIs - LLM-Betrieb: Infrastrukturanforderungen, Hosting-Optionen, Hardware-Ressourcen und Performance-Optimierung - Chatbot-Engineering: Implementierungsprozess von der Datenaufbereitung über Prompt-Engineering bis zur QS - Praxisbezug: Erfahrungsberichte, konkrete Beispiele aus dem Hochschulumfeld und Diskussion von Implementierungsstrategien