Generative KI¶
Recap der wichtigsten Themen des dritten Tages
Wiederholung der zentralen Konzepte von Reinforcement Learning
Q-Funktionen und ihre Rolle im Reinforcement Learning
Diskussion über Anwendungen von Reinforcement Learning
Offene Fragen und Klarstellungen
Hauptkapitel (Lernpfad)
Kapitel |
Inhalte |
|---|---|
Einführung in Generative KI |
Konzepte und Grundlagen |
Lernpfad (Roadmap) |
Text → Tokens → Prompting → Embeddings → semant. Ähnlichkeit → Suche → RAG → optional Interna |
LLM-Intuition |
Was ein Sprachmodell macht (Next-Token-Prediction) |
Tokenisierung |
Tokens, Tokenizer, Kontextlänge |
Prompt-Engineering |
Zero-Shot, Few-Shot, System-Prompt |
Embeddings |
Text als Vektor, Bedeutung im Raum |
Semantische Ähnlichkeit |
Vektorvergleich, Kosinusähnlichkeit, Brücke zur Suche |
Semantische Suche |
Retrieval mit Embeddings und Top-k |
RAG (Einführung) |
Retrieval-Augmented Generation, Konzept |
RAG-Praxis (Notebook) |
Lokaler RAG-Ablauf ohne externe LLM-API |
Grenzen und Risiken von LLMs |
Halluzinationen, Bias, Sicherheit, Regulierung |
Optionale Vertiefung (LLM-Interna)
Kapitel |
Inhalte |
|---|---|
Theorie hinter Generative KI |
Wahrscheinlichkeitsmodelle, Transformer, Optimierung (nach RAG/Kapitel) |
LLM-Interna (konzeptionell) |
Attention, Decoder-only, ausgewählte Code-Snippets (keine Vollimplementierung) |
microGPT-Walkthrough (optional) |
Minimales GPT im Stil Karpathy: Text→Tokens→Embeddings→Transformer→Next-Token (Schlüsselcode) |
Referenz (außerhalb des Haupt-Lernflusses)
Kapitel |
Inhalte |
|---|---|
LLM-Lingo (Glossar) |
Begriffserklärungen zum Nachschlagen |
Weitere Kapitel
Kapitel |
Inhalte |
|---|---|
Infrastruktur und Architektur |
Hardware, Software-Frameworks, Architekturüberblick |
Hands-on Beispiel |
Lokales LLM mit Feintuning auf domänspezifischen Daten |
Generative KI und Agents |
Definition von Agents, Integration von LLMs, Beispiele |
Diskussion |
Stärken und Schwächen der GenAI, Herausforderungen und Bottlenecks |
Regulatorik |
AI Act |
Ethische Fallbeispiele¶
Die folgenden Beispiele zeigen, warum Ethik und Regulierung (z. B. AI Act) in der Praxis wichtig sind – von frühen Chatbot-Vorfällen bis zu aktuellen Fällen von Bias und Diskriminierung.
Ältere Beispiele
Microsoft Tay (2016): Der erste Chatbot von Microsoft hatte kaum inhaltliche Grenzen und wurde binnen kurzer Zeit gezielt zu beleidigenden und rechtsextremen Aussagen manipuliert. Die einzige KPI war damals „wie viele Reaktionen man bekommt“ – radikale Thesen erzeugten die meisten Rückmeldungen. Siehe Tay (Bot) (Wikipedia).
Österreichisches Arbeitsamt (AMS): Ein algorithmisches System empfahl u. a., dass Frauen systematisch schlechter bezahlte Jobs akzeptieren sollten (vgl. z. B. futurezone.at).
Neuere Beispiele (u. a. 2018–2025)
Schweden – Försäkringskassan: Das schwedische Sozialversicherungsamt setzte einen KI-Algorithmus zur Betrugserkennung ein, der laut Recherchen u. a. Frauen, Migranten und Geringverdienende deutlich häufiger als andere verdächtigte. Mangelnde Transparenz und fehlende Kontrolle führten zu jahrelanger Diskriminierung (vgl. z. B. infosperber.ch).
Bias bei Kredit und Bewerbung: KI-Systeme in Kreditvergabe oder Bewerbungsvorauswahl können historische Diskriminierung (z. B. gegen Frauen) in den Trainingsdaten verstärken. Bekannt wurden u. a. Amazons Recruiting-Tool und Studien zu KI-Krediten, die Frauen benachteiligen – und damit die Notwendigkeit von fairen Daten, Transparenz und Regulierung unterstreichen.