Jeder nutzt KI.
Fast niemand versteht, wie sie wirklich funktioniert.
Die Leute werfen mit Begriffen wie Transformer, Embeddings, RAG, Agenten, RLHF um sich…
…als ob jeder sie bereits kennen würde.
Tun die meisten nicht.
Und ehrlich?
KI ist gar nicht so kompliziert, sobald man die mentalen Modelle dahinter versteht.
ChatGPT. Claude. Midjourney. Cursor. Coding-Agenten.
Sie alle ergeben Sinn, sobald man die folgenden 20 Konzepte verstanden hat.
Kein Doktortitel nötig. Kein Fachjargon. Nur einfache Erklärungen und visuelle Darstellungen.
Speichere dir das ab. Du wirst es wieder brauchen.
TEIL 1: WIE KI WIRKLICH FUNKTIONIERT (Das Fundament, auf dem alles aufbaut)
1. Neuronale Netze
Das Gehirn jedes KI-Modells.
Ein neuronales Netz ist eine Pipeline von Schichten.
→ Daten gelangen in die Eingabeschicht → Durchlaufen versteckte Schichten → Verlassen es als Vorhersage
Jede Verbindung hat ein "Gewicht" – einen winzigen Wert, der steuert, wie viel Einfluss ein Neuron auf das nächste hat.
Training = Milliarden dieser Gewichte anpassen, bis die Ausgabe korrekt ist.
Einfache Idee. In großem Maßstab verrückt.
GPT-4 hat ~1,8 Billionen Parameter. Claude 3 Opus hat Hunderte von Milliarden.
Alles basierend auf dem gleichen Grundkonzept: geschichtete Neuronen mit anpassbaren Verbindungen.
2. Tokenisierung
Bevor KI deinen Text liest, zerlegt sie ihn in Stücke, die Token genannt werden.
Nicht immer ganze Wörter.
"spielen" → "spiel" + "en" "ChatGPT" → "Chat" + "G" + "PT" "Hund" → "Hund" (bleibt ganz)
Warum nicht einfach ganze Wörter verwenden?
Sprache ist chaotisch. Neue Wörter. Tippfehler. Gemischte Sprachen. Ein festgelegter Wortschatz wäre unmöglich groß.
Token sind wiederverwendbare Bausteine.
Selbst wenn das Modell ein Wort noch nie gesehen hat, kann es es verstehen, indem es es in bekannte Teile zerlegt.
Faustregel: 1 Token ≈ 0,75 Wörter.
1000 Token ≈ 750 Wörter.
3. Embeddings
Sobald Text tokenisiert ist, wird jedes Token zu einer Zahl.
Diese Zahl ist ein Embedding – ein Vektor, der Bedeutung repräsentiert.
Stell es dir wie Google Maps für Wörter vor.
→ "Arzt" und "Krankenschwester" liegen nahe beieinander → "Arzt" und "Pizza" liegen weit auseinander → "König" minus "Mann" plus "Frau" ≈ "Königin"
Das Modell versteht Wörter nicht so wie du.
Es versteht Abstand und Richtung.
Das ist die Grundlage für: → Semantische Suche → Empfehlungen → RAG-Systeme
Alles, was "Absichten versteht", verwendet im Kern Embeddings.
4. Aufmerksamkeit (Attention)
Das Wort "Apfel" bedeutet verschiedene Dinge:
→ "Ich habe einen Apfel gegessen" → Frucht → "Ich habe Apple-Aktien gekauft" → Unternehmen
Embeddings allein können das nicht lösen.
Aufmerksamkeit kann es.
Aufmerksamkeit erlaubt es jedem Wort, jedes andere Wort in einem Satz anzusehen und zu entscheiden, was wichtig ist.
In "Sie kaufte Anteile an Apple": → "Apple" schenkt "Anteilen" und "kaufte" hohe Aufmerksamkeit → Modell schlussfolgert: Unternehmen, nicht Frucht
Vor der Aufmerksamkeit lasen Modelle von links nach rechts. Langsam. Begrenzt.
Nach der Aufmerksamkeit sehen Modelle den gesamten Satz auf einmal.
Diese eine Idee hat die moderne KI freigeschaltet.
5. Transformer
Die Architektur, die fast jedes heutige KI-Modell antreibt.
Eingeführt 2017 in einem Paper namens "Attention Is All You Need."
Der Durchbruch: Anstatt Text Wort für Wort zu lesen, wird alles parallel mithilfe von Aufmerksamkeit verarbeitet.
Wie es funktioniert: → Text → Token → Embeddings → Gestapelte Aufmerksamkeitsschichten → Ausgabe
Jede Schicht verfeinert das Verständnis: → Frühe Schichten: Grammatik, Grundstruktur → Mittlere Schichten: Wortbeziehungen → Tiefe Schichten: komplexes Denken
Das Ergebnis: massiv schnelleres Training und weitaus bessere Ausgaben.
GPT. Claude. Gemini. Llama. Mistral.
Alles Transformer.
Wenn du diese eine Architektur verstehst, verstehst du moderne KI.
TEIL 2: WIE LLMS FUNKTIONIEREN (Was passiert eigentlich, wenn du mit KI chattest)
6. LLMs (Large Language Models)
Ein LLM ist ein Transformer, der auf einer riesigen Menge an Text trainiert wurde.
Bücher. Webseiten. Code. Wikipedia. Reddit.
Billionen von Token.
Die Trainingsaufgabe klingt zu einfach, um mächtig zu sein:
→ Sage das nächste Token voraus.
Das ist alles.
Aber wenn man dies über Billionen von Beispielen wiederholt, passiert etwas Bemerkenswertes.
Das Modell lernt Grammatik. Dann logisches Denken. Dann, wie man Code schreibt, Sprachen übersetzt, Matheaufgaben löst.
Niemand hat ihm gesagt, dass es das tun soll.
Es entstand aus der Vorhersage des nächsten Tokens in großem Maßstab.
"Groß" = Hunderte von Milliarden Parametern. Trainingskosten = Millionen von Dollar.
ChatGPT, Claude, Gemini → alles LLMs.
7. Kontextfenster
Jedes KI-Modell hat eine Speichergrenze.
Sie wird Kontextfenster genannt.
Es ist die maximale Anzahl von Token, die das Modell auf einmal "sehen" kann – deine Nachricht + seine Antwort + Gesprächsverlauf.
Frühes GPT: ~4.000 Token. GPT-4: 128.000 Token. Claude 3.5: 200.000 Token. Gemini 1.5 Pro: 1.000.000 Token.
Größeres Fenster = mehr Kontext = bessere Antworten.
Aber es gibt einen Haken.
Modelle lesen nicht alles gleichmäßig.
Sie konzentrieren sich auf den Anfang und das Ende des Kontexts.
Die Mitte? Oft ignoriert.
Dies wird als das "Lost in the Middle"-Problem bezeichnet.
Großes Kontextfenster ≠ perfektes Gedächtnis.
Dies zu verstehen erklärt, warum KI manchmal etwas "vergisst", das du klar erwähnt hast.
8. Temperatur
Wenn KI Text generiert, wählt sie nicht jedes Mal einfach das wahrscheinlichste nächste Wort.
Sie hat einen Regler namens Temperatur.
→ Temperatur = 0: wählt immer das sicherste, vorhersagbarste Wort → Temperatur = 1: wählt kreativer, mehr Abwechslung → Temperatur = 2+: wird wild, manchmal inkohärent
Niedrige Temperatur → verwenden für: Code, Fakten, Zusammenfassungen Hohe Temperatur → verwenden für: Brainstorming, kreatives Schreiben, Variationen
Die meisten Tools stellen dies automatisch für dich ein.
Aber es zu verstehen erklärt, warum KI manchmal "langweilig" wirkt und dich manchmal überrascht.
9. Halluzination
KI lügt mit Selbstvertrauen.
Nicht absichtlich. Sie kann buchstäblich nicht anders.
Hier ist der Grund.
Ein LLM sucht nicht nach der Wahrheit.
Es sagt voraus, was das wahrscheinlichste nächste Token ist.
Wenn eine falsche Aussage wie etwas aussieht, das "als nächstes kommen sollte", basierend auf Trainingsmustern, generiert es sie.
Keine Überprüfung. Kein Nachschlagen. Reine Mustererkennung.
Also wird es: → Ein Forschungspapier zitieren, das es nicht gibt → Eine API-Funktion erfinden, die nie erstellt wurde → Eine erfundene historische "Tatsache" mit voller Überzeugung angeben
Dies wird Halluzination genannt.
Die Lösung: Vertraue niemals der KI-Ausgabe zu Fakten, ohne sie zu überprüfen.
Verwende RAG (Konzept 16), um sie in echten Daten zu verankern.
10. Prompt Engineering
Die Art und Weise, wie du fragst, ändert alles.
Gleiches Modell. Gleiche Frage. Völlig unterschiedliche Ergebnisse, je nachdem, wie du sie formulierst.
Schlechter Prompt: → "Erkläre APIs" → Ergebnis: vage, oberflächliche Antwort
Guter Prompt: → "Erkläre, wie REST-APIs die Authentifizierung handhaben. Gib ein echtes Beispiel mit Code. Nimm an, ich bin ein Junior-Entwickler." → Ergebnis: spezifisch, strukturiert, sofort nützlich
Prompt Engineering ist einfach klare Kommunikation.
Die Tricks, die tatsächlich funktionieren: → Kontext geben ("Ich baue ein SaaS für X") → Eine Rolle zuweisen ("Handle als Senior Backend Engineer") → Beispiele zeigen ("Hier ist ein Format, das ich mag: ___") → Sei spezifisch bezüglich der Ausgabe ("Gib mir 5 Optionen als nummerierte Liste") → Zerlege komplexe Anfragen in Schritte
Prompt Engineering ist kein Hack.
Es ist die Hauptart und Weise, wie du mit dem Modell kommunizierst.
TEIL 3: WIE KI-MODELLE VERBESSERT WERDEN (Wie rohe Modelle zu nützlichen Produkten werden)
11. Transferlernen
Training von Grund auf ist teuer.
Wahnsinnige Datenmengen. Massive Rechenleistung. Wochenlanges Training.
Transferlernen löst dies.
Du nimmst ein Modell, das bereits auf einer riesigen allgemeinen Aufgabe trainiert wurde, und passt es für etwas Spezifisches an.
Du startest nicht bei Null. Du baust darauf auf.
Stell es dir so vor:
→ Du kannst bereits Fahrrad fahren → Motorradfahren zu lernen ist dadurch viel schneller → Du überträgst, was du bereits weißt
So funktionieren fast alle KI-Produkte heute:
→ OpenAI trainiert massives Basismodell → Unternehmen feintunen es für ihren spezifischen Anwendungsfall → Spart Millionen an Rechenleistung und Monate an Training
Kein Unternehmen trainiert mehr von Grund auf.
12. Feintuning
Transferlernen erklärt dir das Konzept.
Feintuning ist, wie du es umsetzt.
Du nimmst ein vortrainiertes Modell und trainierst es auf einem kleineren, fokussierten Datensatz weiter.
Das Modell spricht bereits "Sprache."
Jetzt bringst du ihm deine spezifische Domäne bei.
Beispiele: → Medizinisches Modell, feingetunt auf klinischen Notizen → Juristisches Modell, feingetunt auf Verträgen → Codier-Modell, feingetunt auf GitHub
Das Ergebnis: ein Modell, das perfekt für deinen Anwendungsfall antwortet.
Die Kosten: Du musst Milliarden von Parametern aktualisieren.
Das erfordert ernsthafte Rechenleistung – mehrere GPUs, ernsthafte Infrastruktur.
(Deshalb ist LoRA, das nächste Konzept, so wichtig.)
13. RLHF (Verstärkungslernen durch menschliches Feedback)
Feintuning macht Modelle spezialisiert.
RLHF macht sie hilfreich und sicher.
Ohne RLHF: Das Modell sagt nur Text voraus. Fließend, aber nicht ausgerichtet.
Mit RLHF: Das Modell lernt, was Menschen tatsächlich bevorzugen.
So funktioniert es:
→ Zeige dem Modell einen Prompt → Modell generiert mehrere Antworten → Menschen bewerten die Antworten → Modell lernt, das zu bevorzugen, was Menschen bevorzugen
Wiederhole dies tausende Male.
Das Modell entwickelt ein Gespür für "gute Antwort": → Klar → Hilfreich → Ehrlich → Sicher
Deshalb fühlen sich ChatGPT und Claude wie Assistenten an – nicht wie zufällige Textgeneratoren.
Ohne RLHF wären sie immer noch beeindruckend. Aber weit weniger nützlich, weniger vertrauenswürdig und viel schwerer zu kontrollieren.
14. LoRA (Low-Rank Adaptation)
Feintuning ist mächtig, aber teuer.
Milliarden von Parametern zu aktualisieren erfordert mehrere GPUs und ernsthafte Infrastruktur.
LoRA löst dies.
Anstatt das gesamte Modell zu ändern, macht LoRA:
→ Behält das ursprüngliche Modell eingefroren → Fügt winzige trainierbare Schichten oben drauf → Diese Schichten sind ein Bruchteil der vollen Modellgröße
Die Erkenntnis: Die meisten Feintuning-Änderungen sind klein.
Du musst nicht das ganze Modell neu schreiben.
Du brauchst nur kleine, gezielte Anpassungen.
Ergebnisse: → Feintuning auf einer einzelnen Consumer-GPU: möglich → Ein Basismodell speichern + verschiedene LoRA-Adapter austauschen: praktikabel → Mehrere spezialisierte Modelle ohne massiven Speicherplatz: erledigt
LoRA ist der Grund, warum Open-Source-KI explodiert ist.
Plötzlich konnte jeder leistungsstarke Modelle auf einem Laptop feintunen.
15. Quantisierung
Modelle werden riesig.
Sie auszuführen erfordert ernsthaften Speicher und Rechenleistung.
Quantisierung macht sie kleiner und günstiger im Betrieb.
Wie: Reduziere die Genauigkeit jedes Gewichts.
Ein in voller Genauigkeit gespeichertes Gewicht verwendet 32 Bits.
Auf 4-Bit quantisiert → 8x kleiner.
Verrückte Sache: Der Qualitätsverlust ist oft überraschend gering.
Deshalb kannst du jetzt: → LLaMA auf einem MacBook ausführen → Mistral lokal auf einer Consumer-GPU ausführen → Leistungsstarke Modelle auf einem Telefon nutzen
Ohne Quantisierung wären große Modelle in Rechenzentren eingesperrt.
Mit Quantisierung laufen sie auf deinem Rechner.
TEIL 4: WIE ECHTE KI-SYSTEME GEBAUT WERDEN (Was hinter den Produkten steckt, die du tatsächlich nutzt)
16. RAG (Retrieval-Augmented Generation)
LLMs halluzinieren, weil sie aus dem Gedächtnis antworten.
RAG behebt dies, indem es ihnen erlaubt, zuerst nachzuschlagen.
So funktioniert es:
- Benutzer stellt eine Frage
- System durchsucht eine Wissensdatenbank nach relevanten Dokumenten
- Diese Dokumente werden dem Modell als Kontext übergeben
- Modell antwortet mit echten Informationen – nicht mit Vermutungen
Stell es dir vor wie:
→ Geschlossene-Buch-Prüfung (ohne RAG): Antworten aus dem Gedächtnis, oft falsch → Offene-Buch-Prüfung (mit RAG): Überprüft die Quelle, weitaus genauer
Warum es mächtig ist: → Kein erneutes Training, wenn sich deine Daten ändern – aktualisiere einfach die Dokumente → Modell arbeitet immer mit aktuellen, genauen Informationen → Reduziert Halluzinationen drastisch
Jedes ernsthafte KI-Produkt verwendet RAG.
Kundensupport-Bots. Juristische Tools. Medizinische Assistenten. Interne Wissensdatenbanken.
17. Vektordatenbanken
RAG muss die richtigen Dokumente schnell finden.
Aber wie durchsucht man Millionen von Dokumenten nach Bedeutung – nicht nur nach Schlüsselwörtern?
Vektordatenbanken.
So funktionieren sie:
- Jedes Dokument wird in ein Embedding (einen Zahlenvektor) umgewandelt
- Diese Vektoren werden in der Datenbank gespeichert
- Wenn ein Benutzer eine Frage stellt, wird auch die Frage zu einem Vektor
- Datenbank findet die Vektoren, die dem Fragevektor am nächsten sind
- Gibt die semantisch ähnlichsten Dokumente zurück
Warum dies besser ist als die Schlüsselwortsuche:
→ "Herzkrankheitsbehandlung" findet Dokumente über "kardiale Versorgungsprotokolle" → Auch wenn die genauen Wörter nicht übereinstimmen, tut es die Bedeutung
Tools: Pinecone, Qdrant, Weaviate, pgvector
Vektordatenbanken sind das, was KI-Systeme "verstehen" lässt – nicht nur Zeichenketten abgleichen.
18. KI-Agenten
Ein LLM antwortet auf Nachrichten.
Ein KI-Agent erledigt tatsächlich Dinge.
Der Unterschied:
→ LLM: du fragst, es antwortet, erledigt → Agent: du gibst ein Ziel, es plant, ergreift Maßnahmen, überprüft Ergebnisse, passt an, wiederholt
Die Agentenschleife:
Denken → Handeln → Beobachten → Wiederholen
Beispiel: Code-Agent, der einen Fehler behebt → Liest das Problem → Erkundet die Codebasis → Identifiziert das Problem → Schreibt eine Lösung → Führt Tests aus → Sieht, was fehlgeschlagen ist → Passt die Lösung an → Wiederholt, bis erledigt
Das Modell ist das Gehirn. Werkzeuge sind die Hände.
Welche Werkzeuge können Agenten verwenden? → Websuche → Codeausführung → Dateisystem → APIs → E-Mail / Kalender → Datenbanken
Agenten verwandeln KI von einem Chatbot in einen Mitarbeiter.
19. Gedankenkette (Chain of Thought, CoT)
Manchmal bekommt KI die falsche Antwort, nicht weil sie dumm ist.
Sondern weil sie zu schnell zur Antwort gesprungen ist.
Die Gedankenkette behebt dies.
Anstatt direkt nach der endgültigen Antwort zu fragen:
→ "Löse: Wenn ein Zug 2,5 Stunden lang mit 100 km/h fährt, wie weit kommt er?"
Du forderst es auf, Schritt für Schritt zu denken:
→ "Löse Schritt für Schritt: Geschwindigkeit = 100 km/h. Zeit = 2,5 Stunden. Strecke = Geschwindigkeit × Zeit = ?"
Das Modell geht die Argumentation durch: → Schritt 1: Identifiziere die Formel → Schritt 2: Setze Zahlen ein → Schritt 3: Berechne
Viel zuverlässiger für Mathe, Logik, mehrstufige Probleme.
Die Erkenntnis: Gib dem Modell Raum zum Denken, nicht nur zum Reagieren.
Deshalb funktionieren Aufforderungen wie "denke Schritt für Schritt" oder "überlege dies sorgfältig" tatsächlich.
20. Diffusionsmodelle
Bisher drehte sich alles um Text.
Diffusionsmodelle erklären, wie KI Bilder generiert.
Der Prozess ist kontraintuitiv.
Das Modell lernt nicht zu zeichnen.
Es lernt, Bilder zu zerstören.
Training: → Beginne mit einem echten Bild → Füge Schritt für Schritt Rauschen hinzu, bis es reines Rauschen ist → Trainiere das Modell, dies umzukehren – Schritt für Schritt Rauschen zu entfernen
Generierung: → Beginne mit reinem Rauschen → Modell entfernt Schritt für Schritt Rauschen → Geführt durch deinen Text-Prompt → Bild entsteht aus dem Zufall
Der Name kommt aus der Physik – Teilchen, die zufällig durch ein Medium diffundieren, wie Tinte, die sich in Wasser ausbreitet.
Hier lernt das Modell, diese Diffusion umzukehren.
Nicht mehr nur Bilder: → Video (Sora, Runway) → Audio → 3D-Inhalte → Arzneimittelmoleküle
Diffusionsmodelle sind die Art und Weise, wie KI alles Visuelle generiert.
Das waren alle 20.
Lass mich zusammenfassen:
Wie KI funktioniert:
→ 1. Neuronale Netze — geschichtetes Musterlernen
→ 2. Tokenisierung — Text in Stücke zerlegen
→ 3. Embeddings — Bedeutung als Zahlen
→ 4. Aufmerksamkeit — Kontext ändert die Bedeutung
→ 5. Transformer — die Architektur hinter allem
Wie LLMs funktionieren:
→ 6. LLMs — Vorhersage des nächsten Tokens in großem Maßstab
→ 7. Kontextfenster — Speichergrenzen und das Problem der Mitte
→ 8. Temperatur — der Kreativitätsregler
→ 9. Halluzination — selbstbewusst und falsch
→ 10. Prompt Engineering — wie du kommunizierst
Wie Modelle verbessert werden:
→ 11. Transferlernen — auf Vorhandenem aufbauen
→ 12. Feintuning — ein Modell spezialisieren
→ 13. RLHF — ihm beibringen, hilfreich zu sein
→ 14. LoRA — Feintuning ohne die Kosten
→ 15. Quantisierung — große Modelle auf kleinen Rechnern ausführen
Wie echte Systeme gebaut werden:
→ 16. RAG — zuerst nachschlagen, dann antworten
→ 17. Vektordatenbanken — nach Bedeutung suchen
→ 18. KI-Agenten — vom Antworten zum Handeln
→ 19. Gedankenkette — gib ihm Raum zum Denken
→ 20. Diffusionsmodelle — Rauschen zu Bild
Du verstehst jetzt, wie KI tatsächlich funktioniert.
Die meisten Menschen, die täglich KI nutzen, tun das nicht.
Diese Lücke ist dein Vorteil.
Wenn das nützlich war:
→ Teile es mit deinem Netzwerk → Folge @sairahul1 für weitere solche Erklärungen → Lesezeichen setzen zum Nachschlagen
Ich schreibe über KI, Produktentwicklung und Systeme, die funktionieren, während du schläfst.
