In den letzten 24 Monaten hat sich das Thema Prompting bei großen Sprachmodellen (LLMs) nicht nur weiterentwickelt, sondern erlebt einen echten Paradigmenwechsel. Während früher das perfekte Prompt-Skript im Fokus stand, geht es heute um das systemische Design von Kontext-Architekturen, die es Maschinen ermöglichen, über viele Schritte hinweg intelligent zu agieren.
Ich zeige Euch, warum dieser Wandel relevant ist, wie er wissenschaftlich belegt ist und welche Implikationen sich daraus für die Praxis ergeben.
1. Die Ausgangslage: Prompt Engineering war Handwerk
Frühere Ansätze konzentrierten sich auf das Formulieren von Instruktionen, auch Prompt Engineering genannt. Ein klassisches Beispiel ist das Verfahren Chain-of-Thought-Prompting (CoT), bei dem Modelle explizit aufgefordert werden, Zwischenschritte ihrer Argumentation auszugeben. Wie et al. (2022) zeigen, führten bereits wenige CoT-Demonstrationen bei großen Modellen (z. B. mit ca. 540 Mrd. Parametern) zu signifikanten Verbesserungen bei Mathematik- und Logikaufgaben.
In dieser Phase war die zentrale Frage: „Wie formulierst du den Prompt so, dass das Modell ‚richtig‘ reagiert?” Eingabe → Ausgabe.
2. Der Wandel: Context Engineering wird zur systemischen Disziplin.
Die aktuellste Forschung weist darauf hin, dass Prompt Engineering allein nicht mehr ausreicht. Stattdessen tritt die Disziplin des Context Engineering in den Vordergrund. Mei et al. (2025) definieren Context Engineering als die systemische Optimierung der kompletten Informationslast eines Modells zum Zeitpunkt der Inferenz: Retrieval, Memory, Tool-Integration, Multi-Turn-Workflows.
Der Unterschied besteht darin, dass nicht mehr nur die Frage „Was sage ich dem Modell?” im Mittelpunkt steht, sondern auch die Fragen „Welche Informationen, Auslöser, Werkzeuge und der historische Zustand sind verfügbar, damit das Modell erfolgreich denken und handeln kann?”
Anthropic fasst den Unterschied prägnant zusammen:
“Prompt engineering focuses on wording the instruction itself. Context engineering is the system-level discipline of curating and maintaining the optimal set of tokens during inference.”
Andrej Karpathy beschreibt es 2025 so:
“In every industrial-strength LLM app, context engineering is the delicate art of filling the context window with just the right information for the next step.”
Für Organisationen bedeutet dies, dass sich die Rollen verändern. Prompt-Designer werden zu Context-Architects und Teams benötigen neben Sprachkompetenz auch Daten- und Systemverständnis.
3. Was bedeutet das in der Praxis? Drei Muster, die Produktionssysteme prägen.
3.1 80/20-Muster: Architektur schlägt Wortmagie
Erfolgreiche Anwendungen zeigen ein typisches Verhältnis: etwa 20 % statische System-Prompts und 80 % dynamischer Kontext (z. B. Prompts, RAG-Dokumente, Memory, Tools). Dieses Muster ermöglicht Skalierung und Flexibilität.
3.2 Retrieval-Augmented Generation (RAG) als Standardmuster
RAG-Pipelines ziehen vor der Generierung relevante Dokumente in den Kontext, wodurch die Modelle aktuelles und domänenspezifisches Wissen erhalten. Dadurch sinken die Halluzinationsraten und die Antwortqualität steigt.
3.3 Prompt Engineering ist nicht verschwunden, sondern eingebettet.
Prompt-Optimierung bleibt wichtig, ist aber nur noch ein Teil des Gesamtwerkes. Der Hebel liegt zunehmend in der Systemintegration und Kontextorchestrierung.
Für uns bedeutet das konkret: Wir müssen nicht nur die Frage „Wie schreibe ich den Prompt?“ stellen, sondern auch „Wie baue ich den Workflow, die Datenbasis, das Tool-Ökosystem und die Governance?“
4. Warum Prompting bei Reasoning-Modellen an Effektivität verliert
Ein zentraler wissenschaftlicher Befund ist, dass bei neuesten Reasoning-Modellen die Wirksamkeit klassischer Prompting-Techniken abnimmt. Studien zeigen beispielsweise, dass elaborierte CoT-Prompts bei hochentwickelten Modellen nicht nur keinen Mehrwert bringen, sondern in manchen Fällen sogar zu Leistungseinbußen führen.
Das heißt: Je leistungsfähiger das Modell ist, desto wichtiger wird der Kontext-Qualität-Hebel gegenüber der reinen Prompt-Formulierung.
Für Unternehmen bedeutet dies: Die Optimierung eines einzelnen Prompts reicht nicht mehr aus – es muss der gesamte Kontext-Stack betrachtet und gesteuert werden.
5. Strategischer Ausblick: Wie Organisationen den Wandel gestalten können
Skill-Shift und Teamrollen
Prompt Designer → Context Engineer
Data & Knowledge Manager → Memory & Retrieval Specialist
Produktmanager → Agentic Workflow Owner
Technologischer Reifegrad-Leitfaden
Prompt-only (Prototypphase)
Prompt + RAG (Daten- und Kontextintegration)
Hybrid + Fine-Tuning/Agentic Workflows (End-to-End, produktionsfähig)
Governance- & New-Work-Aspekte
Das Context Engineering verknüpft technische Exzellenz mit organisatorischer Verantwortung und umfasst Datenethik, Transparenz und Multi-Stakeholder-Design. Diese Verbindung ist für mich extrem spannend und wird noch eine große Rolle spielen.
6. Fazit
Für KI-Anwendungen ist die Ära des reinen Promptings am Ende – die Zukunft gehört dem systemischen Design von Kontexten. Wer Inferenz-Kontexte orchestriert statt nur Instruktionen zu formulieren, gestaltet KI-Systeme mit Reife, Nachhaltigkeit und Wirkung.
„Prompting skaliert nicht – Architektur schon.” Wenn du heute lernst, Kontexte zu gestalten, gestaltest du nicht nur bessere Modelle, sondern auch eine intelligentere Zusammenarbeit zwischen Mensch und Maschine.
Das bedeutet allerdings nicht, dass wir für unsere täglichen Prompts kein Handwerkszeug im Prompten mehr brauchen. Und wir müssen auch da regelmäßig am Ball bleiben, um effizient zu arbeiten.
Quellen zum Weiterlesen
Wei, J. et al. (2022). Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. https://arxiv.org/abs/2201.11903
Wang, X. et al. (2022). Self-Consistency Improves Chain of Thought Reasoning in Language Models. https://arxiv.org/abs/2203.11171
Zhang, Z. et al. (2022). Automatic Chain of Thought Prompting in Large Language Models. https://arxiv.org/abs/2210.03493
Zhou, D. et al. (2022). Least-to-Most Prompting Enables Complex Reasoning in Large Language Models. https://arxiv.org/abs/2205.10625
Sahoo, P. et al. (2024). A Systematic Survey of Prompt Engineering in Large Language Models: Techniques and Applications. https://arxiv.org/abs/2402.07927
Schulhoff, T. et al. (2024). The Prompt Report – A Taxonomy of Prompt Engineering Techniques. https://arxiv.org/abs/2406.06608
Mei, L. et al. (2025). A Survey of Context Engineering for Large Language Models. https://arxiv.org/pdf/2507.13334v1
Yang, K. et al. (2025). How Chain-of-Thought Works? Tracing Information Flow from Decoding, Projection, and Activation. https://arxiv.org/pdf/2507.20758
Torkestani, J. et al. (2025). Inclusive Prompt Engineering for Large Language Models: A Modular Framework for Ethical, Structured and Adaptive AI. Springer. https://link.springer.com/article/10.1007/s10462-025-11330-7
Cuconasu, F. et al. (2024). The Power of Noise: Redefining Retrieval for RAG Systems. https://arxiv.org/abs/2401.14887
IBM Research (2024). Retrieval-Augmented Generation (RAG): Trends, Architectures, and Use Cases. https://www.ibm.com/think/topics/retrieval-augmented-generation
SmartDev (2025). Prompt Engineering vs. Fine-Tuning in Enterprise GenAI Use Cases. https://smartdev.com/prompt-engineering-vs-fine-tuning-gen-ai
Anthropic (2025). Effective Context Engineering for AI Agents – Engineering Blog. https://www.anthropic.com/engineering/effective-context-engineering-for-ai-agents
Karpathy, A. (2025). On Context Windows and Information Density in LLM Applications. https://www.dbreunig.com/2025/06/25/prompts-vs-context.html
Mohanty, S. et al. (2025). Adaptive Prompting: The Future of Multimodal AI Interaction. https://www.aiworldtoday.net/p/adaptive-prompting-the-future-of