101 lines
8.9 KiB
Markdown
101 lines
8.9 KiB
Markdown
---
|
||
title: >-
|
||
Prompt Engineering ist nicht tot, sondern ist jetzt Teil von Context
|
||
Engineering
|
||
date: 2025-11-14T00:00:00.000Z
|
||
tags:
|
||
- ki
|
||
- change
|
||
- ethics
|
||
- data
|
||
summary: ''
|
||
source: linkedin-article
|
||
visibility: primary
|
||
linkedin_url: >-
|
||
https://www.linkedin.com/pulse/prompt-engineering-ist-nicht-tot-sondern-jetzt-teil-von-andr%C3%A9-knie-j6qae
|
||
---
|
||
|
||
In den letzten 24 Monaten hat sich das Thema Prompting bei großen Sprachmodellen (LLMs) nicht nur weiterentwickelt, sondern erlebt einen echten Paradigmenwechsel. Während früher das perfekte Prompt-Skript im Fokus stand, geht es heute um das systemische Design von Kontext-Architekturen, die es Maschinen ermöglichen, über viele Schritte hinweg intelligent zu agieren.
|
||
|
||
Ich zeige Euch, warum dieser Wandel relevant ist, wie er wissenschaftlich belegt ist und welche Implikationen sich daraus für die Praxis ergeben.
|
||
|
||
## 1. Die Ausgangslage: Prompt Engineering war Handwerk
|
||
Frühere Ansätze konzentrierten sich auf das Formulieren von Instruktionen, auch Prompt Engineering genannt. Ein klassisches Beispiel ist das Verfahren Chain-of-Thought-Prompting (CoT), bei dem Modelle explizit aufgefordert werden, Zwischenschritte ihrer Argumentation auszugeben. Wie et al. (2022) zeigen, führten bereits wenige CoT-Demonstrationen bei großen Modellen (z. B. mit ca. 540 Mrd. Parametern) zu signifikanten Verbesserungen bei Mathematik- und Logikaufgaben.
|
||
|
||
In dieser Phase war die zentrale Frage: „Wie formulierst du den Prompt so, dass das Modell ‚richtig‘ reagiert?” Eingabe → Ausgabe.
|
||
|
||
## 2. Der Wandel: Context Engineering wird zur systemischen Disziplin.
|
||
Die aktuellste Forschung weist darauf hin, dass Prompt Engineering allein nicht mehr ausreicht. Stattdessen tritt die Disziplin des Context Engineering in den Vordergrund. Mei et al. (2025) definieren Context Engineering als die systemische Optimierung der kompletten Informationslast eines Modells zum Zeitpunkt der Inferenz: Retrieval, Memory, Tool-Integration, Multi-Turn-Workflows.
|
||
|
||
Der Unterschied besteht darin, dass nicht mehr nur die Frage „Was sage ich dem Modell?” im Mittelpunkt steht, sondern auch die Fragen „Welche Informationen, Auslöser, Werkzeuge und der historische Zustand sind verfügbar, damit das Modell erfolgreich denken und handeln kann?”
|
||
|
||
Anthropic fasst den Unterschied prägnant zusammen:
|
||
|
||
> “Prompt engineering focuses on wording the instruction itself. Context engineering is the system-level discipline of curating and maintaining the optimal set of tokens during inference.”
|
||
|
||
Andrej Karpathy beschreibt es 2025 so:
|
||
|
||
> “In every industrial-strength LLM app, context engineering is the delicate art of filling the context window with just the right information for the next step.”
|
||
|
||
Für Organisationen bedeutet dies, dass sich die Rollen verändern. Prompt-Designer werden zu Context-Architects und Teams benötigen neben Sprachkompetenz auch Daten- und Systemverständnis.
|
||
|
||
## 3. Was bedeutet das in der Praxis? Drei Muster, die Produktionssysteme prägen.
|
||
Erfolgreiche Anwendungen zeigen ein typisches Verhältnis: etwa 20 % statische System-Prompts und 80 % dynamischer Kontext (z. B. Prompts, RAG-Dokumente, Memory, Tools). Dieses Muster ermöglicht Skalierung und Flexibilität.
|
||
|
||
### 3.2 Retrieval-Augmented Generation (RAG) als Standardmuster
|
||
RAG-Pipelines ziehen vor der Generierung relevante Dokumente in den Kontext, wodurch die Modelle aktuelles und domänenspezifisches Wissen erhalten. Dadurch sinken die Halluzinationsraten und die Antwortqualität steigt.
|
||
|
||
### 3.3 Prompt Engineering ist nicht verschwunden, sondern eingebettet.
|
||
Prompt-Optimierung bleibt wichtig, ist aber nur noch ein Teil des Gesamtwerkes. Der Hebel liegt zunehmend in der Systemintegration und Kontextorchestrierung.
|
||
|
||
Für uns bedeutet das konkret: Wir müssen nicht nur die Frage „Wie schreibe ich den Prompt?“ stellen, sondern auch „Wie baue ich den Workflow, die Datenbasis, das Tool-Ökosystem und die Governance?“
|
||
|
||
## 4. Warum Prompting bei Reasoning-Modellen an Effektivität verliert
|
||
Ein zentraler wissenschaftlicher Befund ist, dass bei neuesten Reasoning-Modellen die Wirksamkeit klassischer Prompting-Techniken abnimmt. Studien zeigen beispielsweise, dass elaborierte CoT-Prompts bei hochentwickelten Modellen nicht nur keinen Mehrwert bringen, sondern in manchen Fällen sogar zu Leistungseinbußen führen.
|
||
|
||
Das heißt: Je leistungsfähiger das Modell ist, desto wichtiger wird der Kontext-Qualität-Hebel gegenüber der reinen Prompt-Formulierung.
|
||
|
||
Für Unternehmen bedeutet dies: Die Optimierung eines einzelnen Prompts reicht nicht mehr aus – es muss der gesamte Kontext-Stack betrachtet und gesteuert werden.
|
||
|
||
## 5. Strategischer Ausblick: Wie Organisationen den Wandel gestalten können
|
||
|
||
### Skill-Shift und Teamrollen
|
||
|
||
- Prompt Designer → Context Engineer
|
||
- Data & Knowledge Manager → Memory & Retrieval Specialist
|
||
- Produktmanager → Agentic Workflow Owner
|
||
|
||
### Technologischer Reifegrad-Leitfaden
|
||
|
||
- Prompt-only (Prototypphase)
|
||
- Prompt + RAG (Daten- und Kontextintegration)
|
||
- Hybrid + Fine-Tuning/Agentic Workflows (End-to-End, produktionsfähig)
|
||
|
||
### Governance- & New-Work-Aspekte
|
||
Das Context Engineering verknüpft technische Exzellenz mit organisatorischer Verantwortung und umfasst Datenethik, Transparenz und Multi-Stakeholder-Design. Diese Verbindung ist für mich extrem spannend und wird noch eine große Rolle spielen.
|
||
|
||
## 6. Fazit
|
||
Für KI-Anwendungen ist die Ära des reinen Promptings am Ende – die Zukunft gehört dem systemischen Design von Kontexten. Wer Inferenz-Kontexte orchestriert statt nur Instruktionen zu formulieren, gestaltet KI-Systeme mit Reife, Nachhaltigkeit und Wirkung.
|
||
|
||
> „Prompting skaliert nicht – Architektur schon.” Wenn du heute lernst, Kontexte zu gestalten, gestaltest du nicht nur bessere Modelle, sondern auch eine intelligentere Zusammenarbeit zwischen Mensch und Maschine.
|
||
|
||
Das bedeutet allerdings nicht, dass wir für unsere täglichen Prompts kein Handwerkszeug im Prompten mehr brauchen. Und wir müssen auch da regelmäßig am Ball bleiben, um effizient zu arbeiten.
|
||
|
||
## Quellen zum Weiterlesen
|
||
|
||
- Wei, J. et al. (2022). *Chain-of-Thought Prompting Elicits Reasoning in Large Language Models.* [https://arxiv.org/abs/2201.11903](https://arxiv.org/abs/2201.11903)
|
||
- Wang, X. et al. (2022). *Self-Consistency Improves Chain of Thought Reasoning in Language Models.* [https://arxiv.org/abs/2203.11171](https://arxiv.org/abs/2203.11171)
|
||
- Zhang, Z. et al. (2022). *Automatic Chain of Thought Prompting in Large Language Models.* [https://arxiv.org/abs/2210.03493](https://arxiv.org/abs/2210.03493)
|
||
- Zhou, D. et al. (2022). *Least-to-Most Prompting Enables Complex Reasoning in Large Language Models.* [https://arxiv.org/abs/2205.10625](https://arxiv.org/abs/2205.10625)
|
||
- Sahoo, P. et al. (2024). *A Systematic Survey of Prompt Engineering in Large Language Models: Techniques and Applications.* [https://arxiv.org/abs/2402.07927](https://arxiv.org/abs/2402.07927)
|
||
- Schulhoff, T. et al. (2024). *The Prompt Report – A Taxonomy of Prompt Engineering Techniques.* [https://arxiv.org/abs/2406.06608](https://arxiv.org/abs/2406.06608)
|
||
- Mei, L. et al. (2025). *A Survey of Context Engineering for Large Language Models.* [https://arxiv.org/pdf/2507.13334v1](https://arxiv.org/pdf/2507.13334v1)
|
||
- Yang, K. et al. (2025). *How Chain-of-Thought Works? Tracing Information Flow from Decoding, Projection, and Activation.* [https://arxiv.org/pdf/2507.20758](https://arxiv.org/pdf/2507.20758)
|
||
- Torkestani, J. et al. (2025). *Inclusive Prompt Engineering for Large Language Models: A Modular Framework for Ethical, Structured and Adaptive AI.* Springer. [https://link.springer.com/article/10.1007/s10462-025-11330-7](https://link.springer.com/article/10.1007/s10462-025-11330-7)
|
||
- Cuconasu, F. et al. (2024). *The Power of Noise: Redefining Retrieval for RAG Systems.* [https://arxiv.org/abs/2401.14887](https://arxiv.org/abs/2401.14887)
|
||
- IBM Research (2024). *Retrieval-Augmented Generation (RAG): Trends, Architectures, and Use Cases.* [https://www.ibm.com/think/topics/retrieval-augmented-generation](https://www.ibm.com/think/topics/retrieval-augmented-generation)
|
||
- SmartDev (2025). *Prompt Engineering vs. Fine-Tuning in Enterprise GenAI Use Cases.* [https://smartdev.com/prompt-engineering-vs-fine-tuning-gen-ai](https://smartdev.com/prompt-engineering-vs-fine-tuning-gen-ai)
|
||
- Anthropic (2025). *Effective Context Engineering for AI Agents – Engineering Blog.* [https://www.anthropic.com/engineering/effective-context-engineering-for-ai-agents](https://www.anthropic.com/engineering/effective-context-engineering-for-ai-agents)
|
||
- Karpathy, A. (2025). *On Context Windows and Information Density in LLM Applications.* [https://www.dbreunig.com/2025/06/25/prompts-vs-context.html](https://www.dbreunig.com/2025/06/25/prompts-vs-context.html)
|
||
- Mohanty, S. et al. (2025). *Adaptive Prompting: The Future of Multimodal AI Interaction.* [https://www.aiworldtoday.net/p/adaptive-prompting-the-future-of](https://www.aiworldtoday.net/p/adaptive-prompting-the-future-of)
|