Orchestrator/privat/CV/andreknie.de/content/posts/2025-08-01-von-angst-vor-superintelligenz-zu-solidem-faktencheck.md

title, date, tags, summary, source, visibility, linkedin_url

title	date	tags	summary	source	visibility	linkedin_url
Von Angst vor „Superintelligenz“ zu solidem Faktencheck	2025-08-01T00:00:00.000Z	ki automation data		linkedin-article	primary	https://www.linkedin.com/pulse/von-angst-vor-superintelligenz-zu-solidem-faktencheck-andr%C3%A9-knie-jeoje

Ein kleiner Leitfaden für alle, die KI-Schlagzeilen verstehen wollen (plus ein kleiner deep dive in einen aktuellen Beitrag)

Warum dieser Beitrag?

Ich bin diese Woche mehrfach auf das Liu Paper mit dem reißerischen Titel: "*AlphaGo Moment for Model Architecture Discovery" *angesprochen worden und dass darin "die Super-KI bewiesen wurde". Jedes neue KI-Paper klingt nach Weltrevolution. Doch wer einmal unter die Motorhaube schaut, merkt schnell: Zwischen Schlagwort und Substanz liegen oft Welten. Dieser Beitrag zeigt – mit wenig Fachchinesisch –

• weshalb gründliche Literaturrecherche wichtig ist,
• warum auch große KI-Experimente Mensch-typische Grenzen haben,
• dass wir vor einer „Superintelligenz“ nicht den Kopf in den Sand stecken müssen.
• nur weil ein Paper bei arxiv.org vorgestellt wird, ist es noch kein echter peer-review Beitrag.
• nur weil viele Mainstream-Medien ein Paper zitieren, muss kein Teil des Papers auch wirklich wahr sein.

Was macht das vielzitierte ASI-ARCH-Projekt eigentlich?

• Ein Evolutionärer Suchalgorithmus erzeugt Tausende kleinerer Modellvarianten.
• Eine Fitness-Funktion wählt die „Gewinner“ aus.
• Das Team meldet 106 neue Netzarchitekturen und nennt das einen Schritt Richtung „künstlicher Superintelligenz“.

Klingt beeindruckend, hat aber Haken: Jahrzehnte alte Forschungsarbeiten beschreiben, dass ähnliche Ansätze (evolutionäre Methoden) oft vorzeitig steckenbleiben (Fachwort premature convergence). Moderne Alternativen wie gradientenbasierte Suche oder Bayesian Optimization liefern heute meist schneller bessere Ergebnisse – mit deutlich weniger Rechenaufwand.

Mitnahmen für neugierige Leserinnen und Leser

• Keine Panik vor der Superintelligenz Aktuelle Systeme sind hochspezialisierte Statistik-Profis – keine allwissenden Wesen. Sie brauchen gewaltige Datenmengen, teure Hardware und viel Feinjustierung.

• Literaturrecherche schützt vor Fehleinschätzungen Viele vermeintliche „erste Male“ gab es schon in den 1990ern in kleinerem Maßstab. Wer Papers liest, merkt schnell, welche Konzepte altbewährt sind – und wo wirklich Neues entsteht.

• **Peer-Review passiert erst nach **arxiv.org Jeder kann auf arxiv.org etwas hochladen und kühne Behauptungen aufstellen. Je kühner die Behauptung desto eher wird es natürlich von der Internetgemeinde aufgenommen.

• Wissenschaft lebt von der Korrektur von Fehlern Auch ich hatte schon Paper in denen falsche Dinge standen, die später korrigiert wurden. Deshalb

• Vielfalt statt Einheitsmethode Die spannendsten Ergebnisse entstehen heute, wenn Forscher Methoden mischen: evolutionäre und gradientenbasierte Tricks, klassische Statistik und Deep-Learning-Ideen. Das zeigt, wie wertvoll interdisziplinäre Ansätze sind.

• AI / KI Artificial Intelligence / Künstliche Intelligenz 🔎 Wikipedia: „Künstliche Intelligenz“

• NAS Neural Architecture Search – automatisierte Suche nach Netzwerkarchitekturen 🔎 Wikipedia: „Neural architecture search“

• ES Evolution Strategy – evolutionärer Optimierer 🔎 Wikipedia: „Evolution strategy“

• DARTS Differentiable Architecture Search – gradientenbasierte NAS-Variante 🔎 Wikipedia: „Differentiable architecture search“

• MoE Mixture of Experts – Modell mit spezialisierten Teilnetzen (Experten) 🔎 Wikipedia: „Mixture of experts“

• GPU-Tag 24 Stunden Rechenzeit auf einer Hochleistungs-Grafikkarte 🔎 Wikipedia: „Graphics processing unit“

(Einfach den Begriff in Wikipedia eingeben)

Lust auf mehr?

Wer tiefer einsteigen möchte, findet in seriösen Fachjournalen oder Konferenzbänden (ICLR, NeurIPS, ICML) zuverlässige Infos – oft frei zugänglich über arXiv. Dort sieht man schnell, wie Autoren auf frühere Forschung aufbauen (oder eben nicht).

Und keine Sorge: Man muss kein*e Data Scientist sein, um mitzureden. Ein gesunder Skeptizismus, ein Blick in die Quellenliste und der Mut, Fragen zu stellen, reichen völlig aus.

Merksatz Große Behauptungen in der KI verdienen kleine, neugierige Fragen – dann trennt sich Innovation von Marketing.

Ab hier wird es ein wenig technisch, aber ich möchte mich mit einer Facette des Artikels mehr Beschäftigten:

Eine Grafik zeigt das Problem, das ich mit dem Artikel hatte:

Eine Radargrafik vergleicht fünf gängige NAS Methoden in Sachen Recheneffizienz, Suchqualität, Robustheit, Explorationsfähigkeit und Umsetzungsaufwand Ein schneller Blick genügt, um zu sehen, warum Evolution alleine heute selten die beste Wahl ist. Evolutionäre Ansätze zeigen hohe Explorationsfähigkeit aber geringe Effizienz, während DARTS-basierte Methoden effizient aber anfällig für Performance Collapse sind

Bleibt neugierig – und hinterfragt die nächste „Superintelligenz“-Schlagzeile mit einem einfachen Werkzeug: Literatur zuerst, Buzzwords später.

Wichtige Quellen & Konzepte rund um NAS und AutoML

Jede liefert frei zugängliches PDF-Material (einfach Titel bei Google Scholar oder arXiv eingeben):

• Liu et al. (2025) “AlphaGo Moment for Model Architecture Discovery” 👉 Startpunkt der Diskussion um „Superintelligenz“
• Yu et al. (2020) “Evaluating the Search Phase of NAS” 👉 Fundamentale Kritik: SOTA-NAS oft nicht besser als Zufall
• Pourchot et al. (2020) “To Share or Not To Share” 👉 Zeigt, wie Weight Sharing Rankings verzerren kann
• Rechenberg (1973) “Evolutionsstrategie” 👉 Historische Grundlage der Evolution Strategy – erklärt vorzeitige Konvergenz
• Vafaee et al. (2014) “Balancing Exploration and Exploitation” 👉 Diversitätsmechanismen gegen Premature Convergence
• Liu et al. (2019) “DARTS: Differentiable Architecture Search” 👉 Effiziente, gradientenbasierte NAS-Alternative
• Niu et al. (2022) “Λ-DARTS” 👉 Gegenmaßnahmen gegen Instabilität in DARTS
• Ru et al. (2021) “BANANAS” 👉 Dateneffiziente NAS via Bayesian Optimization
• Cai et al. (2024) “EG-NAS” 👉 Hybrid-Modell: kombiniert Evolution & Gradientenverfahren
• Musslick et al. (2024) PNAS: “Automating the Practice of Science” 👉 Warum Automatisierung in der Wissenschaft limitiert bleibt
• Messeri & Crockett (2024) Nature: “Doing more, but learning less” 👉 Warnung vor epistemischen Risiken durch Automatisierung
• Han et al. (2024) “Breaking the Low-Rank Dilemma” 👉 Theoretische Grenzen linearer Attention-Mechanismen
• Zhou et al. (2025) “SPOT Benchmark” 👉 LLMs erkennen <7 % der realen Review-Fehler in Papers

Diese Liste reicht für ein kurzes Fact-Checking und verdeutlicht, warum Literaturrecherche unerlässlich ist, bevor man große KI-Claims teilt.