KI wird immer intelligenter. Aber versteht sie wirklich, was ich entwickle?
Über die Grenzen künstlicher Intelligenz, die Komplexität realer Softwareprojekte und die Zusammenarbeit zwischen menschlicher Erfahrung und GPT-6.
Eine Veröffentlichung, die mich zum Nachdenken brachte
Vor wenigen Tagen las ich einen Beitrag über das neue KI-Modell Claude Fable 5.2 von Anthropic. Der Autor beschrieb ein bemerkenswertes Gefühl: Er arbeite erstmals mit einer künstlichen Intelligenz, die seine Projekte beinahe so behandle, als wären es ihre eigenen.
Auch der Wharton-Professor Ethan Mollick beschäftigt sich mit dieser Entwicklung. In seinem Beitrag „Fable 5.2 and Jagged AGI“ diskutiert er, ob wir uns bereits einer bestimmten Form allgemeiner künstlicher Intelligenz nähern. Matt Shumer beschreibt ebenfalls einen deutlichen Qualitätssprung. Bei Artificial Analysis erreichte das Modell zum Zeitpunkt meiner Recherche sogar die Spitzenposition im Intelligence Index.
Ich finde diese Entwicklung beeindruckend. Gleichzeitig stellte ich mir beim Lesen eine Frage:
Versteht KI inzwischen wirklich komplexe Projekte in ihrer Gesamtheit? Oder verwechseln wir außergewöhnliche Fähigkeiten bei einzelnen Aufgaben mit einem zuverlässigen Verständnis des gesamten Systems?
Meine praktische Erfahrung lässt mich vorsichtig bleiben.
Meine tägliche Arbeit mit künstlicher Intelligenz
Ich bin Softwareentwickler und arbeite an unterschiedlichen Webplattformen, Geschäftsanwendungen und digitalen Produkten. Dabei nutze ich hauptsächlich ChatGPT mit GPT-6.
Meine Zusammenarbeit mit KI beschränkt sich längst nicht auf das Generieren einzelner Codezeilen. Ich nutze sie bei Architekturentscheidungen, Backend-Systemen, Datenbanken, Benutzeroberflächen, technischen Integrationen, Sicherheitskonzepten und Infrastrukturfragen.
Daneben verwende ich kostenlose Varianten von Claude und Gemini für gelegentliche Vergleiche und Experimente. Diese Erfahrungen sind jedoch kein umfassender Vergleich der leistungsfähigsten Modelle. Insbesondere habe ich Claude Fable 5.2 nicht unter den Bedingungen seiner frühen Tester untersucht.
Mir geht es deshalb nicht darum, einen Sieger zu küren. Ich möchte beschreiben, was passiert, wenn KI über längere Zeit an komplexen Softwareprojekten mitarbeitet.
Denn zwischen einer beeindruckenden Demonstration und einem zuverlässig funktionierenden Produkt liegt ein erheblicher Unterschied.
Die eigentliche Komplexität liegt nicht im Code
Eine meiner wichtigsten Beobachtungen ist, dass KI klar abgegrenzte technische Aufgaben häufig hervorragend löst.
Die Schwierigkeiten beginnen dort, wo eine Änderung nicht mehr isoliert betrachtet werden kann.
In einem realen Projekt beeinflusst eine scheinbar kleine Anpassung möglicherweise die Benutzeranmeldung, Zugriffsrechte, Datenbankstruktur, Schnittstellen oder andere Funktionen.
Ein Modell kann jeden einzelnen Bereich verstehen und trotzdem die Zusammenhänge falsch bewerten.
Es kann technisch korrekten Code erzeugen, der gegen eine bereits festgelegte Architekturentscheidung verstößt. Oder einen Fehler beheben und gleichzeitig unbemerkt einen neuen verursachen.
Genau deshalb bedeutet funktionierender Code für mich noch lange nicht, dass auch die technische Entscheidung richtig ist.
INRA - wenn eine Plattform aus vielen Systemen besteht
Ein Beispiel aus meiner Arbeit ist INRA, eine Plattform, in der WordPress, Next.js, Backend-Dienste, Mitgliedschaften, E-Commerce und digitale Lernangebote zusammenwirken.
Die besondere Herausforderung besteht nicht in der Anzahl der Technologien, sondern in den Geschäftsregeln, die sie verbinden.
Ein zahlendes Mitglied erhält bestimmte Zugriffsrechte. Der Kauf eines einzelnen Produkts berechtigt dagegen ausschließlich zum Zugriff auf die damit verbundene Ressource. Ein gebuchter Kurs wiederum schafft einen eigenen, unabhängigen Berechtigungsumfang.
KI könnte dafür eine elegante, vereinheitlichte Zugriffsarchitektur vorschlagen. Würde sie dabei jedoch diese Berechtigungen falsch zusammenführen, wäre das gesamte Konzept fehlerhaft, unabhängig davon, wie sauber der Code geschrieben ist.
Solche Fehler erkennt ein Compiler nicht unbedingt.
Hier entscheidet das Verständnis der tatsächlichen Geschäftslogik. Und genau diese Verantwortung übernehme ich weiterhin selbst.
WebDigiTech Observe - Sicherheit beginnt bei der Architektur
Ein weiteres Beispiel ist WebDigiTech Observe, ein von mir konzipiertes System zur Diagnose und Überwachung technischer Infrastruktur.
Die geplante Architektur umfasst unter anderem einen zentralen SaaS-Backend-Dienst, Schnittstellen, Telemetriedaten und modulare WordPress-Integrationen.
Bei der Konzeption habe ich eine grundlegende Entscheidung getroffen: Der WordPress-Konnektor soll zunächst ausschließlich die vorhandene Umgebung sicher untersuchen. Erst danach entscheidet der Administrator, welche kompatiblen Diagnosemodule aktiviert werden.
Eine KI könnte vorschlagen, möglichst viele Funktionen automatisch einzuschalten, um die Bedienung zu vereinfachen.
Das klingt zunächst sinnvoll, widerspricht aber meinem Sicherheitskonzept.
Dieses Beispiel zeigt, dass gute Softwarearchitektur nicht allein dadurch entsteht, was eine Anwendung kann. Genauso wichtig ist, was sie bewusst nicht tun darf.
Verstehen Sie noch jede wichtige Entscheidung in Ihrer Softwarearchitektur?
Mit jeder Erweiterung wachsen die Abhängigkeiten zwischen Funktionen, Daten und Geschäftsregeln. WebDigiTech unterstützt Sie dabei, bestehende Strukturen zu bewerten und technische Entscheidungen nachvollziehbar zu treffen – auch beim Einsatz von KI.
Wir melden uns zur Abstimmung des nächsten Schritts.
Secure Pass - manchmal ist weniger Technik die bessere Entscheidung
Bei Secure Pass, meinem Projekt zur Passwortgenerierung und lokalen sicheren Verwaltung von Zugangsdaten, habe ich eine andere Erfahrung gemacht.
Nach der Analyse von Architektur und Leistungsproblemen entschied ich mich, einen schwereren Ansatz mit React, Next.js und zahlreichen UI-Abhängigkeiten zugunsten eines schlanken statischen Astro-Builds mit JavaScript beziehungsweise TypeScript und Web Crypto aufzugeben.
Nicht weil React oder Next.js grundsätzlich schlechte Technologien wären. Für dieses konkrete Produkt rechtfertigten ihre Vorteile jedoch nicht die zusätzliche Komplexität.
KI neigt meiner Erfahrung nach gelegentlich dazu, Systeme weiter zu abstrahieren und zusätzliche Funktionen vorzuschlagen, obwohl eine einfachere Architektur die bessere Wahl wäre.
Gerade bei sicherheitsrelevanten Anwendungen kann unnötige Komplexität zusätzliche Fehlerquellen schaffen.
Ein großer Kontext ist noch kein Verständnis
Moderne KI-Modelle können enorme Informationsmengen verarbeiten. Doch ein großer Kontext allein garantiert keine zuverlässige Projektkontinuität.
Entscheidend ist, ob ein Modell unterscheiden kann, welche Informationen noch aktuell sind, welche Ideen bereits verworfen wurden und welche Entscheidungen verbindlich bleiben.
In meiner längeren Arbeit mit GPT-6 habe ich wiederholt erlebt, dass bereits geklärte Anforderungen erneut anders interpretiert wurden.
Manchmal taucht eine ausdrücklich abgelehnte Lösung wieder auf. Manchmal verändert das Modell funktionierende Logik, obwohl ausschließlich eine visuelle Anpassung verlangt wurde. In anderen Fällen ergänzt es ungefragt Funktionen oder trifft Annahmen über Dateien, die es nicht überprüft hat.
Besonders schwierig wird es, wenn solche Änderungen überzeugend begründet werden.
Eine plausible Erklärung ist schließlich kein Beweis für eine korrekte Lösung.
Wenn KI überzeugend klingt, aber falschliegt
Genau hier sehe ich eine wesentliche Grenze heutiger Systeme.
Ein Modell kann eine Architektur ausführlich verteidigen, obwohl sie den tatsächlichen Anforderungen widerspricht. Es kann eine vermutete Fehlerursache als Tatsache darstellen oder den Eindruck vermitteln, eine Änderung sei erfolgreich abgeschlossen, obwohl keine reale Prüfung stattgefunden hat.
Deshalb erwarte ich von guter KI nicht, dass sie auf jede Frage sofort eine selbstsichere Antwort liefert.
Ich erwarte, dass sie Unsicherheit erkennt, fehlende Informationen offenlegt, bestehende Architekturentscheidungen berücksichtigt und zwischen einer vorgeschlagenen und einer tatsächlich verifizierten Lösung unterscheidet.
In meiner Arbeit kontrolliere ich weiterhin den erzeugten Code, untersuche mögliche Regressionen und prüfe, ob die Umsetzung meinem ursprünglichen Ziel entspricht.
Das erfordert gelegentlich mehrere gemeinsame Iterationen.
Ich sehe darin allerdings keinen grundsätzlichen Misserfolg. Vielmehr zeigt sich hier die eigentliche Stärke der Zusammenarbeit: KI bringt Geschwindigkeit und technologische Breite ein. Ich bringe Produktkenntnis, Erfahrung, Prioritäten und Verantwortung ein.
Sind wir bereits auf dem Weg zur AGI?
Ethan Mollick beschreibt Claude Fable 5.2 im Zusammenhang mit dem Begriff „Jagged AGI“: einer bemerkenswert vielseitigen Intelligenz, deren Fähigkeiten gleichzeitig ungleichmäßig und teilweise schwer vorhersehbar bleiben.
In einem seiner Experimente entwickelten KI-Agenten immer umfangreichere Regeln und Verwaltungsabläufe, bis diese schließlich die eigene Arbeit behinderten.
Diese Beobachtung finde ich besonders interessant. Denn sie zeigt, dass beeindruckende technische Fähigkeiten nicht automatisch bedeuten, dass ein System seine Prioritäten langfristig richtig setzt.
Ob AGI tatsächlich unmittelbar bevorsteht, kann ich nicht beurteilen.
Für mich ist eine andere Frage entscheidender:
Kann KI über Wochen und Monate hinweg zuverlässig an einer komplexen Softwarearchitektur arbeiten, ohne deren grundlegende Ziele und Grenzen aus dem Blick zu verlieren?
Was ich von der nächsten KI-Generation erwarte
Ich wünsche mir nicht einfach nur Modelle, die noch schneller mehr Code schreiben.
Ich erwarte Systeme, die Architekturentscheidungen dauerhaft berücksichtigen, Widersprüche erkennen und den tatsächlichen Projektzustand überprüfen, bevor sie Änderungen vorschlagen.
Eine KI sollte wissen, wann eine Verbesserung sinnvoll ist und wann sie ein bewusst gewähltes Konzept respektieren muss.
Vor allem sollte ich nicht ständig erklären müssen, warum bestimmte Entscheidungen bereits getroffen wurden.
Für mich besteht der größte zukünftige Fortschritt deshalb nicht allein in steigender Intelligenz, sondern in zuverlässigerer Zusammenarbeit.
Mein Fazit: Intelligenz allein reicht nicht aus
Ich bin überzeugt, dass künstliche Intelligenz künftig wesentlich eigenständiger an komplexen Projekten arbeiten wird.
Die heutigen Fortschritte geben mir genügend Anlass, diese Entwicklung mit großer Aufmerksamkeit und Optimismus zu verfolgen.
Dennoch bewerte ich technische Ergebnisse nicht danach, wie beeindruckend sie beschrieben werden, sondern danach, ob sie funktionieren, die Anforderungen erfüllen und bestehende Systeme nicht beschädigen.
In meiner Zusammenarbeit mit GPT-6 erlebe ich bemerkenswerte Fähigkeiten, aber ebenso Fehler, die eine sorgfältige menschliche Prüfung notwendig machen.
Beides gehört zur gegenwärtigen Realität.
Für mich liegt die Zukunft nicht darin, dass Menschen auf eigenes Denken und Kontrolle verzichten. Sie liegt darin, dass KI zuverlässig genug wird, um schrittweise mehr Verantwortung übernehmen zu können.
Bis dahin bleibt sie für mich ein wertvoller technologischer Partner, kein Ersatz für meine eigene Ingenieurentscheidung.
Denn wirklicher Fortschritt bedeutet nicht nur, dass künstliche Intelligenz immer mehr erschaffen kann.
Er beginnt dort, wo sie dauerhaft versteht, was ich entwickle, warum ich es entwickle und was sie auf diesem Weg nicht zerstören darf.