Warum dein Custom GPT keine verlässliche Unternehmens-Software ist (und warum das genau richtig ist)

Letzte Woche schreibt mir ein KI-Berater. Er habe jetzt alles agentisch umgesetzt, sagt er. Schickt mir stolz einen Link zu seinem Custom GPT. «Schau mal, das kann alles, was deine Anwendung auch kann – nur dass ich es in einer Stunde gebaut habe, nicht in Monaten.»

Ich schaue mir das Ding an. Nett gemacht, ehrlich. Beantwortet Fragen, spuckt Texte aus, wirkt intelligent. Aber dann frage ich zurück: «Und wo ist die Benutzerverwaltung? Die Protokollierung? Die Anbindung an eure Systeme? Was passiert, wenn OpenAI morgen das Modell ändert?»

Schweigen.

Das ist einer der größten Irrtümer in der aktuellen Agenten-Debatte. Überall heißt es, SaaS-Anwendungen seien tot, Agenten würden alles übernehmen, wer einen Prompt schreiben könne, brauche keine Software mehr. Und in der Hitze dieser Diskussion wird etwas Entscheidendes übersehen: Die Agenda bestimmt nicht derjenige, der einen Agenten prompten kann. Die Agenda bestimmt das Unternehmen, das eine Lösung für einen Prozess sucht.

Und Prozesse sind kompliziert. Prozesse haben Compliance-Anforderungen. Prozesse brauchen Stabilität, Nachvollziehbarkeit, Integration. Dinge, die ein Custom GPT nicht liefert – und auch nicht liefern soll.

Versteh mich nicht falsch – ich bin fasziniert von dem, was generative KI kann. Aber ich bin auch lange genug in diesem Business, um zu wissen: Wenn etwas zu schön klingt, um wahr zu sein, dann ist es das meistens auch.

Der Agent-Hype und seine blinden Flecken

Was gerade passiert, erinnert mich fatal an die frühen Cloud-Jahre. Damals hieß es auch: «Jetzt brauchen wir keine eigene Infrastruktur mehr!» Heute kämpfen dieselben Unternehmen mit Schatten-IT, Sicherheitslücken und einem Wildwuchs an Tools, den niemand mehr überblickt.

Mit KI-Agenten läuft es auf dasselbe hinaus. Überall entstehen Custom GPTs, kleine Assistenten, interne Chatbots. Die Marketing-Abteilung baut ihren eigenen. Die HR auch. Controlling natürlich sowieso. Und alle denken: «Großartig, wir sind jetzt agil und innovativ!»

Nur dass niemand fragt: Wer kontrolliert das eigentlich? Wer dokumentiert, was diese Agenten tun? Wer haftet, wenn sie Mist bauen?

Agenten denken, Anwendungen funktionieren

Der Kern des Problems ist ein Kategorienfehler. Agenten und Anwendungen sind grundverschieden – aber viele behandeln sie, als wären sie austauschbar.

Ein Agent ist intelligent. Er interpretiert, entscheidet, improvisiert. Das macht ihn wertvoll für kreative Aufgaben, für Analysen, für alles, wo es um Flexibilität geht. Aber es macht ihn auch unberechenbar.

Eine Anwendung hingegen ist strukturiert. Sie tut, was sie soll. Immer. Reproduzierbar. Protokolliert. Mit klaren Rollen, Rechten und Schnittstellen. Langweilig? Vielleicht. Aber genau das braucht ein Unternehmen.

Ich sag’s mal so: Ein Agent ist wie ein brillanter Praktikant. Manchmal genial, manchmal daneben. Eine Anwendung ist wie ein erfahrener Controller. Nicht sexy, aber verlässlich.

Warum ein Custom GPT allein nicht reicht

Lass uns konkret werden. Ein Custom GPT kann fantastische Dinge tun. Er kann Texte schreiben, Daten analysieren, Ideen entwickeln. Aber er kann nicht:

• Benutzerrechte verwalten
• Protokolle für Audits liefern
• Transaktionen sicher ausführen
• Fehler deterministisch behandeln
• Mit deinen Kernsystemen richtig kommunizieren

Er ist ein Profil, kein Produkt. Er läuft auf einem Modell, das sich ständig ändert. Was heute funktioniert, kann morgen anders sein. Für einen Prototyp ist das okay. Für einen kritischen Geschäftsprozess ist es untragbar.

Ich habe mit Unternehmen gesprochen, die stolz ihren Custom GPT zeigen – und dann feststellen, dass er keine Anbindung an ihr ERP hat. Dass er keine Compliance-Anforderungen erfüllt. Dass er zwar clever antwortet, aber niemand weiß, ob die Antwort auch stimmt.

Das ist keine Kritik am Tool. Das ist eine Kritik an der Erwartungshaltung.

Die Illusion der rein agentischen Welt

Der nächste Schritt in diesem Hype ist noch absurder: die Vision, dass bald alles nur noch aus Agenten besteht. Autonome AI Workers, die miteinander kommunizieren, Aufgaben delegieren, selbstständig Probleme lösen.

Klingt nach Science-Fiction. Ist es auch.

Denn in der Realität bedeutet das:

• Jeder Agent braucht Überwachung
• Jede Schnittstelle braucht Governance
• Jede Entscheidung braucht Validierung
• Jeder Fehler braucht eine Rückfallebene

Je mehr Agenten du hast, desto komplexer wird das System. Und irgendwann brauchst du eine übergeordnete Steuerungsebene – die im Grunde wieder eine klassische Anwendung ist.

Ich nenne das den «Agenten-Governance-Paradox»: Du versuchst, klassische Software durch Agenten zu ersetzen – und endest damit, klassische Software zu bauen, um die Agenten zu kontrollieren.

Was Unternehmen wirklich brauchen

Die Antwort ist nicht «entweder oder», sondern «sowohl als auch».

Die besten Architekturen, die ich gesehen habe, kombinieren beides:

• Anwendungen liefern Struktur, Sicherheit, Compliance
• Agenten liefern Intelligenz, Flexibilität, Kreativität
• Prozesse verbinden beide auf klare, kontrollierte Weise

Ein Beispiel: Dein ERP-System bleibt das System of Record. Keine Diskussion. Aber ein Agent kann Rechnungen vorsortieren, Anomalien erkennen, Buchungsvorschläge machen. Ein Mensch prüft. Das System führt aus.

So entsteht Innovation, ohne dass du die Kontrolle verlierst.

Kommen wir zurück auf die Realität

Ich glaube fest daran, dass KI-Agenten Unternehmen transformieren werden. Aber nicht, indem sie Anwendungen ersetzen. Sondern indem sie sie ergänzen.

Der Custom-GPT-Hype erinnert mich an die frühen Jahre des Social-Media-Marketings. Alle stürzten sich darauf, weil es neu und sexy war. Aber die, die erfolgreich wurden, waren nicht die mit den meisten Posts – sondern die, die verstanden haben, wie Social Media in eine größere Strategie passt.

Genauso ist es jetzt mit Agenten. Die Unternehmen, die gewinnen werden, sind nicht die mit den meisten Custom GPTs. Sondern die, die verstehen, wo Agenten Sinn machen – und wo sie eben nicht die Lösung sind.

Und wenn ich dann wieder auf LinkedIn lese, dass «Agenten die neue Software sind», dann denke ich: Nein. Agenten sind eine Ergänzung zur Software. Und das ist völlig ausreichend – und völlig großartig.

Hauptsache, wir fallen nicht auf jeden Hype rein, nur weil gerade alle davon reden.