Fast alles, was heute im Betrieb unter „KI" läuft, ist generative KI. Trotzdem beginnen die meisten Projekte, ohne dass jemand die eine Frage beantwortet hat, aus der sich alles Weitere ergibt: Was macht dieses System eigentlich, wenn es antwortet?
Das ist keine akademische Frage. Aus der Antwort folgt unmittelbar, warum diese Systeme bei manchen Aufgaben verblüffend gut sind und bei anderen zuverlässig danebenliegen. Wer das einmal verstanden hat, wählt die richtigen Aufgaben aus und spart sich die Projekte, die nicht funktionieren können.
Der Unterschied zu allem, was du bisher kanntest
Klassische Software schlägt nach. Du gibst eine Kundennummer ein, das System sucht den Datensatz und gibt ihn zurück. Was zurückkommt, stand vorher schon so in der Datenbank. Bei derselben Eingabe kommt morgen dasselbe heraus.
Generative KI schlägt nicht nach. Sie erzeugt. Sie hat gelernt, wie Sprache aussieht, wie Sätze weitergehen, wie ein Angebot aufgebaut ist, wie eine Antwort auf eine Reklamation klingt. Und wenn du fragst, produziert sie Wort für Wort das, was auf das Bisherige am besten passt.
Etwas verkürzt, aber im Kern richtig: Das System sagt fortlaufend voraus, wie es weitergeht. Nicht aus einem Speicher, in dem Fakten liegen, sondern aus Mustern, die es in sehr vielen Texten gesehen hat.
Das ist der ganze Mechanismus. Alles Weitere in diesem Beitrag folgt daraus.
Fünf Dinge, die unmittelbar daraus folgen
Halluzinationen sind kein Fehler, sondern dieselbe Fähigkeit
Wenn ein Modell eine Rechtsnorm erfindet, die es nicht gibt, ist nichts kaputtgegangen. Es hat genau das getan, was es immer tut: eine Fortsetzung erzeugt, die stimmig aussieht. Dass sie zufällig auch wahr ist, ist bei bekannten Themen sehr wahrscheinlich und bei Nischenfragen eben nicht.
Deshalb lassen sich Halluzinationen nicht wegtrainieren, ohne die Fähigkeit selbst zu beschädigen. Man kann sie nur eindämmen, indem man dem Modell die richtige Information vorlegt, statt sie aus ihm herauszuholen. Genau das ist der Zweck von RAG.
Es weiß nicht, dass es etwas nicht weiß
Ein Mensch merkt, wenn er an eine Wissenslücke stößt. Ein generatives Modell hat diesen Mechanismus nicht. Für eine Frage, zu der es kaum Muster gelernt hat, erzeugt es trotzdem eine flüssige Antwort, und zwar im selben souveränen Ton wie bei allem anderen.
Der Tonfall ist kein Hinweis auf die Verlässlichkeit. Das ist die praktisch wichtigste Konsequenz überhaupt, weil unser Bauchgefühl genau umgekehrt geeicht ist: Was souverän klingt, halten wir für belastbar.
Es rechnet nicht, es ahmt Rechnen nach
Wenn ein Modell eine Summe bildet, führt es keine Rechenoperation aus. Es erzeugt die Zeichen, die nach dieser Rechnung am wahrscheinlichsten kommen. Bei kleinen, häufigen Rechnungen stimmt das Ergebnis fast immer, bei ungewöhnlichen Zahlen nicht mehr zuverlässig.
Deshalb gehören Berechnungen, Preisfindung und alles, was am Ende in der Buchhaltung landet, in ein Werkzeug, das rechnet, und nicht in ein Modell, das Rechnen imitiert. Moderne Systeme lösen das, indem sie einen Taschenrechner aufrufen statt selbst zu raten. Aber das muss jemand so gebaut haben.
Dieselbe Frage, zwei Antworten
Generative Modelle arbeiten mit Wahrscheinlichkeiten. Zweimal dieselbe Anfrage kann zu zwei verschiedenen Formulierungen führen, gelegentlich auch zu zwei verschiedenen Aussagen. Das ist gewollt, denn genau diese Beweglichkeit macht die Ergebnisse brauchbar.
Für einen Geschäftsprozess ist es aber ein Problem, wenn immer dasselbe herauskommen muss. Kein Prompt der Welt macht ein generatives Modell verlässlich gleichförmig. Wo Gleichförmigkeit Pflicht ist, gehört eine feste Regel hin. Wo die Grenze zwischen beidem verläuft, habe ich in Deterministische vs. KI-Automatisierung auseinandergenommen.
Es erinnert sich an nichts
Nach dem Gespräch ist alles weg. Was wie Erinnerung aussieht, ist der Gesprächsverlauf, den die Anwendung bei jeder Nachricht erneut mitschickt. Ein Modell, das gestern eure Preisliste gelesen hat, weiß heute nichts mehr davon.
Alles, was dauerhaft verfügbar sein soll, muss also außerhalb des Modells liegen und zur richtigen Zeit hineingereicht werden. Deshalb ist geordnetes Firmenwissen die eigentliche Arbeit und die Wahl des Modells die Nebensache.
Woran du eine passende Aufgabe erkennst
Aus den fünf Punkten ergibt sich eine brauchbare Faustregel. Generative KI ist stark, wenn drei Bedingungen zusammenkommen:
- Das Material liegt vor. Die Information, die gebraucht wird, steht im Auftrag oder in mitgegebenen Dokumenten, statt aus dem Gedächtnis des Modells kommen zu müssen.
- Es gibt nicht die eine richtige Antwort. Ein Entwurf, eine Zusammenfassung, eine Einordnung, eine Umformulierung. Etwas, das gut oder weniger gut sein kann, aber nicht wahr oder falsch.
- Ein Fehler ist erkennbar und billig. Jemand liest darüber, bevor es wirkt, oder das Ergebnis fällt sofort auf, wenn es daneben ist.
Trifft alles drei zu, ist der Einsatz meistens ein Selbstläufer: Angebotsentwürfe aus vorhandenen Bausteinen, Zusammenfassungen langer Dokumente, Einsortieren eingehender Anfragen, Extrahieren von Daten aus einer Rechnung, erste Antwortvorschläge im Kundendienst.
Fehlt eine der drei Bedingungen, wird es aufwendig, und du solltest genau hinschauen. Fehlen zwei, ist es sehr wahrscheinlich die falsche Technik. Eine Preisberechnung aus dem Gedächtnis des Modells, ohne Prüfung, direkt an den Kunden: Das ist kein anspruchsvolles KI-Projekt, das ist eine Aufgabe für eine Formel.
Was das für den Einstieg heißt
Der häufigste Fehler in den Projekten, die ich zu sehen bekomme, ist nicht schlechte Technik. Es ist eine Aufgabe, die von Anfang an nicht zu diesem Werkzeug gepasst hat. Das ist auch einer der Gründe, aus denen KI-Projekte scheitern: Nicht das Modell war zu schwach, sondern die Aufgabe zu ungeeignet.
Umgekehrt gilt: Die drei Bedingungen von oben treffen im Büroalltag eines mittelständischen Betriebs erstaunlich oft zu. Angebote, Berichte, Standardkorrespondenz, Eingangspost, Protokolle, Einarbeitung. Das ist selten das, wovon in den Schlagzeilen die Rede ist, aber es ist das, was jede Woche Stunden frisst.
Und es ist der Grund, warum die Vorarbeit so viel wichtiger ist als die Modellwahl. Ein Modell kann nur mit dem arbeiten, was du ihm hinlegst. Liegen eure Vorlagen an einem definierten Ort? Ist beschrieben, wie ein Vorgang abläuft? Gibt es Beispiele für „so machen wir das"? Wer diese Fragen beantworten kann, bekommt mit jedem beliebigen aktuellen Modell gute Ergebnisse. Wer sie nicht beantworten kann, bekommt mit keinem gute.
Fazit
Generative KI erzeugt, sie schlägt nicht nach. Daraus folgt alles: Sie erfindet, wenn sie nichts weiß. Sie klingt dabei genauso überzeugt wie sonst. Sie rechnet nicht wirklich, sie ist nicht gleichförmig, und sie erinnert sich an nichts.
Das klingt nach einer Mängelliste, ist aber nur eine Beschreibung. Wer dieses Werkzeug an den Aufgaben einsetzt, zu denen es passt, bekommt einen Mitarbeiter für den Papierkram, der nie müde wird. Wer es an den falschen einsetzt, bekommt selbstbewusst formulierten Unsinn.
Der Unterschied liegt nicht in der Technik, sondern in der Auswahl. Und die ist zum Glück eine Sache, die du beurteilen kannst, ohne zu verstehen, wie ein neuronales Netz funktioniert.
Wenn du wissen willst, welche Aufgaben bei euch die drei Bedingungen erfüllen, rechne den KI-Potenzial-Check in zwei Minuten durch oder sprich mit mir in einer KI-Beratung.