KI im Content-Workflow: Was KI gut kann und wo redaktionelles Urteil entscheidend bleibt

Ein KI-Text kann sprachlich überzeugend und trotzdem nicht veröffentlichungsreif sein. Vielleicht trägt eine Quelle die Behauptung nur teilweise oder der Text verspricht mehr, als ein Unternehmen leisten kann.

Entscheidend ist deshalb nicht, ob KI „gut schreiben“ kann. Wichtig ist, welche Aufgaben sie übernimmt und nach welchen Kriterien ihre Ergebnisse geprüft werden.

KI kann Vorschläge erzeugen, Muster sichtbar machen und definierte Arbeitsschritte beschleunigen. Ob ein Ergebnis fachlich trägt und veröffentlicht werden kann, bleibt eine redaktionelle Entscheidung.

Bevor Aufgaben und Rollen sinnvoll verteilt werden können, muss jedoch eine grundlegende Frage beantwortet werden: Darf das vorgesehene Material überhaupt mit einer KI verarbeitet werden?

Grenzen der Nutzung von KI

Vor der ersten Eingabe muss geklärt sein, ob das verwendete System, der konkrete Anwendungsfall und das vorgesehene Material für die KI-Nutzung freigegeben sind.

Das betrifft nicht nur personenbezogene Daten. Auch Geschäftsgeheimnisse, Zugangsdaten, Vertragsinhalte und vertrauliche Informationen über Kunden, Beschäftigte oder das eigene Unternehmen gehören nicht in ein KI-System, dessen Nutzung dafür nicht ausdrücklich genehmigt wurde.

Namen zu entfernen reicht nicht immer aus

Informationen sind nicht automatisch anonym, sobald Namen und Kontaktdaten entfernt wurden. Auch Funktionen, Orte, Zeitpunkte oder besondere Einzelfälle können Rückschlüsse auf eine Person ermöglichen. Für nicht ausdrücklich genehmigte KI-Anfragen sollten ausschließlich Informationen verwendet werden, bei denen ein Personenbezug sicher ausgeschlossen ist.

Auch das verwendete System muss geprüft werden

Neben dem Inhalt der Eingabe ist entscheidend, was danach mit den Daten geschieht:

• Werden Eingaben gespeichert?
• Können sie für weitere Zwecke oder zum Training verwendet werden?
• Werden Daten an Dienstleister oder in Drittländer übermittelt?
• Welche Schutzmaßnahmen und Löschmöglichkeiten bestehen?

Auch ein grundsätzlich genehmigtes System darf nicht automatisch für sämtliche Aufgaben genutzt werden. Deshalb sollte vorab festgelegt sein, welche Werkzeuge und Anwendungsfälle freigegeben sind und welche Daten verarbeitet werden dürfen. Bei Unsicherheiten sollte stets die oder der Datenschutzbeauftragte einbezogen werden.

Die entscheidende Grenze: KI unterstützt, die Redaktion verantwortet

Auf den ersten Blick scheint die Aufgabenverteilung einfach: Der Mensch entscheidet, die KI unterstützt. Diese Trennung greift jedoch zu kurz.

Dieselbe Aufgabe kann je nach Inhalt und möglicher Folge unterschiedlich bewertet werden. Eine Überschrift für einen internen Ideenentwurf birgt ein geringes Risiko. Eine Überschrift mit einem verbindlichen Leistungsversprechen muss genauer geprüft werden. Die Zusammenfassung eines eigenen Blogartikels ist etwas anderes als die Zusammenfassung einer rechtlichen Änderung, auf die sich Kunden verlassen sollen.

Drei Fragen helfen bei der Einordnung:

1. Wie eindeutig lässt sich das Ergebnis prüfen?
2. Wie leicht lässt sich ein Fehler erkennen und korrigieren?
3. Welche Folgen hätte eine falsche oder missverständliche Aussage?

Diese Fragen übersetzen die allgemeine Forderung nach menschlicher Kontrolle in eine konkrete Arbeitsentscheidung. Aus ihnen ergibt sich ein Ampelmodell für den KI-Einsatz.

Das Ampelmodell für KI-Aufgaben

Grün: KI kann die Aufgabe weitgehend vorbereiten

In den grünen Bereich fallen Aufgaben, deren Ergebnisse leicht überprüfbar und ohne größere Folgen veränderbar sind. Dazu gehören beispielsweise:

• Überschriftenvarianten entwickeln,
• Fragen für ein Brainstorming sammeln,
• Wiederholungen markieren,
• einen Absatz kürzen,
• Formulierungsvarianten anbieten oder
• Stichpunkte sprachlich vereinheitlichen.

Der Nutzen liegt hier vor allem in Geschwindigkeit und Vielfalt. Trotzdem sollte das Ergebnis nicht ungeprüft übernommen werden. Auch eine scheinbar harmlose Formulierung kann den Ton verändern oder eine Aussage unbeabsichtigt zuspitzen.

Gelb: KI arbeitet vor, der Mensch prüft am Ausgangsmaterial

Im gelben Bereich liefert KI verwendbare Entwürfe, aber keine eigenständig belastbaren Ergebnisse. Typische Aufgaben sind:

• Dokumente zusammenfassen,
• Argumente gegenüberstellen,
• einen Abschnitt aus Notizen entwickeln,
• Beispiele vorschlagen,
• Einwände simulieren oder
• eine Gliederung auf Lücken prüfen.

Solche Ergebnisse können überzeugend wirken. Ihre Qualität hängt jedoch davon ab, ob die KI das Material richtig erfasst und keine falschen Verbindungen hergestellt hat.

Deshalb gilt: Geprüft wird nicht nur der KI-Text. Geprüft wird der KI-Text am Ausgangsmaterial, also den verwendeten Quellen.

Eine Zusammenfassung kann alle Fakten korrekt wiedergeben und trotzdem ihre Gewichtung verändern. Ein Beispiel kann verständlich, aber fachlich ungenau sein. Eine simulierte Gegenposition muss nicht den tatsächlichen Einwänden der Zielgruppe entsprechen.

Rot: Der Mensch führt und entscheidet

In den roten Bereich gehören Aufgaben, bei denen Fehler schwer erkennbar sind oder größere Folgen haben können:

• Fakten, Zahlen und Zitate freigeben,
• Quellen bewerten,
• rechtliche Aussagen veröffentlichen,
• verbindliche Leistungsversprechen formulieren,
• den zulässigen Umgang mit sensiblen Informationen klären,
• Aussagen über reale Personen prüfen und freigeben,
• Risiken und Unsicherheiten einordnen und
• die endgültige Fassung freigeben.

KI kann Rückfragen formulieren oder auf mögliche Widersprüche hinweisen. Sie sollte jedoch nicht ihre eigene Arbeit abschließend legitimieren.

Das Ampelmodell soll den KI-Einsatz nicht pauschal begrenzen. Es macht sichtbar, unter welchen Bedingungen ihre Stärken sinnvoll genutzt werden können.

Was KI besonders gut kann

Varianten erzeugen

KI kann unterschiedliche Überschriften, Einstiege oder Calls-to-Action entwickeln. Der Wert liegt nicht darin, dass sie automatisch die beste Lösung findet. Sie verhindert zunächst, dass die erstbeste Formulierung alternativlos erscheint.

Texte hinterfragen

KI muss nicht nur produzieren. Sie kann einen Entwurf gezielt hinterfragen:

• Welche Behauptung ist am wenigsten belegt?
• Wo setzt der Text Wissen voraus?
• Welche Aussage könnte als Versprechen verstanden werden?
• Welche Passage wirkt eindeutiger, als es die Informationen erlauben?

Die Antworten ersetzen keine Prüfung, lenken die Aufmerksamkeit aber auf mögliche Schwachstellen.

Formale Unstimmigkeiten erkennen

Bei längeren Texten kann KI unterschiedliche Schreibweisen, Wiederholungen, schwankende Anreden oder widersprüchliche Bezeichnungen markieren. Solche Prüfungen funktionieren besonders gut, wenn klare Kriterien vorgegeben werden.

Perspektiven simulieren

Ein Entwurf kann probeweise aus Sicht von Neukunden, Fachabteilung oder Service betrachtet werden. Diese Simulation ersetzt keine echte Zielgruppenforschung, kann aber übersehene Fragen sichtbar machen.

Alle diese Einsatzmöglichkeiten haben eines gemeinsam: Die KI liefert Material für eine weitere Entscheidung. Sobald Richtigkeit, Kontext, mögliche Folgen oder Haltung bewertet werden müssen, rückt das redaktionelle Urteil in den Vordergrund.

Wo redaktionelles Urteil unverzichtbar bleibt

Plausibilität ist nicht dasselbe wie Richtigkeit

Sprachmodelle können falsche Angaben überzeugend formulieren. Ein flüssiger Text ist deshalb noch kein belastbarer Text.

Das US-amerikanische „National Institute of Standards and Technology“ (NIST), eine Bundesbehörde für technische Standards und Empfehlungen, bezeichnet solche selbstbewusst präsentierten KI-Fehler in seinem Risikomanagement-Leitfaden für generative KI als „Confabulation“. Das NIST empfiehlt deshalb, Quellen und Zitate aus KI-Ausgaben ausdrücklich zu überprüfen. Auch OpenAI beschreibt Halluzinationen als plausibel klingende, aber falsche Aussagen von Sprachmodellen.

Anforderungen können sich widersprechen

Ein Inhalt soll verständlich, korrekt, interessant, markengerecht und kompakt sein. Diese Anforderungen passen nicht immer zusammen. Eine zusätzliche Erklärung erhöht vielleicht die Genauigkeit, bremst aber den Einstieg. Eine zugespitzte Überschrift weckt Interesse, verspricht jedoch möglicherweise zu viel. KI kann solche Konflikte benennen.

Welches Kriterium Vorrang hat, muss redaktionell entschieden werden.

Aussagen haben Folgen

Ob eine Formulierung vertretbar ist, hängt nicht nur von ihrem Wortlaut ab. Ein Unternehmen muss beurteilen, wie eine Aussage verstanden werden kann und ob es für dieses Versprechen einstehen kann.

Das gilt besonders für Angaben zu Sicherheit, Preisen, Nachhaltigkeit, Gesundheit oder rechtlichen Konsequenzen.

Haltung lässt sich nicht delegieren

KI kann einen vorhandenen Stil annähern. Sie kann aber nicht selbst bestimmen, wofür eine Person oder ein Unternehmen öffentlich stehen möchte. Jemand muss entscheiden:

• Welche Aussage vertreten wir?
• Welche Unsicherheit benennen wir?
• Welche Schlussfolgerung ziehen wir bewusst nicht?
• Welche Verantwortung übernehmen wir für die Veröffentlichung?

Eine klare Rollenverteilung schützt allerdings nicht automatisch vor Fehlern. Probleme entstehen häufig dort, wo ein plausibles KI-Ergebnis verlässlicher wirkt, als es tatsächlich ist.

Fünf typische KI-Kontrollfehler

1. Eine saubere Form täuscht einen fertigen Inhalt vor

Saubere Grammatik und Gliederung vermitteln schnell den Eindruck einer abgeschlossenen Fassung. Dadurch kann die inhaltliche Prüfung zu kurz kommen.

2. Die KI prüft ihre eigenen Annahmen

Wird dasselbe System gebeten, seinen Text zu kontrollieren, kann es dieselben Annahmen erneut verwenden. Eine Prüfung benötigt deshalb unabhängige Bezugspunkte wie Originaldokumente, belastbare Quellen oder fachkundige Personen.

3. Eine vorhandene Quelle gilt automatisch als Beleg

Eine Quelle kann real und thematisch passend sein, ohne die konkrete Behauptung zu stützen. Entscheidend ist nicht nur, ob sie existiert, sondern was sie tatsächlich belegt.

4. Pauschale Überarbeitungen machen den Text austauschbarer

Allgemeine Prompts wie „professioneller“ oder „ansprechender“ können charakteristische Formulierungen und wichtige Unterschiede entfernen. Gute Überarbeitung benötigt konkrete Kriterien.

5. Der KI-Einsatz weitet sich unbemerkt aus

Zunächst entstehen vielleicht nur Überschriften. Später werden ohne erneute Prüfung komplette Dokumente in ein dafür nicht freigegebenes System hochgeladen oder vertrauliche Notizen verarbeitet. So erweitert sich der KI-Einsatz durch Gewöhnung statt durch eine bewusste Entscheidung.

Wie das Ampelmodell und diese möglichen Fehlerquellen in einer konkreten Aufgabe zusammenspielen, zeigt ein einfaches Beispiel.

Ein Beispiel: Eine neue Leistungsseite entsteht

Eine selbstständige Beraterin möchte auf ihrer Website einen neuen Workshop vorstellen. Als Ausgangsmaterial liegen Notizen, ein grober Ablauf und Angaben zur Zielgruppe vor. Welche Aufgaben die KI übernehmen kann, hängt davon ab, wie leicht sich ihre Ergebnisse prüfen lassen und welche Folgen Fehler hätten.

Im grünen Bereich kann die KI Varianten für Überschriften, FAQ-Fragen oder Calls-to-Action entwickeln. Diese Vorschläge lassen sich schnell vergleichen, auswählen und überarbeiten.

Im gelben Bereich kann sie aus den Notizen einen ersten Beschreibungstext formulieren oder die Vorteile des Workshops strukturieren. Der Entwurf muss jedoch mit dem tatsächlichen Konzept abgeglichen werden. Ein sprachlich überzeugender Text kann Leistungen, Zielgruppen oder Ergebnisse andeuten, die so nicht vorgesehen sind.

Im roten Bereich liegen verbindliche Aussagen über Ergebnisse, Voraussetzungen, Preise oder Verfügbarkeit. Auch Kundenstimmen, Quellen und die endgültige Freigabe gehören hierhin. Diese Inhalte können konkrete Erwartungen auslösen und dürfen deshalb nicht allein aus einem KI-Entwurf übernommen werden.

Ein Beispiel aus meiner redaktionellen Praxis

Für die BG BAU habe ich die Themenseite „Unwetter, Sturm und Gewitter“ erstellt. Meine Aufgabe war es, sicherheitsrelevante Informationen zu Gewittern, Sturm, Starkregen und Hagel so zu strukturieren, dass Gefährdungen auf Baustellen und notwendige Schutzmaßnahmen schnell verständlich werden.

In einem KI-gestützten Workflow könnte die KI das Ausgangsmaterial sortieren, eine erste Gliederung entwickeln oder Formulierungsvarianten liefern. Sie kann jedoch nicht allein entscheiden, welche Gefährdungen besonders hervorgehoben werden müssen, wie eindeutig ein Sicherheitshinweis formuliert sein sollte und ob weiterführende Quellen richtig eingeordnet sind. Gerade bei sicherheitsrelevanten Inhalten reicht ein flüssig formulierter Entwurf nicht aus: Fachliche Richtigkeit, Gewichtung und Veröffentlichungsreife erfordern redaktionelles Urteil.

Beide Beispiele zeigen: Je verbindlicher eine Aussage ist und je größer die Folgen eines Fehlers wären, desto wichtiger wird die redaktionelle Prüfung. Dafür braucht es keinen komplizierten Freigabeprozess, sondern wenige klar definierte Kontrollpunkte.

Fünf Kontrollpunkte für kleine Teams

Diese fünf Kontrollpunkte schaffen Orientierung:

1. Aufgabe einstufen: Gehört sie in den grünen, gelben oder roten Bereich?
2. Datengrundlage klären: Sind Dokumente aktuell, freigegeben und für das Werkzeug geeignet?
3. Arbeitsstand kennzeichnen: Handelt es sich um einen KI-Entwurf, eine redaktionell bearbeitete oder bereits geprüfte Fassung?
4. Kritische Aussagen separat prüfen: Stimmen Zahlen, Zitate, Quellen und Leistungsversprechen?
5. Freigabe absichern: Welche fachlichen oder organisatorischen Prüfungen benötigt die Redaktion vor der Veröffentlichung?

Ein KI-System kann auf mögliche Probleme hinweisen. Die Freigabe bleibt jedoch eine redaktionelle Entscheidung und bildet den Abschluss der inhaltlichen Prüfung. Damit auch der Weg dorthin nachvollziehbar bleibt, sollte der KI-Einsatz bereits während der Bearbeitung dokumentiert werden.

Dokumentation des KI-Einsatzes

Bei wichtigen oder sensiblen Inhalten sollte dokumentiert werden:

• welches KI-System eingesetzt wurde,
• welche Aufgabe es übernommen hat,
• welche Quellen verwendet wurden,
• welche Aussagen menschlich geprüft wurden und
• wer die Endfassung freigegeben hat.

Fazit: Ein guter KI-Workflow organisiert Kontrolle

Der professionelle Einsatz von KI zeigt sich nicht daran, wie viel Content automatisch entsteht. Er zeigt sich daran, wie klar Aufgaben, Prüfungen und Verantwortung verteilt sind. Das Ampelmodell macht diese Verteilung sichtbar:

• Grün: KI bereitet vor; das Ergebnis lässt sich schnell überprüfen.
• Gelb: KI entwirft, der Mensch prüft am Ausgangsmaterial.
• Rot: Der Mensch führt, entscheidet und verantwortet die Veröffentlichung.

So wird KI nicht zum unsichtbaren Autor, sondern zu einem kontrollierbaren Werkzeug innerhalb eines redaktionellen Prozesses. Ihre Geschwindigkeit lässt sich nutzen, ohne fachliche Kontrolle und Verantwortung an sie abzugeben.

Unterstützung bei Ihrem KI-Content-Workflow

Sie möchten KI in Ihre Content-Produktion integrieren, ohne Kontrolle über Aussagen, Tonalität und Qualität zu verlieren?

Ich unterstütze Unternehmen, Selbstständige und Organisationen dabei, komplexe Inhalte redaktionell zu strukturieren und KI gezielt in klar definierte Arbeitsschritte einzubinden. Dabei verbinde ich redaktionelle Erfahrung, dramaturgisches Denken und praktische KI-Kompetenz.

Weitere Informationen und Kontaktmöglichkeiten finden Sie auf marius-janz.de.

Den Beitrag habe ich auch auf LinkedIn veröffentlicht.

#KIContent #Redaktion #ContentWorkflow