Persönliche Notizen
Generative KI müssen wir weiter beobachten und beaufsichtigen
Seit „Lass das einfach die KI machen“ gehen unlesbare Berichte und inhaltsleere Dokumente herum. Wenn Arbeit für Menschen da ist, muss auch das, was KI erzeugt, für Menschen taugen.
Die Misstöne benennen, die entstehen, wenn wir Arbeit an KI abgeben und nur noch Ergebnisse weitertragen, und festhalten, warum Menschen weiter beobachten und beaufsichtigen müssen.
KI-Ergebnisse neigen zu dem, was für KI am leichtesten verständlich ist. Arbeit existiert für Menschen, also muss die Prüfung, ob etwas für Menschen taugt, bis zum Schluss bei Menschen bleiben.
Bevor du etwas weitergibst, das eine KI erstellt hat, lies es selbst und prüfe, ob die empfangende Person es wirklich lesen und nutzen kann.
Inhalt
Es ist schon eine ganze Weile her, dass wir zum ersten Mal von „generativer KI“ gehört haben. Inzwischen könnte man es fast einen etwas altmodischen Begriff nennen.
In der Branche, in der ich arbeite, ist KI zu einem völlig selbstverständlichen Werkzeug geworden.
„Lass das einfach die KI machen“
Kaum noch jemand zögert, wie man sie einsetzen soll. Und wenn doch jemand zögert oder sich Sorgen macht, tritt jemand anderes vor und rät:
„Gib es einfach der KI. Die macht das alles.“
Dieser eine Satz weckt viele Zweifel. Doch wenn man ihr einmal, zweimal eine Aufgabe überlässt, landen die Zweifel irgendwo im Abfall. Denn sie macht es einfach zu gut.
Von da an überlassen wir der KI den Bericht wie die E-Mail, und uns bleibt nur noch, das Ergebnis weiterzutragen.
Misstöne, wenn wir nur noch Ergebnisse weitertragen
Genau dann beginnen die Misstöne.
- Es werden Berichte übergeben, die niemand lesen kann.
- Unzusammenhängende Dinge werden als Ursache und Wirkung verknüpft.
- Es klingt plausibel, aber der Kern fehlt.
Solche Probleme kamen immer öfter zur Sprache. Manche sagen: „KI ist eben noch nicht perfekt“, und dass man so nicht arbeiten sollte.
Ich möchte das etwas konkreter fassen.
Ich glaube, „Arbeit“ existiert für Menschen und durch Menschen.
Die .md-Dateien, die niemand las
Eine Zeit lang gab es eine regelrechte Begeisterung für „.md“-Dateien. (Eine Zeit … na ja, ein paar Monate.)
Weil sie für KI gut lesbar sind, galten sie als unverzichtbares Format für die Arbeit mit KI. Doch gleich danach folgte ein Fragezeichen: Menschen lasen sie nicht.
(Selbst ich lese bei einer md-Datei die ersten paar Zeilen, denke „wird schon gut geschrieben sein“ und überspringe den Rest. Das Lesen verlangt zu viel Mühe.)
Also ging die Diskussion weiter, wie man Ergebnisse statt als md-Datei in einer Form liefert, die Menschen tatsächlich lesen können.
Ergebnisse müssen für Menschen taugen
Würde das, was KI erzeugt, von KI gelesen und von KI genutzt, wäre das vermutlich überhaupt kein Problem.
Aber wir arbeiten für eine Welt, in der Menschen besser leben können. Was so entsteht, muss für Menschen taugen.
Die meisten KI-Ergebnisse zielen in die Richtung, die für KI am leichtesten verständlich ist. (Natürlich. Sie ist kein Mensch, versucht aber, wie einer zu denken.)
Damit keine Probleme entstehen, müssen wir also weiter beobachten und die Aufsicht wirklich durchziehen. Wir müssen herausfiltern können, ob etwas tatsächlich für Menschen gemacht ist.
Und wenn man fragt, warum es die ersten ein, zwei Male so gut lief, dann glaube ich: dank genau jener Zweifel, die wir später weggeworfen haben.