Drei Tomaten und keine Idee

It’s the idea, not the machine

Warum die Maschine nichts ist, solange niemand weiß, was sie tun soll

Am Montag lief mir im Netz ein Beitrag über den Weg, der mich zu diesem Newsletter inspiriert hat. Jemand schrieb sinngemäß, wie faszinierend es sei, was mit KI inzwischen möglich ist. Eine Idee im Kopf, ein paar Experimente, und plötzlich entsteht etwas, das vor wenigen Jahren noch undenkbar gewesen wäre. Und dann der Satz, über den ich länger nachgedacht habe: Die eigentliche Herausforderung sei nicht das Können der Werkzeuge, sondern zu wissen, was man überhaupt erschaffen will.

Klang für mich logisch und ich konnte die Aussage abnicken und dann setzte sich meine Gedankenmaschine, ganz automatisch, in Gang.

Die Frage hinter der Idee

Denn eine Idee zu haben, ist nur die halbe Miete. Die zweite, deutlich unbequemere Frage lautet: Was mache ich daraus? Wird es ein Buch? Eine Zeichnung? Ein Hörspiel? Ein Podcast? Früher hat die Technik diese Frage für uns entschieden, ganz einfach, weil sie uns die meisten Optionen verweigert hat. Wer kein Studio hatte, machte kein Hörspiel. Wer nicht zeichnen konnte, ließ es bleiben. Heute liegt alles gleichzeitig auf dem Tisch, und genau darin liegt das Problem.

Ich nenne es mal Möglichkeitslähmung. Der Zustand, in dem einem jedes Werkzeug offensteht und man trotzdem vor dem Bildschirm sitzt wie vor einem prall gefüllten Kühlschrank, in dem es nichts zu essen gibt.

Drei Tomaten und ein Stück Fleisch

Am Thermomix lässt sich das besonders schön beobachten. Auf der Arbeitsplatte liegen drei Tomaten und ein Stück Rindfleisch. Das Gerät kann wiegen, hacken, rühren, dünsten und garen, es hält die Temperatur auf das Grad genau und piept, wenn es fertig ist. Was es nicht kann: entscheiden, ob aus diesen Zutaten eine Bolognese wird, ein Schmorgericht oder doch nur ein Tomatensalat mit kaltem Braten.

Der Thermomix wartet. Mit leuchtendem Display und vollkommener Geduld. Er wartet darauf, dass jemand weiß, worauf er Appetit hat.

Natürlich gibt es die Rezeptdatenbank, die Vorschläge macht. Aber auch sie schlägt nur vor, was ein Mensch irgendwann gekocht, aufgeschrieben und für gut befunden hat. Sie ist ein Archiv menschlicher Entscheidungen, keine Quelle eigener. Bei den Sprachmodellen ist es nicht anders: ein gewaltiger Speicher dessen, was Menschen gedacht und geschrieben haben, auf Zuruf neu zusammengesetzt. Der Zuruf aber muss von irgendwoher kommen.

Eine kluge Frau, 1843

Mir war fast klar, dass diesen Gedanken schon jemand vor mir klüger formuliert hat. Der Gedanke war richtig, und er führt mich fast zweihundert Jahre zurück. Besser gesagt, Google nahm mich mit auf die Reise zum Resultat meines Gedankens.

Ada Lovelace, Mathematikerin und Tochter Lord Byrons, verfasste 1843 umfangreiche Anmerkungen zur Analytical Engine von Charles Babbage, einer Rechenmaschine, die nie fertig gebaut wurde. Die letzte dieser Anmerkungen, der Anhang G, gilt heute als erstes veröffentlichtes Computerprogramm. Darin steht der Satz:

“The Analytical Engine has no pretensions whatever to originate anything. It can do whatever we know how to order it to perform.”

Frei übersetzt: Die Maschine erhebt nicht den geringsten Anspruch, irgendetwas aus sich heraus zu erschaffen. Sie kann alles tun, was wir ihr anzuordnen wissen.

Das entscheidende Wort steht am Ende. Wissen. Nicht, was die Maschine kann, sondern was wir ihr anzuordnen wissen. Der Engpass lag, wie heute, schon 1843 nicht an der Maschine, sondern am Menschen, der sie bedient.

Gut hundertzwanzig Jahre später hat Pablo Picasso das auf seine Art zugespitzt. Im Gespräch mit dem Schriftsteller William Fifield sagte er über die neuen Rechenmaschinen: “But they are useless. They can only give you answers.” Nutzlos, weil sie nur Antworten geben können. Die Frage muss jemand anderes mitbringen.

Der Einwand, den man ernst nehmen muss

Es wäre recht bequem, nun hier aufzuhören. Alan Turing hat 1950 genau diesem Satz widersprochen und ihn als “Lady Lovelace’s Objection” in das Geschichtsbuch der KI eingetragen. Sein Argument: Maschinen können uns sehr wohl überraschen. Und jeder, der heute mit KI arbeitet, kennt diese Momente. Das Modell liefert etwas, das man so nicht gepromptet hatte, und manchmal ist es besser als die eigene Vorstellung. Auch der Thermomix überrascht gelegentlich. Meistens dann, wenn der Varoma nicht richtig sitzt.

Aber Überraschung ist nicht Absicht. Ein Würfel überrascht mich bei jedem Wurf, und trotzdem käme niemand auf die Idee, ihm einen Plan zu unterstellen. Ob das Überraschende etwas taugt, ob es weiterverfolgt, verworfen oder am Küchentisch mit Freunden geteilt wird, entscheidet wieder ein Mensch. Die Maschine liefert Material. Den Sinn liefern wir.

Was ich meine

Die Werkzeuge werden besser. Das ist keine Prognose mehr, das ist ziemlich unbestritten. Die Konsequenz daraus ist unbequemer, als es die vielen begeisterten Beiträge in meinem Feed vermuten lassen: Je mächtiger die Maschine, desto gnadenloser zeigt sie, wer vor ihr steht und sie bedient. Wer keine Idee hat, bekommt mit KI keine bessere Idee, sondern schneller mehr Mittelmaß. Wer drei Tomaten hat und nicht weiß, was er kochen will, bekommt vom Thermomix kein Abendessen, sondern ein leuchtendes Display.

Die Maschine ist nichts wert ohne die Idee des Menschen. Das gilt für den Thermomix in meiner Küche genauso wie für das Sprachmodell auf meinem Rechner. Und das ist härter, als uns lieb ist.

Die Maschine kaschiert Ideenlosigkeit nicht. Sie vervielfältigt sie.

—

Lesestoff

Nele Neuhaus: Alles wird Asche

Der zwölfte Fall für Pia Sander und Oliver von Bodenstein, und diesmal geht es, natürlich, um KI. In Kronberg stirbt eine Frau in ihrer brennenden Villa, im Rohbau eines Frankfurter Hochhauses hängt ein Bauunternehmer kopfüber im Seil. Was nach Unfällen aussieht, führt das K11 ins Umfeld des verunglückten Tech-Milliardärs Patrick Brinkhoff, der zu Lebzeiten einen neuartigen KI-Chatbot entwickelt hat.

Das Schöne daran: Der Chatbot ist nicht der Täter. Die Abgründe sind die alten, menschlichen. Gier, Rache, Neid, offene Rechnungen. Neuhaus liefert damit ganz nebenbei den Beweis für die These dieser Ausgabe. Die Maschine stand im Raum. Das Motiv hatte ein Mensch. Am besten in der Buchhandlung um die Ecke.

Transparenzhinweis: Die Idee kam von mir. Google und Googles KI haben mich zu den Zitaten geführt. Das Beitragsbild habe ich als Idee entworfen, umgesetzt hat es die KI. Was daraus geworden ist, habe ich entschieden.