Eliza, KI und Weizenbaum. Eine Hommage zum 100sten.

Eine merkwürdige Koinzidenz, dass seit wenigen Wochen ChatGPT die Medien und die Menschen so elektrisiert, da sich heute ein Geburtstag zum hundertsten Mal jährt, der damit in Verbindung gebracht werden kann. Wer noch nicht weiß, wer Joseph Weizenbaum war und was Eliza ist, der könnte sich heute, am 8. Januar 2023, damit etwas auseinandersetzen. Eine Kolumne von Chris Kaiser

Foto: privat Chris Kaiser

Vor über 23 Jahren, an einem kalten Novembertag, an dem es schneite, machten sich vier miteinander befreundete Studenten in Erlangen zu einer Veranstaltung auf, die das SiemensForum ausrichtete: „Zukunft live: Cyber Society – Wohin führt uns die digitale Revolution?“

Es ging um kabellose Computer, um Hologramme, um High Definition usw. Drei der Freunde waren Informatik-Studenten, die Vierte im Bunde jedoch hatte gerade angefangen, Germanistik zu studieren – nachdem sie sich vorher vergeblich in Elektrotechnik versucht hatte. Alle vier kamen aber weniger aus Interesse für diese digitale Revolution oder was sich da kabellos entwickeln würde. Die eigentliche Attraktion für diese vier Musketiere war der Stargast dieser Veranstaltung: Joseph Weizenbaum.

Dass sich Informatiker für einen der Väter und zugleich größten Kritiker der Künstlichen-Intelligenz-Forschung interessierten, das ist ja eher selbstverständlich. Aber dass sich auch die Germanistin auf ihn freute, liegt an Eliza.

Damals, so nah am Ende des letzten Jahrtausends waren private Computer noch etwas grobklotzige Geräte, vor allem die Bildschirme waren schwere quaderförmige Ungetüme, das Internet kam durch Modems herein, die Handys hatten Tasten und ein kleines Display, auf dem gerade ein paar Zeichen Platz fanden. Es war die Zeit vor Facebook, dafür gab es aber das IRC, das „Internet Relay Chat“-Programm, anhand dessen man sich textbasiert gegenseitig unterhielt. Und manchmal sprach man zu Eliza. Ein erstaunlich eloquenter ChatBot, der auf Fragen mit Gegen- und Nachfragen reagierte. Sozusagen die Urgroßmutter von ChatGPT. Dabei war der Algorithmus des Programms damals schon über 30 Jahre alt. Und programmiert hatte diesen – na? Genau: Joseph Weizenbaum.

ELIZA

Weizenbaum war in den 1960er Jahren am MIT einer der Grundsteinleger der modernen Informatik und arbeitete sogar am Vorläufer des Internets, dem ARPANet  mit. Mit Eliza schuf er ein Programm, mit dem er demonstrieren wollte, wie ein Computer natürliche Sprache verarbeiten kann. Er orientierte sich dabei an dem Stereotyp eines Psychotherapeuten, der sich während der Therapie bemüht, nur die Worte des Patienten zu benutzen und lediglich zum Weitersprechen ermuntert. Eliza bekam den Namen von Eliza Doolittle, aus dem Stück „Pygmalion“ von George Bernard Shaw, die ein Linguistik-Professor nach einer Wette zu sprachlichen Höchstleistungen trainiert, damit sie in der High Society wie eine der ihren wirkt. Die meisten kennen vielleicht die Musical-Adaption „My Fair Lady“. Und genau wie diese Eliza Doolittle für Professor Higgins, ist Eliza nur eine abgerichtete Simulantin, die gebildet klingt. Und anders als die Figur aus Shaws Stück ist sie tatsächlich genau nur das und hat keine eigene Persönlichkeit. Weizenbaum sagt später auch, es sei eine Parodie des vorhin erwähnten psychotherapeutischen Gesprächs .

Die Germanistik-Studentin, die zu der Veranstaltung ging, ist die Autorin dieses Textes und ist heute mit einem der involvierten Informatikstudenten verheiratet. Dieser wiederum kannte Weizenbaum vor allem als Kritiker und Warner vor dem allzu gedankenlosen und euphorischen Einsatz neuer und neuester Technologien. Dieser Student besaß sowohl das große, pompöse Buch von Marvin Minsky („Mentopolis“), dem Propaganden der KI, als auch ein kleines Taschenbuch „Wer erfindet die Computermythen? Der Fortschritt in den großen Irrtum“ von Weizenbaum. Und dieses kleine Bändchen sollte damals, November 1999, mit einer Signatur veredelt werden.

Ob die Veranstalter von Siemens sich darüber im Klaren waren, was sie sich mit der Einladung des charismatischen Pioniers und Kritikers der Informationstechnologie einholten, kann man gerne bezweifeln. Doch für Nerds wie die erwähnten vier Studenten war das der Grund, zu dieser Veranstaltung zu gehen. Weizenbaum störte sich schon an dem Titel des Events, dass hier der Mensch als passiver Geführter einer Revolution sei, die eigentlich eben umgekehrt durch Menschen geführt werde, zumal eine „technische Revolution“. Und so fanden sich Siemens und die Universität, die gerade das Hohelied der schnellen und immer schnelleren Entwicklung der Informationstechnik singen wollten, sich vom eloquenten, kosmopoliten und diskussionserprobten Intellektuellen immer wieder ausgebremst. Etwa als das smart home als künftig weitverbreitete Bequemlichkeit erwähnt wurde, warf Weitenbaum schlagfertig ein, dass Bill Gates ein solches habe und es ihn frustriere.

Ein Nimmermüder

Joseph Weizenbaum sollte bis zu seinem Tod 2008 in Berlin ein nimmermüder Leser, Sprecher, Kritiker, Interviewpartner für die Computerwelt sein, gerade in Deutschland, seinem Ursprungsland. In das er nach Jahrzehnten im amerikanischen Exil (wohin er mit seinen Eltern mit 13 als Jude ausgewandert war), wieder zurückkehrte, in seine Stadt Berlin. In seinen Reminiszenzen wies er darauf hin, dass er keine direkte Konfrontation mit dem tödlichen Antisemitismus des schon Nazi-regierten Reichs erlebt hatte, dass aber ein ständiges Fremdheitsgefühl, dies- wie jenseits des Atlantiks, ihn vielleicht befähigte, sich von sozialem Druck und Verpflichtung recht gut fernzuhalten. Und dennoch die Menschheit als wichtig genug erachtete, sie vor sich selbst retten zu wollen.

Interviewer wiesen darauf hin, wie neugierig und begeistert er bis zuletzt für technische Entwicklungen war, Fachzeitschriften las, im Fachbereich mitdiskutierte und sich alles zeigen ließ. Ebenso kann man in Live-Auftritten und Dokumentationen, die im Internet zu finden sind, staunen, wie präzise seine Sprache, wie weitgefächert seine kulturelle Bildung war. Er fragte seine Zuhörer, was das Wichtigste sei, was Kinder in der Schule lernen sollen, noch bevor es um die einzelnen Fächer, wie Geschichte und Mathematik geht und antwortete dann selbst:

Ich weiß, was die höchste Priorität der Schule ist: Es ist, den Schülern ihre eigene Sprache beizubringen, dass sie sich klar und deutlich artikulieren können.“

 

Das war einer seiner wiederkehrenden Kritikpunkte, die verwendete Sprache der Technikfreaks. Er hörte genau hin und legte den Finger in die Wunde. Marvin Minsky muss nicht insgesamt kritisiert und verstanden werden, sondern ein Satz genügt, um sein Menschenbild zu erkennen. Weizenbaum sezierte Minskys Aussage „The brain is merely a meat machine“, indem er darauf hinwies, dass „meat“ nicht nur „Fleisch“ heißt, sondern eben TOTES Fleisch, das, das man als reine Materie sieht, im Unterschied zu „flesh“. Und das „merely“ regte Weizenbaum regelrecht auf. Weizenbaum ließ sich trotzdem nicht dazu hinreißen, Minsky als Psychopathen abzustempeln, sondern wies im Gegenteil darauf hin, dass die KI-Begeisterten ganz normale Menschen seien, die aber die Implikationen ihres Tuns in der Welt aus den Augen verloren haben. Er monierte, dass ihnen auch entginge, was sie sagten, dass ihre Sprache und ihre Worte ihnen eigentlich offenlegen müssten, was sie da eigentlich tun.

Die Physiker

Gedankenlosigkeit, die Konsequenzen ihrer wissenschaftlichen Forschung verleugnend, die kindisch-naive und abstrakte Gewalttätigkeit etwa, wenn man selbständig handelnde Kriegsmaschinerie begeistert entwirft – das kritisierte Weizenbaum schon zu Zeiten des Vietnamkriegs. Man fühlte sich bei seinen Ausführungen an „Die Physiker“ von Dürrenmatt erinnert.

Ein anderes großes Thema war für ihn die Sorge, dass, wenn Marvin Minsky und Hans Moravec die transhumanen Träume mit großem Forscherdrang verfolgten, diese davon träumten, dass künftige Menschen Roboter und künftige Roboter sowas wie Menschen werden. Nicht, weil er eine Vermischung der beiden „Spezies“ fürchtete, sondern im Gegenteil, weil er davor warnte, hier überhaupt eine Ähnlichkeit zwischen beiden zu imaginieren. Fundamental und unüberbrückbar war für ihn der Unterschied, da Maschinen zwar programmgemäß Entscheidungen vornehmen könnten, aber der Mensch eine Wahl habe, zum Beispiel auch keine Entscheidung zu treffen. Da klingt sicher auch die katholische Idee vom freien Willen des Menschen an, der die Sünde wählen kann, im Unterschied zu himmlischen Wesen, die eben von Gott „programmiert“ sind. Weizenbaum war Jude, aber westlich gebildet und geprägt und wies auch darauf hin, dass er die Gottesidee nicht ablehnte, sondern sie im Gegenteil für eine heilsame Schranke vor der Hybris betrachtete.

Bei der Veranstaltung in Erlangen 1999 gab es für die Zuschauer anschließend an die Podiumsdiskussion eine kleine Schau von Exponaten, bei der man einen Blick in die Zukunft erhaschen konnte, etwa eine Aquariumssimulation mit einem bewegten Fisch in 3D oder Schautafeln mit technik-optimistischen Sinnsprüchen. Weizenbaum sah sich das Ganze an, während eine Germanistikstudentin einem etwas eingeschüchterten Informatikstudenten das Weizenbaum-Buch in die Hand drückte und ihn dazu drängte, sich doch ein Autogramm zu holen. Doch der berühmte Professor stand jetzt vor einer der Schautafeln und schaute skeptisch auf den Spruch, der von der Machbarkeit der Zukunft handelte und ihn an nazistisches Denken erinnerte. Weizenbaum wendete sich an den Studenten: „Junger Mann, bringen Sie mir bitte einen Edding!“. Weizenbaum setzte seine Warnung vor die Fantasien der technologischen Zukunft mit seiner etwas zittrigen Handschrift hinzu und die Veranstalter standen hilflos nach Luft schnappend daneben.

Der Abend

Aber das Eis war gebrochen, die Schüchternheit der jungen Leute überwunden und der Abend endete für vier Studenten und einen alten, weisen Professor in einem Gasthof in der Nähe, bei einem privaten Gespräch und einer Signatur in einem Buch. Eine der schönsten und so wertgeschätzten Erinnerungen in dem Leben der vier. Die später, 2008, mit Trauer und Wehmut vom Dahinscheiden dieses wunderbaren Menschen erfuhren.

Heute, am 8. Januar, wäre Joseph Weizenbaum 100 Jahre alt geworden. Aber seine Bücher und Weisheiten lesen sich vor dem Hintergrund von ChatGPT und der Nachricht, dass in San Francisco jetzt „doch kein Killer-Roboter“ eingesetzt werden soll eben nicht wie aus der Zeit gefallen. Vieles was er sagte, wirkt aktuell und ist von bedenkenswerter Bedeutung.

Wer sich Weizenbaum im O-Ton anhören und ansehen möchte, für den hier eine kleine Auswahl:

Eine melancholische Dokumentation vom Ende seines Lebens ist:

„Weizenbaum. Rebel at Work“ auf Pantaflix:

Aber den Rebel kann man at work auch in dieser Dokumentation zur KI sehen:

https://www.amazon.de/gp/video/detail/amzn1.dv.gti.38bccdce-dd5d-4358-a611-303cf7bc82a1

Ein aufgezeichneter Vortrag an der Erlanger Universität 2007:

https://www.fau.tv/clip/id/475.html

Joseph Weizenbaum, wurde am 8. Januar 1923 in Berlin geboren. 1936 emigrierte er mit der jüdischen Familie in die USA. In den 60er Jahren begann er seine Tätigkeit am MIT als Professor in Computer Science. Er entwickelte 1963 den Chatbot Eliza. Er arbeitete in den 60ern auch am Aufbau des ARPANets für das Militär, das als der Vorläufer des heutigen Internet gilt. Er wurde zum ständigen Kritiker des allzu begeisterten Technologiefortschritts. Ab den 90er Jahren lebte er wieder in Berlin, wo er am 5. März 2008 verstarb.