»Eliza versteht mich«

Joseph Weizenbaum, Informatiker sowie Wissenschafts- und Gesellschaftskritiker, hatte im Jahr 1966 ein Computerprogramm namens Eliza entwickelt, eine Art »Kommunikationsprogramm zwischen Maschine und Mensch«. Was der Forscher zu Demonstrationszwecken programmiert hatte, wurde von einigen Menschen für bare Münze genommen: ein Computer, mit dem man sich ernsthaft unterhalten kann. #####
»Eliza versteht mich«, raunten diejenigen einander zu, die mit der automatischen Pseudo-Psychiaterin Eliza Kontakt aufnahmen. Eine Maschine, die denkt und fühlt? Weizenbaum sagt: »Eliza ist als Programm incredibly simple, wirklich, hat aber im Herzen einen Punkt getroffen, das macht es ein bisschen kompliziert, nicht der einfache Code. Eliza wurde missverstanden, das aber ist ein Fehler, der genau in unsere Zeit passt.«

Tut mir leid, dass Sie oft depressiv sind
Ein typisches »Gespräch« mit Eliza lief in etwa so ab:
»Mein Freund hat mich hergeschickt.«
»Ach so, Ihr Freund hat Sie hergeschickt.«
»Er sagt, ich sei oft depressiv.«
»Tut mir leid zu hören, dass Sie oft depressiv sind.«
»Es ist wahr, ich bin unglücklich.«
»Hilft es Ihnen, hierher zu kommen, um nicht mehr unglücklich zu sein?«

An diesem Punkt entlockte das Computerprogramm dem sich verstanden fühlenden Menschen intime Geständnisse. Das ist im Grunde ein einfaches Rezept. Man nehme die Eingabe, suche nach wichtigen Begriffen und treibe mit dem Echo solcher Sätze das Gespräch voran. Schaut man sich die Struktur der therapeutischen Gesprächstechnik an, so fällt auf, dass sie wie eine Art Echo funktioniert.

Eliza eroberte Amerika
Das ganze ist eine Projektion. Je mehr Zuwendung jemand braucht, um so stärker ist er bereit, diese Fähigkeit auf sein Gegenüber zu projizieren, auch wenn dieses bloß eine Maschine ist. Entsprechend war die Resonanz auf das Experiment enorm. Überall in den USA tauchten an den Universitäten Kopien davon auf. »Eliza war wirklich in aller Munde. Aber was mich überraschte, waren ganz spezifische Reaktionen. Ich beobachtete, welch enge Beziehung die menschlichen Gesprächsteilnehmer aufnahmen, und zwar in kürzester Zeit. Das äußerte sich so, dass sie darüber sprachen wie über einen Menschen und ihm menschliche Eigenschaften zuschrieben. Am extremsten erlebte ich es bei meiner Sekretärin. Als ich einmal ihr Zimmer betrat, war sie mitten im »Gespräch« mit »Doctor«. Es war ihr sichtlich unangenehm, dass ich ihre Sitzung störte, und bereits nach kurzer Zeit forderte sie mich auf, sie doch eine Weile allein zu lassen«, wunderte sich noch Jahrzehnte später Weizenbaum.

Allem kann der Mensch widerstehen, nur ...
Die Erfahrungen mit Eliza führten Weizenbaum zu Überlegungen, warum Menschen dem Computer eigentlich so vorbehaltlos vertrauten. Er wandelte sich vom Forscher für Künstliche Intelligenz zum Kritiker einer übertriebenen Computergläubigkeit. Seine These lautet, dass die Menschen, auch wenn sie einst den Computern Intelligenz zubilligen sollten, niemals zulassen dürften, dass Computer für sie Entscheidungen fällen. Er drückte dies wörtlich so aus: »Eine Gesellschaft, die sich auf eine Technik einlässt, braucht eine starke innere Kraft, um von den Zielen nicht verführt, nicht zu gierig zu werden.« Dies jedoch dürfte ein vergeblicher Wunschtraum sein, was Weizenbaum wohl selbst zu ahnen scheint, sonst würde er nicht jenen Satz gesagt haben, mit dem wir diese Geschichte beschließen:
»Allem kann der Mensch widerstehen, nur der Versuchung nicht ...«