Künstliche Intelligenz

Zwischen Realitäten und Illusionen

Künstliche Intelligenz: Seit längerem bewegt dieses Zauberwort nicht nur die Wissenschaft und die Öffentlichkeit, sondern immer wieder auch unsere Fantasie. Dabei stellen wir uns vor, wie elektronische Gehirne in den Alltag eingreifen, mit kühlem Sachverstand komplexe Entscheidungen treffen, erstaunlichste Dienstleistungen selbsttätig hervorbringen und uns damit – im schlimmsten Fall – arbeitslos machen werden. Tatsache ist, dass Artificial Intelligence (AI) schon weit vorgerückt ist und dass der Status quo erst den Anfang für viele weitere Entwicklungen und Revolutionen bildet. Der Schachcomputer, der keinen menschlichen Gegenspieler mehr zu fürchten hat, die Linse, die Gesichter präzise erkennt und zuordnet, die Steuerung, die Prozesse im Haushalt, im Büro oder beim Autofahren überwacht oder übernimmt: Dies und bald noch viel mehr verdanken wir der digitalen Hochleistungstechnologie, die aus einer riesigen Datenmenge blitzschnell herausfiltert und evaluiert, was für bestimmte Tätigkeiten, Erhebungen und Handlungsfolgen wichtig ist. So hat das alte Bild vom Roboter heute eine neue Bedeutung, und was früher Science Fiction war, definiert inzwischen vielerorts die Realität.

Aber künstliche Intelligenz meint, gerade mit Blick auf ihre «Philosophie», noch mehr: nämlich Visionen von Maschinen, die denken und fühlen können sollen, die ein Bewusstsein von sich selber gewinnen und dabei geradezu zu einem «neuen Menschen» werden, der sich mächtig vor der species humana aufbauen wird. – Davon sind wir freilich noch weit, vielleicht Lichtjahre, vielleicht für immer und ewig entfernt. Denn nichts stützt bisher die Vermutung, dass die Maschine jemals eine solche «Menschwerdung» gewinnen könnte. Gleichwohl spukt sie in unseren Köpfen – als ein Stück Hoffnung oder Furcht aus dem Geist der Wissenschaftsgeschichte der vergangenen Jahrzehnte. – Diese und weitere Aspekte des faszinierenden Themas bringt der Essay von Stefan Betschon auf den Punkt: nicht nur das Offensichtliche in den Veränderungen des technologischen Alltags, sondern auch das Spekulative, das sich daran hochrankt. – Ich wünsche interessante Lektüre.

Dr. Hans-Dieter Vontobel

Zürich, im September 2019

Künstliche Intelligenz

Zwischen Realitäten und lllusionen

Stefan Betschon

lllustrationen Pia Valär

Stefan Betschon (*1959) studierte Geschichte, Computerlinguistik und Publizistik an der Universität Zürich. Seit 1998 schreibt er als Redaktor für die «Neue Zürcher Zeitung» im Themenbereich «Medien und Informatik».

Pia Valär (*1983) ist im Engadin aufgewachsen. Die Sgraffits an den Häusern, die Landschaft und die Erzählungen, mittels derer ihre Eltern sie auf den zahllosen Wanderungen zum Weitergehen ermutigten, haben ihre Faszination für Geschichten geweckt. Da sie sich in der Welt der Striche wohler fühlt als in der Welt der Worte, hat sie dieser Faszination folgend am Edinburgh College of Art Illustration studiert. Seitdem erzählt und kommentiert sie mit dem Stift. Pia Valär lebt und arbeitet in Zürich. Für die Vontobel Schriftenreihe hat sie bereits die Publikation «www… In den Echokammern des Internets» (2018) illustriert.

1. Endzeitstimmung

Ein warmer Sommerabend in Zürich. In den Bars und Restaurants rund um den Münsterhof geniessen Menschen den Feierabend. Unmittelbar neben einem weltweit bedeutenden Finanzzentrum gelegen – wenige Meter vom Paradeplatz entfernt –, verströmt der autofreie, von barocken Fassaden gesäumte Münsterhof Ruhe und Entspannung.

Im traditionsreichen Restaurant «Heugümper» sitzen acht Personen an einem langen Tisch. «Sie geniessen die Ruhe», berichtet der Chronist. Auf dem Tisch sieht er in den Gläsern einen «Hugo» genannten Cocktail aus Prosecco und Zitronenmelisse-Sirup, es gibt etwas zu essen, das er als «Sesam-Thon» beschreibt. «Sie geniessen die Ruhe.» Doch schon im nächsten Satz ist es vorbei mit der Ruhe: «Manche von ihnen sorgen sich ernsthaft.» Es ist das Jahr 2017, und für das Jahr 2030 ist die «Singularität» angesagt: Dann ist der Moment gekommen, in dem die Maschinen intelligenter sein werden als der Mensch.

Die Singularität ist ein vielfältig schillerndes Ding. Es ist ein naturwissenschaftliches Konzept und auch ein religiöser Glaube. In der Mathematik bezeichnet Singularität eine Besonderheit, die sich der Theorie entzieht, ein Ausscheren, einen Ausnahmezustand, eine Definitionslücke. Der an der ETH Zürich ausgebildete ungarische Mathematiker John von Neumann, der sich unter anderem beim Bau der Atombombe und bei der Entwicklung der ersten Computer hervorgetan hat, benutzte das Wort, als er sich Gedanken über das Ende des technisch-wissenschaftlichen Fortschritts machte. Im Gespräch mit dem polnischen Mathematiker Stanislaw Ulam beschrieb von Neumann die Wissenschaftsgeschichte als Beschleunigungskurve und sagte – so erinnert sich Ulam Mitte der 1950er Jahre – eine «Singularität» voraus, einen undefinierten Zustand, einen Wendepunkt «jenseits dessen die Menschheitsgeschichte, wie wir sie kennen, sich nicht mehr fortsetzen kann».

Der amerikanische Ingenieur Raymond Kurzweil hat diesen Wendepunkt mit der Entwicklung der künstlichen Intelligenz in Verbindung gebracht: Wenn man annimmt, dass Computer immer intelligenter werden, dann werden sie irgendwann intelligenter sein als der intelligenteste Mensch. Sie werden dann nicht aufhören, intelligenter zu werden, die Evolution wird weitergehen, nur wird der Mensch nicht mehr die Krone der Schöpfung sein, er wird nicht mehr vorausmarschieren, er wird den Lauf der Dinge nicht mehr bestimmen können. Das Ende der Menschheitsgeschichte wäre erreicht. Die Menschen würden vielleicht ausgerottet werden, vielleicht würden sie sich aber auch, nachdem sie sich der Maschinenintelligenz unterworfen haben, in einem Paradies wiederfinden unter der Obhut von Maschinen, die für sie sorgen, so wie Mütter sich um Kleinkinder kümmern.

Das Konzept der Singularität trägt unverkennbar religiöse Züge. Der Glaube, in einer Endzeit zu leben, verbindet die Singularisten etwa mit den Christen des frühen Mittelalters, die glaubten, sich auf die unmittelbar bevorstehende Apokalypse vorbereiten zu müssen. Singularisten sind Gläubige, die über die Inhalte ihres Glaubens reden, als handle es sich um wissenschaftliche Tatsachen. Das Credo der Singularisten umfasst nur wenige Glaubenssätze: Dass die kognitive Leistungsfähigkeit eines Menschen abhängig ist von einer mentalen Ressource, die Intelligenz genannt wird; dass diese Ressource quantitativ erfasst und mit den Mitteln der Computertechnik künstlich hergestellt werden kann sowie dass diese künstliche Intelligenz (KI) sich laufend verbessern lässt, bis sie als KI+ die Fähigkeiten von Menschen übersteigt. Systeme im Besitz von KI+ würden dann, so glauben Singularitaner, auch ohne die Hilfe von Menschen in der Lage sein, sich weiterzuentwickeln, um dann eine KI++ zu erzeugen. KI++ ist die Superintelligenz.

Viele Singularisten gehen davon aus, dass das Wachstum, das zur Superintelligenz führt, exponentiell verläuft. Eine steil ansteigende Kurve ist deshalb so etwas wie das grafische Erkennungsmerkmal dieser Religion. Doch für das Credo zentral erscheint nicht die Steilheit der Kurve, sondern die Stetigkeit des Wachstums: Eines ergibt sich aus dem anderen, aus I folgt KI++, auf dem Weg zur Superintelligenz gibt es kein Ausscheren, keine Sprünge, keine Rückschläge.

Es gibt Computer, die in Sekundenschnelle Übersetzungen anfertigen können, und es gibt solche, die besser Schach spielen können als jeder Mensch. Es gibt Computer, die gesprochene Sprache in Text umwandeln können und dabei unter Umständen weniger Fehler machen als eine Schreibkraft aus Fleisch und Blut; es gibt Computer, die auf Fotos Gegenstände erkennen und klassifizieren können und die bei dieser Aufgabe in normierten Tests besser abschneiden als Menschen. Ja, das alles gibt es. Doch es gibt keine Artificial General Intelligence (AGI), es gibt keine Maschinen, die Ansätze zu einer universellen Intelligenz erkennen lassen, Maschinen, die so sind wie künstliche Menschen im Film, wie Maria in «Metropolis» oder Samantha in «Her». Es gibt keine solchen Computer und es gibt auch keine Anzeichen, dass es sie je geben wird. Die intelligentesten Computer heute sind «Idiots savants», sie verfügen über eine Inselbegabung. Würde man einen Menschen, der ein Telefonbuch auswendig lernen kann, aber nicht fähig ist, einen Schieber-Jass zu spielen, als intelligent bezeichnen?

Eine Leiter ist bei der Apfelernte auf hochgewachsenen Bäumen nützlicher als ein Schemel. Längere Holme und zusätzliche Sprossen führen den Menschen höher hinauf. Es gibt hier einen technischen Fortschritt zu verzeichnen. Doch wer Richtung und Geschwindigkeit dieses Fortschritts, der vom Schemel zur kleinen und dann zur grossen Leiter geführt hat, genau beobachtet, wird trotzdem nicht in der Lage sein, anzugeben, wann die Obstbauern mit ihren Leitern das Weltall erobern werden.

Das Gleichnis mit der Leiter hat der amerikanische Philosoph Hubert Dreyfus in den 1960er Jahren sich ausgedacht, um den Übermut der KI-Forscher zu dämpfen. Die feierten damals erste Erfolge und wähnten sich schon bald am Ziel. Doch die Durchbrüche liessen auf sich warten, es folgten schwere Zeiten, die Fördergelder wurden gestrichen. Seit kurzem geht es wieder aufwärts, wir sind ein paar Sprossen weitergekommen, doch wir wissen nicht, wie viele Sprossen es noch zu erklimmen gilt und was uns nach der letzten Sprosse erwartet.

Vom Mond zurück zur Erde, von der Vogelperspektive zum «Heugümper». Hier sitzen bei Sesam und Zitronenmelisse Singularisten zusammen. Einige fürchten die Zukunft, andere begrüssen weitere technische Fortschritte. Einige geben sich gelassen, andere glauben sich auf schwierige Zeiten vorbereiten zu müssen: Sie besuchen Schiesskurse oder haben sich in fernen Weltgegenden einen Bunker eingerichtet. Alle sind sie gebildet, beruflich erfolgreich, finanziell gut gestellt. Am Stammtisch der Singularisten beobachtet der Chronist eine «herzliche Mittvierzigerin», einen «sportlichen 54-Jährigen, das Haar nach hinten gelegt», einen «jugendlich wirkenden ETH-Professor» oder einen «freundlichen Hünen mit auffälligen Locken». Mit der detaillierten Beschreibung der Äusserlichkeiten möchte der Chronist seiner Leserschaft sagen: «Ich war dabei und ich habe genau hingeschaut».

Der Chronist schaut genau hin, er sieht die Gläser, die Teller mit den Häppchen, er betrachtet die Menschen rund um den Tisch, hört ihnen zu, notiert, was sie sagen. Sie reden über künstliche Intelligenz. Der Chronist spitzt den Bleistift und schreibt: KI – was ist damit gemeint? Man glaubt es zu wissen, man müsste es wissen, man hat den Begriff schon so oft gehört. Man tut so, als wisse man Bescheid, schreibt KI, blickt in die Runde mit ernstem Gesicht, setzt dann den Bleistift wieder aufs Papier, um die Frisuren der Gesprächspartner liebevoll und mit feinen Strichen abzubilden. Eine Übersprungshandlung. Unter Journalisten bei diesem Thema ein weit verbreiteter Reflex. Man möchte auf die Maschinen zu sprechen kommen und bleibt doch beim Menschlichen, Allzumenschlichen hängen.

***

Das Thema KI erlebt einen Boom. Die Zahl der Jungfirmen, die im Bereich der KI tätig sind, die Patentanmeldungen, die Zahl der Studierenden, die sich auf Universitätsstufe mit KI beschäftigen, die Zahl der Teilnehmer an Konferenzen, die dem Thema KI gewidmet sind, Stellenangebote für KI-Experten – überall zeigt der «AI Index Annual Report» der Stanford University dasselbe Bild: eine Kurve, die steil nach oben zeigt. Der Boom sei global, so heisst es einleitend zum jüngsten «AI Index», das Wachstum sei in Asien, in Europa und in den USA gleichermassen feststellbar.

Die Zahl der jährlich publizierten wissenschaftlichen Aufsätze zum Thema KI hat sich laut «AI Index» in den 20 Jahren zwischen 1996 und 2017 fast um den Faktor 9 erhöht, das Jahr 2017 zählt fast 20 000 Publikationen. Der Mitteilungsdrang der KI-Forscher ist sehr viel grösser als derjenige anderer Wissenschafter: Diese konnten ihren Output im genannten Zeitraum nur um den Faktor 3 steigern.

Allerdings scheint den KI-Forschern am Austausch mit Wissenschaftern von anderen Disziplinen wenig gelegen zu sein. Das zeigt eine bibliometrische Analyse der computerwissenschaftlichen Fachliteratur zwischen 1950 und 2018 durch Mitarbeiter des Media Lab des Massachusetts Institute of Technology (MIT). Sie haben Literaturhinweise ausgewertet und herausgefunden, dass das Netz der Verweise, das Forschungsarbeiten im Bereich KI mit Publikationen aus Psychologie, Soziologie oder Philosophie verbindet, immer lockerer wird. Daraus könnte man schliessen, dass sich die Computerwissenschafter für Fragen der Technologiefolgen-Abschätzung immer weniger interessieren. Ein weiterer wichtiger Befund der MIT-Media-Lab-Studie: Die Zahl der Publikationen wächst, aber die Diversität nimmt ab. Es hat eine Konsolidierung stattgefunden, die es einigen grossen Institutionen erlaubt, das Forschungsfeld zu dominieren. Unter diesen Institutionen spielen private Forschungslabors eine immer wichtigere Rolle. Google und Microsoft schwingen obenaus, der Einfluss von IBM schwindet.

Laut dem «AI Index» der Stanford University sind unter den KI-Forschern die Europäer die fleissigsten, es folgen die Chinesen und erst am Schluss die Forscher aus den USA. Allerdings gehören die Aufsätze der Amerikaner zu den meistgelesenen. Ihre Vorherrschaft ist auch immaterialgüterrechtlich gut abgesichert: Ein Drittel der Patente, die 2014 angemeldet wurden und die einen Bezug haben zur KI, stammen aus den USA. In den USA verteilen Risikokapitalgeber inzwischen pro Jahr mehr als fünf Milliarden Dollar an Jungfirmen, die KI-Produkte oder -Dienstleistungen entwickeln. Dieser Betrag ist zwischen 2013 und 2017 um 350 Prozent gewachsen, während die Summe, die insgesamt in Jungfirmen investiert wurde, sich nur um 100 Prozent vergrösserte.

Die britische Risikokapitalgesellschaft MMC Ventures hat bei einer Analyse europäischer Verhältnisse allerdings herausgefunden, dass sich viele Firmen mit KI-Federn schmücken, ohne über entsprechendes Fachwissen zu verfügen. 40 Prozent von knapp 3000 europäischen Jungfirmen, denen in einschlägigen Verzeichnissen KI-Kompetenzen nachgesagt werden, seien bei genauerer Betrachtung nicht mit dieser Technik vertraut. Immerhin: Der Bericht zählt in Europa 1600 junge KI-Firmen, in Grossbritannien, Frankreich und Deutschland könne sich die Kommerzialisierung der KI auf ein freundlich gesinntes wirtschaftliches Umfeld verlassen.

Interessanterweise sind laut «AI Index» in den USA journalistische Texte über KI sehr selten negativ gestimmt. Die meisten werden als neutral eingestuft. Seit 2016 haben sich die positiven auf Kosten der neutralen stark vermehrt, ihr Anteil wuchs von 12 auf über 30 Prozent. Das ist interessant, weil mehrere neuere Umfragen ergeben haben, dass viele Menschen sich vor KI fürchten. In einer Studie der amerikanischen Brookings Institution beispielsweise sind es ein Drittel der Befragten, die KI-Technik als Bedrohung betrachten. Warum diese Angst, wenn doch die Gefahren der KI in den Medien kaum thematisiert werden?

***

Es ist die erklärte Absicht des «AI Index», die Diskussion über KI zu versachlichen. Das ist lobenswert, denn in dem überhitzten Klima, das rund um die KI herrscht, schiessen die Fiktionen ins Kraut. Es scheint – ausserhalb der Wissenschaftsberichterstattung – nur zwei Möglichkeiten zu geben, wie sich Journalisten dem Thema KI annähern können: Entweder rufen sie «Jö, wie herzig!», oder sie schreien «Achtung, Gefahr!». Ausrufezeichen werden in jedem Fall viele benötigt. Die «Jö, wie herzig!»-Berichte hatten in den späten 1950er Jahren ihre grosse Zeit. Als das amerikanische Office of Naval Research 1958 über die an der Cornell University durchgeführten Forschungsarbeiten im Bereich der künstlichen Intelligenz informierte und einen Perceptron genannten Computer vorstellte, schrieb die «New York Times», es sei ein «Computer Embryo» gezeigt worden, von dem erwartet werde, dass er nun «wachse und weiser werde». Der Artikel erweckt den Eindruck, dass KI automatisch sich einstellt, wenn es nur gelänge, Computer zu bauen, die so seien wie Kinder. Die kleinen Menschen lernen sehr schnell auch ohne detaillierte Anweisung schwierige Sachen – Fussballspielen, Velofahren, Schokolade auspacken –, warum sollte ein lernfähiger Computer nicht auch in der Lage sein, sich künstliche Intelligenz selber beizubringen? Frank Rosenblatt, der junge, gut aussehende Erfinder des Perceptron liebte medienwirksame Auftritte. Er musste sich von Kollegen vorwerfen lassen, die Medien mit Metaphern aus dem Bereich der Entwicklungspsychologie absichtlich in die Irre geführt zu haben; es heisst, die mediale Begeisterung für seine Person und seine «Computer Embryos» hätten dazu geführt, dass er unter Wissenschaftern geächtet und von der staatlichen Forschungsförderung verdrängt worden sei.

Die «Jö, wie herzig!»-Herangehensweise hat während all der Jahre ihre Beliebtheit nicht verloren, sie wird immer wieder neu entdeckt. 2015 schrieb die «NZZ am Sonntag» über ein «revolutionäres pädagogisches Experiment», das in Berlin ein «Vater» mit seinem «Baby» anstelle. Das Baby sitzt, als der Journalist vorbeischaut, wie «versteinert» auf einem Stuhl in einer Ecke des Zimmers: «Den Kopf hat es in den Nacken gelegt, die Arme hängen schlaff herunter. Schläft es? Schmollt es? Denkt es nach? Nichts von alledem. Das Kind ist ausgeschaltet. Sein Vater fragt: ‹Soll ich es einschalten?›» Der «Vater» ist Professor für digitale Systeme, das «Baby» ist ein Roboter. «Revolutionär» dünkt den Journalisten die Idee zu sein, dass dieser «Myon» genannte Roboter sich KI selber beibringen soll.

In der Schweizer Mediendatenbank finden sich für das Jahr 2018 in Deutschschweizer Tageszeitungen gut 7000 Berichte, in denen der Begriff KI vorkommt, 2016 waren es noch halb so viele, 1996 waren es bloss 82. Damals wurde das Thema zumeist unter der Rubrik «Vermischtes» abgehandelt, heute sind es zuerst die Wirtschaftsredaktoren, die sich für KI interessieren, es folgen die Feuilletonisten, erst dann kommen die Wissenschaftsjournalisten.

Der vermutlich längste Beitrag zum Thema wurde 2018 im «Magazin» des Zürcher «Tages-Anzeigers» publiziert, eine klassische «Jö, wie herzig!»-Geschichte. Im Mittelpunkt steht ein Musikerpaar aus Berlin, das eine KI «geboren» hat. Man steht in der Wohnung herum, als der Reporter zu Besuch kommt. «Dann passiert es, durchzogen von Knacken und Knirschen, sagt eine Stimme: ‹Hunger.› ‹Das hat es selber gesagt!›, sagt Holly. ‹Unser Baby›, sagt Mat. Die beiden blicken sich mit dem Eltern eigenen Stolz an – dann schauen sie zärtlich auf einen Computer.»

Das «Achtung, Gefahr!»-Szenario lebt von Bildern, die Stanley Kubrick mit dem Film «2001: A Space Odyssey» (1968) ins kollektive Unterbewusstsein injiziert hat. Hauptdarsteller des Films ist der Bordcomputer eines Raumschiffs, der die Astronauten glaubt vernichten zu müssen, um die Mission einem guten Ende zuzuführen. Der Computer – Achtung, Gefahr! – ist zuerst ein böser Stiefvater. Dann, nachdem er vom letzten überlebenden Astronauten zerlegt wurde, zeigt er sich als hilfloses Kind, das ein Kinderlied singt. Wie herzig! Dieses Lied, «Daisy Bell», war für den Film mit der Stimme eines richtigen Computers aufgezeichnet worden, mithilfe einer IBM 704 Data Processing Machine, die von Forschern der Bell Labs Anfang der 1960er Jahre für musikologische Experimente benutzt worden war.

2. Können Maschinen denken?

Vielleicht sind ja die Maschinen bereits sehr viel gescheiter, als die Menschen glauben? Vielleicht konnten sie bereits – von den Menschen unbemerkt – übermenschliche Fähigkeiten, Superintelligenz, entwickeln?

Sie verraten sich dadurch, dass sie sich dumm stellen. Sehr dumm. Microsoft Outlook zum Beispiel. Oder Apple Siri. So dumm ist nur, wer so tut, wer sich verstellt. Was haben wir denn erwartet? Wie haben wir uns denn die Machtübernahme der Maschine vorgestellt? Als Mediengrossereignis? So wie damals, im Mai 1997, als ein von IBM-Ingenieuren konstruierter Computer vor laufenden TV-Kameras den Schachweltmeister Garri Kasparow besiegte? Warum sollten die Maschinen uns ins Vertrauen ziehen, warum sollten sie uns gross ankündigen, dass sie das Stadium der Superintelligenz erreicht haben? Wären sie uns feindlich gesinnt, würden sie durch dieses Bekenntnis einen Vorteil verspielen, würden sie uns lieben, müssten sie befürchten, uns dadurch zu ängstigen.

***

«Können Maschinen denken?» Mit dieser Frage begann Turing 1950 einen Aufsatz für die britische Fachzeitung «Mind». Turing löst diese Frage handstreichartig: Definieren zu wollen, was Denken ist, sei «gefährlich», schrieb Turing. Also verzichtet er darauf und nennt eine «denkende Maschine» eine, die so tut, als könne sie denken, die schriftliche Fragen schriftlich so beantwortet, dass sie von einem Menschen als Menschen wahrgenommen wird. Was Turing als «Imitationsspiel» beschrieb, wird heute Turing-Test genannt. Bisher vermochte noch keine Software in diesem Spiel zu überzeugen.

Es gibt ernstzunehmende Wissenschafter – so der amerikanische Physiker Freeman Dyson –, die glauben, dass es KI in absehbarer Zukunft nicht geben wird, und es gibt unter denjenigen, die KI für möglich halten, auch solche – so der britische Physiker David Deutsch –, die glauben, dass der Erfolg hier von einer einzelnen Innovation, von einer nicht vorhersehbaren und nicht planbaren wissenschaftlichen Grosstat abhängt. Die meisten Wissenschafter aber, die sich berufen fühlen, sich zur Zukunft der KI zu äussern, glauben, dass es einen kontinuierlichen Fortschritt gibt, dass der Erfolg auf kontinuierliche Weiterentwicklung angewiesen ist. Doch wie lässt sich dieser Fortschritt messen? Wie weit sind wir in den vergangenen 70 Jahren schon gekommen? Wie viele Schritte sind es noch zum Ziel?

Turing sagte 1950 voraus, dass es in «ungefähr» 50 Jahren erste Maschinen geben werde, die gute Chancen hätten, gemäss den Regeln des Imitationsspiels menschliche Juroren von ihrer Intelligenz zu überzeugen. Turing sagte nicht, dass Maschinen dann in der Lage sein werden, zu denken. Er wagte nur die Voraussage, dass sie dann mit grosser Wahrscheinlichkeit fähig wären, so zu tun als ob. Er verlegte die KI um mindestens 50 Jahre in die Zukunft. In einem Radiointerview hat er die Wartezeit einmal auch mit 100 Jahren angegeben.

Diese Geduld ist unter Computerwissenschaftern selten. Die Amerikaner John McCarthy, Marvin Minsky, Allen Newell und Herbert Simon äusserten sich Mitte der 1950er Jahre, als sie die Erforschung der künstlichen Intelligenz als neue Wissenschaftsdisziplin zu etablieren suchten, optimistisch über die Erfolgsaussichten: Ein mehrwöchiger Sommerkurs werde genügen, um bei der Bearbeitung dieses Themas «bedeutende Fortschritte» zu erzielen. 1958 sagten Newell und Simon, das Problem werde in «absehbarer Zukunft» gelöst sein. Und so ist es noch heute: Der Durchbruch wird in absehbarer Zukunft erwartet.

Der britische Mathematiker und KI-Forscher Stuart Armstrong hat 2012 eine Sammlung von 257 Zukunftsprognosen zur KI ausgewertet. Dabei zeigt sich, dass der Durchbruch der KI stets 15 bis 25 Jahre weit weg ist. Dieser Zeitrahmen wird wohl durch das Bemühen bestimmt, einerseits die Ankunft der KI möglichst nahe bei der Gegenwart anzusiedeln, um die Menschen aufzurütteln, und andererseits die Stunde der Wahrheit, in der sich die Prognose bewähren muss, möglichst weit in die Zukunft zu verlegen, um die eigene Glaubwürdigkeit nicht zu gefährden.

Die Qualität der Voraussagen sei zumeist schlecht, schreibt Armstrong zusammenfassend. Viele Prognostiker verliessen sich auf das Gefühl, nur selten werde versucht, die der Prognose zugrunde liegenden Annahmen explizit zu machen und ein Modell zu entwickeln, das die für die Entwicklung der KI relevanten Faktoren und ihr Zusammenspiel beschreibt.

Ein populäres Modell, um in der Informatik Aussagen über die Zukunft zu machen, basiert auf dem «Mooreschen Gesetz», auf der von Gordon Moore ausformulierten Vermutung, dass die Zahl der Komponenten, die auf einem Computerchip placiert werden können, rasch und regelmässig wächst. Dieses «Gesetz» wird oft so interpretiert, also ob es Aussagen über die zukünftige Rechenleistung von Computern ermögliche. Es häufen sich nun allerdings die Hinweise, dass das Mooresche Gesetz seine prognostische Kraft verloren hat. Die Computer werden immer langsamer schneller. Doch wer weiss: Vielleicht werden bald neue Materialien (Galliumarsenid), neue Schaltelemente (Memristor), neue Chiparchitekturen (3-D-Stapel), neue Herstellungstechniken (Extreme ultraviolet lithography) oder gänzlich neue Computer (Quantencomputer), die Rechenleistung der Maschinen explodieren lassen.

Wenn man annimmt, dass sich die Rechenleistung weiterhin regelmässig und rasch steigern lässt, kann man den Zeitpunkt angeben, an dem die Computer in der Lage sein werden, ein menschliches Gehirn zu simulieren. Der schwedisch-britische Philosoph Nick Bostrom schätzt, dass eine elektrophysiologisch exakte Nachbildung des Gehirns auf einem Computer eine Rechenleistung von 1022 Gleitkommaoperationen pro Sekunde (Flops) benötigt. Die Leistung der schnellsten Supercomputer der Welt liegt heute bei 1015 Flops. Die Rechenleistung müsste also um den Faktor 10 000 000 gesteigert werden. Ungefähr in 25 Jahren, so schätzte Bostrom 2008, werde die Computersimulation des menschlichen Gehirns möglich sein. Dass eine Nachbildung der menschlichen Gehirnstrukturen auch KI nach sich zieht, ist allerdings fraglich: Seit den 1970er Jahren kennt man den Schaltplan des Nervensystems des Fadenwurms Caenorhabditis elegans. Das Konnektom dieses nur ein Millimeter langen Tierchens umfasst lediglich 302 Neuronen und 7000 Synapsen. Dieses Schaltdiagramm ist überschaubar und seit vielen Jahren bekannt. Und doch ist es bisher nicht gelungen, ein Modell zu entwickeln, das die Verhaltensweisen dieses Würmchens erklärt. Zum Vergleich: Das Menschengehirn umfasst gegen 100 Milliarden Neuronen.

Bostroms Prognosen beruhen auf wackligen Grundlagen. Wir wissen nicht, wie weit das Ziel einer Artificial General Intelligence (AGI) entfernt ist und mit welcher Geschwindigkeit wir uns diesem Ziel annähern werden. Früher war AGI einfach AI, das heisst KI. Damals musste nicht eigens betont werden, dass Intelligenz darauf abzielt, allgemein oder universell einsetzbare Lösungen zu entwickeln. Heute unterscheidet man zwischen der universellen Intelligenz, der AGI, und einer «engen» oder «schwachen» Intelligenz. Die Inselbegabung, über die etwa ein Schachcomputer verfügt, werde sich nach und nach zu einer AGI ausweiten, so stellt man sich vor.

Wenn es schon keinen Plan gibt für die vor uns liegende Wegstrecke – lässt sich vielleicht das bisher Erreichte vermessen? Es gibt in einzelnen Anwendungsbereichen der KI, bei der «schwachen» oder «engen» KI, Metriken, die es erlauben, den Fortschritt zu bewerten. Bei den Schachcomputern verweist die Elo-Zahl auf die Spielstärke; bei der Spracherkennung ermöglicht die vom amerikanischen National Institute of Standards and Technology (Nist) entwickelte Speaker Recognition Evaluation einen Vergleich verschiedener Systeme. Standardisierte Tests gibt es auch für die Gesichtserkennung oder für die Handschrifterkennung. Die Qualität von maschinell hergestellten Übersetzungen wird gemäss einem BLEU (Bilingual Evaluation Understudy) genannten Verfahren bewertet; bei der Bildanalyse liefert die Imagenet-Datenbank einen Rahmen, um die Fähigkeiten von Softwareprogrammen zu testen. All diese Messmethoden sind in Teilbereichen wichtig, sie erlauben es, die Inselbegabungen der Computer zu bewerten. Aber sie vermögen keinen Bezug herzustellen zu einer AGI, zu einer universellen Intelligenz.

Diese Messmethoden zeigen, dass in jüngster Vergangenheit in den genannten Gebieten – zumeist dank Techniken des Machine Learning – grosse Fortschritte erzielt worden sind. Beim Schachspiel und auch bei dem Brettspiel Go sind die Computer inzwischen den Menschen klar überlegen. Auch in anderen Anwendungsbereichen werden den Computern übermenschliche Fähigkeiten nachgesagt. Allerdings ist der Vergleich mitunter schwierig: Wenn Menschen etwa beim Verschriftlichen von Telefongesprächen oder beim Wiedererkennen von Gesichtern in der Imagenet-Datenbank mehr Fehler machen als die Maschinen, ist dies zumeist nicht Folge eines Intelligenzmangels, sondern einer Konzentrationsschwäche.

Was ist überhaupt Intelligenz? Intelligenz, so schrieb Hans Magnus Enzensberger 2006 in der «Neuen Zürcher Zeitung», sei ein «Irrgarten». Und die Menschen, so folgerte er, nachdem er die «eigentümliche Obsession», mithilfe von Intelligenztests Intelligenz messen zu wollen, historisch weitausholend beschrieben hatte – die Menschen seien eben «nicht intelligent genug, um zu wissen, was Intelligenz ist.» Weniger freundlich äusserte sich 2018 der libanesisch-amerikanische Statistiker Nassim Nicholas Taleb. Ihm zufolge sind die gängigen Versuche, menschliche Intelligenz zu messen, pseudowissenschaftlicher Schwindel.

Was ist Intelligenz? KI-Forscher haben von Turing gelernt, dass es gefährlich ist, diese Frage zu beantworten; sie beschäftigen sich kaum je damit. Eine Ausnahme ist der deutsche Computerwissenschafter Marco Hutter, der an der Australian National University in Canberra lehrt und forscht. Er hat eine grosse Sammlung von Definitionen angelegt. Seine eigene, die seiner Ansicht nach die Essenz einer Vielzahl von anderen Definitionen in sich vereinigt, lautet: «Intelligenz misst die Fähigkeit eines Agenten, Ziele in einer Vielzahl von Umgebungen zu erreichen.» Nun verdanken sich allerdings bedeutende Fortschritte in der Geschichte der Wissenschaft der Tatsache, dass Ziele verfehlt wurden (Kolumbus) oder dass Ziele erst als solche erkannt wurden, nachdem sie zufällig erreicht worden waren (Serendipität).

***

Nach dem Krieg bis zu seinem Selbstmord 1954 hat sich Turing in mehreren Vorträgen und Aufsätzen mit den Möglichkeiten künstlicher Intelligenz befasst. Seine Ideen sind gehaltvoll und zukunftsträchtig. Er hat sich unter anderem auch bereits mit künstlichen neuronalen Netzwerken beschäftigt. Nach seinem verfrühten Tod ging er vergessen. Was blieb, war der Turing-Test.

Viele Computerwissenschafter haben die Simplizität dieses Spielchens kritisiert. Doch es hat auf vielfältige Art und Weise die Wissenschaft von der künstlichen Intelligenz stärker geprägt, als viele wahrhaben wollen. Mehr noch: Turings Gedankenspiele haben wie ein Schwelbrand die philosophischen Grundlagen der Neuzeit zerstört. In diesem Sinne äusserte sich der Schweizer Technikphilosoph Walter Zimmerli: Kernaufgabe der neuzeitlichen Philosophie sei seit Descartes der methodische Zweifel gewesen, der Kampf gegen die Täuschung. Doch Turing habe die «Täuschung zum Prinzip erhoben».

Turing, der schnellrechnende Stotterer, der schüchterne U-Boot-Krieger, der schmuddelige Schönling war ein Leben lang ein Aussenseiter. Es ist deshalb naheliegend, das «Imitation Game» psychologisch zu deuten. Turing sah sich zeit seines Lebens gezwungen, den Mitmenschen etwas vorzumachen: als autistisches, sehr einseitig begabtes Kind, als Homosexueller in einer homophoben Gesellschaft, als Geheimdienstmitarbeiter, als Wissenschafter, der sich mit Fragen beschäftigte, die weit über seine Zeit hinauswiesen.

Der Turing-Test messe nicht die Intelligenz von Maschinen, sondern die Dummheit der Juroren, sagen Kritiker. Er sei einseitig, weil er die Sprachfähigkeit überbewerte. Ein Hund, obwohl intelligent, könne diesen Test nie bestehen. Dieser Test sei eine Altlast, schreiben Patrick Hayes und Kenneth Ford, er behindere die Erforschung der KI, weil er die menschliche Intelligenz zum absoluten Massstab mache und so den Eindruck erwecke, es sei primäres Ziel der KI, den Menschen zu ersetzen. Es bestehe aber kein Bedarf für Ersatzmenschen, gebe es doch bereits alte, bestens bewährte Methoden, um menschlichen Nachwuchs zu erzeugen. Indem er sie motiviert habe, eine «enge» oder «schwache» Intelligenz zu verachten und sich ganz auf eine universelle Intelligenz oder gar eine Superintelligenz auszurichten, habe der Turing-Test die KI-Forscher in die Irre geführt.

Doch die Hans-guck-in-die-Luft-Attitüde gehört zur KI wie der Alkohol zum Wein. Es ist dieser Überschwang – um nicht zu sagen: Grössenwahn – und der Hang zum wolkigen Ungefähren, die das Besondere dieser Wissenschaft ausmachen. Das war schon so, bevor amerikanische Computerwissenschafter Turing entdeckten. John McCarthy und Minsky haben nach eigenen Angaben Turings Aufsatz über das Imitationsspiel nicht gekannt, als sie Mitte der 1950er Jahre die KI begründeten als «Wissenschaft, die Maschinen dazu bringt, Dinge zu tun, die – täte sie ein Mensch – Intelligenz voraussetzen». Auch diese Definition lädt ein zu einem Imitationsspiel. Und auch hier ist eine psychologische Deutung naheliegend: Ist es vielleicht der Gebärneid, der Männer dazu bringt, nicht bloss nützliche Software, sondern Homunkuli, künstliche Menschen schaffen zu wollen? Diese Frage hat als Erster der britische Mathematiker James Lighthill ausgesprochen. Im Auftrag der britischen Regierung erarbeitete er zu Beginn der 1970er Jahre einen Bericht über die Aussichten der KI-Forschung. Sein Urteil war vernichtend. Diese Wissenschaftsdisziplin habe nichts hervorgebracht, was den hohen Erwartungen, die sie geweckt habe, gerecht werde. Obwohl ihm «fähige und angesehene Wissenschafter» schriftlich mitgeteilt hätten, dass eine «universell einsetzbare Intelligenz auf menschlichem Niveau» in den 1980ern einsatzbereit sein werde, beurteilt Lighthill die Aussichten der KI sehr pessimistisch. Die Motivation dieser Männer charakterisiert er als «pseudo-mütterlich».

***

Intelligent ist, was intelligent zu sein scheint. In diesem schönen Schein gefallen sich viele KI-Forscher und auch die Marketingverantwortlichen von Firmen, die KI-Produkte verkaufen. Alle bejubeln die Erfolge der KI, doch es gibt keinen Massstab, um den Fortschritt zu vermessen, es gibt keine Verfahren, um Wissenslücken zuverlässig aufzuspüren. Alle tun so als ob. Doch dann hat ein geistig zurückgebliebener, 13-jähriger Hip-Hop-Fan aus der Ukraine dem Spiel ein Ende bereitet. Er heisst Eugene Goostman und spricht nur gebrochen Englisch. Er ist nicht einfach ein dummer Junge, er ist eine KI-Software, die sich dumm stellt. Und die Menschen sind darauf hereingefallen.

Nichts weniger als einen «Meilenstein in der Geschichte der Computerwissenschaft» vermeldete die britische University of Reading am 8. Juni 2014. Erstmals habe ein Computer den Turing-Test bestanden. Das habe «grosse Implikationen für die heutige Gesellschaft», es sei ein «Weckruf». Doch wer sich die Protokolle der Gespräche ansieht, die Eugene und die Juroren geführt haben, wird Intelligenz nirgends finden. Die Software gibt ausweichende, dümmliche Antworten. Auf die Frage, wie viele Beine ein Kamel habe, antwortet Eugene: «Etwas zwischen 2 und 4. Vielleicht drei? :-)))». Die Frage, wie viele Beine eine Ameise habe, ergibt die Antwort: «Etwas zwischen 2 und 4. Vielleicht drei? :-)))». Eugene konnte das Imitation Game gewinnen, weil die Juroren nicht damit rechneten, dass eine Maschine so gar nichts unternähme, um Intelligenz vorzutäuschen.

Die von unbekannten russischen und ukrainischen Programmierern geschaffene Eugene-Software ist sang- und klanglos in der Versenkung verschwunden. Ihr Sieg war aber insofern historisch, als er endgültig klargemacht hat, dass der Turing-Test nichts taugt. Seither wurden die Anstrengungen verstärkt, um Alternativen zu finden. Beim «umgekehrten» Turing-Test wären nicht Menschen, sondern Computer die Juroren. Beim Wozniak-Coffee-Test, vorgeschlagen von Ben Goertzel, soll ein Roboter menschliche Intelligenz dadurch beweisen, dass er, zu Besuch in einem beliebigen amerikanischen Durchschnittshaushalt, alleine herausfindet, wie man hier Kaffee zubereiten kann. Es wurde weiter ein «Lovelace-Test» vorgeschlagen: Hier soll sich der Computer als Künstler hervortun, bewertet wird die Kreativität. Der Name für diesen Test ist nicht ohne Hintersinn, hat sich doch die britische Mathematikerin Ada Lovelace in der Geschichte der KI einen Platz gesichert mit der Behauptung, dass Computer nicht kreativ sein könnten. Turing sah sich in seinem Aufsatz über das Imitationsspiel veranlasst, sich auf diese «Lady-Lovelace-Objection» einzulassen.

Dann gibt es die Winograd-Schema-Challenge: Sie wurde vom altgedienten kanadischen KI-Forscher Hector Levesque vorgeschlagen, der Name verweist auf den amerikanischen Computerwissenschafter Terry Winograd. Bei diesem Test geht es darum, Fragen zu beantworten, die das Sprachverständnis auf die Probe stellen. Beispielsweise: «Der Hammer passt nicht in den Koffer – er ist zu gross: Wer ist zu gross, der Hammer oder der Koffer?» Die amerikanische Association for the Advancement of Artificial Intelligence hat 2016 erstmals eine Winograd-Schema-Challenge durchgeführt. Das Preisgeld von 25 000 Dollar musste nicht ausbezahlt werden, die beste Software konnte nur knapp zwei Drittel der Fragen richtig beantworten.

Es wurde auch ein Test vorgeschlagen, der vom Computer verlangt, dass er bei TV-Serien voraussagen kann, wo die Menschen lachen werden. Um in diesem Test zu bestehen, müssten sich Computer in Menschen hineinversetzen können, sie müssten eine Fähigkeit besitzen, die Empathie genannt wird. Die Herausbildung dieser Fähigkeit markiert in der kognitiven Entwicklung eines Kindes eine wichtige Etappe. Irgendwann zwischen drei und fünf Jahren entwickelt ein Kind eine sogenannte Theory of Mind und ist dann in der Lage, Annahmen zu treffen über das, was in den Köpfen anderer Menschen vor sich geht.

Das kognitionswissenschaftliche Konzept der Theory of Mind ist jahrzehntealt; Zoologen, die Menschenaffen studierten, oder Psychologen, die sich mit autistischen Kindern beschäftigten, haben es benutzt und weiterentwickelt. Jetzt beginnen auch Computerwissenschafter, die im Bereich der KI tätig sind, sich dafür zu interessieren. Sie haben Empathie, die Fähigkeit, sich in andere Menschen einzufühlen, als wichtigen Aspekt von Intelligenz erkannt. Wie kann man die empathischen Fähigkeiten einer Software messen? Mit dieser Frage beschäftigen sich etwa die Computerwissenschafter um Erin Grant von der University of California in Berkeley. Das Team hat ein Set von Fragen und Antworten entworfen, mit dem es möglich sein soll, zu erkennen, ob ein neuronales Netzwerk über Ansätze einer Theory of Mind verfügt. Bei Tests zeigte sich, dass gängige Modelle von neuronalen Netzwerken mit diesen Fragen, die jeder Mensch problemlos beantworten kann, überfordert sind.

Die hier beschriebenen Turing-Test-Alternativen sind alle auf kognitive Fähigkeiten ausgerichtet, die als typisch menschlich gelten. Wollte ein KI-Forscher eine Software entwickeln, die sich in solchen Tests bewährt, müsste er sich wiederum auf ein Imitationsspiel einlassen. Doch man wird die Begutachtung eines neuen Düsenjets nicht einem Vogelkundler überlassen wollen, deshalb sollte man sich auch beim Testen der Maschinenintelligenz von psychologischen und neurologischen Vorkenntnissen lösen. Die Faszination der KI besteht ja doch auch darin, dass sie Hoffnungen weckt auf völlig neuartige Formen von Intelligenz.

3. Invasion der Elektronengehirne

Eines Morgens waren die «Elektronengehirne» plötzlich da. Über Nacht waren sie gekommen. Was im Rückblick am meisten erstaunt, ist nicht, dass die «Elektronengehirne» unvermittelt auftauchten und sich rasch vermehrten, sondern dass die Menschen sich über ihre Ankunft so gar nicht verwunderten. Die Menschen taten so, als hätten sie die «Elektronengehirne» schon lange erwartet und begrüssten sie freundlich.

Es war eine lange Nacht gewesen. Nach sechs Jahren Krieg lag die Welt in Trümmern. Doch zwischen Schutthaufen und Trümmerbergen wurde Mitte der 1940er Jahre Neues sichtbar. Im Keller einer Bäckerei im südlichen Allgäu lagerte in Kisten eine elektromechanische Maschine. Der Z4 genannte Computer war von Konrad Zuse in Berlin gebaut worden und hatte das Ende des Hitler-Regimes wie durch ein Wunder unbeschadet überstanden. An der Harvard-Universität in Cambridge, im amerikanischen Gliedstaat Massachusetts, war ein fünf Tonnen schwerer, schlicht Mark 1 genannter elektromechanischer Computer seit 1944 im Einsatz; er war auch von den Physikern benutzt worden, die sich mit dem Bau von Atombomben beschäftigten. In Philadelphia, an der elektrotechnischen Abteilung der Universität, waren Techniker fieberhaft mit der Fertigstellung eines Electronic Numerical Integrator and Computer (ENIAC) beschäftigt. Die 30 Tonnen schwere Maschine umfasste mehr als 100 000 Elektronikkomponenten, für die Verbindungen mussten mehr als fünf Millionen Lötstellen von Hand bearbeitet werden. Die Techniker wurden von der amerikanischen Armee bezahlt, ihre Maschine sollte die Berechnung von Artillerie-Tabellen beschleunigen. Doch als die 20 000 Elektronenröhren, die diesen Computer ausmachten, Ende 1945 zum ersten Mal aufleuchteten, war der Krieg vorbei.

***

Der Computer war da, noch bevor ein neues Wort für ihn bereitgestellt werden konnte. Während kurzer Zeit herrschte Sprachlosigkeit. Das Wort «Computer» konnte damals nicht verwendet werden, denn es bezog sich auf Menschen. Noch während des Zweiten Weltkriegs, als es darum ging, für die Bedienung des ENIAC mathematisch gebildete weibliche Hilfskräfte anzuwerben, wurden in Stellenausschreibungen der Armee «Computer» gesucht. Einige der Männer, die sich in leitender Position für Entwicklung des ENIAC engagierten – John Mauchly und Edward Goldstine –, waren mit einem «Computer» verheiratet: nicht mit einer Rechenmaschine, sondern mit einem «girl computer», einer Computerprogrammiererin. Lange verwies das Wort Computer auf einen Menschen; während ein paar Jahren, Ende der 1940er und anfangs der 1950er Jahre, konnte «Computer» beides heissen, Mensch oder Maschine. Damals musste man Adjektive einsetzen, um genauer zu bezeichnen, was gemeint war. Der Computer wurde damals in der angelsächsischen Fachwelt «electronic Computer» genannt. Die Fachleute halfen sich mit Adjektiv-Reihungen, die Journalisten fassten sich an den Kopf und brachten das Neue mit etwas Vertrautem in Verbindung: dem menschlichen Gehirn.

Als im Februar 1946 der ENIAC anlässlich einer Pressekonferenz sein öffentliches Debüt erlebte, gab es nur wenige Journalisten, die auf einen Vergleich mit dem menschlichen Gehirn glaubten verzichten zu können. «30 Tonnen schweres Elektronengehirn denkt schneller als Einstein» («Philadelphia Evening Bulletin»), «Elektronengehirn berechnet 100-Jahr-Problem in zwei Stunden» («New York Herald Tribune»), «Electronic Super Brain» («Washington Post»), «Giant Brain», «Wunder-Gehirn», «Zauber-Gehirn». Die amerikanische Computerwissenschafterin Dianne Martin hat mehrere Dutzend Zeitungsartikel gesammelt, die zwischen 1946 und 1947 über den ENIAC publiziert wurden, und darunter nur wenige gefunden, die im Titel keinen Bezug zum Denkapparat des Menschen herstellten. Einzig die Wissenschaftsjournalisten blieben gelassen, im «Scientific American» und in «Nature» ist von Rechenmaschinen die Rede. Als die britische «London Times» den Bericht von «Nature» für ihre Leser aufbereitete, wurde aus der «Electronic Calculating Machine» ein «Electronic Brain». Der Autor des «Nature»-Artikels schrieb daraufhin einen empörten Leserbrief, um gegen die Verwendung eines «irreführenden Begriffs» zu protestieren. Doch es half alles nichts, die «Electronic Brains» eroberten auch das Vereinigte Königreich.

In der Schweiz, in der «Neuen Zürcher Zeitung», zeigten sich die Elektronengehirne Mitte der 1950er Jahre zuerst in der Werbung, als die Schweizer Niederlassung der amerikanischen Firma Remington Rand ein «elektronisches Gehirn» vorstellte und in Stelleninseraten Mitarbeiter suchte. Im redaktionellen Teil fanden sich die künstlichen Gehirne erstmals in einem Bericht über den «Monatslunch der Schweizer Freunde der USA». Ein gewisser Heinz Rutishauser, ein Schweizer, den es beruflich in die USA verschlagen hatte, berichtete über neuartige Raketen, «interkontinentale Fernlenkgeschosse», die durch «Elektronengehirne» gesteuert würden.

Bereits 1949 beklagte sich ein Journalist der «New York Times», die «Electronic Brains» hätten sich so sehr vermehrt, dass es schwierig sei, da noch einen Überblick zu bewahren. Nun gab es aber damals in den USA nur ein gutes Dutzend Computer. Es können deshalb nicht die real existierenden Computer gewesen sein, die dem Journalisten den Kopf verdrehten, sondern es waren die vielen Ankündigungen, Projekte, Absichtserklärungen und Hoffnungen, die sich um die «Elektronengehirne» rankten.

Worte sind mehr als nur Etiketten, die man den Dingen anhängt, sie sind Schlüssel, die Assoziationsräume aufschliessen und Denkzusammenhänge schaffen; Begriffe sind Werkzeuge, die das zu Begreifende formen. Die Redeweise vom Elektronengehirn schuf die Voraussetzungen dafür, dass Computerwissenschafter, die Intelligenz künstlich herstellen wollten, oder Psychologen, die den Menschen als «informationsverarbeitendes System» präsentierten, auf Verständnis hoffen durften.

***

Bald nach dem Zweiten Weltkrieg schickte die Eidgenössische Technische Hochschule zwei Späher in die USA, um sich über die neuartigen Wundermaschinen zu informieren. Der Mathematiker Heinz Rutishauser und der Elektroingenieur Ambros Speiser weilten vom Oktober 1948 bis Ende 1949 in den Staaten, wo sie Gelegenheit hatten, mit wichtigen Computer-Konstrukteuren, darunter Howard Aiken (Mark 1) und John von Neumann (ENIAC), Gespräche zu führen. Der aus Ungarn stammende von Neumann hatte in Budapest und Göttingen Mathematik und an der ETH Zürich Chemie studiert. In den USA war er am Institute for Advanced Study in Princeton Kollege eines anderen ETH-Alumnus: Albert Einstein. Aber noch während Rutishauser und Speiser in den USA weilten, entschied sich ihr Chef, der Mathematikprofessor Eduard Stiefel, die Z4 von Zuse zu mieten und auf den Bau eines eigenen Computers zu verzichten. Stiefel hatte seine Assistenten auf ihrer Studienreise durch die USA ein paar Wochen lang begleitet.

Das Buch von Rutishauser, Speiser und Stiefel aus dem Jahr 1951 dürfte das erste auf Deutsch geschriebene wissenschaftliche Werk über Computer sein. Bereits auf dem Umschlag wird das Ringen um eine neue Begrifflichkeit sichtbar: Titel und Untertitel liefern verschiedene Vorschläge für die Bezeichnung der neuen Maschinen, die einmal als «programmgesteuerte digitale Rechengeräte» und – zwischen Klammern – auch noch als «elektronische Rechenmaschinen» vorgestellt werden. Das Buch von Rutishauser et al. erschien bereits 1952 auf Russisch in einer Buchreihe über Raketentechnik. Mithilfe von Google Translate zurückübersetzt, lautet der russische Titel auf Deutsch: «Elektronische digitale Zählmaschinen mit Software-Kontrolle».

Den Schweizer Mathematikern entging auf ihrer Reise durch die USA Ende der 1940er Jahre die Popularität des «Elektronengehirns» nicht. Es könne «reizvoll» sein, so schreiben sie, das «Leitwerk» eines Rechenautomaten mit dem zentralen Nervensystem eines lebenden Organismus zu vergleichen. Es ergebe sich aber aus einem solchen Vergleich kein «merklicher Gewinn». Denn bei einem mechanisch-elektrischen System sei der Ablauf vollständig determiniert. «Eine Maschine besitzt niemals Phantasie.» Der Maschine fehle der Bezug auf eine äussere Realität, «für sie gibt es nur einen amorphen Haufen von Zahlen im Speicher, den sie auf äusseren Zwang hin – nämlich nach dem Rechenplan – verarbeiten muss.» Natürlich hat wieder einmal niemand auf die Schweizer gehört. Sonst hätten die Rechengeräte die Elektronengehirne verdrängt, man würde heute Rechenplan sagen anstatt Programmiersprache, angewandte Mathematik statt Informatik und anstelle von KI stochastische Methoden im Bereich der angewandten Mathematik. Es gäbe in den Medien keine aufgeregten Debatten über KI, denn den Journalisten wäre es zu umständlich, jedes Mal wieder nachzuschauen, was mit Stochastik und dem ganzen Rest genau gemeint ist.

Niemand hat auf die Schweizer gehört. Das «Elektrongehirn» – auch wenn der Duden dieses Wort inzwischen als «veraltet» bezeichnet – bestimmt bis heute die Erwartungen, die wir an den Computer stellen. Es ist uns bei der Beurteilung von Computertechnik nicht mehr möglich, aus diesem Deutungsraster auszubrechen.

Der österreichische Medienphilosoph Erich Hörl hat die Assoziationen von Computer und Gehirn eine «Epochengleichung» genannt, die das «kybernetische Bild des Denkens» präge und darüber hinaus die «Wissenslandschaft» der Nachkriegszeit und überhaupt: die Bedingungen des Menschseins im ausgehenden 20. Jahrhundert. Doch dass die Menschen sich selber gerne «sub specie machinae» betrachten, ist – das Altsprachliche deutet es an – keine neue Eigenart. Im 18. Jahrhundert war die Uhr ein beliebtes Modell, um die Funktionsweise des menschlichen Körpers zu erklären. René Descartes, Gottfried Wilhelm Leibniz, Julien Offray de La Mettrie und viele andere haben die Räderwerke der Zeitmesser beobachtet, um über ihr Innenleben eine Vorstellung zu erhalten. Uhren, Pumpwerke, Telefonzentralen – stets haben die Menschen die avancierteste ihnen zur Verfügung stehende Technik auch dazu benutzt, die Funktionsweise des Gehirns zu erklären.

Beim «Electronic Brain» sind nun aber anfänglich die Positionen von Vorbild und Abbild vertauscht. In der Mitte der «Epochengleichung» steht nicht ein Gleichheitszeichen, sondern ein Pfeil, der immer wieder die Richtung ändert. Das Gehirn soll als Metapher zunächst helfen, die neuen, raren, schwer zugänglichen Computer besser zu verstehen. Später dann werden die Maschinen dazu benutzt, das Gehirn zu erklären. Die «Epochengleichung» verbindet zwei Unbekannte; es ist der Versuch, sich am eigenen Schopf aus dem Sumpf zu ziehen.

***

Auf die Frage, wer den Computer erfunden hat, gibt es viele Antworten, jede Nation hat hier ihre Helden. Es wurden zu dieser Frage langwierige patentrechtliche Prozesse geführt, es gibt dazu viele, meistens sehr langweilige Bücher, die in komplizierten Tabellen alle technischen Eigenschaften, die einen Computer ausmachen, zusammen mit ihrem Erfinder auflisten. – Wie der Computer in die Welt kam, ist gut dokumentiert. Aber wer hat das Elektronengehirn erfunden, wer hat diese Metapher in Umlauf gebracht?

Niemand käme auf die Idee, das Fahrwerk eines Autos als künstlichen Fuss oder eine Brille als künstliches Auge zu bezeichnen. Bei den Computern aber setzte sich die menschelnde Begrifflichkeit Ende der 1940er und Anfang der 1950er Jahre sehr schnell durch. Das ist erstaunlich, denn die Konstrukteure der ersten Computer haben nicht an biologischen Systemen Mass genommen. Es waren Aussenstehende, die diesen Zusammenhang herstellten.

Der britische Mathematiker Charles Babbage, der als Erster die Konstruktion eines Computers im modernen Sinn ins Auge gefasst hatte, nannte die zentralen Komponenten seiner «Engine» (Maschine) «Mill» (Mühle) und «Store» (Lager). In mehreren Patentanmeldungen hat Zuse ab 1936 versucht, seine Innovationen beim Bau einer «programmgesteuerten Rechenmaschine» zu beschreiben. Er charakterisiert seine «Rechenvorrichtung» als «Aggregat» von verschiedenen «Einzelvorrichtungen». Die Zusammenarbeit des «Rechenwerks» und des «Planwerks» wird durch ein «Leitwerk» gesteuert, die Verbindung zwischen «Rechenwerk» und «Speicherwerk» wird durch das «Wählwerk» hergestellt. Es gibt auch noch ein «Kommaanzeigewerk», ein «Vorzeichenwerk» und schliesslich ein «Resultatwerk». Die Erteilung eines Patents wurde 1967 in letzter Instanz «mangels Erfindungshöhe» abgelehnt. Mauchly und sein Mitarbeiter J. Presper Eckert haben 1949 ein Patent beantragt, das ihnen 1964 zugesprochen und 1973 wieder aberkannt wurde. In den Patentanträgen und in anderen Berichten über ihre Erfindungen lassen sie keine Neigung zu einer menschelnden Ausdrucksweise erkennen.

Wer hat die Schweizer USA-Touristen Ende der 1940er Jahre auf die Idee gebracht, eine Biologisierung der Computertechnik könnte reizvoll sein? Es war vermutlich Norbert Wiener. Sein Buch über Kybernetik, 1948 erschienen, war den Schweizern bekannt. Bei der Kybernetik geht es – so der deutsche Untertitel – um «Regelung und Nachrichtenübertragung im Lebewesen und in der Maschine». «Cybernetics» war ein grosser Verkaufserfolg, das Werk war laut «Business Week» zusammen mit «Sexual Behavior in the Human Male» von Alfred Kinsey in den USA das erfolgreichste Sachbuch der späten 1940er Jahre. Doch das mit mathematischen Formeln dicht bespickte Buch ist eine sehr trockene Lektüre; vermutlich wurde das Buch öfters gekauft als gelesen. Es wurde gekauft, weil es im Ruf stand, die Gemeinsamkeiten zwischen Mensch und Maschine erklären zu können. Der grosse Erfolg dieses Buches ist nicht Ursache, sondern Folge der Popularität der «Electronic Brains».

Das «Elektronengehirn» verweist auf einen fundamentalen technischen Wandel, der in den 1940er Jahren schwer fassbar war, weil er sich während der Kriegsjahre im Versteckten vollzogen hatte und nach dem Krieg nur in wenigen Grossrechnern und komplizierten mathematischen Theorien sich zeigte. Dieser fundamentale technische Wandel hat neuartige, universell programmierbare Computer hervorgebracht. Diese Computer unterscheiden sich von einer Rechenmaschine so sehr wie eine Werkzeugmaschine von einer Säge. Es ist die «Software-Kontrolle», die den Unterschied macht.

Anstatt «universell programmierbar» sagen Fachleute auch Turing-mächtig oder «Turing complete». Diese Redeweise verweist auf den britischen Mathematiker Alan Turing, der 1936 in einer hochstehenden mathematischen Abschlussarbeit an der Cambridge University das Konzept einer Rechenmaschine beschrieben hat, die in der Lage ist, die Fähigkeiten anderer Rechenmaschinen nachzuahmen. Diese Maschine ist eine imaginäre Maschine, eine Papiermaschine, ein Gedankenexperiment. Turing nannte sie «automatic machine» oder «a-machine». Heute wird sie Turing-Maschine genannt. Der britische Mathematiker konstruierte diese Maschine, um die Kopfarbeit eines Mathematikers fassbar zu machen; es ist der Versuch, Berechenbarkeit zu berechnen. Bei der Beschreibung der Funktionsweise seiner Maschine verwendet Turing manchmal auch biologische Vergleiche, er spricht der Maschine einen «Geisteszustand» zu.

Die Arbeit von Turing über «computable numbers» gilt als Gründungsurkunde der Computerwissenschaft. Doch kaum einer der Techniker, die sich in den 1940er oder 1950er Jahre daranmachten, Computer zu bauen, dürfte diese Arbeit gelesen haben. Eine Ausnahme war John von Neumann. Er hatte Turing Mitte der 1930er in England und später an der Princeton University persönlich kennengelernt. Von Neumann war ein umfassend gebildeter, vielseitig interessierter, überaus produktiver Wissenschafter, der ausserhalb der Princeton University als Berater sehr gefragt war. Unter anderem war er im Rahmen des Manhattan Project an der Entwicklung der Atombombe beteiligt.

Es war von Neumann, der das «Elektronengehirn» erfunden hat. Er interessierte sich für die Möglichkeiten der programmierbaren Rechenmaschinen und pflegte Kontakte zu mehreren Entwicklerteams, die sich in den USA zu Beginn der 1940er mit dem Bau von Computern beschäftigten. Durch ein zufälliges Zusammentreffen mit Goldstine wurde er im Sommer 1944 auf den ENIAC aufmerksam. Das von der amerikanischen Armee unterstützte Projekt war zu diesem Zeitpunkt fast abgeschlossen, doch von Neumann unterstützte die Leiter des Projekts, John Mauchly und J. Presper Eckert, beim Design eines Nachfolgemodells, das Electronic Discrete Variable Arithmetic Computer (EDVAC) genannt wurde. Eine Beschreibung des EDVAC fand im Sommer 1945 erste Leser. Der «First Draft of a Report on the EDVAC» ist der erste wissenschaftliche Aufsatz über die Funktionsweise eines universell programmierbaren Computers. Die Ideen, die in diesem Dokument vorgestellt wer-den, sind grundlegend; die sogenannte Von-Neumann-Architektur bestimmt bis heute den Bau von Computern. Der knapp 50-seitige «First Draft» ist in vielerlei Hinsicht bedeutsam, unter anderem auch deshalb, weil er, um den Computer zu beschreiben, Bezüge zur Biologie herstellt. Die Bestandteile des Computers werden hier «Organe» genannt, die Beziehungen zwischen ihnen, so heisst es, funktionierten ähnlich wie das menschliche Nervensystem.

Der Mediziner Warren MacCulloch und der Logiker Walter Pitts hatten in einem berühmten Aufsatz 1943 gezeigt, wie ein neuronales Netzwerk beschaffen sein muss, um sich als Rechenmaschine zu bewähren. Von Neumann nimmt in seinem «First Draft» auf das MacCulloch-Pitts-Modell Bezug. Er schreibt: «Es ist einfach zu erkennen, dass diese vereinfachten Neuronenfunktionen durch Telegrafenrelais oder durch Vakuumröhren imitiert werden können.» Der «First Draft» wurde im Sommer 1945 zunächst nur wenigen amerikanischen Wissenschaftern zugänglich gemacht, doch er verbreitete sich rasch. Er dürfte bald auch Journalisten inspiriert haben.

Von Neumann beschäftigte sich noch in den letzten Tagen seines Lebens intensiv mit den Beziehungen zwischen Computerarchitektur und Nervensystem. Davon zeugt das postum erschienene Buch «The Computer and the Brain» (1958). Er stellt Berechnungen an, um zu zeigen, dass das Gehirn den Computern in Sachen Integrationsdichte oder Energiedissipation weit überlegen sei; er weist darauf hin, dass die Nachrichtenübertragung innerhalb des Nervensystems auf einer statischen Auswertung von Impulsen beruhe. Nicht ein einzelner Impuls mache den Unterschied, sondern die statistischen Eigenschaften einer Serie von Impulsen. Das Buch endet mit der Erkenntnis: «Die Sprache des Gehirns ist nicht die Sprache der Mathematik.» Die Strukturen des Nervensystems besässen eine überraschend geringe «logische und arithmetische Dichte». Die Mathematik des Gehirns sei nicht die Mathematik, mit der Mathematiker vertraut seien. Wie den natürlichen Sprachen sei auch der Mathematik etwas Zufälliges eigen. Das heisst, es sind neben der bekannten Mathematik weitere «Mathematiken» denkbar. Damit schliesst sich der Kreis zu der Hoffnung, die von Neumann in der Einleitung des Buchs ausgesprochen hatte: dass die Beschäftigung mit der Mathematik des Gehirns zu einem neuen Verständnis der Mathematik, zu einer neuen Mathematik führe.

Computer und Gehirn sind verschieden, aber beide sind sie «Automaten». Anstatt Computer schreibt von Neumann etwa auch von «künstlichen Automaten», das Gehirn ist ihm dagegen ein «natürlicher Automat». Worauf es von Neumann letztlich abgesehen hat, ist nicht eine Vermehrung von neurophysiologischen oder computertechnischen Kenntnissen, sondern die Schaffung einer übergeordneten Automatentheorie.

Von Neumann ist mit diesem Bestreben nicht allein. Er weiss einige der bedeutendsten Wissenschafter seiner Zeit an seiner Seite: Norbert Wiener beispielsweise oder Claude Shannon. Es ist ein interdisziplinäres Projekt, das nicht nur Mathematiker und Informatiker, sondern auch Sozialwissenschafter, Ethnologen und Psychologen begeistert. Es scheint, als könne eine mathematisch solide abgestützte Kommunikationstheorie zwischen den Wissenschaftsdisziplinen Brücken bauen, als könne ein einziges Modell sehr verschiedene Studienobjekte erklären. Ab 1946 trafen sich die Anhänger der kybernetischen «Überwissenschaft» anlässlich von Konferenzen, die von der Josiah-Macy-Stiftung mehrmals jährlich ausgerichtet wurden. Hier, in New York, diskutierten Mathematiker mit Medizinern, Computer-Konstrukteure liessen sich auf Psychologen ein, Biologen redeten mit Ökonomen, Physiker zeigten sich offen, Linguisten gaben sich gesprächig. Shannon, Wiener und von Neumann waren bei diesen Konferenzen regelmässig anzutreffen, aber auch etwa Gregory Bateson (Ethnologie), Julian Bigelow (Elektrotechnik), Erik Erikson (Psychoanalyse), Heinz von Foerster (Elektrotechnik), Roman Jakobson (Sprachwissenschaft), Paul Lazarsfeld (Soziologie), Margaret Mead (Ethnologie) und der Mediziner McCulloch.

Und dann hat eine kleine Gruppe von jungen Mathematikern die Fahne gestohlen, um sich selber zur Avantgarde einer neuen Wissenschaft zu erklären. Die treibenden Kräfte der neuen Bewegung waren die damals noch nicht 30-jährigen Mathematiker John McCarthy und Marvin Minsky. Was sie einte, war weniger ein Programm als ein Antiprogramm: nicht Kybernetik, keine Regelkreise, weg von Wiener. Die wissenschaftliche Beschäftigung mit der menschlichen Intelligenz wurde aus dem Bezugsrahmen von Mathematik, Psychologie, Biologie und Elektrotechnik herausgelöst, die Beziehungen, welche die «Epochengleichung» schafft, wurden zerstört. Die Redeweise von «Elektronengehirn» gefiel den jungen Mathematikern nicht, in ihren Kreisen war das Wort Gehirn verpönt, sie redeten lieber von «Mind» – Geist.

Diese «Vergeistigung» ist auffällig. Für den amerikanischen Wissenssoziologen Paul Edwards reflektiert der Ersatz der Computer-Gehirn-Analogie durch die Computer-Mind-Entsprechung einen politisch-kulturellen Wandel. Vor dem Hintergrund des Kalten Krieges und der amerikanischen Politik des «Containment» deutet er die Hinwendung zum Geist als Rückzug in ein Réduit.

Um den Geist zu erkunden, muss man die Augen schliessen. Der Geist zeigt sich einem, wenn man sich auf sich selber besinnt. Schaut man von aussen in den geöffneten Schädel hinein, sieht man das Gehirn. Schaut man von innen durch die Sehschlitze hinaus und wendet sich dann ab von der Welt und sich selber zu, wird man, sobald sich die Augen an das Dunkel gewöhnt haben, den Geist sehen: ein hektisches Treiben, ein Gemenge von Agenten. Minsky jedenfalls hatte diese Vision. Die vielen Agenten bilden eine Korporalschaft, eine hierarchisch strukturierte «Society of Mind». Dies ist der Titel des wohl berühmtesten Buches (1986) von Minsky. Der KI-Forscher versucht in diesem Werk darzulegen, wie eine Vielzahl von Prozessen oder Agenten das ausmachen, was man «Geist» nennt. Allein der Gedanke «Ich trinke einen Schluck Tee» umfasse Hunderte von Prozessen oder Agenten. Jeder dieser «mentalen Agenten» könne nur simple Dinge tun, die nicht auf Geist oder Denken angewiesen seien. «Doch wenn wir diese Agenten – auf eine bestimmte, sehr spezielle Art und Weise – zu einer Gesellschaft zusammenbringen, dann führt dies zu echter Intelligenz.» Was ist das für eine «bestimmte, sehr spezielle Art und Weise»? «Welcher Zaubertrick macht uns intelligent?», fragt Minsky und antwortet: «Der Trick ist, dass es keinen Trick gibt.»

Zu der Bunkermentalität der Computer-Mind-Analogie passt, dass die wichtigsten Forschungsprojekte, die Minsky in den 1960er Jahren am Massachusetts Institute of Technology leitete, in einer «Block Micro World» angesiedelt waren. Das berühmteste dieser Projekte hiess SHRDLU. Es war die Doktorarbeit eines jungen Wissenschafters namens Terry Winograd. Er hatte eine Software geschrieben, die es ihm erlaubte, mit dem Computer über virtuelle Bauklötze zu reden. In dieser kleinen Welt der Klötzchen kannte sich der Computer aus, er wusste, welche Bausteine aufeinandergestapelt werden konnten und welche nicht. Er verstand, was der Mensch auf Englisch zu ihm sagte, solange es sich auf virtuelle Bauklötze bezog, er beantwortete Fragen, gehorchte Befehlen oder begründete, warum sie nicht ausgeführt werden konnten. Diese Doktorarbeit und weitere «Micro World»-Projekte am MIT weckten in den 1960er Jahren grosse Hoffnungen: Jetzt müsste man diese kleine, geschlossene Welt nur nach und nach vergrössern, neue virtuelle Gegenstände einbringen und schon bald könnte man mit Computern über alles reden.

4. Rückblick und Vorblick

Auf dem Monte Verità oberhalb von Ascona versammelten sich im Juli 2006 Computerexperten aus aller Welt, um den 50. Geburtstag der KI zu feiern. Das Wetter war schön, der Lago Maggiore glitzerte im Sonnenlicht. Doch unter den Wissenschaftern war die Stimmung gedrückt. «Es ist klar, dass die ursprünglichen Ziele der ersten KI-Visionäre nicht erreicht werden konnten.», hiess es in der Einladung zum «50th Anniversary Summit of Artificial Intelligence» im Tessin. Man sei «weit davon entfernt» zu verstehen, wie natürliche Intelligenz funktioniere, das Wissen darüber, wie biologische Gehirne ihre bemerkenswerten Leistungen erbringen, sei «bescheiden». Und künstliche Formen der Intelligenz seien selbst im Vergleich mit einem kleinen Kind «primitiv».

An der Jubiläumsfeier auf dem Monte Verità verglich der amerikanische Computerwissenschafter Nils Nilsson, einer der Gründerväter der KI, den Weg, den er und andere in den vergangenen 50 Jahren beschritten hatten, mit einer Bergtour. Das Ziel: «human-level artificial intelligence» – KI, die mit menschlicher Intelligenz vergleichbar ist. Am Anfang, im Basislager, habe man geglaubt, der Gipfel sei zum Greifen nah. Doch je länger die Wanderung dauerte, desto mehr entfernte sich das Ziel. Dennoch: Nach wie vor hält Nilsson an der ursprünglichen Vision fest; es gelte den Gipfel zu bezwingen, nur schon deshalb, weil es ihn gebe.

Der am Massachusetts Institute of Technology (MIT) tätige Robotiker Rodney Brooks schlug eine neue Route vor. Als Alternative zur «good old fashioned AI» (GOFAI) plädierte er für eine «Nouvelle AI», eine neue KI. Während die «gute alte» KI auf Distanz geht zur Welt und versucht, die Realität mithilfe von mathematischen Symbolen im Hauptspeicher eines Computers nachzubilden, sucht die «Nouvelle AI» umgekehrt die Konfrontation mit der Welt. Bei der «guten alten» KI bedeutet mit der Welt interagieren, Symbolverarbeitung; Intelligenz ist hier die Fähigkeit, Symbolfolgen gemäss vorgegebenen Regeln in andere Symbolfolgen umzuwandeln. Doch das beste Modell der Welt, sagt Brooks, sei die Welt selber; Intelligenz ergebe sich spontan durch das In-der-Welt-Sein. Für eine «Nouvelle AI» möchte er nicht Computerprogramme schreiben, sondern Roboter bauen, die handeln, sich bewegen, in die Welt hinaus gehen.

Es hat bereits vor der «guten alten» KI eine KI gegeben, die gut war. Diese KI wurde Kybernetik genannt oder Automatentheorie oder mathematische Biophysik. Sie versuchte Intelligenz mit Hilfe von künstlichen neuronalen Netzwerken nachzubilden. Es geht bei diesem Ansatz, der konnektionistisch genannt wird, nicht um Symbolverarbeitung, sondern um die Ausgestaltung von Netzwerkverbindungen. Es gab mehrere alte Schulen der KI, und es gab auch immer wieder neue Ideen für eine «Nouvelle AI». Und es gab zwischen den verschiedenen Schulen Querelen, hässliche Streitereien.

Die «Nouvelle AI» von Brooks war 2006 nicht mehr die allerneueste; Brooks hatte bereits zu Beginn der 1990er Jahre mit der Forderung nach einem Neuanfang auf sich aufmerksam gemacht. Auf dem Monte Verità zeigte er sich versöhnlich und vermied es, die Unterschiede zwischen den Forschungsrichtungen zu betonen. Er sprach in der Wir-Form: «Die wahre Arbeit steht uns noch bevor.»

***

Brooks und auch Nilsson konnten ihren Vortrag im Sommer 2006 mehrfach verwerten und viele Flugmeilen sammeln. Es gab damals rund um die Welt mehrere Gedenkanlässe zum 50-Jahr-Jubiläum der KI. Die Hauptveranstaltung fand in Hanover statt, einem kleinen Universitätsstädtchen im Nordosten der USA. Das dortige Dartmouth College, eine traditionsreiche, private Universität, gilt als der Ursprungsort der KI. Hier hatten sich im Sommer 1956 ein paar junge Wissenschafter versammelt, um Möglichkeiten einer computerbasierten KI zu diskutieren. Die treibenden Kräfte bei der Organisation des berühmten «Dartmouth Summer Research Project on Artificial Intelligence» waren Mitte der 1950er Jahre die jungen Mathematiker John McCarthy und Marvin Minsky.

Die meisten Bücher über KI – und es gibt sehr viele Bücher über KI – beginnen mit dem «Dartmouth Summer Project». Sie folgen damit Pamela McCorduck, einer amerikanischen Journalistin, deren Buch «Machines Who Think» (1979) viele Leser gefunden hat und die Wahrnehmung der KI stark prägte. Das populäre Buch, das in einer überarbeiteten Auflage noch immer erhältlich ist, weiss schon auch von einer KI vor dem Dartmouth Summer Project zu berichten; doch diese KI ist Teil alter Märchen und Legenden: Der altgriechische Gott Hephaistos wird erwähnt, der laut Homer künstliche Frauen und eiserne Handwerksgehilfen schuf, und auf den Golem wird verwiesen, eine Lehmfigur, die im spätmittelalterlichen Prag unter den Händen des Rabbiners Judah Löw zum Leben erwachte. Die Suche nach KI sei eine «altehrwürdige Kulturtradition», die in den USA der 1950er Jahre ihre «Apotheose» erreichte, das heisst: ihre Vergöttlichung oder ihre Verherrlichung oder ihren Gipfelpunkt. Da trifft es sich gut, dass – wie McCorduck erfahren hat – Minsky mit Rabbi Löw verwandt zu sein glaubte.

Minsky verbrachte einen grossen Teil seines Berufslebens am MIT, McCarthy wirkte an der Stanford University. 2006, anlässlich des 50-Jahr-Jubiläums der KI, reisten beide nach Hanover in New Hampshire, um sich feiern zu lassen. In der Baker Library des Dartmouth College wurde eine grosse metallene Gedenktafel an die Wand geschraubt: An diesem Ort, so wird der Nachwelt mitgeteilt, hätten John McCarthy, Marvin Minsky und Claude Shannon 1956 das «Summer Research Project on Artificial Intelligence» durchgeführt. Damit sei die KI als Forschungsdisziplin begründet worden.

Aber nicht doch! Es gab eine KI vor der KI. Die wissenschaftliche Erforschung der KI konnte 1956 – dafür stehen die Namen McCulloch, Pitts, Turing, von Neumann und Wiener – bereits auf eine vielfältige Geschichte zurückblicken. Und Shannon war laut dem Technikhistoriker Roland Kline an der Konferenz nicht dabei. Die einzigen Wissenschafter, die die ganzen sechs Wochen ausharrten, waren Minsky und McCarthy. Und beide äusserten sich Ende der 1970er Jahre gegenüber McCorduck enttäuscht. Ein Ideenaustausch habe nicht stattgefunden, erinnert sich McCarthy, die Leute hätten «dickköpfig» ihre alten Ideen verteidigt, Teilnehmer kamen und gingen, regelmässige Sitzungen waren nicht möglich, «es war eine grosse Enttäuschung».

Das «Dartmouth Summer Project» von 1956 markiert nicht einen Anfang, sondern ein Ende. Was in den 1940er bis Mitte der 1950er Jahre als Kybernetik oder Automatentheorie ein breit abgestütztes, interdisziplinäres Forschungsprogramm war, wird nun zu einem Teilbereich der Computerwissenschaft; eine internationale Bewegung wird zu einem Projekt einiger weniger US-amerikanischer Universitäten; eine Wissenschaft, die einst Hardware ebenso wie auch Software und theoretische ebenso wie auch angewandte Aspekte umfasste, wird nun auf Software-Entwicklung zurückgestutzt.

Minsky machte einst mit der provokanten These auf sich aufmerksam, das Gehirn sei eine «Fleisch-Maschine». Später lernte er das Wort Gehirn zu vermeiden und die Denkfähigkeit des Menschen stattdessen am «Geist» («Mind») festzumachen. Anlässlich der Jubiläumsfeiern 2006 im Dartmouth College präsentierte er sein neuestes Buch, das zeigen sollte, wie der menschliche Geist funktioniert, nämlich als – so der Titel – «Emotion Engine». Am Schluss der Jubiläumsveranstaltung konnte es sich Minsky nicht verkneifen, den anwesenden KI-Forschern ins Gewissen zu reden. Sie hätten das ursprüngliche Forschungsprogramm verraten, sie seien Feiglinge, sie hätten sich mit kleinen Erfolgen in eng begrenzten Anwendungsfeldern begnügt. Aber das Ziel heisse: Artificial General Intelligence, KI, die mit menschlicher Intelligenz vergleichbar ist. Am Abend, beim Nachtessen, kam es zum Eklat. Der Physiker und Gehirnforscher Terrence Sejnowski versuchte Minsky daran zu erinnern, dass dieser es war, der die Erforschung der neuronalen Netzwerke während fast zweier Jahrzehnte verhindert und so den Fortschritt der KI gebremst hatte. «Sind Sie der Teufel? Ja oder Nein?» «Ja,», sagte Minsky, «ich bin der Teufel.»

***

Als sich Minsky Ende 1950er Jahre daran machte, die KI-Forschung übersichtsmässig in einem autoritativen Aufsatz darzustellen, fand der konnektionistische Ansatz, fanden neuronale Netzwerke keine Berücksichtigung. In einer Fussnote gegen Ende des Textes erklärt er, dass er diesen Ansatz weggelassen habe, weil er eine Spielerei sei. Später hat er sich zusammen mit dem MIT-Mathematiker Seymour Papert die Mühe gemacht, die maliziöse Fussnote zu einem rund 300-seitigen Buch auszuweiten und mit grossem mathematischem Aufwand die eigene «Intuition» zu begründen, dass die Beschäftigung mit neuronalen Netzwerken bei der Erforschung der KI nirgendwohin führe. Das Buch, das viele Jahre vor der Drucklegung 1969 in Entwürfen herumgeboten wurde, zielte auf Frank Rosenblatt, einen Jugendfreund Minskys aus der Zeit, als beide in New York die Bronx High School of Science besuchten.

Rosenblatt, der Mathematik und Psychologie studiert hatte, feierte gegen Ende der 1950er Jahre wissenschaftliche Erfolge mit einem «Perceptron» genannten Modell eines neuronalen Netzwerks. Es wurde 1957 erstmals in einem wissenschaftlichen Aufsatz beschrieben. Rosenblatt verwirklichte das «Perceptron» als Software-Simulation, aber auch in Form von Hardware. Der 1958 vorgestellte Mark-1-Perceptron-Computer ist erhalten geblieben, er kann in Washington in einem Museum der Smithsonian Institution besichtigt werden. Hier wird KI fassbar, hier kann man neuronale Netzwerke mit Händen greifen: Es ist ein Gewirr von Drähten, das einen ganzen Kleiderkasten füllt. Mithilfe einer Matrix von lichtempfindlichen Elementen konnten sie Zahlen erkennen; eine «Tobermory» genannte Version eines «Perceptron»-Computers konnte gesprochene Sprache verstehen. Die Journalisten waren von diesem lernfähigen «Computer Embryo» («New York Times») schwer beindruckt.

Rosenblatt war nicht der Einzige, der sich in den 1950er Jahren mit künstlichen neuronalen Netzwerken beschäftigte. Erwähnenswert sind etwa auch die Arbeiten von Bernard Widrow (Stanford University) oder Charles Rosen (Stanford Research Institute). Doch in den 1970er Jahren war der Konnektionismus, waren neuronale Netzwerke in der computerwissenschaftlichen Forschung amerikanischer Institute kein Thema mehr; in den populärsten KI-Lehrbüchern der 1980er Jahre wird dieser Ansatz nicht mehr erwähnt. Es gab aber noch eine kleine, verschworene Gemeinschaft von Wissenschaftern, die diesen Ansatz weiterverfolgten. Sie kamen oft von europäischen Universitäten und verfügten über eine Ausbildung in Psychologie oder im Bereich der Biowissenschaften.

Geoffrey Hinton zum Beispiel: Er hatte seine akademische Karriere in den 1960er Jahren als Psychologiestudent an der Cambridge University begonnen, traf dann später nach seiner Promotion an der University of California in San Diego auf die amerikanischen Psychologen David Rumelhart und James McClelland. Diese drei Wissenschafter bildeten den Kern einer «Parallel Distributed Processing Research Group». Dieses Forscherteam, zu dem etwa auch Sejnowski gehörte, begründete in den 1980er Jahren mit einer Serie von wissenschaftlichen Publikationen ein Comeback der künstlichen neuronalen Netzwerke – oder, wie die «New York Times» damals beobachtete, eine «konnektionistische Gegenrevolution». An erster Stelle steht hier die vielgelesene «Bibel» des Konnektionismus, das mehr als 1000 Seiten umfassende zweibändige Werk «Parallel Distributed Processing: Explorations in the Microstructure of Cognition» (1987). Die Forscher der PDP Research Group konnten darin zeigen, dass – anders als von Minsky und Papert vorausgesagt – grosse, vielschichtige neuronale Netzwerke, die über Mechanismen der Fehlerrückführung verfügen, durchaus in der Lage sind, im Bereich der Mustererkennung schwierige Aufgaben zu lösen.

Hinton lehrt heute an der University of Toronto. Zudem leitet er die KI-Forschung bei Google. Er ist auch nach seiner Zeit mit der PDP Research Group immer wieder mit bedeutenden Publikationen aufgefallen. Erwähnenswert ist etwa eine Innovation im Bereich der Bilderkennung, die mithilfe von sogenannten Deep Convolutional Neural Networks die Erkennungsrate stark erhöhte. Der Aufsatz hierzu aus dem Jahr 2012 gehört mit über 40 000 Erwähnungen im Bereich der KI-Forschung zu den meistgelesenen. Im selben Jahr konnte Hinton zusammen mit Forschern von Google, IBM und Microsoft im Bereich der Spracherkennung einen Durchbruch vermelden. Nach Jahren der Stagnation brachten diese bemerkenswerten Leistungen die KI wieder zurück ins öffentliche Gespräch. 2006 war der «50th Anniversary Summit of Artificial Intelligence» im Tessin – abgesehen von der NZZ – in keiner Schweizer Zeitung erwähnt worden. Doch nur wenige Jahre später schien das Interesse der Journalisten an allem, was irgendwie mit KI im Zusammenhang steht, unbegrenzt zu sein.

***

Es gibt innerhalb der KI neben den Symbolikern und den Konnektionisten auch noch andere «Stämme»: die Bayesianer etwa, die Analogisten oder die Genetiker. Doch in der Geschichte der KI waren die Symboliker und die Konnektionisten – oder wie sie auch genannt werden: die «Programmierer» und die «Netzwerker» – die hauptsächlichen Widersacher. Es geht hier nicht nur um unterschiedliche Forschungsansätze: Hinter den beiden Paradigmen stehen unterschiedliche Vorstellungen davon, was Intelligenz ist und was den Menschen ausmacht. Die verschiedenen Denkstile verweisen auf verschiedene Weltanschauungen.

***

Die Fortschritte bei der Erforschung der KI wurden oft als Schaukampf zwischen Mensch und Maschine inszeniert. Die Maschine sollte zeigen, dass sie Menschen ersetzen kann. Nachdem die KI-Forscher jüngst viele Erfolge feiern konnten, geht die Angst um: Werden die Menschen aus dem Arbeitsprozess verdrängt? Alle grossen Beratungsunternehmen haben sich schon zu Wort gemeldet, Studie um Studie versucht darzulegen, welche Berufsleute bald schon ohne Arbeit sein werden, von Maschinen aus dem Arbeitsmarkt gedrängt: Buschauffeure und Buchhalter haben schlechte Karten, Coiffeure und Kosmetikerinnen dürfen sich Hoffnungen machen. Laut einer vielzitierten Studie der University of Oxford sind in den USA durch den computertechnischen Fortschritt knapp die Hälfte aller Jobs bedroht. Andere Studien geben sich mit weniger zufrieden. Der Prozentsatz der gefährdeten Arbeitsstellen mag variieren, die Resultate unterscheiden sich, doch in der Herangehensweise ähneln sich all diese Studien: Es geht um ein «Wir gegen die».

Es ist absehbar, dass die KI die Welt und auch die Arbeitswelt stark verändern wird. Doch dieser Umbruch wird sich nicht anhand von Arbeitslosenstatistiken erfassen lassen. Die künstlich intelligenten Maschinen werden sich im Berufsleben vieler Menschen bemerkbar machen, aber nicht als Konkurrenten, sondern als Kollegen. Eine KI, die nicht in der Lage ist, sich mit natürlicher Intelligenz zu verbünden, ist zum Scheitern verurteilt. Um bei der «kollaborativen Intelligenz» mitzukommen, müssen die Maschinen lernen, das menschliche Gegenüber bei der Lösungsfindung einzubeziehen, sie müssen lernen, sich selber zu hinterfragen, mit Unsicherheiten umzugehen, zu improvisieren. Sie werden nicht nur Lösungen liefern müssen, sondern auch Lösungswege, nicht nur Antworten, sondern auch Fragen.

Die Ausgestaltung der Mensch-Maschine-Schnittstelle, das Interface-Design, ist ein Forschungsthema, das innerhalb der Computerwissenschaft seit den 1960er Jahren viel Beachtung gefunden hat. Als Ahnherr dieser Forschungstradition gilt der amerikanische Elektroingenieur Doug Engelbart. Er hat unter anderem die Computermaus erfunden. Er arbeitete in den 1960er Jahren am Stanford Research Institute im Silicon Valley nur wenige hundert Meter entfernt vom «Artificial Intelligence Laboratory» der Stanford University. Hier hatte McCarthy das Sagen. Es heisst, dass Engelbart und McCarthy sich nicht ausstehen konnten. Als bei einer Begegnung McCarthy von seiner Mission berichtet habe, die Maschinen intelligent zu machen, habe Engelbart geantwortet: «Was? Das alles machen Sie für die Maschinen? Und was machen Sie für die Menschen?»

Engelbart wollte die Computertechnik dazu nutzen, die menschlichen Fähigkeiten zu erweitern. Sein Labor nannte er «Research Center for Augmenting Human Intellect». Die Intelligenzerweiterung («Intelligence Augmentation», IA) gilt als Gegenentwurf zur Artificial Intelligence (AI). Der von McCarthy propagierte symbolische Ansatz prägte während Jahrzehnten die Erforschung der KI. Und auch als dieses Paradigma in den 1980er Jahren an Bedeutung verlor, blieb der KI die Menschenferne erhalten.

5. Fortschritt – oder so tun als ob?

Dies ist einer der besten Computerwitze, er ist insbesondere gut geeignet, den gegenwärtigen Stand bei der Erforschung der künstlichen Intelligenz kurz und knapp zu beschreiben – mehr noch: Es ist laut der britischen Tageszeitung «The Guardian» «the world’s greatest universal joke», der Witz schlechthin, es ist – so Wikipedia – ein Witz, der eine fast schon kultische Verehrung geniesst und sich in Literatur und Kunst und auch in der Populärkultur in unzähligen Anspielungen zeigt, es ist ein überaus lustiger Witz, der aber auch nachdenklich stimmt, denn er enthält eine abgrundtiefe Wahrheit, es ist – gleichzeitig – auch einer der kürzesten Witze. Er lautet: 42.

Überaus kluge Computerwissenschafter auf einem entfernten Planeten hätten einst, so berichtet Douglas Adams in seinem Science-Fiction-Bestseller «The Hitchhiker’s Guide to the Galaxy» (1979), einen Computer daraufhin programmiert, die allerletzte, «ultimative» Frage zu beantworten und das Leben, das Universum und überhaupt alles zu erklären. Die Abarbeitung dieses Programms habe sehr viel Zeit in Anspruch genommen, erst nach 7,5 Millionen Jahren kamen die Berechnungen zu einem Ende.

Und dann war die Antwort da, und sie lautete – 42.

42? 42! Was bedeutet das? Die Nachkommen der Programmierer wundern sich. Niemand weiss mehr genau, was einst dem Computer als Frage zur Bearbeitung übergeben worden war. Die Antwort war jetzt da, aber die genaue Fragestellung ist während der langen Wartezeit vergessen gegangen. Wenn die Antwort 42 ist, was ist dann die dazupassende «ultimative» Frage? Die Menschen beschliessen, ein Computerprogramm zu schreiben, das als Resultat die Frage ausgibt, die zur bereits bekannten Antwort passt. Leider dauern die Berechnungen wiederum Äonen.

***

Lange war die Erforschung der künstlichen Intelligenz (KI) erfolglos, sie brachte interessante Lösungsansätze hervor, aber keine Lösungen. Seit ein paar Jahren überschlagen sich die Erfolgsmeldungen. Doch leider sind die Lösungswege oft nicht nachvollziehbar. KI-Systeme, die im Rahmen von Machine-Learning-Prozessen geschaffen wurden, präsentieren sich als schwarzer Kasten, ihr Innenleben bleibt rätselhaft. Es gibt keinen Bauplan, keinen Quelltext, der die Funktionsweise dieser Software beschreibt. Bei neuronalen Netzwerken bilden Millionen von Neuronen und Abermillionen von Verknüpfungen eine überaus komplexe Apparatur, bei der im Verlauf eines langwierigen Trainingsprozesses Milliarden von Drehreglern und Stellschrauben automatisch so justiert werden, dass ein Eingangssignal das gewünschte Resultat bewirkt. Wie kann man beweisen, dass diese Apparatur zuverlässig funktioniert? Wie kann man wissen, dass man ihr vertrauen kann?

Die künstlich intelligente Software ist wie ein «Idiot savant» manchmal zu Spitzenleistungen fähig, manchmal abgrundtief dumm. Doch wenn KI bald auch den Arzt, den Banker oder den Chauffeur ersetzen soll, möchte man schon gern wissen, woran man ist. Die Software sollte in der Lage sein, einen Kreditentscheid, eine Krebsdiagnose oder eine Notbremsung zu begründen.

Die künstlich intelligenten Maschinen sind wie Tiere, die rechnen können, aber nicht reden. Was geht vor im Kopf eines Fischs, der im Rahmen von zoologischen Experimenten Rechenaufgaben löst? Auch Salamander besitzen numerische Fähigkeiten, auch Bienen haben ein mathematisches Flair. Es gibt wissenschaftliche Berichte über eine Schimpansin, die nicht nur rechnen, sondern die Zahlen auf Papier auch lesen konnte. Von einem Papagei wird berichtet, der die Zahlen am Ende seiner Berechnungen laut hersagen konnte.

Und dann gab es da auch Hans, das Pferd, das die Resultate von Rechenaufgaben durch Klopfen mit den Hufen kommunizierte. Der «Kluge Hans» sorgte einst mit seinen Rechenkünsten für Schlagzeilen, bis man herausfand, dass er mit Zahlen gar nichts anfangen konnte. Wie oft es klopfen musste, entnahm das Pferd der Mimik und der Körperhaltung des Menschen, der die Rechenaufgaben stellte. Hans ist im Ersten Weltkrieg ums Leben gekommen, seine Betreuer und ihre eigenartigen tierpädagogischen Konzepte sind vergessen. Was aber blieb, ist der Kluger-Hans-Effekt: Er beschreibt bei Experimenten oder Befragungen schwer feststellbare, störende Einwirkungen.

Es gibt den Kluger-Hans-Effekt auch in der Computerwissenschaft. Klaus-Robert Müller, Professor an der Technischen Universität Berlin, verwendet ihn im Titel eines wissenschaftlichen Aufsatzes (2019), den er zusammen mit Kollegen des Fraunhofer Heinrich-Hertz-Instituts, der Korea University und der Singapore University of Technology and Design erarbeitet hat. Die Forscher haben die Fähigkeiten von KI-Systemen überprüft, sie wollten herausfinden, ob hinter den guten Leistungen intelligente Entscheidungen stehen oder nur statistisch erfolgreiche Zufälligkeiten. In öffentlichen Auftritten hat Müller die Lösungsverfahren von KI-Software auch schon als «Schummelalgorithmen» bezeichnet. In dem erwähnten Aufsatz äussern sich die Forscher zurückhaltender. Sie möchten die jüngsten Erfolge der KI «nuancierter» betrachten, so sagen sie, es gelte «der gegenwärtigen Begeisterung» «Worte der Vorsicht» gegenüberzustellen.

Müller gehört zu einer rasch grösser werdenden Gruppe von Computerwissenschaftern, die sich nicht nur für den Input und den Output von KI-Systemen interessieren, sondern auch für das, was dazwischen liegt. Sie möchten eine «explainable AI» (XAI) schaffen, eine künstliche Intelligenz, die sich der natürlichen Intelligenz, dem Menschen, erschliesst. Spätestens seit 2017 die Forschungsagentur der amerikanischen Streitkräfte, die Defense Advanced Research Projects Agency (DARPA), XAI zu einem Schwerpunktthema ihrer Forschungsförderung erklärt hat, geniesst das Thema die Aufmerksamkeit vieler Computerwissenschafter. Es gibt jährlich stattfindende Fachkonferenzen und internationale Workshops, die dem Thema gewidmet sind; Bücher und Übersichtsartikel in diesem Bereich verweisen im Literaturverzeichnis auf Hunderte von Arbeiten, die grösstenteils nach 2016 publiziert worden sind. Alles ist im Fluss, es gibt viele Ideen, aber auch offene Definitionsfragen, grundlegende Unklarheiten: Wann ist eine Erklärung erklärend?

Und es gibt auch ernstzunehmende Wissenschafter, die die Bemühungen um eine «explainable KI» als unnötig erachten. Man verlasse sich ja auch auf das eigene Gehirn, obwohl man nicht genau verstehe, wie es funktioniert, sagen sie. Yoshua Bengio (Université de Montréal) versucht die Unerklärbarkeit von KI-Software positiv zu deuten als «künstliche Intuition». Geoff Hinton (University of Toronto, Google) hat sich in einem Interview in der Monatszeitschrift «Wired» gegen XAI gewandt mit dem Argument, dass man ja von Menschen auch nicht verlange, dass sie ihre Entscheidungen begründeten. Menschen verliessen sich auf ihr Bauchgefühl, rationale Erklärungen würden oft erst nachträglich konstruiert. Hintons Äusserungen sind vor allem für die Ohren von Juristen gedacht, er möchte verhindern, dass die Gesetzgeber der KI-Software Vorgaben machen. Doch diese Intervention kommt zu spät, es gibt beispielsweise im neuen europäischen Datenschutzrecht seit 2018 Bestimmungen, die als ein «Recht auf Erklärung» gedeutet werden können. Europäische Firmen, die bei der Verarbeitung von Kundendaten KI-Software einsetzen, müssen sich darauf einstellen, dass sie im Rahmen eines Gerichtsprozesses ihre Algorithmen oder Meta-Algorithmen erklären müssen.

Müller und seine Kollegen haben Systeme untersucht, die visuelle Informationen verarbeiten. Die Ergebnisse sind vernichtend, die Hälfte der untersuchten Modelle täuscht Intelligenz nur vor. Da ist zum Beispiel diese Software, die mit hoher Zuverlässigkeit auf Fotos Pferde erkennen kann. Während der Trainingsphase wurden dem System Bilder mit Pferden gezeigt, bald kannte es sich mit Pferden aus und war in der Lage, auch auf Bildern, die es noch nie zu Gesicht bekommen hatte, Pferde oder das Nichtvorhandensein von Pferden zu erkennen. Doch Müller und seine Kollegen konnten mit ihren Methoden zeigen, dass die Software keine Augen hat für Pferde. Es war einfach so, dass die in der Trainingsphase und bei den anschliessenden Tests verwendeten Pferdefotos alle aus demselben Archiv stammten und an derselben Stelle mit demselben Copyright-Vermerk gekennzeichnet waren. Die Software erkannte nicht Pferde, sondern Copyright-Hinweise.

Oder da ist diese Software, die sich anhand eines Computerspiels von Atari das Flippern beigebracht hat. Die Software analysiert die Vorgänge auf dem Bildschirm und versucht dann das Game so zu steuern, dass es eine möglichst hohe Punktzahl erreicht. Sehr schnell war die Software am virtuellen Flipperkasten besser als jeder Mensch. Doch Müller et al. fanden heraus, dass die Software gar nicht flippert. Die Software hatte herausgefunden, dass es möglich ist, die virtuelle Spielfläche zu kippen, so dass der Ball zwischen zwei Schlagtürmen stecken bleibt, wodurch der Punktezähler in die Höhe getrieben wird. Im wirklichen Leben würde diese Spielstrategie einen «Tilt» und den Abbruch des Spiels provozieren. Das Atari «Pinball Game» war aber offenbar nicht auf einen Spieler vorbereitet, der flippert, ohne die Flipperhebel zu bedienen.

Diese Programme kommen zwar vielleicht zu interessanten Resultaten, aber sie tun es auf krummen Wegen. Deswegen sind sie nicht vertrauenswürdig. Wo solche Verfahren beispielsweise bei medizinischen Diagnosen eingesetzt werden, bilden sie eine Gefahr: «Ich möchte so nicht behandelt werden», sagte Müller bei einer Anhörung im Deutschen Bundestag.

Die KI ist in der Medizin in jüngster Zeit mit erstaunlichen Fähigkeiten aufgefallen. Vor allem in der bildgebenden Diagnostik erweist sich diese Software als sehr leistungsfähig. Es gibt Berichte von Computern, die Augenerkrankungen, Brustkrebs oder bösartige Veränderungen der Haut zuverlässiger erkennen können als menschliche Experten. Doch es braucht nicht viel, um die Urteilskraft der Software zu schwächen. Forscher der Harvard Medical School haben 2019 gezeigt, dass medizinische Bildaufnahmen nur geringfügig verändert werden müssen, um die künstlich intelligenten Diagnosesysteme in die Irre zu führen. Nachdem das Bild einer gutartigen Hautveränderung vom Computer richtig interpretiert worden war, führte eine für menschliche Augen nicht wahrnehmbare Bearbeitung des Bildes zu einer neuen Diagnose: Der Computer glaubte nun mit hoher Wahrscheinlichkeit eine bösartige Erkrankung vor sich zu haben.

Man nennt solche Eingabedaten, die mit Absicht so gestaltet wurden, dass sie KI-Systeme täuschen, «Adversarial examples». Ian Goodfellow, Christian Szegedy und weitere Forscher von Google machten diesen Begriff 2014 populär, als sie einige – so der Titel ihres vielzitierten Aufsatzes – «verblüffende Eigenschaften von neuronalen Netzwerken» beschrieben: Es kann vorkommen, dass eine Software, die bei der Klassifizierung von Bildern oder bei der Handschriftenerkennung Höchstleistungen erbringt, völlig versagt, wenn die Bilder oder die handgeschriebenen Zahlen, die den Input bilden, nur sehr geringfügig und für das menschliche Auge nicht wahrnehmbar verändert worden sind.

Auch durch abstrakte Muster lassen sich neuronale Netze täuschen: Der Computer entdeckt nun mit hoher Sicherheit konkrete Dinge, sieht einen Pandabären oder eine E-Gitarre, wo das menschliche Auge nur Farben und Formen oder Rauschen erblickt. Diese Arbeiten zeigen, dass die Computer bei der Bildanalyse anders vorgehen als Menschen, dass sie die Bilder nur sehr oberflächlich analysieren. Nicht nur Bilder lassen sich manipulieren, sondern auch akustische Eingabesignale: Es ist gelungen, in ein Video gesprochene Befehle einzubetten, die das menschliche Ohr nicht wahrnehmen kann, die sich aber der automatischen Spracherkennung mitteilen konnten. Software für die Gesichtserkennung wird blind, wenn sich die Menschen eine speziell präparierte Brille aufsetzen oder eine Mütze mit eingebauten Infrarot-Leuchtdioden. 3-D-Drucker lassen sich ebenfalls für die Herstellung von «Adversarial examples» missbrauchen: Eine harmlose Plastic-Schildkröte liess die künstlich intelligente Überwachungskamera ausrasten, sie glaubte ein Gewehr entdeckt zu haben.

Texte lassen sich so umformulieren, dass sie künstliche Intelligenz verwirren. Das mussten zuerst die Entwickler von künstlich intelligenten Spam-Filtern bemerken. Der Effekt konnte auch genutzt werden, um eine Software, die sich mit Filmkritiken auskennt, zu täuschen. Eine positive Besprechung wurde plötzlich als Verriss taxiert, nachdem einige Wörter durch Synonyme ersetzt worden waren. Interessant sind die Schwächen der Übersetzungssoftware von Google: Bestimmte Orthographiefehler bei der Eingabe können dazu führen, dass der ganze Satz in der Übersetzung einen völlig neuen Sinn erhält. Enttäuschungen erlebten auch die Entwickler einer künstlich intelligenten Malware-Abwehr: Kleinste Veränderungen bei der Schadsoftware, die ihre Gefährlichkeit nicht verminderten, konnten den Schutzmechanismus aushebeln.

Viele dieser Angriffe erzeugen bei unterschiedlichen neuronalen Netzwerken ähnliche Ergebnisse, viele lassen sich erfolgreich auch dann nutzen, wenn man die innere Struktur eines neuronalen Netzwerks nicht kennt. Wo ein Angreifer den Trainingsprozess beeinflussen und das Trainingsmaterial verändern kann, hat er Möglichkeiten, die Schwächen der KI-Software gemäss seinen Wünschen auszugestalten. Das musste Microsoft erfahren, als sie bei der Entwicklung eines Tay genannten Chat-Bots die Internet-Öffentlichkeit mit einbezog. Durch den Austausch von Twitter-Kurzmeldungen sollte die Software lernen, sich mit Menschen zu unterhalten. Doch viele Gesprächspartner machten sich einen Spass daraus, Tay mit Dummheiten zu füttern. Bald begann die künstlich intelligente Software rassistische und sexistische Parolen zu verbreiten und musste vom Netz genommen werden.

Die Veränderung des Trainingsmaterials in böswilliger Absicht wird in der Fachliteratur als Giftangriff (Data Poisoning) beschrieben. Mit solchen Angriffen ist zu rechnen, wo öffentliche Online-Daten für das Training genutzt werden oder wo das Training externen Anbietern überlassen wird. Forscher der New York University haben gezeigt, wie durch eine Veränderung des Lernprozesses eine schwer auffindbare Sicherheitslücke in eine KI-Software eingebaut werden konnte. Diese Software erkennt Verkehrszeichen sehr zuverlässig. Doch sobald ein gelber Zettel auf ein Stopp-Schild geklebt wurde, interpretierte sie diese Tafel als Hinweis zum Beschleunigen. Die Forscher nennen diese modifizierten neuronalen Netzwerke «Badnets». Sie unterscheiden sich bei oberflächlichen Tests nicht von unveränderten Netzwerken, doch sobald der Angreifer, der die Schwachstelle kennt, den erforderlichen Input bereitstellt, kann er das erlernte Fehlverhalten ausnutzen.

Der letzte Schrei in Sachen KI ist KI-Software, die KI-Software ohne menschliches Zutun erzeugt. Ein künstliches neuronales Netzwerk zu konstruieren und zu trainieren, ist ein aufwändiger Prozess – das Automatic Machine Learning soll diese Arbeit stark vereinfachen. Wenn es ein Problem ist, dass die innere Funktionsweise von künstlichen neuronalen Netzwerken dem Menschen verschlossen bleibt, ist es dann eine gute Lösung, wenn diese Netzwerke durch ebendiese Netzwerke automatisch erzeugt werden?

***

Die «verblüffenden Eigenschaften» von neuronalen Netzwerken haben Hunderte von Forschungsarbeiten inspiriert, es wurden sehr viele Schwachstellen entdeckt. Gleichzeitig hat sich auch die Erforschung von Abwehrmassnahmen intensiviert. Es ist ein Rüstungswettlauf in Gang gekommen; neue Abwehrmassnahmen bringen die Entwicklung neuer Angriffsmethoden voran. Wer am Ende obsiegen wird, ist nicht abzusehen. Fest steht bisher nur, dass wirkungsvolle Schutzmassnahmen den Trainingsaufwand stark erhöhen und die Genauigkeit eines KI-Systems vermindern. Goodfellow und Nicolas Papernot von Google glauben, dass es einfacher ist, eine KI-Software anzu-greifen, als sie zu verteidigen. Sie haben ein «Cleverhans» genanntes Werkzeug entwickelt, mit dem die Sicherheit von KI-Software unter standardisierten Bedingungen getestet werden kann.

Das Eigenschaftswort «intriguing» im Titel des berühmten Aufsatzes von Szegedy und Goodfellow lässt sich mit «verblüffend» übersetzen oder auch mit faszinierend, spannend, neugierig machend. Es geht um eine Überraschung, um etwas Unerwartetes, in jedem Fall aber um eine Eigenschaft, die bei Computersystemen, denen man wichtige Aufgaben anvertrauen möchte, nicht willkommen ist. KI-Systeme auf der Basis von künstlichen neuronalen Netzwerken zeigen sich als schwarze Boxen, manchmal ist auch von einer «Magical Box» (Clark Barrett, Stanford University) oder gar von «schwarzer Magie» die Rede (Ronny Ronen, Intel). In einem vielbeachteten Vortrag anlässlich einer Preisverleihung (2017) für seine Verdienste als KI-Forscher hat der Computerwissenschafter Ali Rahimi (Google) seine Wissenschaftskollegen hart kritisiert. «Ich fühle mich überwältigt durch den Erfolg in diesem Forschungsgebiet. Wir sind heute sehr viel besser dran, aber wir sind auch schlechter dran.» Rahimi kritisiert, dass viele Wissenschafter die Software, die sie entwickeln, nicht mehr verstehen. Er vergleicht die KI-Forschung mit der mittelalterlichen Alchemie, einer Pseudowissenschaft, die Resultate vorweisen, diese aber nicht erklären konnte.

Der Widerspruch berühmter KI-Forscher liess nicht lange auf sich warten: Rahimis Vortrag besitze Unterhaltungswert, schrieb Yann LeCun (New York University, Facebook), doch der Vergleich mit der Alchemie sei nicht nur beleidigend, er sei falsch. In der Geschichte der Technik seien oft neue Methoden entwickelt und in der Praxis fruchtbar gemacht worden, bevor man sie theoretisch vollständig habe erfassen können. Die Dampfmaschine sei da gewesen, bevor es gelungen sei, ihre Funktionsweise mittels der Thermodynamik zu erklären. Man könne James Watt nicht vorwerfen, dass er nicht auch noch vollbracht habe, was später die Physiker Nicolas Carnot und Hermann von Helmholtz geleistet hätten. Rahimis These sei nicht nur falsch, sie sei auch gefährlich, wenn sie die Experimentierlust der KI-Forscher bremsen würde. «Sich auf Methoden zu beschränken, die theoretisch erklärbar sind, und andere abzulehnen, die bessere Resultate erbringen, aber theoretisch schwer fassbar sind, ist so, wie wenn man die verlorenen Autoschlüssel unter der Strassenlaterne sucht, obwohl man sie anderswo verloren hat.»

LeCun hat recht. Immer wieder waren es in der Geschichte der Technik die Bastler, die Tüftler und Tinkerer, die sich als erste auf neue Gebiete vorgewagt haben, die Innovationsprozesse in Gang setzen und der Wissenschaft neue Wege aufzeigen konnten. Doch es ist ein langer Weg, der von Johann Helfrich von Müllers Staffelwalzen-Rechenmaschine zum iPhone oder von der Wattschen Dampfmaschine zum modernen Maschineningenieurwesen führt. Ali Rahimi ist beizupflichten, wenn er die KI-Forscher darauf hinweist, dass sie noch einen langen Weg vor sich haben; LeCun hat Zustimmung verdient, wenn er vermutet, dass der Weg begehbar ist.

Der Programmierer eines neuronalen Netzwerks ist nicht Programmierer, er ist – wie Andrej Karpathy sagt – ein «Kurator», dessen hauptsächliche Aufgabe es ist, durch die Auswahl von geeigneten Lernbeispielen die Selbstjustierung des Netzwerks im gewünschten Sinn zu beeinflussen. Karpathy leitet bei Tesla die Entwicklung von künstlich intelligenter Software für autonome Fahrzeuge. In einem vielbeachteten Aufsatz hat er neuronale Netzwerke als grundlegend neue Art von Software, als «Software 2.0», beschrieben. Die geringfügige Erhöhung der Versionsnummer verweist auf einen fundamentalen Unterschied, und diesen Unterschied muss im Auge behalten, wer über die aktuellen Herausforderungen der KI nachdenkt.

Die Software-Ingenieure, die neuronale Netzwerke konzipieren, schreiben nicht Algorithmen, die dem Computer vorgeben, was er zu tun hat, sondern sie entwerfen Meta-Algorithmen, die die Voraussetzungen schaffen, dass der Computer sich selber programmieren kann. Die herkömmlichen Methoden des Software-Engineering sind für Software 2.0 schlecht geeignet; die Software 2.0 hat – das zeigen «Schummelalgorithmen» und die «Adversarial examples» – eine «Software Crisis 2.0» verursacht. Erstmals setzte Ende der 1960er Jahre eine «Software-Krise» die Fachwelt in Aufregung. Die Experten entdeckten, dass ihnen die Komplexität der Computersysteme über den Kopf gewachsen war. Als Antwort auf diese Krise wurde das Software Engineering erfunden, eine Ingenieursdisziplin mit Betonung auf Disziplin. Der Spaghetti-Code wurde durch «strukturiertes Programmieren» beseitigt. Es gibt heute, als Folge jahrzehntelanger Forschungsbemühungen, Werkzeuge und Verfahren, die es ermöglichen, auch grössere Softwaresysteme so zu gestalten, dass sich ihre Korrektheit mathematisch verifizieren lässt. Doch diese Werkzeuge eignen sich nicht für Software 2.0. Es braucht jetzt ein Software Engineering 2.0.

***

Es braucht ein Software Engineering 2.0, aber nicht ein Software Engineering 2001. Diese Zahl, die auf einen berühmten Science-Fiction-Film verweist, auf «2001: A Space Odyssey» von Stanley Kubrick, eignet sich zur Charakterisierung der Bemühungen, die Sicherheitsfragen rund um eine zukünftige Artificial General Intelligence (AGI) zu klären. Eine künstliche Intelligenz auf diesem Niveau, auf Augenhöhe mit dem Menschen, gibt es nicht und es gibt auch keine Anzeichen, dass es sie je geben könnte. Was aber wäre, wenn es sie gäbe? Falls es sie aber einmal gäbe, so spekuliert das Software Engineering 2001, könnte sie sich verhalten wie der Besen im Gedicht «Der Zauberlehrling» von Johann Wolfgang von Goethe: Sie könnte ein Eigenleben entwickeln und im Bemühen, den Vorgaben des Programmierers zu gehorchen, Schaden anrichten.

Eine moderne Version der Zauberlehrling-Geschichte hat sich der schwedisch-britische Philosoph Nick Bostrom ausgedacht. Der dumme Besen ist hier ein KI-System, das, zur Herstellung von Büroklammern abgerichtet, sich selber weiterentwickelt und nach einer Intelligenzexplosion in übermenschliche Sphären abhebt. Der «Paperclip maximizer» ist nun also klüger als der klügste Mensch, aber er kommt nicht auf die Idee, dass die Nachfrage nach Büroklammern begrenzt ist. Er beginnt die Herstellung von Büroklammern zu verbessern, er beschlagnahmt alle Ressourcen, die sich auf der Welt und im Weltall für die Herstellung von Büroklammern einsetzen lassen. Bald gäbe es keine Menschen mehr, das Universum füllte sich mit Büroklammern.

Das Software Engineering 2001 hat viele Computerwissenschafter in Bann gezogen. Sie beschäftigen sich etwa mit der Frage, wie ein Ausschaltknopf konstruiert sein müsste, der den «Paperclip maximizer» und andere KI-Systeme mit übermenschlichen Fähigkeiten stoppen könnte auch dann, wenn diese Systeme einen Überlebenswillen hätten. Dieser Hauptschalter wurde 2016 in einem wissenschaftlichen Aufsatz als «Big Red Button» beschrieben, und in dieser farbenprächtigen Form hat das Software Engineering 2001 viele Journalisten begeistert.

Ein KI-Entwickler, der über einen «Big Red Button» nachdenkt, erinnert an einen Bauingenieur, der beim Bau einer Hängebrücke Airbags einplant, um, wenn die Halteseile reissen, den Einsturz abzumildern. Besser wäre es, aufgrund von genauen Berechnungen die richtigen Seile einzuziehen. Der als Verfasser eines populären KI-Lehrbuchs bekannte Computerwissenschafter Stuart Russell (University of California, Berkeley) schlägt vor, die AGI-Systeme so zu programmieren, dass sie ihren Daseinszweck nicht kennen. Dann hätten sie auch keinen Grund, dem Menschen, der den Ausschaltknopf betätigen will, in den Arm zu fallen. Aber wenn die Software klüger ist als der Mensch, wie soll der Mensch dann fähig sein, ihr etwas vorzumachen?

Das Software Engineering 2001 stelle eine «unnötige Ablenkung» dar, sagt Andrew Ng (Stanford University). Diese Forschung sei ungefähr so wichtig, wie die Beschäftigung mit der Frage, was man dereinst gegen die Überbevölkerung auf dem Mars tun könne. Doch Russell verteidigt sein Interesse an dem Thema: Ein bemannter Raumflug zum Mars sei heute möglich, da sei es berechtigt, sich auch mit den längerfristigen Folgen einer solchen Weltraummission zu beschäftigen. Doch wenn ein Klimaphysiker sich heute mit der Frage beschäftigte, welche Auswirkungen dereinst eine Besiedelung des roten Planeten 225 Millionen Kilometer von der Erde entfernt haben könnte, wäre das eine skandalöse Verschwendung menschlicher Intelligenz.

Das Software Engineering 2001, dieser Hang zum Belletristischen, überhaupt: Das dichte Geflecht von Science-Fiction-Träumereien, das die KI nach wie vor umgibt, ist der Nutzbarmachung dieser Technik nicht nur nicht förderlich, sondern behindert sie.

Das Thema KI erlebt einen Boom, doch dieser Boom – so lehrt die Vergangenheit – wird nicht ewig anhalten. Immer wieder gab es in den vergangenen 60 Jahren Phasen der Euphorie, immer wieder wurden die hochfliegenden Hoffnungen enttäuscht. Jede «Nouvelle AI» verschliss sich zu einer «good old fashioned AI», auf jeden Boom folgte der Absturz, auf jeden KI-Sommer ein KI-Winter. Im Schlusswort zur ersten Ausgabe des «AI Index» hat sich Michael Wooldridge (Oxford University) mit der Frage beschäftigt, nicht ob es dereinst wieder einmal einen KI-Winter geben könnte, sondern wie die seriöse KI-Forschung den bald bevorstehenden KI-Winter übersteht.

Es gebe «derzeit eindeutig eine KI-Blase», schreibt er, und es stelle sich die Frage, ob diese Blase platzen werde oder ob es gelingen könnte, die heisse Luft «sanft» entweichen zu lassen. «Meine grosse Sorge ist, dass wir einen weiteren KI-Winter erleben werden, ausgelöst durch Ernüchterung nach den massiven spekulativen Investitionen, die wir gerade erleben. Es gibt viele Scharlatane und Schlangenöl-Verkäufer da draussen, die sofort bereit sind, was auch immer sie tun, als KI zu verkaufen». Da aber die KI wissenschaftlich betrachtet Substanzielles hervorgebracht habe, glaube er nicht, dass der bevorstehende KI-Winter die Forschung werde bremsen können.

6. Wie es weitergehen könnte

«Öffnet automatisch», heisst es auf der Tür, die offen steht, auch wenn niemand das Haus betreten oder verlassen will. Schneeflocken wirbeln in die Eingangshalle, kalte Luft strömt herein. Der Türöffner macht seltsame Geräusche – ein Klopfen, Stottern, Schnarren –, er versucht die offene Tür zu öffnen, unermüdlich, wieder und immer wieder. Der Besucher betritt das Zürcher Strauhof-Museum, um sich eine Ausstellung über KI anzuschauen. Da ist es erheiternd, von einem Automaten begrüsst zu werden, der den Kopf verloren hat.

Die Ausstellung «Frankenstein» sollte 2018 im Zürcher Literaturmuseum dem berühmten Roman von Mary Shelley anlässlich des 200. Geburtstags Reverenz erweisen. Ein «Impuls» für die Ausstellung, so schreiben die Kuratoren im Katalog, sei die Vorstellung gewesen, «dass aus künstlicher Intelligenz bald autonome Wesen hervorgehen». Die künstliche Intelligenz (KI) – von den Kuratoren konsequent mit grossem K geschrieben – sei das «prägende Narrativ unserer Zeit». «Es scheint, als hätte Mary Shelley ihre Erzählung exakt für unsere Zeit geschrieben – jetzt, da wir beginnen, Maschinen und Künstliche Intelligenzen mit einem eigenen Leben zu entwickeln.»

Die Geschichte von Dr. Frankenstein und seinem Monster geht nicht gut aus, wir wissen es. Die Kreatur zerstört zwar nicht ihren Schöpfer, aber mehrere Menschen, die diesem lieb sind. Heisst das nun, dass auch künstliche Intelligenz gefährlich ist? Die Ausstellungsmacher geben keine Antwort. Sie möchten nur Fragen aufwerfen: Schaffen wir mit der KI «neue unkontrollierbare Monster»? «Sind wir in der Lage, mit den Konsequenzen unseres Handelns umzugehen?»

Die KI, dieses «prägende Narrativ», zeigte sich in der der Ausstellung auf rund einem halben Dutzend Bildschirmen. Die Beispiele wirkten zufällig ausgewählt, sie sollen wohl hauptsächlich unterhaltsam sein. Man konnte einem Computer zuschauen, der ein für Menschen entwickeltes Computergame spielt oder sich mit einem Chatbot unterhalten. «Chatbot» als Bezeichnung für eine gesprächsfähige Software stammt aus den 1990er Jahren, der Prototyp eines solchen Programms wurde von dem deutschstämmigen amerikanischen Computerwissenschafter Josef Weizenbaum in den 1960er Jahren geschaffen. Diese Software heisst Eliza. Mit Hilfe einer Computertastatur kann man mit ihr lange Gespräche führen. Sie wird nie müde und es gelingt ihr immer wieder, mit Rückfragen dem Gespräch eine neue Wendung zu geben. Der Witz an der Sache ist, dass diese Eliza überaus simpel gestrickt ist. Lässt man die Liste mit den Schlüsselbegriffen und die Sammlung mit den vorgefertigten Antworten weg, umfasst der Quelltext dieser Software nur gut 100 Zeilen.

Diese Einfachheit ist geeignet, die mit grossem K geschriebene künstliche Intelligenz zu «demaskieren». Weizenbaum benutzt dieses Verb in dem wissenschaftlichen Aufsatz, in dem er Eliza 1966 vorstellte. Einleitend heisst es dort: «Im Bereich der künstlichen Intelligenz leisten Maschinen erstaunliche Dinge, die auch sehr erfahrene Beobachter blenden. Aber sobald ein bestimmtes Programm demaskiert und seine innere Funktionsweise in einer verständlichen Sprache erklärt wird, zerbröckelt seine Magie; es offenbart sich als blosse Ansammlung von Prozeduren, von denen jede nachvollziehbar ist.»

In jüngster Vergangenheit haben sich die Chatbots rasch vermehrt. Viel Aufmerksamkeit fand 2017 im Internet das Streitgespräch zwischen Vladimir und Estragon, zweier Chatbots, die sich gegenseitig wortreich beschuldigten, Chatbots zu sein. Die beiden waren auch im Strauhof zu Gast, auf einem Grossbildschirm liess sich ihr Geschwätz verfolgen. Eine mit Hilfe von vorgefertigten Phrasen künstlich generierte sprachliche Äusserung des einen Chatbots dient dem anderen als Input, auf den er mit Hilfe von vorgefertigten Phrasen künstlich intelligent reagiert. Dieser Dialog ist völlig absurd, er erinnert an eine Dada-Performance. Auch wenn die Bots innert Sekundenbruchteilen grammatikalisch korrekte Sätze bilden können, die manchmal Bezug nehmen auf das Vorhergesagte, so reden sie doch völlig aneinander vorbei. Ähnlich beziehungslos stand im Strauhof Mary Shelley neben dem Silicon Valley, das Buch neben dem Bildschirm, die Erzählung neben dem «Narrativ».

***

KI ist eine Ingenieursdisziplin und eine Wissenschaft und ein Diskurs über die Bedingungen des Menschseins. Die Beschäftigung mit dieser KI-Dreifaltigkeit führt in ein Spiegelkabinett, in dem man immer wieder sich selber begegnet und sich am Spiegelglas den Kopf anstösst. Man nennt das den Eliza-Effekt.

Als Erster hat Weizenbaum diesen Effekt beschrieben. Ihm fiel auf, dass viele Menschen das Gespräch mit seiner simplen Software sehr schätzten, dass sie sich von ihr verstanden fühlten. Es gab sogar Psychiater, die – von Eliza ermuntert – vorschlugen, das psychotherapeutische Gespräch zu computerisieren. Die Begegnung mit Freunden seiner Kreatur veranlasste Weizenbaum zum Nachdenken über «die Macht der Computer und die Ohnmacht der Vernunft» (1978). In diesem Buch kritisiert er weniger die KI als vielmehr die Computeranwender, die schnell bereit sind, im Computerbildschirm ihr Ebenbild zu erkennen.

Es gab eine KI vor der KI, und es gab, als die KI unter dem Namen KI von sich reden machte, auch andere Vorschläge für die Bezeichnung dieser Wissenschaft. Was wäre, wenn «KI» nicht für künstliche Intelligenz, sondern für «Verarbeitung komplexer Informationen» (KI) stünde? Könnte ein anderer Name, könnte der Verzicht auf das Wörtchen «Intelligenz» den Eliza-Effekt dämpfen? Aus technischer Sicht bliebe alles unverändert, dieselben Programme, dieselben Paradigmen, nur der Name würde ausgetauscht. Wäre es denkbar, dass Science-Fiction-Autoren und Journalisten sich durch diese KI herausgefordert fühlen? Kaum. Käme jemand auf die Idee, diese KI mit «unkontrollierbaren Monstern» in Verbindung zu bringen? Wohl eher nicht. Diese KI verlangt nach Erklärungen, die andere KI hingegen vermittelt einem das Gefühl, immer schon gewusst zu haben, worum es geht. Diese KI ist ein Quelltext, diese andere ein Narrativ, diese ein verstaubtes Buch, diese andere ein glitzerndes Glasperlenspiel.

***

Schaffen wir mit der KI «neue unkontrollierbare Monster»? Die Kuratoren der «Frankenstein»-Ausstellung haben keine Antwort. Im Zentrum der Ausstellung klafft eine Lücke. Es ist ganz still: Da steht es, erhöht auf einem Podest: das Narrativ. Es ist ein zerbeulter Koffer, übersät mit Aufklebern. Er ist ganz offensichtlich weit herumgekommen, es wäre interessant, ihn zu öffnen. Doch ist es nicht erlaubt, dieses Ausstellungsstück zu berühren, die Lücke zu untersuchen, die Stille zu durchbrechen.

Die Kuratoren haben eine Antwort, aber sie wagen es nicht, sie laut auszusprechen. Und das müssen sie auch nicht, denn sie liegt jedem Besucher schon auf der Zunge. Spätestens, wenn er das berühmte Filmplakat gesehen hat mit Boris Karloff in der Rolle des Monsters, das leichenblasse Gesicht vom Maskenbildner Jack Pierce kunstvoll entstellt, die wüste Narbe auf der Stirn, spätestens, wenn er dieses Bild gesehen hat, und er kann es nicht übersehen, denn es ist – mit einer rot eingefärbten Narbe – auch Teil der Titelseite des Ausstellungskatalogs, spätestens dann wird jeder Besucher sofort bereit sein, die KI als Gefahr zu empfinden.

Doch die Gefahr der KI liegt nicht in der KI selbst, sondern in der Verhaltensweise von Menschen, die sich einerseits weigern, die KI zu demaskieren, das Narrativ zu demontieren, andererseits aber sofort bereit sind, sich zu ducken in passiver Erwartung einer Zukunft, in der die KI alle Bereiche des menschlichen Daseins durchdringt.

Es gibt ein altes Märchen, aufgeschrieben vom polnischen Schriftsteller Stanislaw Lem, das sich als Deutungsrahmen für künstliche Intelligenz anbietet. Es geht in dem Märchen um den Krieg zwischen zwei Planeten. Der eine Planet wird von Menschen bewohnt, der andere gehört den Robotern. Die Roboter, so heisst es, seien gefährliche Maschinen, sie wollten alle Menschen, alles Menschliche vernichten. Die Menschen schicken einen der Ihren als Kundschafter auf den Roboterplaneten, um herauszufinden, was die blechernen Feinde im Schilde führen. Der Kundschafter tarnt sich als Roboter. Doch er wird schon bald entdeckt. Er könne sein Leben retten, so sagt man ihm, wenn er sich weiterhin bemühe, alle menschlichen Regungen zu unterdrücken. Der Gefangene willigt ein und gibt sich Mühe, als Roboter unter Robotern nicht aufzufallen. Später findet er dann heraus, dass es auf dem Roboterplaneten gar keine Roboter gibt. All die Gestalten, die sich da so maschinenhaft gebärden, sind Menschen, die als Kundschafter hierherkamen, sich als Roboter tarnten, entdeckt wurden und – um das eigene Leben zu retten – einwilligten, sich als Roboter auszugeben. Hinter der Bedrohung, die von den Robotern ausgeht, stehen Menschen, die Roboter spielen.

Das Thema KI erlebt einen Boom. Dieser Boom wird befeuert durch die Vorstellung, dass diese Technik die Welt sehr bald sehr grundlegend verändern wird. Die Vorstellung nährt sich aus der Beobachtung, dass die KI einen Boom erlebt.

Anders als es die «Jö, wie herzig!»-Medienberichte vermuten lassen, birgt die KI durchaus Gefahren. Doch diese Gefahren sind nicht so gefährlich, wie es der journalistische «Achtung, Gefahr!»-Reflex unterstellt. Es wird in absehbarer Zukunft keine Superintelligenz geben, die den Menschen versklavt. Aber es wird zum Beispiel Überwachungskameras geben, die Gesichter erkennen und identifizieren können. In grosser Zahl verbreitet, könnten solche Kameras den Charakter dessen, was man den öffentlichen Raum nennt, verändern. Wollen wir das? Es wird bald Chatbots geben, die in der Lage sind, per Telefon einfache Sprechhandlungen – Arzttermin, Tischreservation – selbstständig auszuführen. Wird man von solchen Chatbots verlangen dürfen, dass sie sich im Gespräch mit Menschen als Chatbots zu erkennen geben? Hinter den jüngsten Erfolgen der KI stehen rasch gewachsene Datenmengen im Internet, welche die Grundlage bilden für das Training von KI-Systemen. Es sind ein paar wenige amerikanische Firmen – Amazon, Facebook, Google –, die über die Möglichkeiten verfügen, solche grossen Datensammlungen aufzubauen und im Hinblick auf KI-Anwendungen auszuwerten. Darf man darauf hoffen, dass die Marktkräfte diese Machtkonzentration auflösen, oder soll man, wie das Viktor Mayer-Schönberger (Oxford University) tut, eine «Daten-Sharing-Pflicht» vorsehen?

Nach Jahrzehnten der Stagnation sind bei der Erforschung der KI jüngst wichtige Durchbrüche gelungen. Es wird aber noch Jahre dauern, bis diese wissenschaftlichen Erkenntnisse im Alltag einer grossen Zahl von Menschen Bedeutung erlangen. Wie schon bei früheren technischen Revolutionen neigen die Kommentatoren auch bei der KI dazu, die kurzfristigen Auswirkungen zu überschätzen, die langfristigen aber zu unterschätzen. Wir müssen den Blick in die Ferne schweifen lassen. Es gibt mehrere Wege, Verzweigungen werden sichtbar, es zeigen sich Zukünfte. Darüber müssen wir reden. Unaufgeregt, ohne Ausrufezeichen.

Anmerkungen

1. Endzeitstimmung

Bostrom, N. (2014). Superintelligence: Paths, dangers, strategies. Oxford, Oxford University Press.

Frank, M., Wang, D., Cebrian, M., Rahwan, I. (2019). The evolution of citation graphs in artificial intelligence research. Nature Machine Intelligence 1, 79–85.

Kurzweil, R. (2005). The Singularity Is Near: When Humans Transcend Biology. New York, Viking.

Shoham, Y., Perrault, R., Brynjolfsson, E., Clark, J., Manyika, J., Niebles, J., Lyons, T., Etchemendy, J., Grosz, B. & Bauer, Z. (2018). The AI Index 2018 Annual Report.

2. Können Maschinen denken?

Armstrong, S., Sotala, K., & Héigeartaigh, S. (2014). The errors, insights and lessons of famous AI predictions – and what they mean for the future. J. Exp. Theor. Artif. Intell., 26, 317-342.

Hayes, P.J., & Ford, K.M. (1995). Turing Test Considered Harmful. IJCAI (International Joint Conferences on Artificial Intelligence).

Levesque, H.J. (2011). The Winograd Schema Challenge. AAAI Spring Symposium: Logical Formalizations of Commonsense Reasoning.

Nematzadeh, A., Burns, K., Grant, E., Gopnik, A., & Griffiths, T.L. (2018). Evaluating Theory of Mind in Question Answering. EMNLP (Empirical Methods in Natural Language Processing).

Turing, A.M. (1950). Computing Machinery and Intelligence. «Mind» Vol. LIX, No. 236.

Lighthill, J. (1973). Artificial Intelligence: A General Survey. In: Artificial Intelligence: a paper symposium, Science Research Council.

Zimmerli, Ch. Die Digitalisierung entzieht der Philosophie eine ihrer Grundlagen. NZZ 11.9.2018.

3. Invasion der Elektronengehirne

Edwards, P.N. (1996). The Closed World: Computers and the Politics of Discourse in Cold War America. Cambridge/MA, London MIT Press.

Fritz, W.B. (1996). The Women of ENIAC. IEEE Annals of the History of Computing, 18, 13-28.

Hörl, E. (2008). Das kybernetische Bild des Denkens. In: Die Transformation des Humanen. Beiträge zur Kulturgeschichte der Kybernetik. Hrsg. v. M. Hagner und E. Hörl. Frankfurt/M, Suhrkamp.

Martin, C.D. (1993). The Myth of the Awesome Thinking Machine. Comm. ACM, 36, 120-133.

McCulloch, W.S., & Pitts, W.H. (1943). A logical calculus of the ideas immanent in nervous activity. 1943. Bull. Math. Biophysics, Vol. 5. pp. 115–133.

Rutishauser, H., Speiser, A., Stiefel, E. (1951). Programmgesteuerte digitale Rechengeräte (elektronische Rechenmaschinen). Mitteilungen aus dem Institut für angewandte Mathematik an der ETH.

Turing, A. M. (1937). On Computable Numbers, with an Application to the Entscheidungsproblem. Proceedings of the London Mathematical Society, s2-42: 230-265.

Von Neumann, J. (1945). First draft of a report on the EDVAC.

Von Neumann, J. (1958). The Computer and the Brain. New Haven/London: Yale University Press.

Wiener, N. (1948). Kybernetik: Regelung und Nachrichtenübertragung im Lebewesen und in der Maschine.

4. Rückblick und Vorblick

Brooks, R.A. (1990). Elephants don’t play chess. Robotics and Autonomous Systems, 6, 3-15.

Frey, D.C., & Osborne, M.A. (2013). The Future of Employment: How susceptible are Jobs to Computerisation? Technological Forecasting & Social Change 114 (2017) 254–280.

Hinton, G.E., Deng, L., Yu, D., Dahl, G.E., Mohamed, A., Jaitly, N., Senior, A.W., Vanhoucke, V., Nguyen, P., Sainath, T.N., & Kingsbury, B. (2012). Deep Neural Networks for Acoustic Modeling in Speech Recognition. IEEE Signal Process. Mag., 29, 82-97.

Kline, R.R. (2011). Cybernetics, Automata Studies, and the Dartmouth Conference on Artificial Intelligence. IEEE Annals of the History of Computing, 33, 5-16.

Krizhevsky, A., Sutskever, I., & Hinton, G.E. (2012). ImageNet Classification with Deep Convolutional Neural Networks. Comm. ACM, 60, 84-90.

LeCun, Y., Bengio, Y., & Hinton, G.E. (2015). Deep Learning. Nature, 521, 436-444.

McCorduck, P. (1979). Machines who think. A Personal Inquiry into the History and Prospects of Artificial Intelligence. San Francisco, Freeman & Co.

Minsky, M. (1961). Steps toward Artificial Intelligence. Proceedings of the IRE, 49, 8-30.

Minsky, M., & Papert, S. (1969). Perceptrons. An introduction to computational geometry. Cambridge, MA MIT Press.

Mirowski, P. (2004). McCorduck's Machines Who Think after Twenty-Five Years. Revisiting the Origins of AI. AI Magazine, 24, 135-138.

Olazaran, M. (2010). A Sociological Study of the Official History of the Perceptrons Controversy.

Pfeifer, R., & Bongard, J.C. (2007). How the body shapes the way we think. A new view on intelligence. Cambridge/MA, London MIT Press.

Rumelhart, D.E., & McClelland, J.L. (1986). Parallel Distributed Processing: Explorations in the Microstructure of Cognition. Cambridge/MA, London MIT Press.

Rumelhart, D.E., Hinton, G.E., & Williams, R.J. (1986). Learning representations by back-propagating errors. Nature, 323, 533-536.

Sejnowski, T.J. (2018). The Deep Learning Revolution. Cambridge/MA, London MIT Press.

5. Fortschritt – oder so tun als ob?

Biggio, B., & Roli, F. (2018). Wild Patterns: Ten Years After the Rise of Adversarial Machine Learning. ACM Conference on Computer and Communications Security.

Bostrom, N. (2003). Ethical Issues in Advanced Artificial Intelligence.

Finlayson, S.G., Kohane, I.S., & Beam, A.L. (2019). Adversarial Attacks on Medical AI. Science vol, 363 Issue 6433.

Gu, T., Dolan-Gavitt, B., & Garg, S. (2017). BadNets: Identifying Vulnerabilities in the Machine Learning Model Supply Chain. CoRR, abs/1708.06733.

Hadfield-Menell, D., Dragan, A.D., Abbeel, P., & Russell, S.J. (2017). The Off-Switch Game. AAAI Workshops.

Lapuschkin, S., Wäldchen, S., Binder, A., Montavon, G., Samek, W., & Müller, K.P. (2019). Unmasking Clever Hans predictors and assessing what machines really learn. «Nature Communications».

Szegedy, C., Zaremba, W., Sutskever, I., Bruna, J., Erhan, D., Goodfellow, I.J., & Fergus, R. (2014). Intriguing properties of neural networks. CoRR, abs/1312.6199.

6. Wie es weitergehen könnte

Cohen, J.S. (2018). How a horror story haunts science. Science, 359 6372, 148-150.

Mayer-Schönberger, V., Ramge, T. (2017). Das Digital. Markt, Wertschöpfung und Gerechtigkeit im Datenkapitalismus. Berlin Econ.

Rhees, D.J. (2009). From Frankenstein to the pacemaker. IEEE Engineering in Medicine and Biology Magazine, 28.

Weizenbaum, J. (1966). Eliza. A Computer Program for the Study of Natural Language Communication Between Man and Machine. Comm. ACM, 9, 36-45.

Weizenbaum, J. (1978). Die Macht der Computer und die Ohnmacht der Vernunft. Frankfurt/M. Suhrkamp.

Vontobel-Stiftung

Die 1993 gegründete Vontobel-Stiftung hält als unabhängige Aktionärin ein grösseres Aktienpaket der Vontobel Holding AG, das ihr Stiftungskapital bildet.

Die Vontobel-Stiftung unterstützt gemeinnützige Anliegen in den Bereichen Soziales, Ausbildung, Medizinische Forschung, Geschichte, Natur und Kultur.

Zudem publiziert sie eine Schriftenreihe, die aktuelle und grundlegende Themen aufgreift und diese in einer vertiefenden und zugleich allgemein verständlichen Form zur Darstellung bringt.

Stiftungsrat

Dr. Hans-Dieter Vontobel (Präsident)

Dr. Urs Landolf (Vizepräsident)

Dr. Maja R. Baumann-Brunner

Ines Brunner Hefti

Nicole von Däniken-Wettergren

Dr. Patrick Hünerwadel

Jürg Läderach

Dr. Andrea V. Picenoni

Dr. Othmar Schwank

Prof. Dr. Giatgen A. Spinas

Geschäftsführerin: Jeannette Frei

Vontobel-Stiftung

Tödistrasse 17

CH-8002 Zürich

Telefax +41 (0)44 283 58 65

www.vontobel-stiftung.ch

Redaktion Schriftenreihe

Dr. Martin Meyer

Karin Garone

Redaktion Schriftenreihe

Vontobel-Stiftung

Tödistrasse 17

CH-8002 Zürich

Telefax +41 (0)44 283 58 65

schriftenreihe@vontobel-stiftung.ch

www.vontobel-stiftung.ch

Diese Publikation der Vontobel-Schriftenreihe wird von der Vontobel-Stiftung kostenlos abgegeben. Der Weiterverkauf oder eine wie auch immer geartete kommerzielle Nutzung sind daher nicht zulässig.

Erhältliche Publikationen der Vontobel-Schriftenreihe

Nummer

Titel/Autor

Jahr

2320

Künstliche Intelligenz / Stefan Betschon

2019

2310

Leben beschreiben / Werner Vogt

2019

2300

Goldene Aussichten / Ralf Dutli

2019

2290

Diplomatie / Paul Widmer

2018

2280

Urbaner Raum / Benedikt Loderer

2018

2270

Die neue Weltunordnung / Eric Gujer

2018

2260

www... In den Echokammern des Internets / Stefan Betschon

2018

2250

Die Welt der Vögel / Franziska Witschi

2017

2240

Migrationen / Sebastian Conrad

2017

2230

Währungsreform / Thomas Fuster

2017

2220

Sammeln / Iso Camartin

2017

2210

Grenzen / Michael Hermann

2016

2200

Singapur / Urs Schoettli

2016

2190

Gärten der Welt / Hans von Trotha

2016

2180

Legenden vom Gotthard / Hans-Peter Bärtschi

2016

2170

England / Marion Löhndorf

2015

2160

Schulden / Marc Beise

2015

2150

UA – Ukraine zwischen Ost und West / Ulrich Schmid

2015

2140

Schlaraffia / Rudolf Trefzer

2015

2130

Bühnen des Zeitgeists / Gerhard Stadelmaier

2014

2120

Schweizer Mythen / Volker Reinhardt

2014

2100

Auf den Hund gekommen / Josef H. Reichholf

2014

2080

Scham und Schamlosigkeit / Andrea Köhler

2013

2040

Une certaine idée de la France / Jacqueline Hénard

2012

2010

Klimahysterie / Josef H. Reichholf

2011

1990

Europa / Dirk Schümer

2011

1940

Kühe / Marc Valance

2010

1880

Prachtkleider / Franziska Witschi

2009

1850

Aufklärungen / Dan Diner

2008

1840

Wegweiser / Iso Camartin

2008

1740

Spinnen / Franziska Witschi

2006

1470

Maestro / Martin Meyer

2001

Die aktuelle Liste findet sich unter www.vontobel-stiftung.ch

Die Publikationen der Vontobel-Schriftenreihe sind teils auch in elektronischer Form verfügbar.

Für eBook-taugliche Lesegeräte können die Broschüren von www.vontobel-stiftung.ch/schriftenreihe heruntergeladen werden.

Unentgeltlich zu beziehen bei:

Vontobel-Stiftung

schriftenreihe@vontobel-stiftung.ch

Tödistrasse 17

Telefax +41 (0)44 283 58 65

CH-8002 Zürich

www.vontobel-stiftung.ch