Zukünftige Schlüsseltechnologien und besorgte Experten – Zur Gestaltungsdynamik des wissenschaftlich technologischen Fortschritts im Fall von KI

Wenn sich Wissenschaftler zu einem öffentlichen Aufruf bewegt sehen, so sind wir gut beraten genau hinzuhören. Erst vor wenigen Monaten druckten die beiden renommierten Fachjournale „Science“ und „Nature“ gleich zwei Appelle von jeweils namhaften Bio-Forschern für eine gesetzliche Rahmengestaltung der neusten technologischen Möglichkeiten, die DNA in menschlichen Embryonalzellen zu verändern. In der letzten Woche nun druckte „Science“ einen weiteren Aufruf zur Regulation wissenschaftlichen Schaffens, diesmal verfasst von führenden Forschern auf dem Gebiet der „Künstlichen Intelligenz“ („KI“). Wohl kaum etwas vermag die Einflüsse und Konsequenzen der heutigen, von vielen kaum mehr erfassbaren Beschleunigung der technologischen Fortschrittsdynamik besser zu verdeutlichen als die Tatsache, dass wir in Fragen möglicher zukünftiger Schlüsseltechnologien in derart kurzer Zeit gleich drei dramatische Appelle zu ihrer gesellschaftlichen Rahmengestaltung von Seiten derer erhalten, die von der jeweiligen Materie am meisten verstehen. Und was die KI in der Zukunft möglich sein lassen wird, steht dem Drama um die mögliche Veränderung des menschlichen Erbgutes um wenig nach.

Zum Hintergrund: Informationsforscher unterscheiden im Allgemeinen zwei Arten von KI und versehen diese mit den Attributen „stark“ und „schwach“. Die „starke KI“ ist eine Form der Intelligenz, die wie der Mensch kreativ nachdenken und Probleme lösen kann und welche sich zuletzt durch eine Form von Bewusstsein auszeichnet. Bei der „schwachen KI“ geht es hingegen zunächst darum, konkrete Probleme zu lösen. Hier ist das Ziel nicht die Nachahmung höherer Intelligenz, sondern die „Simulation intelligenten Verhaltens“ mit Mitteln der Mathematik und Informatik. Dies umfasst Probleme, zu deren Lösung nach allgemeinem Verständnis eine Form von rationaler Intelligenz notwendig ist, wie beispielsweise das Erkennen von Mustern, Sprache, Schachspielen, das Suchen von Webseiten im Internet, das Beweisen von mathematischen Sätzen (durch reines Ausprobieren), das Erlernen und Automatisieren einfacher Handgriffe, oder wie seit einigen Jahren das Suchen bestimmter Informationen aus grossen ungeordneten Datensets. Während die starke KI trotz jahrelanger Forschung bis heute an ihrer grundlegenden Fragestellung gescheitert ist, sind bei der schwachen KI bedeutende Fortschritte erzielt worden. Und um genau diese geht es in der momentanen Diskussion.

Die KI-Forschung besitzt eine eigentümliche Dynamik, in der sich Phasen euphorischer Aufbruchsstimmung mit Perioden tiefster Stagnations-Ernüchterung abwechseln. Bereits in den 1950er-Jahren trieb die Computerpioniere und -forscher eine nahezu grenzenlose Erwartung in Bezug auf die Fähigkeiten von Computern, nur um ein bei zwei Jahrzehnte später erkennen zu müssen, dass die Struktur sequentieller Informationsverarbeitung in herkömmlichen Computern (die so genannte „von-Neumann”-Computer-Architektur“) für die Entwicklung von KI völlig ungeeignet ist. In den 80er und 90er Jahren dann lösten bedeutende Erkenntnisfortschritte zur Dynamik der massive Parallelverarbeitung von Information in unserem Gehirn einerseits und die Möglichkeiten der den Strukturen unseres Denkorgans nachempfundenen „neuronalen Netze“ andererseits eine neue Welle der Begeisterung aus (welche 1993 den Informatiker Vernor Vinge seine bekannte Prognose machen liess, dass wir „innerhalb von 30 Jahren über die technologischen Mittel verfügen werden, um übermenschliche Intelligenz zu schaffen. Wenig später ist die Ära der Menschen beendet.“). Besondere Aufmerksamkeit erzielte AI beispielsweise im Jahre 1997, als es dem Computer Deep Blue von IBM gelang, den damaligen Schachweltmeister Garri Kasparow zu besiegen (heute gilt auch der beste menschliche Schachspieler schon gegen kommerziell erhältliche grössere Schachcomputer als chancenlos). Nur wenige Jahre später sollte diese neue Begeisterung allerdings von der Erkenntnis abgelöst werden, dass Struktur und Funktionalität unseres Gehirns eine unüberschaubare Komplexität aufweist und die Dimensionalität der möglichen Zustandsräume neuronaler Netze schnell astronomisch hohe Werte annehmen kann. Wer heute wiederum die Diskussion unter KI-Forschern verfolgt, erhält schnell den Eindruck, dass ihre Disziplin in eine dritte Phase der Euphorie gelangt ist. Gegenstand dieses neuen Hochgefühls sind die Fähigkeit von immer rechenstärkeren Computern, aus grossen Datensätzen relevante Informationen zu extrahieren, sowie der zunehmend bessere systematische Umgang mit komplexer Information, was populär auch unter dem Stichwort „Big Data“ beschrieben wird.

So appellieren die führenden KI-Forscher eindringlich an die Öffentlichkeit, sich endlich mit ihrer Forschung zu beschäftigen. Es sei „unumgänglich, dass die Gesellschaft jetzt beginnt darüber nachzudenken, wie sie den maximalen Nutzen aus der KI-Forschung zieht“. Maschinelles Lernen habe in den vergangenen beiden Jahrzehnten „dramatische Fortschritte gemacht“, weshalb die künstliche Intelligenz eine jener Technologien ist, die unser Leben einschneidend verändern werden. Eric Horvitz von Microsoft Research illustriert beispielsweise, wie ein Computerprogramm anhand öffentlich verfügbarer Daten zu dem Schluss kommen kann, welche Personen in Zukunft mit einer gewissen Wahrscheinlichkeit bestimmte Krankheiten erleiden werden. So zeigt er auf, dass intelligente Algorithmen aus Twitter- und Facebook-Meldungen einzelner Nutzer eine beginnende Depression erkennen können – noch bevor der Betroffene diese selber erfährt. Und das sei erst der Anfang, so Horvitz: Während es uns maschinelles Lernen potentiell ermöglicht „unser Wissen weiter auszubauen und neue Möglichkeiten für eine verbesserte Gesundheit und Wohlempfinden zu erhalten“, so fällt es damit zugleich dem Einzelnen zunehmend schwer, zu wissen, was über ihn bekannt ist. So fordert Horvitz entsprechende Gesetze als „einen wichtiger Teil der rechtlichen Landschaft der Zukunft, die helfen werden, Freiheit, Privatsphäre und das Allgemeinwohl zu bewahren.“

Der KI-Pionier Stuart Russel zeichnet im gleichen Heft das drastische Bild von uns Menschen in einem Auto, welches auf eine Klippe zufährt und wir dabei hoffen, dass der Benzintank leer ist, bevor wir in den Abgrund stürzen. Er behauptet in seinen Ausführungen gar, dass KI für den Menschen so gefährlich werden kann wie Nuklearwaffen. So müssen, wie Russel ausführt, „Studenten schon heute lernen, dass sich künstliche Intelligenz an menschlichen Werten orientieren muss.“ Schliesslich kann von intelligenten Maschinen, die unsere Werte falsch interpretieren oder anwenden, grosse Gefahr ausgehen.

Es ist auf den ersten Blick erstaunlich, dass ausgerechnet Vertreter von Unternehmen, die an den künftigen Entwicklungen der KI ein starkes kommerzielles Interesse haben, derart drastische Warnungen aussprechen und um staatliche Rahmengesetze und Regulierung förmlich betteln. Doch steckt dahinter die ernste Besorgnis der Forscher, dass politische Entscheidungsträger die technologischen Entwicklungen verschlafen, sie nicht ernst genug nehmen oder sie einfach nicht verstehen. Gleiches trieb die Genforscher vor einigen Monaten zu ihrem Aufruf. KI wie Genforschung sind sehr komplexe Themen, die Ergebnisse produzieren, die selbst Experten möglicherweise nicht mehr in Gänze verstehen. So besitzt der wissenschaftlich-technologische Fortschritt unterdessen eine derart rasante und komplexe Entwicklungsdynamik, dass er sich nicht nur dem geistigen, sondern zunehmend auch dem ethischen Radar der meisten Menschen, sowie dem Gestaltungsraum der allermeisten politischen Entscheidungsträger entzieht.

Wir sollten es daher begrüssen und als einen Akt grossen gesellschaftlichen Verantwortungsbewusstseins auf Seiten der Forscher sehen, wenn sie sich in dieser Form an die Öffentlichkeit wenden. Hören wir ihnen jetzt nicht zu, so müssen wir uns fragen, was es denn überhaupt noch braucht, um ein Bewusstsein für die Dramatik des wissenschaftlich-technologischen Fortschritts unserer Gegenwart zu entwickeln. Denn dass KI sowie zahlreiche andere Technologien unsere zukünftige konkrete Lebenswelt massgeblich prägen werden, ist sicher. Es kommt auf uns selbst an, wie genau dies passieren wird. Im Falle der KI wird dies mit grosser Wahrscheinlichkeit weit über das hinausgehen was eine kürzlich gemachte Bekanntmachung des kalifornischen Künstlers Matt McMullen beschreibt, der ankündigte, dass er Sexpuppen mit künstlicher Intelligenz ausstatten wird, um sie für die Benutzer attraktiver erscheinen zu lassen. Was die besorgten KI-Forscher zu dieser Aussicht meinen, ist leider nicht bekannt.