Helga Nowotny über KI & Ethik

„Ich will den Optimismus nicht aufgeben“

Von Joachim Müller-Jung
01.12.2021
, 17:27
KI muss dem Menschen dienen und nicht umgekehrt, findet Helga Nowotny. (Symbolfoto)
Helga Nowotny ist Falling-Walls-Kuratoriumsmitglied und Gründerin des Europäischen Forschungsrats. Im Interview spricht sie über die Macht der Intelligenz, Big Data und verrät, warum Fridays for Future sie hoffnungsvoll stimmt.
ANZEIGE

Die Bewältigung von Krisen ist ein großes Thema dieser Falling-Walls-Konferenz, Künstliche Intelligenz als Lösungsoption taucht dabei erstaunlich selten auf. In Ihrem neuen Buch* diskutieren Sie die Allgegenwärtigkeit von Big Data und Algorithmen durchaus kritisch. Ist das unser Kardinalproblem: dass wir uns zu wenig bewusst machen, wie KI unterschwellig unser Denken und Verhalten verändert?

Das Thema ist ja sehr wohl präsent. Wir haben gerade diesen Vortrag über die kleinen Roboter gehört, die in unsere Körper gelangen und fähig sind, Medikamente an bestimmte Stellen zu bringen oder drahtlose Stents in Blutgefäße einzuführen. Das alles ist ohne Künstliche Intelligenz undenkbar, ohne dass man groß darüber spricht. Wenn Frau Özlem Türeci darüber spricht, dass es in fünf Jahren gelungen ist, Tumore bedeutend schneller zu sequenzieren, geht das nur mit KI. Sie ist eingebaut in den Prozess der Automatisierung. Das ist ein toller Fortschritt in der Medizin, ebenso wie die Modellierung von komplexen Systemen wie Klimawandel. Die KI ist oft unsichtbar, aber sie ist da.

ANZEIGE

Gleichzeitig zeigen solche Beispiele auch die Schwierigkeiten, die Menschen mit der Automatisierung haben. Denn es braucht die Daten der Bürger, und zwar massenhaft persönliche Daten.

In der Tat, wir liefern unsere Daten ab, unsere ganze soziale Umwelt wird erfasst. Nach meiner Ankunft mit dem Flugzeug in Berlin erhielt ich auf dem Handy eine Nachricht der Bundesregierung der Bundesrepublik Deutschland, die mich willkommen heißt und mich erinnert, die Quarantäne- und Sicherheitsregeln zu befolgen. Das ist Künstliche Intelligenz, die weiß, wo ich gerade bin und wohin ich mich bewege. Ich habe diesem Willkommensgruß nie zugestimmt und nehme an, dass es dafür eine gesetzliche Grundlage gibt, die der Pandemie geschuldet ist. Dennoch zeigt es eben auch die Möglichkeiten des Missbrauchs, und davor haben viele Menschen Angst. Zwischen diesen beiden Möglichkeiten, dem Nutzen und dem möglichen Missbrauch, gilt es nun einen vernünftigen Modus Vivendi zu finden.

Wenn KI Alltag ist, kommt dann der Ruf nach einem digitalen Humanismus, wie jetzt von Ihnen, nicht etwas zu spät?

Man muss immer früher anfangen. Aber wenn man zu früh anfängt, bleibt die Zukunft ein riesiger, spekulativer Projektionsraum. Noch ist es nicht zu spät, aber wir müssen aktiver werden und handeln. Wir müssen dem Gefühl entgegentreten, dass wir der Technologie ausgeliefert sind. Die großen Konzerne sind ökonomisch sehr mächtig, keine Frage, doch gerade deshalb ist staatliche Regulierung das Gebot der Stunde. Auf EU-Ebene ist man dran, einen vernünftigen Mittelweg zwischen dem zu finden, was in den USA und in China läuft.

Wie sieht der Humanismus aus, der in der digitalen Welt nötig wird?

ANZEIGE

Vergleichen wir doch einmal, was uns ein Amazon-Algorithmus alles anbietet, wenn wir ein Buch kaufen. Wir bekommen zig weitere Buchempfehlungen mitgeliefert, die auf unsere Lesevorlieben zugeschnitten sind. Die Daten dazu stammen aus unserem vergangenen Leseverhalten und geben vor, was wir in Zukunft lesen sollen. Als wir jung waren und in die Bibliothek gegangen sind, haben wir die Erfahrung gemacht, uns zwischen den Bücherregalen umzudrehen und plötzlich ein spannendes anderes Buch zu entdecken, das wir gar nicht gesucht haben. Diese Art von Unvorhersehbarkeit und Offensein für Überraschungen gehört zu unserem Menschsein. Wenn wir im Amazon-Universum verbleiben, konsumieren wir genau das, was Amazon möchte. Wenn wir das nicht wollen, müssen wir ausbrechen, und daran erinnert der digitale Humanismus.

Es heißt also auch die analoge Welt zu erhalten und, wenn man so will, in der Metaphorik dieser Konferenz möglicherweise Mauern zu errichten vor dem grenzenlosen Vorrücken der KI?

Mit Mauern habe ich Probleme. Da schwingt immer so etwas Endgültiges, Massives mit. Und wie wir wissen, haben Menschen ihr Leben geopfert, um über Mauern zu kommen. Es braucht vielmehr klare staatliche Vorgaben, was geht und was nicht, doch die Frage bleibt, wer das kontrolliert und ob wir vielleicht nicht schon zu spät mit bestimmten Regeln kommen. Das Gesetz hinkt der Technikentwicklung leider immer hinterher. Deshalb muss der Gesetzgeber flexibel bleiben und immer wieder nachschärfen, was geht und was nicht. Wir können uns auch nicht mit einem Appell an die Ethik begnügen. In meinem Buch erwähne ich eine Studie der ETH Zürich, in der etwa hundert offizielle Dokumente mit ethischen Guidelines für KI von großen Firmen und Regierungen verglichen wurden. Es wurde kein einziges Kriterium gefunden, das in allen Dokumenten vorkommt. Am nächsten kam noch das Prinzip der Transparenz in etwa der Hälfte der Fälle. Aber was wir darunter verstehen, ist keineswegs klar. Es gibt also keinen internationalen ethischen Konsens.

ANZEIGE

Wie wäre es, die Interessen der Mehrheit der Gesellschaft zu berücksichtigen, etwa im Hinblick auf den Schutz der Privatsphäre?

Gerade in den deutschsprachigen Ländern wird der Schutz der Privatsphäre hochgehalten. Doch dann werden völlig unbekümmert auch sehr persönliche Daten den internationalen Konzernen überlassen, einfach weil damit Annehmlichkeiten und Dienstleistungen verbunden sind. Man denkt sich nichts dabei, doch könnten zum Beispiel Fitness-Daten etwas über unsere Gesundheit aussagen und von Versicherungen genutzt werden, um Maluspunkte zu verteilen. In den USA passiert das bereits.

F.A.Z. Digitec: jetzt testen!

Nehmen Sie die digitale Zukunft selbst in die Hand.

Mehr erfahren

Mit KI sind starke Mächte am Werk. Sie möchten, dass diese Mächte gezähmt werden, In Ihrem Buch ist der Begriff Weisheit sogar Zukunftsformel: Future needs wisdom. Weise Maschinen, ein schöner Traum, oder?

Die Idee dazu entstand nach dem Besuch einer früheren Falling-Walls-Veranstaltung. Wir meinen ja, wenn wir das Wort Ethik verwenden oder eine ethische KI fordern, ist alles gut. Dem ist aber nicht so. Die ganze Menschheit dazu zu bringen, nach einheitlichen ethischen Maßstäben zu leben, scheint mir illusorisch. Was wir brauchen, ist ein Ethos der Weisheit in den Institutionen, um auf Einzelfälle zu reagieren und eine größere Kontextsensitivität zu entwickeln. Das ist das Gegenteil zum Durchziehen einer bestimmten Regel oder einem bestimmten Algorithmus blind zu folgen. Bürokratie war eine großartige soziale Erfindung, wie Max Weber feststellte, doch er warnte bereits vor dem ‚eisernen Käfig‘ ihrer Rationalität. Wenn wir Entscheidungen im Geschäfts- oder Alltagsleben zunehmend Algorithmen überlassen, ist das noch viel stärker einschränkend. Die Plattformökonomie zeigt uns, wie geschickt unterschiedliche Operationen und Systeme ineinander verflochten werden, um Profite zu machen. Dabei geht verloren, wer wofür Verantwortung trägt oder wofür zu haften hat. Um diese Logik zu durchbrechen, brauchte es Weisheit. Ich bin da eine optimistische Realistin. Ich will den Optimismus nicht aufgeben, doch vormachen will ich mir auch nichts

Die junge Generation wird mit all den Segnungen und Gefahren groß. Können Sie bei ihnen auch eine solche aufgeklärte Sensibilität feststellen?

Was mich optimistisch stimmt, ist etwa die Fridays-for-Future-Bewegung. Hier ist eine Generation, die für sich in Anspruch nimmt, selbständig zu denken und sich zu artikulieren. Sie streben eine andere Welt an und wollen sie mitgestalten. Es liegt an uns, sie anzuleiten, ihr kritisches Denken auch gegenüber den digitalen Medien anzuwenden, zu hinterfragen, woher die Daten kommen und wie verlässlich ihre Quellen sind. KI wird von Menschen gemacht, und wir dürfen nie vergessen, dass sie uns dienen soll und nicht wir ihr.

ANZEIGE

Die Fragen stellte Joachim Müller Jung.

*Helga Nowotny: „In AI we trust. Power, Illusion and control of predictive Algorithms“, Verlag Polity (2021)

Quelle: F.A.Z.
Joachim Müller-Jung- Portraitaufnahme für das Blaue Buch "Die Redaktion stellt sich vor" der Frankfurter Allgemeinen Zeitung
Joachim Müller-Jung
Redakteur im Feuilleton, zuständig für das Ressort „Natur und Wissenschaft“.
Twitter
  Zur Startseite
Verlagsangebot
Verlagsangebot
Zertifikate
Weiterbildung in der Organisationspsychologie
Sprachkurse
Lernen Sie Italienisch
Englisch
Verbessern Sie Ihr Englisch
Kapitalanlage
Pflegeimmobilien als Kapitalanlage der Zukunft
Tablet
Tablets im Test
ANZEIGE