Klug verdrahtet

Endlich Licht in der Black Box

Von Joachim Müller-Jung
26.05.2019
, 14:34
Künstliche Intelligenz und Robotik im Heinz Nixdorf MuseumsForum.
Künstliche Intelligenz lenkt und entscheidet schon, aber sie lässt im Dunkeln, wie genau sie dabei vorgeht. Zwei Algorithmen aus der Medizinforschung führen vor, was wir gewinnen, wenn Rechner Auskunft geben (müssen).
ANZEIGE

Wenn lernende Maschinen anfangen, uns nicht nur damit zu imponieren, was sie nach dem Training aus einem riesigen Datenpool gelernt haben, sondern auch erklären, wie sie zu ihren Entscheidungen kommen, sind wir ein großes Stück weiter mit der Künstlichen Intelligenz. Solche „erklärenden KI-Systeme“ sind derzeit extrem gesucht. Ende der Black Box, der Mensch will sich auf die Algorithmen verlassen können. Und das kann er vielfach im Alltag nur, wenn er auch wissen kann, auf welcher Grundlage die Algorithmen ihre Entscheidung treffen. Begründungen sind also gefragt.

Können praxistaugliche KI-Systeme so konstruiert werden? Durchaus, wie zwei aktuelle Veröffentlichungen in „Nature Machine Intelligence“ zeigen. Roland Eils vom Berlin Institute of Health (BIH) und Dominik Niopek vom Heidelberger Institut für Pharmazie und Molekulare Biotechnologie waren zusammen mit Studenten erfolgreich darin, einen erklärenden Algorithmus zu entwickeln.

ANZEIGE

Masterstudent Julius Upmeier zu Belzen, Erstautor der Studie, hat ein künstliches neuronales Netzwerk – „DeeProtein“ – dazu gebracht, seine Vorhersagen über die dreidimensionale Struktur von Proteinen offenzulegen. Aus der Abfolge von oft Hunderten Proteinbausteinen, den Aminosäuren, können lernende Maschinen heute zwar passabel vorhersagen, wie das Protein am Ende aussehen könnte. Worauf die Vorhersage gründet, bleibt aber meist im Dunkeln. „DeeProtein“ schaut dem Algorithmus nun quasi über die Schultern, während der Rechner anhand der chemischen und physikalischen Veränderungen seinen nächsten Schritt beim Zusammenbau des Proteins vollzieht.

Der „Arztbrief“ vom KI-Rechner

Ähnlich auskunftsfreudig ist ein Algorithmus der Universität von Florida, den Pathologen genutzt haben, um anhand der Bilder die Stadien und die Aggressivität von Blasentumoren einzuordnen. Indem sie unterschiedliche neuronale Netzwerke miteinander verbunden haben – „Convolutional Neural Networks“ zur Mustererkennung und ein „Recurrent Neural Network“ zur Texterzeugung –, haben sie nicht nur Diagnosen erhalten, die im Test etwas genauer waren als das Durchschnittsergebnis von siebzehn Pathologen, die KI hat ihnen quasi auch den Arztbrief mitgeliefert. Das System erklärt verständlich, wie es zu der Einstufung des Tumors gekommen ist. Geklärt werden muss freilich noch, wie überzeugend die Ärzte die Begründung finden, auf der sie ihre Therapieentscheidung gründen sollen.

Quelle: F.A.Z.
Joachim Müller-Jung- Portraitaufnahme für das Blaue Buch "Die Redaktion stellt sich vor" der Frankfurter Allgemeinen Zeitung
Joachim Müller-Jung
Redakteur im Feuilleton, zuständig für das Ressort „Natur und Wissenschaft“.
Twitter
  Zur Startseite
Verlagsangebot
Verlagsangebot
Zertifikate
Weiterbildung in der Organisationspsychologie
Sprachkurse
Lernen Sie Italienisch
Englisch
Verbessern Sie Ihr Englisch
Kapitalanlage
Pflegeimmobilien als Kapitalanlage der Zukunft
Tablet
Tablets im Test
ANZEIGE