Künstliche Intelligenz

„Ich halte nichts von Verboten“

Von Philipp Hummel
 - 09:03
zur Bildergalerie

Zu den Weltkonzernen, die sich die digitale Transformation auf die Fahnen geschrieben haben und in der „Partnership on AI“ zusammengeschlossen haben, gehören mittlerweile mehr als 50 Institutionen, darunter auch das Fraunhofer-Institut für Arbeitswissenschaft und Menschenrechtsorganisationen wie Amnesty International und Human Rights Watch. Die Organisation will Künstliche Intelligenz (KI) zum „Nutzen der Menschen und der Gesellschaft“ fördern. In Berlin trafen sich unlängst erstmals alle Partner mit Vertretern unter anderem von Facebook, Google, Apple, IBM und Microsoft. Mit dabei war auch Markus Noga. Der promovierte Informatiker und ehemalige Berater leitet den Bereich Maschinelles Lernen beim deutschen Software-Riesen SAP.

FRAGE: Herr Noga, was erwarten Sie sich von der KI-Partnerschaft?

ANTWORT: Sie bietet eine echte Chance, ein gemeinsames Verständnis zu entwickeln und frühzeitig darüber nachzudenken, was wir mit maschinellem Lernen tun möchten und was vielleicht lieber auch nicht. Ich erhoffe mir, dass diese Organisation tägliche Entscheidungshilfen für jeden bereitstellt, der in dem Bereich arbeitet.

FRAGE: Welche Daten nutzen Sie selbst, um die neuen KI-Werkzeuge für den Einsatz zu trainieren?

ANTWORT: Wir haben weltweit mehr als 365 000 Firmen als Kunden, nach Umsatz berühren 76 Prozent aller Geschäfts-Transaktionen ein SAP-System. Wir haben große Cloud-Infrastrukturen, beispielsweise unsere Business-Netzwerke wie SAP Concur für die Buchung und Abrechnung von Dienstreisen oder den B2B-Marktplatz SAP Ariba, auf dem sich Käufer, Kunden und Lieferanten gegenseitig finden und Geschäfte abschließen können. Das heißt, dass eine beträchtliche Datenmenge bereits in unseren Systemen vorhanden ist. Das sind hervorragende Trainingsdaten für maschinelles Lernen. Selbstverständlich verwenden wir diese aber nur mit Einwilligung der Kunden, unter Wahrung der Vertraulichkeit kundenspezifischer Informationen und der Einhaltung geltender Datenschutzauflagen.

FRAGE: Wenn das geregelt ist, was sind dann die drängendsten Fragen für ihre KI-Partnerschaft?

ANTWORT: Die thematischen Säulen, die die Partnership on AI aufgestellt hat, treffen es schon ganz gut. Zum Beispiel die Säule „Faire, transparente und verantwortliche KI“. 2018 kommt die EU-Datenschutz-Grundverordnung, die besagt, dass Personen ein Recht auf Informationen über automatisierte Entscheidungen haben, die sie betreffen. Wir müssen klären, was das in der Praxis bedeutet und welche Standards dafür nötig sind. Wie erklärt sich heute ein Unternehmen, wenn es sich gegen einen Bewerber oder einen Lieferanten entscheidet? Und wie sind die Anforderungen, die man in Zukunft an die Begründung einer automatisierten Entscheidung stellt? Auch die Frage der Zusammenarbeit von Menschen und Machine-Learning-Systemen ist für uns tägliches Brot. Wie kann man die Unsicherheit in Unternehmensanwendungen repräsentieren, wenn maschinelle Lernverfahren doch nur Wahrscheinlichkeitsangaben machen? Wie kann man diese dem Nutzer verständlich darstellen? Kann man das vielleicht mit visuellen Mitteln lösen und dafür eine gemeinsame Sprache finden? Wenn man mal über den Tellerrand schaut, stellen sich beispielsweise Fragen nach Schulung und Ausbildung für eine sich unter dem Einfluss von Künstlicher Intelligenz ständig verändernde Welt. Ich bin selbst Vater von zwei Kindern. Ich stelle fest, dass unsere Schulen und auch die Universitäten darauf ausgelegt sind, jungen Menschen beizubringen, wie man Tests besteht. Mit einem Bleistift und einem Stück Papier, abgeschnitten von jedem modernen Werkzeug. Wie relevant ist das für Problemlösungen in der heutigen Welt?

FRAGE: Sollte es eine Selbstregulierung geben, die sich die Partnerfirmen im Hinblick auf den Datengebrauch auferlegen?

ANTWORT: Technik ist ja immer erst mal neutral. Was man damit anstellt, ist die Entscheidung derjenigen, die sie verwenden. Ich kann mit maschinellem Lernen eine Software bauen, die den Vertriebsmitarbeitern bei ihren Gesprächen zuhört und beim Chef petzen geht, wenn etwas schiefläuft. Ich kann aber mit derselben Technik auch ein System bauen, das dem Mitarbeiter einen vertraulichen Coach zur Seite stellt. Die Technik wäre die gleiche. Die grundlegende Frage ist: Was sollte ich tun? Wenn man nicht von einem Menschen auf eine bestimmte Weise behandelt werden will, sollte man vielleicht auch keine Software programmieren, die sich dann auf diese Weise verhält. Neue Technologien aufgrund potentieller Risiken per se zu verbieten hielte ich für verheerend. Wir sollten auf breiter Basis Erfahrung sammeln und eine gesellschaftliche Debatte führen.

Frage: Vor kurzem haben sich die Partnerorganisationen erstmals alle in Berlin getroffen. Wie war ihr Eindruck von der Veranstaltung?

ANTWORT: Ich war sehr angetan von dem Treffen. Die Partnership hat dort eine äußerst hochkarätige Gruppe von Menschen aus der Wirtschaft, der Forschung und der Zivilgesellschaft zusammengebracht, die ich so in einem Raum noch nie erlebt habe. Da waren die KI-Verantwortlichen der größten Technologiefirmen dabei. Aber auch führende Universitäten und Vertreter der Zivilgesellschaft wie Amnesty International, UN-Vertreter, die Electronic Frontier Foundation und die American Civil Liberties Union, die zentrale Vereinigung der Bürgerrechtsbewegung in den USA. Eine Auseinandersetzung mit so vielen unterschiedlichen Perspektiven ist auf diesem Level bisher einzigartig.

FRAGE: Wie kam der Kontakt zwischen SAP und der Partnership zustande?

ANTWORT: Wir arbeiten im Bereich Künstliche Intelligenz sehr eng mit strategischen Partner zusammen, beispielsweise mit verschiedenen Teams von Google wie etwa TensorFlow. Über diese Verbindung kam die Frage auf, inwieweit wir uns in einer möglichen Partnerschaft engagieren möchten. Als wir dann die Vision und den sich abzeichnenden Teilnehmerkreis gesehen haben, haben wir gesagt: „Prima, da machen wir mit!“

FRAGE: Wenn man an Anwendungen von künstlicher Intelligenz denkt, fallen einem Beispiele wie automatische Gesichtserkennung und Übersetzungen ein, der Empfehlalgorithmus von Amazon oder autonome Fahrzeuge. Wo steckt dabei für Sie die Intelligenz?

ANTWORT: Um das Phänomen, das von manchen mit dem Begriff „Künstliche Intelligenz“ bezeichnet wird, gibt es momentan einen Hype. Wir sprechen als gute Ingenieure lieber von „maschinellem Lernen“. Es geht darum, dass Computer aus Daten lernen, statt dass wir sie explizit mit Anweisungen zu programmieren. Das schafft die Möglichkeit, auch mit unstrukturierten Informationen umzugehen, was Computer vorher nicht so gut konnten. Dazu gehören beispielsweise geschriebener und gesprochener Text, Fotos, Videos und Sensordaten, etwa aus dem Internet der Dinge. Vor ein paar Jahren kamen sogenannte tiefe neuronale Netze auf, Softwarestrukturen, die vom Aufbau des menschlichen Gehirns inspiriert sind. Man spricht auch von „tiefem Lernen“ oder „Deep Learning“. In relativ kurzer Zeit ist es gelungen, diesen Netzen bei der Erkennung von Bildern, Handschriften oder gesprochener Spracheeine teilweise sogar übermenschliche Leistungsfähigkeit anzutrainieren und vorherige Lösungen zu übertrumpfen.

FRAGE: Diese Art Software kann aus einem Satz bekannter Daten Muster erlernen und das Gelernte auf neue unbekannte Daten anwenden und sie analysieren. Wie will SAP maschinelles Lernen einsetzen?

ANTWORT: Wir wollen diese spezielle Art von Intelligenz künftig in unsere gesamte Produktpalette einbringen. Wir möchten alle Geschäftsprozesse mit einem kleinen „Lerner“, einer Machine Learning-Lösung neu denken und erfinden. Im Finanzbereich oder bei der Kundenbetreuung arbeiten die Menschen beispielsweise häufig nach wiederkehrenden Regeln, die denen von Computerprogrammen ähnlich sind, allerdings sind die Daten nicht sauber strukturiert. Für Machine Learning-Systeme ist das aber nicht unbedingt ein Problem.

FRAGE: Können Sie das an konkreten Beispielen näher erläutern?

ANTWORT: In der Buchhaltung muss man beispielsweise eingehende Zahlungen mit offenen Forderungen abgleichen. Die Kunden zahlen aber mal mehr und mal weniger, bündeln Überweisungen oder es gibt Wechselkursschwankungen. Heute leisten oft noch immer Menschen diesen Abgleich. Wir bieten eine Softwarelösung an, die diese Arbeit mit maschinellem Lernen unterstützt und beschleunigt.

Ein anderes Beispiel: Für Geschäftsreisen erproben wir gerade, diese automatisch zu erfassen und in den SAP-Unternehmenssystemen abzubilden. Eine eingehende Rechnung besteht für den Computer zunächst aus Pixeln. Die Software soll dann lernen, die wichtigen Details wie das Datum, den Rechnungsbetrag, die Währung, den Mehrwertsteuersatz und so weiter herauszulesen. Wenn das funktioniert, müssen nur noch Zweifelsfälle und Ausnahmen von Menschen angefasst werden. Im Bereich Kundenservice haben wir ein System entwickelt, das automatisch Anfragen analysiert und den passenden Teams zuweist. Zudem bietet die Software Lösungsvorschläge an, die in der Vergangenheit den Kunden geholfen haben. Sie kann auch automatisch antworten, wo es sich anbietet.

Quelle: F.A.Z.
  Zur Startseite
Ähnliche ThemenKünstliche IntelligenzSAPAmnesty InternationalHuman Rights WatchBerlinFacebookAppleIBM