Anzeige

Datensammler

Ein totalitäres System

Von Yvonne Hofstetter
 - 18:10
Algorithmen werden ständig optimiert. Ob von Smartphones oder Laptops - die Datenströme versiegen nie Bild: AFP, F.A.S.

Wieder hat die digitale Gesellschaft eine neue Spezies erschaffen, die uns Arbeit abnehmen soll: Agenten. Ein Designmuster für Algorithmen, die Investmententscheidungen für uns treffen oder den städtischen Lieferverkehr steuern: Agenten finden für alles die beste, effizienteste Lösung. Sie sind Optimierer. Und sie sind besser als wir.

Anzeige

In der Investmentindustrie zum Beispiel sind Algorithmen oder „Algos“ gerade dabei, den Beruf des Händlers überflüssig zu machen. Denn Algos treffen auch die besseren Investmententscheidungen. Die Händler dürfen zwar bleiben - aber nur noch als Algo-Babysitter.

Algos sind unermüdliche Datensammler. Sie verarbeiten Marktdaten und setzen sie zu einer Lageanalyse zusammen. Das Ergebnis legen sie dem Entscheidungsträger vor. Und das ist eben nicht mehr der Händler, sondern - ein Algo. Der berechnet dann die optimale Zusammensetzung eines Portfolios. Zum Beispiel im Währungshandel: 5,3 Millionen Eurodollar verkaufen, 2,67 Millionen Pfund Sterling kaufen. Kontrollzyklus: jede Minute. 24 Stunden täglich, fünf Tage in der Woche. Der Algorithmus berechnet und führt die Order aus. Dem Händler bleibt die Aufgabe, die Maschine zu überwachen und zu bedienen.

Ein Agent - eine Architektur zur Anwendung von Algorithmen - lässt sich wie ein Haustier trainieren. Mit Belohnungen, wenn er sein Ziel erreicht, und einer Strafe, wenn er sein Ziel verfehlt. Agenten können fast beliebig intelligent werden. Oder sagen wir besser: beliebig einseitig begabt. Und glauben Sie es ruhig: Es ist fesselnd, mitzuverfolgen, wie ein Agent lernt, optimale Investmententscheidungen zu treffen. Man kann ihn problemlos klonen und so trainieren, dass er jedes gängige Investmentinstrument beherrscht.

Anzeige

Aber bei aller Faszination gibt es auch Grund zur Sorge: Längst breiten Softwareagenten sich in unserem Alltag aus, erforschen unser Denken und Tun. In Höchstgeschwindigkeit rechnen uns Amazon, Google und Twitter vor, was wir wollen, tun oder lassen sollen. Es ist ja auch überaus praktisch, wenn die Maschine für uns denkt. Wir wissen ja: Der Optimierer findet die beste Lösung. Wir lehnen uns zufrieden zurück.

Dabei sind wir nicht nur berechenbar, sondern steuerbar geworden. Der Mensch wird zum Erfüllungsgehilfen optimierender Maschinen. Etwa in der urbanen Logistik: Um die Anzahl von Lkws zu reduzieren, sollen an den Grenzen französischer Großstädte Logistikzentren angesiedelt werden, die mit Hilfe von Agenten die Steuerung des Lieferverkehrs übernehmen. Hierzu werden die Lkws mit Tablet-PCs ausgerüstet, so dass ihr Standort über GPS jederzeit metergenau bestimmt werden kann. Zusätzlich werden auf jedem Tablet-PC Agenten installiert, die „ihren“ Lkw repräsentieren und mit einem Optimierer im Logistikzentrum kommunizieren.

In einem Auktionsverfahren bieten die Agenten dem Optimierer die Auslieferung von Päckchen an, abhängig von ihrer Entfernung zum Empfänger oder Warenlager, den Lieferkosten, der Staulage und der aktuellen Beladung ihres Lkws. Das ökonomischste Angebot bekommt den Zuschlag. Der Fahrer fährt nur noch die Routen ab, die ihm der Agent vorrechnet - und wird damit selbst zum Teil der Maschine. Ohne Maschine geht nichts mehr.

Jedes Smartphone kann eine Wanze sein

So ist das auch an der Börse: Im elektronischen Handel ist die Qualität der Handelsalgorithmen so kritisch für den Ablauf wie die zivile Flugsicherung für den Flugverkehr. Wenn die Flugsicherung versagt, ist das katastrophal. Wenn Handelsalgorithmen versagen, weil die Software fehlerhaft ist oder falsch eingesetzt wird, ist das auch katastrophal: Börsenkurse können innerhalb weniger Minuten ins Bodenlose absacken. Ein „Flash Crash“.

Doch es gibt einen eklatanten Unterschied: Handelsalgorithmen werden von der Finanzindustrie nur in den seltensten Fällen mit der gleichen Sorgfalt behandelt wie Flugsicherungssysteme. Denn Qualitätssicherung ist teuer, langwierig und mindert womöglich den Profit. Bis Tests durchgeführt sind, könnte der Markteffekt, den man ausnutzen will, schon verdunstet sein. Darum gilt: Der Optimierer muss so schnell wie möglich eingesetzt werden.

Hinzu kommt aber noch etwas anderes. Viele Händler, Fonds- oder Investmentmanager, die Handelsalgorithmen einsetzen, verstehen überhaupt nicht, wie sie funktionieren. Darum wissen sie auch nicht, wann ein Algorithmus an seine Grenzen stößt - und das System „bricht“.

Sie verlassen sich blind auf ihre Technologen. „Mach mich reich“ ist der alles überragende Wunsch, hinter dem Sorgfalt stets zurücksteht. Häufig beschränkt sich die Sorgfalt auf die Prüfung wenig relevanter Dinge wie die Analyse historischer Handelsergebnisse - doch anhand eines durchschnittlichen Jahresprofits lässt sich die Qualität eines Algos nicht beurteilen.

Ganz hässlich wird es schließlich, wenn Handelsalgorithmen vorsätzlich Falschinformationen ausgeben, um andere Marktteilnehmer auszuspionieren. Im elektronischen Börsenhandel werden gezielt Täuschungsmethoden eingesetzt, um den Handelspartner zum Kauf oder Verkauf zu veranlassen. In der militärischen Forschung heißt das „intentional lying of counterparties“. An der Börse geht es dabei schlicht um Manipulation und die Destabilisierung von Märkten.

Und es ist gut vorstellbar, dass ähnliche Mechanismen auf unseren Alltag überspringen. Die Manipulation hat es leicht mit Mitspielern, die sich gar nicht widersetzen wollen. Denn Optimierer brauchen Daten - und die holen sie sich von Milliarden von Sensoren, die in unseren technischen Gimmicks eingebaut sind: jedes Smartphone eine Wanze.

Das egoistische System breitet sich aus

Ein Trugschluss zu glauben, bisher sei noch keine Technologie in der Lage, die schiere Datenflut, die wir großzügig bereitstellen, zu verarbeiten. Die Wahrheit ist: Es gibt Technologien, die aus all den Daten Schlussfolgerungen ziehen. Auch der Staat setzt sie gerne ein, wie der gerade bekannt gewordene Einsatz des Überwachungsprogramms „Prism“ durch die amerikanische Regierung dramatisch vor Augen führt.

Wir gehen freigiebig mit unseren Daten um, auch weil wir erfahren: Wer hier nicht mitmacht, mit dem will man keine Geschäfte machen. Wer sich widersetzt, ist ausgeschlossen. Wer keine Daten abgibt, kann nicht durchleuchtet werden. Wer kein Facebook-Profil besitzt, hat schlechtere Chancen auf Arbeit. Doch auch dieses System ist fehleranfällig: Experimente haben gezeigt, dass Angestellte, die sich auf offene Stellen ihrer eigenen Unternehmen beworben haben, von deren Screening-Software als ungeeignet aussortiert wurden.

Darum: Halten Sie Ihre Daten zurück. Wehren Sie sich gegen jede Erfassung, jeden Handel mit Ihren Daten, sei es durch Einwohnermeldeämter oder Finanzbehörden. Ihre Daten beschreiben Ihre Persönlichkeit. Wir Technologen wissen, was wir aus Ihren Daten machen können. Wüssten Sie es auch, Sie wären entsetzt.

Und es gibt noch eine schlechte Nachricht: Das System aus Optimierern und Algorithmen breitet sich rasant aus, die Struktur des Internet macht es höchst robust. Anders als bei einem zentralistischen Design kann man nicht den Stecker ziehen, um es aufzuhalten.

Es bleibt also die bange Frage, was aus uns Nutzern werden soll. Wie sollen wir das ertragen - eine immer stärker werdende Kontrolle und Steuerung, verbunden mit dem Leistungsprinzip des Optimierers, immer der Schnellste, der Beste, die Schönste sein zu müssen? Wir haben es mit einem totalitären System zu tun, das in alle unsere sozialen Verhältnisse hineinwirkt.

Und es gibt sich nicht einmal mehr Mühe, sich zu tarnen. Das System der steten Optimierung des eigenen Vorteils ist auch in sozialen Netzwerken oder im Social Shopping längst zu finden, wo Konsumentendaten mit persönlichen Daten fusioniert werden, um eine noch höhere Ausbeute an Werbeeinnahmen zu schaffen. Von dort breitet sich das egoistische System immer weiter aus.

Lernende Algorithmen vergessen nicht

Doch seine Fokussierung auf die Optimierung des eigenen Vorteils ist zugleich seine Schwäche: Wir kennen die Zielfunktion des Systems und seine Optimierungsparameter. Wir wissen, das Gegenüber soll mit allen Mitteln, auch denen der Täuschung, übervorteilt werden. Was also außer dem eigenen Vorteil könnten wir noch optimieren?

Wir müssen erforschen und erproben, ob kooperative Aktionen wie der freiwillige Verzicht das Gegengift sind, welches ein egoistisches System langfristig zur Strecke bringen kann.

Schon die Reflexion über die falschen Verheißungen von Automatisierung und Optimierung unserer selbstsüchtigen Ziele bedeutet Abkehr vom Mainstream. Der Widerstand kann dort einsetzen, wo wir wieder Standpunkte einnehmen: Im Widerspruch zum Relativismus der letzten vierzig Jahre, in dem alles „gleich gültig“ geworden ist.

Es gilt, sich neu zu besinnen auf das, was uns von der Summe aller Optimierer unterscheidet: das Nachdenken über unsere menschliche Würde und darüber, was vernünftig ist. Die Heranbildung unserer jungen Generation zur Marktarbeiterschaft, die den Bedarf an Fachkräften decken soll, reicht dafür nicht. Erst durch Bildung von Herz und Gewissen können wir in einen Widerspruch eintreten, der nichts anderes bedeutet als eine Rückbesinnung auf „das Wahre, das Gute und das Schöne“.

Wenn wir nichts aus der Geschichte lernen, dann haben uns lernende Maschinen wirklich etwas voraus. Lernende Algorithmen vergessen nicht, und ihre Erinnerung kann in ihrem genetischen Code auf die nächste adaptierte Generation weitervererbt werden. Im Unterschied dazu beginnt jedes Neugeborene ganz von vorn. Es ist heute in unserer Verantwortung, ihm auch in Zukunft die Freiheit zu bewahren, die uns zu Menschen macht.

Yvonne Hofstetter, Jahrgang 1966, ist Geschäftsführerin der Teramark Technologies GmbH. Das Unternehmen forscht und entwickelt Systeme der Verteilten Künstlichen Intelligenz für die Industrie.

Quelle: F.A.S.
  Zur Startseite
Ähnliche ThemenAmazonTwitterBörse

Anzeige