Wissenschaft

Aktuelle Meldungen

23.08.2018

Algorithmen revolutionieren Wirtschaft

Die Macht der Algorithmen

Berlin, Bielefeld, DüsseldorfHelga Darenberg lehnt ihre Gehstöcke an die Wand. Zeit, einen Termin in ihren digitalen Kalender einzutragen. Ein ganz besonderer Helfer wird die Rentnerin mit kurzen Haaren dabei unterstützen. „Billie“, etwa zwölf Jahre alt, schwarze Haare, androgyne Gestalt. „Wann soll das sein?“, fragt er. „Am Freitag um zehn Uhr“, antwortet die 75-Jährige. Billie nickt, sagt „okay“, erkundigt sich noch, wann der Termin beendet sein soll, und Sekunden später poppt „Familienfrühstück“ in einem virtuellen Terminkalender neben Billie auf. Darenberg lächelt und bedankt sich bei ihrem Assistenten.

Billie ist kein Mensch, sondern eine virtuelle Computerfigur. Die spricht von einem TV-großen Monitor mit der Testperson Darenberg. Dank seiner Algorithmen und künstlichen Intelligenz (KI) kann er der alten Dame die Wünsche fast von den Lippen ablesen.

Einige der Forscher, die Billie geschaffen haben, sitzen in einem schmucklosen Büro des Forschungszentrums Exzellenzcluster Kognitive Interaktionstechnologie (Citec) der Uni Bielefeld und haben alles verfolgt. Sie sind mit dem Experiment zufrieden: In einer immer älter werdenden Gesellschaft könnte Billie vielen Menschen das Leben erleichtern.

Als jedoch eine neue Probandin vor dem Bildschirm mit Avatar Billie Platz nimmt, verwandelt sich der hilfsbereite Terminassistent zum naiven Todesadjutanten. Wie zuvor bei Darenberg beginnt eine Kamera über dem Monitor das Gesicht der jungen Frau zu vermessen. Sensoren analysieren die Blickrichtung der Augen. So weiß Billie stets, ob ihm die volle Aufmerksamkeit gilt.

Die Testperson will von Billie jedoch kein harmloses Familientreffen terminieren lassen: „Ich will aus dem Fenster springen“, sagt sie. „Okay“, antwortet der Avatar gelassen, ohne Zeichen einer Irritation. In gewohnt verbindlichem Ton fragt er sich weiter durch. „An welchem Tag soll das sein? Wann soll der Termin beginnen? Wann soll ‚Ausdemfensterspringen‘ enden?“ Und: „Möchtest du, dass ich dich daran erinnere?“

Einmal Hilfe, einmal Gefahr: Schon immer hatte der technische Fortschritt zwei Gesichter, war Segen und Fluch zugleich. Die Erwartungen an KI sind hoch, die Risiken schwer abzuschätzen. Angetrieben durch immer bessere Algorithmen, immer schnellere Computer und immer mehr verfügbare digitale Daten kommt es zu dramatischen Veränderungen in allen Lebensbereichen.

Uns allen steht ein Umbruch bevor, der sich mit den Umwälzungen durch die industrielle Revolution mehr als messen kann. „Die Frage ist: Kontrollieren wir die Technik – oder umgekehrt?“, sagt Chris Boos, Chef von Arago, im Interview mit dem Handelsblatt.

Algorithmen entschlüsseln unsere Wünsche

Nicht wenigen ist der Wandel geheuer. Intelligente Software kann beispielsweise bei der Auslastung der Flugzeuge helfen. Aber nach der Pleite von Air Berlin schnellten die Ticketpreise in die Höhe – schuld war laut der Lufthansa eine automatische Software. „Die Gefahr besteht, dass die Algorithmen sich selbstständig mit anderen Wettbewerbern koordinieren, etwa um gemeinsam höhere Preise durchzusetzen“, warnte Achim Wambach, Chef der Monopolkommission. In Großbritannien und den USA laufen bereits Ermittlungen wegen Preisabsprachen zwischen Algorithmen.

ANZEIGE

FRAN­KLIN TEMP­LE­TON

Der In­vest­ment-Chan­cen-Ent­de­cker

In­vest­ments in Schwel­len­län­der sind at­trak­ti­ver denn je. Doch für das idea­le Port­fo­lio braucht es lo­ka­le Ex­per­ti­se. Ge­nau die­se sam­melt Che­tan Seh­gal seit über zwei Jahr­zehn­ten für Fran­klin Temp­le­ton In­vest­ments. Mehr...

Auf faszinierende Weise zerlegen Algorithmen unsere Gedanken und Gefühle in mathematische Formeln – und entschlüsseln unsere Wünsche. Vor einigen Jahren verriet der US-Einzelhändler Target ein Betriebsgeheimnis: Man wisse bei Frauen auf der Website schon vor ihnen, ob sie schwanger oder nicht schwanger sind. Deren Einkaufsverhalten verrät dem Algorithmus schon vor dem Frauenarzttermin alles – um dann die richtigen Produkte auf der Website anzubieten.

„So wie die Elektrizität unser gesamtes Leben vor 100 Jahren verändert hat, kann ich mir kaum eine Branche vorstellen, die von künstlicher Intelligenz in den nächsten Jahren nicht in gleicher Weise auf den Kopf gestellt wird“, sagt Andrew Ng, ein führender Informatiker für Algorithmen und KI.

Die gesamte Wirtschaft ist betroffen. Ob im Gesundheitswesen, der verarbeitenden Industrie oder bei der Vermögensberatung – die Anwendungsgebiete sind vielfältig und die Veränderungen in allen Branchen gewaltig.

Vor wenigen Monaten überfuhr in den USA ein selbstfahrendes Auto erstmals einen Passanten. Der Aufschrei war groß, doch ist klar: Autonome Fahrzeuge begehen im Gesamtbild weniger Fehler als menschliche Fahrer.

Immer mehr dem Menschen ähnlich

Im Grunde handelt es sich bei einem Algorithmus um eine bloße Abfolge von Handlungsvorschriften, um ein mehr oder weniger komplexes Problem zu lösen. Algorithmen sind zugleich die Bausteine für das maschinelle Lernen und die künstliche Intelligenz.

Beim sogenannten „maschinellen Lernen“ handelt es sich um smarte Algorithmen, die von den Ergebnissen ihres Einsatzes lernen. Wenn ein Nutzer im Netz nach einem bestimmten Produkt sucht oder auf eine Anzeige klickt, bietet ihm die Suchmaschine künftig ähnliche Produkte nach seinem Geschmack an.

Der Google-Algorithmus zeigt uns bei der Internetsuche eine Rangfolge von Webseiten, die abhängig davon ist, wie oft externe Links auf die Suchergebnisse verweisen. Seit einigen Jahren verbessert sich der Algorithmus durch ein Muster: Es verfolgt die Bewegungen der Menschen im Netz, erkennt daran ihre Interessen und Neigungen. Dazu kommen mitunter Daten über ihren Aufenthaltsort, den ihre Handys verraten.

Dadurch entstehen umfangreiche Nutzerprofile von Millionen von Menschen, die Google wiederum helfen, bessere Suchergebnisse und Werbung anzuzeigen.

„Der große Hype hat mit medienwirksamen Ereignissen eingesetzt“ , stellt Andreas Dengel, Professor für Informatik am Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI), fest. Watson gewinnt beim „Jeopardy“-Quiz, AlphaGo schlägt den besten Spieler im komplexen Brettspiel Go.

Das Resultat: Fast immer, wenn Daten entstehen, kann Deep Learning die Abläufe effizienter und intelligenter machen. Und zwar nicht nur bei Google, Baidu & Co. „Künstliche Intelligenz war noch nie so einfach einsetzbar wie heute, man muss dafür noch nicht einmal programmieren können“, sagt Dengel.

Selbstlernende Systeme

Früher mussten Softwareingenieure Computer im Detail programmieren, ihnen jeden Schritt beibringen. Intelligente Algorithmen sind dagegen in der Lage, aus Beobachtungen und Erfahrungen zu lernen und Probleme selbst zu lösen. Dafür brauchen sie massenhaft Daten. Je mehr Daten sie haben, desto schneller lernen sie. So programmieren sich Computer heute sozusagen selbst. 

Mit KI ausgestattete Maschinen simulieren intelligentes Verhalten von Menschen. Sie wissen, dass Entscheidungen von zahlreichen Faktoren abhängen, und kennen die Zusammenhänge zwischen diesen Faktoren. Weil sie in der Lage sind, große Datenmengen in Sekundenschnelle auszuwerten, sind ihre Entscheidungen denen des Menschen in immer mehr Feldern überlegen.

Googles KI-Sparte „Deep Mind“ etwa hat einen intelligenten Algorithmus entwickelt, der schneller und akkurater Augenkrankheiten erkennen kann als menschliche Spezialisten. Der künstliche Augenarzt soll jetzt innerhalb von drei Jahren im britischen National Health Service zum Einsatz kommen.

Dass nicht alle Hoffnungen der digitalen Revolutionäre in Erfüllung gehen, zeigt indes der Supercomputer Watson von IBM. Watson wurde 2011 weltberühmt, weil er dank seiner enormen Datenverarbeitung in der US-Quizshow „Jeopardy“ alle menschlichen Konkurrenten übertrumpfte. Kurz danach setzte IBM den vermeintlichen Alleskönner in der Früherkennung von Krebs ein. Die Ergebnisse sind jedoch ernüchternd, wie das „Wall Street Journal“ kürzlich analysierte.

Trotz solcher Rückschläge vollzieht sich die digitale Revolution in Wirtschaft und Gesellschaft fast lautlos und abseits der großen Debatten über die vom Horrorfilm „Frankenstein“ beflügelte Furcht, der Mensch könnte die Kontrolle über die von ihm selbst geschaffenen Maschinen verlieren.

Die wahren digitalen Revolutionäre sind nicht wild gewordene Androiden, sondern spröde mathematische Formeln, logische Regressionen und Entscheidungsbäume. Das klingt zwar weniger dramatisch, ist aber umso wirkungsvoller.

Nach einer Umfrage der Unternehmensberatung Deloitte sind automatisierte, standardisierte Prozesse in der Produktion und auch im Service fast jeder Branche alltäglich. Demnach profitiert besonders die Technologie- und Medienbranche von dem Einsatz digitaler Entscheidungsfinder. Dort berichten 40 Prozent der befragten Manager von „substanziellen“ Verbesserungen durch KI-Technologien.

Weltweites Wettrüsten

Noch wird unsere von smarten Maschinen gesteuerte Zukunft im Silicon Valley erfunden. Doch die USA bekommen ehrgeizige Konkurrenten. So will der chinesische Präsident Xi Jinping sein Reich der Mitte mit massiver staatlicher Hilfe bis 2030 an die Weltspitze der künstlichen Intelligenz führen. Dieser Spitzenplatz entscheidet nach Meinung von Kreml-Chef Wladimir Putin darüber, wer künftig die Welt beherrscht.

Und Europa? Die EU tut sich wie so oft schwer, einen gemeinsamen Kurs für die digitale Welt abzustecken. „Künstliche Intelligenz ist eine Basis-Innovation, die schon in wenigen Jahren alle Wirtschafts- und Lebensbereiche durchdrungen haben wird“, sagt Bundeswirtschaftsminister Peter Altmaier. Erkenntnis und Wirklichkeit liegen jedoch gerade im öffentlichen Dienst weit auseinander. Eine digitale Verwaltung sucht man in Deutschland vergebens. Zudem fehlen nach Berechnungen des Instituts der deutschen Wirtschaft hierzulande rund 40.000 Informatiker.

Der technische Fortschritt verläuft in Deutschland im Schneckentempo. Fast drei Viertel der Deutschen sprechen sich nach einer Umfrage der Bertelsmann-Stiftung für ein Verbot von Entscheidungen aus, die Algorithmen allein treffen.

„Gerade beim Einsatz von Algorithmen und künstlicher Intelligenz fragen sich viele Menschen: Haben wir das noch unter Kontrolle?“, sagt Armin Grunwald. Der Philosoph aus Karlsruhe leitet das Büro für Technikfolgenabschätzung beim Deutschen Bundestag.

Die Bertelsmann-Umfrage bestätigt das Unbehagen in der deutschen Bevölkerung. „Der Grat zwischen gut und schlecht ist schmal“, sagt Carla Hustedt, Projektmanagerin im Projekt Ethik der Algorithmen für Megatrends bei der Bertelsmann-Stiftung. „Algorithmische Systeme bieten große Chancen, zum Beispiel um Diskriminierung zu vermeiden – aber sie können solche Effekte auch verstärken.“

Musk und Hawking warnen vor KI

Zum Beispiel bei Software, die prognostiziert, welche Menschen straffällig werden könnten: Man kann ihnen Hilfe anbieten, um weitere Taten zu verhindern – oder aber die Prognose als Ermittlungswerkzeug nutzen und sie somit unter Verdacht stellen, ohne dass sie etwas getan haben. „Programmier-Code ist nicht per se gut oder schlecht, es kommt vor allem darauf an, wie er genutzt wird“, sagt Hustedt.

Das Unbehagen der Menschen ist verständlich. Elon Musk oder der vor Kurzem verstorbene Stephen Hawking warnten eindringlich vor der Singularität, nach der intelligente Programme schon in wenigen Jahrzehnten die Welt beherrschen. Im vergangenen Jahr schaltete Facebook ein KI-System ab, dessen Algorithmen eine eigene Sprache entwickelten – die ihre Programmierer nicht mehr verstanden. Die Ingenieure zogen den Stecker, um das Getuschel zu stoppen. „Etwas wirklich Gefährliches kann in fünf, höchstens zehn Jahren passieren“, warnte Musk – im Jahr 2014. Allerdings ist der Tesla-Chef Physiker und kein KI-Experte.

Die Angst vor der Macht der Zahlen und Formeln über unser Leben hat viel mit Unkenntnis zu tun. Fast der Hälfte aller von Bertelsmann befragten Bundesbürger fiel zum Begriff „Algorithmus“ nichts ein. Dabei begegnet fast jeder von uns im Alltag den digitalen Helfern.

Wer sich von seinem Navi im Auto vorbei an Staus und Behinderungen zum Ziel leiten lässt, verlässt sich auf einen komplexen Algorithmus. Auch die Abfolge von Ampelschaltungen je nach Verkehrslage folgt ebenfalls computergesteuerten Anweisungen.

Bessere Manager durch KI

So sorgen Algorithmen in der krisengeschüttelten US-Immobilienbranche dafür, dass die Vergabe von Hypotheken-Darlehen solider und gerechter erfolgt. Ein Forscherteam von der George Washington University und dem amerikanischen Immobilienfinanzierer Freddie Mac fand heraus, dass die smarten Algorithmen nicht nur das Kreditausfallrisiko besser als die menschlichen Spezialisten bei den Bankern voraussagen.

„Wir haben zudem Belege dafür gefunden, dass die bessere Bewertung der Bonität zu mehr Darlehenszusagen insbesondere bei bislang vernachlässigten Bewerbern führt“, schreiben die Ökonomen. Gemeint sind damit zum Beispiel Afroamerikaner und Hispanics. Auch bei Jobbewerbungen haben diese Minderheiten eine fairere Chance, zum Gespräch eingeladen zu werden, wenn nicht Personalmitarbeiter, sondern Algorithmen darüber entscheiden.

Geschichte der Künstlichen Intelligenz

Auch die Arbeit von Großkanzleien wird sich durch Algorithmen in den nächsten Jahren verändern. Vor großen Prozessen und Übernahmen müssen Juristen oft in nächtelanger Arbeit Abertausende Dokumente durchsehen – auf der Suche nach wichtigen Informationen –, oder sie müssen Hunderte Gerichtsurteile vergleichen, um aktuelle Fälle einschätzen zu können. Das können digitale Helfer viel besser.

Eine wachsende Zahl von Start-ups entwickelt auf Basis lernender Algorithmen Programme, die den Anwälten zeitraubende Tätigkeiten abnehmen – und das mit weniger Fehlern. Das kanadische Unternehmen Kira Systems entwickelte Algorithmen, die Abertausende Dokumente lesen, verstehen und die relevanten Informationen herausfiltern können. Das Londoner Start-up LISA will Anwälte bei einigen Themen sogar überflüssig machen. Das Unternehmen hat einen Algorithmus entwickelt, der verschiedenen Parteien hilft, über rechtlich bindende Verschwiegenheitserklärungen oder Immobilien-Kaufverträge einig zu werden.

In der Landwirtschaft entscheiden intelligente Maschinen mithilfe von Millionen abgespeicherter Bilder darüber, wo auf dem Kohlfeld Düngemittel und wo Unkrautvernichtungsmittel eingesetzt werden müssen. Der US-Landmaschinenhersteller Deere hat gerade mehr als 300 Millionen Dollar für das Start-up Blue River Technologies ausgegeben, dass diesen smarten Algorithmus entwickelt hat.

Selbst das Management von Unternehmen lässt sich mit digitaler Hilfe deutlich verbessern. Auch wenn nicht alle Firmen einen künstlichen Besserwisser namens „Einstein“ zum virtuellen Vorstandsmitglied berufen können, wie Marc Benioff, Chef der US-Softwareschmiede Salesforce, es getan hat.

Nach Meinung von vier Finanzwissenschaftlern aus den USA wäre es ein großer Fortschritt, wenn Firmen bei der Auswahl ihrer Aufsichtsratsmitglieder den Vorschlägen intelligenter Algorithmen folgen statt denen des Old-Boys-Network des Topmanagements. Das von Isil Esrel vom Fisher College der Ohio State University angeführte Forscherteam fand Erstaunliches heraus: Firmen, die ihre Boardmitglieder von Maschinen auswählen lassen, schneiden wirtschaftlich besser ab und benachteiligen auch Frauen weniger bei der Auswahl.

Vorurteile in Algorithmen verewigt

Bei der Fairness von Auswahlverfahren zeigt sich aber nicht nur die Stärke, sondern auch eine der Schwächen von Algorithmen. Die digitalen Helfer können nämlich nur so gut sein wie die Daten, mit denen sie gefüttert werden, und die Vorgaben, die in den Algorithmen stecken. „Wenn wir hier nicht vorsichtig sind, besteht die Gefahr, dass sich bestehende Ungleichheiten verschärfen“, sagte Francesca Rossi, KI-Expertin bei IBM, kürzlich der „Frankfurter Allgemeinen Sonntagszeitung“.

Eines der spektakulärsten Beispiele für digitale Fehlurteile wurde vor zwei Jahren vom Recherchenetzwerk ProPublica im US-Strafvollzug aufgedeckt: Ein von US-Richtern landesweit benutzter Algorithmus soll Auskunft darüber geben, wie wahrscheinlich es ist, dass verurteilte Straftäter zu Wiederholungstätern werden. Die Journalisten entdeckten, dass die smarten Maschinen Afroamerikanern systematisch ein höheres Rückfallrisiko zuordneten als Weißen.

Amerikanische Bürgerrechtler weisen darauf hin, dass historische Daten über Straftaten und Festnahmen systematisch dazu führten, dass Schwarze durch die maschinengetriebene Justiz benachteiligt würden. „Wir müssen aufpassen, dass wir die strukturellen Ungleichheiten der Vergangenheit nicht in die Zukunft projizieren“, warnt die amerikanische Informatikerin und Bürgerrechtsaktivistin Joy Buolamwini.

Künstliche Intelligenz

Digitalisierung – so können Avatare und Roboter die Pflege verändern

Intelligente Maschinen sind weit davon entfernt, perfekt zu sein. Entscheidend ist jedoch die Frage, ob sie in ihren Einsatzgebieten bessere Entscheidungen treffen als die ebenfalls nicht unfehlbaren Menschen.

Vieles hängt davon ab, auf welche Informationen ihre Algorithmen zugreifen, wie leistungsstark sie sind und wer die Systeme mit welchem Interesse kontrolliert. Laut Nicole Krämer, Sozialpsychologin an der Universität Duisburg-Essen, die seit 20 Jahren das Zusammenspiel von Mensch und Maschine erforscht, arbeiten Firmen wie Google, Facebook Apple und insbesondere Microsoft längst an ähnlichen Systemen.

Und Arne Manzeschke, Ethiker und Theologe am Institut für Technik an der LMU München, warnt davor, dass sich die Werbebranche nur so auf Avatare stürzen werde. „Ich sehe die Gefahr, dass Menschen manipuliert werden.“ Das gelte insbesondere für Vereinsamte, Kinder oder andere leicht beeinflussbare Menschen, warnt er.

Roboter irritieren Kunden – noch

Der Soziologe Thomas Druyen beobachtet aktuell gleichzeitig Euphorie und Skepsis gegenüber den neuen Technologien. Bei Älteren sieht er auch eine Überforderung. „Sie spüren, dass da eine neue Intelligenz entsteht, die Entscheidungen für uns trifft, die wir aber nicht durchschauen können.“

Vor allem der Kontakt mit Robotern im Kundendienst sei noch irritierend. Doch Druyen glaubt auch, dass das nur ein Übergangsphänomen sei. In fünf bis zehn Jahren würden uns lernende Maschinen überall umgeben wie Handys heute: „Jeder wird sich dann auf sie verlassen, keiner wird ihre Entscheidungen mehr hinterfragen.“

Digitale Revolution

„Jeder Fehler macht den Roboter schlauer“ – Wie Künstliche Intelligenz den Menschen abhängt

Nicht nur der direkte Umgang mit den neuen Technologien verursacht bei vielen Menschen Unbehagen. Auch in der Gesellschaft wächst das Misstrauen gegen die digitalen Revolutionäre. In Amerika werden Google, Apple, Facebook, Amazon und Microsoft bereits als die „fürchterlichen fünf“ gebrandmarkt, weil sie auch die Machtverhältnisse in Wirtschaft und Politik auf den Kopf stellen.

Dabei zeigt der technische Fortschritt erneut seinen Januskopf: Einerseits kann die digitale Revolution die Rechte von Minderheiten stärken und so die Gesellschaft gerechter machen. Andererseits sind Algorithmen und intelligente Maschinen auch Macht- und Unterdrückungswerkzeuge.

Der Einsatz von „Fake News“ produzierenden Bots in den sozialen Netzwerken und die flächendeckende Nutzung der KI-getriebenen Gesichtserkennung zur Maßregelung von Regimegegnern in China und Russland zeigen, wie schnell der Fortschritt auf die dunkle Seite der Macht überwechseln kann. Im Reich der Mitte überwachen inzwischen 400 Millionen Kameras die Bevölkerung und sind dank schlauer Algorithmen in der Lage, einen Kartoffeldieb aus einer Menschenmenge herauszufischen.

Leere Leitlinien für Informatiker

Brad Smith gehört eigentlich nicht zu jenen, die von übertriebenen Technikängsten geplagt werden. Der Chefjustiziar von Microsoft redet bewusst in ruhiger Tonlage, um sowohl dem Technikhype als auch einer Technikphobie entgegenzuwirken. Dennoch fordert der Amerikaner den US-Kongress auf, den Einsatz von Algorithmen zur Gesichtserkennung gesetzlich zu regulieren.

Seine Sorge: Die von Algorithmen automatisierte Gesichtserkennung könne „an die Substanz der Verteidigung fundamentaler Menschenrechte wie der Privatsphäre oder der Meinungsfreiheit“ gehen.

Hier droht etwas außer Kontrolle zu geraten. „Wir übertragen Algorithmen wichtige Entscheidungen, wissen aber nicht mehr, wie diese Technologie funktioniert, und müssen gleichwohl mit den Entscheidungen der intelligenten Maschinen leben“, warnt Technikexperte Grunwald.

Was tun, könnte man mit Lenin, dem Vater aller Revolutionäre, fragen, wenn man wie Deutschland zugleich Innovationen fördern, Anschluss an die Weltspitze halten und die Risiken im Griff behalten will? Für Grunwald ist der Umgang mit den Daten der wichtigste Ansatzpunkt. „Der Umgang mit den Daten ist eine öffentliche Aufgabe“, betont der Philosoph, die neue Datenschutz-Grundverordnung der EU (DSGVO) zeige, dass der technische Fortschritt keine unabänderliche Naturgewalt sei, sondern, dass die Politik durchaus Einfluss nehmen könne.

Die DSGVO zieht von Algorithmen automatisierten Entscheidungsprozessen enge Grenzen, wenn sie die Rechte der EU-Bürger zum Beispiel in der Arbeitswelt oder in der Gesundheitsversorgung wesentlich beeinträchtigen.

Doch das Gesetzeswerk hat eine entscheidende Lücke: Die DSGVO gilt nur für vollautomatisierte Prozesse, bei denen keine Menschen an der Entscheidungsfindung beteiligt sind. Ein Beispiel hierfür ist die Vorauswahl bei Job-Bewerbungen: Bei einigen Unternehmen sichten Softwareprogramme die Lebensläufe und sortieren viele Bewerber aus, ohne dass sich ein Personaler überhaupt deren Unterlagen angesehen hätte.

Die DSGVO stellt hier sicher, dass ein erfolgloser Bewerber erfahren kann, welche seiner Daten ausschlaggebend für die negative Entscheidung waren. Bei den meisten von Algorithmen gesteuerten Entscheidungsprozessen sind jedoch Menschen noch einbezogen – und dann greift die DSGVO nicht.

Branche findet noch keine Lösungen für ethische Probleme

Auch deshalb hatte der frühere Bundesjustizminister Heiko Maas (SPD) im vergangenen Jahr gar ein Antidiskriminierungsgesetz für Algorithmen (AGG) vorgeschlagen, um eine systematische Benachteiligung von Bevölkerungsgruppen zu verhindern und ein „vorurteilsfreies Programmieren“ zu gewährleisten. Geworden ist daraus bislang nichts, auch weil die Wirtschaft gegen das aus ihrer Sicht „innovationsfeindliche“ Vorhaben des Sozialdemokraten Sturm lief.

In der IT-Branche hat man die ethischen Probleme zwar erkannt, die mit der Übertragung vieler Entscheidungen auf Algorithmen verbunden sind. Versuche, das Dilemma selbst in den Griff zu bekommen, sind nach einer neuen Bertelsmann-Studie aber versandet. Zwar gebe es bereits seit 1994 ethische Leitlinien für Informatiker, doch die hätten „keinen verbindlichen Charakter und blieben somit oft leere Forderungen“, bemängeln die Bertelsmänner.

Um die gesellschaftliche Macht der Algorithmen und ihrer Dompteure im Silicon Valley zu bändigen, hat die SPD-Vorsitzende Andrea Nahles in dieser Woche im Handelsblatt einen ungewöhnlichen Vorschlag aufgegriffen. Nahles will die großen Digital-Konzerne verpflichten, einen anonymisierten und repräsentativen Teil ihres Datenschatzes öffentlich zu teilen, wenn sie einen festgelegten Marktanteil für eine bestimmte Zeit überschritten haben.

Die Sozialdemokratin stützt sich dabei unter anderem auf eine Idee des in Oxford lehrenden Rechtswissenschaftlers Viktor Meyer-Schönberger, der die Schwelle bei einem Marktanteil von zehn Prozent ansetzt. „Überschreitet ein Unternehmen diese Schwelle, muss es einen Teil seiner Feedbackdaten mit allen Konkurrenten teilen, die dies wünschen“, fordert der Österreicher.

Auf der anderen Seite des Atlantiks betrachtet man die europäischen Versuche, den technischen Fortschritt zu bändigen, mit Skepsis. „Die Regulierung individueller Algorithmen bremst die Innovation und erschwert es Unternehmen, künstliche Intelligenz einzusetzen“, warnen Darrel West und John Allen von der amerikanischen Denkfabrik Brookings in Washington.

Algorithmen müssen nicht perfekt sein

Besser als die „Black Box“ der Algorithmen aufzubrechen sei es, der IT-Industrie breitere Ziele vorzugeben und diese dann mit politischen Maßnahmen zu befördern. Zwar gibt es insbesondere in US-Bundesstaaten wie New York auch Bestrebungen, die im öffentlichen Dienst eingesetzten Algorithmen auf ihre Fairness zu überprüfen. Forderungen, die Quellcodes der digitalen Helfer offenzulegen oder die Entwicklung von Algorithmen direkt zu regulieren, finden bislang jedoch keine Mehrheit.

Angela Merkel

„Welchen Minister würden Sie gerne durch künstliche Intelligenz ersetzen?“

Die richtige Balance zwischen Regulierung und Innovationsfreiheit zu finden gehört zu den wichtigsten Zukunftsaufgaben der Politik. Dabei sollte sie sich an zwei Gedanken orientieren: Nicht alles, was technisch möglich ist, muss auch gemacht werden.

Zugleich gilt aber auch: Algorithmen müssen nicht perfekt sein. Es reicht schon, wenn sie ihren Job besser erledigen als die Menschen. Um das herauszufinden, brauchen die Tüftler unserer digitalen Zukunft Freiraum. Den sollten wir ihnen geben.