Alexa, du diskriminierst schon wieder!

Kürzlich hat ein autonom fahrender Personenwagen eine Massenkarambolage verursacht.
Beteiligt war auch ein autonomer Lastwagen.
Zukunftsmusik? Wohl kaum, wie dieses Beispiel zeigt.

Das neue White Paper vom Competence Circle Technologie, Innovation und Management kurz #ccTIM zum Thema Künstliche Intelligenz #KI ist da! Der Deutsche Marketing Tag hält Ihre gedruckte Version des KI White Paper vom #ccTIM für Sie bereit. Hier die digitale Version.

Tragen Sie sich in unseren Verteiler ein und erhalten Sie weitere wichtige Tipps, um alle Updates zum Thema Künstliche Intelligenz zu bekommen.

Vor Kurzem ist es passiert. Ein autonom-fahrender Personenwagen der Marke Chevrolet Bolt, hergestellt von Cruise, einer Tochterfirma von General Motors hatte einen Unfall mit einem Lastwagen vom Typ T-Pod der Firma Einride. Dabei starben die Insassen des Personenwagens und ein Fahrradfahrer.

Das scheint dystopisch und fiktiv. Doch es handelt sich um harte Fakten. Zur Zeit testet Einride seinen Lastwagentyp T-Pod mit der Firma DB Schenker in Jonkoping. Dieser vollautomatisch elektroangetriebene Lastwagen kann, falls notwendig, von einem Fahrer in einem Kontrollzentrum aus gesteuert werden.

Das Unternehmen Einride mit 55 Angestellten erhofft sich, dass es für den Lastwagentyp  T-Pod bis im Januar 2019 eine Bewilligung von der schwedischen Transportbehörde (Transportstyrelsen) erhält, um öffentliche Strassen nutzen zu dürfen.

Machine Learning spielt dabei eine grosse Rolle.

Der Roboter arbeitet im Lager, 24 Std. am Tag bis zum nächsten Service.
Der Roboter arbeitet im Lager, 24 Std. am Tag. Unermüdlich.

1.  Machine Learning

Die heutigen Machine Learning Systeme nutzen Algorithmen. Sie sind zu Beginn praktisch ignorant. Doch dank der Möglichkeit grosse Datenmengen zu verarbeiten, erlernen die Systeme schnell die Funktionen, die sie ausführen sollen.

Ende November hat Amazon mitgeteilt, dass Machine Learning ebenfalls eine Rolle bei ihren Bemühungen spielt, ein selbstfahrendes Auto auf den Markt zu bringen. Doch Amazon versucht es mit einem Spielzeugauto Namens Deep Racer das $400 kostet.  Mit diesem können Entwickler testen, wie Machine Learning mit Hilfe von „Reinforcement Learning“, ein Prozess der mittels einer Art Ausprobieren (d.h. „trial and error“) funktioniert. Eine Möglichkeit, Machine Learning für jedermann nutzbar zu machen und damit spielerisch das Verständnis für das scheinbar Komplexe zu vermitteln.

Machine Learning ist rasant. Die starke Verbilligung der Rechenleistung der Computer haben es möglich gemacht, dass sehr grosse Datensätze analysiert werden. Programme suchen nach Mustern und Trends. Doch sie sind auch in der Lage, kontinuierlich zu lernen und immer bessere Entscheidungen zu treffen. Je grösser die analysierten Datenvolumen und je häufiger die Repetitionen, desto besser fallen die Resultate aus.

Machine Learning beinhaltet eine Komponente, die es braucht, um einen Prozess zu automatisieren. Machine Learning sagt z.B. bei der Wetterprognose voraus, was passieren könnte.

Bsp: Ein System berechnet z.B. die Wahrscheinlichkeit, dass ein Kunde sein Kredit nicht fristgerecht zurückzahlt oder ein Patient mit bestimmten Symptomen in den nächsten 12 Monaten einen Herzinfarkt erleiden wird.

Wichtig dabei ist, dass wir uns bewusst machen, der grösste Teil Machine Learning beinhaltet den Versuch der Funktionsannäherung (function approximation) basierend auf einer Stichprobe von Daten – klein oder gross. So handelt es sich um Wahrscheinlichkeiten, nicht aber zwingend um Wahrheiten.

Definition: Was ist Machine Learning?
Die heutigen Machine Learning Systeme nutzen Algorithmen. Sie sind am Anfang allerdings praktisch ignorant. Dank der Möglichkeit, große Datenmengen zu verarbeiten, erlernen die Systeme dann rasch die Funktionen, die sie ausführen sollen.

Machine Learning beinhaltet eine Komponente, die benötigt wird, um einen Prozess zu automatisieren. Ein Bei- spiel dafür ist die Wetterprognose, die mit Hilfe von Machine Learning kontinuierlich verbessert wird.

Das Auto als Teil des Internet of Things.
Das Auto als Teil des Internet of Things.

2.  Deep Learning

…ist ein Teil von Machine Learning. Es steht für den Prozess der Mustererkennung in Datenmengen durch die Maschinen. Durch selbständiges Training werden die Maschinen immer besser darin, Bilder und gesprochene Sätze zu erkennen. Sie erkennen z.B. Krankheitssymptome immer besser und sagen voraus, ob ein Patient eine bestimmte Krankheit bekommen wird.

Die Methode basiert auf neuronalen Netzen. Diese werden nach dem Vorbild des menschlichen Gehirns auf dem Computer simuliert. Sie sind in der Lage sich selbstständig zu verbessern.

Das System eignet sich zur Bearbeitung einer umgrenzten oder definierten Aufgabe. Doch dem System fehlt die Möglichkeit das Gelernte zu verstehen und dies in den Kontext des Grösseren Ganzen einzuordnen.

Bsp.: Gesichtserkennungssoftware wird immer besser mit einer Fehlerrate von 0.8 Prozent für Männer mit heller Haut. Diese schnellt auf 34.7 Prozent für dunkelhäutige Frauen (siehe http://news.mit.edu/2018/study-finds-gender-skin-type-bias-artificial-intelligence-systems-0212).

Definition: Was ist Deep Learning?
Deep Learning ist ein Teil des Machine Learning. Es beschreibt den Prozess, wie Maschinen in Daten Muster erkennen.

Durch selbstständiges Lernen werden die Maschinen immer besser darin, Bilder und gesprochene Sätze zu erkennen. Sie erkennen z.B. Krankheitssymptome immer treffender und sagen so voraus, ob ein Patient eine bestimmte Krankheit bekommen wird.

Cyborg kontrolliert die Roboters bei deren Arbeit.
Cyborg kontrolliert die Roboter bei deren Arbeit.

3.  Algorithmus

Ein Algorithmus ist eine eindeutige, ausführbare Folge von Anweisungen. Das heisst, Schritt für Schritt werden diese in endlicher Länge ausgeführt. Daraus resultiert die Lösung eines Problems, einer Rechenaufgabe oder eine Entscheidungsfindung.
Die Gefahr ist hier, dass ein Algorithmus einen Menschen falsch kategorisiert.

Bsp. Im Schnitt können Algorithmen 10 bis 15 Prozent bessere Entscheidungen treffen als z.B. ein Personalexperte im Falle, ob die Neugestellten überdurchschnittliche Arbeitsleistungen erbringen werden (z.B. Dietvorst, 2017 in einem Interview: https://sloanreview.mit.edu/x/59106).

Algorithmen machen etwas, das „unsupervised learning“ genannt wird, d.h. ein Algorithmus erhält kein Feedback von einem Menschen, während er von den Daten lernt, die wir eingeben.

Unser Fokus sollte darauf liegen, wie wir das Risiko minimieren können, dass die Algorithmen unsere Vorurteile übernehmen und die gleichen Fehler machen wie wir. Jeder Algorithmus, der von uns Menschen lernt, wird auch genau so „biased“ sein wie wir.

Checkliste: Definition: Was ist ein Algorithmus?
Ein Algorithmus ist eine eindeutige, ausführbare Folge von Anweisungen.

Das heißt, Schritt für Schritt werden Anweisungen in endlicher Länge ausgeführt. Daraus resultiert die Lösung eines Problems, einer Rechenaufgabe oder einer grundsätzlichen Entscheidungsfindung.

Die Bretzel geknetet und geformt vom Roboter Lisa.
Die Bretzel – geknetet und geformt vom Roboter Lisa.

4. Was ist Ihre Meinung?

Selbstfahrende Lastwagen werden ab Januar 2019 in Schweden zugelassen sein, wenn alles nach Plan abläuft. Vielleicht werden diese Lastwagen schon bald im Hamburger Hafen genutzt. Der selbstfahrende Robo-Taxi, der für mich vor dem Hotel wartet, ist in Phönix (Arizona) bereits Tatsache (siehe BMW vom Autofahrer zum Robo-Taxi – 5 Stufen)

Doch bei aller Liebe für Machine Learning und Algorithmen, müssen diese Programme geprüft und überwacht werden, d.h. ein Audit ist notwendig. Schwierig ist es, wenn wir dabei ein Problem finden, das nicht korrigiert werden kann.

Amazon hat im Oktober 2018 das auf Machine Learning basierende Rekrutierungsprogramm beendet. Dieses war durch Voreingenommenheit (kurz Bias) zum Schluss gekommen, dass Männer bessere Mitarbeiter sind als Frauen. Grund war, dass diese öfters in der Firma befördert werden (see DMV White Paper vom #ccTIM zum Thema AI für Details).

Was passiert, wenn das Unternehmen in der Zukunft durch dieses Problem ein Gerichtsverfahren am Hals hat? Oder während der Offenlegungsphase beim Gerichtsprozess festgestellt wird, dass das Unternehmen über den Fehler bescheid wusste? Ein Alptraum für uns Compliance-Spezialisten. Genau deshalb zog Amazon die Reissleine.

Dass Alexa weiterhin diskriminiert, was z.B. die Auswahl von Radiostationen angeht, ist ein bekannter Fakt. Amazon hat per Voreinstellung den Aggregator Tune-in ausgewählt und nicht einen Radioplayer auf dem z.B. fast alle deutschen oder schweizer und österreichischen Sender ihre Programme eingestellt haben.

Ruft der Hörer einen bestimmten Kanal auf, wird ihm dieser von Tune-in präsentiert. Der Aggregator hat jedoch nur eine begrenzte Anzahl Kanäle im Portfolio. D.h., wenn meine Lieblingsradiostation nicht auf der Liste ist und ich weder Fähigkeit noch Geduld habe sie mit Alexa zu finden, wird die Station kein Programme in meinem Wohnraum abspielen.

Was mich neugierig macht ist Ihre Einstellung zur Herausforderung AI in unserem Alltagsleben, wie z.B.:

  • Nutzen Sie schon einen Sprachassistenten? Was sind Ihre Erfahrungen?
  • Wie oft, schätzen Sie, haben Sie schon vom Roboter geknetete und geformte Brötchen gegessen?
  • Nutzen Sie im Unternehmen Deep Learning, um die Produktion, Entscheidungen und/oder Marketing zu verbessern?
  • Was ist die grösste Herausforderung in Ihrem Business?

Wir freuen uns auf vielseitige Antworten und vielleicht sogar interessante Beispiele.

Urs E. Gattiker - DrKPI@

CEO von CyTRAP Labs GmbH, Erfinder derDrKPI® Marke,welche Smart Data, AI und Datenschutz Tools und Services für Fortune Global 500 Firmen und Start-ups anbietet. Er lehrte zuvor als Professor an Universitäten in Kanada, Australian, Deutschland, Dänemark und den USA auf den Gebieten Management, Innovation & Technologie (sieheFachbücher). Urs ist Vizepräsident bei marcom suisse. Auch amtet er als Präsident vom Marketing Club Lago #MCLago, dem 4-Länder Club beim Deutschen Marketing Verband (DMV) (siehe auch Interview mit Urs) mit seinen mehr als 60 Clubs und 15,000 Mitgliedern. Als Co-Chair vom Competence Circle Technologie, Innovation & Management (ccTIM) vom DMV beschäftigt er sich mit den Trends.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.

X