von Olaf Schmidt, Geschäftsführer, k+k information services GmbH

Warum Künstliche Intelligenz unsere Freiheit bedroht

Manipuliert Predictive Analytics unser Verhalten?

Manipuliert Predictive Analytics unser Verhalten?

Wenn man sich einmal bewusst macht, dass Künstliche Intelligenzen die meisten unserer Entscheidungen und Verhaltensweise vorhersagen können, also unsere Zukunft prognostizieren, sind wir dann noch selbstbestimmt? 

Algorithmen schlafen nicht 

Die meisten Menschen sind sich nicht bewusst, in welchem Ausmaß Predictive Analytics, die vorhersagende Analytik, bereits Teil ihres Lebens ist.  

Während Du diese Zeilen liest, arbeiten wahrscheinlich Dutzende von Algorithmen daran, Vorhersagen über Dich zu treffen. Wahrscheinlich war es ein Algorithmus, der bestimmt hat, dass Du diesen Blogbeitrag vorgeschlagen bekommst, weil er vorhergesagt hat, dass Du ihn lesen wirst. 

Diese Algorithmen werden verwendet, um aus Deinem bisherigen Verhalten auf Dein künftiges Verhalten zu schließen. Diese Informationen werden heute z. B. zur individuellen Preisgestaltung für Waren und Dienstleistungen genutzt oder um Dir personalisierte Werbebotschaften einzublenden. 

Da prädiktive Algorithmen immer ausgefeilter werden, können und werden sie bereits dazu verwendet, Vorhersagen über unser individuelles Verhalten zu treffen. Dazu gehören z. B. Vorhersagen darüber, mit welcher Wahrscheinlichkeit wir krank werden, einen Unfall verursachen werden oder unseren Kredit nicht bedienen können. In vielen Fällen können diese Prognosen bereits heute einen erheblichen Einfluss auf unser Leben nehmen. 

Entscheidet eine KI ethisch? 

Predictive Analytics ist in vielen Bereichen von großem Mehrwert und kann für die Gesellschaft als Ganzes von Nutzen sein. Gute Beispiele sind hierbei die vorausschauende Wartung bei Maschinen und Anlagen, die viele Vorteile mit sich bringt, etwa das Vermeiden von Unfällen oder Kosteneinsparung in der Instandhaltung. Doch sobald Menschen betroffen sind, wirft die vorhersagende Analytik auch eine Reihe von ethischen Fragen auf. 

Wer entscheidet zum Beispiel, ob ein Mensch in Zukunft kriminell wird oder nicht? Und was passiert, wenn mit diesem Menschen, wenn die KI ihn als potenziell kriminell einstuft? Was geschieht, wenn unser Risikowert so hoch ist, dass wir keine Versicherung oder keinen Kredit mehr bekommen? 

Immer mehr Lebensbereiche werden betroffen sein 

Individuelle Vorhersageanalysen werden in immer mehr Lebensbereichen Einzug halten. Doch hat uns jemand um unsere Erlaubnis gebeten, diese Vorhersagen auf Basis unserer Daten für uns zu treffen? Niemand informiert uns über die getroffenen Ableitungen und Ergebnisse und wie diese unser Leben beeinflussen. 

Als Gesellschaft haben wir noch nicht über die ethischen Implikationen von Vorhersagen über Menschen nachgedacht, von denen man annimmt, dass sie mit Handlungsfähigkeit und freiem Willen ausgestattet sind. 

Ist es ethisch korrekt, Menschen wie Dinge zu betrachten? 

In der Regel erfolgen die Vorhersagen durch Algorithmen des Maschinellen Lernens. Algorithmen, die auf menschliches Verhalten angewandt werden, nutzen historische Daten, um auf unsere Zukunft zu schließen: was wir kaufen werden, ob wir vorhaben, den Arbeitsplatz zu wechseln, ob wir krank werden, ob wir ein Verbrechen begehen oder einen Autounfall bauen werden.  

Letztendlich sind Prognosen immer Vermutungen und das Problem dabei ist, dass sie etwas vorhersagen, das noch gar nicht eingetreten ist. Vorausgesagte Ereignisse können erst zu einem späteren Zeitpunkt wirklich eintreten. Es ist, als würde man durch ein Glasfenster auf das schauen, was man sehen wird, wenn man in der Zukunft ankommt! Und selbst wenn ein Ereignis genauso eintritt wie vorhergesagt - oder schlechter als erwartet -, was sagt uns das über die Genauigkeit der Wahrscheinlichkeit? 

Des Weiteren bestehen diese Prognosen größtenteils aus subjektiven Einschätzungen, die mit Vorurteilen gegenüber bestimmten Risiken/ Wertschwellenwerten einhergehen. Ein gutes Beispiel ist hier die Funktionsweise eines Instagram-Algorithmus, welcher im Rahmen der arte Doku „Instagram – Das toxische Netzwerk“ analysiert wurde. 

Wenn wir Vorhersagen über menschliches Verhalten treffen, behandeln wir die Menschen oft wie Dinge. Das ist problematisch, denn es untergräbt unsere Handlungsfähigkeit und unsere Fähigkeit, unsere Umstände zu ändern.  

Wie wirkt es sich auf unsere Selbstbestimmung aus, wenn wir wissen, dass versucht wird, jeden unserer Schritte von Algorithmen vorhersagen zu lassen? Fangen wir uns dann an zu hinterfragen, wie unsere Entscheidungen auf die Algorithmen wirken und verhalten wir uns dann so, wie es die Algorithmen erwarten? Aus meiner Sicht tun wir das bereits. Ob bewusst oder unbewusst. 

Wir sollten uns Menschen respektieren, indem wir unsere Fähigkeit anerkennen, frei zu handeln und uns über die Wahrscheinlichkeit einer Vorhersage hinweg zu setzen, uns oder etwas zu ändern. 

Die prädiktive Analytik wirft 5 Kernfragen auf 

Der zunehmende Einsatz der prädiktiven Analytik wirft eine Reihe wichtiger Fragen auf:

  1. In was für einer Welt wollen wir eigentlich leben? In einer Welt, in der Maschinen kontinuierlich Prognosen über uns erstellen?
  2. Wollen wir eine Gesellschaft sein, in der Maschinen Entscheidungen für unser Leben treffen?
  3. Was passiert mit unserer Freiheit und Autonomie, wenn so vieles auf Algorithmen beruht, die ständig Entscheidungen für uns treffen?
  4. Wie können wir sicherstellen, dass Algorithmen fair und unvoreingenommen bleiben?
  5. Welche Rolle sollte die Regierung bei der Regulierung der prädiktiven Analytik spielen? 

 

Ziel: Die vertrauenswürdige KI 

Wir müssen sehr vorsichtig sein, wie wir die prädiktive Analytik einsetzen. Andernfalls könnten wir am Ende unsere Freiheit der Bequemlichkeit oder der Effizienz zuliebe opfern. Prädiktive Analysen haben das Potenzial, unser Leben enorm zu verbessern.  Dabei gilt es sicherstellen, dass sie nicht auf Kosten unserer Freiheit gehen. Wir müssen unser Leben selbst in der Hand haben und dürfen nicht zulassen, dass Algorithmen uns jeden Schritt diktieren. 

Um der potenziellen Gefahr der Manipulation durch künstliche Intelligenz zu begegnen, sind Transparenz über Systeme und Algorithmen sowie Regeln und öffentliches Bewusstsein erforderlich. 

Die Möglichkeit einer solchen Verhaltensmanipulation erfordert Maßnahmen, die die Autonomie und Selbstbestimmung des Menschen in jeder Interaktion zwischen Menschen und KI-Systemen gewährleisten. KI sollte den Menschen nicht unterordnen, täuschen oder manipulieren, sondern seine Fähigkeiten ergänzen und erweitern (siehe die Ethik-Leitlinien der Europäischen Kommission für vertrauenswürdige KI). 

 

Titelbild: © C.Castilla, stock.adobe.com  

Du willst unvoreingenommene Algorithmen?

Wenn Du sicherstellen willst, dass Dein KI-Projekt Dein Unternehmen zielgerichtet verbessert und den freien Willen der Menschen nicht einschränkt, dann vereinbare einen Termin für ein persönliches Gespräch.

Unverbindlichen Termin vereinbaren
Künstliche Intelligenz Film vs. Realität

Künstliche Intelligenz Film vs. Realität

Künstliche Intelligenz, kurz KI, ist längst nicht mehr nur ein futuristisches Hirngespinst aus Hollywood Science-Fiction Filmen vergangener Tage. In diesen Streifen ist oft die Rede von Unte…

Das ist doch keine Intelligenz. Das ist doch nur ein Algorithmus.

Das ist doch keine Intelligenz. Das ist doch nur ein Algorithmus.

Künstliche Intelligenz ist ein spannendes und kontrovers diskutiertes Thema. Viele Mythen ranken sich darum und es herrschen noch viele Fehlvorstellungen vor, was KI überhaupt ist.


Zurück

Kommentare

Einen Kommentar schreiben