01_Kapitel.md 14.3 KB
Newer Older
Axel Dürkop's avatar
Axel Dürkop committed
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16
# Intelligente Maschinen sind auf dem Vormarsch

Glauben wir an eine Technologie, die über den Fortschritt entscheidet oder müssen wir davor Angst haben, dass ein Terminator bereits auf dem Weg zu uns ist?

KI und Robotik

Die Verbindung zwischen Technologie, künstlicher Intelligenz (KI) und Robotik ist wahrscheinlich so offensichtlich, dass sie keiner aufwendigen Analyse bedarf. Vielmehr soll der Fokus der vorliegenden Arbeit auf den ethischen Aspekten liegen, die den – häufig verflochtenen – Forschungsbereichen der Robotik und KI eigen sind. Für das weitere Verfahren muss also zunächst einmal eine Unterscheidung dieser beiden Felder festgelegt werden.

KI bezieht sich auf ein theoretisches und komplexeres Konzept (Intelligenz) und ist daher in sich ein eher aleatorisches Konzept, das sich über eine ganze Reihe von Forschungsgebieten erstrecken kann. Gegenwärtig jedoch könnte man KI als zur Informatik gehörend definieren, da dieser Zweig einen besonderen Fokus auf die Schaffung möglichst menschlicher künstlicher Maschinen legt. Es gibt viele Standardaufgaben, die moderne, weitverbreitete Maschinen dank ihrer KI bereits erledigen können. So erlaubt z.B. Spracherkennung unseren Smartphones – immerhin bedeutet „smart“ auch hier „intelligent“ – einen Anruf zu tätigen, Instruktionen zu geben, Fragen zu verarbeiten und Antworten zu liefern oder eine Handlung auszuführen. Und all das basiert auf der Fähigkeit, dass sie unsere Stimmen erkennen.

Es ist also nicht verwunderlich, dass die Schaffung vieler lebensverändernder Innovationen in der Gesellschaft momentan großen Anklang findet, so z.B. die selbstfahrenden Autos, bei denen eine hohe Datenverarbeitung benötigt wird. Maschinen können nur dann miteinander intelligent interagieren, wenn ihnen Möglichkeiten zur Kategorisierung der Welt bereitgestellt werden, die im Allgemeinen als Wissensverarbeitung bezeichnet wird. Ebenso wichtig ist das maschinelle Lernen: ohne Überwachung benötigt es klare Datenstrommuster, während bei vorhandener Überwachung numerische Regressionen und Klassifizierungen verwendet werden.

Robotik und KI gehen Hand in Hand. Roboter benötigen KI, in unterschiedlichen Abstufungen, um die von uns zugeteilte Aufgabe erfolgreich durchzuführen.

In einigen Fällen können Roboter jedoch auch so entwickelt werden, dass sie teilweise *selbstständig Denken* bzw. unabhängig von der KI und stattdessen entsprechend der menschlichen Intelligenz handeln.

Lisa Figura's avatar
Lisa Figura committed
17
[Die Verwendung eines Roboterarms in einer Studie, die beispielsweise an der Brown University durchgeführt wurde](https://news.brown.edu/articles/2012/05/braingate2) [^robotic-arm], zielte speziell auf die Nutzung der Intelligenz des an der Studie teilnehmenden Patienten ab (in diesem Fall aus therapeutischen Gründen, da es sich um einen Querschnittsgelähmten handelte).
Axel Dürkop's avatar
Axel Dürkop committed
18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36

[^robotic-arm]: https://news.brown.edu/articles/2012/05/braingate2

Auch wenn solche Beispiele als Gehirn-Computer-Schnittstelle (auch BCI, für Brain-Computer Interface) bezeichnet werden, ist diese Art der Nutzung eines Computers vor allem *mechanisch* und setzt eine Überwachung oder sogar die vollständige Beteiligung der menschlichen Intelligenz voraus. Das macht den Unterschied zwischen KI und Robotik deutlicher.


## Welche ethischen Probleme entstehen durch KI und Robotik?

Es gibt verschiedene Verbesserungen bezüglich der Implementierung von KI und Robotern: von der Anwendung intelligenter Technologien in medizinischen Kontexten bis hin zu erhöhten Sicherheitsvorkehrungen oder Personalisierung vieler unserer Alltagsgeräte – es wäre sinnlos abzustreiten, dass diese Innovationen unser Leben vereinfachen können. 

Trotzdem ergeben sich aus diesen neuen Entdeckungen auch zahlreiche ethische Probleme und die bekanntesten darunter sollten wir genauer untersuchen.


## Selbstfahrende Autos: wen soll KI sterben lassen?

Selbstfahrende Autos (oder autonome Fahrzeuge) befinden sich in der Entwicklung. Von BMW bis Uber investieren große Transportunternehmen in Projekte, deren Ziel die Schaffung eines vollständig autonomen, intelligenten Auto ist, das nicht von jemandem gelenkt werden muss.

Dies würde für das Transportwesen eine große Revolution bedeuten: wir müssten uns keine Sorgen darüber machen, ob wir einen Parkplatz in der Innenstadt finden oder ob wir während des Abendessens zu viel Wein trinken. Dies hätte auf die Nutzung des Autos keine Wirkung. Was sehr wohl das Verhalten des Autos beeinflusst, ist die Umgebung, in der es fährt. Abgesehen von der Interaktion mit anderen Fahrzeugen drängt sich folgende Frage auf: Wie würde das Auto auf einen vorhersehbaren Unfall reagieren?

Lisa Figura's avatar
Lisa Figura committed
37
[Eine sehr erfolgreiche vom MIT veröffentlichte Webseite](http://moralmachine.mit.edu/)[^moralmachine] hat versucht, eine Reihe von statistischen Daten zu erheben, die unsere Reaktion auf relativ ähnliche ethische Szenarien zeigen sollen. Basierend auf einem berühmten philosophischen Gedankenexperiment, das als *Straßenbahn-Problem* bekannt ist (wir werden dies im Kapitel **Neurowissenschaft und das Gesetz** ausführlicher erläutern), bietet die Website dem Besucher die Möglichkeit, selbst das nach seiner/ihrer Meinung richtige Verhalten des Fahrzeugs auszuwählen (bzw. was er/sie in einer solchen Situation tun würde). Würden sie zwei alte Damen oder eher einen gesunden jungen Läufer überfahren? Sollte bei der Entscheidung der Frage, wessen Leben in solchen extremen Fällen zu verschonen ist, der soziale Status und das Verhalten in der Vergangenheit berücksichtigt werden?
Axel Dürkop's avatar
Axel Dürkop committed
38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79

[^moralmachine]: http://moralmachine.mit.edu/

Die Webseite ist hochinteressant, weil sie a) zeigt, wie widersprüchlich menschliche Entscheidungen sein können und eine unterschiedliche Beurteilung von Fällen zu Ungerechtigkeit führen könnte; und b) aufgrund von gegensätzlichen Gründen zeigt, dass das Experiment ähnlich einem menschlichen Auge in der Lage ist, wichtige spezifische Variablen zu erkennen, die die Ausnahme von der Regel moralisch akzeptabel – oder sogar moralisch erforderlich – machen könnten.


## Roboter und Beziehungen

Während wir herausfinden wollten, wie Roboter in unseren Straßen fahren könnten, wurde viel Forschung betrieben, die auf ihren möglichen Einsatz in immer vertraulicheren Bereichen unseres Lebens abzielt und Robotern in unseren Häusern eine immer größere Rolle und Freiheit einräumen möchte.

Dies ist der Fall der Roboterassistenten, die als Unterstützung für eine Gruppe von Menschen in der Gesellschaft programmiert werden sollen, damit diese an ihrer Seite einen ständigen und verlässlichen Helfer haben. Zu diesen Gruppen gehören Menschen mit verschiedenen Formen von körperlichen Beeinträchtigungen und Behinderungen (vorübergehend oder dauerhaft) sowie Teile der Bevölkerung, die strukturell gesehen mehr Aufmerksamkeit benötigen – im Moment betrifft dies ältere Menschen, aber in naher Zukunft wären zum Beispiel *Lehrer-Roboter in Kindergärten* nicht unvorstellbar.

Auch wenn die Ergebnisse dieses Trends im Umgang mit menschlichen Beziehungen auf guten Absichten beruhen, wirft dies einige Fragen auf, die alles andere als banal sind. Wir werden gleich darauf zurückkommen, aber zuerst sollte darauf hingewiesen werden, dass eine mit der Technologie einhergehende Bedrohung durch Roboter vielleicht übersehen wurde: sie können wie jedes andere technologische Gerät gehackt werden und lassen in Bezug auf eine mögliche Nutzung durch Kriminelle ernsthafte Zweifel aufkommen. [^hacking-robots]

[^hacking-robots]: https://www.ft.com/content/1552b080-fe1c-11e6-8d8e-a5e3738f9ae4?mhq5j=e3 (Registrierung erforderlich)

Zum Beispiel würde es reichen, sich für eine kurze Zeit mit dem Roboter im Inneren eines Hauses zu verbinden, um Diebe hereinzulassen, die so (hoffentlich in der Abwesenheit des Hausbesitzers) das Haus ausräumen könnten. Die zunehmende Abhängigkeit von diesen neuen *Mitarbeitern* schafft neue potentielle Sorgen, die um der Erhaltung des Hypes um Innovation und der *Technologie um jeden Preis* Willen nicht unterschätzt werden dürfen.

Einen noch spezifischeren Zweig der Robotik stellen die sogenannten Sexbots dar (das sind Roboter, die zur Befriedigung unserer sexuellen Bedürfnisse programmiert werden). Vielleicht kann auch hier, sogar mehr als in anderen Bereichen, diese Technologie Menschen in besonderen Situationen eine Unterstützung sein (zum Beispiel kann sie Sexarbeiter ersetzen, um diese spezielle Notwendigkeit bei Menschen zu bewältigen, die aufgrund eines besonders dramatischen Unfalls oder einer körperlichen Beeinträchtigung unfähig sind, in einer *normalen* Beziehung zu leben).

Trotz des gesellschaftlichen Stellenwertes, den diese Roboter haben könnten, besteht Grund zur Sorge, dass sich diese Revolution in unserem Sexualleben auf unsere Gesellschaft auswirken könnte, weshalb man die Auswirkungen dieser intimen Unterhaltung überdenken sollte.

Zunächst könnte die Verfügbarkeit von passiven, programmierbaren Sexualpartnern eine Reihe von gesellschaftlichen Funktionsstörungen hervorrufen, wenn wir davon ausgehen, dass unsere einseitige Art der Interaktion mit einem Partner in einem intimen und sehr relevanten Bereich unseres Lebens bald zu der Entwicklung ähnlicher Verhaltensweisen außerhalb dieser Beziehung führen könnte und dass wir uns im erweiterten Sinne im Umgang mit anderen Menschen innerhalb der sexuellen Sphäre auf eine ähnliche Weise verhalten würden.

Diese Auswirkung könnte leicht die bereits sukzessive problematische Loslösung *von den anderen* verstärken und unsere Zivilisation in Bezug auf Solidarität, Empathie und andere Schlüsselwerte einer gut funktionierenden Gesellschaft armseliger machen.


## Roboter und Kriege

In Bezug auf das Problem der Erhaltung unserer Menschlichkeit gibt es eine andere Variante von Robotern, die analysiert werden muss. In den letzten Jahren wurde die schrittweise Einführung von unbemannten Flugzeugen (Drohnen) vorangetrieben. Bei militärischen Operationen werden weitgehend und vor allem in westlichen Ländern  Drohnen eingesetzt, die meist von Piloten in ausgeklügelten Laboren auf der anderen Seite des Planeten ferngesteuert werden und deren moralische Legitimität darauf begründet, dass sie die Anzahl der Opfer begrenzen und helfen, Menschenleben (in diesem Fall das Leben von Soldaten) zu erhalten. Abgesehen von der politischen Analyse in Bezug auf die mögliche Differenz im Wert gleichwertigen Lebens, müssen wir weiterhin die Implikationen dieser Technologie als ein komplexeres Problem betrachten als es beschrieben wurde. Schließlich wäre es zu einfach, diese ausschließlich als positiv darzustellen, wenn dem denn so wäre.

Man sollte in Verbindung mit den oben erwähnten Sorgen die Frage der Auswirkungen dieser Technologie auf die Art unserer Interaktionen mit anderen Menschen und die Weise erörtern, wie diese unser Verhalten über die vermeintlich gegebene Funktionalität hinaus formen würde.

Jene Piloten, die beispielsweise die Drohnen in ihren Heimatländern manövrieren, beenden ihre Schicht (während sie genauso gut unschuldige Babys durch Zufall getötet haben könnten) und werden dann in ihr *normales* Leben zurückkatapultiert. Paradoxerweise scheint diese schizophrene Art, ihr Leben zu leben, mehr Probleme und Ungleichgewichte zu erzeugen, als ursprünglich angenommen und die Auswirkungen müssen daher mit Bedacht berücksichtigt werden.

Es ist wichtig, auch das zunehmend realistische dystopische Szenario von Kriegsrobotern in Betracht zu ziehen, denen es erlaubt wird, *allein* darüber zu entscheiden, ob sie schießen wollen oder nicht. Es besteht weitgehende Einigkeit darüber, dass wir nicht auf die Programmierung eines Roboters abzielen sollten, der in der Lage ist, einen Menschen ohne die Zustimmung eines anderen Menschen zu erschießen, aber es gibt realistische Fälle, in denen eine solche Option nicht als besonders problematisch angesehen wird. Noch wichtiger ist jedoch, dass wir die Hacking-Anfälligkeit dieser Technologien im Auge behalten und uns über ihre potentiellen katastrophalen Auswirkungen nachdenken, wenn wir sie in die falschen Hände legen würden.


## Roboter und Automatisierungen

Schließlich ist es notwendig auf die sozioökonomischen Auswirkungen von Robotern hinzuweisen. Politiker, Akademiker und Entscheidungsträger haben begonnen, sich verstärkt mit dem Phänomen der zunehmenden industriellen Automatisierung auseinanderzusetzen, weil diese für viele Menschen eine Bedrohung der Arbeitsplätze darstellt.

Lisa Figura's avatar
Lisa Figura committed
80
Um zu klären, wer bei einem durch den Fehler eines Roboters verursachten Unfalls schuld ist, [hat das Europäische Parlament kürzlich vorgeschlagen, Maschinen einige Rechte zu gewähren, um sie zu legalen Einheiten zu machen](Http: // www.europarl.europa.eu/news/en/press-room/20170210IPR61808/robots-and-artificial-intelligence-meeps-call-for-eu-wide-liability-rules). Es war keine Überraschung, dass dies zu einer intensiven Diskussion zwischen Wissenschaftlern und der breiten Öffentlichkeit geführt hat, da viele diesen Schritt als ersten Schritt zur Schaffung zusätzlicher Wettbewerber in einer Welt sehen, die bereits zu wenig Arbeitsplätze hat und überbevölkert ist. Skeptiker der Positivität der *Robo-Revolution* erkennen im Kontext einer immer stärker werdenden Automatisierung unserer Produktionsketten eine Verbindung in der Zunahme der Unabhängigkeit von Robotern und einer Verringerung des Wertes der Menschen – der Arbeiter oder anderer.
Axel Dürkop's avatar
Axel Dürkop committed
81 82 83 84 85 86 87 88 89 90 91 92 93 94

[^rights-to-machines]: http://www.europarl.europa.eu/news/en/press-room/20170210IPR61808/robots-and-artificial-intelligence-meps-call-for-eu-wide-liability-rules

Technologie-Enthusiasten behaupten stattdessen, dass dies der richtige Weg zu mehr sozialer Gerechtigkeit und individuellem Wachstum ist; indem man Robotern erlaubt, selbstständig mechanische und befremdende Vorgänge zu erledigen, werden wir für Menschen mehr Möglichkeiten schaffen, ihrer eigenen Kreativität zu folgen und sich in einem einzigartigen Beruf zu verwirklichen. Diese optimistische Sichtweise ist natürlich sehr verlockend, aber das jüngste Scheitern des *Internet-Experiments* (von dem man eine drastische Stärkung der Demokratie und des moralischen Wachstums für die Menschheit erwartet hatte) verlangt von uns, bei der Beurteilung der nächsten Schritte vorsichtig zu sein.

## Weiterführende Literatur



## Dazugehörige Videos

## Dazugehörige Diskussion

Siehe auch die Diskussion zu diesem Kapitel unter