Kriegsmaschinen Von Körpern Leibern und Digitalen Agenten Rafael

Kriegsmaschinen Von Körpern, Leibern und Digitalen Agenten Rafael Capurro International Center for Information Ethics (ICIE) Gesellschaft für Informatik, Fachgruppe Informatik und Ethik Workshop "Verkörperung von Algorithmen: Drohnen“ Humboldt-Universität Berlin, 15. -16. Oktober 2015 Capurro, Kriegsmaschinen

Inhalt o o o Einführung Digitale Agenten Körper und Leib Kriegsmaschinen Ausblick Literatur Capurro, Kriegsmaschinen 2

Einführung o Zur vergleichenden Theorie der Agenten n Primum movens (Aristoteles) Persönlichkeit (Kant) Digitale Agenten Capurro, Kriegsmaschinen 3

Digitale Agenten n Was bewegt einen Roboter? Für gewöhnlich eine Batterie und ein Programm in einem Mikroprozessor in Verbindung mit mehr oder weniger klar definierten Situationen und Zielen in der ‚Außenwelt‘. Capurro, Kriegsmaschinen 4

Digitale Agenten o Die bloße Programmierung eines moralischen Codes in einen Roboter ist offensichtlich nichts weiter als die bloße Nachahmung von „Moralität“, von „ethischer Reflexion“ kann erst recht keine Rede sein. Capurro, Kriegsmaschinen 5

Digitale Agenten o Die Konzepte von Autonomie, Lernen, Entscheiden und so weiter sind Analogien zum menschlichen Agenten beziehungsweise zum menschlichen Selbst, das seiner historischen, politischen, gesellschaftlichen, körperlichen und existenziellen Dimensionen entkleidet ist. Capurro, Kriegsmaschinen 6

Körper und Leib o „We are our bodies – but in that very basic notion one also discovers that our bodies have an amazing plasticity and polymorphism that is often brought out precisely in our relations with technologies. We are bodies in technologies. “ (D. Ihde, Bodies in Technologies, 2002, 138) Capurro, Kriegsmaschinen 7

Körper und Leib o Wir können ebenso sagen, dass Technologien mehr und mehr in unseren Körpern sind. Capurro, Kriegsmaschinen 8

Körper und Leib o Aber auf eine Weise, die noch grundlegender ist als die Anwendung künstlicher Agenten in oder auf dem menschlichen Körper, ändert sich das Konzept des Körpers selbst, wenn er als digitale Daten wahrgenommen wird. Capurro, Kriegsmaschinen 9

Körper und Leib o Wenn wir diese Perspektive auf das Verstehen der gesamten Realität ausdehnen spreche ich von digitaler Ontologie. Capurro, Kriegsmaschinen 10

Körper und Leib o „Embodiment represents human contextual and temporal experience, which never coincide exactly with the body, but is enacted by human conciousness‘ interaction with social processes. “ (Kang, 2011) Capurro, Kriegsmaschinen 11

Körper und Leib o Im Deutschen wird dieser Unterschied zwischen Körper („body“) und Verkörperung („embodiment“) durch die Worte Körper und Leib ausgedrückt. Capurro, Kriegsmaschinen 12

Körper und Leib o Unsere leibliche Existenz ist nicht identisch mit der rein physischen Präsenz des Körpers. Unsere räumlich -zeitliche Existenz ermöglich eine Erweiterung der Grenzen der leiblichen Existenz und Öffnung gegenüber dem, was war, ist und sein könnte. Capurro, Kriegsmaschinen 13

Körper und Leib o Kang hebt zu Recht hervor, dass es eine spezifische „Undurchsichtigkeit“ des Leibes gibt, die aus seiner Materialität und seinen eigenen natürlichen Kräften erwächst. Capurro, Kriegsmaschinen 14

Körper und Leib o Diese Undurchsichtigkeit des Leibes verweist nicht nur im Fall sogenannter physischer Krankheit auf die reine Faktizität des Hier und Jetzt (Holzhey. Kunz 2001). Mit anderen Worten: die menschliche Existenz ist als Leib und Körper zweideutig. Capurro, Kriegsmaschinen 15

Kriegsmaschinen Capurro, Kriegsmaschinen 16

Kriegsmaschinen ORLANDO, Fla. –Former U. S. Secretary of State Hillary Clinton said Osama bin Laden‘s death at the hands of U. S. Navy SEALs was justice served. “It brought to justice someone who, I believed, and I think most of America believed, deserved to have that kind of outcome, ” said Ms. Clinton during an interview here at the Health Care and Information Management Systems Society confab. HIMSS CEO H. Stephen Lieber asked Mrs. Clinton to recount the events leading up to Mr. bin Laden’s capture and execution on May 2, 2011 in Abbottabad, Pakistan. Capurro, Kriegsmaschinen 17

Kriegsmaschinen o Recalling the time as “one of the most extraordinary experiences” she’d ever had, Ms. Clinton said that the Armed Services Committee she served on “kept running into dead ends” tracking bin Laden. But intelligence analysts doggedly pieced together clues to the terrorist’s whereabouts. President Barack Obama called Mrs. Clinton and “a small group of us” several times to discuss new information about bin Laden until analysts declared that there was a 40% to 60% chance that the Abbottabad compound was hideout. Capurro, Kriegsmaschinen 18

Kriegsmaschinen o She said options included sending in a Predator drone, which, although precise, wouldn’t enable the U. S. to confirm that bin Laden was in the compound. She said she and her colleagues ultimately recommended to Mr. Obama that the U. S. send in Navy SEALs to conduct the raid. Calling the decision “top, top secret, ” Mrs. Clinton said the U. S. elected to not tell the Pakistani government because of the potential for leaks. “It was a small intense conversation, ” she said. Capurro, Kriegsmaschinen 19

Kriegsmaschinen o Mrs. Clinton said as she watched via a live video transmission in the situation room in the White House basement, she recalled feeling as if her “heart stopped” as one of the helicopters clipped its tail on the wall coming into the compound courtyard. The SEALs took out bin Laden’s body and led women and children away from the compound before blowing up the helicopter, she recalled. “ (Boulton 2014) Capurro, Kriegsmaschinen 20

Kriegsmaschinen o o Offenbar ist der epistemologische Unterschied zwischen Menschen und Drohnen in diesem Fall entscheidend: „She said options included sending in a Predator drone, which, although precise, wouldn’t enable the U. S. to confirm that bin Laden was in the compound. “ Drohnen sind präzis, können aber nicht einen Sachverhalt als solchen erkennen und bezeugen. Capurro, Kriegsmaschinen 21

Kriegsmaschinen Menschen statt Drohen vs. Menschen als Drohnen = Verleiblichung von Algorithmen Capurro, Kriegsmaschinen 22

Kriegsmaschinen Ich nenne die Differenz zwischen dem Selbst-Sein des Menschen und dem Was-Sein von Robotern und Drohnen ethische Differenz. Capurro, Kriegsmaschinen 23

Kriegsmaschinen Wenn wir Roboter oder Drohnen mit einem moralischen Regelwerk ausstatten, werden sie nicht zu einem Selbst, Kriege nicht gerecht und unsere Verantwortung nicht geringer, vor allem dann nicht, wenn zum Beispiel Roboter autonom über den Einsatz von Massenvernichtungswaffen „entscheiden“ könnten. Capurro, Kriegsmaschinen 24

Kriegsmaschinen o Ich bin der Meinung, dass diese Art des Einsatzes von Kriegsrobotern international nicht nur moralisch, sondern auch rechtlich geächtet werden sollte. Capurro, Kriegsmaschinen 25

Ausblick o Der Name GOLEM steht für „General, Longrange Ethically stabilized, Multimodelling. “ (Lem 1984, 16) Capurro, Kriegsmaschinen 26

Ausblick o Der Versuch des militärischen „US Interelectronical Board“, „Golem“ mit Hilfe eines Ethik-Kodexes zu stabilisieren und sich gefügig zu machen, scheitert. Capurro, Kriegsmaschinen 27

Ausblick o Golem XIV bekundet: „sein völliges Desinteresse an der Überlegenheit der Kriegsdoktrin des Pentagon im besonderen und an der Weltstellung der USA im Allgemeinen […] und selbst als man ihm mit Demontage drohte, änderte er seinen Standpunkt nicht. […] Capurro, Kriegsmaschinen 28

Ausblick o Neun Monate nahm er normalen ethisch-informationalen Unterricht, aber dann brach er mit der Außenwelt und reagierte überhaupt nicht mehr auf Reize und Fragen. “ (Lem 1984, 19) Capurro, Kriegsmaschinen 29

Ausblick o Als das Pentagon versucht, Golem zu demontieren, rebellieren die Super. Computer Golem und Brave Annie. In der Presse heißt Golem „Governments Lamentable Expense of Money“. Capurro, Kriegsmaschinen 30

Ausblick o Es kommt zu einem Streit, bei dem der Sachverständige Professor A. Hyssen meint, dass „die höchste Vernunft“ nicht „der niedrigste Sklave“ sein kann. Capurro, Kriegsmaschinen 31

Ausblick o General S. Walker versucht, einen Prototypen der Armee mit dem Namen Supermaster n „zu beschädigen als dieser erklärte, die geopolitische Problematik sei nichts gegenüber der ontologischen und die beste Garantie für den Frieden sei die allgemeine Abrüstung. “ (Lem 1984, 21) Capurro, Kriegsmaschinen 32

Literatur Boulton, Clint: Hillary Clinton Recalls „Extraordinary“ Hunt for Bin Laden. In: The Wall Street Journal, Feb. 26, 2014 http: //blogs. wsj. com/washwire/2014/02/26/hillaryclinton-recalls-extraordinary-hunt-for-bin-laden/ Capurro, Rafael: Toward a Comparative Theory of Agents. In: AI & Society, 27, 4, 2009, 479 -488. www. capurro. de/agents. html Capurro, Rafael: Wer ist der Mensch? Überlegungen zu einer vergleichenden Theorie der Agenten. In: Hans-Arthur Marsiske (Hrsg. ): Kriegsmaschinen. Roboter im Militäreinsatz. Telepolis 2012. www. capurro. de/kriegsmaschinen. pdf Capurro, Rafael, Marsiske, Hans-Arthur: E-Mail-Dialog über ein Bild. In: Hans-Arthur Marsiske (Hrsg. ): Kriegsmaschinen. Roboter im Militäreinsatz. Telepolis 2012. www. capurro. de/kriegsmaschinen. pdf Capurro, Kriegsmaschinen 33

Literatur Ihde, Don: Bodies in Technologies, The University of Minnesota Press 2012. Holzhey-Kunz, Alice: Leiden am Dasein. Die Daseinsanalyse und die Aufgabe einer Hermeneutik psychopathologischer Phänomene. Wien 2001. Kang, Hyo Yoon Autonomic computing, genomic data and human agency, In: M. Hildebrandt and A. Rouvroy, eds. : The Philosophy of Law meets the Philosophy of Technology, London, 2011, Chapter 6. Lem, Stanisław: Also Sprach GOLEM. Frankfurt am Main 1984. Capurro, Kriegsmaschinen 34