Kanäle
Jetzt personalisiertes
Audiomagazin abonnieren
Log-in registrieren
forum verwendet Cookies und andere Analysewerkzeuge um den Dienst bereitzustellen und um dein Website-Erlebnis zu verbessern.

handverlesenswert

Kluge Köpfe filtern für dich relevante Beiträge aus dem Netz.
Entdecke handverlesene Artikel, Videos und Audios zu deinen Themen.

Du befindest dich im Kanal:

Technologie und Gesellschaft

Wenn der Code die Gesellschaft formatiert – wie ticken eigentlich Programmierer?

Jörn Klare
Neugier und Misstrauen
Zum Kurator'innen-Profil
Jörn KlareMontag, 20.01.2020

Dass bei der Übersetzung großer Lebensfragen in ein binäres System von Einsen und Nullen Unschärfen entstehen und menschliche Vorurteile einfließen, ist offenkundig.

Für die SZ bespricht Adrian Lobe ein Buch (das ich noch nicht gelesen habe) des Journalisten Clive Thompson über die „Welt der Programmierer“. Ein, wie ich finde, hochbrisantes Thema, zu dem in dem Artikel ein paar spannende Fragen aufgeworfen werden.

"Wo wir in einer Welt aus Software leben, sind sie die Architekten. Ihre Entscheidungen, die sie treffen, leiten unser Verhalten."

Programmierer – Englisch: coders – gehören laut Thompson immerhin zu den "leisesten einflussreichsten Leuten auf dem Planeten". Eine Perspektive, die ich gut nachvollziehen kann, nachdem ich mich im Rahmen einer Recherche einmal eingehender mit der Programmierung autonomer Fahrzeuge beschäftigt habe.

Das extrem logische Vorgehen hat fast schon etwas Meditatives. Jede Zeile muss geprüft werden. Vielleicht rührt daher auch der Tunnelblick, das extreme Fokussiertsein auf kleinteilige Lösungen, der den Blick aufs große Ganze verstellt.

Lesenswert.

Wenn der Code die Gesellschaft formatiert – wie ticken eigentlich Programmierer?

Möchtest du kommentieren? Dann werde jetzt kostenlos Mitglied!

Kommentare 4
  1. Thomas Wahl
    Thomas Wahl · vor fast 5 Jahre · bearbeitet vor fast 5 Jahre

    Solche Sätze machen mich immer sprachlos:
    "Dass bei der Übersetzung großer Lebensfragen in ein binäres System von Einsen und Nullen Unschärfen entstehen und menschliche Vorurteile einfließen, ist offenkundig."

    In alle unsere Lebensfragen fließen menschliche Vorurteile und Unschärfen ein und in jede Übersetzung in menschliches Handeln erst recht. Der Artikel ist das beste Beispiel dafür. Das hat mit digitalen Systemen überhaupt nichts zu tun. Die meisten Menschen fällen gut/böse Urteile - viel binärer geht es gar nicht. Der Autor hat keine Ahnung von Programmierung und Softwarearchitktur. Das der Maschinencode letztendlich in Digitalcode übersetzt wird, führt nicht zu dazu, dass auch die Algorithmen insgesamt binär sind. Ich weiß auch nicht, wie er darauf kommt, dass Programmierer die Architekten sind. Eher handelt es sich um Handwerker. Die Architektur der Algorithmen liegt auf einer höheren Ebene und ist nicht der Programmcode.

    Noch weniger verstehe ich, warum durch das Programmieren der Blick auf das große und ganze verloren gehen sollte oder besser, warum das etwas Besonderes sein sollte. Wenn der Elektriker eine Steckdose einsetzt denkt er auch nicht an das ganze Haus und der Arzt der operiert nicht an die ganze Volksgesundheit. Dies ganzen Metaphern sind schief und sehr wohl voller Stereotypen .... Man sollte vielleicht keine Anthropologen/innen fragen, wenn man über Algorithmen und Programmierung recherchiert.

    Den Vorwurf, das Gesellschaftsgefüge ins Wanken zu bringen hat man übrigens schon dem Buchdruck gemacht. Sicher haben neue Technologien immer ein Potential für Disruptionen. Aber Hassreden haben nichts mit Algorithmen zu tun - man höre nur die Hassreden von Joseph Goebbels im damaligen Radio.

    1. Jörn Klare
      Jörn Klare · vor fast 5 Jahre

      Was Joseph Goebbels Hassreden jetzt in dieser Diskussion zu suchen haben sollen, kann ich nicht nachvollziehen.

      Mein Interesse an dem Selbstverständnis „der Programmierer“ rührt aus meinen bereits erwähnten Erfahrungen hinsichtlich der technischen Entwicklungen im Bereich des autonomen Fahrens, insbesondere, was die Programmierung sogenannter „Notfallalgorithmen“ (Wer wird im tragischen Zweifelsfall zum Opfer auserkoren?) betrifft. Dabei wurde - arg verkürzt gesagt - schon deutlich, dass sich eine quantifizierende utilitaristische Rechtsethik wesentlich besser mit den quantitativen Entscheidungsmustern technischer Informationssysteme verträgt. Sie lassen sich etwa im Gegensatz zu komplexen ethischen Abwägungen (insbesondere für jeweilige Einzelfälle) wesentlich leichter programmieren. Die Politik, insbesondere in Gestalt des Verkehrsministeriums, zeigt(e) sich da erst einmal sehr industriefreundlich, und wich und weicht den daraus resultierenden Fragen eher aus.

      Ein renommierter Jura-Professor äußerte dazu, die für mich nachvollziehbare Befürchtung:

      „Die Programmierer könnten so faktisch darüber entscheiden, welchen Prinzipien das Recht folgt. Etwas prononciert ausgedrückt: Aus einer Herrschaft des Rechts würde eine Herrschaft des Algorithmus.“

      Was, in Bezug auf die Erfahrungen, dass eine staatliche, bzw. gesellschaftliche Kontrolle den technischen Entwicklungen oft hinterherhinkt (z.B. Datenschutz),
      bedeuten würde, dass die Regeln der Informatik die Regeln der angewandten Ethik bestimmen, oder auch: Je autonomer die Maschinen, desto maschineller die Moral.

      Von daher ist das schon etwas anders als das, was ein Elektriker oder auch einzelner Arzt macht.

      Die hochqualifizierten Programmierer, mit denen ich dazu sprach, zeigten sich hinsichtlich der skizierten Problematik meist weniger interessiert oder aber überfordert, bzw. offen hilfesuchend, weil sie durchaus ahnten, dass sie sich auf einem schwierigen Gelände bewegen.

      Interessant finde ich allerdings Deine Differenzierung zwischen „Algorithmen-Architekten“ und Programmierern, die Clive Thompson oder zumindest erstmal Adrian Lobe nicht machen. Auch mir fällt es schwer, zwischen diesen beiden Gruppen eine klare Trennlinie zu ziehen.

    2. Thomas Wahl
      Thomas Wahl · vor fast 5 Jahre · bearbeitet vor fast 5 Jahre

      @Jörn Klare Ich meine, die Hassreden stammen nicht von den Algorithmen und nicht vom Radio. Die Technik verteilt sie nur. Das man über die digitalen Infrastrukturen Haßreden verteilen kann unterscheidet sie also nicht. Auch Buchdruck und Radio konnten das. Letztendlich geht es um das Verbannen und damit die Kontrolle solcher Extreme. Das geht auch mit Algorithmen - wenn man will z.B. über die Feststellung der Identität.
      Ich weiß nicht, wie die ethische Abwägung in den Köpfen von Menschen so ablaufen im Falle eines Unfalles. Im Zweifelsfalle versuchen wohl ohne komplexe ethische Abwägungen die meisten irgendwie am Leben zu bleiben. Klar ist auch, dass in autonomen Infrastrukturen wesentlich weniger Unfälle und Tote zu erwarten sind, als mit menschlichen Fahrzeugführern. Also dass die Menschen ein sicherer Hafen für die angewandte Ethik sind, das glaube ich nicht. Letztendlich entscheiden die Richter ja immer erst hinterher. Vielleicht gilt gerade umgedreht, je autonomer die Technik um so mehr ethische Regeln kann ich implementieren?
      Ich halte das mit den Notfallalgorithmen letztendlich für eine "Scheinproblematik". Zumal "das Recht" ja vor dem Programmieren durchaus mitreden könnte. Sicher muß man sich darüber Gedanken machen. Das aber ist nicht Sache der Programmierer.

    3. Thomas Wahl
      Thomas Wahl · vor fast 5 Jahre · bearbeitet vor fast 5 Jahre

      @Jörn Klare Algorithmen sind ja erst mal nichts anderes als Handlungsanweisungen. Unsere Gesellschaften funktionierten schon immer über solche Richtlinien. Wenn die Ampel rot ist, dann halte an. Es gibt Algorithmen die den Menschen anerzogen werden, es gibt schriftlich festgelegte Algorithmen z.B. über Arbeitsabläufe und auch einfache mechanische Automaten sind im Grunde materialisierte Algorithmen.
      Man kann auch die zehn Gebote als Algorithmen sehen. Nur der Mensch hält sich nicht sklavisch daran, das ist schon klar. Sind nicht auch Gesetze Handlungsanweisungen? Sicher wird das nun in den digitalisierten und globalisierten Infrastrukturen erheblich komplexer. Aber der Mensch könnte das ohne diese Technologien gar nicht mehr steuern. Es bringt m.E. wenig, das zu mystifizieren ....-

Bleib immer informiert! Hier gibt's den Kanal Technologie und Gesellschaft als Newsletter.

Abonnieren

Deine Hörempfehlungen
direkt aufs Handy!

Einfach die Hörempfehlungen unserer Kurator'innen als Feed in deinem Podcatcher abonnieren. Fertig ist das Ohrenglück!

Öffne deinen Podcast Feed in AntennaPod:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Downcast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Instacast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Podgrasp:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Bitte kopiere die URL und füge sie in deine
Podcast- oder RSS-APP ein.

Wenn du fertig bist,
kannst du das Fenster schließen.

Link wurde in die Zwischenablage kopiert.

Öffne deinen Podcast Feed in gpodder.net:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Pocket Casts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.