Noch entschuldigen sich die Roboter

Heute morgen musste Nando Stöcklin (Biblionetz:p05114) eine unschöne Entdeckung machen: Google hat seinen Weblog gelöscht. Googles Algorithmen (Biblionetz:w00074) berechneten, dass der Weblog Spam (Biblionetz:w01207)sein könnte, worauf der Blog automatisiert gelöscht worden ist.

Nando schildert, wie er darauf hin Google überzeugen konnte, dass es sich bei seinem Weblog nicht um Spam handelt, worauf der Weblog wieder aktiviert worden ist. Ende gut, alles gut?

Naja. Besonders ins Auge gestochen ist mir der Satz von Google: "Auch im Namen unserer Roboter bitten wir um Entschuldigung dafür, dass wir Ihren legitimen Blog gesperrt haben." Diese Anthropomorphisierung mag ja ein neckischer Google-Google sein, aber dahinter steckt auch bitterer Ernst: Algorithmen treffen unterdessen bereits automatisiert Entscheidungen, die - wie das Beispiel zeigt - auch falsch sein können und die bereits von so grosser Tragweite sind, dass das entsprechende Unternehmen eine Entschuldigung für angebracht hält. Aber das Unternehmen - in diesem Fall Google - fängt sprachlich schon an, die Verantwortung mit dem Algortihmus zu teilen: Kann ein Algorithmus wirklich Verantwortung übernehmen, kann er sich entschuldigen?

Die Geschichte ist alt: Der Bankberater teilt dem Kunden mit, dass er leider keinen Kredit erhalte, der Computer habe so entschieden. Der Computer? Nein, die Bank, die den Computer programmieren liess. Bereits seit längerem wird versucht, Entscheidungsverantwortung zu vertuschen, indem sie scheinbar an den Computer delegiert wird. In Zeiten von big data (Biblionetz:w02425) wird das zunehmen.

Noch entschuldigen sich die Roboter für ihre Fehler.

Was schliesse ich aus dieser Episode:

• Pragmatisch: Seine digitale Identität muss man weitgehend selbst hosten, damit einem fremde Unternehmen, Länder & Gesetze möglichst wenig reinreden können.
• Bildungspolitisch: Informatik gehört zur Allgemeinbildung. Wie soll man sonst die heutige und zukünftige Welt verstehen?
• Bildungspolitisch II: Informatik in der Bildung muss sich auch um die Konsequenzen der Informatik kümmern. Sich auf den Standpunkt "Wir entwickeln ja nur wertfreie Algorithmen" zurückziehen geht nicht. Informatik prägt unsere Welt.

…und über Autobahnvignetten abgestimmt.

-- AndreaCantieni - 11 Dec 2013

---

Zum Kommentieren ist eine Registration notwendig.

Kategorien: IsaBlog, IsaAnnoyance, IsaBildungspolitik