„Wenn sie ethisch umgesetzt werden, kosten sie mehr“: danah boyd über algorithmische Entscheidungssysteme

CC-BY 2.0 Jay Cross

Mit dem Versprechen von Effizienz und Kosteneinsparung hoffen Unternehmen, klammen Städten und Regierungen teils intransparente oder nicht ausgereifte Produkte zu verkaufen. Diese haben Folgekosten, wenn beispielsweise herauskommt, wie fehleranfällig sie sein können.

Die Ethnographin danah boyd leitet das Forschungsinstitut Data & Society in New York. In einem Blog-Post zum noch nicht erschienenen Buch „Automating Inequality“ (kurz: AI) von Virginia Eubanks schreibt boyd über die Kosten von algorithmischen Entscheidungssystemen im öffentlichen Bereich:

Wenn Sie jemals hören, dass die Implementierung von algorithmischen Entscheidungsfindungsinstrumenten, soziale Dienste oder andere hochrangige Regierungsentscheidungen ermöglichen, die Effizienz erhöhen oder die Kosten für die Steuerzahler reduzieren, wissen Sie, dass Sie belogen werden. Wenn sie ethisch umgesetzt werden, kosten diese Systeme mehr. Und sie sollten es tun.

Egal, ob es um gerichtliche Entscheidungen geht (z. B. „Risk Assessment Scoring“) oder um eine Modellierung, wer für Obdachlosigkeit gefährdet ist – die Kosten von algorithmischen Systemen liegen nicht einfach in der Implementierung. Sie liegen in der Überprüfung. Es kostet Geld, dass sie in dem Bereich weiterentwickelt werden, für den sie gedacht waren.  Es kostet Geld, ihre Nutzer zu trainieren, sodass sie die Daten verantwortungsvoll nutzen. […]

Sonst ist alles, was diese Systeme tun, dabei zu helfen, Steuergelder von herkömmlichen Diensten abzuzweigen und die Taschen gewinnorientierter Unternehmen unter der Illusion, Menschen zu helfen, zu füllen. […]

Was die Datenanalyse gut macht, ist Möglichkeiten für Experimente und tiefere Exploration zu eröffnen. Aber […] weil die Technologie Geld sparen soll, gibt es kein Budget dafür, diese Daten zu nutzen, um Menschen wirklich zu helfen. Stattdessen wird Technologie zur Illusion. Nicht weil die Technologie von Natur aus schlecht ist, sondern aufgrund der Art und Weise, wie sie eingesetzt und genutzt wird.


Hilf mit! Mit Deiner finanziellen Hilfe unterstützt Du unabhängigen Journalismus.

Quelle: Netzpolitik