Verantwortungsvolle Maschinen ohne Verantwortlichkeit? Datenintensive Algorithmen in Organisationen

Abstract

Die Frage der Verschiebung von Verantwortung, die durch den vermehrten Einsatz von datenintensiven Algorithmen verursacht wird, beschäftigt seit einigen Jahren die sozialwissenschaftliche Forschung. Dabei geht es vor allem darum, welche Personen oder Instanzen dafür verantwortlich sein sollen, wenn sich Entscheidungen als diskriminierend, sachlich falsch oder ungerecht herausstellen. Aus soziologischer Perspektive fällt auf, dass in diesen Debatten nicht trennscharf zwischen Verantwortung und Verantwortlichkeit unterschieden wird. In unserem Beitrag greifen wir diese Unterscheidung so wie sie von Niklas Luhmann formuliert wurde auf, um Veränderungen und Kontinuitäten des Organisierens zu analysieren, die mit dem Einsatz datenintensiver Algorithmen verbunden sind. Wir zeigen, dass Algorithmen in organisationalen Entscheidungsprozessen Unsicherheit absorbieren und somit durchaus Verantwortung übernehmen, aber nicht für Fehler verantwortlich gemacht werden können. Durch den Einsatz von Algorithmen wird Verantwortung in Assemblagen von Personen und Technik zerlegt, während die Zuschreibung von Verantwortlichkeit hochgradig kontrovers wird. Daraus entstehen neue Diskrepanzen zwischen Verantwortung und Verantwortlichkeit, die insbesondere für das organisationsinterne Vertrauen und die Innovationsfähigkeit von Organisationen folgenreich sein können.

Verantwortungsvolle Maschinen ohne Verantwortlichkeit? Datenintensive Algorithmen in Organisationen

Responsible machines without accountability? Data-intensive algorithms in organizations