Kinderglauben

Kleine Kinder glauben, dass ein Werkzeug böse sein kann. Der Hammer, weil sie  damit den Daumen getroffen haben, das Messer, weil sie sich geritzt haben und die Nadel, weil sie sich damit gestochen haben.

Sind wir erwachsen, geben wir ungern zu, dass wir diesem Kinderglauben noch immer anhängen. Mehr noch: Wir bestreiten das. Dabei sprechen wir im Brustton der Überzeugung von guten und bösen Computerprogrammen – verkürzt: dass es gute und böse Programme gibt, demzufolge gute und böse Computer. Das stimmt aber nicht.

Auch moderne Werkzeuge – Computertechnologie, die korrekterweise Computertechnik genannt werden sollte – sind weder gut noch böse. Ihre Anwendung, was man damit macht, das kann so oder so sein. Auf diesen Unterschied macht „Algorithm Watch“ aufmerksam und widerspricht damit zu recht der Forderung von Steven Hill, auf digitale  Technologien zu verzichten.

Das Team „Algorithm Watch“  erläutert das an den ADM-Systemen (automated decision making). Damit werden Entscheidungsmodelle in Rechenverfahren übersetzt, um daraus Aktionen oder Handlungsvorschläge abzuleiten. Das dürfte oft vorteilhaft sein, aber nicht immer.

Ein Beispiel: Wenn Menschen von einem ADM-Programm betroffen sind, werden sie nach der Datenspur bewertet, die sie hinterlassen. Die Person wird sozusagen an ihrer Vergangenheit festgenagelt, sie verliert die Bedeutungshoheit über diese Vergangenheit. Darüber bestimmen jetzt die Techniker hinter dem Algorithmus. Das sei zwar legitim, sagt „Algorithm Watch“, wird aber zum Problem, wenn ADM zur einzigen Methode der Beobachtung, Erklärung und Prognose menschlichen Verhaltens wird. Damit wird dem Menschen seine Lernfähigkeit abgesprochen.

Noch einmal, damit wir es nicht vergessen: Nicht das Werkzeug ist „gut“ oder „böse“, sondern das, was wir damit machen.