Google und Co.

In unserer arbeitsteiligen Welt gibt es ganze „Industrien“, die ausschliesslich mit der Produktion von Denkwerkzeugen beschäftigt sind. Bis vor kurzem waren die beiden bedeutendsten Wissenschaft/Forschung und Medien/Journalismus, neu kommen Internet/Social Media dazu. Wenn wir beurteilen wollen, ob ein bestimmtes Denkwerkzeug für unsere eigenen Zwecke geeignet ist, kann es nützlich sein, ein bisschen über die Produktionsbedingungen in diesen „Industrien“ Bescheid zu wissen. Ich möchte mir hier einmal als erstes das Internet und dort im Besonderen die Suchalgorithmen vornehmen.

Die Menge an Beiträgen, die jede Minute weltweit im Internet publiziert werden, geht in die Millionen und ist für jeden einzelnen von uns nicht zu überschauen. Wir sind darauf angewiesen, dass die Computer, die uns den Zugang zu diesen Beiträgen verschaffen, eine Auswahl treffen. Sie entscheiden für uns, was wir überhaupt zu sehen bekommen oder zumindest, was wir als erstes zu sehen bekommen, bevor wir weiter scrollen. Sie arbeiten dabei aufgrund sogenannter Auswahlalgorithmen.

Radikalisierung im Internet

Am Abend des 17. Juni 2015 erschoss D. Roof (21) in einer Kirche in Charleston, South Carolina, neun Afroamerikaner.[1] Kurz nach der Tat entdeckte man, dass er im Internet relativ ausführlich beschrieben hatte, was ihn zu dieser Tat führte[2]. Er schrieb unter anderem [meine Übersetzung]:

„Das Ereignis, das mir wirklich die Augen öffnete, war der Fall Trayvon Martin. Sein Name begegnete mir immer wieder und schlussendlich beschloss ich, ihn nachzuschlagen. Ich las den Wikipedia Artikel und verstand von Anfang an nicht, wieso das so eine grosse Sache war.“

Trayvon Martin (17) wurde 2012 vom Nachbarschaftswachmann G. Zimmerman erschossen. Als Begründung gab Zimmerman Notwehr an.[3]

„Es war offensichtlich, dass Zimmerman im Recht war. Wichtiger war aber, dass das mich dazu veranlasste, die Suche ‚black on White crime‘ [„Verbrechen von schwarzen an Weissen“, Grossschreibung so in Original] bei Google einzugeben. Und seit jenem Tag bin ich nicht mehr derselbe. Die erste Website, auf die ich traf, war die des Council of Conservative Citizens. Da gab es Seiten um Seiten dieser brutalen Morde von Schwarzen an Weissen. Ich konnte das kaum glauben. In diesem Moment realisierte ich, dass hier etwas vollständig schief läuft. Wie konnten die Medien den Fall Trayvon Martin nur so aufblasen, während Hunderte dieser Morde von Schwarzen an Weissen einfach ignoriert werden?

Von diesem Punkt aus vertiefte ich meine Suche und entdeckte, was in Europa passiert. Ich sah, dass dasselbe in England und Frankreich und allen anderen westeuropäischen Ländern passiert. […] Dann stiess ich auf das jüdische Problem und andere Bedrohungen, denen unsere Rasse gegenüber steht. Ich kann sagen, dass ich heute nun vollständig rassenbewusst bin.“

Auf dieser Basis plante Roof dann die Erschiessung afroamerikanischer Kirchgänger.

Seine Hauptinformationsquelle, der Council of Conservative Citizens (CCC), geht auf eine Gruppe zurück, welche in den Jahren zwischen 1950 und 1970 dagegen kämpfte, dass die bisher getrennt unterrichteten afroamerikanischen und weissen Kinder gemeinsam zur Schule gehen sollten. Unter anderem hatten sie sich auf die Fahne geschrieben, sich gegen jeden Versuch zu wehren, die menschlichen Rassen zu vermischen.[4]

Dieses Programm lässt vermuten, dass es dem CCC mit seiner Liste von Morden an Weissen hauptsächlich darum geht, bei weissen Mitbewohnern Stimmung gegen Afroamerikaner zu machen und so eine Vermischung der Rassen zu verhindern. Vielleicht deckte sich dieser Zweck des von ihnen angebotenen Denkwerkzeugs „black on White crime“ mit den Zielen, die Roof schon vorher verfolgte. Dann hat er sich das Denkwerkzeug zu Recht angeeignet.

Aufgrund der Konsequenzen, welche sich aus dem Einsatz des Denkwerkzeuges ergaben, hätte er sich allerdings unbedingt kritisch mit dem Angebot des CCC auseinandersetzen müssen. Eine Möglichkeit wäre in diesem Fall gewesen, sich zusätzlich die entsprechenden Statistiken beim FBI anzusehen (vgl. Expert:innen). Dort hätte er gesehen, dass in den USA Gewaltverbrechen zu einem grossen Teil innerhalb der weissen bzw. der afroamerikanischen Population stattfinden. Weisse üben Gewalt an Weissen aus, Afroamerikaner an anderen Afroamerikanern.[5] Morde an Weissen begehen vor allem Weisse.

Im Prinzip kann man das, was Google uns anbietet, als eine geordnete Liste von Empfehlungen möglicher Expert:innen ansehen. Das Problem bei diesen Empfehlungen ist:

  • Google weiss nicht, welchen Zweck ich mit meiner Suchfrage verfolge, stellt aber Vermutungen an. Bei Roof war die Vermutung wohl zutreffend – mit schrecklichen Folgen. Wenn ich heute „black on white crime“ eingebe, erscheint als erstes die Statistik des FBI.
  • Egal wie gut Google unsere Absichten errät, es bietet auf jeden Fall auf der ersten Seite Resultate an, die alle dieselbe Tendenz haben. Bei Roof waren es vermutlich alles Seiten mit ähnlicher Ausrichtung wie die des CCC. Bei mir sind es alles Statistiken, die mit der des FBI vergleichbar sind.
  • Eine Suche bei Google einzugeben, kostet zwar nichts, aber Google ist nicht gratis. D.h. Google wird als erstes Resultate anbieten, bei denen es aus irgendwelchen Gründen etwas verdient. Bspw. zeigte vor einigen Jahren eine Untersuchung, dass man beim neutralen Suchbegriff „black girls“ (schwarze Mädchen) lauter pornografische Resultate erhielt, wohl weil Pornografie im Internet ein lukratives Geschäft ist.[6]

Google bietet uns also im Allgemeinen nicht Resultate an, die es uns erlauben, eine breite Palette alternativer Denkwerkzeuge kennenzulernen, sondern verstärkt im ungünstigen Fall einfach unsere vorgefassten Meinungen und Vorlieben. Dasselbe gilt für alle anderen Medien, die uns eine geordnete Auswahl anbieten, sei es Twitter, YouTube, Instagram, TikTok oder was auch immer.

Dem zu entkommen, ist nicht ganz einfach. Möglichkeiten sind:

  • Auf die dritte oder vierte Seite der Suchresultate springen und vergleichen, ob dort Vorschläge auftauchen, die sich wesentlich von den Resultaten auf der ersten Seite unterscheiden.
  • Gezielt zusätzlich nach Quellen suchen, die vermutlich eine andere Perspektive haben, als die bereits geprüften Quellen. Wie gesagt, hätte Roof, nachdem er die Darstellungen beim CCC gelesen hatte, sich überlegen können, wer dazu auch noch Daten haben sollte und wäre dann vielleicht auf das FBI gestossen.
  • Die Suche mehrfach umformulieren und die Resultate vergleichen. Roof suchte explizit nach „black on White murder“. Als Nächstes hätte er bspw. „Statistik Morde USA“ versuchen können.
  • Anonym suchen: Manchmal erhält man eine andere Perspektive, wenn man mit einem Webbrowser arbeitet, der keine Daten darüber preisgibt, wer da am Suchen ist (bspw. „privates Fenster“ bei Firefox). Google kann dann die Resultate nicht auf das zuschneiden, was über uns bekannt ist. Suche ich so nach „black on White murder“ erscheint heute zuerst das FBI. Roof wäre es vielleicht auch so gegangen.

Wenn ein Denkwerkzeug bei der Suche im Internet an erster Stelle erscheint, bedeutet das nicht automatisch, dass es das geeignetste Werkzeug ist. Daher ist es wichtig, dass wir nach Alternativen suchen, um vergleichen zu können.

Weiter lesen >> Den eigenen Augen trauen?

[1] https://en.wikipedia.org/wiki/Charleston_church_shooting

[2] Aus: Noble, S. U. (2018). Algorithms of Oppression. How Search Engines Reinforce Racism: NYU Press. S. 110ff, meine Ãœbersetzung

[3] https://de.wikipedia.org/wiki/Todesfall_Trayvon_Martin

[4] für eine kritische Analyse: https://www.splcenter.org/fighting-hate/extremist-files/group/council-conservative-citizens

[5] https://ucr.fbi.gov/crime-in-the-u.s/2016/crime-in-the-u.s.-2016/tables/expanded-homicide-data-table-3.xls

[6] Noble, S. U. (2018). Algorithms of Oppression. How Search Engines Reinforce Racism: NYU Press.