Von Innosuisse gefördert: KI-Spürhund gegen Hass-Reden

News-Plattformen und soziale Medien nutzen das Format des Kommentars. Nicht jeder Kommentar ist konstruktiv und sachlich, geschweige denn anständig geschrieben. Manche Kommentare sind respektlos, verächtlich oder herablassend. Sie zielen darauf ab, bestimmte Personen oder Gruppen von Menschen einzuschüchtern, zu verängstigen oder abzuwerten.  

Im Englischen nennt man solche beleidigenden oder schädigenden Kommentare «Hate Speech». Im Deutschen spricht man von Hasskommentaren oder Hass-Rede. Hasskommentare können öffentliche Debatten beeinträchtigen, indem sie Personen abschrecken, sich in einer Kommentarspalte zu äussern oder an einer Diskussion teilzunehmen: «Müssen sich zum Beispiel Politikerinnen ständig mit frauenfeindlichen Kommentaren auseinandersetzen, hält das Frauen womöglich davon ab, überhaupt in die Politik einzusteigen», sagt Dominik Hangartner, ETH-Professor für Politikanalyse und Leiter der Public Policy Group.

In Zusammenarbeit mit alliance F, dem Dachverband der Schweizer Frauenorganisationen, untersuchen Hangartners Forschungsgruppe und das externe SeiteDigital Democracy Labcall_made der Universität Zürich nun, wie sich Hasskommentare mit maschinellem Lernen im Internet erkennen lassen, und welche Strategien der Gegenrede (engl. «Counter Speech») sich am besten eignen, um Hasskommentare zu entkräften.

Digitaler Spürhund gegen Hate Speech

alliance F hat die Plattform Stophatespeech.ch lanciert, um Hass-Rede im Internet gezielt einzudämmen. Ziel des Projekts «Stop Hate Speech» ist es, mit dem «Bot Dog» (Algorithmus), Hasskommentare im Netz automatisch aufzuspüren, sowie empirisch zu ermitteln, welche Art von Gegenrede besonders erfolgreich ist, um hassgeprägte Diskussionen wieder zu versachlichen.

Damit der digitale Spürhund lernt, wie er Hasskommentare – und nicht irgendwelche Kommentare – findet, trainieren ihn die Forschenden mit zahlreichen Beispielen. Diese stammen aus den realen Kommentarspalten von Schweizer News-Plattformen wie «Blick.ch» oder «20 Minuten». Rund 12'500 Kommentare wurden bis heute bereits bewertet – darunter sowohl solche auf Deutsch als auch solche auf Französisch.

Da es keine allgemeingültige Definition von Hass-Rede gibt und unterschiedliche Menschen Kommentare unterschiedlich beurteilen, arbeiten die Forschenden mit verschiedenen Gruppen zusammen, welche die erhaltenen Kommentare danach bewerten, ob es Hasskommentare sind oder nicht. Auf diese Weise spiegeln die klassierten Hasskommentare nicht allein die Ansichten einer einzigen Personengruppe.

Mittlerweile sind so knapp 60'000 Bewertungen zusammengekommen, und es kommen laufend noch mehr dazu – je mehr Lernbeispiele der Bot Dog erhält, umso treffsicherer wird seine Suche im Netz.

Welche Argumente wirken gegen Hate Speech?

Zudem ermitteln die Forschenden, wie man gezielt und wirksam auf Hasskommentaren reagieren kann: Sie untersuchen acht verschiedene Strategien, mit denen man Hate Speech kontern kann – angefangen beim faktischen Widerlegen von Falschaussagen über moralisches Appellieren und Warnen bis hin zu humorvollen, sarkastischen oder auch positiv geschriebenen Reaktionen.

«Wir wissen nur sehr wenig darüber, welche Strategien der Gegenrede sich effektiv eignen, um die verschiedenen Arten von Hate Speech zu unterbinden», sagt Selina Kurer, Lab Manager in Hangartners Gruppe, «wenn wir das wissen, können alliance F und die Medienhäuser dieses Wissen direkt anwenden, um der Hass-Rede in den Kommentarspalten gezielt entgegenzuwirken.»

Die Zusammenarbeit der Forschenden mit alliance F und den Schweizer Medienhäusern Ringier (Blick) und TX Group (20 Minuten) ermöglicht es, dass die Forschungsergebnisse der ETH und der UZH unmittelbar in die Praxis fliessen.

Viel Potenzial bei Innosuisse-Projekten

Als «Innovationsprojekt mit Umsetzungspartnern» erhält «Stop Hate Speech» seit November 2020 Förderbeiträge der Schweizer Innovationsförderagentur Innouisse. Das mag erstaunen, da man bei Innovationsförderung primär an Kooperationen der Natur- und Ingenieurwissenschaften mit Industriekonzernen oder kleinen und mittleren Unternehmen (KMU) denkt. Im Departement D-GESS ist «Stop Hate Speech» denn auch das erste Innosuisse-Projekt überhaupt. «Tatsächlich fördert Innosuisse jedoch auch Projekte, deren Umsetzungspartner eine gemeinnützige Organisation ist», sagt Jan Zimmermann, Industry Relations Manager der ETH Zürich.

Freilich müssen auch Innovationsprojekte mit gemeinnützigen Partnern einen Nutzen stiften: im Unterschied zu einer Industrieforschungspartnerschaft, in der eine Produkt- oder Prozessinnovation für einen Markt angestrebt wird, sind in solchen Fällen auch eine messbare gesellschaftliche Wirkung oder ein öffentliches Gut förderwürdig – im Falle von «Stop Hate Speech» entsteht der Nutzen im Hinblick auf hassfreie und konstruktive öffentliche Diskussionen, an denen möglichst viele Personen teilnehmen.

Das Team ETH Industry Relations berät seit 2020 ETH-Forschende über die Finanzierungsmöglichkeiten bei Innosuisse und die neuen Förderprogramme wie «Innovationskraft Schweiz», Flagship-Initiative oder NTN Innovationsbooster. Damit will die ETH einem Trend entgegenwirken: Obwohl sich die Schweizer Innovationsförderagentur Innosuisse seit der Ablösung ihrer Vorgängerin KTI im Jahr 2018 positiv entwickelt, hinkt die Entwicklung an der ETH hinterher (vgl. Tabelle).

«Bei einem bis dahin mittleren Fördervolumen von rund 15 Mio. Franken pro Jahr hat 2018 und 2019 die Zahl der Innosuisse-Förderprojekte an der ETH Zürich um gut die Hälfte abgenommen», sagt Zimmermann, «darum haben wir unser Unterstützungsangebot für ETH-Forschende ausgebaut. ‹Stop Hate Speech› und die wieder steigende Zahl an Gesuchs-Eingaben bestätigen, dass sich das lohnt.»

Anzahl der bewilligten Innovationsprojekte von ETH-Forschenden bei Innosuisse/KTI seit 2016.