Integrata Stiftung für humane Nutzung der Informationstechnologie

KI für eine humane Kommunikation – gegen Hass und Hetze im Netz.

Gesucht sind Arbeiten und Vorschläge für eine KI, die hilft die Erzeugung und Verbreitung von Hass und Hetze im Netz zu reduzieren oder deren Erkennung zu verbessern.

Die Sicht des Stifters:

Hass-Prediger, Alltags-Hasser, neudeutsch oft „Hater“, kommunizieren Überzeugungen oder persönliche Fixierungen, die eines gemeinsam haben: die vehemente Abgrenzung von anderen Überzeugungen. Sie sind in hohem Grade intolerant, und zu dieser Intoleranz allen „Andersdenkenden“ gegenüber gehört eine mehr oder weniger ausgeprägte Bekehrungssucht, die sich zu hasserfüllter Feindseligkeit steigern kann.

Das Phänomen:

Der Mensch lebt seit Urzeiten in Gruppen und identifiziert sich mit „seiner“ Gruppe. Mit den aktuellen Medien verstärkt sich dies oft durch die – teils unbewusste – Erzeugung von Filterblasen. Dazu gehört auch die Abgrenzung gegen Außenstehende, die sich in Hass widerspiegeln kann, wenn die Konkurrenz Außenstehender und deren Argumente als zu stark wahrgenommen werden.

Heutzutage beziehen viele Menschen ihre Nachrichten und Informationen aus den digitalen Medien. Für Hass-Prediger, Verschwörungstheoretiker, aber auch für staatlich kontrollierte Medien, wie z.B. in Russland, China, Türkei und auch Ungarn und Polen sowie einige private Nachrichtenkanäle in den USA ist das ein weit offenes Einfallstor für gezielte Meinungsverbreitung, Falschinformation und Manipulation einerseits sowie für Aufstachelung zu Feindschaft und Hass oder sogar zu direkten Gewaltaufrufen andererseits.

In den sozialen Medien können derartige Botschaften leichter, breiter und anonym verbreitet werden. Durch die Interaktion verschiedener Nutzer ohne zeitliche Verzögerung eskalieren Diskussionen rasch zu handfesten Streitigkeiten.

Ein weiterer Aspekt der Nutzung und Verbreitung von Hass ist, dass sich über negative Botschaften und destruktive Inhalte mit weniger Aufwand eine große Leserschaft aufbauen lässt, wenn es dem Ersteller der Botschaften um die Reichweite geht. Ein Kanalaufbau mit positiven Botschaften wäre deutlich aufwändiger.

Heute erleben wir aber eine globale Gesellschaft, die letztlich nur friedlich überleben und sich weiterentwickeln kann. Darum bemühen sich auch die meisten Menschen. Das möchte der Stifter mit diesem Preis unterstützen.

Die Integrata-Stiftung hat dazu in ihren 10 Thesen ihre 4. These folgendermaßen formuliert:

These 4: Information und Kommunikation
Wiederherstellung des Vertrauens zwischen Kommunikationspartnern durch
verantwortungswusste Information und faire Kommunikation.

Die Herausforderung:

Beispiel: Derzeit bekommen wir beim Formulieren von Texten Unterstützung z.B. in Rechtschreibung, indem eine Software diese beim Tippen nebenher prüft und uns passende Vorschläge macht. Könnte eine ähnliche Software auf Basis Künstlicher Intelligenz nicht auch im Netz nebenher Fakten prüfen und Formulierungen vorschlagen, die frei von Hass unsere Argumente vorbildlich und vertrauensfördernd darstellen?

Um die Fantasie anzuregen (aber nicht ausschließlich), könnten die einzureichenden Arbeiten:

• Bei der Erstellung von Texten helfen, ungewollte Interpretationen Richtung Hass und Hetze zu vermeiden
• Bei der Verbreitung/Übermittlung von Hassbotschaften im Netz einzugreifen
• Beim Konsum von gewollten Hassnachrichten durch erläuternde Kommentare, Filter, o.ä. Transparenz erzeugen

Wir suchen dem einzelnen Menschen helfende – vermutlich KI-gestützte – Lösungen, Ideen und Ansätze. Da wir denken, damit ganz am Anfang einer künftigen Entwicklung zu stehen, suchen wir breit, offen und zunächst ohne Einschränkungen.

Wir freuen uns auf interessante Nominierungen!