Die Bundesregierung plant ein Gesetz gegen digitale Gewalt, um Betroffenen die Durchsetzung ihrer Rechte im digitalen Raum zu erleichtern und Schutzlücken zu schließen. Wie groß ist das Problem, vor allem mit Hatespeech, aktuell aus Ihrer Sicht?

Hatespeech ist eine erhebliche gesellschaftliche Herausforderung. Dabei handelt es sich keineswegs um ein neues Phänomen – Beleidigungen, Abwertungen und Diskriminierung gab es schon immer und begegnen Menschen auch in der Offline-Welt. Der entscheidende Unterschied besteht jedoch darin, dass sich solche Inhalte in digitalen Räumen deutlich schneller verbreiten, dauerhaft sichtbar bleiben und potenziell ein sehr großes Publikum erreichen können.

Wie präsent das Problem mittlerweile ist, zeigen verschiedene Studien der vergangenen Jahre. Demnach hat mindestens jede zweite Nutzerin beziehungsweise jeder zweite Nutzer bereits beleidigende oder herabwürdigende Inhalte auf Social Media wahrgenommen. Für manche sind Beleidigungen zu einem festen Bestandteil ihrer Online-Erfahrungen geworden.

Und inwiefern beeinflusst Hatespeech Debatten im digitalen Raum?

Digitale Debattenräume werden nachhaltig verändert. Für Betroffene können Hasskommentare erhebliche psychische Belastungen verursachen – wie Stress, Angst oder das Gefühl, aus der Öffentlichkeit verdrängt zu werden. Besonders problematisch sind auch die gesellschaftlichen Auswirkungen:

Wenn Nutzende digitale Räume als feindselig oder unsicher wahrnehmen, ziehen sie sich häufiger aus Diskussionen zurück, äußern ihre Meinung seltener oder verzichten ganz auf politische Beteiligung. Dadurch können wichtige Stimmen aus demokratischen Debatten verschwinden, während extreme oder besonders laute Positionen überproportional sichtbar werden.

Steliyana Doseva
Zum Profil

In den vergangenen Jahren hat Hatespeech zudem deutlich an öffentlicher Sichtbarkeit gewonnen. Dazu beigetragen hat unter anderem, dass immer wieder Personen des öffentlichen Lebens – darunter zum Beispiel Politikerinnen und Politiker, Journalistinnen und Journalisten sowie Forschende – Ziel von Hass und Anfeindungen im Netz werden. Durch die mediale Aufmerksamkeit, die solche Fälle erfahren, ist das Bewusstsein für Hatespeech als gesellschaftliches Problem und als Form digitaler Gewalt gestiegen. Darüber hinaus haben verschiedene regulatorische Initiativen auf nationaler und EU-Ebene die gesellschaftliche und politische Relevanz des Phänomens zusätzlich unterstrichen. Die verstärkte öffentliche und politische Auseinandersetzung zeigt, dass Hatespeech heute nicht mehr als Randphänomen digitaler Kommunikation betrachtet wird, sondern als Herausforderung mit weitreichenden Folgen für den öffentlichen Diskurs.

Plattformen sollen nun per Gesetz stärker in die Pflicht genommen werden. Welche Verantwortung tragen dabei soziale Netzwerke?

Betreibende von sozialen Netzwerken tragen eine zentrale Verantwortung im Umgang mit Hatespeech, digitalem Voyeurismus, Cyberstalking und anderen Formen digitaler Gewalt. Denn Plattformen sind längst nicht mehr nur neutrale technische Infrastrukturen, auf denen Nutzende ihre Inhalte veröffentlichen. Sie sind aktiv daran beteiligt, Inhalte zu kuratieren, und bestimmen unter dem Einsatz von Empfehlungsalgorithmen und Moderationsentscheidungen mit, welche Inhalte Menschen zu sehen bekommen. 

Das ist besonders relevant, weil soziale Medien für viele Menschen inzwischen eine wichtige Nachrichten- und Informationsquelle sind. Gerade jüngere Nutzerinnen und Nutzer kommen regelmäßig über Plattformen wie Instagram, YouTube oder TikTok mit Nachrichteninhalten in Kontakt. Für Deutschland zeigt der Reuters Institute Digital News Report 2026, dass die Relevanz sozialer Medien als Zugangsweg zu Nachrichten in allen Altersgruppen weiter gestiegen ist: So stellen soziale Medien mit 30 Prozent bereits den zweithäufigsten Zugangsweg zu Onlinenachrichten dar. In der Altersgruppe der 18- bis 24-Jährigen nutzt sogar knapp jede zweite Person soziale Medien regelmäßig als Zugang zu Nachrichten.

Wie können soziale Plattformen diese Verantwortung wahrnehmen?

Wenn Plattformen an Meinungsbildungsprozessen beteiligt sind, müssen sie auch Verantwortung dafür übernehmen, wie mit demokratiegefährdenden, diskriminierenden und beleidigenden Inhalten umgegangen wird. Insbesondere im Umgang mit Beleidigungen ist eine konsequente Content-Moderation zentral. Dazu gehören transparente Regeln, gut erreichbare Meldewege und schnelle Reaktionen auf rechtswidrige oder schädigende Inhalte. Wichtig ist dabei, dass Plattformen auch strukturell Verantwortung übernehmen: etwa indem sie systematisch prüfen, welche Inhalte durch ihre Empfehlungssysteme besonders sichtbar gemacht werden und ob diese Mechanismen Hass, Belästigung oder Radikalisierung begünstigen. 

Gleichzeitig ist die Förderung eines respektvollen digitalen Miteinanders eine gemeinsame Aufgabe. Nutzende tragen Verantwortung für ihr eigenes Kommunikationsverhalten. Medienkompetenz sowie zivilgesellschaftliche Gegenrede, auf Englisch „Counterspeech“, bleiben wichtige Bausteine im Umgang mit digitaler Gewalt. Zugleich gestalten Plattformen die Rahmenbedingungen, unter denen digitale Kommunikation stattfindet. Daher kommt ihnen eine besondere Verantwortung zu, sichere Debattenräume zu fördern und Risiken wie Hassrede oder Belästigung wirksam zu begrenzen.

Sie forschen auch zur eben erwähnten Counterspeech – also öffentlichem Widerspruch gegen Hassrede. Warum gilt Counterspeech als wichtiger Ansatz im Umgang mit Hatespeech? 

Counterspeech bietet eine Möglichkeit, diskriminierenden oder menschenfeindlichen Aussagen öffentlich zu widersprechen und demokratische Kommunikationsnormen sichtbar zu machen. Forschungsergebnisse zeigen, dass bestimmte Formen von Counterspeech dazu beitragen können, den Anteil von Hassinhalten in Diskussionen zu verringern und konstruktivere Kommunikationsformen zu fördern.

Steliyana Doseva
Zum Profil

Welche Formen von Counterspeech funktionieren dabei besonders gut?

Besonders wirksam sind Formen von Counterspeech, die an Empathie und Vernunft appellieren oder an respektvolle Kommunikationsnormen erinnern. Auch unterstützende Botschaften an Betroffene können wichtig sein, weil sie negative Folgen von Hassrede abmildern und Eskalationen entgegenwirken. Weniger erfolgreich sind hingegen rein sanktionierende Reaktionen. Sie führen oft nicht zu einem nachhaltigen Umdenken und können mitunter sogar Abwehrreaktionen hervorrufen. 

Gleichzeitig zeigt die Forschung, dass nur wenige Menschen tatsächlich eingreifen, wenn sie Beleidigungen im Netz mitbekommen. Dafür gibt es unterschiedliche Gründe: Manche fühlen sich unsicher oder wissen nicht, wie sie reagieren sollen. Zudem werden insbesondere subtilere Formen von Hassrede nicht immer eindeutig erkannt. Auch das Diskussionsklima auf Plattformen spielt eine Rolle: In feindseligen Umgebungen, in denen Gegenrede wenig Unterstützung erfährt, sind Nutzende oft weniger bereit, sich einzuschalten – auch weil das eigene Reagieren auf Beleidigungen, wie etwa durch Counterspeech, Zeit und Energie kostet.

Wie könnten Regulierung, Plattformmoderation und Counterspeech sinnvoll zusammenspielen?

Regulierung, Plattformmoderation und Counterspeech sollten als sich ergänzende Ansätze verstanden werden. Um digitale Gewalt und Hassrede wirksam einzudämmen, tragen Gesetzgeber, Plattformbetreibende und auch Nutzende jeweils Verantwortung. 

Eine wichtige Aufgabe des Gesetzgebers besteht darin, klare rechtliche Rahmenbedingungen zu schaffen. Dazu gehört insbesondere eine möglichst einheitliche und transparente Definition von Hatespeech. Auf dieser Basis können Plattformen ihre Moderationsmaßnahmen umsetzen, etwa indem sie rechtswidrige Inhalte identifizieren und entfernen. Gleichzeitig sollten sie transparent machen, wie Entscheidungen zustande kommen. 

Counterspeech erfüllt im Vergleich eine ganz andere Funktion: Sie ersetzt weder Regulierung noch Moderation, sondern ergänzt diese. Darüber hinaus ermöglicht Counterspeech gesellschaftliche Reaktionen auf problematische Inhalte, die nicht unbedingt rechtswidrig sein müssen. Gerade in solchen Graubereichen kann öffentlicher Widerspruch vonseiten der Nutzerinnen und Nutzer ein wichtiges Instrument sein. 

Inwiefern kann KI hier zukünftig unterstützen – und was sind neue Herausforderungen?

KI-gestützte Systeme könnten künftig eine wichtige Rolle spielen. Sie können Menschen dabei unterstützen, schneller passende und konstruktive Reaktionen auf Hassrede zu formulieren. Darüber hinaus bietet KI Potenzial für individuelle und respektvolle Dialoge über einen längeren Zeitraum. Solche Gespräche wären für menschliche Counterspeaker in großem Maße kaum umsetzbar, unter anderem auch, weil sie sehr zeitintensiv sind. 

Damit solche KI-gestützten Systeme verantwortungsvoll eingesetzt werden können, braucht es klare rechtliche Leitplanken und Transparenz darüber, wie sie funktionieren und welche Daten sie nutzen. Gleichzeitig benötigen Forschung und Aufsicht Zugang zu geeigneten Daten, um die Wirksamkeit und mögliche Risiken solcher Systeme bewerten zu können.  

Wichtig ist dabei auch, Nutzenden mehr Kontrolle und Verständnis darüber zu ermöglichen, wie ihre Daten verwendet werden und wie Plattformen mithilfe von KI Entscheidungen über ihre Inhalte treffen. Gleichzeitig steht die KI-Entwicklung derzeit in einem Spannungsfeld zwischen dem Bedarf an großen Datenmengen, dem Schutz von Datenschutz- und Urheberrechten sowie legitimen wirtschaftlichen Interessen. Die Herausforderung für die Regulierung besteht deshalb darin, Innovation und Datenzugang zu ermöglichen, ohne die Rechte von Betroffenen aus dem Blick zu verlieren.

Was würden Sie sich von Politik und Plattformen wünschen, um digitale Kommunikationsräume langfristig sicherer und konstruktiver zu gestalten?

Ich würde mir vor allem wünschen, dass Politik, Plattformen, Zivilgesellschaft und Forschung stärker zusammenarbeiten, um besser zu verstehen, welche Maßnahmen tatsächlich wirken und welche unbeabsichtigten Folgen sie haben. Digitale Kommunikationsräume verändern sich sehr schnell. Deshalb brauchen wir mehr evidenzbasierte Entscheidungen statt kurzfristiger Reaktionen auf einzelne Debatten oder neue Technologien. 

Dazu gehört aus meiner Sicht auch mehr Transparenz. Plattformen sollten Forschenden und Aufsichtsbehörden beziehungsweise zivilgesellschaftlichen Akteurinnen und Akteuren einen besseren Einblick ermöglichen, damit die Wirksamkeit von Moderationsmaßnahmen und neuen KI-Systemen unabhängig überprüft werden kann. Gleichzeitig sollten Nutzerinnen und Nutzer besser nachvollziehen können, welche Daten genutzt werden und wie Entscheidungen über ihre Inhalte zustande kommen.

Quellen

Reuters Digital News Report (2026)

Das NETTZ et al. (2024)

bidt-publikationen

Die Rolle von KI in Counterspeech: Potenziale und Risiken

Beleidigungen auf Social Media: Wie betroffen sind Nutzerinnen und Nutzer auf Social Media und wie wehren sie sich?

Der Beitrag Interview mit bidt-Forscherin Steliyana Doseva: Was hilft gegen Hass im Netz? erschien zuerst auf bidt DE.