Laut Ofcom fungieren Suchmaschinen als Einfallstor für Selbstverletzung

Seit der Einführung von ChatGPT hat es einen großen Wandel in Richtung Inhaltssicherheit gegeben. Die Selbstzensur von ChatGPT und anderen Chatbots ist bei Suchmaschinen kein Thema, aber jetzt weist Ofcom auf eine der Gefahren hin – nämlich den einfachen Zugang zu selbstverletzenden Inhalten.

In einer neuen Studie des Network Contagion Research Institute (NCRI) für Ofcom können die großen Suchmaschinen, darunter Google, Bing, DuckDuckGo, Yahoo! und AOL, als Einfallstor für Inhalte fungieren, die Selbstverletzung verherrlichen oder feiern – und zwar so Enthält Webseiten, Bilder und Videos.

Im Rahmen der Studie hat der NWRI häufige Selbstverletzungsfragen und kryptische Begriffe eingegeben, die von Online-Communities verwendet werden, um die wahre Bedeutung zu verbergen. Anhand von 37.000 Suchergebnissen wurde festgestellt, dass schädliche selbstverletzende Inhalte weit verbreitet sind, Bildersuchen besonders riskant sind und kryptische Suchbegriffe schädlichere Inhalte offenbaren.

Almudena Lara, Direktorin für die Entwicklung von Online-Sicherheitsrichtlinien bei Ofcom, kommentierte die Ergebnisse wie folgt:

„Suchmaschinen sind oft der Ausgangspunkt für das Online-Erlebnis von Menschen, und wir befürchten, dass sie als Ein-Klick-Einfallstor zu ernsthaft schädlichen, selbstverletzenden Inhalten dienen können.

Suchdienste müssen ihre potenziellen Risiken und die Wirksamkeit ihrer Schutzmaßnahmen – insbesondere für die Sicherheit von Kindern im Internet – verstehen, bevor wir im Frühjahr eine umfassende Konsultation durchführen.“

Ein großer Vorbehalt in dieser Studie besteht darin, dass die Forscher keine sicheren Such- und Bildunschärfeeinstellungen verwendet haben. Wenn Eltern über geeignete Filter verfügen, sollten Dinge wie die sichere Suche standardmäßig aktiviert sein, ohne dass eine Option zum Deaktivieren besteht – um Kindern einen gewissen Schutz zu bieten.

Ofcom ist die Durchsetzungsbehörde des Online Safety Act , der kürzlich im Vereinigten Königreich verabschiedet wurde. Dadurch werden Suchmaschinen aufgefordert, Maßnahmen zu ergreifen, um die Wahrscheinlichkeit zu verringern, dass Kinder schädliche Inhalte wie Werbung für Selbstverletzung, Selbstmord und Essstörungen finden. Eine Konsultation ist im Frühjahr geplant.

Quelle: Ofcom