Home > News > Wie KI sinnvoll für die Moderation von Online-Inhalten eingesetzt werden kann
  • 12.01.2022
  • Allgemein
  • Gute Regierungsführung

Wie KI sinnvoll für die Moderation von Online-Inhalten eingesetzt werden kann

Von Twitter über YouTube bis hin zu Facebook werden Online-Inhalte zunehmend mit Hilfe von Algorithmen des maschinellen Lernens moderiert. Nicht mehr menschliche Moderatorinnen und Moderatoren entscheiden darüber, was gelöscht wird, stattdessen gehen Computerprogramme gegen Desinformationen, Hassrede oder Gewaltaufrufe vor. Die Zuverlässigkeit und Genauigkeit der Algorithmen bleiben allerdings umstritten; ebenso, welche Gefahren von ihnen für die Meinungsfreiheit ausgehen. Der Journalist Umberto Bacchi hat deshalb recherchiert, was es bedarf, damit eine KI-gestützte Moderation tatsächlich einen Mehrwert in den Sozialen Medien schaffen kann:

  • Wie und vor allem was KI-Algorithmen mit Datensätzen lernen, sollte von Entwicklerinnen und Entwicklern besser kontrolliert und gegebenenfalls angeglichen werden.
  • Unternehmen sollten transparenter werden und offenlegen, wie Algorithmen aufgebaut sind und wie sie trainiert werden.
  • Gesetzgeber sollten Sorgfaltspflichten sowie Folgenabschätzungen für die Menschenrechte samt unabhängiger Überprüfungen vorschreiben und dabei auch berücksichtigen, wie sich Algorithmen auf die Belange von Minderheiten auswirken.

Was laut dem Wissenschaftler Mitchell Gordon allerdings feststeht: “Solange Menschen sich nicht einig sind, was Grenzen überschreitet, wird keine KI in der Lage sein, eine Entscheidung zu treffen, die alle Menschen als legitim und richtig ansehen.”