VKontakte startet neuronales Netzwerk zum Schutz vor Beleidigungen und Bedrohungen

VKontakte startet neuronales Netzwerk zum Schutz vor Beleidigungen und Bedrohungen

Das russische soziale Netzwerk VKontakte wird ein weiteres Experiment durchführen, um Beleidigungen und Mobbing in Kommentaren zu bekämpfen. Am 4. November 2020, dem Tag der Einheit der Menschen, wird das soziale Netzwerk zwei neue Funktionen testen: einen Filter für Hassreden und die Empfehlung, auf Beleidigungen zu verzichten. Beide Algorithmen basieren auf neuronalen Netzen. Das letzte ähnliche Experiment wurde vor genau einem Jahr, am 4. November 2019, durchgeführt.

VKontakte wird den Hassredenfilter dafür verwenden, um Kommentare zu entfernen, die Morddrohungen oder Androhungen von körperlicher Gewalt enthalten. Die jeweiligen Administratoren der Community können alle Kommentare einsehen und den Benutzer bei Bedarf auf eine schwarze Liste setzen. Der Filter kann jederzeit aktiviert oder deaktiviert werden.

Das soziale Netzwerk erkennt auch, wenn ein Kommentar Anzeichen von Beleidigungen enthält. In diesem Fall wird dem Autor empfohlen, keine Zeit mit Aggressionen zu verschwenden und die beleidigende Bemerkung zu unterlassen. Dieses Mal erkennt die Funktion ein breiteres Spektrum von Beleidigungen und Bedrohungen. Darunter sind Anzeichen von Intoleranz aufgrund ethnischer Zugehörigkeit sowie feindliche Aussagen aufgrund religiöser Zugehörigkeit, Alter, Geschlecht und anderer Merkmale.

Bisher konnte jeder Benutzer anstößige Kommentare, Fotos, Videos, Geschichten und Clips an die Moderatoren über die Funktion „Beschweren“ melden. Um die Moderation zu erhöhen, fügte VKontakte einen separaten Grund für die Beschwerde über anstößige Materialien hinzu: „Feindselige Äußerungen“. VKontakte berücksichtigt nicht nur eingehende Beschwerden, sondern überwacht auch unabhängig das Auftreten bösartiger Inhalte.

Nach Angaben des sozialen Netzes konnte dank des letztjährigen Experiments die Zahl der Beleidigungen in Kommentaren um 36 Prozent pro Tag reduziert werden. Nach dem 4. November beginnt ein Langzeittest, an dem nur ein Teil des Publikums teilnehmen wird. Basierend auf den Ergebnissen des Experiments wird VKontakte die Filter der neuronalen Netzwerke verfeinern und über die weitere Verwendung der Funktion entscheiden.

[hrsg/russland.NEWS]

COMMENTS