Het modereren van reacties onder nieuwsberichten gaat niet altijd even soepel. Moderator is een lastig beroep en vaak werkt een automatisch moderatiesysteem niet vlekkeloos. Ernst-Jan Hamel is onderzoeker bij Lectoraat Artificial Intelligence en doet onderzoek naar commentmoderatie.
“Het probleem van commentmoderatie is dat het veel tijd kost om reacties te modereren. Veel media hebben daar geen geld voor en daarom kiezen steeds meer mediabedrijven ervoor om reacties automatisch te modereren”, vertelt Hamel.
De meeste mediasites in Nederland hebben geen lezersreacties op hun site. Dat betekent dat de lezer op berichten reageert via sociale media. “Bedrijven kunnen er dan voor kiezen om het moderatiesysteem van facebook te gebruiken en daardoor worden grote uitingen van haat automatisch gefilterd in de reacties”, laat Hamel weten.
Nu.nl is een van de weinige sites in Nederland die wel reacties toelaat onder berichten op de website. Zij gebruiken het AI-moderatiesysteem die ervoor zorgt dat reacties automatisch gefilterd worden. “Het AI-systeem is goed in het opsporen van haatdragende reacties, maar het is net zoals mensen niet honderdprocent betrouwbaar. Soms denkt het systeem dat een reactie haatdragend is, maar wordt de reactie sarcastisch bedoelt. Computers snappen geen sarcasme en dan worden die reacties ook weg gefilterd”, zegt Hamel.
Hoe werkt het AI-systeem?
“Een computer kan leren van voorbeelden. Als je een computer honderdduizend voorbeelden geeft van teksten, waarvan tienprocent haatdragende teksten zijn die worden gelabeld als haatdragend, kan een computer uiteindelijk zelf haatdragende reacties herkennen. Dat komt doordat een computer dan bepaalde patronen herkent”.
Botst het verwijderen van reacties met de vrijheid van meningsuiting?
“Strikt gezien wordt de vrijheid van meningsuiting je niet ontnomen. Je mag met bepaalde reacties alleen niet reageren op nieuwsmediasites. Het voelt misschien als een openbare ‘ruimte’, maar dat is het niet. Nieuwsmedia mogen zelf bepalen welke reacties zij wel en niet toelaten op hun site”.
Scheldwoorden worden vaak verwijderd door mediabedrijven, omdat het bedrijf zijn imago hoog wil houden. Volgens de wet mag je niet discrimineren en daarom zijn mediasites verplicht discriminerende reacties te verwijderen van hun site. “Sommige nieuwsmedia willen geen reacties met bijvoorbeeld ontkenning van de klimaatverandering, omdat dat volgens hen nepnieuws is. Daarnaast is er een algemene trend onder nieuwsmedia dat er geen scheldwoorden mogen worden gebruikt in de reacties, omdat die woorden geen echte functie hebben”, laat Hamel weten.
Is het controleren van reacties een gevaar voor de publieke sfeer?
“Het is gewoon een afspraak met elkaar dat bepaalde reacties weggehaald worden. De vraag of het controleren van reacties een gevaar is voor de publieke sfeer, is wat je eigen overtuiging is. Agressieve reacties kunnen debatten opleveren en dat is juist iets goeds. Sommige nieuwssites willen geen negativiteit op hun site en daar valt ook iets voor te zeggen”.