EU voert censuuroorlog tegen emoji’s op social media

“Europese regelgevers, de Europese Commissie en de Raad van coördinatoren voor digitale diensten, die de Wet op digitale diensten handhaven, hebben een wereldwijd eerste rapport gepubliceerd over het landschap van prominente en terugkerende risico’s op zeer grote onlineplatforms en zoekmachines in de Europese Unie.

Het rapport (pdf) identificeert systeemrisico’s zoals, onder andere, de verspreiding van illegale inhoud of bedreigingen voor grondrechten*, die zich voordoen op zeer grote onlineplatforms. Het geeft ook een eerste overzicht van de risicobeperkende maatregelen die door platforms zijn genomen, op basis van de transparantievereisten onder de DSA.

De belangrijkste bevindingen hebben betrekking op risico’s voor de geestelijke gezondheid en de bescherming van minderjarigen online**; de impact van opkomende technologieën, zoals generatieve AI, op onlineplatforms; en uitdagingen voor de bescherming van intellectueel eigendom op online marktplaatsen. Tot de opvallende risicobeperkende maatregelen die worden genoemd, behoort bijvoorbeeld het gebruik van geautomatiseerde systemen om emoji’s te detecteren die als code worden gebruikt voor illegale activiteiten online, zoals de verkoop van illegale drugs.”

“Naast spot hebben critici ook hun bezorgdheid geuit over de gevolgen voor de vrijheid van meningsuiting en digitaal bestuur. Een veelgehoord argument is dat het identificeren van ‘gecodeerde taal’ vereist dat platforms de context en intentie interpreteren – waardoor ze verder gaan dan duidelijk illegale inhoud en zich op subjectiever terrein begeven.

Deze bezorgdheid sluit aan bij een bredere scepsis rond de DSA, die grote platforms verplicht om zogenaamde ‘systemische risico’s’ te beoordelen en te beperken, waaronder illegale inhoud en bedreigingen voor de openbare veiligheid. Critici stellen dat dit kader steeds meer aanzet tot proactieve en interpretatieve moderatie, in plaats van reacties die beperkt blijven tot duidelijk onwettig materiaal, en daarmee het risico loopt inbreuk te maken op de vrijheid van meningsuiting online.

Het debat benadrukt ook de technische uitdagingen die hiermee gepaard gaan. Emoji’s zijn inherent dubbelzinnig en afhankelijk van de context, wat nauwkeurige detectie bemoeilijkt en de kans op valse positieven vergroot. Deskundigen merken al lang op dat inhoudsmoderatie zich al in ‘grijze gebieden’ bevindt, waar de betekenis fluïde en moeilijk te definiëren is, vooral nu platforms steeds meer vertrouwen op geautomatiseerde systemen.”