De Europese Commissie heeft een database online gezet waarin de beslissingen staan opgenomen van techbedrijven die content verwijderen. Dat meldde Tweakers. De verplichting volgt uit de recent van kracht geworden Digital Services Act. De omvang is enorm: bij publicatie van Tweakers telde men 5.450.409 beslissingen, “maar dat aantal loopt per minuut op.” Inhoudelijk lijkt het alleen nul informatie te bevatten. Waar gaat dit over?
De database heet de DSA Transparency Database, en is bedoeld voor VLOPs om te documenteren welke ingrepen zij hebben gedaan bij wijze van contentmoderatie. Dit staat in artikel 24 lid 5 DSA:
Providers of online platforms shall, without undue delay, submit to the Commission the decisions and the statements of reasons referred to in Article 17(1) for the inclusion in a publicly accessible machine-readable database managed by the Commission. Providers of online platforms shall ensure that the information submitted does not contain personal data.De database bevat de zogeheten “statements of reason” oftewel onderbouwingen van de verwijderbeslissingen (art. 17 DSA) die men neemt in het moderatieproces. Er is enorm veel geklaagd over intransparante moderatie en gebrek aan mogelijkheden van bezwaar. De DSA draait dat dus om: moderatie mag alleen nog als je transparant bent en specifiek over de redenen naar de betrokken gebruiker toe. Met deze database wordt dat extra ondersteund.
De database kan interessant zijn voor onderzoekers, want er zijn enorm veel statistieken mee te maken. Alleen, als je als jurist dan iets verder gaat lezen wat er dan staat, dan valt dat inhoudelijk behoorlijk tegen.
Een voorbeeld is dit bericht van Snapchat, dat een tekst weghaalde omdat deze de Terms of Service schond. Die enkele mededeling is dus te weinig onder de DSA, vandaar dat je nu meer uitleg krijgt:
This was reviewed by our team or systems and was enforced for violation of our Community Guidelines and/or Terms of Service. … Reference to contractual ground: Harassment & bullying … Explanation of why the content is considered as incompatible on that ground: We prohibit bullying or harassment of any kind. This extends to all forms of sexual harassment, including sending unwanted sexually explicit, suggestive, or nude images to other users.Hier staat inderdaad precies hetzelfde als “schending van de TOS”, alleen dan met een iets specifiekere verwijzing naar een bulletpoint die “harassment & bullying” heet. Maar het wat of waarom ontbreekt nog steeds, want meer dan dit is er niet.
Natuurlijk is het logisch dat de bezwaarlijke tekst er niet in staat. Allereerst zou de database dan exploderen in omvang, en ten tweede zou de Europese Commissie dan mogelijk dingen herpubliceren die in strijd met de wet zijn. Maar meer inhoudelijke motivatie of reageren op wat de persoon postte, dat was wel handig geweest. Op deze manier voelt het alleen maar meer woorden ten opzichte van de oude situatie.
Arnoud
In overweging 66 van verordening (EU) 2022/2065 (de DSA) staat:
Voldoet de database in deze vorm wel aan dat doel?
Arnoud, wanneer je praat over grote websites dan hebben moderatoren letterlijk een dagtaak aan het bijhouden van de reacties en zullen zij meerdere reacties per uur afkeuren. Er is niet veel motivatie om per post in detail aan te geven wat er fout mee is. Waarom zou je meer zeggen dan “Off Topic/Advertising” of “Bullying”?
Het probleem is dat zo even snel een label ergens op plakken geen ‘motivatie’ is. Hoe weten wij, of zelfs maar de plaatser van het bericht, dat het label juist is en waarom dit label van toepassing is?
Als we het hebben over een veroordeling bij de rechter, dan eisen we een uitgebreide motivatie met toetsing aan een expliciete norm. Nou snap ik dat we hier niet het hele strafrechttraject willen overdoen, maar “TOS violation” en verder hélemaal niets vind ik dan weer het andere uiterste. Welk artikel, waarom was het een overtreding?
Hoeveel detail zou je dan verwachten? Volstaat “Kinderporno” of moet er in geuren en kleuren gerapporteerd worden wat er op de foto te zien is? Wat zijn de extra kosten van het verplichten van een uitgebreide motivatie als de plaatser toch geen zin (mogelijkheid) heeft om de beslissing aan te vechten?
We zitten hier niet om een juridische procedure, wat een moderator doet is beter te vergelijken met een agent op straat die mensen aanspreekt op hun gedrag.
Die moderators zullen dat toch volgens een bepaalde procedure doen, binnen bepaalde richtlijnen wat wel en niet mag. Die doen dat niet zo uit de losse pols (mag ik hopen), maar weloverwogen.
‘Weloverwogen’ kost enige tijd, maar het documenteren daarvan kost nauwelijks meer tijd, zeker als dat in een soort code kan: Afweging 3, overtreding subtype c, in paragraaf 5.
Internet-trollen kennende zul je nooit een volledige taxonomie van “ongewenste berichten” kunnen maken. Je kunt wel aangeven welke categorieën berichten je wel of niet wilt en de moderatoren een zekere discretie gunnen hoe ze de regels interpreteren.
En vergeet ook niet dat er meerdere redenen kunnen zijn om een post af te keuren: Off-topic bullying met een seksueel getinte scheldpartij.