Ze plaatsten porno op Twitter. Duitse autoriteiten belden de politie

Paulita Paupel, die de Europese tak van de brancheorganisatie voor volwassenen, de Free Speech Coalition, leidt, zegt dat het harde optreden zorgwekkende gevolgen heeft voor mensen en hun vermogen om inhoud online te delen. “Mensen ontvluchten het land”, zegt Paupel. “De meeste grote makers van inhoud zijn al verhuisd naar andere Europese landen, voornamelijk Oostenrijk, Zwitserland en Cyprus.” Anderen hebben hun marketingstrategieën gewijzigd om Twitter te vermijden (wat van invloed is op hoeveel geld ze kunnen verdienen), en mensen die nieuw zijn in de branche kunnen worden ontmoedigd om een ​​carrière te beginnen, zegt Paupel. “Dit treft vooral LGBTQI+- en BIPOC-makers.”

Het internet is natuurlijk overspoeld met porno – van Reddit, Snapchat en Twitter tot OnlyFans, PornHub en xVideos – met miljoenen mensen over de hele wereld die bij de industrie betrokken zijn. Wereldwijd is het big business, die elk jaar miljarden dollars opbrengt. Hoewel er over de hele wereld hardhandig wordt opgetreden tegen pornografie, lijkt Duitsland een bijzonder sterke vorm van handhaving te hebben in de westerse wereld, ondanks dat het een van de grootste consumenten van pornografie is.

“Duitsland is het meest agressief geweest in het onderdrukken van spraak”, zegt Mike Stabile, een woordvoerder van de in de VS gevestigde Free Speech Coalition. “Ik denk dat Duitsland hierin het meest agressief is geweest, zowel wat betreft de reikwijdte van zijn wetten als wat betreft de handhaving.”

AI-bewaking

Sinds 2019 hebben de Duitse mediaregulatoren een AI-systeem ontwikkeld en vervolgens gebruikt om online-inhoud te detecteren die mogelijk in strijd is met de wetten van het land. Het kunstmatige-intelligentiesysteem, KIVI genaamd, is ontwikkeld door de media-autoriteit van Noordrijn-Westfalen, samen met een in Berlijn gevestigd privébedrijf, en wordt nu gebruikt door alle media-autoriteiten in heel Duitsland.

Er wordt beweerd dat KIVI openbare berichten op zeven sociale media en berichten-apps kan scannen, waaronder Twitter, YouTube, TikTok, Telegram en VK (de Russische versie van Facebook), evenals websites op het open internet. Meta’s Facebook en Instagram, die naaktheid verbieden, worden momenteel niet gescand. Volgens de beschrijving van de tool in Noordrijn-Westfalen kan het 10.000 pagina’s per dag controleren. Kort nadat de autoriteit KIVI begon te gebruiken, zei het dat de detecties van de autoriteit “omhoogschoten”.

De woordvoerder van de media-autoriteit van Noordrijn-Westfalen zegt dat de autoriteit sinds 2021 bijna 5.000 “overtredingen” heeft vastgesteld. Het systeem zoekt naar problematische inhoud door te zoeken naar vooraf bepaalde Duitse trefwoorden en links, en de autoriteit zegt dat het een combinatie van beeldherkenning en tekstherkenning gebruikt om “positieve” resultaten te detecteren.

Ella Jakubowska, senior beleidsadviseur bij de non-profitorganisatie voor burgerrechten European Digital Rights (EDRi), zegt dat de mensenrechten van mensen in gevaar komen wanneer Big Tech-bedrijven of overheden de inhoud modereren. “Maar het idee dat staatsinstanties bepalen wat we wel en niet online zien, lijkt op zichzelf erg zorgwekkend”, zegt Jakubowska.

KIVI zoekt naar meerdere soorten inhoud, waaronder politiek extremisme en ontkenning van de Holocaust, geweld en pornografie. Echter, porno “schendingen” staan ​​bovenaan de lijst, met 1.944 incidenten die in de afgelopen twee jaar zijn gemeld, volgens cijfers gedeeld door de media-autoriteit van Noordrijn-Westfalen. De woordvoerder zegt dat het systeem mogelijke wetsovertredingen signaleert en dat menselijke onderzoekers de resultaten onderzoeken en beslissen of er actie moet worden ondernomen. “KIVI beschermt werknemers tegen plotselinge en onverwachte blootstelling aan stressvolle inhoud”, zegt Plass van de Berlijnse autoriteit.