Het Britse Ministerie van Binnenlandse Zaken pakt uit met een nieuw programma om extremisme preventief van het net halen. Bovendien overweegt het om sociale netwerksites, al dan niet via gerechtelijke stappen, te verplichten om de methode toe te passen.

Snel en preventief

De nieuwe tool detecteert volgens de Britten 94 procent van de IS-propaganda met een nauwkeurigheid van 99,99 procent. Op het gebied van video's heeft slechts 50 van de één miljoen nog een menselijke beoordeling nodig.

Daarnaast is ook de snelheid een troef, want de AI schiet in actie van zodra nieuwe content wordt geüpload. Op die manier wil het Britse overheidsdepartement preventief voorkomen dat extremistische berichten openbaar verschijnen. Terwijl Facebook gemiddeld na 36 uur ongepaste content van haar platform verwijdert met haar algoritmes, zou de tool van het Britse Ministerie direct resultaat opleveren.

Gerechtelijke stappen

Toch wil het zo weinig mogelijk details kwijt over hoe de nieuwe software tot stand kwam. Momenteel overweegt het Ministerie om sociale media te verplichten om het programma te gebruiken. "We sluiten gerechtelijke stappen niet uit, maar ik ben ervan overtuigd dat overleg met de industrie belangrijk is om vooruitgang te boeken", zegt de Britse Minister Amber Rudd aan BBC.

Ondanks de positieve testcijfers die de tool voorlegt, zijn er sceptici. De Britse privacy-organisatie Open Rights Group vraagt zich bijvoorbeeld af of het wel een goed idee is om techbedrijven te stimuleren om voor scheidsrechter te spelen. De organisatie wijst er ook op dat software niet foutloos is, en dat het duidelijk moet zijn wie precies verantwoordelijk is voor beoordelingsfouten.