Online haat en complottheorieën worden massaal gedeeld op sociale media. Wereldwijd worden democratieën uitgedaagd door toenemende polarisering, haat en desinformatie. Sociale mediaspelers zijn geneigd om AI-hulpmiddelen in te zetten tegen haatberichten, maar de maatschappelijke impact van deze systemen is niet altijd duidelijk.

“Extremistische taal die soms online komt, heeft invloed op hoe mensen handelen in het echte leven. Een voorbeeld daarvan zijn de recente Amerikaanse presidentsverkiezingen”, zegt Textgain’s eigen expert Olivier Cauberghs, voormalig radicaliseringsdeskundige bij de Federale Politie. “De vele talen in Europa zijn een hindernis om een totaalbeeld te krijgen. Dat willen we aanpakken met een combinatie van vakkennis en innovatieve technologie van Belgische bodem, die past binnen onze Europese democratische waarden.”

Transparante AI

Het doel van het project is om een goede greep te krijgen op onlinetrends in alle officiële talen door het gebruik van AI, waarna experts deze informatie kunnen counteren. “Het interesseert ons niet welke politieke stempel, huidskleur of religie iemand heeft”, zegt Gijs van Beek, projectleider bij Textgain. “Vooral het steeds giftigere taalgebruik op sociale media dat mensen aanzet tot actie in de straat interesseert ons. Het hoe en waarom daarachter willen we doorgronden.”

Voor het project zullen alle betrokken bedrijven nauw samenwerken met meer dan 50 experten en organisaties zoals Europese politie- en veiligheidsdiensten, mensenrechtenorganisaties, beleidsmakers en terrorisme-experten, zowel lokaal als op Europese schaal.