‘Zwermen’ van AI-bots kunnen in stilte democratie ontwrichten

Een nieuwe bijdrage in Science Policy Forum waarschuwt dat de volgende generatie desinformatiecampagnes er mogelijk niet uitziet als voor de hand liggende ‘copy-paste bots’, maar als gecoördineerde gemeenschappen: zwermen van door AI aangestuurde accounts die zich in realtime kunnen aanpassen, groepen kunnen infiltreren en op grote schaal de schijn van publieke consensus kunnen creëren.

De auteurs beschrijven in het artikel hoe grote taalmodellen (Large Language Model of LLM) in combinatie met zogenaamde ‘multi-agentsystemen’ de vorming van “kwaadaardige AI-zwermen” mogelijk zouden kunnen maken.

Zo’n zwerm is een netwerk van door AI aangestuurde accounts die samenwerken aan een gedeeld doel, maar wel sterk kunnen variëren in toon, vorm en inhoud. Ze passen zich aan aan online interactie en menselijke reacties en worden overheen verschillende platformen ingezet. Zo kunnen ze heel diverse, content genereren die onderliggend toch een gemeenschappelijke boodschap doordrukt. Door intelligentie en variatie zijn ze veel moeilijker te detecteren dan traditionele bots.

Groepsdruk

Het verschil zit niet alleen in de inhoud van de posts, die veel geraffineerder wordt dan die van huidige bots, maar in de kunstmatige, valse consensus die zo gevormd wordt, zeggen de auteurs.

De zwermen kunnen immers de illusie scheppen dat ‘iedereen dit zegt’. Die valse consensus kan overtuigingen en normen beïnvloeden, zelfs als mensen het niet eens zijn met de inhoud van individuele beweringen.

‘In ons onderzoek tijdens Covid-19-periode zagen we dat desinformatie zich net zo snel over de grenzen verspreidde als het virus zelf’, vertelt Meeyoung Cha, wetenschappelijk directeur bij het Duitse Max Planck Instituut voor Veiligheid en Privacy. ‘AI-zwermen die in staat zijn tot om synthetische consensus te creëren zouden die dreiging naar een nog gevaarlijker niveau kunnen tillen.’

In plaats van berichten stuk voor stuk te modereren, pleiten de auteurs voor verdedigingsmechanismen die gecoördineerd gedrag en de herkomst van content volgen. Zo zou ook statistisch onwaarschijnlijke coördinatie gedetecteerd kunnen worden.