Haroon Sheikh: De nieuwe gevaarlijke toepassingen van AI 

AI wordt steeds meer ingezet voor militaire doeleinden. En er zijn en komen andere manieren van beïnvloeding van mensen. We moeten ons voorbereiden op deze gevaren, zegt Haron Sheikh in zijn column. 

Het Amerikaanse AI-bedrijf Anthropic is ontstaan door een afsplitsing van mensen die vonden dat OpenAI te weinig deed aan de veiligheid van modellen als ChatGPT. Het ironische is dat het relatief onbekende Anthropic recent veel in de aandacht is gekomen door allerlei veiligheidsproblemen. Dat is niet voor niets: nieuwe toepassingen van AI creëren hele grote risico’s. 

Anthropic kreeg begin dit jaar ruzie met het Amerikaanse Department of War dat onbegrensd gebruik wilde maken van AI. Daarvoor deed Anthropic echter ook mee met Project Maven van het Pentagon, waardoor de modellen onder andere werden gebruikt om doelen te identificeren in de oorlog in Iran. Ook kwam aan het licht dat Chinese bedrijven via zogenaamde destillation attacks allerlei vaardigheden van Anthropic hadden gestolen en die vervolgens zonder veiligheidswaarborgen kunnen inzetten. En toen kwam Anthropic met Mythos, een model van het bedrijf dat zwaktes in software identificeert. Dit model zou wereldwijd zoveel gaten in cybersecurity hebben gevonden dat het meteen van de markt gehaald moest worden. Anthropic is illustratief voor een bredere trend in AI.  

Steeds meer militaire toepassingen van AI

AI wordt in toenemende mate gebruikt door legers. Allereerst in allerlei autonome wapens als drones. Maar het gebruik ervan door het leger is veel breder. Vooral voor data-analyse en het ondersteunen en maken van beslissingen wordt het ook gebruikt. Met haar AI Strategy zet het Amerikaanse War Department hier volop op in. Door de opkomende trend van AI agents heeft AI straks nog meer mogelijkheden om autonoom te handelen. 

Hoe gevaarlijk dat is liet een recente studie zien naar hoe deze modellen handelen in war games. Het bleek dat zij heel onvoorzichtig handelen en makkelijk dreigen met nucleaire aanvallen in deze strategiespellen. 

Andere manieren van beïnvloeding

Naast deze militaire voorbeelden biedt AI ook steeds meer mogelijkheden tot beïnvloeding. Wat er nu mogelijk is, gaat veel verder dan de beïnvloeding op sociale media waar we al enigszins aan gewend zijn. AI-modellen kunnen ingezet worden om op grote schaal en geautomatiseerd desinformatie te generen.   

Chatmodellen nemen ook een steeds grotere rol in het surfgedrag van mensen. Het zou kunnen dat zij als voornaamste portaal tot de online wereld zoekmachines en apps gaan vervangen. Dat komt door het intuïtieve dialoogkarakter ervan. Dat betekent ook dat mensen steeds meer geneigd zijn om persoonlijke informatie met ze te delen en intieme onderwerpen aan te snijden. 

Dat heeft nog een ander effect. Onderzoek suggereert dat door dit dialogische karakter chatbots beter in staat zijn om ons van mening te doen veranderen dan andere mensen. Dat hangt samen met het fenomeen van sycophancy: de systemen praten ons naar de mond. Velen van ons zullen weleens gevleid zijn te horen dat onze vraag uitstekend was. Daarmee wordt een mindset gecreëerd om beïnvloed te worden. De eigenaren van deze systemen hebben dus een manipulatiemiddel in handen zoals nog nooit heeft bestaan.  

Voorbereiden op gevaren

Maar ook partijen die de systemen niet in handen hebben proberen ze te beïnvloeden. Dat heet LLM grooming: er worden allerlei websites gemaakt die aan bepaalde eigenschappen voldoen zodat hun tekst wordt gebruikt om AI-modellen te trainen. Landen als Rusland doen dit om ervoor te zorgen dat de LLMs ons boodschappen voorschotelen die zij op die websites plaatsen. 

Dit klinkt misschien allemaal erg pessimistisch over AI. Maar hoe een technologie gebruikt wordt, hangt uiteindelijk af van wie de spelers zijn die het in handen hebben. Op dit moment ligt dat bij een fusie tussen grote machtige bedrijven en allerlei veiligheidsapparaten. Ideeën over eerlijkheid, transparantie en openheid in AI worden vermalen onder die logica. We zullen ons moeten voorbereiden op deze gevaren. En als we AI voor iets goeds willen inzetten, is het aan ons om andere vormen ervan te ontwikkelen. 

Haroon Sheikh is bijzonder hoogleraar Filosofie aan de Vrije Universiteit Amsterdam en senior onderzoeker bij de Wetenschappelijke Raad voor het Regeringsbeleid. In Forum deelt hij zijn visie op geopolitiek, veiligheid, economie en de grote maatschappelijke opgaven die Nederland en Europa de komende decennia zullen vormgeven.