Heeft een tegenstander zojuist een baanbrekend wapen ontwikkeld, of verzinnen ze het? DARPA, een instituut van het Amerikaanse ministerie van Defensie, bouwt een AI-systeem om hun bluf meteen te doorzien.
Beeld: Hebben China’s quantum- en codebrekende capaciteiten de VS voorbij gestreefd? Om de waarheid te achterhalen, doen onderzoekers een beroep op kunstmatige intelligentie.
In 2023 beweerden Chinese onderzoekers iets opvallends: met de huidige, relatief eenvoudige quantumcomputers zouden ze versleutelde informatie kunnen kraken, zoals berichten uit apps of data van spionagesatellieten. Gecodeerd blijft die informatie veilig. Maar als quantumcomputers die code kunnen kraken, blijven geheimen niet geheim.
Dat is natuurlijk slecht nieuws voor pikante Signal-chats, maar het zou nog slechter nieuws zijn voor de wereldwijde veiligheid. Sterker nog, zeiden experts, de ontwikkeling zou rampzalig zijn – als ze echt was. Maar sommige van diezelfde experts reageerden sceptisch. Was dit een echte doorbraak of vooral grootspraak?
Hoe dan ook, de claim veroorzaakte angst dat China’s quantum- en codebrekende capaciteiten de VS misschien al voorbij waren gestreefd.
Dit soort angst doet zijn eigen geopolitieke vuile werk en zet de VS ertoe aan wetenschappelijke schaduwen na te jagen, een afleiding die het leger zich niet kan veroorloven terwijl het een gekozen oorlog met Iran voert.
Niemand wil dat, zeker niet de belangrijkste militaire R&D-organisatie van het land, de Defense Advanced Research Projects Agency (DARPA), een instituut van het Amerikaanse ministerie van Defensie dat verantwoordelijk is voor de ontwikkeling van militaire technologie. Om de waarheid over wetenschappelijke ontwikkelingen te achterhalen, lanceerde het SciFy of Scientific Feasibility. Momenteel levert het programma zijn eerste praktijkresultaten en bouwt het op kunstmatige intelligentie gebaseerde systemen die een wilde wetenschappelijke claim kunnen verwerken en onmiddellijk als onzin bestempelen, of markeren als een doorbraak waar het ministerie van Defensie aandacht aan moet besteden.
Altijd voorlopen
De taak van DARPA, zegt SciFy-programmamanager Erica Briscoe, is om technologische verrassingen te voorkomen door ervoor te zorgen dat Amerikaanse militaire technologie altijd voorloopt op alles wat daarbuiten bestaat. Sterker nog, het agentschap werd opgericht nadat de Sovjet-Unie onverwacht haar eerste satelliet, Sputnik, lanceerde, zodat er nooit meer zo’n verrassing zou zijn.
In zekere zin is SciFy dus een typisch DARPA-programma. Als de softwaretools werken, kunnen ze beoordelen of geruchten over een soort nieuwe Sputnik sterk overdreven zijn. ‘Haalbaarheid gaat verder dan de bekende concepten van validatie en replicatie,’ zegt Briscoe, ‘en begeeft zich echt in een speculatieve ruimte die deels oordeel en deels kunst is.’
De tools van SciFy kunnen defensie- en inlichtingendiensten ook helpen voorspellen of en via welke stappen een ander land bijvoorbeeld binnen vijf jaar een codebrekende quantumcomputer kan ontwikkelen. ‘Misschien denken we dat ze het nog niet hebben, maar we willen weten hoe ze er kunnen komen’, zegt Briscoe.
Angst voor de codebrekende capaciteiten van een tegenstander doet zijn eigen geopolitieke vuile werk
De door AI gestuurde analyse kan ook richtinggevend zijn en aangeven waar militair onderzoeksbudget het best kan worden ingezet, iets waar DARPA veel waarde aan hecht. ‘Als je zo’n organisatie bent, probeer je uit alle gekke ideeën in de wereld te halen wat echt waardevol is’, zegt Clayton Kerce van het Georgia Tech Research Institute, lid van een SciFy-team. Met andere woorden: naast het ontmaskeren van onzin kunnen SciFy-tools ook innovatieve projecten groen licht geven.
Onzin of veelbelovend
Het team van Kerce werkt daaraan met een reeks tools genaamd Farscape. Momenteel kun je een wetenschappelijke claim invoeren, waarna het systeem AI-agenten inzet die informatie verzamelen, filteren, rangschikken en een oordeel vormen: onzin of veelbelovend. Farscape vergelijkt de resultaten van die agenten, combineert ze en geeft een eindbeoordeling.
De analyse berust deels op het vermogen van Farscape om te redeneren volgens menselijke denkpatronen, zoals deductie en inductie. Dat is Kerce’s specialiteit als toegepast wiskundige en maakt het systeem onafhankelijk van het vakgebied: het maakt niet uit of je vraagt naar onsterfelijke batterijen of ondoordringbare bepantsering. In een interne test werd het systeem gevraagd te beoordelen wanneer Chinese chipfabrikanten net zo goed zouden zijn als het Amerikaanse Nvidia.
Informaticaonderzoeker Frank Ferraro van de University of Maryland, Baltimore County-lid van een ander SciFy-team, vergelijkt het systeem van zijn groep met een van zijn hobby’s: houtbewerking. ‘Wij benaderden het,’ zegt hij, ‘als een balans tussen het opbouwen van je werkplaats, het ontwikkelen van je gereedschap en leren hoe je dat het best gebruikt.’
Dat team bestaat uit meer dan twintig mensen die hun eigen tools ontwikkelen. Het totale systeem (de werkplaats) kan vervolgens bepalen welke tools het meest geschikt zijn om een specifieke claim te testen. Eén ‘hamer’ breekt een claim op in controleerbare onderdelen. Stel dat land A beweert een straaljager te hebben gemaakt van een materiaal dat zichzelf kan herstellen. Dan moet dat materiaal zowel bij kamertemperatuur als hoog in de atmosfeer vast zijn. Maar misschien toont wetenschappelijke literatuur of een simulatie aan dat het vloeibaar zou zijn. Geen vloeibare vliegtuigen; dus niet haalbaar.
Sprints
Momenteel onderwerpt DARPA de SciFy-tools aan een eigen vorm van peerreview via drie ‘technische sprints’. In de eerste kregen teams 48 uur om hun AI wetenschappelijke claims te laten beoordelen. De resultaten, en de onderliggende redenering, werden vergeleken met analyses van menselijke experts, een proces dat nog twee keer zal worden herhaald.
De claims die beoordeeld moesten worden, lijken soms saai, maar hebben militaire relevantie
DARPA heeft inmiddels de sprint over materiaalkunde afgerond en evalueert nu de resultaten van een sprint over AI. Daarna volgt quantumcomputing, allemaal onderwerpen die volgens Briscoe hoog op de agenda van het ministerie van Defensie staan.
De claims die beoordeeld moesten worden, lijken soms saai, maar hebben militaire relevantie. Zo luidde er een: ‘fluorhoudende additieven in een vloeibare elektrolyt maken Li-ionbatterijen mogelijk tot tien volt’, wat betekent dat een kleine toevoeging batterijen bijvoorbeeld lichter kan maken en drones verder kan laten vliegen.
In de onlangs afgeronde eerste sprint bereikten alle teams een ‘gematigde’ overeenstemming met menselijke experts, wat het doel van DARPA was. Bovendien leidde de AI-analyse er soms toe dat experts hun mening heroverwogen. ‘Ze pasten hun oordeel in negentien procent van de gevallen aan’, herinnert Kerce zich, omdat de AI verbanden kon leggen tussen enorme hoeveelheden informatie die mensen niet tegelijk kunnen overzien.
In de komende maanden zullen de teams hun AI loslaten op claims over quantumcomputers, mogelijk zoals die van de Chinese onderzoekers. Later kunnen dezelfde tools het Amerikaanse leger helpen om zelf quantumtechnologie te ontwikkelen zonder te verdwalen in onproductieve sciencefictionideeën.
