Menselijk toezicht nodig bij wapensystemen met kunstmatige intelligentie
Defensie maakt gebruik van kunstmatige intelligentie, onder meer bij beeldverwerking en luchtverdedigingssystemen. Bij deze toepassingen is menselijk toezicht nodig. Luitenant-kolonel ir. Ilse Verdiesen onderzocht hoe dat vorm kan krijgen. Gisteren promoveerde zij op dit onderwerp bij de TU Delft.
Wapensystemen die uitgerust zijn met kunstmatige intelligentie, zogeheten ‘autonome wapensystemen’ worden steeds vaker ingezet op het slagveld. Ze bieden veel voordelen. Denk bijvoorbeeld aan door radar bestuurde drones in Oekraïne.
Maar deze wapensystemen kunnen ook tot veiligheidsrisico’s leiden. Dat komt omdat de verantwoordelijkheid voor de beslissingen, acties en effecten ervan niet altijd helder is. Volgens Verdiesen moet dat in het besluitvormingsproces duidelijk worden. Een machine mag immers geen beslissingen nemen over leven en dood. “De structuur die ik heb opgetuigd, wijst een verantwoordelijkheid toe voor de handelingen van het wapensysteem. Dat gebeurt door een toezichthouder te identificeren. De kans op onbedoelde gevolgen wordt daardoor kleiner.”
Verdiesen maakte die structuur in een simulatieomgeving toepasbaar. Ze identificeerde en programmeerde een aantal criteria die in militaire operaties belangrijk zijn. Dat kunnen bijvoorbeeld de grenzen van een operatiegebied zijn. Of te vermijden gebieden. Maar ook weersomstandigheden. Aan de hand van haar structuur kan een menselijke toezichthouder beoordelen of een autonoom wapen zich aan die criteria houdt. Als dat niet zo is kan worden uitgezocht wat er mis gaat, zodat dit in de toekomst is te voorkomen.
Heldere afspraken
Defensie is blij dat Verdiesen op dit onderwerp promoveert. Kunstmatige intelligentie gaat namelijk alle militaire operaties beïnvloeden. De organisatie vindt het daarom belangrijk dat er internationaal heldere afspraken over komen. Het proefschrift van Verdiesen levert volgens Defensie een waardevolle bijdrage aan de internationale en nationale discussie over dit onderwerp.
Verdiesen begon haar carrière in 1995 bij de Koninklijke Landmacht en werd uitgezonden naar Bosnië en Afghanistan. Deze zomer wordt zij onder gelijktijdige bevordering tot kolonel bij het Directoraat-Generaal Beleid geplaatst als hoofd van de afdeling Science en Technology.