Hoe zorgen we ervoor dat de wetmatigheid uit sciencefiction fictie blijft?

In sciencefictionverhalen komen vaak voorspellingen voor in termen van kansen. In de echte wereld gebeurt dat ook, denk maar aan het weerbericht of medische prognoses. Minder zichtbaar zijn de modellen achter online aanbevelingen. Zelfs rechters laten zich soms bijstaan door algoritmes die de kans op recidive trachten te schatten, althans in de VS.

De relatie tussen sciencefiction en realiteit is complex, want fictieve verhalen volgen nu eenmaal eigen wetten. Klassieke sprookjes beginnen bijvoorbeeld vaak met een verbod dat geschonden wordt. De vrouw van Blauwbaard moet de verboden kamer wel betreden, of er is geen verhaal. In sciencefiction bestaat er een variant op deze wetmatigheid. Als de held te horen krijgt dat de kansen op succes extreem klein zijn, dan zal de missie toch slagen. Fictieve kansuitspraken dienen dus hetzelfde doel als het verbod van Blauwbaard: ze zetten een cruciale plotwending in gang.

H.G. Wells paste dat al toe in The War of the Worlds uit 1898. Daarin schat sterrenkundige Ogilvy de kansen dat er géén mensachtig leven op Mars is in op een miljoen tegen een, waarna de oorlog tussen Mars en Aarde uitbreekt. Jeff Wayne vatte het kernachtig samen in zijn muzikale bewerking: ‘The chances of anything coming from Mars are a million to one ... But still, they come!’

Wells liet een wetenschapper figureren als betrouwbare bron. In andere sciencefictionverhalen vervullen computers of robots die rol. Aan het begin van een spannende ontsnapping in Star Wars: The Empire Strikes Back (1980), meldt de gouden protocolrobot C-3PO dat de kans om succesvol uit een asteroïdenveld te navigeren ongeveer 3.720 tegen een is. Daarop antwoordt Han Solo: ‘Vertel me nooit de kansverhouding!’, om vervolgens feilloos tussen de asteroïden door te manoeuvreren.

Terry Pratchett becommentarieerde de omgekeerde logica van kansuitspraken in fictieve werelden meesterlijk in Mort (1987): ‘Wetenschappers hebben berekend dat de kans dat iets zo overduidelijk absurd bestaat miljoenen tegen een is. Maar magiërs hebben berekend dat kansverhoudingen van een miljoen tegen een wel negen van de tien keer opduiken.’

Een andere bron van fictieve kansuitspraken is Multivac, de supercomputer die Isaac Asimov verzon. In All the Troubles of the World, een kort verhaal uit 1958, werd Multivac gebruikt om de kans op misdaden een dag vooraf te berekenen en zo te voorkomen. Twee jaar eerder had Philip K. Dick een novelle geschreven over hetzelfde thema: The Minority Report, dat de inspiratie vormde voor een film van Steven Spielberg in 2002. Zowel in de novelle als in de film zijn er drie mutanten met telepathische gaven, die elk een mogelijke toekomst voorzien.

Het verhaal maakt duidelijk dat het essentiële probleem met voorspellende systemen helemaal niet rond kansen draait. De echte vraag is wat je met die informatie doet. Mensen straffen die nog geen misdaad gepleegd hebben lijkt moreel niet aanvaardbaar, maar niet ingrijpen lijkt ook geen optie.

De kracht van sciencefiction zit vaak in het exploreren van nieuwe mogelijkheden en de voor- en nadelen die ze meebrengen. De verhalen houden ook zelf gevaren in. Het eerste gevaar is gewenning. Dick en Asimov deden ons niet alleen nadenken over de risico’s van voorspellend politiewerk, ze lieten ons tegelijk wennen aan die toepassing. In de tv-serie Fringe, die liep tot 2013, zat nog steeds een politiecomputer die voortdurend alle buurten monitort en hun kans op misdaad rapporteert.

Intussen blijft het niet bij fictie en leidt de verwachting in de echte wereld tot nieuwe toepassingen. Zo is er COMPAS, een algoritme dat in de VS rechters adviseert bij hun uitspraak over de strafmaat. Het systeem kijkt daarvoor naar de geschatte kans op recidive. In 2016 publiceerde de Amerikaanse onderzoeksredactie ProPublica daarover een rapport waaruit blijkt dat het systeem een bias vertoont tegen zwarte beklaagden.

Dat illustreert het tweede gevaar, dat schuilt in de vragen die bovenstaande sciencefictionverhalen niet stellen: op welke gegevens baseren de machines zich als ze kansuitspraken doen? Welk algoritme zit erachter? En vooral: wat als ze zich net zo systematisch vergissen als hun fictieve tegenhangers? Kortom, hoe zorgen we dat de wetmatigheid, die Pratchett zo scherp neerpende, wel fictie blijft?