In een wereld waarin artificiële intelligentie steeds meer taken overneemt, waarschuwt filosoof Carissa Véliz voor de gevaren van voorspellende algoritmen. Haar nieuwe boek Prophecy onderzoekt hoe deze technologieën onze vrijheid en democratie kunnen ondermijnen.
Véliz, verbonden aan de universiteit van Oxfordbenadrukt het belang van kritisch denken over de toepassing van AI. Ze illustreert haar standpunt met een opmerkelijke geschiedenis: die van Jeanne Calmentde oudste mens ooit, wiens levensduur een notaris, André-François Raffrayin een financiële valkuil bracht.
De valkuil van voorspellingen
De zaak van Calment en Raffray toont aan hoe voorspellingen vaak misgaan. Raffray verwachtte dat Calment binnenkort zou overlijden en sloot een deal om haar appartement te erven. In plaats daarvan leefde Calment nog 30 jaar langer, waardoor Raffray meer betaalde dan het appartement waard was. Dit voorbeeld gebruikt Véliz om te illustreren hoe black swansonvoorspelbare gebeurtenissen, modellen en voorspellingen kunnen ontwrichten.
Véliz waarschuwt dat AI-voorspellingen vaak worden gezien als vaststaande kennis, terwijl ze in werkelijkheid slechts kansberekeningen zijn. Deze voorspellingen beïnvloeden al wie een hypotheek krijgt, wie verzekerd blijft, en wie als potentiële fraudeur wordt gezien. Het leven laat zich nooit helemaal vatten in algoritmesstelt ze.
Sociale voorspellingen en hun gevaren
Véliz maakt een scherp onderscheid tussen meteorologische en sociale voorspellingen. Terwijl een weersvoorspelling het weer niet beïnvloedt, kan een sociale voorspelling de werkelijkheid beïnvloeden. Die buigt als een magneet de werkelijkheid naar zich toeverklaart ze. Voorspellingen over mensen bevatten altijd een element van een vonnis en kunnen mensen in een zelfvervullende profetie drijven.
Ze waarschuwt dat sociale voorspellingen vaak machtsspelletjes zijn vermomd als analyse. Een voorspelling dat iemand een slechte lener is, kan die persoon daadwerkelijk een slechte lener maken door hem de lening te weigeren. Dit raakt aan iets fundamenteels over wie we zijn, stelt Véliz. Wanneer een algoritme ons categoriseert op grond van historische data van groepen, worden we niet behandeld als wie we zijn, maar als het type waartoe we worden gerekend.
De impact op meritocratie en individuele vrijheid
Volgens Véliz ondermijnt het gebruik van AI-voorspellingen het idee van individuele verdienste. Meritocratie veronderstelt dat je beoordeeld wordt op wat jij doet, niet op wat mensen die statistisch op jou lijken hebben gedaan. AI-voorspellingen over jouw gedrag waarop je beoordeeld wordt, werken dit tegen. Ze illustreert dit met de zaak van Crystal Marie en Eskias McDanielseen welgesteld zwart stel in de VS dat werd geweigerd voor een hypotheek op grond van een ondoorgrondelijk algoritmisch risicoprofiel.
Véliz benadrukt dat te veel vertrouwen op AI-voorspellingen het hele economische systeem fragieler maakt. Valse zekerheden die de instabiliteit op termijn juist vergroten, zijn gevaarlijk voor ons allemaal. Ze waarschuwt voor de geleidelijke uitholling van de democratie en fundamentele vrijheden als gevolg van te veel vertrouwen op deze technologieën.
Ondanks haar waarschuwingen erkent Véliz dat AI-voorspellingen nuttig kunnen zijn, bijvoorbeeld in de zoektocht naar nieuwe antibiotica of in de ontwikkeling van nieuwe materialen. Maar zodra voorspellingen over mensen gaan, ontneem je ze per definitie de vrijheid om te laten zien dat ze niet binnen de kaders van die voorspelling passen.
