Hoogtepunten uit podcast #18: Kunstmatige intelligentie

Kunstmatige intelligentie wordt een steeds groter onderdeel van ons leven. Het speelt een rol in onze opleiding, in ons werk, maar ook in ons dagelijks leven. Soms zelfs zonder dat we het door hebben. Maar wat zijn de voor- en nadelen van kunstmatige intelligentie? En hoe kan het bijdragen aan gelijke kansen?

In deze aflevering praten we met Robin Pocornie, student neurowetenschappen en bioinformatica, over de laatste ontwikkelingen op het gebied van kunstmatige intelligentie, haar eigen ervaringen hiermee en wat er gebeurt als een algoritme je niet herkent.

Robin is student neurowetenschappen en bio-informatica, en geboren en getogen in Amsterdam Noord. Voor haar studie maakt ze gebruik van kunstmatige intelligentie om moleculen of structuren te voorspellen.

Wat is kunstmatige intelligentie?

Robin legt uit wat kunstmatige intelligentie – ook wel artificiële intelligentie of AI – inhoudt: “Het is een machine of een systeem dat menselijk gedrag en menselijke interpretatie kan nabootsen. En dan de nadruk op nabootsen, want het is dus geen mens en het kan een mens ook niet perfect nabootsen. Nu in ieder geval nog niet.”

“Programmeurs hebben met AI een doel voor ogen. Bijvoorbeeld het herkennen van een handschrift voor de post. Daarvoor stoppen we het handschrift van veel verschillende mensen in zo’n machine. Die machine leert dan hoe verschillende handschriften eruit zien. Als zo’n machine dan uiteindelijk een brief krijgt, is die in staat om dit te lezen, te herkennen en naar het juiste adres sturen.”

“Die data of input kan van alles zijn: beeld, spraak, taal, etc. Bij kunstmatige intelligentie kun je verder ook denken aan het algoritme van Netflix dat je kijkadvies geeft, of spraakherkenningssystemen als Siri of Alexa. Bij die laatste twee is de input dan de stem: die wordt dan herkend en dan gaat de stem iets doen. Siri kan zelfs grapjes begrijpen. Maar ook chatbots – bijvoorbeeld van een klantenservice – zijn een vorm van AI.”

Algorithmic bias

Maar hoewel AI-systemen vaak gebouwd zijn op basis van grote hoeveelheden data, kan het toch zijn dat het systeem niet voldoende data heeft gekregen om alles te herkennen. Dit ervaarde Robin toen Siri haar stem niet herkende, maar ook tijdens een belangrijk tentamen tijdens de coronapandemie. Het lukte haar niet om in te loggen in een online surveillancesysteem.

“Om in dat systeem te komen, moet je je gezicht scannen. En dan zegt het systeem: jij bent het, je mag het tentamen in. Maar mijn gezicht, ik ben een zwarte vrouw, werd niet herkend. Je hebt op dat moment al examenstress, en dat surveillancesysteem geeft je ook nog eens een tijdslimiet om het tentamen binnen te komen.”

Uiteindelijk kwam Robin het tentamen nog wel in – door extreem veel licht op haar gezicht te zetten. Een bizarre situatie. Wanneer iemand door een systeem niet wordt herkend omdat de data een (on)bewuste aanname of vooringenomenheid creëren over wie wel en niet herkend moet worden, is er sprake van een algorithmic bias.

Gebouwd op één persoon

“De eerste keer dat het gebeurde stond ik er niet meteen bij stil dat het zou kunnen zijn omdat ik zwart ben, en het systeem me niet herkende. Pas toen ik ging Googlen op de naam van het systeem, zag ik artikelen van Amerikaanse studenten over hun problemen met het systeem.” Het verbaasde Robin eigenlijk niet dat het systeem deze bias had, maar het schokte haar wel dat de universiteit had gekozen voor dit systeem – omdat het niet inclusief is voor alle leerlingen.

Robin legt uit waar de bias vandaan kan komen: “Ik denk dat we moeten bedenken dat de hele maatschappij is gebouwd op een soort persoon, namelijk de witte, cis, hetero man. En als wij dingen doen – computers bouwen, curator zijn in een museum – dan nemen wij die norm mee in het werk dat we doen. Bovendien zijn deze algoritmes gebouwd door mensen die zelf ook tot de norm behoren.”

“Je kunt hierdoor sceptisch worden of deze systemen ooit kunnen veranderen. Maar het zal wel moeten, want er zijn steeds meer mensen die hiermee te maken krijgen, en die zich hier ook tegen uitspreken. Gelukkig komt er ook steeds meer diversiteit binnen de techwereld zelf. Ik mag als zwarte, queer vrouw in tech ook deel uitmaken van dat veld. Als er meer mensen bijkomen, moeten we daar ook plaats voor maken.”

AI op de arbeidsmarkt

WOMEN Inc. heeft in 2021 een verkennend onderzoek gedaan naar de rol van AI op de arbeidsmarkt, specifiek met betrekking tot werving en selectie. Robin keek kritisch naar ons onderzoek en herkende daarin dat de arbeidsmarkt ongelijke kansen biedt: in hoe mensen worden aangenomen en welke kansen er zijn voor doorstroom en groei. “Als ik het onderzoek, lees maak ik me best zorgen. We gaan over een tijd over naar alles automatiseren. Van de self check-out bij de supermarkt, tot het werven van mensen voor de arbeidsmarkt. Maar we moeten niet vergeten dat het geen objectief systeem is, terwijl mensen dat vaak wel denken.”

“Het grootste risico is dat je de kansenongelijkheid laat voortborduren, maar nu met het excuus dat er een computer is gebruikt, die objectief zou moeten zijn. Dat we die objectiviteit te veel credit geven. Er ontstaan gelukkig nu ook systemen die elkaar controleren: dan checkt een AI de bias van een ander systeem. Of wordt een bias door middel van AI juist blootgelegd.”

Er zijn dus manieren waarop AI de kansenongelijkheid kan verminderen. “Een excuus dat vaak wordt gebruikt is: we willen wel inclusief zijn, maar de input bestaat niet. Dat het bijvoorbeeld te moeilijk zou zijn om informatie te vinden waarmee we een systeem kunnen trainen om zwarte gezichten te herkennen. Terwijl: die informatie bestaat. We moeten daarom kritisch blijven in wat we zo’n machine voeden en of deze een reflectie is van de maatschappij waar we in leven. Want als alle handschriften herkend kunnen worden, moet dit ook voor mensen het geval zijn.”

Inclusieve AI

Om te komen tot inclusieve AI is het dus nodig dat er meer data worden gebruikt, maar ook betere data die verschillende perspectieven laten zien. Daarbij moet iedereen zich altijd bewust zijn dat we werken vanuit ons eigen perspectief en we altijd oog moeten blijven houden voor onze blinde vlekken. “Iedereen heeft blinde vlekken – ook ik – en hoe kan ik ervoor zorgen dat ik deze niet meeneem in mijn werk? Dat is mijn uitgangspunt.”