‘Mijn bank-app geeft aan dat jouw naam en het IBAN-nr dat je me gaf niet bij elkaar horen. Heb je een typefout gemaakt?’, aldus een vriendin. Ik app terug: ‘Nee, ik heb geen typefout gemaakt, mijn man en ik hebben een gezamenlijke rekening maar onze bank vindt zo’n tweede naam wat ingewikkeld’. Tot voor kort was bij een gezamenlijke rekening bij onze bank de tweede naam namelijk niet zichtbaar. Dat leverde regelmatig dit soort gesprekjes op, in dit geval met een collega in een groepsapp: ‘voor het afscheidscadeau van Jan is een bedrag binnengekomen van een zekere Kooistra, wie is dat?’ Want niet alle collega’s weten dat mijn man Kooistra heet.
Tijdens de lunchpauze van onze recente PRIO-bestuursdag sprak ik hierover met collega-lector Esther van der Stappen. Zij zat bij dezelfde bank en liep tegen hetzelfde probleem aan. Het is toch te zot voor woorden dat wij als vrouwen genegeerd worden terwijl ons salaris ook gewoon op die gezamenlijke rekening binnenkomt? Ook mijn ingediende klacht werd aanvankelijk genegeerd. Meerdere keren werd ik van het kastje naar de muur gestuurd, maar uiteindelijk kreeg ik contact met de landelijke medewerker Inclusive Banking. Zij zocht het voor me uit en kwam met een complexe uitleg met als beknopte samenvatting: het ligt aan de techniek. ‘Waarom lukt het onze andere bank dan wel?’ was mijn wedervraag. ‘Die heeft waarschijnlijk andere keuzes gemaakt bij het inrichten van de administratieve systemen’, was het antwoord. Maar dan ligt het dus juist niet aan de techniek, maar aan de mensen achter de techniek: degenen die de keuzes maken, de toepassingen ontwerpen en de systemen implementeren!
Mijn ervaring met onze bank was frustrerend, maar het wordt pas echt schrijnend als het gaat om een gebrek aan Inclusive Healthcare: als specifieke groepen niet de zorg krijgen die ze nodig hebben. Denk aan AI-beeldherkenningssystemen die huidaandoeningen bij een donkere huid minder goed herkennen, doordat donkere huidtinten ondervertegenwoordigd zijn in de datasets waarmee ze zijn getraind (Groh et al., 2024). Of denk aan mensen met een visuele, auditieve of verstandelijke beperking die volgens het Global report on health equity for persons with disabilities van de WHO vaker essentiële zorg mislopen. Vergelijkbare vragen spelen op tal van andere terreinen. Bij Inclusive Mobility gaat het bijvoorbeeld om vervoermiddelen, infrastructuur en digitale reisdiensten die voor iedereen bruikbaar zijn. Zoals een reisplanner die betrouwbare rolstoeltoegankelijke routes aanbiedt. En bij Inclusive Public Services is het belangrijk dat digitale overheidsformulieren toegankelijk zijn voor mensen met een visuele beperking en dat de DigiD-procedure voor niemand onnodig ingewikkeld is.
Deze voorbeelden maken deel uit van een grotere opdracht: het ontwerpen van Inclusive Technology. En daar ligt een belangrijke verantwoordelijkheid voor onze ICT-opleidingen. Leer studenten inclusief ontwerpen, zodat zij zich bij iedere ontwerpkeuze afvragen: wie nemen we hier als norm, wie hebben we nog niet gehoord en wie kan door deze keuze worden buitengesloten? Leer hen niet alleen vóór verschillende groepen te ontwerpen, maar mét hen. Laat hen kritisch kijken naar de representativiteit van datasets en laat hen toepassingen niet alleen testen op hun technisch functioneren, maar ook op de vraag voor wie ze wel en niet werken.
Leer studenten bovendien niet alleen systemen te bouwen voor de gebruikers en omstandigheden van nu, maar ook te onderzoeken hoe die in de toekomst kunnen veranderen. Met methoden als futures thinking en toekomstscenario’s kunnen zij bijvoorbeeld verkennen wat vergrijzing, nieuwe gezinsvormen of een groeiende afhankelijkheid van AI voor hun ontwerp betekenen en wie in die mogelijke toekomsten buitengesloten dreigt te worden. Want achter iedere techniek zit een mens die keuzes maakt – keuzes die mede bepalen voor welke toekomst we ontwerpen!
Marike Hettinga
PRIO-bestuurslid, thema Gezondheid & Zorg
