Tijdens het online SIA-congres op 19 november leidde Johan Versendaal (lector Betekenisvol Digitaal Innoveren bij Hogeschool Utrecht) een sessie over praktijkgericht onderzoek en responsible AI. Een van de vragen die centraal stond: zijn we daar als maatschappij wel klaar voor?
Maaike Harbers (lector Artificial Intelligence & Society bij Hogeschool Rotterdam) vertelde dat er veel onderzoek is gedaan naar de eigenschappen waaraan kunstmatige intelligentie moet voldoen. Maar, benadrukt zij, het moet ook gaan over de manier waarop je het AI-systeem maakt, wat het doel is van het systeem, of er in het ontwerpproces geluisterd wordt naar de gebruikers en of er rekening gehouden wordt met onbedoelde gevolgen. “En na het ontwerp moet in de gaten gehouden worden of het systeem gebruikt wordt in de context waarvoor het bedoeld is, en door de juiste gebruiker. Want ook onderhoud en monitoren van het systeem hoort bij responsible AI.”
Harbers geeft aan dat er veel verschillende ethical guidelines zijn voor AI. “Een vragenlijst die ingevuld moet worden. Maar dat zijn best lastige vragen om te beantwoorden, en in de praktijk wijzen projectleiders en developers naar elkaar. Er zijn allerlei theoretische richtlijnen, maar we moeten dat vertalen naar praktische handvatten waar we op de werkvloer ook wat mee kunnen. En daarbij moet ook ingezet worden op verantwoordelijk ontwerp en onderhoud. Daarin zie ik een rol weggelegd voor praktijkonderzoek door hogescholen.”
Nanda Piersma (lector Responsible IT bij Hogeschool van Amsterdam) stelt dat samenwerking tussen verschillende partijen essentieel is bij het ontwikkelen van responsible AI. Developers hebben de input van eindgebruikers nodig, en andersom. Ook waarschuwt zij voor frontrunners die een ontwerp maken en dat vervolgens aan verschillende partijen verkopen als businessmodel. “Dat is vragen om fouten. Een AI-ontwerp moet gemaakt met de gebruikers samen. Eigenaars én gebruikers zijn verantwoordelijk. Daar is een goede visie op nodig.”
Moet de overheid nieuwe technologieën strenger reguleren? “Waar zit de verantwoordelijkheid? Dat is de vraag die steeds terugkomt,” stelt Harbers. “We hebben handvatten nodig. Bedrijven staan voor lastige ethische dilemma’s, maar willen ook geld verdienen. Ik denk dat het nodig is dat er van bovenaf kaders worden neergezet. Voor veel bedrijven is dat ook fijner.” Jeroen Linssen (Associate Lector Ambient Intelligence bij Saxion Hogeschool) vraagt: zijn wij als maatschappij wel klaar voor responsible AI? Piersma is stellig: “Nee. Maar het is er wel. Nu moeten we niet in de slachtofferrol kruipen, maar ermee aan de slag.”
Auteur: tekst van de koning
