Relationele vaardigheden van kinderen zijn unieke inspiratiebronnen voor de ontwikkeling van mensgerichte Kunstmatige of Artificiële Intelligentie (AI). Maar kinderen worden nog te weinig betrokken bij de publieke dialoog over AI-systemen. DesignLab van de Universiteit Twente te Enschede en kinderrechtenorganisatie KidsRights te Amsterdam deden in Nederland uniek onderzoek dat zij volledig richtten op kinderen en jongeren.
Brede en betekenisvolle participatie van kinderen
Doel van het onderzoek is om ethische en sociale waarden op te halen, zowel over huidige interacties van kinderen met AI-systemen als over hun blik op toekomst. Hiermee willen DesignLab en KidsRights bijdragen aan het bevorderen van brede en betekenisvolle participatie van kinderen.
Hoofdonderzoeker Karolina La Fors van DesignLab: “De ontwikkelingen op het gebied van AI gaan zo snel, dat we niet moeten vergeten ook naar de ethische beperkingen te kijken en wat het betekent voor kinderen. Kinderen dragen ethische standaarden aan waar volwassenen niet aan denken.”
Kinderen en jongeren uiterst kwetsbaar
Voorzitter Marc Dullaert van KidsRights roept de Nederlandse overheid op kinderen en jongeren te betrekken bij het opstellen van ethische normen voor mensgerichte AI: “Nu lijkt alles wat technisch mogelijk is ons te overkomen, ook de schadelijke effecten. Kinderen en jongeren zijn hierbij uiterst kwetsbaar. We moeten ze daarom beschermen en betrekken en ons door hen laten inspireren. Met dit onderzoek lezen kinderen en jongeren de overheid de les.”
Onderzoek geeft nieuwe inzichten
Het representatieve onderzoek (1) onder 374 kinderen in de leeftijd tussen de 4 en 16 jaar – de meeste deelnemende kinderen waren tussen de 6 en 13 jaar – levert nieuwe, verrassend interessante inzichten op. Die zijn van groot belang voor de ontwikkeling van AI-systemen.
Zo vroegen de onderzoekers de kinderen naar positieve en negatieve ervaringen met AI-systemen in hun dagelijks leven, zoals het overnemen van diverse maatschappelijke rollen. Op de vraag of kinderen geholpen willen worden door een robotverkoper in winkels antwoordt 55,3% van wel en 41% van niet. De meerderheid denkt dat robots hier beter presteren dan mensen.
Veiliger bij normaal mens als huisarts
Op de vraag of een politieagent een robot mag zijn is 54,8% tegen en 41,5% voor. De groep die tegen is denkt dat robotagenten hun veiligheid kunnen bedreigen. Een robothuisarts vinden de meeste kinderen een slecht idee: 61,3%, ten opzichte van 35,3% die dat wel willen.
Ik zou me veiliger voelen bij een normaal mens als huisarts.
Jongen 11 jaar, Dordrecht
‘Kan een robot je vriendje zijn?’
Kinderen geven aan menselijke eigenschappen en waarden belangrijk te vinden en dat deze niet verloren mogen gaan in de ontwikkeling van AI-systemen. AI moet in dienst staan van de mens, die menselijke check is belangrijk voor ze. Zo zien ze AI wel zitten als oplossing voor een maatschappelijk relevant probleem, bij voorbeeld een robot die kinderen helpt met dyslexie. Maar een robot wordt niet als vriend gezien, met name door het gemis van menselijke geletterdheid, troost, humor en empathie.
Als een robot gemaakt is om mijn vriend te zijn, zou hij alleen van mij leren. Hoe kan ik dan weten hoe ik anderen gelukkig maak of wat verdriet is? Hoe kan ik leren en mij aanpassen, als ik alleen van een robotvriend leer wat ik aan het doen ben?
Meisje 8 jaar, Enschede
Gedachten van kinderen vertaald in ethische en sociale waarden:
- Menselijke geletterdheid – ‘Robots missen menselijke eigenschappen’
- Emotionele intelligentie – ‘Robots hebben geen emoties’
- Liefde en vriendelijkheid – ‘Robots geven geen liefde’
- Authenticiteit – ‘Robots hebben geen eigen mening’
- Menselijke zorg en bescherming – ‘Robots kunnen niet troosten’
- Autonomie – ‘Robots mogen niet de wereld overnemen’
- AI in dienstbaarheid – ‘Robots moeten mij helpen’
- Uitbundigheid – ‘Robots moeten met mij kunnen spelen’
Brede en vroegtijdige dialoog helpt
Daar waar veel kinderen (70,6%) voor het onderzoek de term AI niet kenden, wist uiteindelijk iedereen dat zij dagelijks met een grote verscheidenheid aan AI-systemen te maken hebben. Voorbeelden van slimme systemen waar kinderen AI in herkennen zijn onder andere computers, smart tv’s, thermostaten, smartphones, slimme deurbellen en robotgrasmaaiers en -stofzuigers.
Het tweede waar kinderen AI in herkennen of mee associëren zijn verschillende merken, denk aan Google, Playstation, Youtube, TikTok, Netflix, Apple Watch, NS ov-chipkaart of de bestelzuil van de McDonald’s.
Brede en vroegtijdige dialoog
Het zijn enkele resultaten uit het onderzoeksrapport ‘AI-register van kinderen in Nederland: Het bewustzijn, ethische en maatschappelijke waarden en ideeën van kinderen over AI-systemen‘. La Fors en Dullaert lichten toe dat er nog veel onduidelijk is over de implicaties van AI-systemen op de ontwikkeling van kinderen. Een brede en vroegtijdige dialoog helpt hierbij.
Kinderen ondervragen naar hun bewustzijn van en ideeën over AI is cruciaal in de ontwikkeling naar meer mensgerichte AI-systemen en voor de discussie wat het betekent mensgericht te zijn. Zeker in een wereld waar technische ontwikkelingen als ChatGPT, GPT Force en internet of things al niet meer weg te denken zijn.
(1) De uitspraken van kinderen (met consent van ouders gedaan) zijn betrouwbaar en relevant over de populatie. Er is geen economische, gezondheid gerelateerde achtergrondinformatie gevraagd. Elk kind was welkom om deel te nemen aan het onderzoek. Alle data zijn geanonimiseerd. Verschillende geografische locaties, leeftijden bieden weerspiegeling over kinderen. De online en offline mogelijkheid om de surveys in te vullen diende zo inclusief mogelijk te zijn en de diversiteit in de steekproef te versterken. Het onderzoek is bovendien bekeken door drie academische reviewers.
