Een robot als buddy in de klas - is dat moreel verantwoord?
Op het bureau voor de klas staat een blauwwit mannetje uit zijn dak te gaan op het vrolijke nummer ‘Gangnam Style’. De kinderen in de klas kunnen niet stil blijven zitten, springen op en doen vol enthousiasme het bekende dansje dat erbij hoort. Daarna verdringen ze zich om het stuk techniek van dichtbij te kunnen bekijken. Promovendus Matthijs Smakman is het gewend. Hij heeft onderzocht wat de morele overwegingen zijn van o.a. ouders en leerkrachten bij het gebruik van social robots in het basisonderwijs. Smakman heeft vervolgens de eerste richtlijn opgesteld voor het verantwoord ontwerpen en gebruiken van deze fysieke robots.
Op 31 mei a.s. promoveert Smakman in Amsterdam met zijn proefschrift: Robots in het onderwijs: de moreel verantwoorde inzet van robots assistenten. Zijn empirisch onderbouwde onderzoek, dat hij deed bij promotor prof. dr. Elly Konijn, is een belangrijke eerste stap naar een moreel verantwoorde integratie van sociale robots als onderwijsassistent in het basisonderwijs. Uit eerder onderzoek blijkt namelijk dat de inzet van sociale robots leidt tot betere resultaten dan traditionele onderwijstechnologieën.
De nieuwe richtlijn die Smakman presenteert geeft aan hoe je robots in kunt zetten en hoe je daarmee aan de ethische eisen voldoet die diverse stakeholders stellen. Vanuit een palet van 17 ethische waarden kwam hij tot een richtlijn met 22 punten. Smakman vertelt: “Menselijk contact met de juf of klasgenootjes mocht door het gebruik van robots niet verdwijnen. De robot moet echt iets toevoegen, niet afnemen. Privacy is van belang. Wat doet de robot met alle gegevens die hij ontvangt met zijn camera’s en microfoons? Kinderen vertellen heel snel geheimpjes tegen de robot. Ze vinden het soms makkelijker om zich te uiten tegen iets dat niet menselijk is. Vertrouwen is daarbij dus ook een belangrijke waarde, eentje die je niet mag schaden.”
Buddy
Smakman: “Een sociale robot heeft een fysiek lichaam, kan vaak bewegen en communiceren met mensen door spraak of bijvoorbeeld met lampjes. Een sociale robot heeft een vorm van autonomie en wordt dus niet geheel bestuurd -wel geprogrammeerd - door een mens. Omdat die robot zelfstandig reageert en aanwezig is in de ruimte zien wij mensen hem al snel als een levend wezen, een buddy. Kinderen zeker, die zeggen bijvoorbeeld ook dat je de robot aan moet kijken als je tegen hem praat. Ik wilde de sociale rol, en de ethische vragen die daarbij horen van robots op lagere scholen onderzoeken. Kinderen zijn ontvankelijk, ze maken al gauw een praatje met robots en bouwen zo een relatie op. Dat wierp de vraag op hoe je een robot zo ontwerpt dat het geen schade doet aan de waarden die ouders en mensen in het onderwijs belangrijk vinden.”
Angst voor robotgedrag
“Eén van de belangrijkste angsten bij met name ouders was wat dit doet met de sociaal-emotionele ontwikkeling van een kind. Gaan kinderen robotgedrag vertonen als ze interacteren met een technologisch vriendje? Gaat hun ontwikkeling achteruit? Die angst is niet echt nodig blijkt uit onderzoek, al zijn er kinderen met een bepaald spectrum zoals bijvoorbeeld ADHD die zich wel sneller lijken te binden aan een robot. Wat de exacte mechanismen hierbij zijn moeten we nog verder ontdekken. Uit therapeutische sessies met autistische kinderen blijkt dat de neutraliteit van robots een factor speelt. De voorspelbare reactie van robots vinden zij fijn. Een robot kan ook weer worden ingezet om die kinderen bepaalde emoties te leren begrijpen en plaatsen. Voer voor verder onderzoek!”
“Sociaal-demografische factoren bepalen ook hoe mensen reageren op robots. Iemand met een lager inkomen heeft een significant grotere kans om er sceptisch tegenover te staan dan iemand die veel ervaring heeft met technologie. Ouderen zijn kritischer dan jongeren, terwijl sociale robots goede zaken doen in de ouderenzorg. Leraren hadden een praktische houding en kwamen niet met echt morele overwegingen, de robot moet vooral hun werk verlichten. Dus geen grote filosofische vragen. Dat was opvallend vond ik. Ze zeiden dat ze vaak gebruik maken van een handpop die ook een soort fantasiewereld creëert; dat voelt ook niet als bedrog.”
“Door al die inzichten moesten we bepalen wat een robot bijvoorbeeld wel en niet opslaat, welke rol de technologie in kan nemen, hoe je omgaat met de gegevens die je ontvangt. Een robot moet bijvoorbeeld geen docent vervangen. Ons advies is dan ook om een robot te bouwen die één taak goed uit kan voeren. Die bijvoorbeeld alleen die gegevens opslaat die zorgen voor een goede lesinteractie. Dat je weet hoe het kind er voor staat in zijn reken- of taalontwikkeling, met wat persoonlijke gegevens als hobby’s, maar geen vergaande sociale band opbouwt waardoor er geheimpjes gedeeld worden, zoals met een vertelknuffel waar kinderen hun hart bij kunnen luchten.”
Smakman vertelt verder: “We stellen de robots steeds bij en vullen hem met meer informatie zodat hij goed blijft afgesteld op het kind waarmee hij werkt. Dat vraagt ook het nodige van de leerkrachten. Het kan niet zo zijn dat de torenhoge werkdruk nog meer toeneemt door de robot, maar dat die juist verlaagt. Als je gegevens verzamelt is het ook de bedoeling dat je daar wat mee doet. Dus zijn we van het opnemen van hele gesprekken gegaan naar het enkel registreren van antwoorden op een rekentaak, en of dat dan de goede uitkomst is, of dat het kind een bepaald woord moest noemen. Dat is dan ook het enige wat we registreren. De leraar ziet de score van het kind en weet dan of dat klopt met het beeld dat er is over dat specifieke kind.”
En nu?
“De vervolgstap is robots bouwen die voldoen aan de richtlijn die ik opgesteld heb. Dat wordt de grote lakmoesproef. En dan kijken wat robots nog meer kunnen bijdragen binnen het onderwijs, en wat daarvoor nodig is. Ook welke gegevens we moeten hebben van kinderen om die interactie zo goed mogelijk te personaliseren. Robot bouwende bedrijven zijn heel geïnteresseerd en denken mee over vervolgtrajecten. Een ethisch verantwoorde robot zorgt tenslotte voor snellere acceptatie binnen onze maatschappij.”
“Parallel aan dit onderzoek heb ik ook de kans gehad een specialisatie sociale robotica op te zetten binnen de ICT-opleiding hier op de HU waar ik drie dagen lesgeef. Dat is een hele mooie combinatie van onderzoek en onderwijs geworden. We werken met robots in het onderwijs, maar ook in de zorg, bijvoorbeeld met het Wilhelmina Kinderziekenhuis en in de ouderenzorg. Voorzichtig schuift voor mij de lijn op van onderwijs naar de zorgkant. Daar is een heel grote vraag naar dit soort technologieën. Met meer ethische kwesties om te onderzoeken: een spannende uitdaging!”
