Mensen en machines van de toekomst

Les 1: Doe ik iets fout of is het de machine?

Heb jij ook wel eens moeite met het aanzetten van een televisie in een ander huis? Of typ je wel eens de code van je telefoon als je de code van je pinpas moet invoeren? Misschien moet je nog steeds aan iedereen uitleggen hoe de magnetron werkt. Digitale apparaten zoals telefoons, magnetrons en auto’s kunnen steeds meer maar nog steeds worden er fouten gemaakt bij het gebruik van deze apparaten. In deze les leer je dat deze “menselijke fouten” heel gebruikelijk zijn en dat deze niet alleen aan de mens liggen, maar ook aan de techniek.

Aan het einde van de les weet je:

  1. Dat menselijke fouten kunnen ontstaan in het gebruik van techniek
  2. Dat menselijke fouten kunnen komen door verwarring over wat het apparaat kan
  3. Dat dit invloed kan hebben op of je een apparaat vertrouwt
  4. Dat dit kan leiden tot verkeerd gebruik of misbruik van een techniek
  5. Dat het daarom nuttig is om na te denken over hoe mensen techniek gebruiken en hoe je ze daarover kunt voorlichten.

Weet jij wanneer je bij magnetronsgebruik kan maken van specifieke standen zoals “ontdooien”, “brood verwarmen”, “vlees modus” en “chaos modus”? Ontwerpers van de magnetron hebben deze functies gemaakt omdat ze nuttig kunnen zijn. Waarschijnlijk weet je niet wat elke functie doet (wat is een chaos modus?) of hoe het werkt (hoe zet je de digitale klok op zomertijd?). In de praktijk worden die functies dan ook niet vaak gebruikt door jou als gebruiker van de magnetron.

Ook kunnen de functies verwarring veroorzaken: verwarmt een broodstand op dezelfde manier als een ontdooi stand bijvoorbeeld? Als je eten vervolgens verkeerd uit de magnetron komt (te koud, of aangebrand), kun je hier kwaad over worden en vertrouwen in de magnetron verliezen. Wellicht gebruik je hem minder, of ga je juist andere functies gebruiken die minder goed zijn. Een magnetron met meer functies is dus niet altijd beter als je kijkt naar hoe de magnetron wordt gebruikt door mensen. Soms zorgt eenvoud er juist voor dat mensen apparaten meer vertrouwen en dus meer gebruiken.

Je ziet dit probleem ook geïllustreerd in de video “microwave racing”.

De magnetron is maar 1 voorbeeld van waar ontwerp invloed kan hebben op vertrouwen en gebruik / misbruik. Net zoals bij de magnetron is het daarom belangrijk dat al tijdens het ontwerp van een apparaat wordt nagedacht over hoe mensen het daadwerkelijk gebruiken. Dit kan verwarring en verkeerd gebruik voorkomen.

Vaak helpt het bijvoorbeeld om na te denken in welke context een apparaat gebruikt wordt: de meeste verpakkingen van magnetronmaaltijden zeggen “verwarm voor X minuten op Y Watt”. Goede magnetrons hebben daarom een duidelijke timer en duidelijk wattage.

Een van de nieuwste mogelijkheden is dat steeds meer auto’s proberen in te schatten of ze “binnen de lijntjes” rijden op snelwegen. Grofweg wordt deze techniek op twee manieren ingezet:

  • Lane departure waarschuwings systemen, die een waarschuwing geven   als het denkt dat jouw auto buiten de rijstrook rijdt
  • Lane-keeping assistentie systemen, die proberen een auto juist actief binnen de weg te houden

Ondanks dat ze op elkaar lijken verschillen deze systemen  behoorlijk van elkaar. Stel je voor dat een chauffeur  denkt dat haar auto een “lane-keeping assistentie” systeem heeft, terwijl het eigenlijk alleen een waarschuwing systeem heeft. Deze chauffeur zal niet ingrijpen bij een waarschuwing omdat ze denkt dat het systeem dat voor haar zal doen.  De techniek wordt in dit geval te veel vertrouwt, waar dat niet kan.

Een chauffeur die wel een lane keeping assistentie systeem heeft, maar denkt dat het alleen een waarschuwing geeft, zal wellicht ten onrechte het stuur proberen “over te nemen”, wat ook gevaarlijk kan zijn.

Deze problemen kunnen zich nu al voordoen bij auto’s, omdat niet iedereen weet wat zijn of haar auto wel en niet kan (zie bv dit artikel ). Zoals in het voorbeeld duidelijk wordt kan dit levensgevaarlijk zijn en is het dus van groot belang dat automobilisten weten wat de auto wel en niet kan. Het probleem is nog groter als er een nieuwe auto is gekocht, of gehuurd, en de kenmerken niet goed zijn uitgelegd.

Verder zijn de meeste  systemen van nu nog niet “waterdicht”; ze werken alleen onder specifieke omstandigheden zoals op reguliere snelwegen bij normaal licht en niet te druk verkeer. Niet elke chauffeur weet dat. Als hij of zij eerder heeft gezien dat een lane-keeping assistentie systeem werkte op de snelweg, past hij of zij het wellicht ten onrechte ook toe op binnenwegen, waar de techniek niet voor gemaakt is.

Er zijn heel veel manieren om een voorbeeld te bedenken dat hierop lijkt. Bijvoorbeeld  de verschillen tussen auto’s en automerken in hoe ze een alarm geven. Gaat er een lampje aan of uit? En is er een waarschuwingsgeluid bij of niet? Kan jij er een bedenken?

Veel autobedrijven zijn bezig met het zoeken naar andere brandstoffen die duurzaam zijn zoals elektriciteit, waterstof of biobrandstoffen. Dat is goed voor de wereld, maar wat betekent dit eigenlijk voor de gebruiker? Kan jij iets bedenken dat gaat veranderen in de ervaring van de gebruiker als het gaat om een reisje met de auto?

Iets wat tot voor kort voor elke auto hetzelfde was, was tanken. Er was wel verschil tussen diesel of benzine, maar dat was het ook wel. Nu zijn er al auto’s die niet eens meer naar een tankstation hoeven, die hebben namelijk alleen een speciaal stopcontact nodig! Als automobilist zorgt dit voor een hele verandering in de gebruikservaring. Stel je voor dat je met de auto op vakantie wil naar Spanje. Je kiest een mooie route en vertrekt. Als je een elektrische auto hebt, komt er al een stuk meer bij kijken:

  • Is de auto al opgeladen?
  • Hoe ver komt de auto met een gevulde accu?
  • Waar zijn onderweg oplaadpunten?
  • Hoelang duurt het bij deze punten voor de auto is opgeladen? (dit kan verschillen per oplaadpunt en per auto)
  • Zijn er oplaadpunten bij het vakantieadres?

Zoals je ziet verandert een simpele handeling als tanken in iets waar je ver van tevoren over moet nadenken. Dit kan mensen afschrikken of lijden tot verwarring. Dit zou onterecht zorgen voor afkeer voor de nieuwe techniek. Hoe zou jij dit voorkomen als je de auto aan iemand zou uitlenen?

In de toekomst komen er nog meer verschillende brandstoffen op de markt. Bijvoorbeeld auto’s die rijden op waterstof. Kan jij misschien drie verschillen in het gebruik tussen waterstof tanken en elektrisch tanken bedenken? Wat is belangrijk voor een nieuwe gebruiker om te weten voor hij of zij zich aan deze nieuwe brandstof waagt?

Bovenstaande voorbeelden illustreren de volgende begrippen:

  • Featurism: als een apparaat wordt volgestopt met allerlei knopjes, foefjes en mogelijkheden “omdat het technisch kan”, zonder er uitgebreid over na te denken of de eindgebruiker / klant dit wil en begrijpt. Denk aan de “chaos knop” op de magnetron.
  • Modus verwarring: het niet goed begrijpen wat het apparaat wel of niet kan en daardoor bijvoorbeeld niet weten in welke “modus” het apparaat zit. Zoals de verwarring die kan ontstaan bij het voorbeeld over de lane departure warning en de lane-keeping assist.
  • Vertrouwen: vertrouwen in een apparaat is in hoeverre je een apparaat of functie graag en met zekerheid gebruikt. Dit  kan versterkt worden door te zien dat het goed werkt. Hiervoor is het beperken van “modus verwarring” belangrijk.
  • Gebruik: vertrouwen kan goed gebruik versterken. Het niet goed begrijpen van een apparaat kan leiden tot het niet gebruiken (onbekende knop op magnetron) of verkeerd gebruiken (ontdooi knop voor opwarmen) of zelfs misbruik (geen aandacht voor de weg hebben, omdat je denkt dat de auto zichzelf op de weg houdt)
  • Menselijke fout: een fout die elk persoon kon overkomen, omdat het apparaat verkeerd begrepen werd of er bijvoorbeeld niet genoeg aandacht was. Onderzoek naar menselijke fouten probeert te begrijpen waarom een mens een fout maakt. Meestal wordt er niet met een wijzend vingertje gezegd dat het helemaal aan de mens ligt. Vaak ontstaat een fout juist doordat iets aan de machine niet goed is.
  • Mens-gericht ontwerp (engels: User centered design): In mens-gericht ontwerp staat de mens centraal. Uitgangspunt is niet alleen wat een machine technisch kan, maar juist hoe een mens dit gebruikt en waarom. Er wordt nagedacht over mogelijke fouten zoals modus verwarring of gebrekkige aandacht. Kennis over mensen is daarom zeer belangrijk bij deze ontwerpmethode voor techniek.

Als je een nieuw apparaat ontwerpt, repareert, of uitlegt aan een klant is het nuttig om na te denken vanuit het perspectief van de klant. De klant weet niet wat een apparaat wel en niet kan. Een klant leest misschien ook de gebruiksaanwijzing niet (helemaal).
Leg daarom goed uit wat een apparaat wel en niet kan en onder welke omstandigheden. Dit voorkomt “menselijke fouten”.

Een automatische grasmaaier die niet elke dag op tijd start kan leiden tot wantrouwen en het niet meer gebruiken van de grasmaaier.


Op 7 mei 2016 was het eerste dodelijke ongeluk met een Tesla. De Tesla had een witte vrachtwagen niet herkend en reed er met volle snelheid op af. Het is niet helemaal zeker waar dit aan ligt, maar mogelijk waren er hier ook menselijke fouten. Zo was er een iPad een film aan het afspelen, en had de chauffeur wellicht niet zijn ogen op de weg maar op de film. Dit terwijl de Tesla er vanuit gaat dat mensen wel de rij omgeving in de gaten houden.


Bij online videogesprekken via Zoom, Microsoft Teams of Skype is soms je microfoon al aan en soms uit aan het begin van een gesprek. Hierdoor kan het voorkomen dat mensen denken dat hun microfoon uitstaat, terwijl die juist wel aan staat. Met mogelijk gênante gevolgen, zoals in dit gesprek met koningin Maxima:

Deze opdrachten kunnen je helpen om de termen beter te begrijpen.


Doet elk systeem hetzelfde? Maak flashcards
Maak een set flashcards / trivia over een automatisch systeem dat je op je stage tegenkomt. Zet op deze kaartjes dingen zoals wat het apparaat allemaal kan en welke stappen je moet doorlopen om iets te gebruiken. Bijvoorbeeld, als je automonteur bent over hoe “adaptieve cruise controle” werkt. Of als je kok bent, hoe een keukenapparaat werkt. Probeer er tijdens het maken van de kaartjes over na te denken hoe je kan zien of weten wat het apparaat op dat moment doet. Dat wil zeggen: hoe zorgt het apparaat ervoor dat “modus verwarring” voorkomen wordt. Gaat er bijvoorbeeld een lichtje branden als het keukenapparaat aan staat?
Je kunt deze opdracht ook uitvoeren met een klasgenoot. Besluit samen over wat voor soort apparaat of systeem je iets wilt maken, maar maak de kaartjes zelfstandig. Vergelijk ze na afloop met elkaar: denken jullie allebei dat het apparaat hetzelfde werkt?


Hoe werkt dit? Maak een video met uitleg
Hoe een techniek werkt (bv adaptieve cruise control in een auto) is niet altijd duidelijk voor klanten. Kies een techniek of apparaat dat je op je stage, werkomgeving, of thuis tegenkomt. Maak een filmpje waarin je in je eigen woorden zo goed mogelijk uitlegt hoe het apparaat werkt. Let erop dat je aandacht besteed aan de omstandigheden waarop de techniek niet werkt, net zoals bijvoorbeeld lane-keeping assist niet overal werkt. Voor een extra uitdaging kun je ook proberen het in een vreemde taal (bv Engels) uit te leggen.


Dit werkt echt niet zoals ik verwacht
Je bent vast wel eens een apparaat tegengekomen dat heel anders werkte dan je eerst dacht. Denk aan een app op je telefoon, een internetpagina, of een huishoudelijk apparaat zoals een stofzuiger of magnetron. Kies een voorbeeld dat jij goed kent. Maak een foto serie, power point presentatie of een filmpje waarmee of waarin je uitlegt waarom dit apparaat zo verwarrend is. Voor een extra uitdaging kun je ook proberen uit te leggen waarom je denkt dat dit apparaat verwarrend is EN hoe de verwarring zou kunnen worden verholpen.


Ontwerp analyse
Natuurlijk is niet elk product 100% goed of 100% fout. Meestal zijn sommige dingen goed, en andere minder goed. Onderzoekers bij Microsoft hebben een kaartspel ontwikkeld waar 18 richtlijnen staan voor het ontwerp van interactie tussen mens en AI (artificial intelligence; intelligente systemen). De richtlijnen zijn ingedeeld in 4 brede categorieën: (1) terwijl het product ontworpen wordt, (2) terwijl mensen het gebruiken, (3) als er een fout voordoet, en (4) over de tijd (als product langzaam aangepast wordt).
Kies een specifiek digitaal product uit je omgeving (bv een app op je telefoon, of een apparaat dat je op je stage gebruikt). Probeer minimaal 1 richtlijn van Microsoft te ontdekken die goed toegepast lijkt te zijn en minimaal 1 waar er verbetering kan zijn.  Voor een extra uitdaging kun je proberen om een richtlijn uit elk van de 4 categorieën te vinden. Bespreek je bevindingen met 2 klasgenoten.
Zie: https://www.microsoft.com/en-us/research/project/guidelines-for-human-ai-interaction/


Alle aandacht er bij. Zelf-studie video opdracht
Zelfs als je wel geconcentreerd bezig bent kun je soms dingen over het hoofd zien. Je kunt dat testen met deze video  Had jij het goed?

Met deze quiz kun je kijken of je de leerdoelen hebt bereikt

1. Als een gebruiker ontevreden is over een apparaat, maar het apparaat wel werkt zoals het hoort dan kan het probleem liggen bij:

1: De verwachting en de kennis van de gebruiker over het apparaat

2: Een technische fout

 
 
 
 

2. Bij het gebruik van techniek, kunnen menselijke fouten ontstaan. Dat is:

 
 

3. Als je een noodrem maakt, welke kleur is dan het beste om te gebruiken en waarom?

 
 
 

4. Soms heeft een apparaat heel veel opties, wat verwarrend kan zijn. Dit noem je ook wel

 
 
 

5. Als iemand een apparaat verkeerd gebruikt en het dus niet werkt zoals verwacht, gaat het vertrouwen in dit apparaat …

 
 
 


  • Video: Gesprek – interdisciplinair werk is de toekomst

    In deze video wordt Dr. Chris Janssen van Universiteit Utrecht geïnterviewd over waarom interdisciplinair werk en onderzoek de toekomst is. Interdisciplinair werk is werk waar mensen met een verschillende achtergrond (bv techniek en filosofie) samenwerken. 


  • Video: Tanken van de toekomst – slimme oplaadstraten

    In dit Engelstalige filmpje is een idee te zien over hoe het opladen van elektrische auto’s er uit zou kunnen zien in de toekomst. Denk jij dat dit idee ooit werkelijkheid zal worden? Waarom wel of waarom niet?

  • Video: Hoe een kleine verwarring tot wantrouwen in machines kan leiden

    Deze video laat zien hoe een kleine verwarring over wat een robot grasmaaier wel en niet doet kan leiden tot wantrouwen in de robot. De video is geïnspireerd op onderzoek aan de Universiteit Utrecht. 


  • Guidelines for human-AI interaction

    Hoe maak je nu AI technieken die ook echt rekening houden met de mens? Dit artikel geeft een aantal richtlijnen voor het ontwerpen van mens-AI interactie. AI is een afkorting voor Artificial Intelligence, in het Nederlands is dat kunstmatige intelligentie.

     Amershi, S., Weld, D., Vorvoreanu, M., Fourney, A., Nushi, B., Collisson, P., Suh, J., Iqbal, S.T., Bennett, P., Inkpen, K.M., Teevan, J., Kikin-Gil, R. and Horvitz, E.J. (2019). Guidelines for human-AI interaction. Proceedings of the SIGCHI conference on Human factors in computing systems. New York, NY: ACM. Paper 3; pp 1-13.


  • Use, misuse, disuse, abuse

    Als mensen techniek gebruiken, wat doet dit dan met hun vertrouwen? Dit artikel beschrijft het verschil tussen gebruiken, verkeerd gebruiken, niet gebruiken en misbruiken.

    Parasuraman, R. and Riley, V. (1997). Humans and Automation: Use, Misuse, Disuse, Abuse. Human Factors, 39 (2), 230–253.


  • Interrupted by my car?

    Als auto’s slimmer worden, hebben mensen misschien niet altijd hun aandacht bij de weg. Hoe krijg je dan wel de aandacht van mensen als dat nodig is? Bijvoorbeeld wanneer er iets aan de hand is. Dit artikel legt uit hoe dit eigenlijk kan worden vergeleken met hoe een telefoontje je soms stoort (een interruptie) als je hard aan het werk bent.

    Janssen, C.P., Iqbal, S.T., Kun, A.L. and Donker, S.F. (2019). Interrupted by my car? Implications of interruption and interleaving research for automated vehicles.International Journal of Human-Computer Studies, 130, 221–233.