Mensen en machines van de toekomst

Lessen

Les 2: Machines en techniek in de samenleving

De wereld ziet er nu heel anders uit dan 50 jaar geleden: overal om ons heen is techniek. Waarschijnlijk ziet de wereld er over 50 jaar ook weer heel anders uit dan nu. De kans bestaat dat we dan nóg meer met techniek en machines te maken gaan krijgen.
Het gebruik van meer techniek en machines verandert niet alleen de ervaringen die wij zelf hebben, maar ook de samenleving als geheel. Dit leidt tot zogenaamde “maatschappelijke vragen”: hoe willen WIJ eigenlijk dat de maatschappij verandert? In deze les gaan we kijken naar voorbeelden van maatschappelijke vragen van nu en de toekomst omtrent machines.

Aan het einde van de les weet je:

  1. Dat machines en techniek een steeds belangrijkere rol krijgen in de samenleving
  2. Dat hierdoor veel dingen mogelijk anders worden
  3. Dat dit ook veel maatschappelijke vragen met zich mee brengt
  4. Dat het daarom goed is om na te denken over wat dit voor jou betekent

Toen er nog geen auto’s waren, werden paarden veel gebruikt om mensen en goederen van A naar B te vervoeren. Toen auto’s mensen veel makkelijker en sneller konden vervoeren, zijn bijna alle paarden hun “baan” verloren. Hoe zit dat eigenlijk met onze banen? Zijn wij net zo makkelijk te vervangen als paarden?

Niet alle banen zijn even makkelijk te vervangen door een robot of een computersysteem. Hier volgen twee voorbeelden van banen waarin dit duidelijk te zien is. Een eerste baan is die van kassa medewerker bij de supermarkt. Dit is een voorbeeld waar een baan die nu al wordt geautomatiseerd; er zijn namelijk een aantal supermarkten waar kassamedewerkers zijn vervangen door zelfscan kassa’s.

Weer een heel ander voorbeeld is de baan van oppas. Alhoewel er ook robots zijn die op mensen kunnen letten, geeft dat misschien een minder prettig gevoel. Je weet immers niet waar die machines allemaal nog meer op letten als ze in je huis zijn. Het is daarom misschien minder makkelijk voor te stellen dat een oppas door een machine wordt vervangen.

Sommige banen lijken dus eerder te verdwijnen door automatisering dan andere banen.

Op het moment dat er niet langer mensen nodig zijn voor jouw functie binnen een bedrijf, zal je iets anders moeten gaan doen. In de toekomst zal dit steeds vaker voorkomen. Dat dit in de toekomst gaat spelen weten we, maar heeft automatisering op dit moment al veel effecten op de samenleving? De volgende video legt hier wat over uit:

Zoals je hoort is het dus erg belangrijk dat als banen worden overgenomen door machines, dat mensen worden omgeschoold. Zo zou een taxichauffeur die zijn baan verliest misschien wel heel erg nodig kunnen zijn in de zorg. Het is wel belangrijk dat hij en zijn werkgever ruimte creëren en benutten om een nieuw beroep te leren.

Ooit zullen er misschien wel zelfrijdende auto’s zijn. Met deze nieuwe ontwikkeling zijn ook nieuwe vragen aan het licht gekomen. Stel je het volgende eens voor. Er staan vijf mensen op de weg en een auto komt hard aangereden met daarin één persoon. De remmen werken echter niet goed en er is geen tijd meer  voor de auto om te remmen. Wat moet de auto doen? Moet de auto nu in de vangrail rijden met de dood van de passagier als gevolg? Of moet de auto over de vijf mensen op de weg rijden? En zou dit anders zijn als er vier mensen in de auto zaten? Of als jij het zelf zou zijn?

De vraag wat je zou moeten doen in deze situatie is een voorbeeld van een ethisch dilemma.Een situatie die vraagt om een moeilijke afweging — in dit geval van leven en dood. Heel lang waren het alleen mensen die dit soort keuzes hoefden te maken. In de toekomst is dat misschien andersL een zelfrijdende auto zal misschien keuzes moeten maken zonder dat een mens daar invloed op heeft op dat moment. Alleen welke keuze is dat dan? En wie beslist dat?

Dit probleem is moeilijk voor machines, maar ook voor mensen. Er is een groot internationaal onderzoek gedaan naar wat mensen zouden kiezen in verschillende situaties die lijken op het voorbeeld van hierboven. Hieruit bleek dat mensen uit verschillende werelddelen, soms ook anders over de dingen denken. Hieronder staan een aantal resultaten van het onderzoek waarin de deelnemers in drie groepen zijn verdeeld op basis van locatie; het Zuiden (centraal Amerika, Zuid-Amerika en Latijns-Amerika), het Oosten (Japan, Taiwan, Indonesië en Pakistan) en het Westen (Noord-Amerika, Europa).

  • De voorkeur om jonge mensen een grotere overlevingskans te geven is hoger in het Zuiden dan in het Oosten .
  • De voorkeur om mensen met een hogere status een grotere overlevingskans te geven is hoger in het Oosten dan in het Zuiden.
  • De voorkeur om voorbijgangers een hogere overlevingskans te geven dan passagiers is gelijk in alle drie de groepen. Net als de voorkeur om mensen die zich aan de regels houden een grotere overlevingskans te geven dan degene die dat niet doen (bijvoorbeeld door rood rijden).
  • In het Zuiden is er een sterke voorkeur om vrouwen en fitte mensen een hogere overlevingskans te geven.

Hieruit blijkt dat de cultuur een invloed op hoe mensen dit soort ethische vraagstukken benaderen. Moeten auto’s uit het Oosten dan ook andere keuzes maken dan die uit het Westen?

Deze les heet ‘machines en techniek in de samenleving’, een machine die heel erg veel wordt gebruikt in de samenleving is de mobiele telefoon. Heel veel mensen zitten via hun telefoon op social media. In dit voorbeeld bespreken we een gevolg van social media in de samenleving.

Het nieuws werd vroeger vooral verspreid via de krant. Later kwam daar de radio bij en nog later de televisie. Deze drie media vertelden meestal een soortgelijk verhaal, er werd vooraf besloten wat er wel en niet zou worden verteld. Nu is dat wel anders, iedereen heeft zijn eigen manier om op de hoogte te blijven. Er is veel minder controle op het nieuws dat online wordt geplaatst. Zo is het concept fake news (nep nieuws) ontstaan. Fake news is onware informatie dat wordt gepresenteerd als echt nieuws.

Grote tech-bedrijven houden nauwlettend in de gaten wat gebruikers doen, hoe lang ze dat doen en waar ze op klikken. Deze gegevens gebruiken ze dan om de gebruikers meer te laten zien van wat ze leuk en interessant vinden. Dat noemen ze persoonlijke aanbevelingen. Het idee is dat als mensen veel dingen zien die ze leuk of interessant vinden, dat ze langer op de site blijven kijken.
Als mensen langer op de sites kijken, dan kan het bedrijf potentieel weer meer geld verdienen door middel van reclames. Schokkende en vermakelijke berichten lijken vaak heel aantrekkelijk voor gebruikers, soms zelfs aantrekkelijker dan neutraler echt nieuws. Voor zulke bedrijven is het dus veel belangrijker dat de berichten schokkend of vermakelijk zijn dan dat ze ook echt waar zijn.

Ook komen mensen door de persoonlijke aanbevelingen minder in aanraking met filmpjes, verhalen of nieuws buiten hun eigen interesses. Dit zorgt ervoor dat je in een online ‘filter bubbel’ terecht komt: een soort zeepbel van informatie die helemaal bij je past en waar informatie van buiten niet doorheen komt.

Het gevolg van deze filter bubbels is dat verschillende mensen verschillende dingen zien. Dit beinvloedt hun informatie en daarmee hun meningen. Het kan ook mensen verder uit elkaar drijven. Dit wordt ook uitgelegd in een veel besproken documentaire op Netflix: The Social Dilemma.

 

Bovenstaande voorbeelden illustreren de volgende begrippen:

  • Automatisering: het vervangen van menselijke arbeid door machines of computers en computerprogramma’s
  • Omscholing: het leren van een nieuw beroep
  • Ethisch dilemma: een situatie waar een moeilijke, morele keuze centraal staat. De vraag is dan wat is de goede keuze? Vaak is er echter niet één duidelijk ‘goed’ antwoord.
  • Trolley probleem: het ethische dilemma of je één persoon op een spoor door een tram zou laten aanrijden door een hendel over te halen om vijf mensen te redden die dood zouden gaan wanneer je niets doet.
  • Filter bubbel: het verschijnsel dat websites jouw zoekresultaten afstemmen op wat je eerder hebt bekeken. Hierdoor is het lastiger om informatie te vinden met andere standpunten en kom je dus terecht in een situatie waar een zeepbel je vast houdt in informatie die je eigenlijk al kent en die vergelijkbaar is met je eigen mening. Je krijgt minder mee van wat anderen denken.
  • Fake news: nieuws, vaak online, dat onwaar is maar toch wordt gepresenteerd als waar.

Het lijkt er steeds meer op dat er later hulp in de verzorging komt van robots. Deze kunnen ouderen dan helpen met het onthouden van hun afspraken, of met hun medicijnen en oefeningen. Ook kunnen ze eenzame mensen gezelschap houden. Lijkt dit jou een goed idee? Waarom wel en waarom niet?


In China zijn ze bezig met een sociaal kredietsysteem. Dat houdt in dat alles en iedereen in de gaten wordt gehouden en dat mensen punten krijgen als ze iets goed en ze verliezen als ze iets fout doen. Wat ‘goed’ en/of ‘fout’ is, dat is door de overheid bepaalt. Het zou natuurlijk fijn zijn wanneer iedereen zich altijd aan de regels zou houden. Alleen is het nog maar de vraag of dit de beste manier is om dat te bereiken. Vind jij dit een goed idee?

 

Deze opdrachten kunnen je helpen om de termen beter te begrijpen.


Is jouw baan er nog over 30 jaar? [voorbeeld 1]

De onderzoekers Carl Benedikt Frey en Michael A. Osborne vroegen zich af welke banen de meeste kans hebben om overgenomen te worden door machines. Zij hebben een aantal jaar geleden een lijst gepubliceerd met beroepen en hun kans om geautomatiseerd te worden.

Type jouw beroep in het Engels in op deze site, om te zien wat de kans is dat jouw baan wordt overgenomen door een robot volgens dit onderzoek. Let wel op: dit is een voorspelling. Hoe het er echt uit gaat zien weet natuurlijk niemand!


Wat zou jij doen? [voorbeeld 2]

Kijk op: https://www.moralmachine.net/  en klik op ‘start judging’. Er komen nu verschillende situaties in beeld. Het is aan jou de taak om te kiezen wat de zelfrijdende auto moet doen. Doe het samen met iemand of met de klas en overleg waarom je een bepaalde keuze juist wel of niet maakt.


Mijn aanbevolen versus jouw aanbevolen [voorbeeld 3]

Leg samen met een partner je telefoon naast elkaar en open de YouTube app, Instagram ‘verkennen’, of  Netflix ‘top picks’. Vergelijk jouw openingspagina eens met die van de ander. Schrijf drie verschillen op. Hoe denk jij dat het komt dat deze verschillen er zijn?

Is dat alleen maar fijn of is er misschien ook een nadeel?

Met deze quiz kun je kijken of je de leerdoelen hebt bereikt

1. Machines gaan alle banen die nu nog door mensen worden gedaan overnemen binnen 10 jaar.

 
 
 
 

2. Is het een goed idee om zelfrijdende auto’s altijd te laten stoppen voor een rood stoplicht?

 
 
 
 

3. Wat is géén reden om nep nieuws te maken of te verspreiden?

 
 
 
 

4. Wat is automatisering?

 
 
 
 

5. Krijg jij dezelfde reclames op het internet als iedereen te zien?

 
 
 
 


  • Video: Robot pakt jouw baan af? | NOS op 3

    In dit filmpje van de NOS hebben ze het over de automatisering van de samenleving. Bestaat mijn baan straks nog wel? Welke banen zitten in de “gevarenzone” en wie is er “veilig”?

  • Video: Zorgrobot – Het Klokhuis

    In deze aflevering van Het Klokhuis gaat Dolores op bezoek bij de zorgrobots van de toekomst.

  • Video: Gaat deze robot straks voor je opa of oma zorgen?

  • Video: Het sociaal krediet systeem van China

  • History and future of human-automation interaction

    Dit overzichtsartikel legt uit welke wetenschappelijke ontwikkelingen er zijn geweest en aan komen op het gebied van mens-automatisering interactie. De conclusie is dat automatisering door steeds meer mensen in alledaagse situaties gebruikt wordt. Vanuit de wetenschap is er daarom steeds meer aandacht voor hoe mensen techniek gebruiken – ook als dat afwijkt van hoe mensen het willen gebruiken. 

    Janssen, C.P., Donker, S.F., Brumby, D.P. and Kun, A.L. (2019). History and future of human-automation interaction. International Journal of Human-Computer Studies, 131, 99-107.


  • The future of employment: How susceptible are jobs to computerisation?

    Welke banen zullen snel overgenomen worden door computers? In dit artikel proberen ze een kijkje te nemen in de toekomst van de arbeidsmarkt. Is jouw baan veilig volgens de onderzoekers?

    Frey, C.B. and Osborne, M. (2017). The future of employment: How susceptible are jobs to computerisation? Technological forecasting and social change, 114, 254–280.


  • The Moral Machine experiment

    Moet een zelfrijdende auto de inzittende altijd beschermen? In dit artikel onderzoeken ze hoe we kunnen bepalen welke keuzes machines moeten maken in lastige situaties. Hiervoor hebben ze een site gemaakt waar jij ook mee kan doen! https://www.moralmachine.net/

    Awad, E., Dsouza, S., Kim, R., Schulz, J., Henrich, J., Shariff, A., Bonnefon, J.-F. and Rahwan, I. (2018). The Moral Machine experiment. Nature, 563 (7729), 59–64.