# Samenvatting en weetjes

### Samengevat

Je hebt geleerd over de geschiedenis van AI en dat het dus niet iets nieuws is. Dat AI in veel meer dingen verstopt zit dan je zou denken. Dat er dus heel veel mogelijkheden zijn met AI, maar ook risico's omdat AI het ook wel eens flink fout kan hebben. Je moet AI dus altijd controleren.

Ook heb je geleerd dat in AI, en dus ook toepassingen van AI, soms vooroordelen ingebakken zitten. Daarom is het altijd belangrijk om te controleren of AI wel onze eigen normen en waarden volgt. En als het bij onze waarden hoort dat wij zelf goed blijven nadenken - en bijvoorbeeld creatieve dingen blijven bedenken - dat we ons dan ook niet moeten laten beïnvloeden door AI.

### Weetje In veel videogames gebruikt AI je speelgedrag om steeds slimmere tegenstanders te maken! Als jij vaak rechtsom rent, leert de computer om je dan te verrassen, zodat elk potje weer spannend blijft.

### Weetje

Normen en waarden zijn de onzichtbare regels in onze maatschappij. Normen zijn de regels over hoe je je hoort te gedragen. Waarden zijn de dingen die je belangrijk vindt.

Een AI heeft geen eigen normen en waarden. Hij leert van de miljoenen teksten en foto’s die mensen op internet hebben gezet. Zo leert de AI van onze normen en waarden. Maar het internet is niet perfect. Er staat ook oude of foute informatie op. Daardoor kan een AI foute dingen leren.

### Foute regels en discriminatie

Soms leert een AI iets wat helemaal niet klopt met wat we echt belangrijk vinden. Dit noemen we discriminatie. Omdat veel data op internet uit het rijke Westen komt, ziet de AI bijvoorbeeld vooral beelden van witte mensen in succesvolle beroepen. De AI leert dan de foute regel dat alleen witte mensen succesvol zijn en geeft dat antwoord ook terug. Dat is een voorbeeld van discriminatie.

Hier zijn nog meer voorbeelden van foute regels die een AI kan leren:

- Een AI maakt vaker een foto van een man als je vraagt om een ‘directeur’ en vaker een foto van een vrouw als je vraagt om een ‘leraar’.

- Een AI-vertaler die leert van teksten over beroepen, denkt dat een 'verpleegkundige' altijd een vrouw is.

- Als je de AI een afbeelding van een familie laat maken, tekent hij vaak alleen lichte mensen.

### Hoe lossen we dit op?

Als programmeurs zien dat een AI discrimineert, moeten ze hem corrigeren. Ze geven de AI nieuwe, betere regels. Net zoals een leraar jou leert dat een antwoord niet klopt en wat de goede oplossing is, zo leren programmeurs de AI betere antwoorden te geven.

De AI is dus niet vanzelf slim. Wij leren de AI hoe hij de wereld moet zien, en daarom moeten we er goed op letten dat we hem de juiste normen en waarden meegeven.

Tussendoortje...Kattenluikje https://youtu.be/o1N3PiK13wA