AI leert van voorbeelden die mensen eerder hebben gemaakt. Als die voorbeelden vooroordelen of verkeerde ideeën bevatten, krijgt de computer die fouten óók. Zo kan een beeldgenerator vaker mannen als dokters laten zien en vrouwen als verpleegsters, alleen omdat in de voorbeelden vaker mannen als dokters voorkwamen.
Dit noemen we bias, of vooroordeel, in AI. Het is belangrijk om daarop te letten, want je wilt niet dat een computer steeds dezelfde ongefundeerde ideeën herhaalt. Als je bijvoorbeeld een zoekmachine gebruikt en alleen plaatjes van jongens bij “wetenschapper” ziet, mis je leuke rolmodellen. Daarom moet je altijd zelf blijven nadenken, verschillende voorbeelden opzoeken en controleren of een resultaat eerlijk is. Zo leer je dat een slimme computer niet altijd gelijk heeft, net zoals mensen ook kunnen leren om eerlijker te denken.
Engelstalig - kansen en risico's - over vooroordelen
Engelstalig - Kunst en AI - over hoe AI de kunstwereld kan beïnvloeden