## 3.3. Ethische aspecten

Het gebruik van AI-tools kan het zoekproces versnellen en vergemakkelijken. Tegelijkertijd roept het belangrijke ethische vragen op. Wanneer je AI gebruikt voor literatuuronderzoek, is het essentieel om bewust om te gaan met de betrouwbaarheid en herkomst van de informatie die je krijgt.

AI-tools kunnen nuttig zijn bij het zoeken naar informatie, maar er zijn belangrijke beperkingen en risico’s om rekening mee te houden:

1. Geen gecontroleerde bronnen en RAG

AI-tools geven antwoorden op basis van trainingsdata en sommige hebben ook toegang tot het internet, maar hun antwoord is dus niet gebaseerd op gecontroleerde literatuur. Dit maakt de informatie minder betrouwbaar. Sommige tools gebruiken RAG (Retrieval Augmented Generation): die zoeken tijdens het beantwoorden actuele informatie op internet en verwerken die in hun antwoord. Je kan dit zien als een combinatie tussen een zoekmachine en een taalmodel. Let op: Als de AI een onbetrouwbare bron gebruikt, of een bron niet goed verwerkt klopt de output alsnog niet.

2. Hallucinaties

AI modellen werken op basis van probability-het meest logische antwoord op basis van statistische berekeningen. AI kan verzonnen of foutieve informatie genereren, zonder duidelijke bronvermelding. Dit wordt hallucineren genoemd.

3. Cherry-picking van bronnen

Wanneer je AI vraagt om bronnen, worden die vaak pas na het antwoord toegevoegd om het verhaal te ondersteunen. Dit is geen objectieve bronselectie en ondermijnt de kwaliteit van je onderzoek.

4. Copyright

Bij de meeste AI-tools is onduidelijk of voor het trainen van de modellen gebruik is gemaakt van materiaal waarop copyright rust. Dit heeft gevolgen voor de kwaliteit van de data en roept vragen op over eigenaarschap.

5. Discriminatie en bias

AI-modellen kunnen bevooroordeeld zijn door een gebrek aan diversiteit in de trainingsdata. Bias ontstaat wanneer bepaalde perspectieven of groepen over- of ondervertegenwoordigd zijn.

6. Gebrek aan transparantie

Veel AI-tools zijn zogenoemde ‘black box’-systemen: de werking van het algoritme en de gebruikte data zijn niet inzichtelijk. Je weet dus niet hoe een antwoord precies tot stand komt. Er wordt gewerkt aan modellen die wel met een inzichtelijk dataset werken, maar op dit moment zijn deze nog onvoldoende beschikbaar. Vraag bij jouw bibliotheek of er inmiddels nieuwe ontwikkelingen en opties zijn.

7. Niet reproduceerbaar

Een AI-tool genereert bij herhaling vaak andere antwoorden. Dit maakt het bijna onmogelijk om resultaten te herhalen of te controleren.

8. Geen begrip

AI klinkt slim, maar ‘begrijpt’ niks. Het genereert een antwoord wat logisch klinkt, maar kan er volledig naast zitten – zonder waarschuwing. Voor de AI is het gewoon een logisch patroon in taal en niet meer dan dat.

Daarnaast speelt privacy een rol. Alles wat je invoert in een AI-tool – zoals zoekvragen of persoonlijke gegevens – kan worden opgeslagen of geanalyseerd. Voer dus nooit gevoelige of vertrouwelijke informatie in. Geanonimiseerde informatie kun je in sommige gevallen wel invoeren.

Verder is er kritiek op AI-tools vanwege hun hoge energieverbruik, en het feit dat bij de ontwikkeling en filtering van datasets gebruik wordt gemaakt van arbeidskrachten in lageloonlanden onder discutabele omstandigheden.

Tot slot: wees je bewust van je eigen rol. AI-tools zijn hulpmiddelen, geen vervanging voor kritisch denken of bronnenonderzoek. Vraag jezelf af: waar komt deze informatie vandaan? Kan ik dit verifiëren? Het is jouw verantwoordelijkheid om de kwaliteit en betrouwbaarheid van de gevonden informatie te beoordelen – ook als die via een slimme tool komt.

Ethisch verantwoord zoeken betekent: transparant, kritisch, zorgvuldig en verantwoordelijk omgaan met technologie.