Verslaglegging Expertsessie Representatiebias

Het ontwikkelen van taalmodellen brengt diverse uitdagingen met zich mee. In dit rapport delen we een van de vraagstukken die binnen het project GPT-NL voorbij kwam, hoe gaan we om met representatiebias?

In de wetenschap is vooral kennis over bias in AI systemen (dus in de toepassing van AI). Er zijn echter nog weinig best practices over het mitigeren van bias in de eerste fase van de ontwikkeling van taalmodellen: het creëren van de dataset. Om brede inzichten op te halen om de vragen over representatiebias in de eerste ontwikkelfase van GPT-NL te beantwoorden, hebben we in september 2024 twee sessies georganiseerd met experts op het gebied van representatie en discriminatie. Vanuit de gesprekken met deze experts hebben we een aantal aanbevelingen verzameld.

Gebaseerd op deze inzichten, reflecteren we kort op het GPT-NL project en hoe we hier mee aan de slag zijn gegaan. Het verslag is geschreven in het Nederlands. Om de geleerde lessen te kunnen delen, zijn de samenvatting en aanbevelingen ook vertaald naar het Engels.