Een recent rapport van de Amerikaanse overheid over volksgezondheid heeft voor verbazing en ophef gezorgd. Het document, dat bedoeld was als beleidsadvies, bevat talloze verwijzingen naar wetenschappelijke studies — maar bij nader inzien blijken veel van die bronnen niet te bestaan. Een aanzienlijk deel van de inhoud lijkt gegenereerd te zijn met behulp van kunstmatige intelligentie, zonder adequate controle.
Verzonnen wetenschap als bewijsvoering
Het rapport verwijst naar meer dan 500 zogenaamd wetenschappelijke artikelen. Onderzoekers ontdekten echter dat een groot aantal van deze citaties nergens te vinden is in wetenschappelijke databases. Andere verwijzingen bevatten foutieve auteursnamen of dode hyperlinks. Sommige voetnoten tonen zelfs sporen van AI-generatie, zoals het gebruik van het label “oaicite”, dat doorgaans alleen in AI-output voorkomt.
Kritiek op lakse overheidsreactie
De Amerikaanse overheid bagatelliseerde de onthullingen aanvankelijk door te spreken van “opmaakfouten”. Die verklaring riep felle kritiek op bij experts. Volksgezondheidsexperts en voormalige functionarissen waarschuwen dat fouten in rapporten met beleidsambitie levens kunnen beïnvloeden. Dat het document mogelijk gebruikt is of zal worden in beleidsdiscussies, baart hen grote zorgen.
AI vereist menselijk toezicht
Het incident onderstreept hoe risicovol het is om AI ongefilterd te gebruiken in serieuze documenten. Waar kunstmatige intelligentie een krachtig hulpmiddel kan zijn, moet de eindverantwoordelijkheid altijd bij mensen liggen. Zeker in domeinen als volksgezondheid is controle en verificatie essentieel.
