Vauhini Vara, die al jaren onderzoek doet naar de impact van AI op het schrijven, publiceerde een stuk in De Atlantische Oceaan beweerde dit weekend dat de winnaar van de Caine Prize AI gebruikte om zijn verhaal te schrijven. De Zimbabwaanse schrijver Simbarashe Steyn Kundizeza won de prijs van 2026 voor zijn verhaal ‘The Blue Fighter’, dat vorig jaar werd gepubliceerd in De ondiepe verhalen recensie.
Dit is de derde keer dit jaar dat een grote literaire prijs wordt besmet door beschuldigingen van AI: de Commonwealth Prize en de Prix Goncourt hebben ook te kampen gehad met problemen rond het gebruik van onmenselijke hulpmiddelen om tekst te genereren.
Vara deed haar ontdekking nadat ze ‘The Blue Fighter’, samen met alle eerdere Caine Prize-winnaars en ander werk van Kundizeza, in een AI-detectieprogramma genaamd Pangram had gestopt, dat ‘bijna het hele verhaal markeerde als door AI gegenereerd’. Het Caine Prize-team heeft gereageerd en onderzoekt de beschuldigingen, maar zal een meer menselijke benadering hanteren zonder gebruik van softwaretools. Ellah Wakatama, de voorzitter van de raad van bestuur van de Caine Prize, vertelde Vara:
“Mijn standpunt, als persoon die de prijs wint, is dat als er een dergelijke beschuldiging is, ik bewijs wil dat niet uit een machine komt.” Ze zei dat ze van plan was Kundizeza te benaderen met ‘compassie’ en de veronderstelling van eerlijkheid. Wakatama is ook Zimbabwaans. ‘Als Afrikaan,’ zei ze, ‘is mijn eerste standpunt, als ik het jou vraag: Vertel je de waarheid? en als je ja zegt, ga ik je geloven – vooral omdat de aanklagers niet uit ons eigen volk komen.’
Dat de beschuldiging tegen een Afrikaanse schrijver wordt geuit over een prijs ter ere van het Afrikaanse schrijven is iets dat anderen hebben opgemerkt en uitgeroepen. De Caine-prijs is “de belangrijkste internationale literaire prijs voor een kort verhaal van een Afrikaanse auteur” en heeft tot doel schrijvers uit zowel Afrika als de diaspora in het zonnetje te zetten. Ik wil niet zeggen dat Vara te kwader trouw werkt, maar er is een lelijke geschiedenis van slechte acteurs die dit soort beschuldigingen tegen gekleurde schrijvers aangrijpen. Een voorbeeld doet zich momenteel voor in Frankrijk, waar de in Haïti geboren Canadese romanschrijver Thélyson Orélien ervan wordt beschuldigd AI te gebruiken in zijn nieuwe roman.
Orélien heeft de beschuldigingen resoluut ontkend, maar de controverse werd snel door extreemrechts aangegrepen om de niet-blanke schrijver in diskrediet te brengen. Of de beschuldigingen nu waar zijn of niet, ze hebben nu al impact: Orélien werd geschrapt van de longlist voor de Prix Goncourt en verliet Frankrijk midden in zijn boekentournee. (De controverse stimuleerde echter ook zijn omzet, dus dat zou een lichtpuntje kunnen zijn.)
Zelfs als je iets interessants zou kunnen vinden in deze technologie en het gebruik ervan, is de lelijke complicatie dat te veel AI-boosters ook rijk en krachtig zijn, en niet geïnteresseerd in compromissen.
Een ander probleem is dat AI-detectoren nog steeds niet erg betrouwbaar zijn, waar Vara in haar stuk op ingaat, waarbij ze een aantal onderzoeken aanhaalt om de geloofwaardigheid van Pangram te versterken. Maar het is gebleken dat deze hulpmiddelen bijzonder gebrekkig zijn als het gaat om schrijven vanuit de dominante, blanke en westerse cultuur van buitenaf. Uit een onderzoek van Stanford bleek dat deze detectoren bijzonder slecht zijn bij niet-moedertaal Engels schrijven, bijvoorbeeld:
Hoewel de detectoren “bijna perfect” waren in het beoordelen van essays geschreven door in de VS geboren achtsteklassers, classificeerden ze meer dan de helft van de TOEFL-essays (61,22%) geschreven door niet-native Engelse studenten als AI-gegenereerd (TOEFL is een acroniem voor de Test of English as a Foreign Language).
Het wordt erger. Volgens het onderzoek zijn alle zeven AI-detectoren unaniem identificeerde 18 van de 91 TOEFL-essays van studenten (19%) als door AI gegenereerd en een opmerkelijke 89 van de 91 TOEFL-essays (97%) werden gemarkeerd door ten minste één van de detectoren.
Het is al lang bekend dat AI raciale en culturele blinde vlekken kent. Jarenlang luiden mensen de alarmbel over gezichtsherkenningssoftware – populair onder politie en leger – die bijvoorbeeld geen gezichten met een donkere huidskleur kan detecteren.
Als gevolg hiervan zal het onderzoek van de Caine Prize naar de claims tegen Kundizeza een “mensgerichte benadering zijn die ervoor zorgt dat schrijvers tijdens het proces worden ondersteund en verzorgd.” Ik denk dat dit de juiste beslissing is. Naast alleen de integriteit van de Prijs, blijft de organisatie zich richten op de gemeenschap van schrijvers – en ook op hun reputatie. Ze zien hun rol ook als een “belangrijk onderdeel van een ecosysteem dat het schrijven en publiceren van Afrikaanse auteurs valideert en ondersteunt.”
Het vertroebelen van de culturele wateren door AI is een van mijn grootste frustraties over de industrie en haar aanjagers. De alomtegenwoordigheid van deze technologie heeft twijfel doen rijzen over de herkomst van deze technologie elk tekst, en ik vrees dat de erosie van vertrouwen een buitensporige impact zal hebben op schrijvers met een meer gemarginaliseerde achtergrond. Vara sprak met voormalig Caine-winnaar Tope Folarin, die zei: “Er zijn veel schrijvers uit het mondiale Zuiden die deze extreme druk voelen om aan de verwachtingen te voldoen, zodat hun werk leesbaar is voor het Westen, en het is duidelijk dat chatbots daar op zijn ingegaan.”
Al deze twijfel is een opening voor slechte acteurs, zoals de Franse racisten die achter Thélyson Orélien aan komen, om hun eigen schadelijke verhalen door te drukken. Maar het tegendeel is ook waar. AI-evangelisten kunnen zwaaien naar AI-verhalen die prijzen winnen als bewijs dat geëxtrudeerde tekst net zo goed is als alles wat een mens kan doen. Het is een dynamiek waar Vara mee worstelt. Ze heeft in het verleden met AI gewerkt en door AI gegenereerde teksten gepubliceerd, waaronder een viral Gelovige essay genaamd “Ghosts”, waarin ze ChatGPT gebruikte om artikelen over haar overleden zus te genereren, een onderwerp waar ze moeite mee had om over te schrijven.
Ik vind dit geen overtuigend gebruik van generatieve software; essays zoals die van Vara zullen AI-tekst legitimeren en een toestemmingsstructuur creëren voor schrijvers die minder bedachtzaam of getalenteerd zijn dan zij. En het gebeurt al: terwijl Vara zelf nadacht over “Ghosts” en de nasleep ervan in a Bedraad stuk getiteld “Bekentenissen van een virale AI-schrijver”:
Ik vond dat ik trots moest zijn, en tot op zekere hoogte was dat ook zo. Maar ik was bang dat ‘Ghosts’ zou worden geïnterpreteerd als mijn aandeel in de grond, en dat mensen het zouden gebruiken om te pleiten voor door AI geproduceerde literatuur. En al snel gebeurde dat. Eén schrijver citeerde het in een scherpe versie met de kop: ‘In plaats van AI te vrezen, moeten schrijvers ermee leren samenwerken.’ Leraren gaven dit tijdens schrijflessen en moedigden leerlingen vervolgens aan om hun eigen AI-samenwerkingen te produceren. Ik werd gecontacteerd door een filmmaker en een durfkapitalist die wilde weten hoe kunstenaars AI zouden kunnen gebruiken.
Het essay is de moeite waard om te lezen, omdat ze interessante dingen te zeggen heeft over zowel haar eigen ervaringen als over grotere trends in AI en literatuur. Vara is een goede schrijver en haar nieuwsgierigheid naar deze technologie is bewonderenswaardig ruimdenkend, maar voor mij voelt het naïef. AI-centristen die op zoek zijn naar een middenweg zijn niet eerlijk over hoe extreem en uit de hand gelopen de pro-AI-menigte zich gedraagt.
Ik heb steeds minder interesse in het vinden van een middenweg met deze technologie. AI-maximalisten zijn saai en vreemd. Zoek niet verder dan de ‘ouderschap wordt anders als je bij AI werkt’ die zich een weg heeft gehackt om tijd met zijn eigen kind door te brengen. Wat voor nut heeft het om te trianguleren met mensen die zo volledig de weg kwijt zijn?
Zelfs als je iets interessants zou kunnen vinden in deze technologie en het gebruik ervan, is de lelijke complicatie dat te veel AI-boosters ook rijk en krachtig zijn, en niet geïnteresseerd in compromissen. De technologiegiganten vragen niet om toestemming of input, dus elk gebruik van AI is geen keuze maar capitulatie.
Hoezeer ik Vara’s intellectuele nieuwsgierigheid ook bewonder, ik denk dat de enige verantwoordelijke reactie op een industrie die zo onnadenkend vooruit stormt, is dat zoveel mogelijk handen aan de rem trekken.