Grammarly heeft een controversiële softwarefunctie snel teruggedraaid na heftige reacties. De kortstondige functie heette ‘Expert Review’ en bood door AI gegenereerde schrijfadviezen, geleverd via sokpopversies van levende en dode schrijvers, allemaal gemaakt zonder hun toestemming. De woede die door deze ‘experts’ werd veroorzaakt, dwong het bedrijf deze week terug te trekken.
Grammatica was vroeger een soort alomtegenwoordige spellingcontrole die je in je webbrowser volgde, maar er is de laatste tijd veel meer geïnvesteerd in het toevoegen van talloze AI-producten om het schrijven te bemiddelen. Zoals Miles Klee schreef BedraadNieuwe functies zijn onder meer een ‘chatbot die specifieke vragen beantwoordt terwijl je een concept opstelt, een ‘parafraser’-functie die veranderingen in stijl suggereert, een ‘humanizer’ die herziet op basis van een geselecteerde stem, een AI-grader die voorspelt hoe je document zou scoren als college-cursussen, en zelfs tools voor het markeren en aanpassen van zinnen die gewoonlijk door grote taalmodellen worden geproduceerd.
Het komt neer op een compleet overweldigende vloot van opdringerige robots, alsof een stel Microsoft Clippy’s de krachten van Keanu Reeves kregen om de Matrix te manipuleren, en ze vervolgens gebruikten om je Google-documenten in te voeren en al je bijwoorden te verwijderen.
“Expert Reviews” waren de meest specifieke van deze tools, ingelijst als op maat gemaakte schrijfcoaches. Jen Dakin, communicatie bij Grammarly’s moederbedrijf Superhuman, beschreef de ‘Experts’ als een proces waarbij hun software uw schrijven scant ‘en onze onderliggende LLM gebruikt om deskundige inhoud naar boven te halen die de auteur van het document kan helpen zijn werk vorm te geven.’ Deze software claimt gemakshalve niet “de goedkeuring of directe deelname van die experts”, zei ze, maar “het biedt suggesties die zijn geïnspireerd door het werk van experts en verwijst gebruikers naar invloedrijke stemmen wier wetenschappelijke kennis ze vervolgens dieper kunnen onderzoeken.” Ik begrijp niet dat Grammarly schrijvers probeert zover te krijgen dat ze wegklikken van hun platform om verbinding te maken met ander schrijven, maar oké.
Grammatica heeft nooit toestemming gekregen van de mensen die ze uitkozen om aan hun marionettensnaren te hangen. Onder hun deskundige avatars bevonden zich levende en dode schrijvers als Stephen King, Neil deGrasse Tyson en Carl Sagan, maar hun schraapsel was ongelooflijk breed en omvatte meer dan alleen de grote namen. The Verge meldde dat een aantal redacteuren van hun masthead zonder toestemming verschenen, en nog deprimerender was dat Vanessa Heggie, een professor aan de Universiteit van Birmingham, op Linkedin plaatste over hoe ook collega-academicus David Abulafia erbij betrokken was. Wat Heggie ‘obsceen’ vond, was dat Abulafia in januari stierf, wat Grammarly er niet van weerhield zijn werk, naam en reputatie te gebruiken bij ‘het creëren van kleine LLM’s’.
AI-bedrijven werken steeds vaker volgens een model van niet-toestemming. Hun veronderstelling is dat alles wat bestaat kan worden versnipperd en in hun software kan worden ingevoerd, wat de verantwoordelijkheid bij de rest van ons legt om als onbetaalde toezichthouders op te treden.
En er is iets aanstootgevends smakeloos dat dit allemaal alleen maar ten dienste staat van het verkrijgen van huur. Er wordt hier niets gecreëerd. Ik was een kind toen het coolste wat iemand kon zijn het dragen van American Apparel op het podium naast de laptop van Girl Talk was, dus ik krijg de aantrekkingskracht van remixen. Maar een particulier bedrijf dat VC-cheques van meer dan 100 miljoen dollar binnenhaalt en deze gebruikt om het werk en de gelijkenissen van openbare schrijvers en academici te plunderen, is geen coole postmoderne pastiche – het is afzetterij.
