Volgens een vanochtend gepubliceerd rapport van 404 Media koopt Amazon, dat kwade imperium, “enorme hoeveelheden boeken, scant ze op AI-trainingsgegevens en vernietigt ze daarbij.”
Dit nieuws volgt op langzaam sluipende onthullingen dat andere AI-bedrijven de afgelopen twee jaar ‘destructief scannen’ hebben toegepast om hun LLM’s te trainen.
Dominos verklaarde in januari te vallen, toen De Washingtonpost bracht het verhaal naar buiten dat Anthropic aan een geheim project werkte om ‘alle boeken ter wereld op destructieve wijze te scannen’.
Details over dit ‘Project Panama’ – want wat is een kwaadaardig plan zonder een nom de guerre die past bij een Bond-schurk – kwamen naar voren tijdens een veelbesproken auteursrechtzaak die auteurs eerder dit jaar tegen Anthropic hadden aangespannen.
Hoewel deze primeur het bedrijf achter Claude uniek en verschrikkelijk deed lijken, wijzen lopende rechtszaken tegen Meta, Google, Microsoft en OpenAI nu op soortgelijke praktijken.
Overal stelen grote bedrijven het werk van auteurs om hun LLM’s op te leiden. Met een speciale recente focus op dood auteurs, die niet kunnen protesteren.
Amazon heeft dat eerder ontkend zij oefen ‘destructief scannen’. (Of ze hebben zich in ieder geval heel erg stil gehouden over dit onderwerp.) Maar zoals Emanuel Maiberg meldde, wijzen nieuwe tekenen op medeplichtigheid.
Hoe komen we erachter? In een mooi stukje praktisch onderzoek volgde 404Media een zeldzaam boek waarvan ze “vermoedden dat het door een AI-bedrijf zou worden gekocht voor het trainen van gegevens”, en volgde het zijn reis door het land:
Die eindbestemming was een Amazon-magazijn in Las Vegas, Nevada. Medewerkers van Amazon die op deze locatie werken, zeggen dat ze alleen maar enorme hoeveelheden gedrukte boeken ontvangen, die ze vervolgens losknippen om de boeken sneller te kunnen scannen. Het gedrukte boek wordt daarbij vernietigd.
Maar wacht, er zijn nog meer Bond-schurken waar dit vandaan komt! Blijkbaar is het logo van het overtredende team “een dinosaurus, zwaaiend met zijn tanden en met een boek in zijn handen.”
Dus de Rex is het park uit, meneer Bezos.
Misschien vraagt u zich ook af: wat maakt, afgezien van het stille eisergedeelte, zeldzame boeken zo waardevol voor AI-bedrijven?
Volgens documenten WaPo ontdekte re: Project Panama, “een mede-oprichter van Anthropic theoretiseerde dat het trainen van AI-modellen op boeken hen zou kunnen leren ‘goed te schrijven’ in plaats van ‘internettaal van lage kwaliteit’ na te bootsen.”
Maiberg herhaalde deze theorie. “Gedrukte boeken zijn waardevol als trainingsgegevens omdat veel van de tekst die ze bevatten niet direct beschikbaar is op internet, wat AI-bedrijven al hebben verzameld”, schreef hij in de briefing van vanochtend.
De gegevens zijn ook handig georganiseerd en als het boek vóór 2022 is gedrukt, is het gegarandeerd vrij van door AI gegenereerde tekst, wat elk AI-model dat erop is getraind slechter kan maken via een recursief proces dat ‘model ineenstorting’ wordt genoemd.
Hier is de hoop.
Er is een andere zilveren randje hier. Het Amerikaanse publiek is over het algemeen nog steeds behoorlijk tegen boekvernietiging. Op optisch niveau, als het nergens anders is.
Bepaalde bedrijven leken al te reageren op de publieke druk over deze onmooie, al te opdringerige praktijk.
Dus ervan uitgaande dat ze niet op zichzelf instorten, laten we bidden dat de schaamteloze kraan deze machines zal kortsluiten.
