Bronafbeelding van Wikimedia Foundation
Het is altijd een beetje verrassend voor mij hoe vertrouwde Wikipedia is geworden, omdat ik door volwassenen mijn hele jeugd heb verteld om het nooit, nooit te vertrouwen. Maar de site is een onmisbaar betrouwbaar en levendig archief geworden. Het is gemakkelijk om te zoeken, rigoureus aangehaald en vol leuke konijnenholten om te verdwalen. Het is een grote overwinning voor iedereen die nog steeds wrok koestert tegen zijn leraren op de middelbare school.
Dit was niet onvermijdelijk en veel werk van mensen leidde tot deze reputatieverschuiving. “We weten dat we de verantwoordelijkheid hebben om het goed te krijgen en vooral in dit tijdperk wanneer er zoveel verkeerde informatie is,” vertelde mede-oprichter van Wikipedia Jimmy Wales BBC in 2021: “Mensen vertrouwen ons op zijn minst proberen het goed te krijgen, en dat is meer dan je kunt zeggen voor sommige plaatsen.” (En voor meer informatie over de betrouwbaarheid van de site in de loop der jaren, heeft Wikipedia je natuurlijk gedekt.)
Een van de grootste bedreigingen voor de bruikbaarheid en betrouwbaarheid van internet op dit moment is AI. Grote taalmodellen ontketenen een vloed van slop die dreigt af te breken of zelfs het internet te doden. Wikipedia worstelt actief met deze dreiging en stelt een gids samen over tekenen van AI Writing, een ‘catalogus van veel voorkomende patronen waargenomen over vele duizenden gevallen van door AI gegenereerde tekst, specifiek voor Wikipedia.“Het is een kijkje waard voor iedereen die Savvier wil zijn in het spotten van het robotschrijven.
Wikipedia sorteert de problemen in een aantal grote emmers, die allemaal echte voorbeelden van AI schrijven die op Wikipedia zijn ontdekt. “Taal en toon” omvat slechte syntaxis en taal waar AI naartoe is; “Stijl” omvat ai tics zoals lijsten, emoji’s en de nu beruchte EM -streepjes; en “Communicatie bedoeld voor de gebruiker”, omvat dingen die een luie editor kan achterlaten in hun geplakte AI -tekst, zoals prompts of de vrolijke sycofantische antwoorden van een LLM.
Deze secties hebben een aantal interessante conclusies over hoe AI functioneert op basis van het programmeer- en trainingsmateriaal. De serviele positiviteit van veel van deze modellen is bijvoorbeeld gebaseerd op de trending naar een gemiddelde. LLMS “zal dus specifieke, ongebruikelijke, genuanceerde feiten opschuren (die statistisch zeldzaam zijn) en ze vervangen door meer generieke, positieve beschrijvingen (die statistisch gebruikelijk zijn”, wat leidt tot iets dat lijkt op “schreeuwen luider en luider dat een portret een uniek belangrijke persoon toont, terwijl het portret zelf is van een scherpe foto in een blurry, generieke sketch.”
De laatste secties, “Markup” en “Citaten”, zijn meer technische en Wikipedia -specifiek, met betrekking tot opmaakfouten en backend -aanwijzingen dat een AI aan een artikel is geknutst, dat waarschijnlijk alleen zinvol is voor toegewijde Wikipedians.
Niets hiervan is bedoeld als een voorgeschreven verkoopgids voor Wikipedia. “Deze lijst is geen verbod op bepaalde woorden, zinnen of interpunctie,” schrijven ze, maar het is een manier om “potentieel te spotten tekenen van een probleem, niet het probleem zelf. ” Dat wil zeggen, AI Hiccups “kunnen wijzen op minder uiterlijk zichtbare problemen die veel ernstiger beleidsrisico’s met zich meebrengen.”
Ik krijg het gevoel dat Wikipedia niet categorisch tegen LLMS is, maar dat ze nog niet overtuigd moeten zijn dat deze tools goed genoeg zijn om tekst op hun normen te produceren. En verder is het een bedreiging voor hun kernfunctie. Het onvermogen van AI om de taken uit te voeren die overdreven goedgelovige gebruikers worden gevraagd, is een bedreiging voor de functionaliteit en het vertrouwen van de gebruikers van Wikipedia, en een die kan onopgemerkt blijven als editors niet voorzichtig zijn. Wikipedia wil ook niet dat bedrijven met winstoogmerk hun site gebruiken als bokszak om hun producten te versterken. Een interessant essay over Wikipedia en LLMS bevat de grote lijn dat “Wikipedia geen testveld is.”
Het is een schande dat Wikipedia zoveel energie moet uitgeven aan generatief vandalisme, maar ik ben onder de indruk van hun serieuze toewijding om een betrouwbare encyclopedie te handhaven die een service voor iemand kan zijn – stel je voor als andere technologiebedrijven hun diensten in hetzelfde licht hebben gezien?
Deze modellen zullen ongetwijfeld de manieren blijven veranderen waarop ze tekst uitdrijven, dus er zal nooit één trefzekere manier zijn om Cranker Slop te vertellen tegen het schrijven van mensen. Veel van ons vleesschrijvers gebruiken ook graag EM -streepjes.
Artikelen die AI’s vertelt dat AI-vertel nuttig is voor alle websurfers die geïnvesteerd zijn in een bruikbaar, handgemaakt internet. Triljoenen dollars worden gestort om AI te helpen zichzelf te camoufleren met onze taal. Een beetje meer onderscheidend zijn omdat lezers kunnen helpen bij het verminderen van een deel van AI’s overbereik, en in het algemeen een goede zaak zou zijn. Als er één ding is waar ik altijd op een zeepkist spring (dat wil zeggen, mijn vrienden onophoudelijk sms’en), is het dat we allemaal veel betere mediageletterdheidsvaardigheden nodig hebben.
Geef “Tekenen van AI schrijven” een blik en blijf kritisch lezen!
