In een ontroerende boodschap Dit weekend sprak paus Leo XIV zich uit tegen de opkomende golf van AI en drong er bij zijn volgelingen op aan zich opnieuw in te zetten voor een radicaal humanisme.
De boodschap – overgebracht in de vorm van een encycliek, een periodieke brief voor pausen – roept op tot ‘het beschermen van de menselijke persoon in de tijd van kunstmatige intelligentie’. De brief is opgesplitst in vijf heldere hoofdstukken en pleit tegen een robotachtige toekomst, en voor een sociaal rechtvaardige toekomst.
Hoewel ik een van de meer gevallen heidenen ben die je tegenkomt, voelt dit document radicaal aan – in meer dan één opzicht. Ten eerste is er de onverschrokken politieke moed. In tegenstelling tot veel eerdere pausen is deze Stoel niet bang om zich uit te spreken over de scheve bevoegdheden die aan de miljardairsklasse zijn toegekend, of aan een ondemocratische staat.
Neem dit smakelijke fragment:
In het verleden was het grotendeels aan de staat om innovatie te begeleiden en te sturen. Tegenwoordig zijn de belangrijkste drijvende krachten achter de ontwikkeling echter particuliere, vaak transnationale partijen die beschikken over middelen en de capaciteit om in te grijpen die die van veel regeringen overtreffen. Technologische macht krijgt dus een ongekend, overwegend ‘privaat’ aspect, wat het nog uitdagender maakt om dergelijke macht te onderscheiden, te besturen en op het algemeen welzijn te richten.
Leo roept verder op tot een holistische beschouwing van AI, waarbij hij opmerkt dat de uitdagingen die de technologie met zich meebrengt niet “puur technisch zijn… wanneer (AI) processen binnendringt die de levens van mensen beïnvloeden, raakt het aan rechten, kansen, status en vrijheid. Belangrijke en gevoelige beslissingen – met betrekking tot werkgelegenheid, krediet, toegang tot openbare diensten of zelfs de reputatie van een persoon – lopen het risico volledig te worden gedelegeerd aan geautomatiseerde systemen die geen ‘medelijden, genade, vergeving kennen, en… kunnen daarom aanleiding geven tot nieuwe vormen van uitsluiting.'” Hij is vastberaden over de kop: “We kunnen AI niet als moreel neutraal beschouwen.”
Terwijl hij AI vergelijkt met de toren van Babel, analyseert de paus van het volk onze huidige sociale omstandigheden in taal die u eerder op een Benjamin-seminarie zou aantreffen.
Hij raakt aan de sociale voorwaarden voor hoop, en de principes van solidariteit en sociale rechtvaardigheid. Door deze dingen uitdrukkelijk te koppelen aan de sociale leer van de kerk, dringt hij er ten slotte bij zijn toehoorders op aan om “afgoderij van winst die de zwakken opoffert” te vermijden.
De online-linksen zijn aan het snauwen. Ondertussen zou de Concave van mijn oma dat wel doen nooit.
Maar misschien wel mijn favoriete bloei? De paus van het volk heeft een zekere (aantoonbaar) seculiere invloed ingeroepen om zijn emotionele standpunt kracht bij te zetten. Concreet een citaat van Gandalf uit JRR Tolkien’s Terugkeer van de koning.
De twintigste-eeuwse katholieke auteur JRR Tolkien omschreef onze verantwoordelijkheid als volgt in de woorden van een hoofdpersoon in een van zijn romans: ‘Het is niet onze taak om alle getijden van de wereld te beheersen, maar om te doen wat in ons ligt ter ondersteuning van de jaren waarin we ons bevinden, en het kwaad uit te roeien in de velden die we kennen, zodat degenen die daarna leven een schone aarde kunnen hebben om te bewerken.’
IYKYK natuurlijk, maar Gandalf laat deze wijsheid vallen midden in een voorlaatste confrontatie, waarin alles er somber uitziet voor de mensenwereld. Dat maakt dit tientallen jaren oude literaire citaat tot een vreselijk toepasselijk citaat voor deze tijd.
Om twee wijze mannen in mantels te parafraseren: het enige dat we hoeven te beslissen, is wat we gaan doen met de tijd die ons wordt gegeven. En weet je: weg met de gedachteloze industrie.
