De toekomst van AI: een dialoog tussen het Vaticaan en de wetenschappelijke wereld over de ontwikkelingen en toepassingen van intelligente technologieën

Ik heet u allen van harte welkom en dank u voor uw aanwezigheid vanochtend. U komt uit vele landen en brengt een breed scala aan vragen en perspectieven met u mee. Tegelijkertijd geloof ik dat u een zeker gevoel van onbehagen deelt met betrekking tot de ontwikkeling van kunstmatige intelligentie. We erkennen de richting die we moeten inslaan, maar er wordt nog niet genoeg gedaan om vooruitgang te boeken. Ik ben jullie dankbaar dat jullie je zorgen delen, evenals jullie ideeën en voorstellen voor de toekomst. Dit zijn de eerste vruchten van een transdisciplinaire aanpak, die steeds noodzakelijker wordt als we de complexiteit van de grote uitdagingen van onze tijd het hoofd willen bieden.

De Pauselijke Academie voor het Leven, die deze bijeenkomst heeft georganiseerd, is zich terdege bewust van de uitdagingen die zich voordoen wanneer de menselijke waardigheid wordt bedreigd. In dit verband omschreef paus Franciscus, in zijn toespraak tot de leiders van de G7, kunstmatige intelligentie als „tegelijkertijd een opwindend en angstaanjagend instrument“, en bevestigde hij dat aan geen enkele machine ooit de beslissing mag worden toevertrouwd om een mensenleven te beëindigen (cf. Toespraak tijdens de G7-bijeenkomst over kunstmatige intelligentie, 14 juni 2024). Die woorden zijn nog even actueel als altijd. In de encycliek ‘Magnifica Humanitas (Voorlopige werkvertaling in opbouw)[9800]’ heb ik getracht deze vraagstukken diepgaander te behandelen. Vandaag wil ik in het bijzonder vijf overwegingen naar voren brengen.

Ten eerste ligt de toekomst van kunstmatige intelligentie niet vast. Als een door mensen ontwikkelde technologie hangt de toekomst ervan af van de keuzes die wij maken. Wij hebben daarom de verantwoordelijkheid om de toepassingen ervan te sturen, te veranderen en, indien nodig, af te wijzen. vgl: Magnifica Humanitas[[[9800|97]]] De doorslaggevende vraag is dan ook niet simpelweg „Wat kan AI doen?“, maar veeleer „Welk doel moet het dienen?“ Degenen die de ontwikkeling ervan louter beschouwen als een race die gewonnen moet worden, lopen het risico zich uitsluitend op de finishlijn te richten en daarbij degenen te vergeten die achterblijven. Een betrouwbaar systeem dat de mens dient, is van grotere waarde dan een systeem dat weliswaar uitzonderlijk krachtig is, maar waarvan de gevolgen niet voldoende kunnen worden voorzien of beheerst.

Ten tweede zijn machines hulpmiddelen, geen personen. „Zogenaamde kunstmatige intelligenties beleven geen ervaringen, bezitten geen lichaam, voelen geen vreugde of pijn, rijpen niet door relaties en weten niet vanuit zichzelf wat liefde, werk, vriendschap of verantwoordelijkheid betekenen.“ Paus Leo XIV - Encyclieken - Magnifica Humanitas (Voorlopige werkvertaling in opbouw) - Over de bescherming van de mens in het tijdperk van kunstmatige intelligentie (15 mei 2026) : 99[[9800|99]] Tegenwoordig stellen sommigen voor om deze systemen rechten toe te kennen, of zelfs de status van rechtspersoon. Een dergelijke benadering dreigt de menselijke verantwoordelijkheid te verdoezelen en degenen die schade ondervinden, te confronteren met een anonieme entiteit.

Ten derde mogen bepaalde beslissingen nooit worden gedelegeerd. Wanneer een persoon op een doelwitlijst wordt geplaatst of in een grenscontroledatabase wordt opgenomen, bestaat het gevaar dat hij of zij wordt gereduceerd tot louter een gegevenspunt. Beslissingen die van invloed zijn op het menselijk leven, de vrijheid en het gebruik van geweld moeten altijd onderworpen blijven aan effectief, geïnformeerd en verantwoord menselijk toezicht. vgl: Paus Leo XIV - Encyclieken - Magnifica Humanitas (Voorlopige werkvertaling in opbouw) - Over de bescherming van de mens in het tijdperk van kunstmatige intelligentie (15 mei 2026) : 198[[[9800|198]]] Om deze reden moet kunstmatige intelligentie worden „ontwapend“ Paus Leo XIV - Encyclieken - Magnifica Humanitas (Voorlopige werkvertaling in opbouw) - Over de bescherming van de mens in het tijdperk van kunstmatige intelligentie (15 mei 2026) : 110[[9800|110]], en ik moedig de staten die in november in Genève bijeenkomen aan om concrete stappen te zetten in de richting van een verbod op dodelijke autonome wapens.

Ten vierde moeten intelligente technologieën gericht zijn op het algemeen welzijn. „Gerechtigheid vereist toegang tot de voordelen van innovatie, waaronder zorg, kennis, hulpmiddelen en kansen.“ Paus Leo XIV - Encyclieken - Magnifica Humanitas (Voorlopige werkvertaling in opbouw) - Over de bescherming van de mens in het tijdperk van kunstmatige intelligentie (15 mei 2026) : 161[[9800|161]] Zij mogen inderdaad nooit een doel op zich worden of louter de belangen van een bevoorrechte minderheid dienen. Hun ontwikkeling moet daarentegen solidariteit en participatie op verschillende niveaus van de wereldgemeenschap bevorderen, waarbij ervoor wordt gezorgd dat de voordelen van vooruitgang rechtvaardig worden verdeeld, met name onder degenen die dit het meest nodig hebben. vgl: Paus Leo XIV - Encyclieken - Magnifica Humanitas (Voorlopige werkvertaling in opbouw) - Over de bescherming van de mens in het tijdperk van kunstmatige intelligentie (15 mei 2026) : 71[[[9800|71]]]

Tot slot wil ik een uitdaging benadrukken, die wellicht de meest dringende is. We kennen al veel van de ethische principes die als leidraad moeten dienen voor de ontwikkeling van kunstmatige intelligentie. Wat we op dit moment nodig hebben, zijn instellingen die in staat zijn deze principes in de praktijk te brengen, met name effectieve internationale instellingen die het mondiale algemeen welzijn kunnen waarborgen (zie nr. 64). Dit vraagt om gezamenlijke normen, onafhankelijk toezicht en duidelijke mechanismen voor verantwoording, zodat beslissingen over de ontwikkeling en het gebruik van AI kunnen worden getoetst, indien nodig ter discussie gesteld, en vergezeld gaan van passende maatregelen ter vergoeding van eventuele schade. vgl: Magnifica Humanitas[[[9800|105]]]

Beste vrienden, met deze gedachten bedank ik u nogmaals voor uw waardevolle bijdragen op dit gebied en moedig ik u aan om door te gaan met uw inspanningen, samenwerkend in een geest van dialoog en gedeelde verantwoordelijkheid voor het algemeen welzijn. Ik begeleid u met mijn gebeden en schenk ieder van u van harte mijn zegen. Dank u wel.