Elon Musk en duizend experts roepen op tot een pauze in de ontwikkeling van AI om de mensheid te beschermen
Terwijl de ChatGPT-chatbot blijft evolueren en er veel over wordt gesproken, uiten honderden experts op het gebied van kunstmatige intelligentie hun bezorgdheid in een open brief en vragen om een pauze van zes maanden in het onderzoek naar krachtigere tools dan ChatGPT4. Ze stellen dat sommige AI-systemen potentieel een ernstige bedreiging vormen voor de samenleving en de mensheid, vooral vanwege de onvoorspelbaarheid van deze tools, zelfs voor hun makers, en de risico's voor werknemers.
In de afgelopen jaren heeft kunstmatige intelligentie zich in een razendsnel en verontrustend tempo ontwikkeld en komt het gevaarlijk dicht in de buurt van de risico's die worden benadrukt in sciencefictionwerken. Elon Musk, mede-oprichter en voormalig bestuurslid van OpenAI, het bedrijf dat later ChatGPT oprichtte, waarschuwde op 3 december voor de risico's van het prototype. In een bericht op Twitter meldt deschreef de miljardair :
"ChatGPT is angstaanjagend. We zijn niet ver verwijderd van gevaarlijk krachtige AI."
Minder krachtig dan zijn opvolger die kort daarna, op 14 maart, verscheen. Op die dag lanceerde OpenAI zijn nieuwste versie van de agent, ChatGPT4, die volgens het bedrijf meer precisie heeft en beelden kan interpreteren. Het bedrijf stelde het voor door te bevestigen dat de agent "creatiever is en meer samenwerkt dan ooit. Hij kan creatieve en technische schrijftaken genereren, bewerken en herhalen met gebruikers, zoals songwriting, scenarioschrijven of het leren van de schrijfstijl van de gebruiker."
Tijdens de World Government Summit in Dubai afgelopen februari Musk had gebeld om "regels of voorschriften te ontwikkelen om de ontwikkeling van AI te beheersen", een analogie makend met transport of medische beveiliging.
dans de brief van 28 maart open voor ondertekening en gepubliceerd op de website van het Future of Life Institute, de oprichter van Tesla en SpaceX, is een van de honderden stemmen die oproepen tot een pauze in AI-onderzoek. De mediakeuze is niet onbelangrijk, Musk is een van de adviseurs van het instituut die er een beroep van maakt de existentiële risico's die AI voor de mensheid vormt aan de kaak te stellen en vraagt om "transformatieve technologie te leiden ten behoeve van het leven en weg van extreem grootschalige risico's". .
Als veel van de ondertekenaars van de brief een belangenconflict hebben in hun kritiek op ChatGPT, in het bijzonder werkend in concurrerende bedrijven van OpenAI en Microsoft wiens voorsprong monsterlijk is, is hun kritiek niettemin legitiem en zorgwekkend.
Ondertekenaars zeggen dat ze geloven dat "de mensheid een bloeiende toekomst kan genieten door middel van AI" en spreken van "genieten van een AI-zomer" met systemen die zijn ontworpen "voor het grootste voordeel van iedereen" en willen de "maatschappij" een kans geven om zich aan te passen". alleen mogelijk op voorwaarde dat wordt gehandeld alsof "de samenleving andere technologieën heeft stopgezet met potentieel catastrofale gevolgen ervoor".
Ter afsluiting van de metafoor dringen ze aan op een pauze op basis van het voorzorgsprincipe:
"Laten we genieten van een lange AI-zomer en ons niet onvoorbereid de herfst in haasten."
Een risico voor de mensheid: het ontbreken van controle en reflectie
Deze daling zou kunnen worden bespoedigd door het feit dat er momenteel geen mogelijkheid is om AI-ontwikkelingen volledig te beheersen. De auteurs van de brief stellen dat AI-systemen die met mensen concurreren waarschijnlijk een ernstige bedreiging vormen voor de samenleving en de mensheid. Als bewijs hiervan wijzen ze op het uitputtende onderzoek "erkend door de belangrijkste AI-laboratoria".
Gezien de principes ontwikkeld in 2017 op de Asilomar-conferentie over kunstmatige intelligentiee (gecoördineerd door het Future of Life Institute), zeggen ze, "geavanceerde AI zou een ingrijpende verandering in de geschiedenis van het leven op aarde kunnen betekenen, en moet met de nodige zorg en middelen worden gepland en beheerd."
Ondanks deze principes "bestaat dit niveau van planning en beheer niet". Ze wijzen erop dat laboratoria zich de afgelopen maanden hebben opgesloten "in een ongecontroleerde race om steeds krachtigere digitale geesten te ontwikkelen en in te zetten die niemand - zelfs hun makers niet - op betrouwbare wijze kan begrijpen, voorspellen of controleren."
Dergelijke risico's worden genoemd in sciencefictionwerken die vaak de verdienste hebben dat ze ethische vragen oproepen, met name over de relatie tussen technologie en politieke macht, maar ook door denkers als Jacques Ellul of Georges Bernanos. De eerste, een historicus, socioloog en protestantse theoloog, was opgetogen over de bijdragen van technologie die het bijvoorbeeld mogelijk maakt om te reizen en "beelden van over de hele wereld te ontvangen":
"Dus je hebt een vrij universum voor je."
Maar de auteur van de boeken "The Technician System" of "The technology bluf", schatte dat de auto bijvoorbeeld drie miljoen Parijzenaars ertoe aanzette om elk jaar op vakantie te gaan naar de oevers van de Middellandse Zee, als een massa zonder na te denken over zijn beweging:
"Het is erg moeilijk in een [technische] samenleving als de onze voor een man om verantwoordelijk te zijn."
Ellul noemt de rechtvaardigingen die de directeur van het nazi-kamp van Bergen-Belsen gaf tijdens de processen van Neurenberg, volgens welke hij geen tijd had om na te denken over de mensen die stierven, omdat hij in beslag werd genomen door de technische zorgen van de ovens. Door steeds efficiëntere technologische hulpmiddelen wordt de mens, ondanks hun voordelen, zelf het instrument van wat middelen hadden moeten zijn.
De katholieke schrijver Georges Bernanos waarschuwt niet minder in zijn voorgevoel "Frankrijk tegen robots", gepubliceerd in 1947, waarin wordt verklaard dat het grootste gevaar de afwezigheid van reflectie op de techniek is, met name met deze woorden die relatief beroemd zijn geworden:
"Het gevaar zit niet in de vermenigvuldiging van machines, maar in het steeds groter wordende aantal mannen dat van kinds af aan gewend is alleen te verlangen naar wat machines kunnen geven."
Waarschuwt ruim van tevoren voor het verschijnen van AI, en voor een dergelijke kracht die de mens naar de achtergrond reduceert, zelfs tot de rang van nutteloos.
Een risico voor informatie en de arbeidsmarkt
Bernanos verzette zich tegen "de beschaving van machines [die] die van kwantiteit is" tegen "die van kwaliteit".
Een bezorgdheid geuit door de ondertekenaars van de brief die constateren dat “hedendaagse AI-systemen tegenwoordig op menselijk niveau concurrerend worden voor algemene taken”. Ze stellen de fundamentele vraag voor de toekomst van de democratische samenleving:
"Moeten we machines onze informatiekanalen laten overspoelen met propaganda en leugens? Moeten we alle banen automatiseren, ook de meest bevredigende?"
Dit is een waarschuwingssignaal dat, op een zeer actuele manier, lijkt op wat Paulus VI al aan de kaak stelde zijn encycliek Populorum progressio uit 1967, eraan herinnerend dat technologie ten dienste van de mens moet staan.
In punt 20 van de encycliek benadrukte de paus dat "als het streven naar ontwikkeling steeds meer technici vereist, het nog meer wijze mannen van diepe reflectie vereist, op zoek naar een nieuw humanisme, dat de moderne mens in staat zal stellen zichzelf te vinden, ervan uitgaande dat de hogere waarden van liefde, vriendschap, gebed en contemplatie."
Een zorg die, gezien de moeilijkheid die ontwerpers hebben om hun krachtigste AI-tools perfect onder de knie te krijgen, een bijzondere betekenis krijgt. Technici zijn talrijk, maar morele reflectie is te veel vergeten, wat leidt tot een voortzetting van slecht ingekaderde ontwikkeling.
Een van de gevolgen is dat AI de mens bedreigt terwijl het "programma gemaakt om de productie te verhogen", zegt Paulus VI in punt 20 van zijn brief, er zou moeten zijn om "de mens te bevrijden van zijn dienstbaarheid [op het plan du travail], waardoor hij in staat wordt gesteld om zelf de agent die verantwoordelijk is voor zijn materiële welzijn, voor zijn morele vooruitgang”.
De encycliek waarschuwde met deze woorden voor de technicisering die de samenleving zou moeten verrijken:
"Om te zeggen: ontwikkeling is in feite evenzeer bezig zijn met sociale vooruitgang als met economische groei. Het is niet genoeg om de gemeenschappelijke rijkdom te vergroten om het rechtvaardig te verdelen. Het is niet genoeg om technologie te promoten, want de aarde is menselijker bewonen."
De stelling wordt bevestigd door de recente studie van Goldman Sachs, gepubliceerd op 26 maart, waaruit blijkt dat Wereldwijd kunnen 300 miljoen banen verloren gaan door het gebruik van AI, ofwel 18% van de massa.
Zorgen gedeeld door de auteurs van de brief die groeten Open AI's verklaring van 24 februari dat "Op een gegeven moment kan een onafhankelijke beoordeling nodig zijn voordat we beginnen met het trainen van toekomstige systemen." Hun conclusie trekkend uit deze verklaring, horen ze dat het slechts een vage belofte blijft en schrijven:
"Daarom vragen we alle AI-labs om de training van AI-systemen die krachtiger zijn dan GPT-4 onmiddellijk gedurende ten minste zes maanden te onderbreken. Deze pauze moet openbaar en verifieerbaar zijn en alle belangrijke spelers omvatten. Als een dergelijke pauze niet kan snel van kracht kunnen worden, moeten regeringen ingrijpen en een moratorium instellen."
Jean Sarpedon
