AI: is het doel het middel geworden?
In hun werk,Kunstmatige intelligentie is geen technologische kwestie"(Éditions de l'Aube), Laurent Bibard, hoofd management en filosofie bij ESSEC, en Nicolas Sabouret, professor aan de Universiteit van Paris-Saclay, waar hij leiding geeft aan de graduate school van Computerwetenschappen en Digitale Wetenschappen, benadrukken dat "er geen probleem met kunstmatige intelligentie, er is alleen het probleem van onze verwachtingen van wat we zelf hebben gecreëerd". Demonstratie met een fragment dat we opnieuw posten op The Conversation France.
Ook al vinden we het moeilijk om het toe te geven, de tendens is nogal technisch onderlegd in onze samenleving. Ondanks bepaalde weerstand die tot uiting komt in de vraag naar “minder technologie” en “meer mensen”, is de algemene trend dat de samenleving steeds meer “getechnologiseerd” wordt, zonder noodzakelijkerwijs collectief na te denken over de redenen daarvoor. En dat brengt ons bij dit soort situaties waarin we de machines heel vaak vernieuwen en waar we koste wat het kost dus in rekenen veel vervuiling veroorzaken. [...]
Het is noodzakelijk om in deze rekeninstrumenten, die erg duur zijn en die enerzijds de berekeningen vervuilen die gemaakt zijn met het collectieve doel van vooruitgang voor de samenleving – onderscheid te maken – of het nu door onderzoekers is of door bedrijven die proberen te werken voor het gemeenschappelijke belang. goed – aan de andere kant het individuele gebruik dat soms onder deze moderne slavernij valt.
Mode en verspreiding van foto's van kittens op sociale mediakanalen zijn vanuit ecologisch oogpunt erg kostbaar, omdat ze economische winst opleveren die uitsluitend gebaseerd is op advertentie-inkomsten. Integendeel, tijdens de Covid-19-pandemie maakten rekencentra het mogelijk om de verspreidingswijzen van de ziekte te simuleren en te begrijpen, om de evolutie van varianten te volgen, op een onmiskenbaar efficiënte manier.
In beide gevallen (reclame en onderzoek naar Covid-19) wordt dit allemaal mogelijk gemaakt door de algoritmen vanintelligentie artificielle (IA). Dit zijn dus ook deze algoritmen, waarvan we het gebruik bekritiseren op sociale netwerken, die ons in staat hebben gesteld om in twee jaar tijd uit de pandemie te komen, met een aantal slachtoffers dat ondanks alles beperkt blijft – tien keer minder bijvoorbeeld dan de Spaanse griep van begin van de XXe eeuw. Dankzij de technologie konden we een potentieel catastrofale situatie relatief goed onder controle houden. Dit gebeurde met dezelfde zeer vervuilende rekencentra […].
We moeten dus het verschil maken tussen de foto van een kitten die we op internet gaan zetten en technologieën beschikbaar gesteld in het collectieve belang van het algemeen belang, om de kwestie van de relatie tot technologieën direct op het niveau van de morele en politieke filosofie te problematiseren. Hieruit blijkt opnieuw dat de technologieën op zichzelf geen probleem vormen. Het is de relatie die we met hen hebben die een probleem vormt, met betrekking tot onze verwachtingen, met betrekking tot de conformatie van groepen, met betrekking tot mode, enzovoort.
Functionalisme
We kunnen, zoals we zojuist hebben gezien, de kwestie problematiseren op het niveau van de morele en politieke filosofie, maar we kunnen haar ook problematiseren op het niveau dat we kunnen kwalificeren als ‘epistemologisch’, dat wil zeggen dat het gaat om de soliditeit van onze kennis. Er is een zeer fundamentele reflectie over dit onderwerp door een weinig bekende filosoof genaamd Jacob Klein. Hij constateert dat vanaf de Renaissance de ontwikkeling van de wiskundige natuurkunde op basis van de algebra de wetenschappen ertoe aanzet streven onvermijdelijk naar hun eigen methoden. Hij schrijft zoiets als dit:
"De Ouden zouden de methode nooit als hun doel hebben genomen."
Hij bedoelt hiermee dat de uitwerking van de moderne wetenschappen als onderliggende steun heeft het idee dat de methode een doel is. Het idee dat de werkwijze in zekere zin het doel van onderzoek is. En als er enige waarheid schuilt in wat hij zegt, is het van essentieel belang dat we weten hoe we daaraan kunnen ontsnappen, zodat we onderzoek alleen kunnen gebruiken als middel om een ander doel te bereiken dan het onderzoek zelf, dat niet gemaakt is om zichzelf te dienen, maar om dienen het leven in de samenleving, het algemeen welzijn.
Dit vertaalt zich in ons concrete leven, in het sociale leven, via wat in de sociologie het functionaliteitisme wordt genoemd. Functionalisme is een manier van organisaties benaderen die op zeer overtuigende wijze onderkent dat een organisatie altijd het risico loopt zichzelf voor haar eigen doeleinden te gebruiken.
De grote machteloosheid
Er is een opmerkelijk voorbeeld hiervan in het allereerste begin van de film Vlucht over een koekoeksnest van Miloš Forman, met Jack Nicholson. De scène die Forman aan het begin van de film laat zien, is indicatief voor de moeilijkheid waarmee we hier te maken hebben. Het speelt zich af op een moment dat patiënten in een psychiatrisch ziekenhuis moeten rusten. En we zien dat het zorgpersoneel de patiënten op heel subtiele wijze irriteert, in plaats van ze te kalmeren. Zo zijn de verzorgers weer nuttig: we roepen zelfs de brancarddragers op om Nicholson in zijn dwangbuis te stoppen.
We lachen erom omdat het een film is, maar dat is helaas tragisch waar en gebeurt meer dan vaak in alle contexten: in plaats van het functioneren van de structuur te vergemakkelijken, zichzelf ten dienste te stellen van de gebruikers, handelen de acteurs op zo’n manier om nuttig te blijven, dat wil zeggen dat hun werking in haar relevantie wordt bevestigd. Met andere woorden: we houden het probleem in stand, omdat wij het antwoord erop zijn. En het kan zijn dat het probleem dat we bespreken zijn relevantie heeft verloren, of zelfs verouderd is, geen betekenis heeft, of zelfs nooit een betekenis heeft gehad...
Systeemvervormingen van deze orde vormen een reëel probleem in onze wereld. En technologieën vormen een steeds belangrijker radertje in het wiel. Ze worden een doel op zichzelf om de rekencapaciteiten van computers, AI, enz. te verbeteren, ongeacht het belang dat dit kan opleveren voor de mens, de samenleving en het algemeen welzijn.
We worden dus opnieuw geconfronteerd met een fundamenteel menselijk probleem. Een van de interessante manieren om dit uit te drukken is door te zeggen dat wanneer we onze toevlucht nemen tot systeemtheorieën, door niet toe te geven dat er een verantwoordelijkheid van individuen bestaat en daarom door te veronderstellen dat mensen en individuen in de systemen verdrinken, iedereen van zijn verantwoordelijkheid wordt ontheven. , door de facto het spel te spelen van een mensheid die verdronken is in de systemen, in welk systeem dan ook.
Theorieën die alleen de nadruk leggen op het systemische aspect van het functioneren dragen bij aan onze vervreemding, aan het feit dat we radertjes in machines worden. We worden het middel van de machines omdat we ons voorstellen dat we worden gedomineerd door de systemen.
Laurent Bibard, Professor of Management, houder van de Edgar Morin Chair in Complexity, ESSEC et Nicolaas Sabouret, computerleraar, Universiteit Parijs-Saclay
Dit artikel is opnieuw gepubliceerd vanaf The Conversation onder Creative Commons-licentie. Lees deorigineel artikel.
