Doemdenken over de technologische vooruitgang


Onlangs verscheen de recensie van Erick Overveen van Huis van de Muze. Die opent als volgt:

In de nieuwe briefroman ‘Huis van de Muze’ duiken schrijvers Sid Lukkassen en Joris Bouwmeester onverschrokken in de clash tussen Kunstmatige Intelligentie en de menselijke creativiteit. Hun provocerende werk is een oproep tot reflectie over de toekomst van onze authenticiteit, geschreven met de scherpte en urgentie waar onze huidige tijdgeest om schreeuwt.


Niettegenstaande enkele kleine oneffenheden – het is geen briefroman, dit zijn echte, authentieke brieven die wij heel ouderwets met hulp van de postbode bij elkaar hebben laten bezorgen – is dit een fijne recensie, met veel lovende woorden, en een goede analyse van waar het in de kern om te doen is. Erick heeft ons werk zorgvuldig gelezen – dat is duidelijk.

Zoals gebruikelijk is eindigt de recensie in de laatste alinea ook met een noot van kritiek, die als volgt gaat, en waar ik nu graag een aantal opmerkingen bij plaats:

Lukkassen en Bouwmeester focussen zich sterk op de negatieve aspecten van AI, waar door hun perspectief soms tot doemdenken vervalt. Ze hebben geen boodschap aan de aardse mogelijkheden van AI, zoals in de toepassing van geavanceerde beeldherkenningstechnologieën waarmee kanker in een vroeg stadium kan worden gedetecteerd, om maar een voorbeeld te noemen, of de wijze waarop AI het onderwijs zou kunnen transformeren door gepersonaliseerd leren te faciliteren. Niettemin is het boek een intellectuele uitnodiging om de complexe verwevenheid tussen artistieke innovatie en technologische ontwikkeling zelf te gaan onderzoeken.


Het is natuurlijk helemaal prima dat Overveen er zo over denkt, en ik voel ook geen noodzaak om dit recht te zetten, maar toch vind ik het leuk om er even kort op te reageren. Het is namelijk een belangrijk punt, dat zogenaamde doemdenken over technologie, het is iets waar je keer op keer tegenaan loopt wanneer de technologische vooruitgang ter sprake komt. Iedereen die niet onvoorwaardelijk lovend is over iedere nieuwe ontwikkeling, iedereen die niet helemaal vooraan staat of net iets te zacht schreeuwt bij het juichen, loopt het risico als een ‘doemdenker’ bestempeld te worden.

En het is natuurlijk ook een belangrijk thema in sciencefiction. De dystopische toekomst die wordt voorgesteld in films als RoboCop en Blade Runner die ik zo kan waarderen, is doordrongen van een keiharde kritiek op de richting waarin de technologie zich ontwikkelt.


Is het doemdenken?

Maar is het doemdenken om stil te staan bij de gevaren die in deze ontwikkelingen besloten liggen?

Ik denk dat het geen doemdenken is, maar een serieus nemen van de mogelijkheden die technologie ons te bieden heeft. Het serieus nemen van deze mogelijkheden, en het omarmen van de voordelen ervan, betekent ook nadenken over de keerzijde die daar vanzelfsprekend ook bij komt kijken – de problemen die als gevolg daarvan moeten ontstaan. Niets komt immers zonder prijs.

Waarom maken mensen zich zorgen over ChatGPT? Juist omdat het zoveel indrukwekkende dingen kan doen.

Juist in alle fantastische mogelijkheden van de technologie – de AI in het bijzonder – ligt het gevaar ervan besloten. Want hoe beter het is, hoe meer taken het van mensen over zal kunnen nemen – hoe minder er voor de mens over blijft om te doen. Hoe beter deze technologieën zijn, hoe meer ze ons te bieden hebben, hoe minder men de mens nodig zal achten.

Dat is waarom de indeling voor- en tegenstander met betrekking tot de technologische vooruitgang geen nuttige is. De claims van die zij die wijzen op de mogelijke voordelen van nieuwe toepassingen zijn precies even groot als die van hen die wijzen op de gevaren, want ze hangen met elkaar samen.  Beide kanten zijn het juist met elkaar eens dat we hier met een kracht te maken hebben die een enorme impact zal hebben. Zoals Heidegger het treffend stelt blijven we aan de techniek vastgeketend, of we haar nu hartstochtelijk omarmen of afwijzen. Of we het nu toejuichen of niet, we zitten er mee opgescheept.

De keerzijde van een technologie die menselijke taken uit handen neemt onder ogen zien is geen doemdenken, maar een serieus nemen van de grootsheid van de overweldigende kracht waar wij ons hier mee geconfronteerd vinden.


Juist in alle fantastische mogelijkheden van de technologie – de AI in het bijzonder – ligt het gevaar ervan besloten.


Het gevaar van AI

Het gevaar van AI is dus niet dat het iets ‘verkeerd’ doet, maar juist dat het wat het doet heel erg goed doet. Juist in de formidabele kracht van AI ligt het gevaar besloten. Het gevaar namelijk dat mensen zullen gaan handelen alsof de menselijke creativiteit niet meer nodig is, en vervangen kan worden door kunstmatige. Tegenover alle mooie dingen die de technologie voor ons doet, staan mensen die dat als gevolg daarvan niet meer doen.

Neem bijvoorbeeld het punt dat Overveen hier noemt, over de geavanceerde beeldherkenningstechnologieën waarmee kanker in een vroeg stadium kan worden gedetecteerd. Dat is natuurlijk ontzettend knap, en daar moeten we de waarde niet van onderschatten.

Tegelijkertijd echter, als deze mogelijkheid inderdaad ten volste benut zou worden, dan zou dat in de praktijk betekenen dat een deel van de verantwoordelijkheden die nu bij een arts liggen, bij een machine zou komen te liggen. Dan kan die arts weer andere dingen gaan doen, zou men dan vroeger zeggen.  Maar wij die de algoritmen van dichterbij hebben leren kennen, moeten ons afvragen: is dat eigenlijk wel een wenselijke situatie, dat die arts iets anders zou gaan doen?

Wat als er een artsentekort is, en we besluiten als maatschappij om in plaats van te investeren in meer en betere opleidingen, te investeren in AI? Zou onze maatschappij er daarmee op vooruit gaan? Geld dat voorheen in jongeren en hun toekomst geïnvesteerd werd, wordt nu aan ontwikkelaars van software gegeven? Dat zou onwenselijk zijn, lijkt mij, maar het zou het directe gevolg zijn van het gebruik maken van de mogelijkheden die zich hier aandienen, van het omarmen van de beloften die in deze nieuwe technieken besloten liggen.

Wat als het onderwerp betreft waarbij je niet zo gemakkelijk kunt zien of de machine een fout maakt?

Tussen fouten en leugens

Maar sta ook even stil bij de betekenis van een AI die de verantwoordelijkheden draagt die nu nog bij een arts liggen. Wat als de AI in zo’n geval een fout maakt? En wat als deze AI met zulke ingewikkelde zaken bezig is, dat geen mens die fout meer kan herkennen als fout? Dat niemand meer aan de bel kan trekken, simpelweg omdat niemand over het benodigde overzicht beschikt?

Denk hierbij aan het recente debacle van een Gemini die een donkere George Washington tekent. Dan wordt er gezegd – de machine heeft een bias. Maar de machine maakt eigenlijk gewoon een grove fout – zo zag George Washington er niet uit. Maar je kunt ook een stap verder gaan en zeggen: de machine liegt, en wel om politieke redenen.

Maar wat als de kwestie niet zo gemakkelijk is? Wat als het een onderwerp betreft waarbij je niet zo gemakkelijk kunt zien of de machine een fout maakt? Wat als de artsen andere dingen aan het doen zijn, omdat de AI hun taken hebben overgenomen?

Bovendien, als de AI al liegt over zulke kleine, controleerbare zaken als de uiterlijke kenmerken van George Washington, als ze zelfs op deze kleine schaal de feiten al verdraait ten dienste van politieke doeleinden – want dat is wat hier aan de hand lijkt te zijn – waarom zou ze dan niet over grote, belangrijke zaken liegen? Waarom zou ze dan niet nog veel gemakkelijker en extremer liegen over zaken die we niet zelf kunnen controleren? Zoals, bijvoorbeeld, de medische behandeling die een patiënt nodig heeft?

De medische wereld is natuurlijk niet zonder belangen. Het is al moeilijk genoeg om artsen ervan te weerhouden oneigenlijke beslissingen te nemen, hoe zouden we dit bij een machine af kunnen dwingen? Artsen zweren een eed om te garanderen dat ze het belang van hun patiënten voorop stellen. Maken zij een fout, of stellen zij andere belangen voor op het welzijn van de patiënt, dan kunnen ze daar op aangesproken worden. Hoe zou dit werken voor een machine? Welke belangen zou die behartigen? En hoe zou die daar op aangesproken kunnen worden? Bedenkt dat fabrikanten er niet alleen alle baat bij hebben, maar over ook voldoende middelen om dit soort ‘fouten’ te verhullen.

Hoe geweldig een nieuwe technologie ook is, hoeveel beter het onze levens ook zal maken, juist in die kwaliteit zelf schuilt ook het gevaar.


De na- en voordelen recht evenredig

Maar goed, het punt is dus niet om te blijven hangen in de negatieve aspecten van dit soort ontwikkelingen, maar om te laten zien dat deze negatieve aspecten altijd hand in hand gaan met de positieve, als twee zijden van dezelfde munt. Hoe beter een technologie, hoe groter het voordeel dat de mens hiermee kan doen, hoe gevaarlijker het is. Die twee gaan samen.

Willen wij deze nieuwe technieken ten volste aanvaarden – en een andere keus hebben we niet – dan kan een eenzijdig toejuichen van de voordelen nooit voldoende zijn. Een evenwichtig beeld is nodig voor een ieder die in deze ontwikkelingen meer ziet dan de mogelijkheid om wat spulletjes te verkopen.

Hoe geweldig een nieuwe technologie ook is, hoeveel beter het onze levens ook zal maken, juist in die kwaliteit zelf schuilt ook het gevaar. Dat is wat we hier onder ogen dienen te zien. Hoe beter de machine wordt, hoe meer verantwoordelijkheden die van de mens over zal nemen. Hoe meer verantwoordelijkheden zo’n machine krijgt – hoe groter de gevaren. Die twee hangen volledig met elkaar samen, en groeien, recht evenredig aan elkaar.

En juist door deze nadelen – deze gevaren – onder ogen te zien ontstaat ruimte om ze van een antwoord te voorzien. Dat antwoord is, zoals wij het presenteren in ons boekje, gelegen in het serieus nemen van de mogelijkheden van de menselijke creativiteit.

Dankzij het gevaar dat hier zichtbaar wordt kunnen we duidelijk zien dat we moeten oppassen met het uit handen geven van menselijke taken aan de machine, en de belangrijkste taak die we niet uit handen zouden moeten geven is die van het het vertellen van verhalen.

Het werkelijke gevaar is dat mensen zullen geloven dat het zo is.

Daarin verwacht ik overigens geen serieuze competitie van de AI. Mensen zullen altijd innovatiever zijn, betere kwaliteit leveren, in ieder geval waar het complexe aangelegenheden betreft zoals het scheppen van verhalen. Het zal zijn vaart voorlopig nog niet lopen, dat AI hier de mens zal kunnen benaderen, laat staan evenaren. Het zijn vooral de relatief simpele zaken zoals spelletjes en wiskunde dat de AI de mens de baas is, niet waar het op werkelijke innovatie, werkelijke scheppingskracht aankomt.

Het werkelijke gevaar is dat mensen zullen geloven dat het zo is.

Niet dat AI werkelijk beter werk zal verrichten dan mensen, maar dat mensen geloven dat ze net goed AI in kunnen schakelen als personeel.

Dat mensen genoegen zouden nemen met verhaaltjes die ons door de AI worden voorgeschoteld – als een gevangen die aan zijn cel gewend is geraakt, en nu niet meer naar buiten wil – en vergeten wat werkelijke kunst is, daarin schuilt een veel werkelijker gevaar.

En juist in het onder ogen zien van dit gevaar ligt ook het antwoord besloten – juist door te zien wat er hier op het spel komt te staan wordt duidelijk hoe we dat kunnen beschermen. Door aan de creatieve kracht van de mens, de creatieve kracht die in ons huist het respect te verlenen dat het verdient. Door op eigen kracht, onze eigen verhalen te vertellen.

Daarom denk ik dat het geen doemdenken is, maar een met open armen verwelkomen van de toekomst die voor ons licht, inclusief de uitdagingen die ons daarin te wachten staan, inclusief de creatieve kracht die daarin meer dan ooit van ons verwacht zal worden.



Lees verder