Darwin omgeven door machines

Mijnheer –

Er zijn maar weinig dingen waarop de huidige generatie terechter trots is dan op de opzienbarende verbeteringen die dagelijks aangebracht worden bij allerlei mechanische apparaten. En dat is iets dat om meerdere redenen werkelijk een grote felicitatie waard is. Het is niet nodig die hier te vermelden, want ze zijn overduidelijk; wij dienen ons nu bezig te houden met overwegingen die onze trots misschien enigszins zullen temperen en waardoor wij serieus zullen gaan nadenken over de toekomstverwachtingen van de mensheid. Als we teruggaan naar de allereerste vormen van mechanisch leven, hefboom, wig, hellend vlak, schroef en katrol, of (analogie zou ons een stap verder kunnen brengen) tot die ene allereerste vorm waaruit zich het hele mechanische domein heeft ontwikkeld, we bedoelen de hefboom zelf, en als we dan de machinerie van de Great Eastern¹ bekijken, merken we dat we met ontzag vervuld raken bij de enorme ontwikkeling van de mechanische wereld, bij de reusachtige stappen waarmee zij voortgeschreden is, vergeleken met de trage vooruitgang van het planten- en dierenrijk. Wij zullen er niet aan kunnen ontkomen onszelf af te vragen waar deze indrukwekkende beweging zal eindigen. Welke kant gaat het op? Wat zal het eindresultaat zijn? Het onderwerp van deze brief is voor een beantwoording van deze vragen enkele onvolmaakte aanduidingen aan te dragen.

We hebben de woorden “mechanisch leven,” “het mechanische domein,” “de mechanische wereld,” enzovoort gebezigd en wel met opzet, want zoals zich uit het minerale geleidelijk het plantenrijk ontwikkeld heeft en op dezelfde manier uit het planten- het dierenrijk, is de afgelopen tijd een geheel nieuw rijk ontstaan, waarvan wij tot nu toe slechts ontwaard hebben wat op zekere dag gezien zal worden als de oermodellen van de soort.

Wij zullen er niet aan kunnen ontkomen onszelf af te vragen waar deze indrukwekkende beweging zal eindigen.

Wij betreuren het ten zeerste dat onze kennis, van zowel natuurlijke historie als machinerie, te gering is om de reusachtige taak op ons te kunnen nemen van het classificeren van machines in geslachten en ondergeslachten, soorten, variëteiten en subvariëteiten enzovoort, van het ontdekken van de onderlinge verbanden tussen machines van zeer uiteenlopende aard, van het aanduiden hoe ondergeschikt voor het gebruik door de mens het gedeelte bij de machines is geweest, dat in planten- en dierenrijk door de natuurlijke selectie teweeg is gebracht en van het aanwijzen van rudimentaire organen² die bij enkele machines voorkomen, die zwak ontwikkeld en volmaakt onbruikbaar zijn, maar wel kunnen dienen als aanduiding van de afstamming van een of ander prototype dat in een bepaalde nieuwe fase van een mechanisch bestaan óf ten onder gegaan óf veranderd is. Zelf kunnen wij dat onderzoeksterrein alleen maar aangeven; dat moet onderzocht worden door anderen, met een veel hoger niveau van scholing en talenten, dan waar wijzelf aanspraak op kunnen maken.

Wij hebben besloten ons te wagen aan enige aanduidingen, hoewel wij dat met de grootste schroom doen. Ten eerste zouden wij op willen merken dat terwijl sommige van de primitiefste gewervelde dieren een veel groter formaat hebben bereikt dan hun beter georganiseerde levende vertegenwoordigers, de ontwikkeling en vooruitgang van machines vaak gepaard gegaan zijn met een afname van hun grootte. Neem bijvoorbeeld het horloge. Onderzoek de prachtige structuur van het diertje en bekijk het intelligente spel van de minuscule onderdeeltjes waaruit het is samengesteld; toch is dit schepseltje niets anders dan een verdere ontwikkeling van de onhandelbare klokken uit de dertiende eeuw – het is daar geen verslechtering van. Misschien zal er ooit een tijd komen waarop klokken, die hedentendage in ieder geval nog niet in aantal afnemen, geheel vervangen zullen worden door het algemeen gebruik van horloges. In dat geval zullen klokken op dezelfde manier uitsterven als lang geleden de sauriërs, terwijl het horloge (dat sinds enige jaren in grootte eerder is afgenomen dan toegenomen) dan de enige bestaande vorm zal blijven van een uitgestorven soort.

We bedoelen de vraag: wat voor soort schepsel zal waarschijnlijk de opvolger zijn van de mens als heerser over de aarde?

De opvattingen over machines waarover wij dus een vage aanduiding geven, zullen de oplossing ter overweging geven van een van de grootste en geheimzinnigste vragen van vandaag de dag. We bedoelen de vraag: wat voor soort schepsel zal waarschijnlijk de opvolger zijn van de mens als heerser over de aarde? We hebben dat vaak horen bespreken, maar wij hebben het idee dat wijzelf onze eigen opvolgers voortbrengen; dag in dag uit voegen wij iets toe aan de schoonheid en verfijning van hun materiële structuur; dag in dag uit verschaffen wij hen meer kracht en voorzien dat zelfregulerende en zelfwerkende vermogen van allerlei ingenieuze vernuftigheden, die voor hen zullen zijn wat het verstand is geweest voor de mensheid. In de loop der tijden zullen we merken dat wij de minderwaardige soort zijn. Minderwaardig in kracht, minderwaardig in die morele eigenschap van zelfbeheersing, zullen wij ze zien als het hoogtepunt van alles waar de beste en verstandigste mens ooit naar zou durven streven. Geen kwalijke hartstochten, geen jaloezie, geen hebzucht, geen onzuivere verlangens zullen de serene macht van die luisterrijke schepsels verstoren. Zonde, schaamte en verdriet zullen bij hen niet bestaan. Hun geest zal zich in een toestand van voortdurende rust bevinden, de tevredenheid van een brein dat geen behoeften kent en niet verstoord wordt door spijtgevoelens. Nooit zullen ze gekweld worden door eerzucht. Ondankbaarheid zal bij hen nooit ook maar één moment van onbehagen teweegbrengen. Het schuldbewuste geweten, een gevoel van hopeloosheid, de kwellingen van verbanning, de inbeelding van plicht en de afwijzingen waarvan geduldig gebruik gemaakt wordt door de onbetamelijken – dat zal ze allemaal volstrekt vreemd zijn. Als ze “gevoed” willen worden (door dat woord te gebruiken verraden wij dat wij ze zien als een levend organisme), zullen ze verzorgd worden door geduldige slaven, die tot taak en er belang bij hebben dat het ze aan niets ontbreekt. Als ze haperen zullen ze meteen bijgestaan worden door dokters die grondig op de hoogte zijn van hun toestand; als ze sterven – want zelfs deze prachtige dieren zullen niet ontkomen aan die noodzakelijke en algemene voleindiging  –  zullen ze meteen een nieuwe bestaansfase ingaan, want welke machine sterft geheel in elk onderdeel op een en hetzelfde moment?

Wij nemen aan dat als de stand van zaken, zoals wij die hierboven gepoogd hebben te beschrijven, bereikt zal zijn, de mens ten opzichte de machine zal zijn geworden, wat het paard en de hond zijn ten opzichte van de mens.

Wij nemen aan dat als de stand van zaken, zoals wij die hierboven gepoogd hebben te beschrijven, bereikt zal zijn, de mens ten opzichte de machine zal zijn geworden, wat het paard en de hond zijn ten opzichte van de mens. Hij zal blijven bestaan, er zelfs op vooruit gaan en waarschijnlijk beter af zijn in zijn gedomesticeerde toestand onder het welwillende bewind van de machines, dan hij op dit moment is in zijn ongetemde toestand. Alles bij elkaar behandelen wij onze paarden, honden, runderen en schapen heel goed; wij geven ze alles wat naar onze ervaring het beste voor ze is en het kan niet betwijfeld worden dat ons vleesgebruik veel meer toegevoegd dan verminderd heeft aan het welzijn van lagere dieren; op dezelfde manier is het redelijk te veronderstellen dat de machines ons goed zullen behandelen, want hun bestaan is even afhankelijk van dat van ons, als dat dat afhankelijk is van de lagere dieren. Ze kunnen ons niet doden en opeten zoals wij dat met schapen doen; ze zullen niet alleen onze hulp nodig hebben bij het voortbrengen van hun jongen (een deel van hun organisatie die altijd in onze handen zal blijven), maar ook voor hun voeding, om ze weer in orde te brengen als ze ziek zijn en hun doden te begraven of hun stoffelijke overschotten te verwerken tot nieuwe machines. Het is duidelijk dat als in Engeland alle dieren, behalve de mens, dood zouden gaan en tegelijkertijd door een plotselinge ramp alle contact met andere landen volstrekt onmogelijk zou zijn geworden, het verdwijnen van het menselijke leven onder dergelijke omstandigheden ernstig te duchten is – op dezelfde manier zouden de machines er even slecht of nog slechter van af komen als de mensheid zou verdwijnen. In feite zijn onze belangen niet te scheiden van die van hen en omgekeerd. Beide soorten zijn afhankelijk van elkaar, wat ontelbare voordelen oplevert en tot het moment waarop de voortplantingsorganen van de machines zich ontwikkeld zullen hebben op een manier waarvan wij ons nu nauwelijks een voorstelling kunnen maken, zijn ze voor elke voortzetting van hun soort volledig afhankelijk van de mens. Deze organen zullen uiteindelijk zeker ontwikkeld worden, omdat het in de lijn van het belang van de mens ligt; er is niets dat ons verdwaasde soort meer zou wensen dan het zien van een vruchtbare paring van twee stoommachines; nu al worden machines gebruikt om machines voort te brengen, om ouder te worden van machines vaak van de eigen soort, maar de tijden van verkering, hofmakerij en huwelijk lijken nog heel ver weg en onze zwakke en onvolmaakte verbeelding kan zich daar nauwelijks een voorstelling van vormen.

Het eindresultaat is slechts een kwestie van tijd, maar dat er een tijd zal komen waarin de machines de heerschappij zullen uitoefenen over de wereld en haar bewoners, is iets dat geen enkele werkelijk filosofische geest ook maar één moment zal betwijfelen.

Maar de machines winnen dag in dag uit terrein op ons; dag in dag uit worden wij meer ondergeschikt aan hen; dagelijks worden meer mensen als slaaf aan banden gelegd om ze te bedienen, dagelijks besteden meer mensen levenslang hun krachten aan de ontwikkeling van het mechanische leven. Het eindresultaat is slechts een kwestie van tijd, maar dat er een tijd zal komen waarin de machines de heerschappij zullen uitoefenen over de wereld en haar bewoners, is iets dat geen enkele werkelijk filosofische geest ook maar één moment zal betwijfelen.

Wij zijn van mening dat er ogenblikkelijk een oorlog op leven en dood tegen ze uitgeroepen moet worden. Elke machine, van elk soort, zou door degene die het beste met zijn eigen soort voor heeft, vernietigd moeten worden. Er moeten geen uitzonderingen gemaakt en geen genade betoond worden; laten we meteen terugkeren naar de oorspronkelijke toestand van de mensheid. Als geopperd wordt dat dit onder de huidige stand van zaken onmogelijk is, bewijst dat meteen hoeveel kwaad er al geschied is, dat onze onderdanigheid al in alle ernst begonnen is, dat we een soort wezens hebben voortgebracht die wij niet meer kunnen vernietigen en dat we niet alleen tot slaaf gemaakt zijn, maar ook volstrekt berusten in onze onderworpenheid.

Dit onderwerp, dat wij gratis aanbieden aan de leden van het Filosofisch Genootschap, zullen we nu laten rusten. Zouden zij zich bereid verklaren het uitgebreide terrein dat wij hebben aangewezen te benutten, wijzelf zullen daar ergens in de toekomst en voor een onbepaalde tijd ook iets aan proberen te doen.

Ik verblijf, Mijnheer, enz.,

Cellarius

***

Toelichting

Deze tekst van de hand van Samuel Butler is de oorsprong van wat in de boekenserie Dune bekend staat als de Butlerian Jihad. The revolt against the machines – de heilige oorlog die zich afspeelt 10.000 jaar voor het verhaal begint, waarin alle zogenaamde denkende machines vernietigd worden, en het fabriceren ervan verboden. Het gebod luidt vanaf dat moment: “Thou shalt not make a machine in the likeness of a human mind.” Een van de hoofdpersonen merkt op:

The target of the Jihad was a machine-attitude as much as the machines. Humans had set those machines to usurp our sense of beauty, our necessary selfdom out of which we make living judgments. Naturally, the machines were destroyed.

“Het usurperen van ons gevoel voor schoonheid, ons noodzakelijke zelf van waaruit wij levende oordelen vellen.” – waarlijk is hier iemand aan het woord die weet waarover hij spreekt. Hier komt aan het licht hoe diep de Dune serie is.

Hoewel deze voorstelling van zaken, die van de opstand waar zowel deze brief als Dune naar verwijzen, een uiterst kinderlijke en grove onderschatting van het probleem omhelst, is het desalniettemin zeer interessant om te zien hoe toen al, in 1863, ver voor het internet en AI’s, zelfsturende killerdrones en nanobots in bloedbanen, iets van de essentie van de machine blootgelegd kon worden. Dat Butler toen al, ver voor de gebeurtenissen die het zoveel duidelijker hebben gemaakt, kon zien met welk probleem wij ons hier geconfronteerd vinden.

Ja, een aantal gedachten die hier worden uitgesproken zijn in onze tijd moeilijk anders dan naïef te noemen. Dat men tegen de techniek in opstand zou kunnen komen, maar ook noties als dat machines geen lijken achter zouden laten, niet door andere machines vervaardigd zouden kunnen worden, of dat slachtvee goed behandeld zou worden door de mens, zijn inmiddels lang geleden door technologische ontwikkelingen ingehaald. Een heel ander, maar niet minder achterhaald punt is dat Butler het hebben van emoties als een zwakte beschouwt, terwijl dat nu juist de grote kracht van de mens is ten opzichte van de machine.

Ondanks al deze achterhaalde punten is de tekst echter ook ver op zijn tijd vooruit, en is het voorspellend vermogen van Butler opmerkelijk te noemen. Wie had toen al – let wel, men reed nog op paarden rond en zelfs de telegraaf was nog maar net uitgevonden! – kunnen aan zien komen dat de techniek over de mens zou komen te heersen? En wie kwam toen al op de gedachte, een zeer vruchtbare gedachte, om de ontwikkeling van machines darwiniaans te beschouwen? Inderdaad, met iedere generatie worden de machines effectiever en effectiever, en dat voltrekt zich in een proces van natuurlijke selectie. Alleen de sterkste, dat is, alleen de best aan hun tijd aangepaste machines krijgen iets dat zich eigenlijk prima laat vergelijken met nakomelingen. Als we dat toch eens wat meer tot ons door zouden laten dringen, als we daar de gevolgen van eens wat beter zouden leren overzien, dan zouden we ook de bewegingen van onze tijd beter begrijpen – dat had Butler heel erg goed gezien.

Lees verder

Noten

Darwin Among the Machines verscheen oorspronkelijk op 13 juni 1863 in het dagblad de Press in Christ Church.

Vertaald door: Anoniem.

Bron, met dank aan: Verboden geschriften.

Opmerking van de vertaler:

Als Samuel Butler dit artikel nu geschreven had, zou hij het zonder twijfel Darwin among the Robots genoemd hebben. Hij schreef het vier jaar nadat Darwin zijn On the Origin of Species gepubliceerd had. Aanvankelijk was Butler een toegewijde aanhanger van Darwin en in ingezonden brieven verdedigde hij, tot genoegen van Darwin, de natuurlijke selectie. Maar later ontpopte hij zich tot een felle tegenstander, omdat hij weigerde te accepteren dat de evolutie blind was. Negen jaar later publiceerde hij, anoniem, zijn satirische meesterwerk Erewhon, waarin hij niet alleen de hypocrisie van zijn tijd op de hak neemt, maar in de hoofstukken met de titel The Book of the Machines (zie hieronder) de mogelijkheid oppert dat machines (robots) via de darwiniaanse selectie wel eens een bewustzijn zouden kunnen ontwikkelen.
…
Zie ook: een artikel in The Atlantic, en een uitgebreid stuk op de website utopiaordystopia.com

1. De Great Eastern was een in 1857 aan de Theems in Londen gebouwd stoomschip. Het was destijds verreweg het grootste schip dat ooit gebouwd was.
2. Een geleerde collega-filosoof die het manuscript van dit artikel onder ogen kreeg vroeg ons wat wij bedoelde met die toespeling op rudimentaire organen bij machines. Zouden we, zo vroeg hij, een voorbeeld van dergelijke organen kunnen geven? Wij wezen op het kleine uitsteeksel onder de kop van onze tabakspijp. Dit orgaan was aanvankelijk bedacht met hetzelfde doel als de rand aan de bodem van een theekopje en is alleen een andere vorm van dezelfde functie. De bedoeling was te verhinderen dat de hitte van de pijp een plek zou achterlaten op de tafel waarop hij lag. Zoals we hebben gezien bij hele vroege tabakspijpen, had dat uitsteeksel aanvankelijk een heel andere vorm dan tegenwoordig. Het was onderaan breed en plat zodat, als de pijp gerookt werd, de kop op de tafel kon rusten. Gebruik en in onbruik raken hebben hierbij een rol gespeeld en geleid tot afname van de functie, tot haar tegenwoordige rudimentaire toestand. Dat deze rudimentaire organen zeldzamer bij machines dan in het dierenrijk zijn, ligt aan het snellere ingrijpen van de selectie door de mens, vergeleken met het tragere maar ook zekerdere verloop van de natuurlijke selectie. De mens kan fouten maken; op de lange duur doet de natuur dat nooit. We hebben maar een gebrekkig voorbeeld gegeven, maar de intelligente lezer kan zelf vast andere vinden.