NL:

De Introductie van het “Behulpzame Intelligentie” Tijdperk

De theorie dat er een dag komt waarop technologische ontwikkelingen ineens extreem versnellen en daarbij alle menselijk leven zullen transformeren, ook wel de Singularity genoemd, bestaat sinds de jaren vijftig. Speculaties over niet-menselijke entiteiten geschapen naar het beeld van de mens, zoals de Golem in Joodse literatuur, bestaan al veel langer. Ruim voordat de term “robot” ons dagelijks taalgebruik binnensloop stelden we ons al een toekomst vol met machines in menselijke gedaantes en met menselijke eigenschappen voor. Hoe dichtbij de verwezenlijking van deze ideeën zijn we nu, en hoeveel invloed hebben we op hoe de toekomst vorm krijgt?

Hedendaagse smartphones zijn sterkere computers dan de besturingssystemen van de eerste Space Shuttle. Het is niet langer bijzonder om zo’n telefoon te gebruiken om te bepalen waar je bent of om er beeld en geluid mee te versturen. De laatste honderd jaar hebben we een sprong gemaakt van het benoemen van wat een robot zou kunnen zijn naar het dagelijks omgaan met alomtegenwoordige, zeer krachtige computertechnologie. De razendsnelle acceleratie waar de Amerikaanse futurist Ray Kurzweil in zijn populaire boek The Singularity is Near over sprak is voelbaar deel van ons leven geworden. Hierdoor lijkt het idee dat de Singularity aan de horizon zou kunnen zijn niet langer meer onwaarschijnlijk of pure science fiction.

De manier waarop de Singularity in de populaire cultuur benaderd wordt is echter nog steeds vooral paranoïde en dystopisch. Er wordt gretig ingespeeld op onze angst de controle en heerschappij over de aarde te verliezen, een heerschappij die we zelfs een naam hebben gegeven: het Anthropoceen. Hoewel Kurzweil een genuanceerde benadering heeft en de Singularity “noch utopisch, noch dystopisch” noemt, is het voor ons onweerstaanbaar ons te wentelen in bijna fetisjistische visioenen, waarin we ons overgeven aan veel intelligentere, fysiek aan ons verwante cyborgs. Dit toekomstbeeld is dusdanig somber dat er zelfs al grappen over gemaakt worden – onlangs werd bijvoorbeeld bekend dat de nerdy Amerikaanse komiek Seth Rogen (bekend van bijvoorbeeld de film Knocked Up) een komische serie over de Singularity gaat maken.

Waar wij als mensen duidelijk falen in het pre-Singularity tijdperk is dat het ongelofelijk moeilijk blijkt ons een beeld van de toekomst te maken dat niet zwaar is beïnvloed door het heden. Ons voorstellingsvermogen is beperkt en vaak teleurstellend oppervlakkig. Toen bijvoorbeeld de virtuele wereld Second Life in 2003 geopend werd kregen we talloze manieren om onszelf daar te representeren tot onze beschikking. Ondanks al die keuze gingen veel gebruikers er toe over zich naar de normen van een soort Barbie en Ken universum vorm te geven. Er kwamen zelfs doorsnee winkels als American Apparel. Ondanks alle mogelijkheden werd van Second Life een soort winkelcentrum gemaakt. Niet lang daarna werden grote stukken virtueel land echter alweer verlaten, en werd Second Life, heel menselijk, vol rotzooi achtergelaten. De vraag is: kunnen we ons wel de Singularity of een post-Singularity tijdperk voorstellen als we een virtuele wereld vullen met avatars en objecten waarnaast de wereld van de jaren zestig animatieserie The Jetsons een radicale visie lijkt?

Gelukkig hoeven we ons over onze kleingeestige, beperkte kijk op de Singularity weinig zorgen te maken: Stephen Hawking heeft al opgemerkt dat Kunstmatige Intelligentie zal resulteren in “machines waarvan de intelligentie de onze meer overstijgt dan dat de onze die van slakken overstijgt.” Kunstmatige intelligentie zal de mensheid zover achter zich laten dat we ons best niet hoeven te doen om interessante ideeën te krijgen, want die krijgen de kunstmatige intelligenties wel voor ons.

Alleen, maar een beetje gaan zitten wachten op onze toekomstige technologisch superieuren is veel te gemakzuchtig. Het is belangrijk dat we beseffen dat de dingen die we maken mede gevormd worden door onze verborgen vooroordelen. Erkenning voor hoe de algoritmes die we schrijven onze eigen feilbare manier van denken weerspiegelen vind te langzaam plaats. Het is bewezen dat racisme en seksisme deel van zogenaamd objectieve algoritmische creaties zijn. Als we niet oppassen zal ons leven post-Singularity net zo vol zitten met onzinnige en beschadigende vooroordelen als ons leven nu, en wel omdat we het er zelf in gestopt hebben. Het is dan ook geen geruststelling dat de kunstmatige intelligentie die ons gaat vervangen slimmer zal zijn dan wij zelf zijn. Sommige van de meest gehate leiders in de menselijke geschiedenis waren niet dom maar handelden wel onethisch, dus ‘slimheid’ gaat problemen als ongelijkheid en discriminatie niet oplossen. Het ethisch gedrag van kunstmatige intelligenties in een post-Singularity tijdperk is een legitieme zorg.

De term Post-Singularity is een provocatie. Hij moedigt aan niet alleen na te denken over de Singularity zelf en over hoe we daar belanden, maar ook om te reflecteren op hoe we weer controle over ons leven zouden kunnen krijgen als we de controle kwijt zijn. Het is nodig manieren te vinden om actief politieke en sociale ontwikkelingen voor te blijven, en ons denken niet te laten vastlopen in wat er ooit mogelijk zou kunnen gebeuren. Het zou een grote fout zijn te aan te nemen dat we kunstmatige intelligentie zonder enige bijsturing zichzelf kunnen laten ontwikkelen, omdat het slimmer zou zijn dan wij. Onze scheppingen erven onze fouten en onze obsessies. Zoals Stephen Hawking ook opmerkt moet ons doel zijn “Behulpzame Intelligentie te creëren in plaats van puur doelloze Kunstmatige Intelligentie.”

De “Behulpzame Intelligentie” waar Hawking naar verwijst zal niet makkelijk te implementeren zijn. Duidend op de trage ontwikkeling van een technologiefilosofie vraagt wetenschapsfilosoof Langdon Winner zich af: “Waarom is een cultuur die zo diep geworteld is in ontelbare complexe instrumenten, technieken, en systemen zo volhardend in zijn onwil zijn eigen basis te onderzoeken? Het antwoord ligt grotendeels in de wurggreep waarin het idee van een “vooruitgang” ons sociale denken in het industriële tijdperk heeft.”

De aanhoudende, richting de Singularity leidende technologische ontwikkelingen vallen niet of nauwelijks bij te benen met ethische overpeinzingen, juridische aanpassingen en veiligheidsmaatregelen. Zoals het Second Life voorbeeld laat zien laten onze creativiteit en inventiviteit ons vaak in de steek als we voor een blanco canvas staan. Onze onmacht op de zeer lange termijn om te gaan met ons eigen afval is daar een voorbeeld van. Zo is radioactief afval beheersen is een grote uitdaging voor de mensheid. Er zijn een aantal ideeën ontwikkeld over hoe mensen van de toekomst gewaarschuwd moeten worden voor de aanwezigheid van door ons zogenaamd veilig begraven nucleair afval. Deze secuur afgesloten afvallocaties moeten 100.000 jaar onaangeroerd blijven, en vanwege deze immense tijdspanne worden allerlei dingen bedacht om ze op termijn te beschermen tegen onwenselijke menselijke ingrepen. Afval wordt opgeslagen in onherbergzaam landschap waar men geen toekomstige bouwplannen verwacht, en er worden waarschuwingsborden ontwikkeld die ook zonder woorden te begrijpen zijn. Bij een Finse opslagfaciliteit kwam men op het idee om het afval maar helemaal zonder enige markering te begraven, om vooral geen aandacht te trekken. Hun voorstel lijkt cynisch over hoe de mens en zijn onbedwingbare nieuwsgierigheid, maar deze aanpak zou wel eens de beste kunnen zijn. Zouden kunstmatige intelligenties in een post-Singularity tijdperk hun nieuwsgierigheid beter kunnen bedwingen, of zouden ze even arrogant als intelligent zijn omdat de zwakheden van de mens diep in hun programmering zitten?

Kunstenaars zijn de aangewezen personen om het idee van de Singularity en de tijd erna diep uit te laten spitten. Kunstenaars en ontwerpers zijn vanwege hun onpartijdigheid in staat een voorstelling te maken van waar ons handelen toe leidt. Ze bevragen elke stap in technologische ontwikkelingen. Het werk van de kunstenaar Mike Pelletier bijvoorbeeld bestaat uit prachtige maar tegelijk verontrustende vervormingen van digitaal vormgegeven menselijke lichamen. Je vraagt je af: waarom raakt dit me zo? Zijn werk geeft letterlijk beweging aan een mogelijke mutatie van antropocentrische schoonheid.

De pionier Remko Scha, een ferm voorstander van het idee dat machines kunst kunnen maken, vraagt ons om algoritmes en machines als gelijke partners in samenwerkingen voor te stellen. Het werk van Scha suggereert dat er meer schoonheid in een post-Singularity tijdperk is dan we ons op dit moment voor kunnen stellen. Zijn manier van denken maakt een meer aantrekkelijke voorstelling van de tijd na de Singularity mogelijk: we zouden ook, zonder meteen het ergste te verwachten, de controle uit handen kunnen geven. Misschien komen we voor prettige verrassingen te staan, en brengt het post-Singularity tijdperk een potentiele, esthetische revolutie en nieuwe vormen van schoonheid.

Met het verstrijken van de tijd, als kunstmatige intelligenties kunstwerken maken die vooral door andere kunstmatige intelligenties gewaardeerd worden, zou onze culturele invloed zeker kunnen afnemen. De menselijke beschouwer wordt minder belangrijk. Hoe deze verminderde invloed van mensen vorm zou kunnen krijgen wordt weerspiegeld in Shiv Integer, een collaboratie van de kunstenaars Matthew Plummer-Fernandez en Julien Deswaef. In dit werk zoekt een software bot 3D modellen op het Internet en combineert ze tot nieuwe vormen. Het resultaat is een soort visuele slapstick en een bijna satirische vooruitblik op wat algoritmes zouden kunnen maken als we ze hun gang laten gaan. Het zal echter niet lang meer duren voor de techniek die hier ingezet wordt een stuk serieuzere vormen aanneemt.

De manier waarop het Shiv Integer algoritme gevonden 3D modellen gebruikt heeft zijn tegenhanger in de echte wereld. In de Benno Premsela lezing van 2015 vertelde socioloog en design theoreticus Benjamin Bratton over een futuristisch stedelijk complex dat in 1978 werd gebouwd in Taiwan. Na twee jaar werd de stad al weer verlaten, maar toen men hem wilde afbreken werden duizenden tot dan toe onbekende insecten ontdekt, de Orchid Mantis. Tussen de ruïnes van de verlaten stad bleken grote aantallen van een specifieke orchidee te groeien waar deze insecten op af kwamen. Het herinnert ons er aan dat we misschien wel indrukwekkende dingen kunnen bouwen, maar dat we uiteindelijk vechten om ruimte met vele bekende en onbekende andere wezens hier op aarde – en in een post-Singularity tijdperk zullen sommigen daarvan door ons gecreëerd zijn.

Bratton vervolgde zijn lezing met te zeggen dat hij gelooft dat het Anthropoceen geen lang leven beschoren zal zijn, of zoals hij het zegt, niet meer dan een “geopolitiek moment”. Volgens Bratton “gaan mensen verdwijnen. Onze steden zijn niet van ons. We bouwen voor andere levensvormen.” Terwijl hij nog eens verwees naar de Orchid Mantis in de Taiwanese stad zei hij: “Wij zijn de robots van toekomstige insecten.” Voor Bratton is dit geen doemscenario, maar een prettig toekomstbeeld – we bieden volgens hem infrastructurele ondersteuning aan toekomstige andere entiteiten.

Door te suggereren dat onze dominantie van voorbijgaande aard is, al dan niet in positieve zin, raakt Bratton ons diep in een fundamentele angst voor irrelevantie of zelfs voor totale vernietiging. Zoals de vele variaties op de legende van de Golem laten zien willen we vooral dat onze creaties ons beschermen. Als we de controle verliezen en ze destructief worden lukt het in die verhalen steeds het gevaar te stoppen; er is altijd een manier dat te bewerkstelligen. Als we dingen gaan bouwen die we niet geheel begrijpen of waarvan we de werking niet volledig kunnen overzien, verliezen we de macht zoals die we over de Golem hoopten te hebben: de veiligheidspal die escalatie van een situatie kan voorkomen.

Onder de eerste publicaties waarin de term robot werd gebruikt was een toneelstuk van de Tsjechische schrijver Karel Capek genaamd Rossum’s Universele Robots. In het stuk wordt het tegenwoordig welbekende cliché scenario beschreven van robots die rebelleren tegen hun menselijke heersers. Het woord robot is afgeleid van het Tjechische woord robota, wat “slaaf of werker” betekent. De post-Singularity conflicten die ons te wachten staan zijn echter complexer dan een opstand van een voor slavernij ontwikkelde machine-klasse. De post-Singularity problematiek is lastiger te bevatten dan de tragiek van een uit klei voortgebracht wezen, de Golem, met aangeboren, makkelijk te misbruiken afwijkingen. Zoals Langdon Winner zegt, zijn “technologieën niet slechts hulpmiddelen voor menselijke activiteit, maar ook sterke krachten die deze activiteit en de betekenis ervan vorm geven.” Betekenis ontstaat uit een diepe verweving van technologie en cultuur en het is tijd om hierbij stil te staan in wat misschien wel onze laatste jaren als heersers van deze planeet zijn. Het is tijd de balans op te maken over hoe effectief we technologie en cultuur inzetten voor positieve veranderingen en de evolutie van de mens. We moeten dit nu doen, voor we geconfronteerd worden met een ongekende robot rebellie, en voor onze dienstbare machines – die al onze slechte gewoontes in zich dragen – ons voor altijd te slim af zullen zijn.