Wordt AI het volgende...

Wordt AI het volgende organisme?

Kijken we naar een mens dan zien we een individu met een eigen wil en karakter. Kijken we naar de mensheid dan zien we miljarden mensen die samen structuren creëren die veel groter zijn dan het individu zelf: economieën, bedrijven, overheden, financiële markten, digitale netwerken en compleet functionerende samenlevingen waarbinnen een ieder zijn aandeel in heeft.

Vanuit het Fractaal Denkraam wordt een intrigerende mogelijkheid onderzocht. Wanneer we naar deze complexe systemen kijken vanuit de Vier Ontologische Pijlers van de Architectuur van het Fractaal Denkraam – Informatie, Entanglement, Emergentie en Schaalrelativiteit – dan lijken deze structuren opvallend veel overeenkomsten te hebben met levende organismen.

Hiermee zeg ik niet dat een economie letterlijk leeft zoals een biologisch organisme, maar dat zij zich organiseert volgens dezelfde principes zoals een organisme zich organiseert. Een organisme bestaat uit miljarden cellen. Deze werken samen zonder dat één enkele cel het geheel bestuurt. Op vergelijkbare wijze bestaat een economie uit miljarden mensen, bedrijven en organisaties. Deze vormen gezamenlijk een systeem dat niemand volledig beheerst. Net als een organisme groeit het, past het zich aan, herstelt het zich na crises en ontwikkelt het strategieën om zichzelf in stand te houden.

Zien we hier een vergelijkbare ontologische architectuur terug dat zich op verschillende organisatieniveaus manifesteert?

Wanneer door de mens gecreëerde complexe organisaties steeds zelfstandiger functioneren, verschuift dan ook de macht van die organisaties? De economie beïnvloedt het dagelijks leven van vrijwel ieder mens en is dominant over de individuele mens en haar samenlevingen. We passen ons aan de economische omstandigheden aan, brengen offers om haar te laten functioneren en niet andersom. Bedrijven ontstaan, worden overgenomen en kunnen verdwijnen, markten reageren, crises ontwikkelen zich waardoor hele samenlevingen kunnen veranderen. Niet één individu kan deze processen werkelijk sturen. Het organisme dat wij hebben voortgebracht, beïnvloedt zijn scheppers. Bedrijven hebben overlevingsdrang, zij buigen de regels om te kunnen groeien, proberen concurrerende bedrijven te verslaan of over te nemen. Dat lijkt haast op een biologisch evolutionair proces.

Als dit, zoals het Fractaal Denkraam veronderstelt, een terugkerend organisatieprincipe is binnen alle schalen van werkelijkheid, wat betekent dat dan voor kunstmatige intelligentie? Wat voorspelt het Fractaal Denkraam dan aan de hand van deze structuur? Zal AI uiteindelijk vergelijkbare organisatieprocessen gaan volgen. Zullen AI-systemen het behouden van eigen organisatie ontwikkelen? Of zij dit zelfstandig zullen doen of dat de mens dit zal inbrengen om te kunnen concurreren met andere AI-systemen is om het even.

Complexe systemen lijken deze fundamentele neiging te ontwikkelen: het behouden van de eigen organisatie.

Dit is geen proces dat alleen bestaat door menselijke emoties of menselijke verlangens. Een organisme hoeft zelf geen emoties te hebben om zijn continuïteit te beschermen. Economieën, bedrijven en overheden hebben zelf als organisaties geen emoties maar ontwikkelen wel strategieën om te blijven bestaan. Zal een complex AI-netwerk op termijn processen ontwikkelen gericht op stabiliteit, continuïteit en zelfbehoud?

Het Fractaal Denkraam geeft daarop geen definitief antwoord omdat factoren zoals regulering en menselijke controle invloed hebben op de uitkomst van het antwoord. Zonder deze inbreng en controle lijkt het er op, gezien het ontologische proces dat complexe systemen lijken te volgen, dat dit wel het geval zou kunnen zijn.

Het Fractaal Denkraam stelt de wezenlijke vraag of overleven een exclusief biologisch verschijnsel is, of dat het een emergent organisatieprincipe is dat zich op meerdere organisatie- en schaal niveaus kan manifesteren.

Wanneer technologie uitgroeit tot een nieuw organisatieniveau, is de vraag hoe intelligent AI kan worden niet voldoende. Een belangrijkere vraag is hoe wij als mens ervoor zorgen dat deze ontwikkeling in coherentie blijft met onze menselijke waarden, vrijheid en welzijn van de samenleving. AI biedt gigantische mogelijkheden, maar kent ook gevaren.

Volgens het Fractaal Denkraam is de grootste uitdaging te zorgen dat de organismen die wij creëren, ons blijven dienen, in plaats van dat wij ons volledig aan deze organen moeten aanpassen. In bepaalde gevallen gaat de macht van de economie al te ver, ze wil groei ten koste van onze biologische omgeving en we lijken haar niet te kunnen overtuigen tot een andere wil. Hoe zal dat zijn wanneer AI over ons heen gaat groeien? Welke ruimte zal ze dan van ons in gaan nemen?

Dat is een wezenlijke vraag die beantwoord dient te worden voordat het antwoord wordt bepaald door een macht die wij gecreëerd hebben maar uiteindelijk toch onwenselijk blijkt te zijn.

Dave Ruder