How do you know what you don't know

Original text and video (in Dutch) can be found here.

The question posed to me tonight is: 'How do you know what you don't know?' This question has preoccupied many great thinkers throughout history. It has also led to two timeless insights that remain relevant in this era of AI, social media, and fake news.

The first insight is that we know very little. Pointing to our limited knowledge, the Chinese philosopher Laozi wrote in the 6th century BC: 'The wise person is the one who knows what they do not know.' A century later in ancient Greece, Socrates echoed this sentiment, saying, 'I know that I know nothing.' Laozi, Socrates, the 11th-century Islamic philosopher Al-Ghazali, and countless others after them remind us to remain humble: no matter how much knowledge we accumulate, the unknown will always remain greater than what we understand.

The second insight is that we humans are inherently limited. Cognitive biases, cultural filters, and ideological preferences cloud our perception of truth and reality—even in the simplest aspects of life. For example, seeing another person as a human being is not always and everywhere self-evident, as we experience with refugees here or people in Gaza. Thus, even as we acknowledge the complexity of the world around us, our ability to comprehend it is constrained by the intrinsic limits of our individual and collective thinking.

These two insights have inspired many throughout history to develop methods that expand our knowledge and address our limitations. Examples include the Socratic method of questioning, introspection in Indian philosophy, and the scientific method of inquiry. While these methods have brought humanity much knowledge, they have not eliminated the critical limitations of our thinking; on the contrary, they highlight the delicate balance between our ability to learn and the constraints of our cognition.

In recent decades, a new method has emerged: AI. As a discipline and a technology, AI has rapidly evolved into a powerful tool for research and knowledge generation. In the early 1990s, I became fascinated by this potential of AI and wondered: Can we build an AI that expands our knowledge, reveals our blind spots, and unlocks the unknown?

For nearly a decade, I used AI to explore how our brains work and how they shape our behavior. But I soon realized that—as AI developed as a discipline and technology—it learned more from us than we did from AI. It began to reflect our environments and adopt our biases and assumptions. Instead of helping us overcome our limitations, AI began to mirror them. This realization changed my perspective.

In the following decade, I focused on a different question: What if the AI mirror itself is the method for acquiring knowledge and overcoming our cognitive limitations? After all, mirrors have held profound symbolic and transformative meaning throughout history. During the Renaissance, for example, mirrors were drivers of emancipation and enlightenment. From this perspective, the AI mirror enables humanity to understand and transform itself and its environment on an unprecedented scale.

However, today's AI mirrors have become something very different: infinity mirrors. They endlessly reflect images within their own framework. At first glance, these infinite reflections are fascinating until you realize they repeat the same thing over and over, adding little meaning. AI infinity mirrors trap us in a deep illusion of knowledge. Worse, they amplify our biases and assumptions to the point where these limitations dictate our reasoning.

Under the influence of AI infinity mirrors, we seem to be entering a state of 'not knowing what we know,' making the question 'How do you know what you don't know?' harder to answer than ever. Precisely for this reason, it is now crucial to ask: How do we restore the ability to discern what is true and false, real or fake, information or misinformation? And how can AI help us build a shared frame of reference without falling into the same pitfalls?

It is important to realize that the state we are in is not an inevitable consequence of AI itself but of how we—and especially the current powers behind AI—build and apply it. These powers want us to believe they are building a modern Tower of Babel, an all-knowing AI that serves humanity. But like the biblical Tower, this modern tower will also succumb to confusion and chaos in thinking. This downfall will pave the way for more diverse and meaningful forms of AI, just as the biblical confusion of languages led to new tongues and cultures. With this prospect in mind, we can already draw inspiration from two indigenous wisdoms.

First, that objects, animals, nature, and the universe contain forms of knowledge and intelligence that surpass human understanding. This means we can derive and gain insights from others, whether they are humans or something else. Extending the Ubuntu philosophy, 'I am because we are,' it follows that 'I know because we know,' where 'we' refers to the entire network of objects, humans, animals, nature, and the universe, and the relationships between them.

Second, the spaces within this network—the gaps, the unknowns—are just as important as the nodes and relationships of the network. Instead of fearing these unknowns, we should recognize and embrace them as essential realities. Indigenous cultures often value not-knowing and approach the unknown as something to celebrate. In some traditions, this celebration is also considered a method for transforming the unknown into knowledge and connection.

We can develop and use AI with these two indigenous wisdoms in mind. This is not far-fetched; AI already connects us with people, objects, and nature. But instead of assuming a structured network with humans at the center or the top, particularly the Western perspective, we should focus on an unstructured network with humans as a humble part of it. This creates a more robust frame of reference. It is also not far-fetched because AI already exposes us to the unknown, both within ourselves and in our relationships. But we must still learn to accept the unknown.

With these two wisdoms, we can create an AI that is not an infinity mirror but a kaleidoscopic mirror. Unlike an infinity mirror, a kaleidoscope reveals the richness of human diversity and the complexity of our planet. It continually brings both the familiar and the unknown into view. In doing so, it encourages continuous reflection, introspection, imagination, and meaningful transformation. We are working on such a kaleidoscopic mirror here in Amsterdam, where many cultures converge, and there is enormous potential for AI and social innovation.

To conclude, the question 'How do you know what you don't know?' is one that has been asked for centuries and has lost none of its relevance. The accompanying answer is equally timeless: Only with humility, curiosity, and openness to learn from others, whoever or whatever they may be, can you know what you don't know."

Hoe weet je wat je niet weet

De vraag die mij vanavond is voorgelegd, luidt: “Hoe weet je wat je niet weet?” Deze vraag heeft veel grote denkers uit de geschiedenis bezig gehouden. Het heeft ook geleid tot twee tijdloze inzichten die - in deze tijd van AI, sociale media en nepnieuw – nog steeds relevant zijn.

Het eerste inzicht is dat we maar weinig weten. Wijzend op onze beperkte kennis, schreef de Chinese filosoof Laozi in de zesde eeuw voor Christus al: “De wijze is degene die weet wat hij niet weet.” Een eeuw later in het oude Griekenland herhaalde Socrates dit sentiment en zei: “Ik weet dat ik niets weet”. Laozi, Socrates, de Islamitische filosoof Al-Ghazali uit de 11de eeuw en talloze anderen na hen herinneren ons eraan bescheiden te blijven: hoeveel kennis we ook vergaren, het onbekende zal altijd groter blijven dan wat we begrijpen.

Het tweede inzicht is dat wij mensen inherent beperkt zijn. Cognitieve vooroordelen, culturele filters en ideologische voorkeuren vertroebelen onze perceptie van waarheid en realiteit—zelfs in de eenvoudigste aspecten van het leven. Een ander persoon zien als een mens bijvoorbeeld is niet altijd en overal vanzelfsprekend zoals we ervaren met vluchtelingen hier of mensen in Gaza. Dus zelfs als we de complexiteit van de wereld om ons heen erkennen, wordt ons vermogen om het te bevatten beperkt door de intrinsieke grenzen van onze individuele en collectieve denkvermogen.

Deze twee inzichten hebben velen in de geschiedenis geïnspireerd om methoden te bedenken die onze kennis vergroten en onze beperkingen adresseren. Voorbeelden zijn de socratische methode van vragen stellen introspectie in de Indiase filosofie en de wetenschappelijke methode van onderzoek. Hoewel deze methoden de mensheid veel kennis hebben gebracht, hebben ze kritische beperkingen in onze denkvermogen niet weggenomen; integendeel, ze benadrukken juist de delicate balans tussen ons vermogen om te leren en de beperkingen van ons denken.

In de afgelopen decennia is een nieuwe methode ontstaan: AI. Als discipline en als technologie, heeft AI zich snel ontwikkeld tot een krachtig instrument voor onderzoek en kennisgeneratie. In de vroege jaren ’90 raakte ik gefascineerd door deze potentie van AI en vroeg mij af: kunnen we een AI bouwen die onze kennis uitbreidt, onze blinde vlekken onthult en het onbekende ontsluit?

Bijna een decennium lang onderzocht ik met behulp van AI, hoe onze hersenen werken en hoe ze ons gedrag bepalen. Maar al snel besefte ik dat - terwijl AI zich ontwikkelde als discipline en technologie - het meer van ons leerde dan wij van AI. Het begon onze omgevingen te weerspiegelen en onze vooroordelen en aannames over te nemen. In plaats van ons te helpen onze beperkingen te overwinnen, begon AI deze dus te weerspiegelen. Deze realisatie veranderde mijn perspectief.

In het daaropvolgende decennium richtte ik me op een andere vraag: wat als de AI-spiegel zelf de methode is om kennis te vergaren en onze cognitieve beperkingen te overwinnen? Spiegels hebben door de geschiedenis heen immers diepgaande symbolische en transformerende betekenis gehad. Tijdens de Renaissance, bijvoorbeeld, werden spiegels drijfveren voor emancipatie en verlichting. Vanuit dit perspectief stelt de AI-spiegel de mensheid in staat om zichzelf en de omgeving op een ongekende schaal te doorgronden en te transformeren.

De AI-spiegels van vandaag zijn echter iets heel anders geworden: oneindigheidsspiegels. Ze weerspiegelen beelden oneindig binnen hun eigen kader. Op het eerste gezicht zijn die oneindige weerspiegelingen fascinerend totdat je beseft dat ze steeds hetzelfde herhalen en weinig betekenis toevoegen. AI-oneindigheidsspiegels sluiten ons op in een diepe illusie van kennis. Nog erger, ze versterken onze vooroordelen en aannames tot het punt waarop deze beperkingen ons verstand sturen.

Onder invloed van AI oneindigheidsspiegels lijken we over te gaan in een toestand van “niet weten wat we weten,” waardoor de vraag “hoe weet je wat je niet weet?” moeilijker te beantwoorden lijkt dan ooit. Juist daarom is het nu van belang om ons af te vragen: Hoe herstellen we het vermogen om te begrijpen wat waar en onwaar is, wat echt of nep is, wat informatie en desinformatie is? En hoe kan AI ons helpen een gedeeld referentiekader te bouwen, zonder in dezelfde valkuilen te belanden?

Het is belangrijk te beseffen dat de toestand waarin we verkeren geen onvermijdelijk gevolg is van AI zelf maar van hoe wij—en vooral de huidige machten achter AI—het bouwen en toepassen. Die machten willen ons doen geloven dat ze een moderne Toren van Babel bouwen, een alwetende AI die de mensheid dient. Maar net als de Bijbelse Toren, zal ook de moderne toren blijken onder te gaan aan verwarring en chaos in denken. Deze ondergang zal de weg vrijmaken voor meer diverse en betekenisvolle vormen van AI net zoals de Bijbelse spraakverwarring leidde tot nieuwe talen en culturen. Met dit vooruitzicht in gedachten kunnen we alvast inspiratie halen uit twee inheemse wijsheden.

Ten eerste dat objecten, dieren, de natuur en het universum vormen van kennis en intelligentie bevatten die ons menselijke verstand te boven gaan. Dit betekent dat we kennis en inzichten kunnen ontlenen aan en opdoen via anderen, of dat nu mensen zijn of iets anders. In het verlengde van de Ubuntu-filosofie, “Ik ben omdat wij zijn,” geldt “Ik weet omdat wij weten”, waarbij wij betrekking heeft op het hele netwerk van object, mens, dier, natuur en het universum, en de relaties daartussen.

Ten tweede zijn de ruimtes binnen dit netwerk — de gaten, de onbekenden — net zo belangrijk als de knopen en relaties van het netwerk. In plaats van deze onbekenden te vrezen, zouden we ze moeten erkennen en omarmen als essentiële werkelijkheden. Inheemse culturen waarderen vaak het nietweten en benaderen het onbekende als iets om te vieren. In sommige tradities wordt dit vieren ook beschouwd als een methode om het onbekende om te zetten tot kennis en verbinding.

We kunnen AI ontwikkelen en gebruiken met deze twee inheemse wijsheden in gedachten. Dit is niet vergezocht; AI brengt ons nu al in verbinding met mensen, objecten en de natuur. Maar in plaats van uit te gaan van een gestructureerd netwerk met mens centraal of aan de top, met name de Westerse, zouden we ons moeten richten op een ongestructureerd netwerk met de mens als nederig onderdeel. Dit zorgt voor een steviger referentiekader. Het is ook niet vergezocht, omdat AI ons al blootstelt aan het onbekende, zowel binnen onszelf als in onze relaties. Maar we moeten dus nog leren het onbekende te aanvaarden.

Met deze twee wijsheden kunnen we een AI creëren die geen oneindigheidsspiegel is, maar een caleidoscopische spiegel. In tegenstelling tot oneindigheidsspiegel, onthult een caleidoscoop de rijkdom van menselijke diversiteit en de complexiteit van onze planeet. Het brengt zowel het vertrouwde als het onbekende voortdurend in beeld. Daarmee stimuleert het ons tot continue reflectie, introspectie, verbeelding en betekenisvolle transformatie. Aan zo een caleidoscopische spiegel werken we hier in Amsterdam, waar veel culturen samenkomen en een enorme potentie aanwezig is voor AI en sociale innovatie.

Om af te sluiten, de vraag “Hoe weet je wat je niet weet?” is een vraag die al eeuwenlang gesteld wordt en die niets aan relevantie heeft verloren. Het bijbehorende antwoord is evenzo tijdloos: alleen met nederigheid, nieuwsgierigheid en openheid om te leren van de ander, wie of wat dat ook mag zijn, kun je weten wat je niet weet."