How do you know what you don’t know?

Original article can be found here

The question presented to me tonight is: “How do you know what you don’t know?” This question has occupied many great thinkers throughout history. It has also led to two timeless insights that—especially in this age of AI, social media, and fake news—remain highly relevant.

The first insight is that we know very little. Acknowledging our limited knowledge, the Chinese philosopher Laozi wrote in the sixth century BCE: “The wise man is the one who knows what he does not know.” A century later, in ancient Greece, Socrates echoed this sentiment, stating, “I know that I know nothing.” Laozi, Socrates, the Islamic philosopher Al-Ghazali in the 11th century, and countless others after them remind us to remain humble: no matter how much knowledge we accumulate, the unknown will always be greater than what we understand.

The second insight is that we, as humans, are inherently limited. Cognitive biases, cultural filters, and ideological preferences distort our perception of truth and reality—even in the simplest aspects of life. Seeing another person as a human being, for example, is not always and everywhere self-evident, as we experience with refugees here or people in Gaza. So even when we acknowledge the complexity of the world around us, our ability to grasp it is constrained by the intrinsic limits of our individual and collective minds.

These two insights have inspired many throughout history to develop methods to expand our knowledge and address our limitations. Examples include the Socratic method of questioning, introspection in Indian philosophy, and the scientific method of inquiry. While these methods have brought humanity vast amounts of knowledge, they have not eliminated the fundamental limitations of our thinking; rather, they highlight the delicate balance between our ability to learn and the constraints of our minds.

In recent decades, a new method has emerged: AI. As both a discipline and a technology, AI has rapidly evolved into a powerful tool for research and knowledge generation. In the early 1990s, I became fascinated by AI’s potential and wondered: could we build an AI that expands our knowledge, reveals our blind spots, and unlocks the unknown?

For nearly a decade, I used AI to study how our brains work and how they shape our behavior. But I soon realized that—while AI was evolving as a discipline and technology—it was learning more from us than we were learning from it. It began mirroring our environments and adopting our biases and assumptions. Instead of helping us overcome our limitations, AI started to reflect them. This realization changed my perspective.

In the following decade, I focused on another question: what if the AI mirror itself is the method for acquiring knowledge and overcoming our cognitive limitations? Throughout history, mirrors have had profound symbolic and transformative meanings. During the Renaissance, for example, mirrors became catalysts for emancipation and enlightenment. From this perspective, the AI mirror enables humanity to explore and transform itself and its surroundings on an unprecedented scale.

However, today’s AI mirrors have become something else entirely: infinity mirrors. They reflect images endlessly within their own frame. At first glance, these infinite reflections are mesmerizing—until you realize they keep repeating the same thing, adding little meaning. AI infinity mirrors trap us in a deep illusion of knowledge. Even worse, they amplify our biases and assumptions to the point where these limitations begin to govern our thinking.

Under the influence of AI infinity mirrors, we seem to be shifting into a state of “not knowing what we know,” making the question “how do you know what you don’t know?” harder to answer than ever. That is precisely why it is now crucial to ask: How do we restore our ability to understand what is true and false, what is real or fake, what is information and disinformation? And how can AI help us build a shared frame of reference without falling into the same pitfalls?

It is important to recognize that our current situation is not an inevitable consequence of AI itself but of how we—and especially the powers behind AI—build and apply it. These powers want us to believe they are constructing a modern Tower of Babel, an omniscient AI that serves humanity. But like the biblical tower, this modern version will also collapse into confusion and chaos of thought. This downfall will clear the way for more diverse and meaningful forms of AI, just as the biblical confusion of languages led to new languages and cultures.

With this in mind, we can draw inspiration from two indigenous wisdoms. First, objects, animals, nature, and the universe contain forms of knowledge and intelligence that go beyond human understanding. This means that we can derive and acquire knowledge not just from other people but from everything around us. In line with the Ubuntu philosophy, “I am because we are,” we can say, “I know because we know,” where “we” encompasses the entire network of objects, humans, animals, nature, and the universe, along with their interconnections.

Second, the spaces within this network—the gaps, the unknowns—are just as important as the nodes and relationships that make up the network. Instead of fearing these unknowns, we should recognize and embrace them as essential realities. Indigenous cultures often value the state of not-knowing and approach the unknown as something to celebrate. In some traditions, this act of celebration is even considered a method of transforming the unknown into knowledge and connection.

We can develop and use AI with these two indigenous wisdoms in mind. This is not far-fetched; AI is already connecting us with people, objects, and nature. But instead of assuming a structured network with humans at the center or at the top—especially the Western notion of this hierarchy—we should focus on an unstructured network where humans are a humble part of the whole. This provides a more robust frame of reference. It is also not far-fetched because AI already exposes us to the unknown, both within ourselves and in our relationships. But we must still learn to embrace the unknown.

With these two wisdoms, we can create an AI that is not an infinity mirror but a kaleidoscopic mirror. Unlike an infinity mirror, a kaleidoscope reveals the richness of human diversity and the complexity of our planet. It continuously brings both the familiar and the unknown into view. This encourages ongoing reflection, introspection, imagination, and meaningful transformation. We are working on such a kaleidoscopic mirror here in Amsterdam, where many cultures come together, creating enormous potential for AI and social innovation.

Concluding the question “How do you know what you don’t know?” has been asked for centuries and has lost none of its relevance. The answer is equally timeless: only with humility, curiosity, and an openness to learning from others—whoever or whatever they may be—can you begin to know what you do not know.

Hoe weet je wat je niet weet?”

De vraag die mij vanavond is voorgelegd, luidt: “Hoe weet je wat je niet weet?” Deze vraag heeft veel grote denkers uit de geschiedenis bezig gehouden. Het heeft ook geleid tot twee tijdloze inzichten die - in deze tijd van AI, sociale media en nepnieuws – nog steeds relevant zijn.

Het eerste inzicht is dat we maar weinig weten. Wijzend op onze beperkte kennis, schreef de Chinese filosoof Laozi in de zesde eeuw voor Christus al: “De wijze is degene die weet wat hij niet weet.” Een eeuw later in het oude Griekenland herhaalde Socrates dit sentiment en zei: “Ik weet dat ik niets weet”. Laozi, Socrates, de Islamitische filosoof Al-Ghazali uit de 11de eeuw en talloze anderen na hen herinneren ons eraan bescheiden te blijven: hoeveel kennis we ook vergaren, het onbekende zal altijd groter blijven dan wat we begrijpen.

Het tweede inzicht is dat wij mensen inherent beperkt zijn. Cognitieve vooroordelen, culturele filters en ideologische voorkeuren vertroebelen onze perceptie van waarheid en realiteit—zelfs in de eenvoudigste aspecten van het leven. Een ander persoon zien als een mens bijvoorbeeld is niet altijd en overal vanzelfsprekend zoals we ervaren met vluchtelingen hier of mensen in Gaza. Dus zelfs als we de complexiteit van de wereld om ons heen erkennen, wordt ons vermogen om het te bevatten beperkt door de intrinsieke grenzen van onze individuele en collectieve denkvermogen.

Deze twee inzichten hebben velen in de geschiedenis geïnspireerd om methoden te bedenken die onze kennis vergroten en onze beperkingen adresseren. Voorbeelden zijn de socratische methode van vragen stellen introspectie in de Indiase filosofie en de wetenschappelijke methode van onderzoek. Hoewel deze methoden de mensheid veel kennis hebben gebracht, hebben ze kritische beperkingen in onze denkvermogen niet weggenomen; integendeel, ze benadrukken juist de delicate balans tussen ons vermogen om te leren en de beperkingen van ons denken.

In de afgelopen decennia is een nieuwe methode ontstaan: AI. Als discipline en als technologie, heeft AI zich snel ontwikkeld tot een krachtig instrument voor onderzoek en kennisgeneratie. In de vroege jaren ’90 raakte ik gefascineerd door deze potentie van AI en vroeg mij af: kunnen we een AI bouwen die onze kennis uitbreidt, onze blinde vlekken onthult en het onbekende ontsluit?

Bijna een decennium lang onderzocht ik met behulp van AI, hoe onze hersenen werken en hoe ze ons gedrag bepalen. Maar al snel besefte ik dat - terwijl AI zich ontwikkelde als discipline en technologie - het meer van ons leerde dan wij van AI. Het begon onze omgevingen te weerspiegelen en onze vooroordelen en aannames over te nemen. In plaats van ons te helpen onze beperkingen te overwinnen, begon AI deze dus te weerspiegelen. Deze realisatie veranderde mijn perspectief.

In het daaropvolgende decennium richtte ik me op een andere vraag: wat als de AI-spiegel zelf de methode is om kennis te vergaren en onze cognitieve beperkingen te overwinnen? Spiegels hebben door de geschiedenis heen immers diepgaande symbolische en transformerende betekenis gehad. Tijdens de Renaissance, bijvoorbeeld, werden spiegels drijfveren voor emancipatie en verlichting. Vanuit dit perspectief stelt de AI-spiegel de mensheid in staat om zichzelf en de omgeving op een ongekende schaal te doorgronden en te transformeren.

De AI-spiegels van vandaag zijn echter iets heel anders geworden: oneindigheidsspiegels. Ze weerspiegelen beelden oneindig binnen hun eigen kader. Op het eerste gezicht zijn die oneindige weerspiegelingen fascinerend totdat je beseft dat ze steeds hetzelfde herhalen en weinig betekenis toevoegen. AI-oneindigheidsspiegels sluiten ons op in een diepe illusie van kennis. Nog erger, ze versterken onze vooroordelen en aannames tot het punt waarop deze beperkingen ons verstand sturen.

Onder invloed van AI oneindigheidsspiegels lijken we over te gaan in een toestand van “niet weten wat we weten,” waardoor de vraag “hoe weet je wat je niet weet?” moeilijker te beantwoorden lijkt dan ooit. Juist daarom is het nu van belang om ons af te vragen: Hoe herstellen we het vermogen om te begrijpen wat waar en onwaar is, wat echt of nep is, wat informatie en desinformatie is? En hoe kan AI ons helpen een gedeeld referentiekader te bouwen, zonder in dezelfde valkuilen te belanden?

Het is belangrijk te beseffen dat de toestand waarin we verkeren geen onvermijdelijk gevolg is van AI zelf maar van hoe wij—en vooral de huidige machten achter AI—het bouwen en toepassen. Die machten willen ons doen geloven dat ze een moderne Toren van Babel bouwen, een alwetende AI die de mensheid dient. Maar net als de Bijbelse Toren, zal ook de moderne toren blijken onder te gaan aan verwarring en chaos in denken. Deze ondergang zal de weg vrijmaken voor meer diverse en betekenisvolle vormen van AI net zoals de Bijbelse spraakverwarring leidde tot nieuwe talen en culturen.

Met dit vooruitzicht in gedachten kunnen we alvast inspiratie halen uit twee inheemse wijsheden. Ten eerste dat objecten, dieren, de natuur en het universum vormen van kennis en intelligentie bevatten die ons menselijke verstand te boven gaan. Dit betekent dat we kennis en inzichten kunnen ontlenen aan en opdoen via anderen, of dat nu mensen zijn of iets anders. In het verlengde van de Ubuntu-filosofie, “Ik ben omdat wij zijn,” geldt “Ik weet omdat wij weten”, waarbij wij betrekking heeft op het hele netwerk van object, mens, dier, natuur en het universum, en de relaties daartussen.

Ten tweede zijn de ruimtes binnen dit netwerk —de gaten, de onbekenden—net zo belangrijk als de knopen en relaties van het netwerk. In plaats van deze onbekenden te vrezen, zouden we ze moeten erkennen en omarmen als essentiële werkelijkheden. Inheemse culturen waarderen vaak het niet- weten en benaderen het onbekende als iets om te vieren. In sommige tradities wordt dit vieren ook beschouwd als een methode om het onbekende om te zetten tot kennis en verbinding.

We kunnen AI ontwikkelen en gebruiken met deze twee inheemse wijsheden in gedachten. Dit is niet vergezocht; AI brengt ons nu al in verbinding met mensen, objecten en de natuur. Maar in plaats van uit te gaan van een gestructureerd netwerk met mens centraal of aan de top, met name de Westerse, zouden we ons moeten richten op een ongestructureerd netwerk met de mens als nederig onderdeel. Dit zorgt voor een steviger referentiekader. Het is ook niet vergezocht, omdat AI ons al blootstelt aan het onbekende, zowel binnen onszelf als in onze relaties. Maar we moeten dus nog leren het onbekende te aanvaarden.

Met deze twee wijsheden kunnen we een AI creëren die geen oneindigheidsspiegel is, maar een caleidoscopische spiegel. In tegenstelling tot oneindigheidsspiegel, onthult een caleidoscoop de rijkdom van menselijke diversiteit en de complexiteit van onze planeet. Het brengt zowel het vertrouwde als het onbekende voortdurend in beeld. Daarmee stimuleert het ons tot continue reflectie, introspectie, verbeelding en betekenisvolle transformatie. Aan zo een caleidoscopische spiegel werken we hier in Amsterdam, waar veel culturen samenkomen en een enorme potentie aanwezig is voor AI en sociale innovatie.

Om af te sluiten, de vraag “Hoe weet je wat je niet weet?” is een vraag die al eeuwenlang gesteld wordt en die niets aan relevantie heeft verloren. Het bijbehorende antwoord is evenzo tijdloos: alleen met nederigheid, nieuwsgierigheid en openheid om te leren van de ander, wie of wat dat ook mag zijn, kun je weten wat je niet weet.