In 2019 hield Brianna Brownell, een data scientist en een zelfbenoemde futurist, een TED Talk over Artifical Intelligence en vooral over de verhouding daarmee tot het eigen, menselijke brein. Interessant hier is pareidolie, een psychisch verschijnsel, een vorm van illusie waarbij iemand een zodanige interpretatie van onduidelijke of willekeurige waarnemingen heeft, dat hij hierin herkenbare dingen meent waar te nemen. De reden voor het verschijnsel ligt in de behoefte van de hersenenom een verband te leggen tussen verschillende elementen, ook als deze er eigenlijk niet zijn. Het gaat dan vooral om patronen die op gevaar kunnen wijzen, zoals het silhouet van een roofdier. Het is een vrij alledaags verschijnsel. Net zoals de Mannetje in de Maan (of Mars). Brownell schrijft vervolgens: ‘We consider these human flaws full of meaning, but yet fail to extend the same grace to the artificial intelligence that we are building.’ Daar noemen we het namelijk een ‘error’.

Gebaseerd op de vondst van een object aan het begin van de menselijke geschiedenis, zo’n drie miljoen jaar geleden, duikt Brownell in de manier waarop he menselijk brein objecten in de wereld ‘ziet’ en hoe een AI deze objecten ziet. Misschien dezelfde dingen, maar wellicht ook iets volledig afwijkends.

En Brownell gaat verder:

‘We consider these errors that will be fixed by better algorithms, more advanced technology, and larger data sets. Most of the time we are right to think of it this way: there are significant dangers to ignoring or downplaying the bias that creeps into the machine learning systems that we build: systematic inequality, lack of opportunity, and prejudice. Sometimes when we see ourselves reflected in what we build we don’t like the result. But thinking of it only as a deficit denies our own biases and flaws as only deficits. Especially when our own pareidolia, which is a bias in our cognitive system, we consider full of meaning. Like the Man in the Moon, it is a commonality that connects us with one another. It has inspired stories that have shaped human culture for millennia.’

Dus: waarom dat niet accepteren van een AI? Maar hoe kan dat worden herkend?

Voor de tekst van de voordracht, zie hier. (scroll naar onder)