Tag Archives: Algoritmes

The danger of AI is weirder than you think

Het ‘gevaar’ van kunstmatige intelligentie is niet dat het in opstand gaat komen tegen degenen die het maakten, maar dat het precies datgene doet wat wij vragen om te doen. Dat is de stelling van Janele Shane in deze TED-talk in Vancouver van alweer drie jaar geleden.

Door het delen van de vreemde, soms alarmerende gevolgen van AI algoritmes bij het oplossen van menselijke problemen (maken van nieuwe ijssmaken of het herkennen van auto’s op de weg) laat ze zien waarom kunstmatige intelligentie inderdaad ‘kunstmatig’ is en niet op kan tegen het ‘echte’ brein.

De werkelijkheid van kunstmatige intelligentie kan nog niet tippen aan wat de ‘hype’ ervan maakt. Het mag dan een ‘gift to society’ zijn, vooralsnog maakt het dat nog niet waar.

Shane is een onderzoeker die zich intensief bezig houdt met kunstmatige intelligentie. Ze houdt ook een humoristische machine learning blog bij, AI Weirdness, waar ze over de soms hilarische, soms verontrustende manieren schrijft waarop algoritmes de plank misslaan.

Ik werd herinnerd aan deze TED-talk toen ik onlangs haar boek uit 2019 in handen kreeg: You Look Like A Thing And I Love You: How AI Works And Why It’s Making The World A Weirder Place. Veel topics die ze bespreekt in haar blog worden hier voor een globaal publiek gepresenteerd, waarbij ze door de hype prikt en kunstmatige intelligentie terug brengt tot wat het nu is: interessant, met vele mogelijkheden, maar de kinderschoenen nog niet ontgroeid.

Paradox. A Digital Analytics Documentary

Opgenomen in januari 2019, tijdens de Superweek, een bijeenkomst van digitaal analisten, wetenschappers, denkers en marketeers.

Een inspirerende maar ook verontrustende video over Big Data analyse en de verschillende paradoxen die hierdoor ontstaan. Zoals het feit dat staten volledige surveillance willen reageren op basis van dat zonder enige transparantie (denk aan China), maar dat ICT-bedrijven die analyses uitvoeren (terecht, overigens) aan allerlei beperkingen worden onderworpen.

Maar ook de paradox dat meer data niet betekent dat de uitkomsten beter worden. ‘It can be. If all that data is leading to Analysis Paralysis … or if it leads to falling in love with data analysis itself and forgetting real business outcomes (the reason why you got money for funding the collection of all that data). If no one is using this mountain of data for solving problems, then it’s better that the data not be collected at all’.

Moeten we steeds doorgaan met het verzamelen van data?

Datakwaliteit wordt steeds belangrijker. En hoewel in business analytics de kwaliteit van data over het algemeen redelijk is (niet optimaal, dat is het nooit geweest), is het in web analytics uitermate slecht.

En uiteindelijk is data net zo goed als degene die de data interpreteert. Datakwaliteit alleen zegt niet zo heel veel als de interpretatie hapert, bij de mens of bij het algoritme.

Wat absoluut nodig is, is een nieuw digitaal sociaal contract gebaseerd op wederzijdse transparantie tussen staten en hun burgers.

Genoeg voer om over na te denken en verplichte kost voor ieder data scientist.

The great leap forward

Een documentaire van DW Documentary over Artificial Intelligence en algoritmes, van 2019.

De film wordt als volgt geïntroduceerd:

‘Developments in artificial intelligence (AI) are leading to fundamental changes in the way we live. Algorithms can already detect Parkinson’s disease and cancer, and control both cars and aircraft. How will AI change our society in the future? This documentary journeys to the hot spots of AI research in Europe, the USA and China, and looks at the revolutionary developments which are currently taking place’.

‘The rapid growth of AI offers many opportunities, but also many dangers. AI can be used to create sound and video recordings which will make it more and more difficult to distinguish between fact and fiction. It will make the world of work more efficient and many professions superfluous. Algorithms can decide whether to grant loans, who is an insurance risk, and how good employees are’.

‘But there is a huge problem: humans can no longer comprehend how algorithms arrive at their decisions. And another big problem is AI’s capacity for widespread surveillance. The Chinese city of Rongcheng is already using an AI-supported ‘social credit system’ to monitor and assess its citizens. Does AI pose a danger to our personal freedoms or democracy? Which decisions can we leave to the algorithms – and which do we want to? And what are AI’s social implications?’

Het is een film van Tilman Wolff en Ranga Yogeshwar, ongeveer drie kwartier. De moeite meer dan waard!