Opinie

Niet zo slimme algoritmes

Enith Vlooswijk |
Data-analyse & ICT, Veiligheid & Regelgeving

'Gevoed met slechte data en in handen van charlatans leiden slimme algoritmes al helemaal tot gebakken lucht', schrijft wetenschapsjournalist Enith Vlooswijk in haar column.

De vertegenwoordigers klopten aan in strakke pakken en met torenhoge beloftes. Mijn kennis, werkzaam bij een Vietnamese online-elektronicaverkoper, keek toe hoe zijn baas aan hun lippen hing. Hun zelflerende algoritmes konden zijn websitebezoekers beoordelen op kredietwaardigheid, vertelden ze. Kredietwaardige klanten zouden geld mogen lenen van bank X om producten online te kopen. Zo zou het bedrijf meer verkopen en de bank zou de leenrente opstrijken. Het elektronicabedrijf moest zelf garant staan voor die klanten die toch niet genoeg geld bleken te hebben.

Mijn kennis wilde weten op grond waarvan dat ‘slimme algoritme’ de kredietwaardigheid zou inschatten. Na wat aandringen bleek dat het klikgedrag op de website de doorslag gaf: wie eerst op een strijkijzer klikt en vervolgens toch voor de blender gaat, verraadt daarmee blijkbaar wezenlijke zaken over zijn financiële handel en wandel.

Zelflerende algoritmes behoren tot de meest veelbelovende instrumenten van de wetenschap. Gevoed met grote hoeveelheden data kunnen ze patronen herkennen die leiden tot belangrijke wetenschappelijke inzichten. Omdat er vaak weinig zicht is op de manier waarop de algoritmes te werk gaan, blijft het echter oppassen geblazen – zeker als de hoeveelheid data die ze verwerken beperkt is.

Een Deense computerwetenschapper vertelde me onlangs over een onderzoeksgroep die trots verkondigde een zelflerend algoritme te hebben ontwikkeld dat autisme met 80 % zekerheid herkent aan het stemgeluid. Toen het werd toegepast op nieuwe groepen proefpersonen, daalde dat percentage naar iets meer dan 50. Wat bleek: de stemopnames van de aanvankelijke proefpersonen waren gedaan op een doorsneeschool en op een speciale school voor autistische kinderen. Die op de doorsneeschool bevatte achtergrondgeluiden, de school voor autisten stond midden in een doodstil bos. Het algoritme had de proefpersonen dus leren onderscheiden op basis van achtergrondruis: slim, maar met ‘autistische stemmen’ had dat niets te maken.

Gevoed met slechte data en in handen van charlatans leiden slimme algoritmes al helemaal tot gebakken lucht. Mijn kennis wilde de vertegenwoordigers de deur wijzen, maar zijn baas ging graag met ze in zee. Al was het algoritme op drijfzand gebaseerd en zou hij de helft van de leningen zelf moeten ophoesten, dan nog verwachtte hij dat deze reclamestunt hem voldoende extra klandizie zou bezorgen.

Sommige mensen kopen graag een dode mus.

Enith Vlooswijk,
wetenschapsjournalist
Deel deze pagina
Ontvang de nieuwsbrief

Meld je aan voor de nieuwsbrief en blijf op de hoogte van het laatste nieuws van C2W.

Meld je nu aan!

Word abonnee/lid

Sluit nu een abonnement af of word lid van de KNCV en ontvang elke week het laatste nieuws, digitaal of op papier. 

Sluit nu een abonnement af!

Naar boven