AI TECHNOLOGIE IS (G)EEN HYPE

We zien wereldwijd, ook in Nederland, een enorme hype om technische AI systemen te ontwikkelen en op de markt te brengen. Maar nemen we in die race ook de tijd om na te denken wat die AI moet oplossen?  Er zijn problemen die misschien helemaal niet kunnen of hoeven worden opgelost met AI. In supermarkten tellen we mensen die binnenkomen met beeldherkenning, inclusief blurring technologie om privacy te waarborgen. Waarom is het klaphek bij de ingang vervangen terwijl die lowtech oplossing ook prima kon tellen? In verzorgingshuizen hangen camera’s in privé vertrekken om te zien of een bewoner is gevallen. Eerder voldeed een ringleiding met sensoren op kniehoogte. Er was een voorstel om duiven uit te rusten met beeldherkenningstools om wietplantages te vinden (echt waar).

NAAKT VOOR DE ‘SLIMME’ KOELKAST?

Er zijn slimme koelkasten op de markt met camera’s zodat de eigenaar op afstand kan zien  wat er in de koelkast ligt. Handig in de supermarkt als je bent vergeten wat je in huis hebt. Maar minder fijn voor al die mensen die ’s nachts naakt en hongerig de koelkast open doen, zij staan ook op de camera. Wat doe je als koelkastfabrikant met dit soort beelden? Waar productinnovaties eerder hun oorsprong vonden in een op te lossen probleem, genereert  AI juist een enorme push van technologie die op veel nieuwe situaties wordt toegepast. Maar prima werkende systemen vervangen door AI-producten met ethische haken en ogen, dat is weinig waardevolle innovatie. Dat is het volgen van een hype.

ALLEEN WITTE GEZICHTEN HERKENNEN

Een overhaaste introductie van half afgebouwde toepassingen met AI technologie levert meer problemen op in plaats van oplossingen. Het werkt onvoldoende, heeft verdere innovatie nodig en heeft vaak slecht ontworpen interactiesoftware. Soms komen negatieve effecten pas later naar voren omdat er onvoldoende over is nagedacht. Deze problemen worden ook wel de ‘unknown unknowns’ genoemd. Denk aan tentamen surveillance software die alleen goed blijkt te zijn in het herkennen van witte gezichten. Kansen voor AI-toepassingen zijn er zeker, maar vragen ook om een zorgvuldige ontwikkeling voordat deze producten volwaardig gebruikt en vertrouwd kunnen worden. Want wie koopt die ‘slimme’ koelkast en zet de camera aan? Vertrouw je dat als consument? Want als we medicijnen pas na zorgvuldig testen op de markt toelaten, waarom doen we dat dan ook niet met AI systemen?

EEN STARTUP DIE TECHNISCHE AI INNOVATIE WEET OM TE ZETTEN IN ZINVOLLE TOEPASSINGEN ZAL HET MEEST GEWENST EN HET MEEST KANSRIJK ZIJN.

VERANTWOORDE, PRAKTIJKGERICHTE AI

Hier ligt een rol voor academisch en praktijkgericht onderzoek. Om AI systemen te ontwikkelen die in de praktijk nuttig, goed werkend en verantwoord zijn. Daarvoor is een combinatie nodig van innovatie in AI - om de technische doorbraak van AI systemen te realiseren, en innovatie met AI - om de verantwoorde inzet van AI te realiseren. Brengt AI-onderzoek vanuit hogescholen en universiteiten AI innovaties een stap verder naar de markt? Programma’s en projecten die te nauw zijn geformuleerd zullen een focus houden op technische innovatie of een beperkte toepassing. Het resultaat is een proof of concept om aan te tonen dat “het kan”. Daarna is er nog veel investering nodig is om dit proof of concept door te ontwikkelen naar een goed werkend, verantwoord product dat inzetbaar is in de praktijk. Een product dat later geen onaangename verrassingen oplevert, zoals vragen rondom privacy.

WAT HEEFT EEN MENS NODIG?

Dat vraagt allereerst om co-creatie met professionals zoals ondernemers, die de praktijk, de toepassing begrijpen. Samen met ontwerpers/designers kunnen zij nadenken wat een AI systeem moet kunnen, wat wenselijk is. Op die manier kunnen we AI systemen afstemmen op wat een mens nodig heeft (en in welke vorm). Zouden we nu nog steeds een luchtgekoelde computer ontwerpen, terwijl waterkoeling beter is? Of adresgegevens van klanten bij elke individuele productaanbieder opslaan als er een veiliger alternatief zoals een persoonlijke datakluis voorhanden is? 

DE MENS NIET ENKEL ALS GEBRUIKER

Verantwoorde toepassing betekent dat een ontwerp is gebaseerd op ethische waarden met als uitgangspunt dat de AI in gebruikersvorm bij de menselijke belevingswereld past. Op dit moment wordt met veel innovaties voortgebouwd op bestaande systemen en moeten mensen getraind worden om die, soms complexe, IT-systemen te leren gebruiken. Training zou dan kunnen gaan over de functie die - AI kan uitvoeren en hoe je dit als mens het beste kunt duiden en gebruiken. Daarom is het tijd dat we de mens als opdrachtgever gaan zien, niet enkel als gebruiker. Een startup die technische AI innovatie weet om te zetten in zinvolle verantwoorde toepassingen zal het meest gewenst en het meest kansrijk zijn.

OPLOSSINGEN VOOR DE TOEKOMST

Zoals een duikboot niet kan zwemmen, zo is AI niet intelligent. Maar het is wel een technologie die in staat is, met weergaloze rekenkracht en data-analyses, om ons als mens oplossingen te bieden voor de toekomst. Door de mens als opdrachtgever en gebruiker centraal te stellen, hoeven we niet bang te zijn voor AI maar krijgen we succesvolle producten en diensten waar wij als mensen wat aan hebben.