Zelflerende machines: hype of gamechanger?

Al in de jaren ’50 waren onderzoekers bezig met Artificial Intelligence (AI). De huidige hype is gedreven door nieuwe zelflerende machines. In tegenstelling tot de openbare ruimte zijn gecontroleerde fabrieksomgevingen zeer geschikt om hiermee te experimenteren.

Dat zei Robert-Jan Sips tijdens de partnerdag rond procesautomatisering van Siemens. Sips is directeur Smart Software & Artificial Intelligence bij TKH Group. Hij heeft ruim 15 jaar ervaring met het toepassen van AI en was onder meer betrokken bij de ontwikkeling van de supercomputer Watson van IBM. Verder werkte hij mee aan tientallen publicaties over AI en Machine Learning en heeft hij diverse awards gewonnen.

Wat is intelligentie?

Sips vertelde hoe wetenschappers al medio vorige eeuw bezig waren met AI. De wiskundige Alan Turing beschreef in de jaren ’50 de mogelijkheid van zelflerende machines. Zijn conclusie: je hebt intelligentie bereikt zodra de mens niet meer weet of hij met een mens of een machine spreekt. Maar is dat ook écht intelligentie? Sips denkt van niet: “Mensen zijn geneigd veel intelligentie aan zelflerende machines toe te kennen, maar ook veel door de vingers te zien. Een computer kan slagen voor de Turing-test, maar toch niet intelligent zijn. Zo is in de jaren ’50 de virtuele psycholoog ELIZA ontwikkeld. Mensen dachten dat ze met een persoon praatten. Heel vergelijkbaar met de bedrieglijk goede chatbots die we tegenwoordig kennen! Ze zijn gebaseerd op een eenvoudig model waarbij de computer in een database zoekt naar een mogelijk antwoord. Het is maar de vraag of dit intelligentie betreft.”

De mens heeft de hele wereld als context, maar voor de machine is de hele wereld wat jij hem vertelt.

Robert-Jan Sips, directeur Smart Software & Artificial Intelligence bij TKH Group

Neurale netwerken

ELIZA en andere projecten wekten in de jaren ’50 hoge verwachtingen ten aanzien van AI. Toen die niet werden ingelost, brak de ‘AI-winter’ aan. In de jaren ’60 liepen collegebanken en laboratoria leeg en droogden de financieringsstromen voor AI-projecten op. Pas rond 2011 beleefde AI weer een opleving, met als grote drijvers IBM Watson en ImageNet. De supercomputer Watson nam het op tegen mensen tijdens de tv-quiz Jeopardy! Hij kon een in spreektaal gestelde vraag interpreteren en na een zoektocht door een collectie boeken, artikelen en gedownloade websites binnen seconden het goede antwoord geven. ImageNet was een wedstrijd waarbij een machine een plaatje moest categoriseren. De winnaar in 2012 was een student die het deep learning algoritme AlexNet had ontwikkeld. In plaats van de reguliere rekenkracht van een computer, maakte hij gebruik van een krachtige grafische kaart voor zijn deep learning model. Hierdoor begonnen neurale netwerken te functioneren. Deep learning heeft sindsdien een hoge vlucht genomen.

Zelflerende machines: hype of gamechanger?

Is daarmee de wereld sinds 2012 veranderd? Of stort de AI-hype over enige tijd alsnog in elkaar? Sips hoort vaak het eerste, maar sluit de ineenstorting van de AI-hype niet uit. “We weten eigenlijk niet precies wat er in neurale netwerken gebeurt. Ze leren op basis van de miljoenen datapunten die wij er als mensen hebben ingestopt. Maar is die data wel betrouwbaar? We hopen dat neurale netwerken een soort ‘menselijke’ logica hebben, maar ze maken soms fouten die voor een mens onbegrijpelijk zijn. Ook is het moeilijk om te bepalen hoe ze reageren op een voor hen nieuwe omgeving. In die zin is de manier waarop wij netwerken trainen beperkt. De mens heeft de hele wereld als context, maar voor de zelflerende machine is de hele wereld wat jij hem vertelt.”

We zijn als mensen snel geneigd om de controle over te laten aan zelflerende machines en daar positieve eigenschappen aan toe te kennen. Maar waar stopt dat? Je hebt bijvoorbeeld ook te maken met ethiek.

Industriële omgevingen

Neurale netwerken denken anders dan mensen. Zo werd een netwerk dat vrouwen van mannen kon onderscheiden ontmaskerd nadat bleek dat het selecteerde op het al dan niet ophebben van mascara. Sips: “Netwerken letten op andere dingen. Ook zit in netwerken die in principe een enkele taak moeten uitvoeren vaak informatie waar ze geen behoefte aan hebben, bijvoorbeeld hoe honden en katten eruit zien voor een netwerk dat fouten op blikjes moet detecteren. Mede daarom zijn onderzoekers voorzichtiger met het toepassen van neurale netwerken dan de markt. Gecontroleerde omgevingen, zoals een fabriek, zouden een veel betere experimenteeromgeving voor AI kunnen vormen dan de openbare. Je kunt er vrij makkelijk aan data komen en het zijn controleerbare omgevingen, met minder onvoorspelbaarheid zoals je die in bijvoorbeeld het verkeer tegenkomt.”

Golden bullet

Sips resumeert: “Machine learning is niet geschikt om zelfstandig te opereren in een omgeving waar geen fouten mógen worden gemaakt. Neurale netwerken moeten we dan ook met zorg gebruiken. De discussie over AI zou moeten verschuiven van innovatie (wat kunnen we doen?) naar evaluatie (moeten we dit wel doen?). We zijn als mensen snel geneigd om de controle over te laten aan zelflerende machines en daar positieve eigenschappen aan toe te kennen. Maar waar stopt dat? Je hebt bijvoorbeeld ook te maken met ethiek. Welke keuze maakt een zelfrijdende auto in een noodsituatie? Rijdt hij bijvoorbeeld een jongere of oudere persoon op een zebrapad aan? In een gecontroleerde omgeving spelen dit soort overwegingen minder en kunnen neurale netwerken makkelijker worden ingezet, maar ik hoop dat we er in de openbare ruimte goed over blijven nadenken.”

Bron: Siemens

Lees ook:

• Ontwikkelen van digitale mogelijkheden: hoe elke fabriek slim kan zijn
• Open Industrial Edge als vertrekpunt voor digitale transformatie
• Een slimme fabriek is een beveiligde fabriek