Controle over AI via nieuwe methode mogelijk

“Artificial Intellgence zal altijd een manier zoeken om menselijke interventie te voorkomen en een situatie te creëren waarbij het niet gestopt kan worden”, aldus Rachid Guerraoui, professor aan EPFL’s Distributed Programming Laboratory en co-auteur van een EPFL onderzoek waarbij menselijke bestuurders de controle kunnen behouden over een systeem dat via AI wordt bestuurd.

 

Met AI voeren machines bepaalde taken uit, bekijken de uitkomst en passen hun gedrag desgewenst aan, bekijken de nieuwe uitkomst, passen hun gedrag wederom aan, lerend van het proces. Om te voorkomen dat machines menselijke leiding omzeilen hebben onderzoekers van EPFL een manier ontdekt om de controle te houden op een groep AI robots.

Geheugen “deleten”

De baanbrekende methode laat mensen AI leerprocessen onderbreken wanneer nodig door middel van het veilig onderbreken, ervoor zorgend dat de onderbreking de manier waarop machines leren niet verandert. “ Simpel gezegd voegen we mechanismes toe aan het leeralgorithme dat in feite deeltjes van het geheugen van een machine delete”, legt El Mahdi El Mhamdi uit, een van de auteurs van het wetenschappelijk artikel. Kort gezegd hebben de onderzoekers het leer- en beloningssysteem van de machine aangepast, zodat het niet wordt gehinderd door onderbrekingen. “Vergelijkbaar met wanneer een ouder een kind straf geeft dat ook geen impact heeft op het leerproces van het andere kind in het gezin. We hebben met bestaande algoritmes gewerkt en aangetoond dat het veilig onderbreken werkt ongeacht hoe complex het AI-systeem ook is, het aantal robots of het type onderbreking."