Onderzoek bij het Lectoraat Responsible IT
Het lectoraat richt zich op methodes (voor) duiden, ontwerpen en implementeren van verantwoorde IT systemen. Praktische handreikingen voor ontwerpers en ontwikkelaars van digitale toepassingen die duiding geven aan wat verantwoord betekent. (Kan zijn methode, modellen, toolkit, digitaal gereedschap, organisatievorm, inspiratie, codevoorbeeld, design patterns, datasets, boeken, manuals, lezingen, publicaties, installaties, onderwijs).
Output
https://research.hva.nl/en/organisations/responsible-it
Research output HvA Research Database
Onderzoekslijnen
Verantwoorde AI algoritmes
Een algoritme is een automatische reeks computerinstructies die een beslissing van de mens kan nabootsen of ondersteunen. Kunstmatige intelligentie is een vorm van computerinstructies die kijken naar situaties uit het verleden (verzamelde data) en proberen de beslissingen die toen genomen zijn te gebruiken om te leren wat de beste beslissing is voor een toekomstige situatie. Die nieuwe situatie moet dus lijken op een gebeurtenis uit het verleden. Helaas was de beslissing uit het verleden niet altijd de juiste, verantwoorde keuze. De computerinstructie (het algoritme) leert dus de onverantwoorde keuzes uit het verleden en gebruikt die om nu beslissingen te nemen. We onderzoeken of we kunnen herkennen wat een “foute” keuze is, door naar de data die gebruikt wordt te kijken, door te kijken naar de beslissingen die we proberen te automatiseren en door te kijken naar de manier waarop de instructies worden geprogrammeerd. We noemen de AI smart, of slim, wij onderzoeken of het ook verantwoord kan.
Verantwoorde IT-systeemontwikkeling
Net als de algoritmes zijn onze computer systemen niet voor iedereen eenvoudig te gebruiken. En vaak moet je een computer met een algoritme gebruiken om iets voor elkaar te krijgen: het aanvragen van een paspoort, de aankoop van een festival ticket bijvoorbeeld. Overal zien we computerschermen, met mensen die zitten te typen in plaats van in gesprek met ons te zijn. Het gebruik van computers heeft veel voordelen, we kunnen als mensen heel veel aan computers overlaten. Daarvoor moet het systeem wel goed werken, veilig zijn voor hackers, en te begrijpen. Wij werken met de bouwers van computersystemen, om bij het bouwen van de computersystemen al te werken met een goed ontwerp. Deze moeten makkelijk te gebruiken zijn, te begrijpen zijn en te vertrouwen. Als je op die manier werkt bij het bouwen van een computersysteem, dan zul je als bouwer andere keuzes maken. De systemen worden er beter van, verantwoorder.
Duurzame IT
Wij onderzoeken waar computersystemen precies energie voor nodig hebben en hoe dat met minder energie kan. Dat is niet alleen aan de computertechnici, ook de gebruikers van de systemen kunnen helpen om minder energie te gebruiken, bijvoorbeeld door hun foto’s niet allemaal te bewaren in een “cloud”. Het blijkt dat we niet goed weten hoeveel energie het nu precies kost om een instagram bericht te posten, of een nieuwsbrief te sturen. Wij proberen dit uit te rekenen. Binnen het lectoraat werkt een groep onderzoekers onder aansturing van associate lector Pascal Wiggers aan verantwoorde artificiële intelligentie.