Frederik Rahbæk Warburg

Populærvidenskabelig titel på dansk på dit projekt

Computere skal lære, hvad de ikke ved

Hvad handler dit ph.d.-projekt om?

Kunstig intelligens-baserede metoder bliver allerede i dag indbygget i autonome systemer, som selvkørende biler og medicinsk diagnosticering. Desværre producerer de ingen eller upålidelige usikkerhedsestimater, hvilket tvinger øvrige led i systemet til at stole blindt på den kunstige intelligens’ beslutninger. Men kunstig intelligens er ikke perfekt. Forkerte beslutninger bliver truffet, og når ingen alarmklokker ringer undervejs, kan konsekvenserne være fatale. For eksempel troede et kunstigt intelligens-system i maj 2016, at siden på en hvid lastvogn var en lys himmel, hvilket ledte til den første fatale ulykke i en selvkørende bil. Hvis det kunstige intelligens-system havde været i stand til at tildele en højere grad af usikkerhed til den fejlagtige forudsigelse, kunne ulykken være afværget. I mit ph.d.-projekt arbejder jeg på at lære en kunstig intelligens at fortælle, når den er i tvivl. Dette kan forhåbentlig være med til at sikre, at alarmklokkerne ringer, inden forkerte beslutninger bliver truffet af fremtidens autonome systemer.

Hvordan opstod din interesse for dit forskningsfelt? Og hvad motiverer dig?

Min interesse for kunstig intelligens og computer vision opstod gennem kurser på Danmarks Tekniske Universitet, men tog rigtigt fart i løbet af mit bachelorprojekt og efterfølgende studieophold i Spanien. Her fik jeg mulighed for at forske i en kunstig intelligens, der kan se, navigere og forstå verden omkring sig. Det motiverer mig, at kunstig intelligens vil kunne redde menneskeliv ved for eksempel at blive brugt til medicinsk diagnosticering eller i selvkørende biler. Jeg tror, at robuste usikkerhedsestimater for kunstig intelligens er den afgørende teknologi, der mangler for sikkert at kunne bruge kunstig intelligens i applikationer, hvor menneskeliv står på spil. Derfor fokuserer jeg på usikkerhedsestimering i min forskning.

Hvad er de forskningsmæssige udfordringer og perspektiver ved dit projekt?

De sidste årtier har fokus i kunstig intelligens-forskning været at lære computere at have ret. Det har gjort kunstig intelligens til en vigtig del af mange hverdagsprodukter, som Netflix-film-anbefalinger, autocorrect på din telefon og kortlægning til Google Maps. Disse applikationer har det tilfælles, at hvis computeren laver en fejl, for eksempel foreslår en film, du ikke er interesseret i, kan det være irriterende, men aldrig farligt. Hvis vi skal stole på en kunstig intelligens i applikationer, hvor menneskeliv er på spil, så skal vi lære den kunstige intelligens, at den kan tage fejl. Altså skal den lære, hvad den ikke ved. Jeg tror, at kunstig intelligens først bliver mainstream i applikationer som selvkørende biler og medicinsk diagnosticering, når vi har lært computere at tage fejl.

Hvad betyder et EliteForsk-rejsestipendium for dine fremtidige muligheder? Og hvilke(t) studieophold skal det bruges til? 

EliteForsk-rejsestipendiet giver mig mulighed for at besøge University of California, Berkeley. Berkeley huser nogle af de stærkeste forskere i verden inden for de områder af kunstig intelligens, som jeg interesserer mig for og specialiserer mig i. Et ophold på Berkeley er en enestående mulighed for at indgå i en af verdens førende forskningsgrupper og vil være en unik mulighed for at styrke og videreudvikle mine faglige kompetencer, samt være en meget værdifuld udvidelse af mit og Danmarks Tekniske Universitets forskningsmæssige netværk.

Lidt om mennesket bag forskeren? 

Jeg er vokset op på Østerbro i København, men bor nu inden for voldene på Elers’ Kollegium. I løbet af de sidste par år har jeg været så heldig at møde kultur, natur og mennesker fra store dele af verden i mine udlandsophold i Spanien, Californien, Schweiz, London og Schweiz (igen). I min fritid løber, svømmer og cykler jeg, og hvis nogen triller en fodbold i min retning, skal jeg nok sparke den op i krogen.