DFiR debatrække: Kunstig intelligens i forskning og innovation
Kunstig intelligens har potentiale til at revolutionere vores samfund. Det gælder ikke mindst for de danske forsknings- og innovationsaktører, der med brugen af kunstig intelligens forventes at kunne forøge kvaliteten, omfanget og relevansen af investeringerne i forskning og innovation. Men teknologien kan også medføre omfattende ændringer af rammerne for forskning og innovation, herunder kendte processer som fagfællebedømmelse og forskningsansøgninger. Så markante omvæltninger af forsknings- og innovationslandskabet bør følges af etiske og sikkerhedsmæssige overvejelser, ligesom det må overvejes om de danske miljøer griber de nye muligheder i tilfredsstillende grad.
Danmarks Forsknings- og Innovationspolitiske Råd inviterer i 2023 og 2024 til en debatrække, der drøfter potentialer og risici ved kunstig intelligens for det danske forsknings- og innovationsøkosystem. Debatrækken afholdes på engelsk og i samarbejde med Digitaliseringsministeriet, Dansk Pioneer Center for Kunstig Intelligens og Fondenes Videncenter.
Formålet med debatrækken er at kvalificere den offentlige samtale om brug af kunstig intelligens inden for forskning og innovation. Det gælder samtalerne, der pågår rundt om frokostbordene i innovative virksomheder og på danske universiteter, den offentlige samtale og de politiske drøftelser.
Arbejdsgruppe og proces
DFiR’s arbejdsgruppe for dette projekt består af Frede Blaabjerg, Steffen Bohni og Tine Jess. Projektet anses som en dialoginitierende platform frem for et analysearbejde, der danner grundlag for håndfaste anbefalinger.
Debatmøde I: Det danske økosystem for kunstig intelligens – balancer og barrierer
Tidspunkt: Tirsdag den 12. december 2023, kl. 15.30-17.00
Sted: Uddannelses- og Forskningsministeriet, Børsgade 4, 1215 København K.
Debatten vil fokusere mere på potentialerne end på risici og der vil blive spurgt til balancer og barrierer i det danske økosystem. I DFiR’s optik består et sundt økosystem for kunstig intelligens til forskning og innovation af kompetencer og kapacitet inden for fire søjler:
- Data (f.eks. offentlige data i datavejviser.dk)
- Software (f.eks. dataloger, der kan udvikle algoritmer baseret på data)
- Hardware (f.eks. DeiC og private udbydere, der kan regne på algoritmerne)
- Anvendelse (f.eks. forskere eller entreprenører med indsigt i problemer inden for sundhed eller klima)
En diskussion af balancerne mellem disse søjler danner grundlaget for vores debat. Det er vigtigt at der er et rimeligt niveau af kompetencer og kapacitet inden for hver søjle samt processer og netværk, der forbinder søjlerne.
Et centralt spørgsmål bliver, om vi fokuserer investeringerne rigtigt, og om der er særlige potentialer ved at øge investeringerne i specifikke søjler. Bør vi investere yderligere i computerkraft eller er midlerne bedre givet ud ved at investere i forskningsprojekter, der kan finansiere flere ph.d.-studerende inden for datalogi? Er der specifikke barrierer inden for de enkelte søjler og kan de adresseres gennem politiske initiativer eller regulering? Et andet spørgsmål relaterer til balancer mellem anvendelsesområder. Er der større potentialer inden for nogle forskningsområder end andre og er der områder, som overses i det nuværende finansieringslandskab? Desuden vil der blive spurgt til private aktørers adgang til økosystemet. Spørgsmålet bliver, hvordan vi understøtter et privat marked, der anvender forskning inden for kunstig intelligens? Vi udnytter ikke potentialet, hvis der kun er tilfredsstillende adgang for offentligt finansierede forskningsmiljøer.
Debatmøde II: Kunstig intelligens og risici – fra plagiat til geopolitik
Tid: Mandag den 22. januar 2024, kl. 15.00-17.00
Sted: Statens Naturhistoriske Museum, Øster Voldgade 5-7, 1350 København K.
I den anden debat stiller vi skarpt på de risici og faldgruber, som tegner sig ved øget anvendelse af kunstig intelligens i dansk forskning og innovation. Det handler om konkrete udfordringer fra hverdagen i laboratorier og forskningsbiblioteker, hvor store sprogmodeller som ChatGPT har gjort det lettere at fabrikere falske referencer samt plagiere andres arbejde. I debatten vil vi spørge til hvordan de nye udfordringer skal håndteres. Er det op til hver enkelt institution at udvikle retningslinjer eller er der behov for nationale eller europæiske initiativer?
Debatten vil også invitere til mere grundlæggende etiske overvejelser om konsekvenserne ved anvendelse og udbredelse af den brede kunstige intelligens i forskning og innovation. Hvor er de etiske faldgruber? En central diskussion vedrører hvilke bias, der bliver reproduceret når der anvendes kunstig intelligens. Der vil også blive spurgt til hvilke fora, der påtager sig at udvikle samtalen om de etiske problemstillinger? Endelig bliver anvendelsen af kunstig intelligens også diskuteret i en sikkerhedspolitisk kontekst. Hvor er balancen mellem en etisk forsvarlig tilgang og risikoen for at miste kapløbet til Kina og USA? Og hvor skal DK ligge?
Debatmøde III: Kunstig intelligens og nye rammer for forskning og innovation
Tid: Onsdag den 28. februar 2024, kl. 15:00-17:00
Sted: Det Nationale Forskningscenter For Arbejdsmiljø, Lersø Parkallé 105, 2100 København
Den tredje debat handler om rammerne for forskning og innovation og spørger, hvorvidt fremkomsten af kunstig intelligens giver anledning til at genoverveje organiseringen af forsknings- og innovationssystemet.
I det eksisterende system bruger forskere mange ressourcer på at bedømme og vurdere hinanden. Det gælder i forbindelse med ansøgnings- og bevillingsprocesser samt publikationer f.eks. i tidsskrifter eller som bøger. Der er tale om et system, der er udviklet i en tid, hvor der var langt mindre forskning, og hvor enkelte forskere kunne forventes at have overblik over en meget bredere forskningsfront. Det er ikke realiteten i dag, hvor de færreste har mulighed for at have dyb indsigt på tværs af områder. Det nuværende system er omkostningstungt og de mange afslag på bevillinger fremhæves som en stor udfordring for udvikling og fastholdelse af medarbejdere på de offentlige forskningsinstitutioner. Der pågår endvidere en diskussion om hvorvidt det nuværende system er retfærdigt og leder til promovering af de bedste ideer. For innovationsindsatsen gælder det at virksomheder bruger meget tid på at søge om midler i gennem systemer, der fungerer med relativt lange sagsbehandlingstider. Det er en hæmsko for et velfungerende innovationsfremmesystem.
I debatten inviteres til en drøftelse af hvorvidt kunstig intelligens kan bruges i den fremtidige udvikling af rammerne for forskningsaktiviteter. Her tænkes dels på fagfællebedømmelser og publikationsmønstre, dels på ansøgnings- og bevillingsstrukturer. Kan kunstig intelligens ændre vores meriterings- og ressourceallokeringstraditioner og f.eks. udvikle alternativer til ineffektive ansøgningsprocesser? Der vil blive stillet skarpt på de udfordringer og muligheder som møder fonde, institutioner og forlag.
Handlinger tilknyttet webside