Bevilling: ITU-forsker vil skabe transparens i AI-modellers datagrundlag

Adjunkt på IT-Universitetet i København, Anna Rogers, har sikret en fornem Villum Young Investigator-bevilling på 7 millioner kroner, som skal bruges til at skabe større klarhed vedrørende det datagrundlag, som kunstig intelligens trænes på.

Anna RogersInstitut for DatalogiForskningalgoritmerbevillingerkunstig intelligenssprogteknologi

Skrevet 24. januar 2024 09:19 af Theis Duelund Jensen

Sidste år kårede Dansk Sprognævn ChatGPT som det ord, der bedst karakteriserer 2023.Den kan både skrive taler, festsange og dansk stil, hvis man forstår at kommunikere med den. ChatGPT tilhører den såkaldte generative form for kunstig intelligens, der kan producere nyt indhold ud fra data, den er blevet fodret med. Men den angiver ikke, hvilke kilder den baserer sine svar på, så det er ikke nemt at kigge den i kortene.

Med projektet PlagAIrism: identifikation af træningsdatakilder i generativ kunstig intelligens, der netop har modtaget en bevilling på 7 millioner kroner via Villum Fondens Villum Young Investigator-program, ønsker Anna Rogers, der er adjunkt ved IT-Universitetet i Københavns Institut for Datalogi, at udvikle nye metoder til at identificere og angive kilderne til de data som robotter som ChatGPTer blevet trænet med. Det skal bidrage til gennemsigtighed, pålidelighed og respekt for ophavsrettigheder i udviklingen af generative AI systemer.

”Bevillingen giver mig mulighed for at starte et nyt forskningslaboratorium, hvor der ved hjælp af træningsdata skal udarbejdes kerneprincipper for fortolkningsmuligheder i NLP-modeller. Pengene skal gå til en postdoc-stilling og to ph.d.-studerende samt en ny GPU-server. I samarbejde med Allen Institute for AI, Carnegie Mellon University, og firmaet Hugging Face skal projektet udvikle nye metoder til at identificere referencer til træningsdata for sprogmodeller. Sådanne metoder kan potentielt ændre vores syn på, hvordan man krediterer og kompenserer dem, der skaber datamaterialet, som AI-modeller trænes med,” siger Anna Rogers.

I år har Villum Fonden modtaget 142 ansøgninger til Villum Young Investigator-programmet. De 18 forskere, der er kommet gennem nåleøjet, har været igennem en proces med faglig bedømmelse, interview med fondens videnskabelige komité og endelig godkendelse i fondens bestyrelse.

Mere information