PhD in Secure and Privacy-Preserving Collaborative Language Models

Institut for Elektroniske Systemer ved Det Tekniske Fakultet for IT og Design inviterer ansøgere til et PhD-stipendium inden for sikker maskinlæring under det generelle studieprogram Elektronik og Elektroteknik. Stillingen er ledig fra den 1. november 2026 eller snarest muligt derefter.

Aalborg Universitet er internationalt anerkendt inden for elektronisk ingeniørvidenskab for sin høje akademiske kvalitet og samfundsmæssige indflydelse. Institut for Elektroniske Systemer beskæftiger over 200 medarbejdere, heraf omkring 90 ph.d.-studerende. Cirka 40 % af alle medarbejdere er internationale.

Instituttet har mere end 600 studerende på sine bachelor- og kandidatuddannelser, som er baseret på AAU's problembaserede læringsmodel. Instituttet udnytter sin unikke forskningsinfrastruktur og laboratoriefaciliteter til at udføre verdensførende grundforskning og anvendt forskning inden for kommunikation, netværk, styresystemer, AI, lyd, cybersikkerhed og robotteknologi.

Instituttet spiller en aktiv rolle i overførslen af opfindelser og resultater til applikationer i tæt samarbejde med industrielle partnere verden over. Mere information om instituttet kan findes på www.es.aau.dk.

Dine arbejdsopgaver

AAU’s cybersikkerhedsgruppe søger en motiveret ph.d.-forsker til at styrke Aalborg Universitets team, der fokuserer på sikre og privatlivsbevarende kollaborative sprogmodeller. Denne forskning vil adressere kritiske udfordringer, som opstår, når flere parter i fællesskab træner, finjusterer eller implementerer store sprogmodeller i distribuerede miljøer, samtidig med at modelintegriteten og datakonfidensialiteten beskyttes.

Den succesfulde kandidat vil udvikle nye rammer, der muliggør effektivt samarbejde mellem sprogmodelbaserede agenter. Dette skal ske uden at afsløre proprietære parametre, private træningsdata eller følsomme ræsonnementspor til upålidelige deltagere. Specifikke forskningsemner kan inkludere, men er ikke begrænset til:

1. Privatlivsbevarende distribueret læring for sprogmodeller, som integrerer fødereret læring eller decentraliserede træningsskemaer med differential privacy og sikker aggregering for at forhindre memorisering af træningsdata og angreb på medlemskabsinferens.
2. Kryptografiske beskyttelsesmekanismer til kollaborativ inferens og finjustering, der anvender sikker multiparty-beregning eller homomorfisk kryptering for at sikre, at modelopdateringer, gradienter og mellemliggende repræsentationer forbliver fortrolige gennem hele den kollaborative arbejdsgang.
3. Forsvar mod modelekstraktion og chain-of-thought ekstraktionsangreb, der designer protokoller, som detekterer og mindsker fjendtlige forsøg på at rekonstruere modelfunktionalitet eller stjæle sekventielle ræsonnementsstier under multiagent-interaktioner.
4. Sikker agentisk AI, der undersøger, hvordan autonome sprogagenter kan forhandle, verificere og udføre privatlivsfølsomme opgaver, samtidig med at kontekstlækage, eksponering af tilstand eller utilsigtet informationsflow gennem semantiske sidekanaler forhindres.

Forskningen vil blive valideret gennem virkelige anvendelsesscenarier. Dette inkluderer blandt andet tværorganisatorisk videndeling, fortrolig sundhedsdataanalyse og kollaborativ trusselsdetektion.

Målet er at producere en sammenhængende ramme, der afbalancerer stærke sikkerhedsgarantier med beregningsmæssig gennemførlighed og modelnytte.

Dine kompetencer

Aalborg Universitet søger en kandidat med følgende kompetencer:

• Mastergrad i informationsteknologi, datalogi, cybersikkerhed, softwareudvikling eller relaterede felter.
• Stærke programmeringsfærdigheder (f.eks. Python).
• Stærk motivation for at bidrage til banebrydende forskning inden for AI og sikkerhed.
• Fremragende skriftlige og mundtlige engelskkundskaber.
• Evnen til at arbejde selvstændigt og i samarbejde inden for tværfaglige teams.
• Forudgående erfaring inden for privatlivsbevarende maskinlæring, distribueret træning, store sprogmodeller, agentisk AI eller kryptografiske protokoller er en fordel, men ikke et krav.

Kvalifikationskrav

Ph.d.-stipendier tildeles personer med en kandidatgrad. Ph.d.-stipendier gives normalt for en periode på 3 år.

Det er en forudsætning for tildeling af stipendiet, at kandidaten indskrives som ph.d.-studerende ved Det Tekniske Ph.d.-skole for IT og Design. Dette skal ske i overensstemmelse med reglerne i Bekendtgørelse nr. 1039 af 27. august 2013 om ph.d.-uddannelsen ved universiteterne og visse højere kunstneriske uddannelsesinstitutioner.

I henhold til bekendtgørelsen skal den ph.d.-studerendes fremskridt vurderes regelmæssigt.

Hvem Aalborg Universitet er

Ph.d.-studerende vil arbejde i cybersikkerhedsgruppen. Aalborg Universitet forventer også et tæt samarbejde med AI:SECURITY LAB ved Aalborg Universitet.

Cybersikkerhedsgruppen i Institut for Elektroniske Systemer består af omkring 20 medarbejdere. Disse omfatter fakultetsmedlemmer, postdoc-forskere, ph.d.-studerende og videnskabelige assistenter.

Gruppen har bred ekspertise inden for alle emner relateret til cybersikkerhed og maskinlæring. Dette inkluderer blandt andet netværkssikkerhed, kryptografi, sikker beregning og maskinlæringssikkerhed.

AI:SECURITY LAB er en del af AI:X-initiativet med fire ph.d.-stipendier. Laboratoriet er et samarbejde mellem Institut for Elektroniske Systemer og Institut for Datalogi ved Det Tekniske Fakultet for IT og Design.

Laboratoriet er en del af et voksende forskningsmiljø inden for AI-sikkerhed. Det forventes at vokse til cirka 10 ph.d.-studerende inden for det næste år.

Aalborg Universitet adresserer alle emner relateret til (cyber)sikkerhed inden for AI. Dette gælder især inden for Natural Language Processing (NLP).

Aalborg Universitet afholder regelmæssige seminarer for at fremme åben diskussion og konstruktiv feedback. Psykologisk sikkerhed er central for Aalborg Universitets gruppe. Dette sikrer, at hvert medlem kan foreslå nye ideer, stille udfordrende spørgsmål og diskutere vanskeligheder uden frygt for negativ bedømmelse.

Aalborg Universitet værdsætter forskellige synspunkter og tilbyder individualiseret mentorskap. Dette afbalancerer støtte med uafhængig vækst, hvilket skaber et miljø, hvor grundig forskning og gensidig respekt går hånd i hånd.

Sådan ansøger du

Din ansøgning skal indeholde følgende:

• Ansøgning, der angiver begrundelse for ansøgningen og kvalifikationer i forhold til stillingen.
• Curriculum Vitae (CV).
• Diplomer (bachelor- og kandidatdiplom, inklusive karakterer).
• En projektbeskrivelse på maksimalt 2 sider, der skitserer din motivation og intentioner for stillingen. Den bør inkludere en kort introduktion til emnet, state-of-the-art, relevante teknikker og forventede resultater.
• Andre relevante dokumenter.

Ansøgningen skal indsendes via Aalborg Universitets rekrutteringssystem. Systemet kan tilgås under jobannoncen på Aalborg Universitets hjemmeside.

Aalborg Universitet ønsker at afspejle det omkringliggende samfund og har diversitet som en kerneværdi. Derfor opfordres alle, uanset personlig baggrund og orientering, til at søge.