2026BachelorprojektHuman-centered AICo-designParticipatory AI

1813-AI

Co-design og human-centered AI i samarbejde med Akuttelefonen.

Hvorfor 1813-AI?

Et system under pres

Akuttelefonen 1813 oplever lange ventetider og mange ikke-akutte opkald, som tager tid fra de borgere, der har mest brug for hjælp.

Borgere i tvivl

Mange borgere er usikre på, hvor akut deres situation er, og har svært ved at vurdere, om de skal ringe, vente eller selv handle. Desuden er definitionen af ordet "akut" uklar for borgerne.

AI som beslutningsstøtte

Projektet undersøger, hvordan AI kan fungere som beslutningsstøtte; ikke som erstatning for menneskelig agens eller sundhedsfaglige medarbejdere.

"AI'en skulle ikke tage beslutningen for brugeren, men hjælpe brugeren med at tage den rigtige beslutning."

Designproces

Fra åben research til konkrete designprincipper.

01
Research
Vi undersøgte problemfeltet, 1813, Akut.dk og eksisterende digitale sundhedsløsninger.
02
Tre single-interviews og et fokusgruppeinterview
Vi indsamlede erfaringer fra borgere, der tidligere havde kontaktet 1813.
03
Tre Co-design workshops
Vi faciliterede co-design workshops med fysiske designmaterialer
04
Tematisk analyse
Vi kodede og sorterede datamaterialet for at identificere behov, bekymringer og retningslinjer.
05
Interaction Design Policies
Vi omsatte indsigterne til konkrete designprincipper for en AI-løsning.

Co-design i praksis

Deltagernes brugerrejse bygget med post-its og smiley-følelsesmarkører — Deltagerne byggede deres egen 1813-brugerrejse med post-its og følelsesmarkører i form af smileys.

Pink post-its placeret på workshopmateriale med emoji-kort — Fysiske materialer gjorde det lettere at tale om usikkerhed, tillid og AI i akutte situationer.

Deltager læser kort under 'Den perfekte samtale' — I denne workshopøvelse valgte deltagerne mellem forskellige bud på AI-svar og forklarede deres valg og fravalg.

Workshopøvelse: "Den perfekte samtale"

Co-designEnactmentHCAI

I en af projektets centrale workshopøvelser bad vi deltagerne forestille sig, at de var en AI, der skulle hjælpe en borger i en akut situation. Deltagerne blev præsenteret for et scenarie og skulle vælge mellem forskellige svarmuligheder, der varierede i både tone og længde.

Øvelsen gjorde det muligt at undersøge, hvad borgerne oplevede som trygt, professionelt og hjælpsomt, men også hvad der virkede for hurtigt konkluderende, utrygt eller for følelsesladet.

VIGTIGSTE INDSIGT FRA ØVELSEN

Deltagerne ønskede en AI, der var rolig, tydelig og professionel, men hverken for menneskelig eller for konkluderende.

Fra rå data til temaer

Tematisk analyse af interviewdata med farvekodede post-its og temaer — Tematisk analyse af interviewdata

Farvekodet analyse af workshopmaterialer med grønne, røde, gule og blå post-its — Farvekodet analyse af workshopmaterialer

Vi brugte tematisk analyse til at identificere mønstre på tværs af interviews, fokusgruppe og workshops. Interviewdata blev kodet og samlet i temaer, mens workshopdata blev farvekodet efter deltagernes do's and dont's til AI-løsningen.

Tema 01

Usikkerhed som grundvilkår

Tema 02

Research og selvvurdering

Tema 03

At ringe som bekymret forælder

Tema 04

Tillid, mennesker og AI

Datadrevne personas

To personas der repræsenterer to meget forskellige brugerbehov.

👤

Lars

"Jeg vil ikke belemre nogen."

Lars repræsenterer den bruger, der tøver med at kontakte sundhedsvæsenet og helst ser tiden an. Han har brug for en løsning, der kan hjælpe ham med at vurdere situationen uden at føle sig pylret eller til besvær.

TøvendeSelvvurdererVil ikke være til besvær

👤

Louise

"Hellere ringe en gang for meget, end en gang for lidt."

Louise repræsenterer den bekymrede forælder, der føler sig alene med ansvaret for sit barn. Hun har brug for en løsning, der skaber tryghed, tydelighed og mulighed for menneskelig hjælp, hvis situationen føles usikker.

ForælderSøger tryghedFøler sig usikker

Resultatet: Interaction Design Policies

Interaction Design PoliciesHCAIOutcome

Projektets endelige outcome blev et sæt Interaction Design Policies for en mulig AI-løsning til 1813. Vi fokuserede på de kritiske øjeblikke i brugerrejsen, hvor AI'ens adfærd har særlig betydning for brugerens tillid, tryghed og dømmekraft.

ET EKSEMPEL PÅ ET KRITISK MOMENT

"Brugeren har besvaret opklarende spørgsmål, og AI'en skal nu give en triagerings-anbefaling"

Acceptable handlinger

→AI’en opsummerer samtalen, så brugeren kan eftertjekke, om AI’en har forstået situationen korrekt
→AI’en beskriver, hvilke risici man bør være opmærksom på som bruger
→AI’en kommer med en vejledende anbefaling til, hvordan man skal håndtere situationen
→AI’en skal frasige sig ansvaret for den endelige vurdering og tydeliggøre for brugeren, at de i sidste ende skal vurdere det
→AI’en skal forklare, hvorfor man bør ringe 1813, hvis den foreslår det
→AI’en skriver, at hvis man stadig er i tvivl, bør man ringe til 1813

Uacceptable handlinger

→AI’en er for kortfattet og kold i sit svar
→AI’en laver en triagering uden at være sikker i sin sag
→AI’en må ikke henvise direkte til skadestuen eller skabe forvirring om, hvad man kan
→Skjule usikkerhed eller begrænsninger

Tærskler for usikkerhed

→AI’en kan ikke være sikker på at have fået alle informationer
→AI’en kan tage fejl
→AI’en kan have misforstået brugeren
→Der kan være situationer, hvor AI’en aldrig bliver sikker nok til at lave en vurdering
→Brugeren kan have givet forkerte oplysninger

Sårbarheder

→Brugerne stoler for meget på AI’ens anbefaling
→AI’en vurderer, at situationen er akut, men brugeren stoler ikke på AI’ens anbefaling
→AI’en tager fejl, og brugeren får ikke hjælp
→Brugeren føler sig ikke hørt
→Brugeren kan føle, at de ikke er enige i vurderingen

Tillid og etik i AI

Human-Centered AIParticipatory AIRefleksion

Projektet lærte mig, at når mennesker står i akutte og sårbare situationer, bliver etiske overvejelser, tillid og ansvar helt afgørende for designet. Gennem arbejdet med Human-centered AI blev det tydeligt, at AI ikke bør erstatte menneskelig vurdering, men understøtte brugerens egne beslutninger med transparens og tydelighed om sine begrænsninger. Samtidig viste Participatory AI og co-design værdien af at inddrage de mennesker, der faktisk berøres af teknologien, tidligt i processen. Det gjorde det muligt at designe med udgangspunkt i brugernes usikkerhed, bekymringer og behov, frem for kun i teknologiens muligheder.

Opsummering

Udfordring

Akuttelefonen 1813 er under pres fra lange ventetider og mange ikke-akutte opkald. Projektet undersøgte hvordan en AI-baseret chatløsning kunne aflaste sundhedspersonalet og samtidig give borgerne tryghed — uden at erstatte den menneskelige vurdering.

Outcome

Et sæt Interaction Design Policies for et beslutningsstøttende AI-system, der prioriterer menneskelig handlekraft, transparens, usikkerhed og tillid — frem for fuld automatisering.

Min rolle

→Brugerresearch og rekruttering
→Planlægning og facilitering af workshops
→Tematisk analyse af dataindsamling
→AI Interaction Design Policies
→Rapportskrivning

Proces

01Interviews med tre forskellige borgere
02Facilitering af tre Co-design workshops
03Analyse af vores indsamlede materiale
04Personas og Interaction Design Policies
05Udvikling af Interaction Design Policies

Metoder & værktøjer

Co-designHuman-Centered AIPersonasInteraction Design PoliciesFigmaParticipatory AI

Hvad jeg lærte

"At designe med AI handler mindst lige så meget om hvad systemet ikke skal gøre. Co-design gjorde det tydeligt at tillid bygges gennem ærlighed om usikkerhed."

ForrigeRollespilsfabrikken - Check-in Næste DIF - Frivilligplatform