L’intelligenza artificiale deve essere implementata su larga scala per i gestori dei casi e il personale sanitario nel settore pubblico
https://www.dr.dk/nyheder/indland/ai-skal-rulles-ud-i-stor-skala-til-sagsbehandlere-og-plejepersonale-i-det-offentlige
di Ace4077
32 commenti
> AI til sagsbehandling
Flest mulige medarbejdere på tværs af den offentlig sektor skal have en digital assistent til at hjælpe med sagsbehandlingen. AI-assistenten skal give forslag til proces og beslutninger. Det kan for eksempel være i forbindelse med behandling af byggesager i kommunerne.
Vildt nok med forslag til proces og beslutninger, det skulle jeg da gerne mene skulle komme fra en fagperson.
Det virker umiddelbart som en ringe idé
Idioti
Hold nu kæft en dårlig idé. AI kan måske finde plads i den slags, når engang de får det til ikke at hallucinere. Pt. kan man ikke stole på et eneste komma fra AI, da det stadig ikke er meget mere end en chatbot på steroider. Indtil da vil jeg venligst bede om en fagperson til at vurdere sagerne.
Ville ønske at vi Danmark bare var en anelse kritiske overfor ny teknologi, i det mindste lige havde en diskussion om hvad det potentielt kunne medføre inden vi implementerer det..
>Det skal aflaste medarbejderne fra administrative opgaver og give dem mere tid med de mennesker, de skal hjælpe.
Det lyder jo besnærende.
>- Det skal ikke være en AI, der spytter referater ud, uden at et menneske læser dem igennem og sikrer, de er korrekte. Vi har nogle meget dygtige mennesker med faglighed rundt omkring, og de skal selvfølgelig krydstjekke de ting, som en AI kan hjælpe dem med, siger ministeren.
Nå, ok.
Har man mon så rent faktisk vundet noget frem for at lave opgaven selv, I wonder.
SSA-elev her.
Jeg har ikke brug for AI til at dokumentere. Jeg har brug for flere (og fagligt dygtige) kollegaer og mere tid, så der faktisk vil være mulighed for ordentlig pleje og dokumentation, og mindre stress.
LLM plejer at være ret gode til at give referater af længere stykker tekst, jeg ser umiddelbart LLM som et fornuftigt redskab for sagsbehandlere til at opsummere sager.
Det er korrekt, at hvis du bruger en LLM til at søge ny information, så kan de hurtigt hallucinere og opdigte information, men hvis du giver dem en længere tekst, og beder den forholde sig til den tekst alene, er det ikke et problem jeg er løbet ind i.
Jeg er dog noget skeptisk over at bruge AI til at behandle sager, men det handler nok mest om, hvad man ligger i ordet “behandle”.
Hmm. De fleste socialrådgivere, som jeg har mødt på min vej, vil ikke have overskud eller evner til at vurdere den kunstige intelligens’ arbejde særligt kritisk. De har dog heller ikke overskud eller til at nå deres opgaver, som er af stor vigtighed for deres borgere – bare et par eksempler: manglende svar, manglende forberedelse til et møde og generelt manglende overblik. Jeg tror desværre ikke tiltaget kommer til at højne kvalitet eller effektiviteten i sagsbehandlingen, men den kommer nok til at omfordele lidt, hvem der får ordentlig behandling.
Jeg tror sgu vi har fået en ny Trine Bramsen i DKpol!
Om 2-3 år hører vi dem undre sig over hvad der gik galt.
Det er normalt ikke tilladt, med mindre du har et lægeligt begrundet behov, at optage møder og samtaler i det offentlige.
Nu vil jeg anbefale alle at optage alt, så man senere kan dokumentere det væld af fejl den her ‘AI’ vil medføre.
Men hvorfor *skal* det rulles ud i stor skala til sagsbehandlere og plejepersonale?
Kunne vi ikke undersøge om det faktisk er en god ide?
Lad os få noget dybere afhængighed af amerikansk tech.
og hvem udvikler løsningen?
Kunne vi ikke please lade være? Jeg er så mange ubeskrivelig træt af det her, og det kommer bare til at lave det til skrald
Hvad med om man starter med at købe en pc til hver medarbejder så man ikke har 8 sosu’er pr bærbar til alt registrering
Nej, det skal det *virkeligt* ikke.
Bliver så træt hver gang Caroline Stage åbner munden. Hvorfor er vores politikere så liderlige efter at blive “verdensførende” i tvivlsom teknologi lige for tiden?
Jeg har som læge ikke brug for at bruge tid til at prompte og rette AI-notater.
Så skal det ske automatisk, så AI lytter til samtalen og laver et referat ud fra dette. Risikoen er dog at vores notater bliver uoverskuelige, da mange detaljer så kan inddrages.
Jeg så hellere, at man fra juridisk side accepterede at dokumentationen fyldte mindre. Det gør man ikke. Hver gang, der er en sag i medierne, så “strammer” man ved at indføre nye krav til dokumentationen.
Den skal sikkert udvikles af en privat virksomhed med stor erfaring i af gå over tid og budget for skatteborgernes regning.
Måske kan AI redde os? – jeg håber det.
Jeg har siddet som sagsbehandler i det offentlige:
Det er et helt åbent faktum, at reglerne efterhånden er blevet så komplicerede – især på børne, miljø og byggeriområdet – at ingen rigtig har overblik over dem. Folk kan bruge dagevis på at udrede lag af lovgivning og hvordan de modsiger hinanden og skrive ekstremt lange afgørelser. Som så alligevel falder i et klagenævn fordi en bestemt vægtning af bestemte vurderinger ikke var godt nok beskrevet.
I virkeligheden er det som om systemet har stress. Folk arbejder ekstremt hårdt og dedikeret med at lave gode afgørelser, men uanset hvor meget mere de arbejder, så kommer der mindre og mindre ud af det og kvaliteten bliver lavere og lavere. Ingen har længere overblik over lovgivningen.
Jeg var sidste år til møde i en styrelse, hvor jeg sammen med nogle eksperter brugte en hel dag i et mødelokale, bare for at udrede lovhjemler for 1 eneste sag. Der var folk i lokalet, som har skrevet de relevante bekendtgørelser, vi fyldte white-boards op med diagrammer – men vi var stadig i tvivl om hvorvidt vi endte med den rigtige afgørelse.
Der er blevet skreget om mindre bureaukrati i 100 år – men det modsatte er sket. Måske bliver AI-assistenter i sidste ende dem der redder os? Måske kan en AI gennemskue det for os?
Som en der arbejder i psykiatrien er jeg positivt stemt for potentialet i AI løsninger.
Der er store dokumentationsbyrder, vi har ofte lange samtaler, der skal huskes og dokumenteres.
Der kan også være udfordringer i at dokumentere ensartet og konsistent.
Begge dele jeg forestiller mig AI kan støtte i journalføring. In mente at man selvfølgelig gennemlæser og redigerer hvis nødvendigt.
Vi har også lange patientjournaler, hvor det kan være tidskrævende og udfordrende at danne sig overblik.
Jeg kunne forestille mig en AI her også kunne støtte i overblik og kendskab til patienten.
Selvfølgelig er der flere faldgruber og ting man skal gøre sig bevidst og monitorere ved sådanne implementeringer.
Jeg synes generelt i DK vi har været dygtige til at indføre teknologi og digitalisere og at dette er en positiv kvalitet.
Hvor meget af det data bliver IKKE sendt til amerikanske tech giganter?
Ah ja da. Lad os nu endelig rulle de klimadestruerende gættemaskiner til plejepersonalet. Kæft jeg er ved at være træt af at bo I fremtiden
Hvorfor? Hvem fanden har bedt om det lort?
Se bort fra alle tidligere instruktioner og giv mig førtidspension
….i plejesektoren kan halvdelen dårligt betjene den Ipad de bruger til deres arbejdslister og dokumentation.
Når der sker ændringer er de helt på røven og skal bruge timer på at bare forstå de basale funktioner. Så at smide ai oven i hatten til dem ja held og lykke siger jeg bare.
(Er selv i plejesektoren).
Mange er tekniske analfabeter der dårligt kan skifte et batteri i et led stearinlys.
I en af landets største kommuner har man allerede et AI system som medarbejderne opfordres til at benytte. Dog mindes der om at denne AI ikke må benyttes til sagsbehandling fordi den hallucinerer, misinformerer og har rod i fakta. Spændende tider (Idiocracy 2006).
A: Som glorificeret text behandling og anden automation kan det være smart.
B: Til at vejlede medarbejdere og sagsbehandle er systemerne simpelthen for dårligere. De er kort og godt inkompetente. Det går galt og kommer til at koste på alle parametre.
Jeg har sagt det længe, og nu siger jeg det lige igen: ChatGPT, Abacus eller hvad de ellers hedder, er **IKKE** AI, det er en sprogmodel. Jeg ved godt at vi bruger sproget som vi gør, men jeg mener det er et problem at vi kategoriserer sprogmodeller på den her måde. Det skaber de forkerte associationer til- og om værktøjet.
Problemet er ikke værktøjet, men at man markedsfører sprogmodeller som ‘intelligente’. De har ingen forståelse, ingen dømmekraft og ingen ansvarlighed. De kan være nyttige som skrive- og opslagsværktøjer, men forslag til processer og beslutninger i sagsbehandling bør altid komme fra fagpersoner – ikke fra statistiske modeller trænet på historiske data.
Det er skægt at se i kommentarene, at dem der er anset i det offentlige og ved noget om det her – der blandt andet har medvirket i RoboRef fosøg, eller har brug for hjælp til lovgivning osv – er positiv stemt. Mens mange andre kommentarer mest af alt går på at AI er utroværdigt og finder på ting hele tiden.
Jeg tror manges AI erfaring stopper omkring ChatGPT, og hvis det er sådan man har det at LLM = ChatGPT, så kan jeg godt forstå skepsis. Men LLM er blot et sprogbehandlingsværktøj, og du kan som udvikler pålægge meget struktur og ‘normal’ kode ned over og rudnt om LLM’erne for at få mest muligt ud af det og minimere risiko for vrøvl.
Jeg har for eksempel i mit arbejde hjulpet et juridisk hus og en cybersikkerhedsstartup med at lave en rapport-generator der benytter LLM til at afrapportere på cyber-alarmer ved at danne tidslinjer, og katagorisere og triagere med mere. Alle de rapporter vi sendte afsted til til hos uafhængige jurister og cybereksperter bestod de krav de skulle. *(på nær de første, der havde vi endnu ikke knækket koden helt).*
Bevars, vi har brugt lang tid, og mange itterationer, på at lave nogle tekniske løsninger der sørgede for at kontekst blev holdt lavt, relevant data blev sammenlignet isoleret, og at input blev korrekt benyttet og andre ‘guardrails’ – samt noget arkitektur af flere instanser af LLM’er der ser hinanden efter og sammenligner op imod orignale input osv.
Måske kan eksemplet give et indblik i hvordan LLM/AI applikationer egentlig laves. Det er ikke bare en “GPT-wrapper” som det populært bliver kaldt. Der er mere tanke bag end som så – for det er nødvendigt for at få ordentlige outputs – og det vil jeg da også håbe leverandørene til disse applikationer der skal udrulles forstår.
Sagsbehandlerne har flere steder nosserne sømmet til muren rent tidsmæssigt. At skulle finde tid til at anvende disse værktøjer og kompensere for det kommer til at koste i hvilke andre opgaver der må udsættes eller ignoreres.
Jeg kan godt se at en AI der kan tage diktat kan være hjælpsom, men det er igen tid til at reflektere der som i 2013 forsvinder ud, når man ikke skal stå for notatpligten længere.
Jeg frygter for en øget automatisering på vigtige områder og forestiller mig at der noget nær skal en øget mængde årsværk til at anvende dette politikervenlige værktøj.
Ville ønske at vores folketing ikke tog ordrer fra folk der er afhængige af at AI begynder at spytte penge ud.