San Francisco, Los Angeles e R: la mancanza di trasparenza sull’uso degli algoritmi da parte del pubblico minaccia la certezza del diritto
https://www.information.dk/debat/2024/07/sf-la-r-manglende-aabenhed-offentliges-brug-algoritmer-truer-retssikkerheden
di WolfeTones456
7 commenti
>Vi står sammen om at kræve gennemsigtighed i de algoritmer, der anvendes inden for offentlig sagsbehandling.
Klaphatte. Det er sgu da deres egen lovgivning der ligger til grund for de automatiseringer der sker. Det er sgu da ikke XFiles der er ved at opstå ude på socialkontorerne i kommunerne. Som om Mulder og Scully skal til at søge efter en overnaturlig sandhed i algoritmernes grundlag.
>Algoritmer kan være ekstremt komplekse og baseret på maskinlæringsmodeller, som selv deres skabere ikke altid kan forklare.
Nåh. Jamen dog. Så det er kun udviklingskonsulenterne der ikke forstår Forvaltningsloven? Er det ikke noget med at det er den mest komplekse lovsamling i Danmark? Gad vide om der er andre der ikke forstår den? Fx politikerne? Eller dem der skal forvalte loven? Er der noget at sige til det? Næh!
Det er vel meget fornuftigt at man skal kunne redegøre for alle mellemregningerne for en given konklusion. Selvom det er et program som normalt udfører arbejdet.
Især når det påvirker mennesker og især når det drejer sig om lovgivning som ikke er en eksakt videnskab.
Jeg kan sagtens følge retssikkerhedsargumentet.
Men når folk i næste uge igen undrer sig over hvorfor vi ansætter flere og flere DJØFere og hvorfor offentlig IT bliver dyrere og dyrere, så illustrerer det her meget godt hvorfor.
Hvis borgerne skal have total gennemsigtighed i processer inkl. i forbindelse med klager, så kræver det at enhvert trin i processen dokumenteres. Det kræver at arbejdsgangene bygges op omkring den dokumentation. Det kræver IT-systemer og at det vedligeholdes. Det kræver personale til at oplære “de varme hænder” i softwaren. Det kræver personale til at følge op registreringerne og identificere huller eller mangler i processen.
Det kan man selvfølgelig mene er det værd. Jeg synes bare lige vi bør sige det højt.
https://www.politico.eu/article/dutch-scandal-serves-as-a-warning-for-europe-over-risks-of-using-algorithms/
EUs nye AI act kræver præcist dette, når det kommer til beslutninger truffet med kunstig intelligens: Det skal være muligt for borgerne at få indblik i mellemregningerne.
Selvom AI Act ikke er trådt i kraft endnu, skader det da ikke at være på forkant.
Manglende åbenhed om det offentlige og regeringen truer retssikkerheden*
Fixed it.
LA: vi vil afbureaukratisere! Fjern en multiard offentlige ansatte! Uden forringelse af service! Hvilke jobs? Det finder vi ud af senere.
Også LA: