Avevo un vago ricordo di aver sentito che Sigurd Barett aveva avuto problemi con la droga e l’ho cercato su Google.
La prima cosa che appare su Google è una spiegazione della sua dipendenza dalla droga. È solo quando premi "vedere di più" che vedi che l’IA alla fine cambia idea e conclude che non ha una dipendenza dalla droga.
Penso che sia estremamente problematico, perché quanti non vedrebbero la risposta e poi se ne andrebbero con quella convinzione.
E ovviamente allucina anche gli articoli.
https://www.reddit.com/gallery/1ri6sm8
di Lowkilde
10 commenti
De store sprogmodeller som fejlagtigt kaldes AI kan ikke bruges til at samle troværdig viden om noget du ikke i forvejen meget om – så meget at du kan fange fejlene.
De er ubrugelige og faktisk skadelige ift at lære noget nyt, fordi de er så fulde af fejl og misinformation.
Sigurd? Kokainmisbrug? Den pæne mand 😅
Det kan simpelthen ikke passe at Googles påtvungen “AI-overblik” er fuldkommen retarderet 99% af tiden. Det kan det bare ikke.
Og bare lige for sjov, prøv at søge efter “I’m a baby kitty where is mama”, og se hvad den giver dig.
Jeg tror simpelthen ikke på at AI, bevidst prøver at manipulere med sandheden, men derimod at artiklerne er skrevet “kludret” hvis det giver mening. Men det belyser jo stadig et problem, og det er at vi blindt stoler på noget som bare vil finde frem til en konklusion, hurtigst muligt, og det er farligt. Lad os nu forhelvede tænke over vores AI forbrug, for hvad gavner det egentlig at forbyde os?. For det skader både klimaet og vores evne til at tænke selv
IMO er det ikke anderledes end de folk som får deres nyheder fra en person på TikTok som står og holder et headset i hånden. Eller dem som laver al deres egen “forskning” på Facebook.
Der er rigeligt med tilfælde hvor folk får dårlig information, hvis de ikke forstår at udføre kildekritik, hvilket omkring 50-70% af befolkningen ikke gør. Men den eneste løsning er at uddanne dem, eller lukke internettet.
Altså min søgning giver en meget sober:
“Det er ikke kendt eller rapporteret, at Sigurd Barrett har haft problemer med stofmisbrug.
Sigurd Barrett er en kendt dansk musiker, forfatter og tv-vært, primært kendt for sit børne- og formidlingsarbejde. Der findes ingen offentligt tilgængelige oplysninger, der forbinder ham med stoffer.”
Når det så er sagt så scroller jeg pænt forbi hvad end der står i det pis hver gang jeg googler noget. Men jeg forstår ikke hvordan du har fået det svar frem.
Injurielovgivningen bør dække AI-udtalelser.
In other news “AI (reelt LLM’ere) hallucinerer ofte, især når den arbejder på et sprog den ikke er bygget til og med et emne der er meget få kilder indenfor.
Den konkluderer jo heller ikke at han ikke har haft et stofmisbrug.
Men der imod at han ikke har et stofmisbrug på nuværende tidspunkt.
What?