USA: L’IA invia uno studente universitario di 13 anni in prigione per uno scherzo, una cavolessa autoritaria inquietante
https://www.lesnumeriques.com/intelligence-artificielle/l-ia-envoie-une-collegienne-de-13-ans-en-prison-pour-une-blague-une-derive-autoritaire-inquietante-n240849.html
di Worried-Witness268
12 commenti
je sait que les gamins en france ont des espaces numérique etc mais ce genre d’application est surveillé chez nous aussi ?
le plus choquant dans cette news c’est pas tellement les alertes (des faux positif il y en aura toujours ) mais le fait qu’il n’y ai pas une contrôle humain pour dire ” fausse alerte ” et comprendre le contexte du message au lieu d’envoyer direct le swat arreter des gosses et les trauma
heu… c’est plus une “dérive” autoritaire, c’est une dictature là. Je sais pas bien ce qu’il vous faut de plus. Des chapeaux gris et des chaussures à fermeture éclair ?
Quelle horreur, et comment ces spywares ont accès aux infos des réseaux dans un premier temps, est-ce qu’ils scannent tout post publique fait par des enfants? C’est extrêmement louche si c’est le cas.
Ce genre d’applications devrait tout bonnement être rendue illégale, il n’y a rien de bon qui peut en découler.
Hé oui, Minority Report n’est plus de la science-fiction : grâce à l’IA, il est bel et bien en marche. C’était parfaitement prévisible. Les intelligences artificielles savent déjà détecter des comportements, repérer des « patterns ». Reste à définir — ou plutôt à décider — où commence la « déviance »…
Nos CV sont déjà passés au crible par des algorithmes, et demain, peut-être, il faudra qu’une IA se porte garante de nous… ou qu’on la consulte à la place de LinkedIn. Longtemps, je ne me suis pas inquiété de la collecte massive de données : exploiter ces volumes relevait de l’inhumain. Mais aujourd’hui, nous avons franchi un cap… et il est numérique.
Quant à la petite « blagounette » raciste d’une adolescente, elle est aussi préoccupante que le reste. Et pointer du doigt Trump serait une erreur : ce serait oublier qu’il n’est pas une anomalie, mais bien le produit — et parfois la caricature — d’un pays entier.
Ce qui est grave ce n’est pas tant que l’IA déclenche une alerte (même si ce n’est pas trop le monde que je veux), mais que les humains derrière aient suivi, sans comprendre la blague
Pendant ce temps, le gouvernement exécute le plan de la collégienne pour de vrai.
> La mère de la collégienne, Leslie Mathis, déclare : “Ça me fait me demander si c’est ça l’Amérique dans laquelle nous vivons et c’est cette technologie stupide qui passe en revue et collecte des mots au hasard sans regarder le contexte”.
C’est quand même marrant ça, c’est représentatif d’une tendance que j’ai observé chez les américains. Lorsque tu leur parle de la politique de leur pays, très souvent tu leur apprend des choses sur leur propre pays. La stratégie de trump d’inonder les médias d’information est terriblement efficace.
C’est pas l’IA mais les adultes qui ont pris la décision de la mettre en garde à vue… L’IA ne peut pas saisir la nuance entre une blague faite par une collégienne à l’humour discutable et une véritable menace de “fusillade de masse”.
Avec une IA comme ça, les commentateurs du Figaro passeraient leurs vies en prison.
Je suis davantage choqué par l’ampleur de la punition que par le système de détection. Que les US aient un système qui alerte quand un ado dit qu’il va tuer plein de gens sur un réseau de communication ouvert, vu le passif de leur pays sur le sujet, je comprends. Mais la suite doit être de vérifier si la menace est réelle, et de laisser couler si elle ne l’est pas. Punir et traumatiser à ce point des ados parce qu’ils disent de la daube c’est stupide.
La dérive autoritaire c’était il y a 3 mois, là c’est deja un régime autocratique
Alors oui c’est abusé l’ia n’a rien à foutre la dedans et la peine est démesurée, mais vu l’horreur des tueries de masse la bas je suis pas surpris que la réponse soit si aggressive.
Et en vrai si j’étais parents je serai un peu rassuré qu’il y ait au minimum des alertes ou des interventions de services sociaux si des élèves blaguent sur le fait de « tuer tous les mexicos », mais pas à ce point