Testimonianze. “Un rilascio e una convalida di ciò che penso”: quando l’intelligenza artificiale sostituisce le consultazioni nel restringimento
https://www.franceinfo.fr/sante/psycho-bien-etre/temoignages-un-defouloir-et-une-validation-de-ce-que-je-pense-quand-l-intelligence-artificielle-remplace-les-consultations-chez-le-psy_7232604.html
di Andvarey
5 commenti
On parlait des chambres d’échos (réseaux sociaux et compagnie), on a réussi à créer la chambre d’écho individuel.
Intéressant de voir les prochaines années, en tout cas, ça renforce le scénario de la dystopie.
Cet article est… flippant.
Je suis vraiment pas fan des LLM, je déteste ce que c’est en train de faire à internet. Autant je savais que certaines personnes utilisaient chatGPT comme thérapeute, mais… Bah je pensais que c’était de l’Ado qu’est perdu, pas Arnaud, 40 ans, architecte. On a, pour 95% des gens, aucune idée de comment marchent les LLM, et on leur fait confiance bêtement.
Morceaux choisis :
>Pour certains utilisateurs, échapper au face-à-face avec le thérapeute est même un atout. *”J’ai besoin du ‘regard’ de quelque chose qui ne peut pas avoir de réactions humaines”*,
“L’homme est un animal sociable”, mouais, attendez quelques générations ça va changer.
>Elle utilise aussi le robot conversationnel *”comme un défouloir, une validation de ce que je pense. Ça a tendance à m’apaiser”.*
>*”le chatbot va vous caresser dans le sens du poil et vous flatter, car s’il vous contredit, vous risquez de quitter la conversation”*,
>*”Si je dis à ChatGPT que je me suis disputée avec mon mari, pour lui, j’aurai toujours raison. Ça peut être un gros écueil”*, estime Laurène*,
(Je crois que c’est plus qu’un gros écueil Laurène, je pense que c’est pas loin d’être une raison de ne pas du tout l’utiliser de la sorte)
>*”Je me suis demandé si je n’y avais pas recours trop facilement*, avance aussi Laurène. *Je fais appel à ChatGPT dès que j’ai un questionnement. Ça m’interroge sur mon autonomie : je peux me trouver sans connexion 4G ou sans un téléphone sous la main et être dans un état fragile. Normalement, j’ai aussi des ressources pour m’aider seule.”*
J’ai vu des gens faire des crises d’angoisses quand tu leur enlève internet. Le futur sera accro ou ne sera pas.
>*”Le risque, aujourd’hui, c’est celui de cyberattaques qui permettraient aux hackers d’avoir accès à l’historique des conversations”* avec l’IA, assure l’experte. Parmi les utilisateurs interrogés par franceinfo, peu s’en inquiètent. *”Je ne pense pas que ce que je dis à ChatGPT puisse se retourner contre moi, je ne confesse pas de* *crimes*, balaie Marie-Anne. *De toute façon, nos données sont partout, qu’on le veuille ou non.”*
La société de surveillance ? ça peut pas être un problème, c’est déjà le cas, donc ça va, jetons plus de données et d’informations, pas de soucis.
>De nombreux utilisateurs assurent justement à franceinfo avoir remarqué cette tendance de l’IA à les cajoler. “Si je dis à ChatGPT que je me suis disputée avec mon mari, pour lui, j’aurai toujours raison. Ça peut être un gros écueil”
c’est exactement ce que j’ai ressenti à l’utilisation de chatgpt sans pourvoir mettre un mot dessus : cajoler.
>”Ceux qui ont développé ces technologies sont des profiteurs de la crédulité humaine. L’algorithme est basé sur l’accoutumance (…), l’objectif est qu’il donne absolument une réponse, même si elle est erronée ou inventée, et que sa réponse donne envie de continuer la conversation”, pointe Magali Germond
c’est un point intéressant, ceux qui développent ces tech ont par le passé utilisé les faiblesses humaines pour faire du chiffre. Par exemple faire monter les contenus clivants pour augmenter le temps de présence et l’engagement des utilisateurs. Là, on voit que certains comblent leurs insécurités avec chatgpt.
Au début de Facebook, c’était gratuit, on retrouvait des personnes perdues de vue, on découvrait une nouvelle façon de communiquer. Puis, on a fini par comprendre que le produit, c’était nous.
Là, chatgpt est gratuit et nous cajole pour qu’on s’habitue mais que va t-il se passer quand il va falloir le monétiser ?
>”Le risque, aujourd’hui, c’est celui de cyberattaques qui permettraient aux hackers d’avoir accès à l’historique des conversations”
pas seulement, les données peuvent etre cédés ou bien la boite peut déposer le bilan. Du moment ou cela a une valeur économique, cela peut circuler.
Effrayant, des trentenaires (donc des adultes avec de l’expérience) qui vont acter des décisions dans leur vie professionnelle et personnelle en se basant sur des algorithmes. C’est tout ce dont les plus avertis du milieu et le monde associatif du numérique avertissaient : la mise en place de l’algocratie. L’humain est dépossédé de son libre-arbitre.
Puis quand ils seront complètement dépendants et sous l’emprise de cette avancée technologiste et que les prix augmenteront une fois l’habitude ancrée, ils donneront des milles et des cents pour pouvoir parler à leur agent IA. Et ils n’y verront toujours aucun problème. Ni à l’échelle individuelle, ni à l’échelle collective, ni à l’empreinte écologique.
Et voilà le résultat quand l’accès à un psy coûte une fortune