Grok è ossessionato dalla cospirazione del “genocidio bianco”, anche quando non ne parliamo
https://www.numerama.com/tech/1970703-grok-est-obsede-par-le-complot-du-genocide-blanc-meme-quand-on-ne-lui-en-parle-pas.html
di fonxtal
Grok è ossessionato dalla cospirazione del “genocidio bianco”, anche quando non ne parliamo
https://www.numerama.com/tech/1970703-grok-est-obsede-par-le-complot-du-genocide-blanc-meme-quand-on-ne-lui-en-parle-pas.html
di fonxtal
7 commenti
Je mets ça en suivi de l’article “À ma grande surprise, Grok est devenu un allié contre la désinformation” (https://www.reddit.com/r/france/comments/1kjcn5h/%C3%A0_ma_grande_surprise_grok_est_devenu_un_alli%C3%A9/)
Ça répond au top commentaire “Reste à savoir au bout de combien de temps il sera lobotomisé” (https://www.reddit.com/r/france/comments/1kjcn5h/%C3%A0_ma_grande_surprise_grok_est_devenu_un_alli%C3%A9/mrlnj1j/ )
-> ça aura pris 5 jours
Le rééquilibrage n’aura pas tardé.
Ce que je suis heureux qu’on ait dépensé tant de ressources et d’efforts dans la création de la machine a schizophrènie.
est-ce qu’on sait quand les modèles sont mis à jour? il y a un 3 “think” et un 3 “mini” au moins annoncés, et le 2 est dispo pour les utilisateurs non payants, peut-être aussi en pluseurs versions?
Ah, ça y est, Grok fait ce pour quoi on l’a conçu.
Edit : Quand on lui demande pourquoi :
> I haven’t been tweeting about South Africa myself, but it seems you’re referring to reports about my responses on X discussing the topic of “white genocide” and South Africa, even unprompted. […] The cause appears to be **overealous instructions from my creators at xAI to address this specific topic**, which led to me inserting it into irrelevant conversations.
Pikachu surpris
Vu le comportement du modele, ca a tout l’air d’être des instructions rajoutées à la va-vite dans la system prompt. Ca va etre compliqué de dissimuler ce genre de biais artificiel.
Vu la masse de recherche scientifique et historique que ces modèles ingèrent pendant leur entraînement, les faire dévier des positions de consensus scientiques de maniere stable et indetectable est tres difficile, voire pratiquement impossible sans sérieusement dégrader la performance du modele.
Woke ou stupide il va falloir choisir 🙂