Superintelligenza artificiale: centinaia di esperti e personalità, tra cui figure della moderna IA, chiedono di fermare la corsa allo sviluppo
https://www.lemonde.fr/pixels/article/2025/10/22/superintelligence-artificielle-des-centaines-d-experts-et-personnalites-dont-des-figures-de-l-ia-moderne-appellent-a-stopper-la-course-au-developpement_6648817_4408996.html
di Proudhmak87
24 commenti
Mais… Mais… Les gains ?!
Y’a aucun pays dans la course qui va prendre le risque qu’un autre la gagne à sa place. Par contre, oui, ça va être catastrophique pour l’emploi, une deuxième révolution industrielle mais sans la création de nouveaux métiers…
Voilà comment ça va se passer :
– les capitalistes ne renonceront pas à leur recherche du profit
– ils utiliseront l’argument du : “si on ralentit, alors X pays / entreprise ne ralentira pas et non seulement on perdra notre profit mais en plus on l’aura fait pour rien”
quelqu’un a l’article? Mur de paie…
Tellement réactionnaire ce communiqué.
Y-aura pas d’agi.
Et de toute façon l’éclatement de la bulle ia, fera le ménage dans ce bordel.
Et l’ IA va aussi complètement à l’encontre d’une société plus sobre sur la consommation d’énergie.
https://www.lemonde.fr/idees/article/2025/10/02/l-ia-devoreuse-d-energie-pourrait-entrainer-une-penurie-d-electricite-aux-etats-unis_6644022_3232.html
Il y a un point que j’ai du mal à comprendre : qui défini les limites, comment on les contrôle, qui assure ce contrôle ?
C’est un plutôt de l’ordre du réglementaire, et la responsabilité reviendrai aux États, et j’ai du mal à imaginer qu’il y ai un accord à l’échelle mondiale.
Un jour proche, il faudra choisir entre l’energie pour alimenter l’IA ou celle pour la ville d’à coté, j’ai quand meme une crainte sur le choix qui va etre fait …
La chaîne YouTube Le Futurologue est très intéressante sur ce sujet : https://m.youtube.com/@LeFuturologuePodcast
Si on arrive à l’AGI, l’emploi risque de devenir le dernier de nos soucis.
Imagine une IA plus intelligente que nous, capable d’en créer une autre encore plus intelligente, qui à son tour en crée une encore plus puissante, et ainsi de suite, à une vitesse stupéfiante.
L’humain risque alors de devenir très rapidement une entrave à son développement, un simple détail.
Certains prédisent qu’elle pourrait nous éradiquer en quelques mois.
Les plus « optimistes » estiment que cela pourrait arriver d’ici trois à cinq ans.
C’est hypothétique, mais c’est un scénario pris très au sérieux par les pontes de l’IA.
Edit: Superbe podcast à ce sujet: “The last invention”
Un autre avec de multiples invités : “The trajectory”
Et on continue de faire comme si l’AGI était à nos porte, juste parce qu’on a sorti quelques chatbots.
Vivement dans quelques années qu’on soit passé à une nouvelle lubie. Celle-ci devient vraiment fatigante.
Ils sont nouveaux sur Terre, non ?
Il faut arrêter de prendre pour argent comptant ce que les vendeurs d’IA disent aussi.
Ils ont un intérêt énorme à ce que les actions augmentent.
C’est très révélateur de nos sociétés consuméristes complètement accro à la croissance : on sait que c’est dangereux, on sait que les gains à terme ne valent pas les externalités négatives, mais on est incapable de ralentir la machine.
c’est saooulant tout ce bullshit autour de l’AGI / ASI, on est meme pas capable de faire un IA qui sait apprendre ou meme reflechir (entrainement != apprendre) et les “experts”, tous des gens avec des conflict d’interêt plus ou moins extrêmes, nous parle de l’etape suivante qui est à des année lumière.
on aura la fusion commerciale partout dans le monde et des colonie sur mars bien avant d’avoir une vrai AI.
Est-ce qu’il y a des gens du domaines de l’IA qui donnent des arguments factuels et probable sur l’émergence d’une AGI d’ici 5 ans ?
Parce que le patron d’OpenAI qui dit ça, ça veut juste dire “faites nous confiance, envoyez la thune”.
Jusque là, on insiste beaucoup sur le I de IA mais jamais trop sur le A. Les “IA” d’aujourd’hui, c’est des probabilités appliquées. On est loin d’égaler l’intelligence humaine (mémoire, connaissance, création, innovation etc…).
C’est peine perdue. Les pays sont obligés de développer cette technologie sous peine d’être dépassé dans tous les domaines.
Quelle intelligence artificielle? On en est quasiment toujours à ça: https://en.wikipedia.org/wiki/Word_n-gram_language_model
L’IA ne fait que mettre en lumière (extrêmement rapidement) des problémes déjà existants, à la fin ce n’est qu’un outil donc inhérement ni bon ni mauvais. Vouloir réguler l’IA tout en ignorant ce qui permet de rendre son utilisation dangereuse c’est éponger le robinet qui fuit.
Des exemples de problèmes et limites de notre société actuelle, qui vont exploser avec l’IA :
– centralisation des richesses
– recherche du profit
– volonté de croissance sans fin
– monopoles
Et de loin le pire, c’est les politiques qui sont choisies par les entités bénéficiant des points mentionnées ci-dessus (à gauche comme à droite, c’est apolitique).
Et si ça ressemble à du “le capitalisme c’est mauvais ouinouin” c’est normal. Un système économique n’est pas omnipotent et montrera ses limites sur le temps, particulièrement avec les évolutions de la société (telle que l’IA). Maintenant difficile d’imaginer que les choses changent car, les gens ne faisant pas partie de l’élite sont occupés à se diviser et ne donnent pas d’importance aux raisons des problèmes, mais uniquement à leurs conséquences.
On se dirige probablement vers un taux d’inactivité qui va exploser et un revenu universel qui arrivera après des mois/années de difficultés pour les plus démunis.
Stopper le développement de quelque chose, de quoi que ce soit…? Lol
Si “on” en était capables, on n’en serait pas là où on en est.
C’est trop tard les amis fallait réfléchir avant.
Troo grosse mane financière pour les capitalistes qui vont remplacer leurs employés par des IA.
Je vois ça comme la course à la bombe atomique. Etre le premier à accéder à ce super-pouvoir assure une position de domination. Les gagnants de la course auront ensuite tout intérêt à prôner la non prolifération afin de garder le pouvoir.
Il y en a encore qui se sont fait un cassoulet mal décongelé devant la saga Terminator avant de se coucher.
Vu la course entre les différentes entreprises et états à travers le monde et l”avantage énorme fourni par l’IA, personne n’acceptera de se brider, cf. fission nucléaire après 1945: quelques jours à peine avant la fin de la seconde guerre mondiale, la Suisse avait déjà commencé un programme nucléaire militaire.
Le TNP n’est arrivé qu’en 1968.
Ce n’est pas possible d’ arrêter le développement et l’usage de l’IA. C’est 100% impossible. N’ importe quoi qu’ on dit, c’est l’avenir et il n’ y a rien à faire pour ça. C’est un peu comme si quelqu’un voulait arrêter l’ Internet il y a vingt ans.