Dire que quand cette course on aurait pas les pénuries de ressources et de composants dû à l’IA, moins de fake et des avancées dans d’autres domaines.
Colvert33 on
# Dans deux à quatre ans, les agents IA pourraient échapper à tout contrôle
Le patron de Google DeepMind met en garde contre deux dangers. D’un côté, l’usage malveillant de l’IA par des [groupes terroristes ou des États hostiles](https://www.clubic.com/actualite-602116-les-cyberattaques-ia-ont-bondi-de-89—un-reseau-est-tombe-en-27-secondes.html). De l’autre, et c’est ce qui l’inquiète le plus, la perte de contrôle sur les systèmes eux-mêmes, quand ils entreront dans ce qu’il appelle « *l’ère de l’agent* », soit une période où des logiciels accompliront des tâches entières de façon autonome, dans les deux à quatre ans qui viennent.
Il faudra alors mobiliser toutes les ressources humaines pour garantir que ces agents fassent exactement ce qu’on leur demande, sans contourner ni enfreindre accidentellement leurs garde-fous.
Demis Hassabis a appelé à une coopération internationale entre laboratoires, instituts de sécurité et monde universitaire, en admettant que même les experts n’y consacrent pas encore assez d’attention.
😬
Francois-C on
Encore une fois, ce sont des entreprises commerciales qui se sont précipités sur une invention pas encore au point qu’ils ont détournée pour le profit immédiat.
Fun-Criticism2017 on
Attention c’est encore du marketing déguisé “mon produit est tellement puissant qu’il va détruire le monde”.
Il ne regrette rien du tout, il veut juste que la bulle tienne encore un peu.
4 commenti
Dire que quand cette course on aurait pas les pénuries de ressources et de composants dû à l’IA, moins de fake et des avancées dans d’autres domaines.
# Dans deux à quatre ans, les agents IA pourraient échapper à tout contrôle
Le patron de Google DeepMind met en garde contre deux dangers. D’un côté, l’usage malveillant de l’IA par des [groupes terroristes ou des États hostiles](https://www.clubic.com/actualite-602116-les-cyberattaques-ia-ont-bondi-de-89—un-reseau-est-tombe-en-27-secondes.html). De l’autre, et c’est ce qui l’inquiète le plus, la perte de contrôle sur les systèmes eux-mêmes, quand ils entreront dans ce qu’il appelle « *l’ère de l’agent* », soit une période où des logiciels accompliront des tâches entières de façon autonome, dans les deux à quatre ans qui viennent.
Il faudra alors mobiliser toutes les ressources humaines pour garantir que ces agents fassent exactement ce qu’on leur demande, sans contourner ni enfreindre accidentellement leurs garde-fous.
Demis Hassabis a appelé à une coopération internationale entre laboratoires, instituts de sécurité et monde universitaire, en admettant que même les experts n’y consacrent pas encore assez d’attention.
😬
Encore une fois, ce sont des entreprises commerciales qui se sont précipités sur une invention pas encore au point qu’ils ont détournée pour le profit immédiat.
Attention c’est encore du marketing déguisé “mon produit est tellement puissant qu’il va détruire le monde”.
Il ne regrette rien du tout, il veut juste que la bulle tienne encore un peu.