Plus d’un tiers des chercheurs en intelligence artificielle (IA) ne sont pas optimistes : ils ont déclaré qu’ils pensaient que l’IA pourrait provoquer une catastrophe mondiale de l’ampleur d’une guerre nucléaire. Cette réponse provient d’une enquête (L’enquête peut faire référence à une technique d’investigation locale d’un environnement particulier. A…) réalisée en mai et juin de cette année (Une année est une unité de temps exprimant la durée entre deux occurrences d’un événement connexe…) avec 327 de ces chercheurs sélectionnés parmi ceux qui ont co-signé un ou plusieurs projets de recherche sur les traitements automatiques ces dernières années (L’automatique fait partie des sciences de l’ingénieur. Cette discipline s’occupe de…) en la langue (traitement du langage naturel), un domaine dans lequel des progrès significatifs ont été accomplis.
L’expression “à l’échelle d’une guerre nucléaire (Le terme énergie nucléaire a deux sens selon le contexte :)” peut être vue (Vision est le sens d’observer et d’analyser l’environnement en recevant et…) comme une métaphore , mais cela peut aussi être accepté au premier degré (Le mot degré a plusieurs sens, il est utilisé surtout dans les domaines…) : ces chercheurs entrevoient des applications militaires de l’IA et du coup la possibilité qu’avec ces avancées récentes, l’IA joue (La joue est la partie du visage qui recouvre la cavité buccale fermée par…) un rôle plus important dans la prise de décision. “Il existe des scénarios plausibles qui pourraient nous conduire à ce point”, a commenté v Un nouveau scientifique le chercheur (Chercheuse (féminine chercheuse) désigne une personne dont le métier consiste à faire de la recherche…) sauf Paul Schar. “Mais cela obligerait les gens à faire des choses vraiment dangereuses avec l’utilisation militaire de l’IA.”
Dans l’étude menée par une équipe du New York University Data Center (New York University (anglais : New York University : NYU, …) (en technologie de l’information (TI) donnée est une description élémentaire, souvent…) scientifique et dont les résultats ont été diffusés en avant-première le 26 août, le nombre (Le concept de nombre en linguistique est abordé dans l’article Nombre… .) de chercheurs inquiets était encore plus élevé chez les femmes (46 %) et les membres des minorités visibles (53 %).
Sans aller jusqu’à la guerre nucléaire, certains répondants ont déclaré qu’ils seraient d’accord avec l’hypothèse selon laquelle l’IA présente des risques sérieux si le scénario discuté était moins extrême. Par exemple, l’étude évoque les risques posés par les armes maîtrisées par l’intelligence artificielle (L’intelligence artificielle ou l’informatique cognitive c’est “chercher des moyens…) ou ceux posés par la surveillance de masse (Le terme masse est utilisé pour désigner deux quantités liées à une seule. ..).
Ces chercheurs n’ont manifestement pas tiré ces préoccupations de leurs seules recherches. Les risques de détournement de l’IA sont évoqués depuis plusieurs années, par exemple en matière de discrimination. Mais les risques, qui engagent l’avenir même de l’humanité, ont fait l’objet d’une réflexion plus approfondie, par exemple dans un rapport de 2018 d’un groupe de penseurs aux États-Unis, ou dans un livre d’un chercheur de l’Université (The University is un établissement d’enseignement supérieur dont le but est …) Oxford en 2014. Des milliers de personnes ont signé une lettre ouverte de l’informaticien britannique Stuart Russell en 2015, qui appelait à “des recherches approfondies visant à garantir que des systèmes d’IA de plus en plus avancés soient robustes et utiles”. “.
A l’inverse (en mathématiques, l’opposé d’un élément x d’un ensemble doté d’une loi de…), ceux qui ne cèdent pas au pessimisme rappellent l’exemple de la voiture autonome, qui est encore loin de la capacité à faire décisions en toutes circonstances, malgré les sommes colossales qui y ont été investies.
Si dans les années 2000 et 2010 ces considérations étaient focalisées sur les capacités théoriques de la “superintelligence”, elles se sont davantage ancrées dans la réalité avec les concepts récents d’apprentissage automatique (L’apprentissage automatique (machine learning en anglais) est une discipline scientifique qui est… ) (apprentissage automatique) et le traitement automatique du langage qui a ouvert de nouvelles perspectives sur ce que nous pouvons faire avec l’IA et sur ce que nous ignorons encore de son potentiel. Les juristes s’interrogent aussi : la Commission sur l’Intelligence Artificielle du Conseil de l’Europe (l’Europe est une région terrestre qui peut être vue comme…) s’est notamment prononcée sur l’importance d’une réglementation qui laisse la prise de décision aux personnes “et non à des modèles mathématiques (les mathématiques sont un domaine de connaissances abstraites construit à l’aide de…)”. Mais de telles lois restent à écrire…
As-tu aimé cet article? Vous souhaitez nous soutenir ? Partagez-le sur les réseaux sociaux avec vos amis et/ou commentez-le, cela nous encouragera à publier d’autres sujets similaires !
Add Comment