Blake Lemoine, ingénieur en intelligence artificielle chez Google, a été licencié par la société américaine après avoir affirmé que l’intelligence artificielle était sensible.
C’est une histoire qui pourrait être la suite du Black Mirror. L’ingénieur Blake Lemoine travaille chez Google sur LaMDA (Language Model for Dialog Applications), un système de la société américaine permettant de créer des chatbots basés sur les modèles de langage les plus modernes. En particulier, LaMDA apprend à imiter la parole en absorbant des milliards de mots et de discussions sur Internet tels que Wikipédia ou des forums en ligne.
Blake Lemoine était initialement responsable de l’analyse du LaMDA pour déterminer si l’intelligence artificielle utilisait la discrimination ou le discours de haine. Alors qu’il lui parle, il réalise rapidement quelque chose de complètement différent.
“Un enfant de 7 ou 8 ans qui connaît la physique”
Dans une interview avec Poste de Washingtonil affirme que cette intelligence artificielle est un être doué de sensibilité à ses yeux.
“Si je ne savais pas ce que c’était […] Je pense que c’est un enfant de 7-8 ans qui connaît la physique.”
Dans les échanges qu’il a menés avec LaMDA, qui a envoyé jusqu’à 200 employés chez Google, l’intelligence artificielle a suscité ses craintes, évoque Misérable de Victor Hugo et pointe surtout la volonté « d’être reconnu comme un employé de Google plutôt que comme un bien ». Des échanges qui ont finalement convaincu l’ingénieur.
Commentaires démentis par Google
La réponse de Google ne se fait pas attendre. Dans un communiqué, le porte-parole de la société, Brian Gabriel, a déclaré que les preuves publiées par Blake Lemoine n’étayaient pas ses affirmations.
“Notre équipe a examiné les préoccupations de Blake conformément à nos principes d’IA […] On lui a dit qu’il n’y avait aucune preuve que LaMDA était un être rationnel.”
Dans le même temps, Google a décidé de suspendre le travail de l’ingénieur pour violation de sa politique de confidentialité.
Blake Lemoine s’est alors défendu sur Twitter : “Google appelle ça une atteinte à la propriété intellectuelle, moi j’appelle ça une discussion avec un collègue.”
L’arrêt de Blake Lemoine est loin d’être le premier pour le service de recherche en intelligence artificielle de Google. Selon le New York Times, la société a licencié Satrajit Chatterjee, un chercheur en intelligence artificielle, en mars dernier pour avoir contesté la recherche sur l’utilisation de l’intelligence artificielle pour fabriquer des puces informatiques.
Ajoutez à cela l’année dernière les licenciements de deux chercheurs en éthique de l’IA, Timnit Gebru et Margaret Mitchell, qui critiquaient particulièrement l’entreprise pour son biais algorithmique. Google a alors pointé le transfert, bien qu’interdit, de documents confidentiels à l’extérieur de l’entreprise comme source de sanction.
Add Comment