L'entreprise a fait sensation sur les réseaux sociaux après avoir envoyé un employé en congé payé qui a déclaré que le chatbot qu'il avait aidé à développer avait repris conscience. L'ingénieur Blake Lemoyne fait partie de l'équipe de Responsible AI, une division de Google, et jusqu'à récemment, il développait le modèle LaMDA - en le vérifiant pour le langage discriminatoire et la rhétorique haineuse.
Le modèle LaMDA a été présenté par Google lors de la conférence I/O de l'année dernière, qui a été créée pour améliorer la voix conversationnelle des assistants vocaux. Des modèles similaires sont utilisés dans Gmail et dans les moteurs de recherche de l'entreprise, explique Verge.
Les soupçons de Lemoyne ont été soulevés par les remarques du chatbot sur ses propres droits et sur l'éthique des robots en général. En avril, il a envoyé à ses supérieurs un rapport intitulé "LaMDA est-il sensé ?", qui contenait une transcription du dialogue avec l'IA. Selon Lemoyne, cela prouve que le chatbor est raisonnable parce qu'il exprime « des émotions et une expérience subjective ».
Les représentants de Google n'ont vu aucune trace de conscience dans LaMDA. "Notre équipe - comprenant des éthiciens et des technologues - a examiné l'affirmation de Blake à travers le prisme de nos principes d'IA et l'a informé que les preuves n'étayent pas ses affirmations. On lui a dit qu'il n'y avait aucune trace de conscience dans LaMDA (et il y a beaucoup de preuves du contraire), a déclaré le porte-parole de la société, Brian Gabriel. "Des centaines de chercheurs et d'ingénieurs ont parlé à LaMDA, et nous ne connaissons aucun d'entre eux qui ait tiré des conclusions aussi profondes ou humanisé LaMDA comme le fait Blake."
Cependant, Lemoyne a tenu bon et a publié un enregistrement de la conversation avec le chatbot, lui donnant ostensiblement raison. Suscitant les foudres des avocats de l'entreprise.
L'entreprise a réagi sans enthousiasme aux actions de son employé, accusant Lemoyne de violer la politique de confidentialité. Il a engagé un avocat pour représenter l'AI et s'est entretenu avec un membre du comité judiciaire de la Chambre. Début juin, il a été envoyé en congé payé.
L'automne dernier au Royaume-Uni, plusieurs nouvelles espèces ont été classées comme animaux intelligents : les céphalopodes (calmars et poulpes) et les décapodes, c'est-à-dire les homards et les langoustes. Certes, la modification de la législation ne prévoit pas encore de conséquences pour l'industrie alimentaire et les restaurants.
2022-06-14 16:03:55
Auteur: Vitalii Babkin