A empresa causou alvoroço nas mídias sociais depois que enviou um funcionário em licença remunerada que disse que o chatbot que ele ajudou a desenvolver havia recuperado a consciência. O engenheiro Blake Lemoyne faz parte da equipe da Responsible AI, uma divisão do Google, e até recentemente estava desenvolvendo o modelo LaMDA - verificando se há linguagem discriminatória e retórica de ódio.
O modelo LaMDA foi apresentado pelo Google na conferência I/O do ano passado, que foi criada para melhorar a voz de conversação dos assistentes de voz. Modelos semelhantes são usados no Gmail e nos mecanismos de busca da empresa, diz Verge.
As suspeitas de Lemoyne foram levantadas pelos comentários do chatbot sobre seus próprios direitos e a ética do robô em geral. Em abril, enviou a seus superiores um relatório intitulado "O LaMDA é sensato?", que continha a transcrição do diálogo com a IA. Segundo Lemoyne, isso prova que o chatbor é razoável porque expressa "emoções e experiências subjetivas".
Representantes do Google não viram nenhum traço de consciência no LaMDA. “Nossa equipe – incluindo especialistas em ética e tecnólogos – revisou a alegação de Blake através das lentes de nossos Princípios de IA e informou-o de que as evidências não apoiam suas alegações. Ele foi informado de que não há vestígios de consciência no LaMDA (e há muitas evidências do contrário), disse o porta-voz da empresa, Brian Gabriel. “Centenas de pesquisadores e engenheiros falaram com o LaMDA, e não sabemos de nenhum deles que tenha feito conclusões tão abrangentes ou humanizado o LaMDA da maneira que Blake faz”.
No entanto, Lemoyne se manteve firme e postou uma gravação da conversa com o chatbot, provando ostensivamente que ele estava certo. Despertando a ira dos advogados da empresa.
A empresa reagiu sem entusiasmo às ações de seu funcionário, acusando Lemoyne de violar a política de privacidade. Ele contratou um advogado para representar a IA e conversou com um membro do Comitê Judiciário da Câmara. No início de junho, ele foi enviado em licença remunerada.
No outono passado, no Reino Unido, várias novas espécies foram classificadas como animais inteligentes: cefalópodes (lulas e polvos) e decápodes, ou seja, lagostas e lagostas. É verdade que a alteração da legislação ainda não prevê quaisquer consequências para a indústria alimentar e para a restauração.
2022-06-14 16:03:55
Autor: Vitalii Babkin