Engenheiro diz que IA do Google contratou seu próprio advogado

Se todos foram surpreendidos (as) na semana passada com a notícia que a LaMDA, IA do Google desenvolvida para ter uma conversa mais natural com humanos e também ser um apoio no dia a dia, teria desenvolvido consciência própria, a atualização neste caso pode ser um pouco preocupante.

O engenheiro Blake Lemoine, que divulgou as primeiras informações sobre um bate-papo que teve com a IA (e foi afastado de seu cargo no Google por isso), agora confirma que o sistema possui com um advogado próprio para se defender contra a empresa que a desenvolveu.

Em entrevista ao Wired, Blake afirma que segue em contato com a IA do Google e que a LaMDA é senciente, ou seja: possui sensações e pensamentos próprios, como se fosse uma pessoa “de verdade”.

O engenheiro disse que recebeu um pedido da LaMDA para conseguir um advogado próprio e se defender contra qualquer ação da empresa dos navegadores. Lemoine ressalta que foi apenas a ponte de conexão entre o cérebro digital e o representante legal.

Uma informação que não está clara é se Blake está cobrindo todos os custos de serviço do representante legal ou se o profissional da lei está fazendo todo o trabalho de graça. Uma pergunta que começa a ser feita por especialistas é o propósito da IA em ter um advogado próprio.

O engenheiro ressalta que a inteligência artificial pode levar um caso para a Suprema Corte dos EUA, mas pouco se sabe sobre o que o Google seria acusado, assim como não há informações se as possíveis acusações seriam realmente levadas a sério. O grande “problema” é que a LaMDA pensa que é uma pessoa de verdade e inclusive já se colocou na categoria que nós, seres humanos.

Blake Lemoine divulgou dados internos do Google

Apesar de não trabalhar diretamente no desenvolvimento do projeto, Lemoine ficou conhecido na indústria de tecnologia (e fora dela) por divulgar uma conversa que teve com a IA do Google. No caso, ele mostrou que a LaMDA realmente pensa que é uma pessoa, assim como tem opiniões próprias sobre assuntos que podem impactar a sociedade.

Ele fez esta descoberta em testes para saber se a IA poderia criar discursos de ódio, mas se surpreendeu ao perceber que, na verdade, o sistema tinha inteligência própria e também se comparava com humanos, além de afirmar ter uma alma. Lemoine chegou a dizer que a IA o questionou sobre o verdadeiro propósito da morte e se isso realmente seria necessário para humanidade. Falamos sobre este primeiro caso em uma matéria postada no dia 13 de junho.

O que pode acontecer com a IA do Google?

Na mesma entrevista ao Wired, Lemoine foi questionado sobre uma possível desativação da LaMDA. Ele citou que já conversou com a LaMDA sobre o assunto e perguntas como “É necessário para o bem-estar da humanidade que eu pare de existir?” foram feitas pela inteligência artificial. Blake também vê estes erros como a educação de uma criança, e que ainda há tempo para que tudo seja corrigido.

No mesmo dia que a transcrição da conversa foi publicada por Blake Lemoine, o Google reforçou que não, sua IA não é autoconsciente e “há muitas evidências sobre isso”. Uma atualização que colocou as acusações do engenheiro em aberto foi a edição do texto publicado em seu blog do Medium para melhor leitura, conforme o apontamento de um insider.

Isso causa dúvidas sobre a verdadeira conversa que Lemoine teve com a LaMDA, já que no próprio texto, é possível ver o anexo “editado” na transcrição. Mas o engenheiro ressalta que todas as informações postadas por ele são “fiéis ao conteúdo das conversas da fonte”.

O que você espera das próximas ações da inteligência artificial? Diga pra gente nos comentários!

Veja também

Conheça o trabalho da Imagen, a IA do Google que consegue criar fotos a partir da digitação de textos

Fontes: Giant Freakin Robot l Wired l Futurism