YJ Kim, da Samsung fala sobre as preocupações e possibilidades das IAs generativas

A Samsung lançou em janeiro deste ano o novo Galaxy 24, durante o Samsung Unpacked 2024, evento realizado na cidade de San José, nos Estados Unidos. Apresentado em 3 versões, todas elas chegam com Galaxy AI, nome dado pela empresa aos novos recursos baseados em inteligência artificial (IA) dos aparelhos.

Pouco depois do evento, conversamos com Jun-Youn Kim (YJ Kim), vice-presidente executivo e chefe da equipe de inteligência artificial da Samsung Mobile eXperience Business, para saber mais sobre as potencialidades das IAs generativas nos smartphones. E, também, de seus riscos.

YJ Kim vem liderando a equipe de IA desde 2020 e desempenhou um papel crucial no desenvolvimento da Bixby, assistente pessoal presente nos smartphones da empresa, além de trabalhar ativamente no desenvolvimento e incorporação de grandes modelos de linguagem de IA (chamados de LLMs) em dispositivos e serviços da Samsung. Ele também já atuou em outros projetos da Samsung, como a suite de segurança Knox e o serviço de pagamentos Samsung Pay, e agora tem papel central no desenvolvimento do Galaxy AI.

Inteligência Artificial no smartphone

Rodar modelos de linguagem de IA num smartphone como o Galaxy S24 é uma tarefa complexa. Kim explica que há duas forma de se fazer isso: a primeira, mais limitada, é a “IA no dispositivo”, que consiste em incorporar versões mais simplificadas das IAs aos aparelhos móveis, para que seja possível rodá-las mesmo quando não houver conexão com a web.

A vantagem está em ter mais privacidade com os dados e conseguir fazer tarefas, como correções de imagem, resumos de textos ou outros recursos disponíveis, sem precisar estar conectado, com respostas mais rápidas. No S24, você pode, inclusive, limitar a experiência Galaxy AI à IA no dispositivo, dentro do menu de configurações do aparelho.

Mas, para tarefas mais complexas, Kim comenta que é necessário que o aparelho esteja conectado à internet, para delegar essa tarefa à nuvem, ou melhor, aos data centers. Aqui, a requisição é feita no celular, mas processada no servidor da web, que retorna então o resultado para o telefone do usuário. A mesma tarefa realizada com uma IA no dispositivo pode retornar um resultado melhor, se você preferir acessar as IAs dos data centers.

O Circule para Pesquisar, por exemplo, é uma função proporcionada pela IA do Google – parceiro da Samsung no desenvolvimento das soluções do Galaxy AI – que usa a Gemini, uma IA localizada nos data centers do Google. Com ele, você pode circular qualquer coisa na tela, para saber mais sobre isso usando a Pesquisa Google. A IA identifica textos, imagens e até conceitos do que está na tela.

E a Samsung também está desenvolvendo seu próprio grande modelo de linguagem (LLM), o Gauss, que permitira interações no estilo do ChatGPT. Quem sabe, para substituir a própria Bixby, ainda presente nos smartphones Galaxy?

Questão de privacidade e ética

Kim diz que a Samsung está colocando a segurança, privacidade e ética no uso das inteligências artificiais ​​como sua primeira prioridade, tratando o desenvolvimento dessas tecnologias com transparência e a responsabilidade.

A criação de uma opção para bloquear do envio de dados para data centers, como explicado no tópico acima, é um desses reflexos da política da empresa. Usuários podem decidir se preferem ou não compartilhá-los, num modelo híbrido de funcionamento para IAs.

Uma das funções que causou mais imapacto durante a apresentação da linha S24 no Samsung Unpacked foi a tradução ao vivo no dispositivo para voz e texto. Ela consiste em uma IA que consegue ouvir, ao mesmo tempo, quem fala e quem ouve na chamada, traduzindo essas falas em áudio e texto na tela.

Para preservar a privacidade do usuário e a confidencialidade das conversas traduzidas, Samsung explica que esses dados não são enviados aos datas center, sendo processados apenas e diretamente no aparelho.

“Isso não apenas permite que a IA funcione sem uma conexão com a Internet, e os usuários podem ter a certeza de que suas informações individuais e pessoais permanecerão em seus dispositivos e não serão compartilhadas com servidores externos”, afirma.

“Os usuários podem ter a certeza de que suas informações individuais e pessoais permanecerão em seus dispositivos e não serão compartilhadas com servidores externos”

YJ Kim

Os Princípios da Ética nas AIs da Samsung estão, inclusive, publicamente listados neste documento e traduzidos a seguir:

• Justiça
  • Aplicaremos os valores de respeito pelos direitos humanos, igualdade e diversidade na IA ao longo de todo o seu ciclo de vida.
  • Não encorajaremos nem propagaremos preconceitos negativos ou injustos.
  • Faremos o possível para fornecer acesso fácil a todos os usuários.
• Transparência
  • Os usuários serão informados de que estão interagindo com IA.
  • A IA será explicada para que os usuários possam entender claramente a tecnologia.
  • O processo de recolha ou utilização de dados pessoais em serviços de IA será transparente.
• Responsabilidade
  • Aplicaremos os princípios de priorizar a responsabilidade social e ética à IA para evitar qualquer violação dos direitos humanos.
  • A IA será protegida com fortes medidas de segurança para evitar vulnerabilidades a ataques cibernéticos.
  • Trabalharemos para garantir que a IA beneficie a sociedade e promova a cidadania corporativa.

Até os modelos de linguaguem do Google, os Gemini Nano e Gemini Pro utilizados no Galaxy S24, são pensado para funcionar offline e com atenção à privacidade do usuário. Aliás, a empresa é parceira da Samsung e co-responsável pelo lançamento dos recursos do Galaxy AI, como a gente explica a seguir.

Evitando o mal uso das IAs

Por ser uma tecnologia nova, a IA generativa está sucestivel à erros, bem como pode ser usada de forma indevida por seus usuários. Por essa razão, Kim explica que, no Galaxy AI, foram projetados filtros de segurança que avaliam os resultados e bloqueiam respostas problemáticas, sensíveis ou até obscenas no S24.

Também foram incorporadas marcas d’água em imagens modificadas com a IA do Galaxy S24, para garantir que esse “conteúdo editado” não seja confundido com uma imagem original:

O recurso Edição Generativa (Generative Edit, em inglês) do Galaxy S24, aliás, utiliza o modelo Imagen 2 do Google DeepMind, que é a tecnologia de difusão de texto para imagem mais avançada do Google até o momento.

O Futuro é individual

Segundo Kim, a Samsung prevê um futuro onde os dispositivos de usuários, como os smartphones, terão seus próprios e completos sistemas de IA. Isso significa que mais e mais atividades, ainda que complexas, deixarão de ser realizadas em datas center, passando para o processamento local.

Mas, é bem provável que isso exigija muito mais capacidade de processamento dos chips destes dispositivos (e suas NPUs ou unidades de processamento neurais), indo além do que o Snapdragon 8 Gen 3 da Qualcomm, presente no Galaxy S24, pode oferecer.

Os modelos de linguagem (LLMs) desenvolvidos pelas empresas como o Google, Samsung, Meta, Open AI, NVIDIA e outros, também precisarão ser reduzidos, de forma que mantenham sua eficiência, mas possam ser incorporados a dispositivos com capacidade de processamento e armazenamento de dados mais limitado que data centers, como é o caso dos smartphones, tablets e PCs atuais. Esse, aliás, é um dos grandes desafios da industria atual.

Se você ficou interessado no tema, acesse nossos conteúdos sobre inteligência artificial. Também temos um guia completo, sobre tudo o que você pode fazer com o Galaxy AI. E, se você quiser testar isso tudo, confira também o nosso review do Galaxy S24 Ultra, o smartphone mais potente da Samsung atualmente.

Samsung Unpacked 2024

Fonte: Soyacincau, Samsung Principles of AI Ethics, Samsung Gauus, gadgetguy.

Revisado por Glauco Vital em 27/2/24.