CPU ou GPU/NPU: o que importa mais ao escolher um notebook para IA?

Com o avanço da inteligência artificial e o lançamento dos AI PCs pelas fabricantes de computadores, o assunto deve ser um dos mais comentados no mundo da tecnologia em 2024. As NPUs se tornaram protagonistas para processar as cargas de trabalho de IA, mas será que você realmente precisa de um PC equipado com este recurso para executar as atividades de IA?

A convite da NVIDIA, testamos como um notebook equipado com placa de video dedicada performa tarefas de IA mesmo sem um processador que não se enquadra para a categoria de AI PCs. Entenda a seguir o que é mais importante para quem trabalha com IA no dia a dia: CPU ou GPU.

O que é um AI PC?

O termo começou a ser implementado pela Intel e Microsoft com o lançamento da família de processadores Intel Core Ultra. Em 2023, a Microsoft afirmou que, para um computador ser enquadrado como AI PC, é necessário que ele cumpra três requisitos. São eles:

• Ter uma tecla Copilot para ativar a inteligência artificial em seu teclado;
• Capacidade para rodar a inteligência artificial Copilot, presente no Windows 11;
• Ter processador com NPU dedicada que atinja ao menos 40 TOPs (trilhões de operações por segundo)

Uma NPU é uma área dedicada do processador voltada para atividades de inteligência artificial. Na prática, o processador ganha mais um chip para que a CPU e a GPU estejam dedicadas para suas atividades principais. Estes componentes até podem dar apoio para a NPU, mas as atividades de IA serão essencialmente processadas na NPU.

Processadores com este NPU também são divulgados como tendo uma melhor eficiência energética, entregando maior autonomia de bateria quando necessário, sem a necessidade de perder o desempenho. Esta é a grande diferença entre as linhas Galaxy Book3 e Book4, lançadas pela Samsung.

Em maio de 2024, a Microsoft criou sua categoria própria de AI PCs, que leva o nome de Copilot+ PC, com uma maior exigência de desempenho em TOPS para atividades de IA. Para ser considerado um Copilot+ PC, um computador deve cumprir com os seguintes requisitos:

• Ter ao menos 16 GB de memória RAM;
• Ter um armazenamento de ao menos 256 GB via SSD;
• Ter uma NPU integrada com ao menos 40 TOPS de desempenho;
• Ter uma tecla dedicada à inteligência artificial Copilot no teclado;
• Não ter nenhum notch no display.

Os computadores certificados como Copilot+ PC foram basicamente criados para alcançar os computadores Mac, da Apple. Um dos primeiros modelos anunciados foram os laptops Surface, da própria Microsoft, que contam com processadores Snapdragon X Elite, da Qualcomm. Veja o desempenho em TOPS nas linhas de processadores com NPU lançadas este ano:

• AMD Ryzen AI 300: até 50 TOPS de desempenho;
• Intel Lunar Lake: até 48 TOPs de desempenho;
• Snapdragon X Elite: até 45 TOPS de desempenho.

TOPS é a sigla para Trillions of Operations per Second, ou Trilhão de Operações por Segundo. Este é o parâmetro para medir a capacidade da NPU no processamento de inteligência artificial em processadores. Aqui, se segue a regra básica: quanto mais TOPS uma NPU tiver, maior capacidade para rodar atividades de IA ele terá. 

Mas os notebooks anteriores não têm inteligência artificial?

Há algo que os fabricantes de processadores não contam: placas de vídeos dedicadas já possuem uma performance em TOPS bastante acima do que vem sendo exigido para AI PCs, oferecendo mais produtividade em tarefas de inteligência artificial para seus usuários mesmo em computadores que não possuem NPU.

Entretanto, a definição da Microsoft para AI PCs e Copilot+ PCs não permite que estes computadores com alta performance em IA possam receber estas classificações, justamente por não possuírem NPU integrada. E aqui entramos na discussão que a NVIDIA vem comunicando: computadores com inteligência artificial já existiam antes mesmo de empresas como Samsung, Lenovo, ASUS e a própria Microsoft começarem a investir nestes termos.

A definição pretendeu criar uma categoria, mas não ter uma NPU não descarta um PC com GPU potente de ser utilizado em tarefas que envolvam inteligência artificial. Na verdade, nada irá impedir que você rode aplicativos com funcionalidades de IA em PCs com placas de vídeo dedicadas e com um processador sem NPU.

O mercado de AI PCs ainda está em estágio inicial com a chegada dos primeiros notebooks com NPU, mas o processo de desenvolvimento de funcionalidades e aplicativos com IA está acompanhando em pequenos passos, com poucos recursos à disposição dos usuários em geral

Em nosso review do Galaxy Book4 Pro, um notebook com processador Intel Core Ultra 7 e sem GPU dedicada, citamos que o uso na prática da NPU poderia ser mais percebido em recursos de videochamada e na eficiência energética. Entretanto, estes são pontos que também podem ser vistos em notebooks sem NPU, mesmo os lançados antes de 2023.

A importância de uma placa de vídeo (GPU) para AI

Para entender este assunto, vamos compreender as diferenças entre CPU e GPU.

Os dois componentes servem para o processamento de tarefas em um computador, e a principal diferença entre a CPU e a GPU são as atividades às quais são destinadas. A CPU — ou Unidade Central de Processamento — é focada em executar as atividades gerais de um computador, como rodar o próprio sistema operacional e todos os seus aplicativos. Ela é comumente definida como o “cérebro” de um computador e, sem isso, ele nem ao menos funcionaria: ela se ocupa desde a navegação na web até a elaboração de planilhas.

A GPU chega para dar o apoio que a CPU precisa ao cuidar de atividades mais complexas, executando atividades gráficas de forma eficiente. Sigla em inglês para Unidade de Processamento Gráfico (e popularmente conhecida como placa de vídeo), a GPU acelera o processamento de imagens por meio de milhares de núcleos menores e mais especializados, que trabalham em conjunto para oferecer desempenho em tarefas gráficas.

Muitos processadores — principalmente os voltados para notebooks — contam com uma GPU integrada, que faz parte do processador. Esta aplicação serve para PCs de uso geral, que não demandam de um processamento gráfico mais intensivo. Mas quando temos um processamento de imagem intensivo, como em jogos e edição de imagens e vídeos, a GPU dedicada (ou GPU discreta) faz toda a diferença.

A GPU pode direcionar todo o seu poder em tarefas específicas, como jogos e até mesmo a renderização de conteúdo em alta qualidade, o que aumenta o poder de processamento e facilita a execução de atividades robustas do computador em que estiver instalada, entregando maior velocidade e eficiência neste tipo de tarefa.

E por que utilizar a GPU para IA? A NVIDIA aponta três razões:

• GPUs empregam processamento paralelo;
• Sistemas de GPUs podem ser escaláveis para níveis de supercomputação;
• Desenvolvimento de software de IA para GPUs é consolidado.

Atividades de inteligência artificial demandam alta carga de cálculos especializados. Ao agrupar instruções em lote e processar abundantes quantidades de dados, as GPUS dedicadas podem acelerar cargas de trabalho além das capacidades de uma CPU. Indo mais a fundo, a própria NVIDIA afirma que investir em um notebook com placa dedicada é mais interessante do que investir em um modelo com NPU integrada.

Um exemplo da importância de GPUs dedicadas para atividades de IA é o ChatGPT: o famoso bot de criação de conteúdo que escreve, resolve problemas e até mesmo cria imagens funciona baseado em plataformas de GPUs.

A OpenAI fechou uma parceria com a NVIDIA para que seu grande modelo de linguagem seja utilizado por mais de 100 milhões de pessoas. A informação mais recente é que o GPT-4, agora atualizado pelo GPT-4o, tinha mais de um trilhão de parâmetros, uma métrica de sua densidade matemática — um salto em comparação aos menos de 100 milhões de parâmetros em um LLM popular em 2018, possível com o uso de GPUs.

Dito isso, se você é uma pessoa que trabalha com criação de conteúdo, realiza muitas videochamadas ou até mesmo gosta de jogar bastante, com toda certeza precisará de recursos de inteligência artificial para ter um melhor desempenho. E isso vale para tudo:

• Efeitos de videochamadas para reduzir ruídos externos e desfocar fundos;
• Ter acesso à tecnologia de DLSS e Ray Tracing;
• Conseguir abrir fotos de forma mais rápida;
• Renderização de conteúdo em vídeo (vertical ou horizontal);
• Uso de alguma IA para preencher imagens, realizar o upscaling ou até mesmo conversão de formato de vídeo;
• Conseguir exportar conteúdos em menor tempo.

O grande ganho no uso de uma placa de vídeo está no processamento das tarefas de IA em menor tempo. A convite da NVIDIA, acompanhe os testes abaixo comparando o uso de GPU e de CPU/NPU para atividades de IA para saber os resultados e tirar suas conclusões.

Comparações entre uso de GPU vs. CPU/NPU para AI

Agora, vamos comparar como a GPU se compara na realização de tarefas de IA em relação à NPU, criada especificamente para este fim. Confira a metodologia e os resultados dos testes.

Como realizamos os testes

Para realizar estes testes, vamos passar por diversos aplicativos e jogos que fazem o uso da GPU para entregar um melhor desempenho. A NVIDIA, em parceria com a Avell, emprestou o notebook A65 ION com processador Intel Core i9-12900HX de 12ª geração, com uma placa de vídeo dedicada NVIDIA GeForce RTX 4060 e 16 GB de RAM (divididos em dois pentes de 8 GB) do tipo DDR5.

Para garantir o funcionamento em desempenho máximo, conectamos o notebook à tomada. Em seguida, analisamos o desempenho dos recursos para saber se, mesmo sem uma NPU, as atividades de IA funcionariam da mesma forma. Para os testes, a resolução do vídeo foi de 2560×1600, com taxa de atualização chegando a 240Hz.

A placa de vídeo RTX 4060 presente no notebook realiza 233 trilhões de operações por segundo. Para comparação, veja os números de operações de todos modelos da série RTX 40 para laptops da NVIDIA:

• RTX 4050: 194TOPS de desempenho;
• RTX 4060: 233 TOPS de desempenho;
• RTX 4070: 321 TOPS de desempenho;
• RTX 4080: 521 TOPS de desempenho;
• RTX 4090: 686 TOPS de desempenho.

O notebook é equipado com um SSD NVME de 500 GB. Realizamos todas as atualizações de sistema operacional para que o aparelho estivesse em sua versão mais completa, com o mesmo valendo com para os drivers da GPU.

Chat RTX

Este é um assistente pessoal desenvolvido pela NVIDIA que, no futuro, pode ser um concorrente interessante para opções como o Copilot, da Microsoft. O mais interessante é que ele roda de forma local exclusivamente em um notebook ou desktop com placas de vídeo dedicadas da NVIDIA.

Ele funciona melhor como organizador de informações, mas pode fazer uma leitura dos arquivos salvos em seu armazenamento do computador, o que pode ser aquela mão na roda para quem gostaria de ter acesso aos resumos.

Caso você nunca tenha utilizado este aplicativo, vale a pena lembrar que será necessário fazer o treinamento dele a partir do zero, então os melhores recursos serão vistos a longo prazo. Mas é um aplicativo que permite que você tenha um assistente pessoal que roda de forma local e sem a necessidade de conexão com a internet.

NVIDIA Canvas

Este é o aplicativo exclusivo para quem gosta de desenhar com o mouse, toque na tela ou até mesmo via lousa com caneta. No Canvas, você não precisa ser um artista: basta criar um esboço com formas simpes e sem detalhes para que o programa crie uma imagem detalhada. O aplicativo roda apenas em computadores ou notebooks com placas dedicadas da NVIDIA, não estando disponível para computadores que possuam apenas NPU.

O mais interessante é que, por conta da placa de vídeo dedicada com processamento local, os resultados podem ser vistos em tempo real. Além de dar vida aos seus rabiscos, é possível mudar completamente um desenho apenas com um toque.

O tempo para o resultado aparecer na tela é de menos de um segundo e a troca de tema também acontece em alguns milésimos de segundos. Ao finalizar os desenhos, basta exportá-lo para algum aplicativo de edição e finalizar seu trabalho.

NVIDIA Broadcast

Este é um dos aplicativos que mais permitem a comparação com o que uma NPU pode fazer até o fechamento desta matéria. Como já falamos em nossa matéria especial sobre este aplicativo, ele funciona como um grande assistente para quem faz muitas videochamadas e transmissões ao vivo, por meio da redução de ruído tanto em áudio quanto em vídeo.

Analisando o uso dos processadores com NPU lançados em 2023, tudo ainda é muito básico. Os chips focados em atividades de IA até conseguem desfocar o fundo e também realizar foco automático, mas nada além disso. Não há a redução de ruído, troca de fundo de forma nativa e até mesmo uso de vinheta, que são recursos presentes no NVIDIA Broadcast.

Dito isso, é um fato: o NVIDIA Broadcast, que funciona apenas em notebooks e desktops com placas de vídeo da NVIDIA, está muito mais avançado.

Foocus

Esta é a ferramenta que usa o Stable Difusion como base para gerar imagens de forma local no computador, sem a necessidade de internet. Você pode estar se perguntando se o Windows Copilot e o ChatGPT já não conseguem criar imagens, certo? Sim, eles conseguem, mas ainda é necessário ter uma conexão com a internet para o funcionamento destas ferramentas, o que não é necessário com o Fooocus. Veja esta foto criada pelo comando “um elefante na praia em um dia de sol”:

Desenvolvido para rodar em notebooks e computadores com placas de vídeo dedicadas, este aplicativo funciona usando a GPU como base e você pode desativar a internet para usá-lo. E as imagens impressionam: em 57 segundos, recebemos fotos em alta qualidade que beiram o realismo, tudo feito de forma local. Veja:

Por mais que tenham um chip focado apenas para atividades de IA, os processadores com NPU de 2023 ainda precisam de mais desempenho para fazer o processamento local. Quem sabe isso mude com o lançamento do padrão Copilot + PC da Microsoft, mas vamos aguardar o futuro para ter respostas.

Procyon

Realizar testes com NPU é um pouco difícil no momento pois, como estamos no primeiro momento de implementação desta tecnologia, aplicativos otimizados para este recurso ainda são escassos. Entretanto, por meio do AI Benchmark Vision da Procyon, foi possível perceber a diferença, já que ele consegue medir o processamento de IA tanto em GPUs quanto em NPUs.

Para começar, o Galaxy Book4 Ultra, com processador Intel Core Ultra 9, lançado em 2023 e com NPU dedicada, alcançou 494 pontos.

Já no Avell A55 ION que recebemos, ao usar a placa de vídeos para atividades de IA, alcançou mais que isso. Foram 539 pontos, um desempenho quase 10% superior. A foto abaixo mostra os resultados feitos com o notebook conectado na tomada, em seu modo de alto desempenho.

Dessa forma, este simples benchmark nos mostra que uma placa de vídeo que atinge mais de 200 TOPS é mais interessante do que um processador com menos de 50 TOPs de desempenho via NPU.

Recursos Adobe

Aqui, temos o óbvio: existem diversos recursos do Photoshop e do Lightroom que rodam apenas em notebooks com placas de vídeo dedicadas, como filtros para remoção de ruídos, colorizar fotos para preto e branco, dentre outros.

Com as placas de vídeo da NVIDIA, quem tem acesso ao Photoshop pode usar os Neural Filters, que permitem a mudança de expressões faciais, orientaçao da iluminação e até mesmo tornar mais jovem (ou mais velha) a aparência das pessoas. Isso tudo ocorre via IA, mas com o apoio da placa de vídeo e sem a necessidade de ter uma NPU.

Algumas ferramentas, como o Adobe Firefly ou Preenchimento Generativo (Generative Fill), rodam diretamente dos servidores da Adobe (assim como o Windows Copilot e ChatGPT, de suas respectivas empresas).

Ou seja: ter um computador com uma NPU até pode ajudar a ter acesso às ferramentas de correção de imagem, mas ter uma placa de vídeo dedicada é mais importante para ter maior produtividade no dia a dia por conta do processamento local.

Conclusão

Chegando ao fim deste comparativo, fica fácil enteder que um notebook ou computador com placa de vídeo dedicada tem mais desempenho de IA que um notebook com NPU dedicada, com a denominação de AI PC. E os motivos são muitos.

Primeiramente, placas de vídeo possuem um maior número de TOPS de desempenho do que as NPUs, permitindo que algumas aplicações de IA rodem de forma local e sem a necessidade da conexão com a internet. Isso é benéficoem diversas tarefas: geração de texto e imagem, correção de fotos, efeitos de videochamadas e até mesmo em jogos, por meio de recursos como Ray Tracing e DLSS.

Outro fator que beneficia computadores com GPU é a alta disponibilidade de aplicativos e funcionalidades para estes modelos. Além dos aplicativos exclusivos da própria NVIDIA, grandes players do mercado de tecnologia já desenvolveram (e ainda desenvolvem) formas de aproveitar o alto desempenho das GPUs dedicadas.

As NPUs prometem um amplo acesso aos recursos de IA, mas no momento de publicação deste conteúdo, só era possível testar seu desempenho em efeitos de videochamadas. Ainda faltam aplicativos para que os novos procesadores com NPU sejam testados, mas há promessa de que novas aplicações comecem a surgir em grande número.

Em contrapartida, um ponto muito positivo dos processados com NPU (sejam fabricados pela Qualcomm, Intel ou AMD) é que eles possuem um menor gasto de energia, algo essencial para quem precisa de um maior tempo longe da tomada. Nossos testes de bateria com o Galaxy Book4 Ultra apresentaram um uso de seis horas, algo incrível comparado às gerações anteriores.

Já os notebooks com GPU dedicada demandam mais energia para o nível de desempenho que entregam, logo consumindo mais bateria e limitando seu tempo de uso longe das tomadas.

Então a escolha entre os dois tipos de notebook depende da resposta à seguinte pergunta: você precisa de um notebook que entregará alto desempenho de IA gastando mais energia, ou prefere um modelo com maior autonomia de enrgia e menos desempanho de IA? A resposta para esta pergunta vai depender bastante do tipo de usuário que você é, na verdade.

Se for uma pessoa que não usaria tanto os recursos de IA e prefere ter um notebook que gasta pouca energia, a escolha é um notebook com processador que tem uma NPU. Agora se você precisa de um alto processamento de tarefas de IA no seu dia a dia, a melhor recomendação é apostar em um PC com GPU dedicada.

Entendeu o assunto? Qual seu tipo preferido? Com GPU dedicada ou NPU integrada? Diga pra gente nos comentários!

Veja também

NVIDIA critica AI PCs, afirmando que notebooks com suas placas de vídeo são mais potentes

Quem é a NVIDIA, a empresa que vale R$ 10 trilhões

NVIDIA critica AI PCs, afirmando que notebooks com suas placas de vídeo são mais potentes

Quem é a NVIDIA, a empresa que vale R$ 10 trilhões

Com informações: Pure Storage l Analytics Vidhya l Puget Systems l ASUS l Chill Blast l Auto Desk l PC World l Quora l NVIDIA

Revisado por Glauco Vital em 18/6/24.