Índice
Apesar de não ser comprovada que existe de forma pública, a inteligência artificial Q*, também chamada de Q-Star, está provocando muitas discussões no mercado de tecnologia. Além de possivelmente causar a demissão E recontratação de Sam Altman na OpenAI, foi divulgado que a IA “super avançada” pode ter quebrado criptografias. Entenda o que isso significa e o que esperar do futuro.
A demissão de Sam Altman
Sabe-se que a existência desta AI super avançada causou uma “implosão” na empresa criadora do ChatGPT. Tudo começou no dia 17 de novembro, quando Sam Altman, então CEO da OpenAI, foi demitido de seu cargo após oito anos.
Fontes indicam que a carta dos pesquisadores para o conselho da empresa desempenhou um papel significativo na demissão de Altman e trechos que chegaram à internet mostram que ele foi criticado por não ser sincero em suas comunicações, prejudicando a capacidade de exercer suas funções. Mas a demissão ainda é um grande mistério.
O nome de Altman estará conectado para sempre à empresa de inteligência artificial: em 2015, ele ajudou a criar a companhia sem fins lucrativos. Mas já em seu primeiro ano, com o apoio de nomes como Elon Musk, da empresária Jessica Livingston e do cofundador do LinkedIn, Reid Hoffman, entre outras entidades, conseguiu acumular US$ 1 bilhão.
Escravizamos a inteligência artificial ou ela nos escravizará.
Sam Altman em entrevista para a revista The New Yorker, em 2016.
A reação dos funcionários
Funcionários da empresa não concordaram com decisão do conselho e um abaixo-assinado com mais de 700 pessoas (quase todo o quadro de colaboradores) com a ameaça de demissão chegou a ser feito. Três dias após ser demitido e já contratado pela Microsoft, ele retornou para a OpenAI.
Após a demissão de Altman, descobriu-se que uma equipe de cientistas de IA foi formada pela fusão das equipes “Code Gen” e “Math Gen“. Essa equipe tinha como objetivo melhorar modelos de IA existentes para aprimorar o raciocínio e, no futuro, realizar trabalhos científicos. Essa equipe desempenhou um papel importante nas discussões sobre o direcionamento estratégico da empresa em relação à inteligência artificial.
A proposta da Microsoft
O ano de 2019 também foi importante para Sam Altman: ao criar uma subsidiária com fins lucrativos, a OpenAI fez uma parceria com Microsoft e um investimento de mais US$ 1 bilhão para a criação de projetos foi feito pela criadora do Windows. Mais tarde, vimos os resultados disso no lançamento do Windows Copilot, Bing Chat, Copilot 365 e integrações da OpenAI aos serviços que utilizamos no dia a dia.
A Microsoft é uma empresa que depende bastante da OpenAI para lançar inovações, ainda mais que apenas agora está conseguindo recuperar o investimento feito em 2019. Assim que percebeu que Sam Altman, o CEO da OpenAI, foi demitido de seu cargo, a empresa fundada por Bill Gates não perdeu tempo e ofereceu o cargo de líder de pesquisa avançada sobre IA. Brockman também seria um dos líderes deste novo time e o propósito da Microsoft é claro: nao deixar a roda da inteligência artificial deixar de rodar.
Na ocasião, o time estava sendo montado uma semana após a Microsoft divulgar a criação de seu próprio chip personalizado de IA, destinado a treinar grandes modelos de linguagem e potencialmente reduzir a dependência da NVIDIA.
A empresa ainda desenvolveu sua própria CPU baseada na arquitetura Arm, projetada para lidar com cargas de trabalho na nuvem. Ambos os chips personalizados foram feitos para impulsionar as operações em seus data centers no Azure, que vem sendo amplamente explorado.
A troca do conselho
O conselho da OpenAI tinha quatro nomes importantes que foram essenciais para a demissão de Sam Altma: Adam D’Angelo, Helen Toner, Tasha McCauley e Ilya Sutskeve. Alegando falha da comunicação de Altman com a criação da Q*, foi decidido que ele não teria mais o cargo de CEO da OpenAI.
A volta de Altman para a empresa trouxe mudanças para o tal conselho que recomendou sua demissão: apenas Adam D’Angelo, fundador e dono do site de pesquisas Quora, segue trabalhando na empresa, agora que Sam está de volta. O futuro da governança é uma grande incógnita, mas tem alguns nomes já envolvidos: a nova formação será presidida por Bret Taylor, ex-CEO da Salesforce, e terá a participação de Larry Summers, ex-secretário do Tesouro nos EUA.
É esperado que mais nomes da própria Microsoft façam parte do novo conselho da empresa de inteligência artificial. Outros nomes de empresas que colocaram dinheiro na OpenAI, como Sequoia Capital, Thrive Capital e Tiger Global, também são esperados.
O grande desafio neste momento é conseguir reestruturar uma empresa que claramente passa por muitos problemas em diversos setores. A maior regra no momento é mudar a condução de ética de AI, com todos os passos claros para todos que se interessam no assunto.
O retorno do CEO à OpenAI
No dia 22 de novembro, Altman voltou para a OpenAI, mas a imprensa tentou descobrir o motivo por trás de toda essa situação. Ele falou sobre a volta para a empresa que ajudou a fundar em um tweet, com a criação de um novo conselho a seu favor. Além disso, Greg Brockman, co-fundador da OpenAI, também chegou a se demitir; mas ele retornou para a empresa, ainda sem um cargo revelado.
Adoro a OpenAI e tudo o que fiz nos últimos dias serviu para manter esta equipe e sua missão unidas. Quando decidi ingressar na Microsoft no domingo à noite, ficou claro que esse era o melhor caminho para mim e para a equipe. Com a nova diretoria e o apoio de Satya, estou ansioso para retornar à OpenAI e desenvolver nossa forte parceria com a Microsoft.
Sam Altman sobre seu retorno à empresa de inteligência artificial
O que é a Q-Star?
A Q* ganhou destaque por sua capacidade, impulsionada por vastos recursos computacionais, de resolver problemas matemáticos. Embora seu desempenho seja comparável ao de alunos do ensino fundamental, a aprovação nos testes gerou otimismo entre os pesquisadores quanto ao potencial futuro do algoritmo de IA.
A OpenAI se recusa a falar publicamente sobre a existência do algoritmo do Q-Star, apesar de ter confirmado a existência do projeto em um comunicado interno para seus funcionários. O grande problema é que ela é muito mais avançada do que qualquer modelo de linguagem já visto pela humanidade e caso não seja assistida de perto, pode trazer danos irreparáveis.
A possível existência da Q* foi citada pela primeira vez em reportagem da Reuters, no dia 23 de novembro, quando pesquisadores demonstraram preocupações sobre como o avanço se tornou um momento crucial que gerou perguntas sobre ética, segurança e o futuro da IA na OpenAI. Além disso, os pesquisadores destacaram as proezas e o perigo potencial da IA, disseram as fontes, sem especificar as preocupações exatas de segurança mencionadas na carta.
Hipóteses preocupantes
A preocupação expressa na carta abordava não apenas as proezas da IA, mas também os perigos iminentes. Há muito que se discute entre os cientistas da computação sobre o perigo representado por máquinas altamente inteligentes, por exemplo, se decidirem que a destruição da humanidade é do seu interesse.
A capacidade de resolver exercícios que possuem apenas uma resposta é interessante. Atualmente, inteligências artificiais como ChatGPT, Bard e Bing Chat estão apenas na casa das probabilidades: são boas com escrita e tradução, mas ainda mandam respostas diferentes (e muitas vezes, não tão assertivas) sobre assuntos mais complexos.
Hipótese da AGI: a descoberta de uma inteligência sobre-humana
A Q* ajuda a encontrar melhores ações para serem tomadas em diferentes situações. O principal objetivo é que a máquina possua estratégias inteligentes e maiores retornos a longo prazo. O modelo seria o primeiro AGI (Artificial General Intelligence) da OpenAI.
A AGI refere-se a um tipo de IA que possui a capacidade geral de entender, aprender e realizar qualquer tarefa que um ser humano é capaz de fazer. A implementação deste sistema permanece em discussão constante, levantando questões éticas e de segurança e podendo afetar diversos cargos em empresas. Até o momento, a AGI ainda não foi compreendida, porém, diversas pesquisas continuam realizadas para desenvolver o sistema sem prejudicar outras pessoas.
De certo modo, esta tecnologia pode apresentar riscos para a humanidade, já que a OpenAI define a AGI como um sistema autônomo que supera os humanos nas tarefas e que, segundo a companhia, são economicamente mais valiosas.
Quando a OpenAI foi questionada sobre a super inteligência Q-Star, a equipe optou por não oferecer novos detalhes do projeto e não foram reveladas informações concretas sobre o risco que esse tipo de IA poderia causar para os humanos, tampouco informações oficiais sobre sua suposta existência.
A diferença entre os atuais modelos de linguagem que conhecemos e a Q-Star é que os pesquisadores acreditam que ela pode representar um avanço significativo em direção à “inteligência artificial geral” (AGI), sendo sistemas de inteligência artificial que possuem habilidades cognitivas comparáveis ou superiores às dos seres humanos em uma ampla variedade de tarefas.
Como as capacidades alegadas da IA não foram verificadas de forma independente, surgem especulações sobre seu verdadeiro impacto e potencial transformador. Os pesquisadores consideram a capacidade do Q* de realizar operações matemáticas como uma fronteira crucial no desenvolvimento da IA generativa superior.
Um último problema é que o aprendizado de máquina da possivel Q* é que ela aprende sem a necessidade de interação humana, como por exemplo um jogo de xadrez. Ao errar e perceber como ganhar, a IA consegue se sair melhor que humanos com uma só jogada.
Hipótese Q* (Q-Star): o fim da criptografia
A novidade nesta história está causando preocupações: conforme uma postagem compartilhada no Reddit, a Q-Star pode ter conseguido quebrar criptografias, que são nada menos do que a base da segurança em processos digitais. Além conseguir criar mensagens e criptografar as mesmas, a IA super avançada também teria a possível capacidade de ter acesso aos dados dos clientes de uma forma rápida. A depender de quem tiver acesso à Q*, isso pode ser um verdadeiro problema.
Especificamente sobre o bitcoin, uma criptomoeda altamente usada em todo o mundo, ela deixaria de ser criptografada e veria seu valor de mercado chegar a zero. Isso porque sua maior fonte de segurança — as chaves criptográficas — não existiria mais. Já falamos mais sobre essa moeda virtual em uma matéria especial, não deixe de conferir e também entender porque sua criptografia é tão importante. Mas há mais coisa por trás disso.
Atualmente, a criptografia está em todos os âmbitos virtuais: em redes sociais como WhatsApp em Instagram, em seu smartphone, nos sites que acessamos e até mesmo sistemas de bancos. Caso a Q* consiga quebrar esta barreira de segurança, será possível ter acesso a dados pessoais que levaram meses para serem criptografados.
Indo mais além, lembramos que instituições governamentais usam a criptografia em seus sistemas e, para nada vazar, seria necessário tirar estes dados do mundo conectado. Muitos sites também precisariam ser definitivamente fechados devido ao grande risco de ter uma inteligência artificial que consegue quebrar toda essa grande camada de segurança.
Implicações e o que esperar do futuro
A OpenAI evita comentar sobre a existência desta nova inteligência artificial, mas vale a pena ressaltar que tudo o que foi comentado sobre a Q* continua na casa dos rumores. Muito se comentou sobre os possíveis riscos, mas vale lembrar que ainda não houve uma confirmação oficial de que ela existe, a não ser o comunicado interno enviado aos funcionários.
Sobre a quebra de criptografia, a fonte para estas informações é uma postagem de no Reddit que sim, levanta discussões para um possível problema, mas, ao mesmo tempo, não traz muito embasamento para que uma verdadeira força-tarefa seja criada contra a Q*. Dito isso, o tempo nos trará respostas sobre o que acontecerá no futuro, mas vale a pena ficar atento às probabilidades para que as ações sejam tomadas agora.
Você acredita que a IA super avançada, caso realmente exista, pode trazer problemas para a humanidade no futuro? Diga pra gente nos comentários!
Assista o vídeo no canal do Showmetech:
Veja também
TOP AI: as 30 melhores Inteligências Artificiais de 2023
Com informações: Reddit l Wes Roth l CBC News l Cold Fusion
Revisado por Glauco Vital em 27/11/23.
