Q-Star, a IA “super avançada”, pode ter levado à demissão do CEO da OpenAI

Em uma reviravolta surpreendente, a OpenAI, criadora do ChatGPT, se viu no centro de uma controvérsia quando pesquisadores alertaram o conselho de administração sobre uma descoberta alarmante na inteligência artificial (IA). Essa advertência crucial precedeu a demissão do CEO, Sam Altman, por decisão do conselho, resultando em reações intensas na empresa.

A demissão e recontratação de Sam Altman

A OpenAI demitiu o seu CEO, Sam Altman, em 17 de novembro de 2023, por decisão do conselho da empresa. A demissão de Altman causou indignação entre os funcionários da empresa, que expressaram apoio ao CEO nas redes sociais.

A Microsoft convidou Altman e todos os funcionários da OpenAI para criar uma nova divisão de IA na empresa. No entanto, alguns membros do conselho, que discordaram da demissão, se rebelaram e tentaram reverter a situação, fazendo uma proposta para que o CEO retornasse.

Altman aceitou o convite e voltou para a OpenAI, mas a imprensa tentou descobrir o motivo por trás de toda essa situação. Fontes afirmam que a decisão está relacionada a uma descoberta significativa em IA que representa um risco para a humanidade. Suspeita-se que isso esteja relacionado a algo chamado Q* (Q-Star ou Q Star), sendo uma superinteligência artificial.

O que é Q-Star

Segundo a Reuters, a carta enviada pelos pesquisadores ao conselho detalhou os riscos associados a um algoritmo de IA até então não divulgado, apelidado de Q*. Esse avanço se tornou um momento crucial que gerou perguntas sobre ética, segurança e o futuro da IA na OpenAI.

O Q* ganhou destaque por sua capacidade, impulsionada por vastos recursos computacionais, de resolver problemas matemáticos. Embora seu desempenho seja comparável ao de alunos do ensino fundamental, a aprovação nos testes gerou otimismo entre os pesquisadores quanto ao potencial futuro do algoritmo de IA.

A preocupação expressa na carta abordava não apenas as proezas da IA, mas também os perigos iminentes. Detalhes específicos sobre os riscos mencionados na carta permanecem obscuros, no entanto, fontes indicam que a carta desempenhou um papel significativo nas queixas do conselho, que poderiam ter culminado na demissão de Altman.

O conselho, ao anunciar a demissão, destacou preocupações não apenas sobre a IA, mas também sobre a comercialização de avanços tecnológicos antes da compreensão completa de suas implicações. Este movimento levou mais de 700 funcionários a ameaçar renunciar em solidariedade, apresentando uma perspectiva única e desafiadora sobre o futuro da empresa, fazendo com que Altman fosse recontratado na última terça-feira.

Após a demissão de Altman, descobriu-se que uma equipe de cientistas de IA foi formada pela fusão das equipes “Code Gen” e “Math Gen“. Essa equipe tinha como objetivo melhorar modelos de IA existentes para aprimorar o raciocínio e, no futuro, realizar trabalhos científicos. Essa equipe desempenhou um papel importante nas discussões sobre o direcionamento estratégico da empresa em relação à inteligência artificial.

Quando questionada, a empresa optou por não fornecer muitos detalhes sobre o projeto Q-Star e a carta enviada ao conselho. Em uma mensagem interna aos funcionários, a empresa confirmou a existência do projeto e a carta, mas não deu mais informações, deixando uma aura de mistério e preocupação em torno desses acontecimentos importantes.

Perigos de uma super IA

Alguns funcionários acreditam que o Q* pode representar um avanço significativo em direção à “inteligência artificial geral” (AGI), sendo sistemas de inteligência artificial que possuem habilidades cognitivas comparáveis ou superiores às dos seres humanos em uma ampla variedade de tarefas.

Como as capacidades alegadas da IA não foram verificadas de forma independente, surgem especulações sobre seu verdadeiro impacto e potencial transformador. Os pesquisadores consideram a capacidade do Q* de realizar operações matemáticas como uma fronteira crucial no desenvolvimento da IA generativa superior.

Enquanto a IA atual se destaca em tarefas como escrita e tradução, a capacidade de lidar com problemas matemáticos, onde há apenas uma resposta correta, sinaliza um avanço em direção a uma inteligência mais próxima da humana. Esta conquista pode ter implicações profundas em pesquisas científicas e aplicações práticas.

No entanto, a Reuters destaca que a maior preocupação dos cientistas e pesquisadores da computação é o risco de sistemas altamente inteligentes tomarem decisões probabilísticas sobre a destruição da raça humana em seu próprio interesse.

A demissão de Altman, grande líder visionário responsável pelo sucesso estrondoso do ChatGPT, deixou os funcionários surpresos e preocupados, pois Altman conseguiu atrair investimentos importantes, incluindo recursos cruciais da Microsoft, enquanto se empenhava em alcançar a AGI.

Na última apresentação do executivo, ocorrida recentemente, foram reveladas novas ferramentas e avanços tecnológicos da empresa. Durante o evento, ele expressou otimismo em relação às grandes conquistas que estão por vir, destacando a busca contínua por ultrapassar os limites do conhecimento como uma fonte de orgulho profissional.

“Em quatro ocasiões ao longo da história da OpenAI, sendo a mais recente apenas nas últimas semanas, tive o privilégio de estar presente quando desvendamos a ignorância e impulsionamos a fronteira da descoberta. Fazer parte disso é uma honra profissional única na vida.”

Sam Altman, durante a cúpula da Cooperação Econômica da Ásia-Pacífico.

No entanto, a demissão e recontratação de Altman levanta dúvidas sobre o rumo do futuro da empresa. O conselho, ao tomar essa decisão, expressou preocupações mais abrangentes, não apenas em relação à tecnologia em si, mas também sobre a divulgação prematura de avanços tecnológicos e as implicações éticas associadas a eles.

O cenário é complexo, com desafios éticos, incertezas tecnológicas e o futuro da IA na OpenAI em jogo. À medida que a história se desenrola, a comunidade aguarda ansiosamente mais informações sobre o projeto Q*, a carta dos pesquisadores e os próximos passos da empresa em sua busca pela inteligência artificial avançada.

Veja mais:

Fonte: Reuters, Google Discovery, CNBC, CNN Portugal

Revisado por Glauco Vital em 23/11/23.