OpenAI oferece recompensa para denúncias de bugs no ChatGPT

A OpenAI, empresa responsável por soluções em inteligência artificial (IA),está oferecendo até US$ 20 mil para denúncias de bugs no ChatGPT. Para poder alertar sobre as vulnerabilidades, os usuários devem mostrar os erros por meio da plataforma de bug bounty Bugcrowd, onde o anúncio foi feito.

Ao mesmo tempo em que oferece recompensas, a OpenAI alerta que tentativas de operar os sistemas de IA da empresa para fins maliciosos não receberão nenhuma gratificação. Entenda nessa matéria como a empresa vai dar esses prêmios para quem encontrar os vícios dos serviços AI e as regras envolvidas para obtê-las.

Como a OpenAI oferece recompensa aos usuários que encontrarem bugs no ChatGPT?

A empresa que anunciou as propostas de premiação para encontrar bugs avisou que está com esse programa porque entende que “pesquisas substanciais e abordagem ampla” são necessários para alguns problemas. Assim, a companhia pretende recompensar por erros detectados que possam “aliviar a barra” e melhorar o funcionamento de serviços como o ChatGPT.

“Nossas recompensas vão de 200 dólares para descobertas de baixo risco até 20 mil dólares para descobertas excepcionais”

OpenAI

Ou seja, tomando como referência a cotação atual da moeda dos EUA, se um usuário brasileiro denunciasse algo erro considerado mais básico, seu prêmio poderia ultrapassar R$ 980. Já no caso de alertar para um erro de grande escala, o usuário seria beneficiado com quase R$ 100 mil.

A ideia é de que, com o programa de recompensas, a OpenAI consiga diminuir a possibilidade de falhas em processamento de dados de usuários. Dedicando uma atenção maior à comunidade que usa suas soluções, a empresa quer que as pessoas não deixem os detalhes de vulnerabilidade explícitos.

Erros e outros problemas não inclusos no programa de recompensas

Há várias matérias e artigos já mostrando o potencial benéfico do ChatGPT — tanto para tarefas simples, como planejar viagens, como para outras atividades mais complexas, como avaliar códigos de programação — e, por outro lado, relatando respostas que podem ser mais arriscadas — o serviço pode ser usado para criar peças de desinformação ou mesmo elaborar passos parra criar malwares. Quanto à esses problemas, a Open AI elencou algumas diretrizes para definir quem pode receber os prêmios por denúncias de bugs.

A lista que consta na página do Bugcrowd, chamada de Out-of-Scope (fora de escopo, em tradução livre), indica que erros por ataque, seja por quebra de senhas, destruição de dados de terceiros, vazamento de identidades, entre outros tipos de ofensa não vão receber as recompensas anunciadas. As diretrizes também limitam qualquer tentativa de ataque à própria OpenAI, tentativas de criação de spam ou de fraude. Ainda, a companhia não vai premiar aqueles planejem pedir aos serviços AI para produzir métodos para enganar pessoas através de sites, com botões e serviços falsos.

Vulnerabilidades alertadas no ChatGPT com grande repercussão: alguns exemplos

Há algumas semanas, o ChatGPT virou notícia por mostrar um potencial nocivo, já que era capaz de poder burlar sistemas de verificação, como o CAPTCHA. Mas esses e outros erros podem ser relacionados a outras causas, isto é, não necessariamente são por causa de uma má gestão da OpenAI.

Em março, por exemplo, um hacker chamado rezO chegou a revelar 80 “plugins secretos” dentro da API — abreviação para Application Programming Interface, ou Interface de Programação de Aplicação, em tradução livre; serve para criar uma interação entre serviços digitais, sendo importante para o funcionamento desses sistemas para o uso das pessoas. Acontece que, na verdade, esses recursos ainda iriam ser implementados para o serviço AI.

Como resolução, a OpenAI conseguiu sanar o problema de plugins no mesmo dia em que a ocorrência foi alertada. Também em março, a OpenAI chegou a se desculpar também por ter sido notificada por um outro erro do seu sistema AI de respostas rápidas. O aviso era de que estava acontecendo um bug que levava a vazar detalhes de pagamento e até histórico de conversas de alguns usuários.

Veja também:

Google Bard: concorrente do ChatGPT é anunciado para “breve”

Bill Gates cita que “era da IA apenas começou” e reflete sobre ChatGPT

Fonte: The Verge | PC Mag