OpenAI considera adicionar marcas dágua ao texto gerado pelo ChatGPT

De acordo com o The Wall Street Journal, a OpenAI tem um sistema para marca d'água em texto gerado pelo ChatGPT e uma ferramenta para detecção de marcas d'água prontos há cerca de um ano. Mas a empresa está debatendo internamente se deve lançá-lo. Por um lado, parece ser a coisa responsável a fazer; Por outro lado, pode prejudicar os lucros da empresa.

OpenAI considera adicionar marcas d'água ao texto gerado pelo ChatGPT

A marca d'água do OpenAI é descrita como um ajuste na maneira como o modelo prevê as palavras e frases mais prováveis ​​após palavras e frases anteriores, criando um padrão detectável.

Fornecer qualquer maneira de detectar material escrito por IA é uma vantagem potencial para professores que tentam desencorajar os alunos a usar IA para fazer o dever de casa. O Journal relata que a empresa descobriu que a marca d'água não afetou a qualidade do texto de saída do chatbot. Em uma pesquisa encomendada pela empresa, “pessoas ao redor do mundo apoiaram a ideia de ferramentas de detecção de IA por uma margem de 4:1”, escreve o Journal.

Depois que o Journal publicou sua história, a OpenAI confirmou que havia pressionado pela adição da marca d'água de texto em uma atualização de postagem de blog vista hoje pelo TechCrunch. Nele, a empresa afirma que seu método é altamente preciso (“99,9% eficaz”, de acordo com documentos vistos pelo Journal) e resistente a “falsificações, como paráfrases”. A empresa também disse estar preocupada com o estigma em torno da utilidade das ferramentas de IA para falantes não nativos.

Mas parece que a OpenAI também está preocupada que usar uma marca d'água possa afastar os usuários do ChatGPT. De acordo com a pesquisa, quase 30% deles disseram à empresa que usariam menos o software se o recurso de marca d'água fosse implementado.

Ainda assim, alguns funcionários acham que o recurso de marca d'água seria eficaz. No entanto, em resposta à frustração dos usuários, o Journal disse que alguns dos métodos de teste propostos "podem ser menos controversos entre os usuários, mas não são comprovados". Na atualização do blog de hoje, a empresa disse que está "nos estágios iniciais" de exploração da incorporação de metadados e ainda é "muito cedo" para saber o quão bem o novo recurso funcionará, mas, como ele é assinado criptograficamente, não deve haver nenhum falso positivo.

Deixar um comentário

Como descartar power bank em Sorocaba: pontos e opções

Como descartar power bank em Sorocaba: pontos e opções

Saiba onde descartar power bank em Sorocaba, compare o ponto da Sema, PEVs e cooperativas e confira o que fazer com uma bateria portátil danificada.

Como descartar bateria de lítio em Fortaleza com segurança

Como descartar bateria de lítio em Fortaleza com segurança

Saiba como descartar bateria de lítio em Fortaleza: pontos de entrega, Ecopontos, preparação segura, cuidados com bateria estufada e o que nunca fazer.

IPTU em São Bernardo do Campo: como emitir a segunda via e consultar débitos

IPTU em São Bernardo do Campo: como emitir a segunda via e consultar débitos

Veja como emitir a segunda via do IPTU em São Bernardo do Campo, consultar débitos de outros exercícios e pagar uma guia vencida com segurança.

Como descartar máquina de lavar em São Paulo: guia prático

Como descartar máquina de lavar em São Paulo: guia prático

Saiba como descartar máquina de lavar em São Paulo com segurança: Cata-Bagulho, logística reversa, preparação, transporte e erros que devem ser evitados.

Como descartar lâmpadas fluorescentes em Duque de Caxias com segurança

Como descartar lâmpadas fluorescentes em Duque de Caxias com segurança

Saiba onde e como descartar lâmpadas fluorescentes em Duque de Caxias, como acondicioná-las, o que fazer se quebrarem e quais pontos confirmar antes de sair.

Como descartar power bank em Teresina: onde levar e o que fazer com segurança

Como descartar power bank em Teresina: onde levar e o que fazer com segurança

Saiba como descartar power bank em Teresina, inclusive se estiver estufado ou danificado, e como localizar um ponto de logística reversa atualizado.

Como descartar micro-ondas em Campinas: guia prático e seguro

Como descartar micro-ondas em Campinas: guia prático e seguro

Saiba como descartar micro-ondas em Campinas: prepare o aparelho, escolha ecoponto ou logística reversa e evite erros no transporte.

Como descartar power bank em Recife? Veja onde levar e o que fazer com a bateria

Como descartar power bank em Recife? Veja onde levar e o que fazer com a bateria

Saiba como descartar power bank em Recife com segurança: compare EcoEstações, PEVs, lojas e pontos de logística reversa, além dos cuidados com aparelhos estufados ou danificados.

Como descartar micro-ondas em Belém? Guia passo a passo

Como descartar micro-ondas em Belém? Guia passo a passo

Saiba como descartar micro-ondas em Belém: Ecoponto da Sacramenta, Hub do Pix, logística reversa, preparo e erros a evitar.

Como descartar geladeira com segurança: guia de preparação e coleta

Como descartar geladeira com segurança: guia de preparação e coleta

Aprenda como descartar geladeira corretamente: encontre um ponto por CEP, prepare o aparelho, organize o transporte e evite erros comuns.