Home
» Wiki
»
OpenAI considera adicionar marcas dágua ao texto gerado pelo ChatGPT
OpenAI considera adicionar marcas dágua ao texto gerado pelo ChatGPT
De acordo com o The Wall Street Journal, a OpenAI tem um sistema para marca d'água em texto gerado pelo ChatGPT e uma ferramenta para detecção de marcas d'água prontos há cerca de um ano. Mas a empresa está debatendo internamente se deve lançá-lo. Por um lado, parece ser a coisa responsável a fazer; Por outro lado, pode prejudicar os lucros da empresa.
A marca d'água do OpenAI é descrita como um ajuste na maneira como o modelo prevê as palavras e frases mais prováveis após palavras e frases anteriores, criando um padrão detectável.
Fornecer qualquer maneira de detectar material escrito por IA é uma vantagem potencial para professores que tentam desencorajar os alunos a usar IA para fazer o dever de casa. O Journal relata que a empresa descobriu que a marca d'água não afetou a qualidade do texto de saída do chatbot. Em uma pesquisa encomendada pela empresa, “pessoas ao redor do mundo apoiaram a ideia de ferramentas de detecção de IA por uma margem de 4:1”, escreve o Journal.
Depois que o Journal publicou sua história, a OpenAI confirmou que havia pressionado pela adição da marca d'água de texto em uma atualização de postagem de blog vista hoje pelo TechCrunch. Nele, a empresa afirma que seu método é altamente preciso (“99,9% eficaz”, de acordo com documentos vistos pelo Journal) e resistente a “falsificações, como paráfrases”. A empresa também disse estar preocupada com o estigma em torno da utilidade das ferramentas de IA para falantes não nativos.
Mas parece que a OpenAI também está preocupada que usar uma marca d'água possa afastar os usuários do ChatGPT. De acordo com a pesquisa, quase 30% deles disseram à empresa que usariam menos o software se o recurso de marca d'água fosse implementado.
Ainda assim, alguns funcionários acham que o recurso de marca d'água seria eficaz. No entanto, em resposta à frustração dos usuários, o Journal disse que alguns dos métodos de teste propostos "podem ser menos controversos entre os usuários, mas não são comprovados". Na atualização do blog de hoje, a empresa disse que está "nos estágios iniciais" de exploração da incorporação de metadados e ainda é "muito cedo" para saber o quão bem o novo recurso funcionará, mas, como ele é assinado criptograficamente, não deve haver nenhum falso positivo.