Microsoft anuncia nova ferramenta para detectar e corrigir conteúdo alucinatório em saídas de IA

O Azure AI Content Safety é o serviço de IA da Microsoft que ajuda a detectar conteúdo prejudicial gerado por IA em aplicativos, serviços e plataformas. Este utilitário fornece APIs de texto e imagem, permitindo que os desenvolvedores identifiquem conteúdo indesejado.

A API Groundedness no Azure AI Content Safety é capaz de identificar se a resposta de um modelo de linguagem grande é baseada em um documento de origem selecionado pelo usuário. Como os atuais modelos de linguagem de grande porte podem produzir informações imprecisas ou falsas (informações ilusórias), esta API ajuda os desenvolvedores a identificar esse conteúdo nos dados de saída da IA.

Microsoft anuncia nova ferramenta para detectar e corrigir conteúdo alucinatório em saídas de IA

Hoje, a Microsoft anunciou uma prévia da correção. Como resultado, os desenvolvedores agora podem detectar e corrigir conteúdo “ilusório” em dados de saída de IA em tempo real, garantindo que os usuários finais sempre recebam conteúdo gerado por IA com precisão factual. Este recurso funciona da seguinte maneira:

  • O desenvolvedor do aplicativo habilita recursos de edição.
  • Quando dados infundados são detectados, uma nova solicitação é enviada ao modelo de IA para corrigir o erro.
  • O algoritmo LLM avaliará a pontuação geral com base em documentos confiáveis.
  • Frases que não são relevantes para o documento subjacente autenticado podem ser filtradas completamente.
  • Se o conteúdo for derivado de um documento base, o modelo base reescreverá a frase infundada para corresponder ao documento.

Além do recurso de edição, a Microsoft também anunciou uma prévia pública do Hybrid Azure AI Content Safety (AACS). Esse recurso permite que os desenvolvedores implementem mecanismos de segurança de conteúdo na nuvem e no dispositivo. O SDK incorporado do AACS permite verificações de segurança de conteúdo em tempo real diretamente no dispositivo, mesmo sem conexão com a Internet.

Por fim, a Microsoft anunciou uma prévia do Protected Materials Detection for Code, que pode ser usado com aplicativos de IA de geração de código para detectar se o LLM está gerando algum código protegido. Anteriormente, esse recurso só estava disponível por meio do Azure OpenAI Service. A Microsoft agora está disponibilizando a Detecção de Materiais Protegidos para Código aos clientes para uso em conjunto com outros modelos de IA de geração de código.

Deixar um comentário

Como descartar ar-condicionado em Natal com segurança e comprovação

Como descartar ar-condicionado em Natal com segurança e comprovação

Saiba como descartar ar-condicionado em Natal: canais para aparelhos grandes, Ecozap, técnico para o gás refrigerante e sinais de destinação correta.

Coleta de móveis e entulho em Santo André: como descartar do jeito certo

Coleta de móveis e entulho em Santo André: como descartar do jeito certo

Saiba como descartar móveis e entulho em Santo André, quando usar as Estações de Coleta, limites, horários e como pedir retirada de descarte irregular.

Como descartar sofá no Rio de Janeiro: retirada da Comlurb, limites e cuidados

Como descartar sofá no Rio de Janeiro: retirada da Comlurb, limites e cuidados

Veja como descartar sofá no Rio de Janeiro com a retirada gratuita da Comlurb, quais limites valem, como preparar o móvel e quando buscar outra solução.

Ecoponto em Belém: o que pode levar e como funciona

Ecoponto em Belém: o que pode levar e como funciona

Saiba onde fica o Ecoponto de Belém, horários, limite de 1 m³, materiais aceitos, itens proibidos e alternativas para móveis e recicláveis.

Como descartar power bank em São Luís: pontos e cuidados

Como descartar power bank em São Luís: pontos e cuidados

Veja como encontrar um ponto que aceite power bank em São Luís, compare PEVs e outras opções e saiba por que Ecopontos não são a rota para baterias.

Como descartar pilhas em São Bernardo do Campo: pontos e passo a passo

Como descartar pilhas em São Bernardo do Campo: pontos e passo a passo

Veja como preparar e entregar pilhas usadas em pontos de coleta de São Bernardo do Campo, com cuidados, endereços de referência e erros a evitar.

Coleta de móveis e entulho em Campinas: como solicitar e onde descartar

Coleta de móveis e entulho em Campinas: como solicitar e onde descartar

Veja como funciona o Cata-Treco em Campinas, quando usar o 156 e como descartar móveis e até 1 m³ de entulho em Ecopontos e pontos oficiais.

Como descartar botijão de gás com segurança: onde levar e o que evitar

Como descartar botijão de gás com segurança: onde levar e o que evitar

Saiba como devolver ou descartar um botijão de gás vazio, danificado ou com vazamento sem colocá-lo no lixo comum.

Power bank estufado em Sorocaba: como descartar com cuidado

Power bank estufado em Sorocaba: como descartar com cuidado

Veja como interromper o uso, reconhecer sinais de perigo e confirmar em Sorocaba um destino adequado para power bank estufado antes de transportá-lo.

Ecoponto em São Paulo: o que pode levar e como funciona

Ecoponto em São Paulo: o que pode levar e como funciona

Veja o que pode levar ao Ecoponto em São Paulo, os limites, horários, materiais proibidos e quando usar o Cata-Bagulho no lugar.