IA é treinada para pegar mentiras com modelo inédito

Plataforma usa modelo de aprendizado de máquina para verificar fatos com base em fontes confiáveis de mais de 100 veículos em todo o mundo

A startup norueguesa Factiverse criou uma plataforma que pode abrir novos caminhos para a verificação de fatos. O software usa inteligência artificial para apurar a credibilidade de textos, vídeos e áudios com um grande diferencial: não se baseia em LLM (Large Language Model) — o que afasta os chamados dados “junk food” de IA generativas.

“Construímos um tipo diferente de modelo baseado na recuperação de informações”, disse a CEO e cofundadora da Factiverse, Maria Amelie, ao TechCrunch. “Treinamos nosso modelo de IA para pensar intuitivamente como alguém que tem muita experiência em pesquisa de informações.”

A plataforma é baseada em aprendizado de máquina e processamento de linguagem natural, e faz varreduras em sites de busca, domínios de IA e até artigos acadêmicos. Recentemente, os recursos foram aplicados em checagens de tempo real nas eleições americanas.

“A parte mais divertida é que não estamos mostrando a você o que quer que apareça primeiro nesses mecanismos de busca”, disse Amelie. “Na verdade, estamos propondo a você quais fontes são as mais, ou historicamente foram as mais confiáveis ​​em seu tópico.”

Como funciona a plataforma?

São quatro os recursos disponíveis: API FactiSearch; verificação de fatos ao vivo; editor de IA; e Factiverse GPT. A plataforma integra um banco de dados com mais de 350 mil checagens realizadas por humanos em mais de 100 veículos em todo o mundo.

“As ferramentas do Factiverse encontram erros e imprecisões em seu texto para mitigar os riscos legais, financeiros e de reputação da sua organização”, diz a empresa.

O editor, inclusive, analisa o conteúdo escrito pelo usuário e destaca uma lista de fontes confiáveis para apoiar as alegações do material, trazendo ainda recomendações sobre onde focar a pesquisa em seguida.

Há também um GPT personalizado que utiliza vários mecanismos de busca, bancos de dados e algoritmos patenteados para minimizar alucinações de modelo.

Ainda em estágios iniciais, a startup levantou cerca de US$ 1,45 milhão (R$ 8,3 mi pela cotação atual) em capital inicial desde o lançamento em 2020, mas já vem sendo testada por empresas de mídia e um dos maiores bancos da Noruega.

A Factiverse diz que supera o GPT-4, o Mistral 7-b e o GPT-3 na taxa de acerto de verificação de fatos, atualmente em 80%, em 114 idiomas. “Temos financiamento suficiente para sermos os melhores, mas estamos aqui nos EUA para nos tornarmos os mais rápidos”, disse Amelie.

Fonte/Imagem: OlharDigital/Internet