Esta ferramenta AI pode detectar texto escrito por outro AI

O desenvolvimento da IA ​​avançou o suficiente onde certas notícias podem realmente ser escritas por um computador sem qualquer informação de humanos. Isso pode ser perigoso, porque também significa que, uma vez que os computadores não precisam de sono, eles podem ser usados ​​em armas onde poderiam ser usados ​​para produzir notícias falsas depois de notícias falsas.

Publicidade

Existe o ditado de combater fogo com fogo, que é o que pesquisadores da Universidade de Harvard e do Laboratório AI do MIT-IBM Watson ter feito, onde eles desenvolveram uma nova ferramenta AI que tem a capacidade de identificar o texto que poderia ter sido gerado usando outro tipo de IA. Chamada de Sala de Testes de Modelo de Linguagem Gigante, esta ferramenta se baseia no fato de que a IA normalmente gera texto baseado em padrões estatísticos.

Basicamente, a ideia é que se um texto parece ser previsível demais para ter sido escrito por um humano, há uma chance de que ele possa ser escrito por um computador. A ferramenta pode ser usada para ajudar a detectar coisas como texto falso e desinformação, o que poderia ajudar na luta contra notícias falsas e bots. Já existem sites e organizações que se dedicaram à verificação de fatos, notícias e imagens falsas. , mas esperamos que com o uso da IA, se torne muito mais eficiente.

Via: Ubergizmo