Instagram implanta IA para reduzir legendas ofensivas
O Instagram está usando inteligência artificial para reduzir o número de legendas ofensivas em sua plataforma.A empresa já usou essa tecnologia em um esforço para fazer com que os usuários se autopolicitem dos comentários que deixam nas postagens.A IA funciona alertando os usuários de que seus comentários podem ser prejudiciais para quem os lê (tentar chamar alguém de idiota, por exemplo, resultaria em um aviso).
O Instagram permite que os usuários relatem comentários sobre vários problemas, incluindo bullying. Esses relatórios são revisados e descartados ou adotados, cujos dados são usados para treinar o sistema de IA anti-assédio da plataforma.
Usando essa tecnologia e os relatórios humanos existentes, o Instagram pode detectar automaticamente novos comentários semelhantes aos relatados por humanos.A IA produz um prompt que incentiva o usuário a revisar e, se necessário, editar o comentário para torná-lo menos ofensivo.
Agora, a mesma tecnologia está sendo usada para revisar legendas em postagens. Supondo que o sistema tenha sido desativado, o aplicativo do Instagram alertará o usuário sobre o fato de que sua legenda pode ser prejudicial, dando a ele a chance de editar o texto antes de publicar a postagem. No entanto, o Instagram não exige que as legendas sejam editadas.
Os alertas de legenda estão ativos hoje para muitos usuários do Instagram, embora demore alguns meses para que a empresa implante esse sistema para todos. Embora os usuários tenham a opção de publicar uma legenda, mesmo que recebam um aviso, o Instagram lembra os usuários de que devem seguir as regras da empresa para evitar colocar suas contas em risco.
Via: Slash Gear
Veja Também:
Nenhum comentário