Modelo da Microsoft e do MIT pode detectar pontos cegos da AI em carros autônomos

Carros autônomos ou autônomos às vezes podem cometer erros. Tudo se resume a saber se a IA que está alimentando o sistema autônomo treinou o suficiente para lidar com uma situação específica na estrada. Como essas lacunas no conhecimento podem resultar em erros perigosos dos carros que dirigem a si mesmos, a Microsoft e o MIT criaram uma solução para preencher essas lacunas e detectar os pontos cegos da inteligência artificial nos carros autônomos.

O modelo que eles desenvolveram mais ou menos faz a IA comparar as ações de um humano em uma situação particular com o que ele teria feito naquele momento. Ele pode então mudar seu comportamento com base na precisão com que ele corresponde à resposta.

Por exemplo, você sabe que tem que parar se vir uma ambulância chegando atrás de você acendendo, um veículo autônomo AI pode agora. Esse modelo basicamente fará com que a IA aprenda esse comportamento, observando um motorista humano parando na beira da estrada quando uma ambulância aparecer. Ele pode então replicar esse comportamento em um cenário semelhante em qualquer ponto no futuro.

O mesmo modelo de ensino também será útil para correções em tempo real. Por exemplo, se o AI fizer uma chamada incorreta em uma situação, o motorista humano poderá assumir o controle e fazer a chamada correta. Isso ensinaria à IA o que fazer em um cenário semelhante no futuro. Os pesquisadores também desenvolveram uma maneira de garantir que a IA não identifique todas as instâncias de uma determinada resposta como seguras. Para evitar isso, um algoritmo de aprendizado de máquina julgará a resposta aceitável e inaceitável ao usar cálculos de probabilidade para examinar os padrões e decidir se a chamada sendo feita é completamente segura ou poderia causar problemas.

Este modelo não possui Não foi testado no mundo real ainda, então será interessante ver quais serão os resultados quando a Microsoft e o MIT testarem em carros reais.

Via: Ubergizmo