Ainda não confia na Inteligência Artificial?

Foto: Machine Design

A velocidade com que a Inteligência Artificial (AI) e a Aprendizagem de Máquina (AM) evoluem é absurda. Atuando em diversas áreas, promovem uma verdadeira revolução no dia a dia de diversas pessoas e em grandes negócios. Segundo estimativas da IBM, a IA deve movimentar R$ 730 milhões no Brasil em 2018.

Apesar de tudo isso, algumas pessoas ainda não confiam na IA. A interação com algo que muitas vezes não entendemos direto pode causar a sensação de que estamos perdendo o controle. Nesse contexto, existe uma série de iniciativas que buscam abrir a “caixa preta” da IA e AM para tentar deixar as decisões mais claras para os usuários. Estamos falando da capacidade de explicabilidade

Apenas abrir o código para que pessoas comuns tentem ler o passo a passo dos algoritmos não resolve. A caixa preta pode ser complexa até mesmo para especialistas na área. A explicabilidade é uma área que tenta explicar como o algoritmo chegou a tal decisão, estudando como fazer com que algoritmos sejam capazes explicar o porquê de cada resultado.

Esse tipo de iniciativa é muito importante principalmente quando se trata de cuidados com saúde e decisões que envolvem muito dinheiro. Em decisões de “vida ou morte”, a capacidade de auto-explicação é crucial para que a IA consiga passar mais segurança.

Pensando nisso, O Departamento de Defesa dos Estados Unidos está investindo em “IA Explicável” focando em AM para fazer com que combatentes confiem informações provenientes desses algoritmos. Novos sistemas devem ser capazes de explicar seu funcionamento explicitando seus pontos fortes e fracos para melhorar a compreensão de como se comportam.

Computadores são partes integrantes do nosso dia a dia, a automação tende a aumentar e melhorar com o passar do tempo se tornando cada vez mais importante. Portanto, é preciso entender como sistemas que se baseiam em IA e AM tomam decisões.

Deixe uma resposta