Home Tecnologia Microsoft vai remover recursos de reconhecimento facial

Durante anos, ativistas e acadêmicos levantaram preocupações de que um software de reconhecimento facial que afirma ser capaz de identificar idade, sexo e estado emocional de uma pessoa pode ser tendencioso, não confiável ou invasivo – e, por isso, não deve ser vendido.

Reconhecendo algumas dessas críticas, a Microsoft planeja remover esses recursos de seus serviço de inteligência artificial para detectar, analisar e reconhecer rostos. Eles deixarão de estar disponíveis para novos usuários esta semana e serão eliminados gradualmente para usuários existentes durante este ano.

As mudanças fazem parte de um esforço da empresa em adotar controles mais rígidos de seus produtos de inteligência artificial. Após uma revisão de dois anos, uma equipe da Microsoft desenvolveu o “Responsible AI Standard”, um documento de 27 páginas que estabelece requisitos para sistemas de inteligência artificial para garantir que eles não tenham um impacto prejudicial na sociedade.

Tais requisitos incluem garantir que os sistemas forneçam “soluções válidas para os problemas que foram projetados para serem resolvidos” e “uma qualidade de serviço semelhante para grupos demográficos identificados, incluindo aqueles marginalizados”.

Agora, antes de serem lançadas, as tecnologias que seriam usadas para tomar decisões importantes sobre o acesso de uma pessoa a emprego, educação, assistência médica ou serviços financeiros estarão sujeitas a uma revisão. Esta será feita por uma equipe liderada por Natasha Crampton, executiva-chefe responsável pela IA na Microsoft.

Houve preocupações crescentes na empresa em relação à ferramenta de reconhecimento de emoções, que rotulou a expressão de pessoas como raiva, desprezo, nojo, medo, felicidade, tristeza ou surpresa.

“Há uma enorme quantidade de variação cultural, geográfica e individual na maneira como nos expressamos”, disse Natasha.

Segundo ela, isso levou a questionamentos sobre confiabilidade, juntamente com as questões maiores sobre se “a expressão facial é um indicador confiável de seu estado emocional interior”.

As ferramentas de análise de idade e gênero que estão sendo eliminadas – juntamente com outras usadas para detectar atributos faciais, como cabelo e sorriso – podem ser úteis para interpretar imagens visuais para pessoas cegas ou com baixa visão, por exemplo, mas a empresa decidiu que era problemático tornar as ferramentas de criação de perfil disponíveis ao público em geral, afirmou a executiva.

Ela acrescentou ainda que o sistema classificava o gênero como binário, “e isso não é consistente com nossos valores”.

A Microsoft também vai adotar novos controles sobre seu recurso de reconhecimento facial usado para realizar verificações de identidade ou procurar uma pessoa em particular.

A Uber, por exemplo, usa o software em seu aplicativo para verificar se o rosto de um motorista corresponde ao ID registrado na conta desse condutor. Os desenvolvedores de software que desejam usar a ferramenta de reconhecimento facial da Microsoft precisarão solicitar acesso e explicar como planejam implantá-la.