A empresa Google criou um software de inteligência artificial de comportamento homofóbico. O programa Cloud Natural Language custou o equivalente a $500 billhões de dólares (1.8 trilhões de reais), e é utilizado para analisar as declarações divulgadas na internet sobre um determinado produto.
A percepção de que o produto é homofóbico veio de seu próprio funcionamento. O programa lança pontuações numa escala de um negativo até um positivo para frases referentes a determinado produto, detectadas por ele na web, de acordo com o sentimento que o conteúdo desperta. “Você pode usá-lo para entender o sentimento sobre o seu produto em mídias sociais ou analisar a intenção de conversas de clientes”, explicou a empresa Google. Nesse contexto, o software chegou a lançar até quatro pontos negativos para frases referentes à homossexualidade, contra um ponto positivo para frases de cunho heterossexual.
A Google não é a única empresa a lançar um produto com esse tipo de problema. No ano passado, a empresa Microsoft criou um programa muito parecido com o do Google, o Tay, que reagia positivamente apenas a conteúdos de cunho machista, racista, homofóbico e até nazista.
A Google lamentou o ocorrido e está providenciando a correção do software. “Vamos corrigir este caso específico e, mais amplamente, construir algoritmos mais inclusivos o que é crucial para trazer o benefícios da aprendizagem de máquinas a todos”, declarou.
