Espelho da Personalidade ressalta riscos da inteligência artificial

Redação do Site Inovação Tecnológica 

Já pensou ser julgado irresponsável, esquisito e emocionalmente instável por uma única expressão?[Imagem: Niels Wouters]

Psicólogo eletrônico

Pesquisadores da Universidade de Melbourne, na Austrália, projetaram um sistema de inteligência artificial para detectar e exibir os traços de personalidade e atratividade física das pessoas, com base unicamente em uma foto de seu rosto.

Quando alguém fica à frente do "Espelho Biométrico", o sistema detecta uma série de características faciais em segundos. Em seguida, ele compara os dados do usuário com o de milhares de fotos faciais que foram avaliadas por psicometria por um grupo de voluntários.

O Espelho Biométrico apresenta 14 características, de gênero, idade e etnia à atratividade, estranheza e estabilidade emocional. Quanto mais tempo uma pessoa for analisada pelo sistema, mais pessoais se tornam as características traçadas.

Alerta para a artificialidade

Mas o professor Niels Wouters diz que o objetivo da sua equipe é justamente destacar as preocupações que essa tecnologia gera em torno da privacidade, do consentimento, do armazenamento de dados pessoais e, sobretudo, do "viés algorítmico" que esses sistemas de inteligência artificial estão criando na sociedade.

O aparelho está sendo usado como um exercício, em que as pessoas podem fazer diversas poses, e até macaquear, para ver como a máquina as vê de forma diferente a cada momento.

Wouters salienta que, além da possibilidade de uso sem consentimento, a aparente inteligência desses programas é sempre baseada em "dados de treinamento" - análises que podem não ter um nível de precisão adequada, podem usar amostragens não representativas e uma série de outras questões. Em outras palavras, apesar de ensejar anúncios do tipo "Inteligência Artificial interpreta sua personalidade", o programa na verdade usa uma visão popular - os voluntários que analisam as imagens - para interpretar as feições, não sendo capaz de "ver a personalidade real" da pessoa.

Mais do que isso, como já há demonstrações de que os programas de inteligência artificial vão se programar sozinhos, sistemas assim poderão perpetuar seus vieses.

Riscos da inteligência artificial

Quem explica as preocupações e as limitações da tecnologia é o próprio pesquisador.

"Com o surgimento da inteligência artificial e dos megadados, os governos e as empresas usarão cada vez mais câmeras de vigilância e publicidade interativapara detectar emoções, idade, gênero e dados demográficos dos transeuntes.

"Nosso estudo tem como objetivo provocar questões desafiadoras sobre as fronteiras da IA (inteligência artificial). Isso mostra aos usuários como é fácil implementar IA que discrimina de maneiras antiéticas ou problemáticas que poderiam ter consequências sociais. Ao encorajar o debate sobre privacidade e vigilância em massa, nós esperamos contribuir para uma melhor compreensão da ética por trás da IA.

"Embora coletar informações pessoais sobre suas preferências de compras para adaptar um serviço individual possa parecer inofensivo, a captura dessas informações sem o consentimento torna impossível saber se uma previsão é baseada em dados corretos.

"O uso da IA é uma pista escorregadia que se estende para além do reino das compras e da publicidade. Imagine não ter controle sobre um algoritmo que o considera inadequado para cargos de gerência, inelegível para admissão na universidade ou compartilha sua foto publicamente sem o seu consentimento.

"Uma das suas características é escolhida - digamos, seu nível de responsabilidade - e o Espelho Biométrico pede que você imagine que esta informação está sendo compartilhada com sua seguradora ou com um futuro empregador. Este projeto é uma demonstração transparente das potenciais consequências para os indivíduos," disse o professor Wouters.