Se de um lado trazem avanços para a sociedade, de outro, a evolução dos sistemas autônomos, cognitivos e de inteligência artificial (IA) geram desafios de natureza ética e moral para os profissionais de tecnologia – o que, segundo o professor Virgílio Almeida, é algo que “a comunidade Web deve estar atenta”.

Professor titular do Departamento de Ciência da Computação da Universidade Federal de Minas Gerais (UFMG) e, atualmente, Faculty Associate ao Berkman Klein Center For Internet and Society, na Universidade de Harvard, EUA, Virgílio Almeida se dedica a estudar os impactos sociais, éticos e morais da IA e dos algoritmos sobre a sociedade, e irá compartilhar sua visão e propor discussões sobre o tema durante a conferência Web.br.

Em um bate-papo com o blog da Web.br, Virgílio detalhou sua visão a respeito de questões éticas e morais envolvidas nos processos de avanço tecnológico em tempos de computação cognitiva. Confira abaixo a entrevista com o especialista.

Web.br – Como você enxerga os impactos dos avanços da computação cognitiva na vida de usuários e no trabalho dos profissionais técnicos?
Virgílio Almeida – Ao mesmo tempo que a computação cognitiva representa avanços na medicina ou facilita as relações entre pessoas de diferentes culturas, ela levanta uma série de questões éticas e morais, uma série de consequências que não foram previstas. Este é um assunto que deve ser tratado não apenas com a comunidade técnica, mas com os usuários da tecnologia também.

WB – Você consegue nos dar algum exemplo prático de consequência não prevista trazida com esses avanços em IA e computação cognitiva?
VA – Claro. Um estudo publicado recentemente pela revista Science mostra que no caso do Twitter, a probabilidade de uma pessoa repassar um tweet contendo notícia falsa é 20% maior em relação a um post com conteúdo verdadeiro. Significa que a notícia falsa anda mais rapidamente do que a verdadeira, pois ela atrai mais atenção. Neste caso, a criação de um algoritmo desenvolvido para atrair a atenção do usuário pode acabar levando à proliferação de notícias falsas, de cunho político ou que prejudiquem, por exemplo, ações do governo relacionadas à saúde pública. Temos aqui um exemplo claro de iniciativa que, em princípio teve finalidade positiva, mas que acaba gerando consequências não planejadas e afligem a sociedade como um todo.

WB – Assim o trabalho do profissional esbarra nessas questões éticas e morais, certo?
VA – Isso mesmo. Será que o profissional pensa que um algoritmo pode estar ligado a questões discriminatórias ao propor resultados em uma busca com base nos dados que analisa? Ao associar imagens de pessoas brancas a uma determinada característica, ele não estaria estimulando a discriminação? Ou ainda: ao estimular o usuário a disseminar uma notícia falsa – ou mesmo repassar um tweet com informações pouco saudáveis -, o algoritmo criado pelos profissionais não estaria gerando comportamentos antiéticos? É fato que o algoritmo tem o objetivo de manter o engajamento das pessoas com o serviço – através de mais apresentação de anúncios, publicidade e, consequentemente, geração de receita. Para isso, porém, as notícias mais radicais, eventualmente falsas, mais apelativas, acabam aparecendo e atraindo as pessoas. Até que ponto isso é ético? Será que os algoritmos são transparentes o suficiente?

WB – E como essas questões poderiam ser endereçadas ou regulamentadas?
VA – Um aspecto muito relevante, que já vem sendo endereçado nos Estados Unidos, e precisa de atenção no Brasil, é a inclusão de disciplinas relacionadas a ética e moral no uso da tecnologia nas grades dos cursos universitários de engenharia e ciências da computação, por exemplo. Isso ainda não acontece nas escolas brasileiras. Além disso, o Comitê Gestor da Internet no Brasil, junto com a comunidade técnica e de usuários, deve colocar esses temas na agenda. São questões que há quatro ou cinco anos ainda não estavam em evidência, mas que surgiram com o avanço da tecnologia e agora precisam ser discutidas. Até que ponto o profissional deve cumprir metas corporativas em detrimento de questões éticas? São questões que precisam ser pensadas.

Em sua apresentação na conferência Web.br2018, Virgílio vai tratar desses e outros temas ligados aos rumos da tecnologia em tempos de computação cognitiva. Questões como o Direito ao esquecimento na Internet e o uso da IA em sistemas jurídicos, com exemplos reais, também serão abordados durante o evento. Participe dessa discussão! Inscreva-se hoje mesmo e garanta seu lugar nesse debate.

Virgílio Almeida é doutor em computação pela Universidade de Vanderbilt, nos Estados Unidos, e coordenou o Comitê Gestor da Internet no Brasil entre 2011 e 2015, período em que também atuou como Secretário Nacional de Políticas de Informática do Ministério da Ciência, Tecnologia e Inovação.