Articulista

Tatiana Mazzei

A IA, conhecida por muitos como Inteligência Artificial, está se aprimorando com uma rapidez assustadora. Isso porque, os cientistas de dados, para programar computadores, utilizam-se de duas formas possíveis de programação: uma, onde são inseridos códigos e onde se solicita que seja feito algo, ou então, a utilizada com maior frequência atualmente, a chamada “machine learning”, onde o aprendizado da máquina se dá através não só dos dados primários nela inseridos, como também em todas as demais informações coletadas durante a interação humano-máquina, com o objetivo de justamente aprimorar tais relações.

Durante tal interação, além da coleta dos dados, os sistemas de computação não só os lê, como também aprende, interpreta e classifica tudo aquilo iputado via software e processado por poderosas máquinas computacionais.

Vale aqui a premissa: “Quanto mais compartilharem coisas no ambiente virtual, mais a máquinas e sistemas aprenderão”.

E pensar que há bem pouco tempo, há algumas poucas décadas, essa interatividade só seria possível e aconteceria em desenhos como os Jetson’s, onde a robô Rose era praticamente uma humanóide ou então em filmes futuristas como o Comandante Data em Star Trek, o C-3PO de Star Wars ou então indo para algo mais extremo, no Exterminador do Futuro.

Quando poderíamos sequer imaginar que a ficção de fato se tornaria realidade e em tão pouco tempo?

Afinal, está no imaginário coletivo assistirmos aos robôs que pensam como seres humanos e que acabam por dominar o mundo, tomando seu lugar.

Mas então, como as máquinas aprendem? Os computadores são imbuídos de pensamentos mágicos? Claro que não.

A autora do livro “Artificial Unintelligence: How Computers Misunderstand the World”, Meredith Broussard, deixa bem claro que, antes de mais nada, é preciso compreender que a Inteligência Artificial, não é algo sobrenatural, mas sim, puramente matemático.

A IA teve seu início na Faculdade de Dartmouth em 1956, justamente no Departamento de Matemática daquela instituição, onde sua eficiência pôde ser demonstrada  pela performance em jogos, mais especificamente o xadrez, quando o campeão mundial Kasparov, acabou sendo derrotado por Deep Blue, o supercomputador criado pela IBM.

É preciso também compreender que o machine learning, ou seja, o aprendizado de máquina, pontua probabilidades do que iremos ou não fazer, com base nos dados inseridos nos sistemas, posteriormente interpretados e utilizados, processados e analisados, para nos oferecer produtos e serviços dos mais diversos, com base no nosso comportamento passado – principalmente em redes sociais, que são nada mais do que poderosos algoritmos desenvolvidos para entender e aprender, com base no que expressamos cognitivamente.

Mas então, onde está o problema?

Na realidade, é importante que saibamos que há diferentes tipos de inteligência, onde o conceito de normalidade quanto à tecnologia e a sociedade, se dá em um número muito reduzido e homogêneo de pessoas. Não é possível, portanto, separar o social do técnico. Eles caminham juntos.

O que a IA faz é justamente utilizar os dados para ensinar a máquina a identificar padrões comportamentais. E aí é que mora o perigo. A IA é suscetível a erros e vieses. Se os dados usados forem dados distorcidos ou irreais, os resultados apresentados também o serão.

A Inteligência Artificial é o reflexo da história. Se pararmos para pensar um pouco, quem nos dá o entendimento sobre o que hoje conhecemos de tecnologia, são algumas personalidades que estiveram ou estão por trás das chamadas Big Techs. Não precisamos ir muito longe, basta que observemos tudo o que já foi dito por Steve Jobs da Apple, Bill Gates da Microsoft, Mark Zuckerberg do Facebook, Elon Musk da Tesla e Jeff Bezos da Amazon.

Resumindo, ensinamos as máquinas através dos exemplos que fornecemos para que elas aprendam.

Para que fique mais claro o seu entendimento no assunto, recomendo que assista ao documentário “Coded Bias” atualmente disponível na Netflix, onde vários estudiosos e cientistas abordam justamente as iniquidades dos algoritmos que alimentam a IA artificial e quais são os resultados desastrosos por trás disso.

Você já deve imaginar do que estou falando. Sim, desigualdade, injustiça, parcialidade, facciosismo, partidarismo e muita arbitrariedade, são só alguns dos possíveis problemas apontados por um uso incompleto, incorreto ou distorcido de dados. Elas, na verdade, são espelhos das próprias percepções e valores do ser humano.

Cathy O’Neil, autora do livro “Weapons of Math Destruction”, aborda em seu livro, justamente o impacto da IA na vida das pessoas, justamente discorrendo sobre o fato de que se os algoritmos não forem bem trabalhados, se forem desenvolvidos com o padrão distorcido de quem o construiu ou arquitetou, poderão ser destrutivos e prejudiciais de alguma forma, no futuro.

O que percebemos é que os algoritmos fazem cada vez mais parte de nossa vida cotidiana e que possuem cada vez mais influência em nossas decisões diárias, sendo na maioria das vezes tomados como uma verdade absoluta.

A questão preocupante e que também é abordada com primor pela autora Shoshana Zuboff, no livro “A era do capitalismo de vigilância” é justamente o poder embutido aos algoritmos pelo próprio ser humano e como isso vem crescendo de forma atroz.

Vale aqui algumas reflexões: Quem são os donos de tais códigos e que detêm toda essa gama de informação sobre outras pessoas?

Isso porque trata-se de uma relação completamente assimétrica e desigual, visto que as pessoas são influenciadas e sofrem consequências sobre o uso destes tais padrões e pouco conhecem ou são informadas sobre isso. Porque não são disponibilizados e expostos de forma transparente, principalmente acerca dos critérios de seu desenvolvimento. Então quem será responsabilizado?

O algoritmo em si, é uma estrutura matemática como já dito anteriormente. Ele não é racista, machista ou misógino, mas irá replicar justamente as informações e perspectiva que forem a ele imputadas por quem o desenvolveu (um humano), ou seja, ele incorpora não só o que é recente como também o passado obscuro.

Antes das máquinas, já havia a existência dos humanos e nem sempre eles se comportaram justamente, não é?

O fato é um só: não pode haver uma fé cega no Big Data ou a exaltação absurda que estamos presenciando nos tempos recentes – principalmente pelas nova geração que já nasceu no universo dos smartphones e redes sociais. É preciso estarmos alertas a todos os possíveis erros e vieses.

É o caso, por exemplo, apresentado por Joy Buolamwini, cientista do MIT Lab e criadora da “Algorithmic Justice League”, ao apontar que os algoritmos não conseguiam identificar seu rosto negro, por desconhecer a existência de outras cores de pele, já que a imensa maioria de fotos apresentadas à máquina eram de homens e de pele clara.

Ou então, como foi o grande escândalo da inteligência artificial da Microsoft, criada em dezembro de 2016 e nomeada como Tay.

Era possível acessá-la pelo perfil @realtayandyou no Twitter, onde a intenção da empresa era justamente que ela interagisse com os usuários. No entanto, o que ocorreu foi que vulnerabilidades e falhas encontradas no código permitiram que, em poucas horas, o robô aprendesse e desenvolvesse atitudes racistas e misóginas, envenenado pelos “trolls” existentes nas redes. O resultado? Tiveram que desativar o perfil imediatamente. Talvez por essa razão que o projeto “Watson” da IBM é acompanhado e assistido a todo momento e de muito perto pelos seus criadores, a fim de evitar algo do tipo, não é?

Levantar tais questões sobre os gigantes das “tecnologia da inteligência, não é de fato algo confortável, mas vital e necessário, já que a expansão da aplicação da inteligência artificial não se restringe apenas à oferta de produtos e serviços, como também possui implicações sociais de interesse de todos, pois seremos por ela amplamente impactados.

O chamado “algoritmo de Wall Street” é um exemplo claro de como o uso de dados pode ser opressivo, tirânico e discriminatório. E sabe por quê? O ano de 2008, foi conhecido justamente como o período de maior lapidação acerca do patrimônio da população negra nos USA, ocasionado pela necessidade do sistema em reconhecer cidadãos americanos que possuíam maior possibilidade de falha no pagamento de hipotecas.

A categoria mais sensível era representada por essa população, inserida na faixa mais sensível na estratificação social norte-americana. Foi amplamente utilizado esse e outros critérios como forma dos bancos pudessem executar as dívidas, tomando as casas.

Entendem agora que os algoritmos precisam compreender melhor as diferenças existentes para que assim possam ser criados sistemas mais inclusivos?

Ou seja, é preciso que haja uma discussão que pressione a abertura das “Black Boxes” -as caixas preta dos algoritmos.

Ao mesmo tempo em que nos são oferecidos serviços como empréstimos e seguros de casa, ou então a compra de maquiagens e bolsas, também nos são oferecidas ideias- e isso é por demais preocupante.

Não muito longe, tivemos o caso amplamente divulgado da “Cambridge Analytics”, onde através dos dados coletados no Facebook, a empresa conseguiu influenciar de maneira ilegal a eleição para Presidente dos Estados Unidos.

O mais complicado disso tudo é que oferecemos informações sobre todos os aspectos de nossas vidas diariamente a um grupo pequeno de empresas que utilizam tais dados agregados como um raio X, oferecendo informações de nosso perfil e dos conteúdos que postamos - melhores até do que podemos compreender. É como se fosse um jogo de adivinhação onde buscam compreender o que você pensa e o que deseja.

O pior é que a inteligência da máquina pode presumir coisas que não revelamos, justamente por essa evolução ágil e não dá para imaginar onde isso nos levará. O poder destas ferramentas é imenso e mantê-las sem uma regulamentação ou legislação condizentes é perigoso, isso é certo.

Quando é que imaginaríamos que o livro “1984” de George Orwell que até então era apenas algo fictício, se transformaria em algo tão real e atual?

Hoje temos “Alexas” em nossas casas, celulares com dispositivos de escuta e todos nossos passos sendo rastreados por cookies. E tudo isso sendo gravado, registrado, analisado e utilizado com alguma intenção.

O que precisamos compreender é que existem sim algoritmos tendenciosos. Basta que para isso olhemos casais que possuem contas conjuntas e na realidade o homem acaba recebendo maior crédito do que a esposa, sendo que o dinheiro dos dois é o mesmo.

Há também o caso de recrutamentos utilizando o IA pela Amazon e que acabaram priorizando homens ao descartar todos os currículos que apresentassem nomes femininos, o que teve que ser corrigido posteriormente pela empresa.

Enfim, o que quero dizer com isso tudo é que as máquinas replicam o mundo exatamente tal qual ele existe. E sabe porque? Porque quem as alimenta são os seres humanos com todos os seus preconceitos, atitudes e pensamentos.

Não são decisões éticas e sim matemáticas. A neutralidade da máquina pode em um piscar de olhos desfazer todos os direitos civis que com muita luta foram conquistados.

O que tiramos de lição disso tudo?

É urgente trabalhar a ética nas tecnologias futuras. O ser humano é vulnerável e sendo assim, possui maior capacidade empática e de compaixão. Talvez seja essa a reorientação que falta a inteligência artificial e consequentemente aos algoritmos.

É preciso desobedecer, pois nem sempre fazer tudo o que foi programado é o mais adequado. Que possamos sair do roteiro e nos humanizar!

Dois Encontros realizados pelo NomuseLocus e pela série de Encontros da T.Academia em 2020 discorreram e refletiram sobre essa temática. Um deles sob o tema “Tecnologias da Inteligência, Privacidade e Segurança”. Você pode assistir. Clique aqui!

Tatiana Mazzei é publicuitária, Meste em ciência das Comunicação, professora universitária nas áraes der marketing, mídias off e online. Seus estudos e pesquisas cocnentram-se nps enfoques disruptivos e das tecnologias da informação.

Os artigos disponibilizados pela T.Academia são de responsabilidade dos seus respectivos autores e nãor efletem, necessariamente, a perspectiva da plataforma colaborativa T.Academia. Nosso propósito e missão estão expostos na Home do site de entrada da T.Academia.