Quando se fala em direitos e algoritmos, no que imediatamente a gente pensa? Nos preconceitos embutidos nos algoritmos. Eu também penso nisso, influenciada pela literatura que consumo e pelos documentários que vejo.

Hoje, algoritmos decidem muitas coisas práticas na vida das pessoas. Como a gente imagina que eles não erram, decisões injustas acabam não sendo corrigidas. O caso mais conhecido é o que virou documentário na Netflix sobre reconhecimento facial.

Os sistemas aprendem com o banco de dados que é fornecido a eles. A maioria dos programadores é de homens brancos, portanto a precisão nesse segmento da população é maior. Há erros em mulheres, negros e maior ainda em mulheres negras. Isso prejudica atos corriqueiros da vida de muita gente.

Outro caso famoso é o apontado pelo fundador da Apple, Steve Wozniak. Ele e a mulher são casados em comunhão de bens e têm o mesmo patrimônio. Ambos abriram conta em um banco de bilionários. Os cartões e o limite dela vieram menores sem nenhuma justificativa.

Eles pesquisaram e verificaram que o mesmo acontecia com várias mulheres. Era um vício do algoritmo. Na vida de uma bilionária talvez não faça tanta diferença. Na vida de uma mulher que depende daquele dinheiro para fechar o mês pode ser algo bastante grave.

Ninguém determinou que o algoritmo desse menos crédito a mulheres. A forma como o preconceito se expressa é muito mais complexa. O algoritmo aplicado nesse tipo de política precisa expressar a sociedade que queremos mas acaba espelhando a sociedade que somos.

Trocando em miúdos, o computador recebe os exemplos do tipo de cliente que tem determinado volume de crédito. É realidade que o sexo masculino hoje em dia tem essa predominância. Se não houver uma ressalva na programação, o computador pode entender que o sexo é um critério para definir o crédito. 

Ocorre que este é um dos direitos neurais mais bem protegidos hoje em dia. Parece assustador, mas não é. Se passamos a enxergar o problema e damos a ele a atenção que merece, as soluções começam a aparecer. 

A Neurorights Foundation acaba de lançar um relatório de acompanhamento de respeito aos Direitos Neurais em todo o mundo, principalmente no nível das legislações internacionais. Sabe qual é o direito menos protegido? À identidade. Talvez ele nos pareça tão seguro que ainda não nos demos conta do risco.

Há alguns meses, fiz um longo artigo para o Instituto Montese falando detalhadamente sobre o que são e quais são os cinco Direitos Neurais:

1. Direito à identidade, a habilidade de controlar a própria integridade física e mental.
2. Direito de ação, ou a liberdade de pensamento e vontade para escolher as próprias ações.
3. Direito à privacidade mental, a habilidade de manter seus pensamentos protegidos contra a revelação a quem quer que seja.
4. Direito a acesso justo a reforço mental, garantia de que o acesso aos benefícios das melhorias da capacidade mental e sensorial por meio da neurotecnologia sejam distribuídos de maneira justa entre a população.
5. Direito à proteção de vieses dos algoritmos, a habilidade para garantir que as tecnologias não implementem preconceitos no cérebro de quem as utiliza.

A questão do Direito à Identidade na era digital faz parte da ficção científica dos anos 1990. Na época, fiquei profundamente marcada pelo filme “A Rede”, estrelado por Sandra Bullock.

Ela interpretava uma programadora que recebia um disquete via correio, enviado por um amigo antes de morrer. O material revelava uma grande conspiração para apagar a identidade de pessoas. Se a pessoa não existisse mais no universo virtual, não poderia mais provar que estava viva.

Naquela época, era algo completamente fora de cogitação. Mas hoje não é. Imagine que sumissem todos os dados digitais do mundo, o que sobraria dos seus documentos? Nossos arquivos profissionais, pessoais, contas, comprovantes de pagamentos, declarações de impostos, propriedade, assinaturas e até processos judiciais estão armazenados de forma digital.

E se os documentos não sumissem, mas a autoria fosse trocada? Seria uma confusão sem precedentes. Mas, se acontecesse com todo mundo ao mesmo tempo, o prejuízo seria menor individualmente. Sim, acredite.

Com todos passando pelo mesmo problema, haveria mais compreensão sobre o evento. Mas imagine que somente uns poucos indivíduos passassem por isso. Quem iria acreditar? Eles estariam sujeitos a realmente perder suas identidades e não teriam como provar.

Esse é o drama do filme, que há quase duas décadas me faz imprimir uma papelada que parece inútil. Continuarei imprimindo enquanto esse filme permanecer na minha cabeça. E, evidentemente, não conto como a protagonista solucionou o drama.

A grande questão é como nós solucionaremos este problema e a primeira ideia é a definição de protocolos digitais. Justamente aí é que reside o erro. Como assim? Explico.

Por que os vieses surgidos com algoritmos são problemas que a humanidade consegue enfrentar com mais facilidade do que ameaças à identidade? Porque eles surgem só com a realidade digital.

Quando a solução para um problema digital está na área digital, ela é mais simples porque mexemos em algo mais novo e mais óbvio. 

Algoritmos que são aplicados em políticas públicas ou privadas são relativamente recentes. Se corrigir a programação conserta essas políticas, problema resolvido. Com a violação ao direito à identidade não é tão simples, infelizmente.

Antes da realidade digital, não havia tantos riscos com relação à identidade. O que poderia apagar a identidade de uma pessoa? Eram hipóteses absolutamente remotas, fantasiosas ou muitíssimo trabalhosas, feitas para casos específicos. 

Isso levou a uma realidade em que não foi necessário definir legalmente com precisão o que é identidade. É por isso que esse direito fica fragilizado na era digital. Como não existe uma definição precisa para ele, entra num limbo.

Vamos a alguns exemplos dados pela Neurorights Foundation. Um dos principais Direitos Neurais é o direito à consciência. Para nós parece algo bem claro. Tente definir objetivamente. Não é tão fácil.

Ocorre que isso jamais foi feito. Nos protocolos internacionais que falam de direitos individuais e individualidade não temos nada que defina objetivamente o que é a consciência. Quando não havia instrumentos que manipulassem a consciência humana, não parecia necessário. Agora há.

O que é a sua identidade? Não é o seu RG nem os seus outros documentos, é algo bem mais complexo e profundo. E todos nós temos direito a tudo isso, que nada seja violado e que tenhamos nosso sigilo de consciência protegido.

Como fazer isso num mundo em que há ferramentas de violação de sigilo de identidade e consciência mas não há definições legais do que são identidade e consciência?

Passemos a algo ainda mais delicado, as crianças, que são seres humanos em formação e dotados de dignidade e consciência. O que seria a identidade e a formação da identidade protegidas legalmente? Precisamos definir, a tecnologia não para.

Em países como Rússia e China as definições já estão feitas pelos governos. Os dados pertencem ao Estado, não aos indivíduos. Você pode concordar com a decisão ou discordar dela, mas foi tomada.

Nas grandes democracias ocidentais há um vácuo perigoso. Em tese, os dados pertencem aos cidadãos. Não há, no entanto, nenhuma garantia de posse desses dados e nenhuma penalidade para a tomada deles.

Verdade seja dita, o problema é que não existe sequer a definição do que são exatamente esses dados. Isso complica demais o cenário.

Parece razoável imaginar o que seja a sua identidade e o que significa invadir a sua identidade. Ocorre que não existe essa definição, então as brechas são infinitas.

Uma das principais preocupações da Neurorights Foundation já se converteu em um processo gigantesco contra o Google no Reino Unido sobre dados de saúde. Quanto dos dados que você coloca em aplicativos de saúde são sigilosos e quanto daquilo pode, por exemplo, ser vendido para o seu seguro de saúde?

Imagine que você baixe um aplicativo que mede quantos passos você dá por dia. Ou até mesmo um aplicativo que controle sua pressão arterial. Não há regras claras sobre o que pode ser compartilhado ou não. 

Você aceita termos de uso do aplicativo. São aquelas letras pequenas em que a gente sempre digita sim sem ler. De repente, o aplicativo some, você não acha mais, esquece do assunto, vida que segue.

Um dia você vai fazer um seguro e aquela empresa comprou todos os dados do aplicativo. Por causa daqueles dados você tem uma recusa ou terá de pagar um preço muito superior ao que seria o preço padrão para você. Isso é justo ou é uma violação?

Em tese é uma violação. Na prática, ainda não sabemos. Muitas pessoas já enfrentam esse problema na vida real e cada uma tem de lutar por si, não há soluções prontas.

A tecnologia já avançou. O mundo que imaginamos ser da ficção científica já chegou, mas a regulamentação não acompanhou essa velocidade.

A tentativa de acompanhar foi falha. Ainda tentamos regular os novos dispositivos, novas tecnologias digitais e novas invenções. É um erro monumental.

Definir com mais precisão os direitos e valores humanos que precisamos proteger nunca foi tão urgente. A Neurorights Foundation advoga que a ONU tome a dianteira no processo. 

Muitas empresas de tecnologia têm feito sua parte adotando princípios éticos, mas eles são descentralizados e voltados para os negócios de cada uma delas, não para princípios universais.

“Em última análise, os tratados internacionais de direitos humanos existentes estão atualmente despreparados para proteger Direitos Neurais. No entanto, conforme descrito em detalhes em nossos achados, os rápidos avanços na neurotecnologia não são mais ficção científica – são ciência. É urgente que a ONU desempenhe um papel de liderança globalmente para abraçar essas inovações emocionantes, protegendo os direitos humanos e garantindo a ética no desenvolvimento da neurotecnologia”, prega a Neurorights Foundation.

O mundo todo vive, enquanto isso, uma política polarizada de forma tóxica, inclusive porque os governos são incapazes de proteger os Direitos Neurais. Vamos conseguir acordar a tempo? Espero que sim.