O Fantasma na máquina

É necessário reconhecer que o uso de inteligência artificial abriu diversos ramos de oportunidade ao progresso, inclusive na administração do Poder Judiciário, garantindo o acesso à justiça da população, sem sair de casa, por meio do processo eletrônico.

Assim, sob influência de uma tendência mundial, cada vez mais se escuta no Brasil quanto às expectativas de implementação de inteligência artificial em nível avançado no Judiciário, a fim de que haja uma revolução na prolação de decisões, agilizando os procedimentos, diminuindo o tempo de estudo e pesquisa e acrescentando mais conhecimento ao feito; enfim, tudo baseado na análise cognitiva e rápida dos padrões, tendências, jurisprudência, entre outras referências extraídas de um grande volume de processos existentes no Judiciáriobrasileiro.

Dessa forma, o Judiciário vem buscando o desenvolvimento de sistemas operados em inteligência artificial para auxiliar na função constitucional deste Poder.

Caso Palmeiras: Laudo do IML não aponta lesões corporais, mas Polícia Civil mantém investigação de suposto abuso infantil

Relembre a Lei Mariana Ferrer, criada após revolta com audiência do caso

Ocorre que, o uso de inteligência artificial no Judiciário é, por algumas razões, considerado de alto risco, até porque a máquina não possui a mesma capacidade de julgamento do ser humano, sendo incapaz de fazer escolhas baseadas em um senso ético jurídico.

A utilização destas tecnologias é maculada por um mito de neutralidade e por “dirty data”, os quais necessitam ser enfrentado para que haja a possibilidade de inovação tecnológica para que o Judiciário atinja suas finalidades, e ao mesmo tempo resguarde os direitos e garantias individuais de seus jurisdicionados.

Ou seja, ao mesmo tempo que existe um certo mito acerca da neutralidadedos sistemas implementados, os quais estariam isentos da influência de códigos pessoais, experiências de vida, identidades ideológicas ou religiosas, a inteligência artificial, esta também não possui a capacidade de baseado nos fatos, agir fora dos parâmetros dos dados e modelos já ensinados a mesma.

E isso por si só causa preocupações éticas, uma vez que, conforme afirma Prabhakar Krishnamurthy, todos os modelos de Machine Learning (processo utilizado para os sistemas de Inteligência Artificial serem programados) são cheios de vícios e enviesamentos, ou até mesmo preconceitos.[1]

Estes “preconceitos” são oriundos de bases de dados viciadas, as quais como vimos, obrigam as máquinas a agirem de acordo com os dados fornecidos.

Este fenômeno possui o nome de “dirty data”. Em tradução literal para o português, isso significa “dados sujos”, mas a melhor tradução para entender o impacto negativo no desenvolvimento de inteligência artificial seria se entender “dirty data” como “dados não coesos” ou “dados incompletos”[2].

Um case importante para se demonstrar a possibilidade de vícios em sistemas aparentemente neutros é o do Google, tendo em vista que a inteligência artificial do Googlenão era capaz de distinguir a pele de um ser humano da dos macacos, como gorilas e chimpanzés em virtude do processo de análise da base de dados transferidos ao algoritmo.

Desta forma, o perigo reside no fato que a inteligência artificial não possui a capacidade de, baseada nos fatos, agir fora dos parâmetros dos dados e modelos já programados na mesma, de maneira que está sujeita à ideologia e convicções pessoais de seu programador. Isto é preocupante em uma Nação como a nossa em que, infelizmente, há graves dúvidas quanto à maturidade constitucional e à erradicação da corrupção.

E mais, diante de seu mito de neutralidade, fica difícil questionar a veracidade ou até mesmo autenticidade das informações e decisões produzidas por estes sistemas.

Assim, o futuro desenvolvimento da inteligência artificial é irreversível, contudo, deve ser cercado de intensos cuidados e métodos democráticos, acessíveis a todos, de verificação e auditagem.

Em outras palavras, este desenvolvimento deve ter como foco o ser humano, suas necessidades e sua constante evolução. Ninguém fica para trás, ou seremos verdadeiramente assombrados por um fantasma na máquina.

_________

_{[1] KRISHNAMURTHY, Prabhakar, Understanding Data Bias Types and sources of data bias, Medium, Towards Data Science. disponível em de: https://towardsdatascience.com/survey-d4f168791e57 acesso em 22.01.2020}

_{[2] MULLER, Leo, Entenda o que é “dirty data” e como isso atrapalha o desenvolvimento de IA, TecMundo, disponível  em  https://www.tecmundo.com.br/software/123935-entenda-dirty-data-atrapalha-o-desenvolvimento-ia.htm acesso em 14.12.2020}