A posição da América Latina no debate sobre a regulamentação da Inteligência Artificial (IA): Quem dita as regras?

O debate ético em torno do desenvolvimento da inteligência artificial (IA) não é novo e a sua origem remonta à década de 1980, nos Estados Unidos. Entre 1982 e 1990, um total de US$ 400 milhões de dólares foi investido para revolucionar a dinâmica do "aprendizado profundo" [1] e a imitação do processo humano de tomada de decisão por sistemas automatizados [2\ ]. Isso motivou o surgimento de uma série de questões morais e éticas sobre o impacto da referida tecnologia no cotidiano do ser humano e o auge de tal debate pode ser colocado no ano de 2016 [3]. É neste momento que Estados, entidades privadas e organizações da sociedade civil começam a produzir uma série de publicações sobre a sua posição sobre a concepção e implementação da IA, com o objectivo de estabelecer os principais pontos que devem ser regulamentados para evitar violações dos direitos humanos.

Contudo, nem todas as regiões do mundo tiveram a oportunidade de contribuir, na mesma medida, para estabelecer as suas principais preocupações sobre a aplicação desta tecnologia. Como latino-americanos e seres humanos vulneráveis ​​aos impactos da IA, é necessário perguntar qual o papel que a América Latina (ALC) desempenha hoje na definição do debate ético sobre a regulamentação da inteligência artificial [4].

Embora países como México, Brasil, Argentina, Colômbia, Chile, Colômbia, Equador, Costa Rica, Paraguai, Peru, República Dominicana e Trinidad e Tobago [5] tenham mostrado progressos significativos nesta questão, no nível regional há não há posição em que sejam estabelecidos os princípios éticos que deveriam reger o uso da IA. Portanto, é de vital importância que os Estados da ALC assumam o compromisso conjunto de aumentar sua participação nesta controvérsia, com o objetivo de que os documentos vinculativos que sejam desenvolvidos no futuro incorporem a perspectiva latino-americana. Para isso, sugere-se incluir em suas demandas postulados da abordagem decolonial crítica, já que esta é a principal contribuição teórica do referido território. Da mesma forma, os Estados latino-americanos devem coordenar-se para priorizar a proteção dos direitos humanos dos grupos mais vulneráveis ​​face aos processos de processamento de dados pessoais e abordar o futuro do emprego na região à luz do aumento dos processos de automação. .

Neste sentido, o trabalho de Jobin, Marcello e Vayena permite-nos confirmar que os países do Norte Global são pioneiros no estabelecimento dos principais problemas éticos que rodeiam a aplicação da IA. Os investigadores realizaram uma revisão do corpus de soft law existente sobre a ética da IA ​​e, em termos de distribuição geográfica, os resultados mostram uma representação proeminente dos países economicamente mais desenvolvidos. Juntos, os Estados Unidos (25,5%) e o Reino Unido (15,5%) respondem por mais de um terço de todo o discurso ético produzido sobre o assunto, seguidos pelo Japão (4,8%), Alemanha, França e Finlândia (cada, representa 3,6%). Por sua vez, a União Europeia também mostra uma participação importante na delimitação do discurso ético da IA, uma vez que neste período gerou 7,1% de mecanismos de soft law, enquanto alguns dos seus estados membros publicaram 8,3%. Por sua vez, os países latino-americanos e africanos e vários estados asiáticos não estão representados independentemente de organizações intergovernamentais como a ONU [7].

Isto não é apenas problemático devido à negligência dos princípios do pluralismo cultural e das exigências de equidade global, mas também porque quem define os termos do debate tem o poder de estabelecer os problemas prioritários que as leis internacionais irão abordar para regular esta tecnologia. que não correspondem necessariamente às prioridades da ALC. Os autores supracitados identificaram a existência de 11 princípios éticos entre os quais predominam a promoção da transparência, da não maleficência, da responsabilidade e da privacidade. Em geral, a aplicação de tais postulados enfatiza a preservação da privacidade, da dignidade, da autonomia e da liberdade individual; ou seja, a caracterização do debate ocorre em torno da proteção do indivíduo contra o desenho e aplicação desta tecnologia. Estes princípios são da maior importância para que as pessoas reconheçam os seus direitos contra entidades privadas que, por exemplo, utilizam as suas informações para gerar rendimentos económicos através de processos de tratamento de dados pessoais. Contudo, onde se manifesta a responsabilidade dos Estados mais desenvolvidos e das grandes entidades privadas no compromisso de contribuir para o desenvolvimento económico dos países mais vulneráveis ​​e das suas populações? Onde está a necessidade de desenvolver estratégias inclusivas para a prevenção da perda de emprego e da distribuição injusta dos benefícios económicos que a aplicação da IA ​​trará, através da extracção de informação de grupos historicamente vulneráveis?

A inclusão da abordagem descolonial crítica nesta controvérsia permite colocar sobre a mesa a responsabilidade dos Estados mais desenvolvidos e das maiores organizações privadas relativamente aos impactos negativos da aplicação da inteligência artificial na América Latina – isto para promover a geração de estratégias inclusivas que mitiguem tais consequências sobre a população latino-americana. Assim, a noção de “colonialidade do poder” de Quijano permite-nos compreender a continuidade da dinâmica de poder entre os países mais desenvolvidos e aqueles que foram chamados de “em desenvolvimento” – através de processos históricos de desapropriação, escravidão, apropriação e extração de recursos, que foram central para a ascensão do mundo moderno— [8]. Portanto, a colonialidade é o que sobrevive ao colonialismo e, para Maldonado Torres, isso implica a reprodução de hierarquias econômicas, geopolíticas, de raça e de gênero, que foram geradas como ferramentas de controle colonial [9]

Nessa perspectiva, a implementação de processos de tratamento de dados pessoais supõe uma nova forma de colonialidade do poder, uma vez que as organizações encarregadas de realizar esses processos convertem qualquer aspecto da vida das pessoas em informação e, ao mesmo tempo, torna-se mercadoria [10]. O que é preocupante aqui é que, tal como nos séculos XVI, XVII, XVIII e XIX, onde as potências coloniais categorizaram e excluíram indivíduos com base em factores como afiliação racial e étnica, os algoritmos de IA correm o risco de perpetuar estas dinâmicas na região. . Os algoritmos desenvolvidos para automatizar processos e treinados sob os valores de uma sociedade que foi perturbada pela dinâmica de segregação e exclusão racial tendem a replicar preconceitos racistas e discriminatórios [12]. Sabe-se que a ALC abriga uma população caracterizada por sua diversidade multiétnica e multicultural, por isso não é trivial enfatizar a necessidade de a região se inserir no debate ético sobre IA para priorizar a proteção de sua população contra os ditos preconceitos coloniais.

Por outro lado, o Banco Interamericano de Desenvolvimento (BID) alertou em 2018 que entre 36% e 43% dos empregos poderiam ser perdidos devido à inteligência artificial como resultado da automação [13]. Isto contribui para aumentar a vulnerabilidade socioeconómica da região e, apesar de organizações como o Massachusetts Institute of Technology (MIT) argumentarem que a perda de vagas será compensada pela criação de novos empregos [14], deve ser levados em conta Tenha em mente que estes exigirão altos graus de especialização para cobrir as novas necessidades do mercado de trabalho. Portanto, se não forem feitas as questões necessárias para motivar a geração de estratégias que mitiguem estas consequências, enfrentaremos um cenário onde a concentração da riqueza em poucas mãos continuará a ser constante, bem como um contexto de desemprego desenfreado.

Como Lee menciona, parte da resposta envolverá o treinamento de pessoas em tarefas que envolvem criatividade, planejamento e pensamento multidisciplinar [15] – essas são habilidades nas quais a IA não se mostrou muito boa. Porém, é preciso questionar quem poderá custear a formação no desenvolvimento dessas competências e se haverá vagas suficientes para absorver toda a oferta de trabalho.

Portanto, é necessário que a ALC introduza no debate sobre a ética da IA ​​o questionamento dos mecanismos de cooperação internacional e das políticas internacionais, necessários para que o uso dessas tecnologias obedeça a uma lógica sustentável. Assumindo que a sua participação é tida em conta, outro ponto relevante que deve ser colocado em cima da mesa é a democratização de recursos e competências para que a sua população se possa adaptar às novas exigências do mercado de trabalho.

Além disso, é de vital importância que os líderes latino-americanos contribuam para redefinir o papel do indivíduo na sua interação com as ferramentas de inteligência artificial. No âmbito do fórum "Conferência Internacional de Autoridades de Proteção de Dados e Privacidade", a ênfase é colocada na importância do consentimento informado quando as pessoas fornecem dados pessoais para serem processados ​​por sistemas de IA [16]. No entanto, esta solução baseia-se numa visão de liberdade individual, que não tem em conta a desigualdade de conhecimento, recursos e, em geral, poder entre os criadores de IA e o resto da população. Tendo em conta que o funcionamento destes sistemas é altamente complexo – até mesmo para os seus próprios desenvolvedores –, é injusto que os indivíduos tenham a responsabilidade de compreender os riscos da utilização de tais tecnologias, respeitando os seus direitos humanos.