Viéses algorítmicos
paradigma ético e responsabilização no tratamento de dados no direito brasileiro
DOI:
https://doi.org/10.29327/238407.6.2-4Palavras-chave:
Responsabilidade civil, Novas tecnologias, Ética, Discriminação algorítmicaResumo
O presente artigo tem como objeto a análise dos riscos causados pela discriminação algorítmica, com enfoque no seu paradigma ético e nas melhores alternativas para a reparação por eventuais danos causados no tratamento de dados. Para essa análise, o trabalho será dividido em três pontos: na primeira parte, serão vistos os aspectos gerais a respeito do algoritmo. Após será abordada a questão do seu paradigma ético. Por fim, serão examinadas as possibilidades de reparação por danos causados em função da discriminação algorítmica, analisando a responsabilidade civil no tratamento de dados. Através do estudo feito, será visto que a atividade algorítmica, pela ausência de um paradigma ético, deve ser realizada observando os deveres de segurança, a fim de se evitar a ocorrência de decisões discriminatórias.
Referências
BBC. Algorithm spots 'Covid cough' inaudible to humans. Disponível em: https://www.bbc.com/news/technology-54780460. Acesso em: 26 de dez. 2020.
BIONI, Bruno Ricardo. Proteção de dados pessoais: a função e os limites do consentimento. Rio de Janeiro: Forense, 2019. E-book.
BODIN DE MORAES, Maria Celina. QUINELATO DE QUEIROZ, João. Autodeterminação informativa e responsabilização proativa: novos instrumentos de tutela da pessoa humana na LGPD. In: Cadernos Adenauer XX, nº 3. Proteção de dados pessoais: privacidade versus avanço tecnológico. Rio de Janeiro: Fundação Konrad Adenauer, 2019.
BRASIL. Projeto de Lei n. 21/2020. Estabelece princípios, direitos e deveres para o uso de inteligência artificial no Brasil, e dá outras providências. Disponível em: < https://www.camara.leg.br/propostas-legislativas/2236340>. Acesso em: 25/08/2020.
CALABRICH, Bruno Freire de Carvalho. Discriminação algorítmica e transparência na Lei Geral de Proteção de Dados Pessoais. Revista de Direito e as Novas Tecnologias, v. 8, jul.-set. 2020.
CHANDER, Anupam. The racist algorithm? Michigan Law Review, vol. 115:1023, p. 1023/1045, 2017.
DOMINGOS, Pedro. O algoritmo mestre: como a busca pelo algoritmo de machine learning definitivo recriará nosso mundo. São Paulo: Novatec, 2017. E-book.
DONEDA, Danilo et al. Considerações iniciais sobre inteligência artificial, ética e autonomia pessoal. Pensar - Revista de Ciências Jurídicas, v. 23, p. 1-17, 2018.
DONEDA, Danilo. Da privacidade à proteção de dados pessoais: elementos da formação da Lei geral de proteção de dados. 1. ed. São Paulo: Thomson Reuters Brasil, 2019. E-book.
DRESCH, Rafael de Freitas Valle. A especial responsabilidade civil na Lei Geral de Proteção de Dados. Disponível em: https://migalhas.uol.com.br/coluna/migalhas-de-responsabilidade-civil/330019/a-especial-responsabilidade-civil-na-lei-geral-de-protecao-de-dados. Acesso em: 13 de dez. 2020.
DRESCH, Rafael de Freitas Valle. Fundamentos da responsabilidade civil pelo fato do produto e do serviço: um debate jurídico-filosófico entre o formalismo. Porto Alegre: Livraria do Advogado Editora, 2009.
DRESCH, Rafael de Freitas Valle. Fundamentos do Direito Privado: uma Teoria da Justiça e da Dignidade Humana. 2ª Ed. Revista e Ampliada. Rio de Janeiro: Processo, 2018.
DRESCH, Rafael de Freitas Valle; FALEIROS JUNIOR, José Luiz de Moura. Reflexões sobre a responsabilidade civil na Lei Geral de Proteção de Dados (Lei nº 13.709/2018). Responsabilidade civil: novos riscos. Organizado por Nelson Rosenvald, Rafael de Freitas Valle Dresch e Tula Wesendonck. Indaiatuba, SP. Editora Foco, 2019.
FACCHINI NETO, Eugênio; COLOMBO, Cristiano. “Corpo Elettronico” como vítima de ofensas em matéria de responsabilidade civil por danos à luz da Lei Geral de Proteção de Dados Pessoais Brasileira e a viabilidade da aplicação da noção de dano estético ao mundo digital. Responsabilidade civil: novos riscos. Organizado por Nelson Rosenvald, Rafael de Freitas Valle Dresch e Tula Wesendonck. Indaiatuba, SP. Editora Foco, 2019.
FERRY, Luc. Kant: une lecture de trois critiques. Paris: Editions Bernards Grasset, 2006.
GORDLEY, James. The moral foundations os Private Law. The American Journal of Jurisprudence, v. 47, 2002.
GRUPO DE TRABALHO DO ARTIGO 29º PARA A PROTEÇÃO DE DADOS. Orientações sobre as decisões individuais automatizadas e a definição de perfis para efeitos do Regulamento (UE) 2016/679. Disponível em: https://www.cnpd.pt/home/rgpd/docs/wp251rev01_pt.pdf. Acesso em: 04 de out. de 2020.
GUEDES, Gisela Sampaio da Cruz. Regime de responsabilidade civil pela lei de proteção de dados brasileira. Caderno especial LGPD. São Paulo: RT, novembro 2019, pp. 167-182.
KANT, Immanuel. Fundamentação da metafísica dos costumes. Lisboa: Edições 70, 2007.
MAGRANI, Eduardo. Entre dados e robôs: ética e privacidade na era da hiperconectividade. 2 ed. Porto Alegre: Arquipélago Editorial, 2019.
MATTIUZZO, Marcela. Discriminação algorítmica: reflexões no contexto da Lei Geral de Proteção de Dados Pessoais. In: CUEVA, Ricardo Villas Bôas; DONEDA, Danilo; MENDES, Laura Schertel. Lei Geral de Proteção de Dados (Lei nº 13.709/2018), a caminho da efetividade: contribuições para a implementação da LGPD. 1. ed. São Paulo: Thomson Reuters Brasil, 2020. E-book.
MEDON, Filipe. Inteligência artificial e responsabilidade civil: autonomia, riscos e solidariedade. Salvador: Editora JusPodivm, 2020.
MENDES, Laura Schertel; DONEDA, Danilo. Reflexões iniciais sobre a nova Lei Geral de Proteção de Dados. Revista de Direito do Consumidor, São Paulo, v. 27, n. 120, p. 469-483, nov./dez. 2018.
MENDES, Laura Schertel; MATIUZZO, Marcela. Discriminação Algorítmica: Conceito, Fundamento Legal e Tipologia. RDU, Porto Alegre, Volume 16, n. 90, 2019, 39-64, nov-dez 2019.
MIRAGEM, Bruno. A Lei Geral de Proteção de Dados (Lei 13.709/2018) e o direito do consumidor. In: MARTINS, Guilherme Magalhães; ROSENVALD, Nelson (Coords.) Responsabilidade civil e novas tecnologias. Indaiatuba, SP. Editora Foco, 2020. E-book.
MULHOLLAND, Caitlin. Responsabilidade civil por danos causados pela violação de dados sensíveis e a Lei Geral de Proteção de Dados Pessoais. (Lei 13.709/2018). In: MARTINS, Guilherme Magalhães; ROSENVALD, Nelson (Coords.). Responsabilidade civil e novas tecnologias. Indaiatuba, SP. Editora Foco, 2020. E-book.
PASQUALE, Frank. The black box society: the secret algorithms that control money and information. Harvard University Press, 2015.
RAWLS, John. Uma teoria da justiça. 2. ed. São Paulo: Martins Fontes, 2002.
RODOTÀ, Stefano. El derecho a tener derechos. Madrid: Editorial Trotta, 2014.
SANDEL, Michael J. Justiça – O que é fazer a coisa certa? 13ª ed. Rio de Janeiro: Civilização Brasileira, 2014.
SCHREIBER, Anderson. Responsabilidade civil na Lei Geral de Proteção de Dados Pessoais. In: DONEDA, Danilo et al. Tratado de proteção de dados pessoais. Rio de Janeiro: Forense, 2020.
SILVA, Jorge Cesa Ferreira da. Antidiscriminação e contrato: a integração entre proteção e autonomia. 1. ed. São Paulo: Thomson Reuters Brasil, 2020. E-book.
TASSO, Fernando Antônio. A responsabilidade civil na Lei Geral de Proteção de Dados e sua interface com o Código Civil e o Código de Defesa do Consumidor. In: Cadernos Jurídicos, ano 21, nº 53. São Paulo: Escola Paulista da Magistratura, jan-mar/2020. pp. 97-115.
THE SUN. Motorists fork out £1,000 more to insure their cars if their name is Mohammed. Disponível em: https://www.thesun.co.uk/motors/5393978/insurance-race-row-john-mohammed/. Acesso em: 15 set. 2020.
ZANATTA, Rafael A. F. Perfilização, discriminação e direitos: do Código de Defesa do Consumidor à Lei Geral de Proteção de Dados Pessoais. In: Researchgate, p. 1-26, fev. 2019. Disponível em: https://www.researchgate.net/publication/331287708_Perfilizacao_Discriminacao_e_Direitos_do_Codigo_de_Defesa_do_Consumidor_a_Lei_Geral_de_Protecao_de_Dados_Pessoais. Acesso em: 04 de out. 2020.
Publicado
Como Citar
Edição
Seção
Licença
Copyright (c) 2021 Jus Scriptum - Revista Jurídica do NELB
Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License.
