
Desafios Éticos das Tecnologias de Interface Cérebro-Máquina
1. Interfaces Cérebro-Máquina e os Desafios Éticos Emergentes
As interfaces cérebro-máquina (ICMs) representam uma revolução tecnológica ao permitir acesso direto aos processos mentais e emocionais, prometendo avanços inovadores em áreas como saúde e comunicação. No entanto, a capacidade dessas tecnologias de manipulação de estados mentais levanta questões éticas cruciais, como a proteção da integridade mental e a necessidade de neurodireitos.
Conceitos como liberdade cognitiva e direito à autodeterminação mental são apontados como novos bens jurídicos essenciais para preservar a autonomia e a dignidade humana diante do progresso tecnológico.
Na atualidade, a coexistência sinérgica entre os humanos e a tecnologia permite uma série de benefícios significativos, não apenas para a sobrevivência, mas também para a evolução contínua da humanidade. Traz-se como exemplo as tecnologias de interface cérebro-máquina – ICM ou BCI (Brain-Computer Interface), que avançam para aspectos profundos do ser humano, com a possibilidade de acessar e influenciar diretamente processos mentais e emocionais.
O argumento das empresas que adotam as BCIs refere-se ao uso benéfico da interface cérebro-máquina, como se observa notadamente para o caso de doenças como a esclerose lateral amiotrófica (ELA) e algumas outras; no entanto, a nova fronteira da tecnologia em estudo exige um olhar dedicado e aprofundado no âmbito da Ética e do Direito.
Em 2017, Marcelo Lenka e Rafael Yuste, em publicação na Revista Nature, revelaram a necessidade de desenvolver guias sobre Ética direcionados às ciências que incorporam a mente e o cérebro. O objetivo é proteger o cérebro contra o uso indevido de nanotecnologias, considerando que “a tecnologia é neutra, e o que a define é o seu agente”. Adicionalmente, Yuste destaca a necessidade de fiscalização do uso comercial de tecnologias tão disruptivas e que atuam numa esfera tão íntima.
A partir dessa perspectiva, a discussão sobre os neurodireitos no campo da Neuroética ganhou espaço com o exame do que é certo e errado, bom ou ruim no que toca à manipulação do cérebro humano.
Os neurodireitos são, portanto, um conjunto de princípios éticos, sociais e legais que se relacionam com o domínio do cérebro para garantir a integridade mental e a autodeterminação.
2. Impactos das Neurotecnologias nas Relações Sociais e Jurídicas
O uso de neurotecnologias desafia paradigmas jurídicos ao lidar com direitos personalíssimos e a privacidade mental. Com o potencial de acesso e interpretação de pensamentos, essas tecnologias ameaçam a autonomia cognitiva e a inviolabilidade da mente.
Além disso, amplia desigualdades sociais, exigindo a criação de diretrizes éticas e jurídicas que protejam indivíduos e evitem especificamente. Nesse contexto, é fundamental considerar o valor jurídico do cérebro humano e considerar a mente como última fronteira da privacidade.
No mercado, empresas de neurotecnologia atuam no desenvolvimento e na oferta de sistemas e ferramentas de estimulação cerebral que se baseiam em algoritmos para traduzir a atividade cerebral em dados e informações que podem interferir nos estados mentais. Empresas como Neuralink e Prophetic iniciaram as suas atividades a partir do uso de dados mentais.
A partir dessa perspectiva, é relevante iniciar um diálogo sobre a mente humana e a liberdade cognitiva como um novo bem jurídico, respaldado pelo conceito de direito à privacidade mental. A liberdade cognitiva ou o direito à autodeterminação mental é a capacidade de um indivíduo para controlar e conduzir os seus próprios processos mentais, conhecimento e consciência, em consonância com a ideia de autodeterminação informativa.
Como destaca Manuel Castells: “Pela primeira vez na história, a mente humana é uma força direta de produção, não apenas um elemento decisivo no sistema produtivo”.
Se as neurotecnologias permitem a interação direta com o cérebro e por decorrência com a personalidade e a intimidade do indivíduo, é certa a necessidade de desenvolvimento de novas diretrizes éticas e jurídicas para essa nova forma de relação social, não mais intermediada apenas por indivíduos.
Vale destacar que, para além das pesquisas atuais, as neurotecnologias também podem consolidar e ampliar desigualdades estabelecidas e a violação de direitos relevantes; este é o motivo da urgência no debate e no estabelecimento de um novo paradigma de tratamento ético e jurídico no âmbito das relações sociais.
Na visão de Huerta Miranda, com o rápido progresso da Neurotecnologia, a humanidade está continuamente mais próxima de desvendar uma das matérias mais complexas que se conhece: o cérebro humano.
No âmbito das relações sociais, a incorporação dessas tecnologias exige uma reflexão aprofundada sobre uma série de direitos personalíssimos e a atribuição de valor jurídico ao cérebro.
3. Necessidade de Novos Paradigmas Ético-Jurídicos
A evolução das neurotecnologias exige uma reavaliação de valores éticos tradicionais, que não foram concebidos para lidar com desafios impostos por inovações tecnológicas disruptivas. A vulnerabilidade da sociedade diante desses avanços, conforme destacado por Hans Jonas e outros pensadores, reforça a urgência de estabelecer um novo paradigma ético e jurídico. Este paradigma deve orientar o desenvolvimento responsável das tecnologias, protegendo a humanidade de possíveis manipulações e assegurando a dignidade humana em um cenário de incertezas.
Um enfoque importante diz respeito à proteção da privacidade mental, e não apenas às informações pessoais tangíveis, mas também aos aspectos mais íntimos e subjetivos da mente humana.
Com a capacidade potencial de acessar, interpretar e possivelmente manipular pensamentos e estados mentais, as tecnologias de interface cérebro-máquina colocam em risco a autonomia cognitiva dos indivíduos e a inviolabilidade dos seus pensamentos; valores que são pilares das relações sociais e da dignidade humana. Refere-se neste tema à última fronteira da privacidade.
A insegurança sobre os domínios mental e cognitivo evidenciam que as normas e valores éticos atuais, que são centrados exclusivamente na perspectiva humana (antropocêntrica), precisam ser reconsiderados e ampliados.
A revisão é necessária porque a Ética tradicional parte do pressuposto de que a humanidade deve lidar com situações e desafios que ainda não foram criados ou que estão se desenvolvendo, especialmente no contexto das novas tecnologias. Nesse sentido, Hans Jonas esclarece que nenhuma ética anterior considerou a “condição global da vida humana e o futuro distante”.
Além disso, é essencial o reconhecimento da vulnerabilidade da sociedade diante da inovação tecnológica; ou seja, à medida que novas tecnologias são introduzidas, há riscos e incertezas que podem impactar as relações sociais.
Nesse sentido, Eli Parisier afirma que a maior conquista da tecnologia é a possibilidade de criar para além do nosso entendimento. Mas essa também é a premissa da origem dos grandes desastres.
Assim a necessidade de novas diretrizes ético-jurídicas para guiar o caminho das neurotecnologias no desbravamento da mente humana, inclusive numa perspectiva de se questionar a possibilidade de programação computacional da ética, haja vista a gama de manipulações que tais tecnologias permitem, é questão que se impõe, pois crucial na perspectiva de tutela do indivíduo nos novos tempos.
Referencial bibliográfico:
AGUIAR, Carlos Eduardo Souza. Pensando a tecnologia. Questões filosóficas, sociológicas e comunicaionais. São Paulo: Paulus, 2023.ROVER
BOTES, Marietjie. Brain Computer Interfaces and Human Rights: Brave new rights. FAccT ’22, jun. 21–24, 2022, Seul, República da Coréia.
CASTELLS, Manuel. A sociedade em rede. Tradução de Roneide Venâncio Majer. 24. ed. Rio de Janiero: Paz e Terra, 2022.
CHAVARRIAGA, Ricardo; RICKLI, Jean-Marc; MANTELLASSI, Federico. Inteligência Artificial e Segurança: Desafios e Perspectivas. São Paulo: Exemplo, 2023.
FERREIRA, Ana Elisabete. Neuroetica e Neurodireito. Forte da casa: Petrony, 2020.
HUERTA MIRANDA, Marcelo Eduardo. Autodeterminación informativa y neuroderechos. Madrid: SAEJEE. University, 2024.
JONAS, Hans. O princípio responsabilidade: ensaio de uma ética para a civilização tecnológica. Rio de Janeiro: Contraponto, 2015.
KAI-FU, Lee. 2041: Como a inteligência artificial vai mudar sua vida nas próximas décadas. Rio de Janeiro: Globo Livros, 2022.
LACHLAN, Robb; Scott Kiel-Chisholm. Person or property? Brain Computer Interface technology and the law. Alternative Law Journal 49. Disponível em: https://orcid.org/0000-0002-1195-9407. Acesso em: 31 jul. 2024.
LATORRE, José ignacio. Ética para máquinas. Barcelona: Editorial Planeta, 2019
LÉVY, Pierre. Cibercultura. São Paulo: Editora 34, 1999.
LÉVY, Pierre. O futuro do pensamento na era da informática. 2ª ed. São Paulo: Editora 34, 2010.
MAGRANI, Eduardo. Entre dados e robôs: ética e privacidade na era da hiperconectividade. 2ª ed. Porto Alegre: Arquipélago Editorial: 2019.
NEURALINK. Redefining the bounderies of human capabilities requires pioneers. Disponível em: https://neuralink.com. Acesso em: 31 jul. 2024.
POSSA, Alisson Alexsandro. Era das neurotecologias: O papel dos neurodireitos. Rio de Janeiro: Lumen Iures, 2023.
PROPHETIC. Pursuing Answers to the ultimate questions. Disponível em: https://www.prophetic.com. Acesso em: 31 jul. 2024.
TOMASEVICIUS FILHO, Eduardo. Disciplina DCV5968. O Direito Civil na Recepção Dogmática dos Neurodireitos. Universidade de São Paulo. Disponível em: https://uspdigital.usp.br/janus/componente/disciplinasOferecidasInicial.jsf?action=3&sgldis=DCV5968. Acesso em: 29 jul. 2024.
TOOLIFY.AI. La ética común entre lA y la Neurociencia. Disponível em: https://www.toolify.ai/es/ai-news-es/la-tica-comn-entre-la-ia-y-la-neurociencia-1931629#google_vignette. Acesso em: 29 jul. 2024.
YUSTE, R.; GOERING, S.; ARCAS, B. et al. Four ethical priorities for neurotechnologies and AI. Nature, v. 551, p. 159–163, 2017. Disponível em: https://www.nature.com/articles/551159a. Acesso em: 31 jul. 2024.
ZUBOFF, Shoshana. A era do capitalismo da vigilância: a luta por um futuro humano na nova fronteira do poder. Rio de Janeiro: Intrínseca, 2020.