neurodireitos
Texto originalmente publicado no Blog Lentes de Decisão, no Estadão Digital, caderno de Economia e Negócios, em 25/07/2023
https://www.estadao.com.br/economia/lentes-de-decisao/neurdireitos/
Há algumas semanas fui a um encontro do FRONTEIRAS DO PENSAMENTO para ouvir Rafael Yuste falar sobre neurodireitos. Yuste é um neurocientista e um dos principais pesquisadores na área de neurotecnologias e interfaces cérebro-computador. A palestra dele trouxe quatro prioridades éticas que devem ser consideradas no desenvolvimento e utilização das neurotecnologias e inteligência artificial.
Privacidade e consentimento: As neurotecnologias e a inteligência artificial têm o potencial de coletar e analisar informações extremamente pessoais sobre o cérebro e a mente das pessoas. Isso pode incluir informações sobre seus desejos, intenções, emoções e até mesmo segredos íntimos que não são expressos explicitamente em palavras ou ações. Isso significa que medidas adequadas devem ser tomadas para proteger a privacidade das informações cerebrais e garantir que os dados sejam coletados e usados apenas com o consentimento informado das pessoas envolvidas. Isso é especialmente crucial, considerando o nível de sensibilidade dos pensamentos e sentimentos das pessoas.
Ao usar esses dados para direcionar publicidade, calcular prêmios de seguro ou encontrar parceiros em potencial, os algoritmos podem ter um poder considerável. Se eles tiverem acesso a informações neurais, como padrões de atividade cerebral associados a certos estados de atenção, sua capacidade de influenciar e manipular as pessoas será aumentada significativamente. Com a conectividade dos dispositivos neurais à Internet, há o risco de indivíduos ou organizações mal-intencionados rastrearem ou até mesmo manipularem a experiência mental de um indivíduo. Isso pode levar a consequências devastadoras, como invasão de privacidade, coerção e controle mental.
Portanto, é fundamental que os cidadãos tenham o direito de manter seus dados neurais privados e que seu consentimento informado seja obtido antes da coleta e uso dessas informações. Isso significa que as políticas de privacidade devem ser claras e transparentes, informando as pessoas sobre como seus dados neurais serão coletados, armazenados, compartilhados e usados. Além disso, é necessário estabelecer medidas de segurança adequadas para proteger esses dados contra acesso não autorizado e uso indevido. Isso inclui a criptografia de dados, a autenticação de usuários e a adoção de práticas de segurança cibernética robustas.
Por fim, uma colaboração entre governos, empresas e especialistas em privacidade seria essencial para desenvolver soluções eficazes e abordar os desafios relacionados à privacidade dos dados neurais. A criação de padrões e diretrizes comuns, bem como a promoção da cooperação internacional, poderiam ajudar a garantir que a privacidade seja protegida em um ambiente global cada vez mais conectado e dependente dos dados neurais.
Agência e identidade: As neurotecnologias podem ter um impacto direto na maneira como os indivíduos se percebem, se relacionam com o mundo ao redor e tomam decisões e controlam as ações. É importante garantir que essas tecnologias respeitem e preservem a autonomia e a individualidade de cada pessoa, sem causar danos à sua identidade ou limitar ou restringir a liberdade de escolha e a capacidade de agir de forma autônoma.
Além disso, essas tecnologias podem desafiar as suposições sobre a responsabilidade pessoal. Se uma pessoa toma decisões ou age sob a influência ou controle de uma neurotecnologia, pode-se questionar até que ponto ela é realmente responsável por suas ações. Isso tem implicações tanto legais quanto morais, pois afeta a atribuição de culpa e a punição pelo comportamento considerado inadequado.
No entanto, é importante notar que as neurotecnologias podem ter impactos positivos na vida das pessoas, como no tratamento de doenças neurológicas ou na melhoria da qualidade de vida de indivíduos com deficiências. Portanto, é necessário equilibrar os desafios éticos e legais apresentados pelas neurotecnologias com seus benefícios potenciais, a fim de garantir a proteção dos direitos e da autonomia das pessoas. Essa proteção é fundamental para garantir a dignidade e autonomia das pessoas em um mundo em constante evolução tecnológica.
Igualdade. As neurotecnologias e a IA têm o potencial de agravar as desigualdades existentes na sociedade, se não forem desenvolvidas e implementadas de forma justa e acessível a todos.
O aumento na pressão para adotar neurotecnologias aprimoradas pode criar uma divisão entre as pessoas que têm acesso a essas tecnologias e aquelas que não têm. Aqueles que são capazes de se aprimorar mentalmente ou fisicamente podem ganhar vantagens significativas em várias áreas da vida, como trabalho, educação ou esportes. Isso pode levar a uma sociedade onde aqueles que não têm acesso ou escolhem não usar essas tecnologias sejam vistos como inferiores ou menos capazes. Essa discriminação pode ser semelhante à que já existe em relação a deficiências físicas ou mentais, onde as pessoas são estigmatizadas ou marginalizadas por causa de suas diferenças.
Viés. Quando as decisões científicas ou tecnológicas são baseadas em um conjunto restrito de conceitos e normas sistêmicas, estruturais ou sociais,a tecnologia resultante pode privilegiar certos grupos e prejudicar outros. Um estudo de 201512 descobriu que anúncios de empregos exibidos para usuários do sexo feminino pelo algoritmo de publicidade do Google pagam menos do que aqueles exibidos para homens. Da mesma forma, uma investigação da ProPublica revelou no ano passado que os algoritmos usados pelas agências de aplicação da lei dos EUA preveem erroneamente que réus negros têm maior probabilidade de reincidência do que réus brancos com antecedentes criminais semelhantes (go.nature.com/29aznyw). Tais vieses podem se tornar embutidos em dispositivos neurais. De fato, os pesquisadores que examinaram esses tipos de casos mostraram que definir justiça de maneira matematicamente rigorosa é muito difícil (go.nature.com/2ztfjt9).
Medidas práticas para combater o preconceito nas tecnologias já estão sendo discutidas na indústria e na academia. Essas discussões e debates públicos contínuos são necessários para moldar definições de preconceitos problemáticos e, de forma mais geral, de normalidade.
Uma das formas de contornar ou mitigar o viés seria que prováveis grupos de usuários (especialmente aqueles que já são marginalizados) participem do projeto de algoritmos e dispositivos como outra forma de garantir que os vieses sejam resolvidos desde os primeiros estágios do desenvolvimento da tecnologia.
A história indica que a caça ao lucro geralmente supera a responsabilidade social no mundo corporativo. E mesmo que, em nível individual, a maioria dos tecnólogos se proponha a beneficiar a humanidade, eles podem se deparar com complexos dilemas éticos para os quais não estão preparados.
Empresas e laboratórios podem implementar políticas e diretrizes claras sobre ética em pesquisa e desenvolvimento de tecnologia. Outro passo importante seria promover uma cultura de responsabilidade social nas empresas e laboratórios. Isso significa realizar avaliações de impacto ético e social antes de lançar novos produtos ou tecnologias.
Por fim, é fundamental que a sociedade como um todo esteja envolvida nesse processo. Os consumidores devem ser incentivados a fazer escolhas conscientes e apoiar empresas e tecnologias éticas. Os reguladores também desempenham um papel importante ao estabelecer diretrizes e regulamentações que promovam a ética na tecnologia.
Ao adotar essas medidas, será possível criar um ambiente em que a ética seja valorizada e incorporada em todas as etapas do desenvolvimento tecnológico. Isso não apenas contribuirá para uma sociedade mais justa e inclusiva, mas também promoverá a confiança do público e a sustentabilidade das empresas e laboratórios.
Em resumo, à medida que as neurotecnologias avançam, é crucial proteger nossos direitos humanos básicos. Isso garantirá a dignidade, autonomia e liberdade das pessoas em um contexto de rápido desenvolvimento tecnológico.
Gostou desta publicação? Compartilhe!
Voltar 