Expansão da IA levanta questões éticas, analisa advogada

Nos últimos anos, a Inteligência Artificial (IA) deixou de ser algo dos filmes de ficção-científica e se tornou parte da rotina de muitas empresas. O Brasil, por exemplo, é o país da América Latina mais avançado nessa tecnologia, com 63% das companhias que utilizam dados e analytics também usando IA. A porcentagem é superior à média de 47% da região, segundo dados divulgados em 2022 pela plataforma SAS.

Seja para automatizar tarefas repetitivas, atender clientes em chats, analisar dados ou criar conteúdos, a IA tem múltiplas funções no mundo dos negócios. No entanto, a tecnologia também levanta discussões éticas e jurídicas.

“Com a expansão da IA, surgem questões sobre privacidade, discriminação algorítmica e transparência nos processos de tomada de decisão automatizados”, afirma a advogada Marcela Carvalho Bocayuva, sócia-fundadora do escritório Bocayuva & Advogados Associados e coordenadora da Escola Nacional da Magistratura.

Basta uma pesquisa rápida na internet para encontrar casos polêmicos envolvendo as decisões da IA. Uma matéria veiculada no jornal Correio Braziliense, por exemplo, revelou que um estudo de pesquisadores da Universidade Cornell, nos Estados Unidos, detectou comportamento racista em chatbots, programas projetados para interagir e conversar com humanos.

Nesse caso, as ferramentas de IA foram desafiadas a analisar casos de réus por homicídio e sugerir uma punição. O estudo concluiu que, no caso de acusados afroamericanos, os chatbots têm mais chances de sugerir a pena de morte (possível em alguns estados norte-americanos).

“A filosofia por trás da IA deve se concentrar em evitar a criação de algoritmos que perpetuam preconceitos, seja por raça, gênero, idade, religião, orientação sexual ou deficiências”, analisa Bocayuva.

A advogada faz ainda um questionamento. “Diante desse cenário, surge a questão: no uso da IA, de quem é o direito e a responsabilidade civil pelas decisões, violações, criações automatizadas? Essa indagação levanta preocupações éticas e jurídicas significativas que precisam ser profundamente analisadas”, diz ela.

Dessa forma, Bocayuva considera de extrema importância a implementação de diretrizes e boas práticas no que diz respeito ao uso de IAs por empresas. 

“A Organização para Cooperação e Desenvolvimento Econômico (OCDE), foi responsável por estabelecer diretrizes acerca do desenvolvimento da IA. Ao todo, são 42 países signatários do documento e o Brasil é um deles”, exemplifica.

No começo de agosto, o governo federal fez também o lançamento do Plano Brasileiro de Inteligência Artificial. Trata-se de um planejamento que tem o objetivo de desenvolver soluções em IA para melhorar a qualidade de vida da população, otimizar a entrega de serviços públicos e promover a inclusão social.

O plano traz também o conceito de “IA para o bem de todos”: uma tecnologia transparente, responsável, centrada no ser humano, que previna vieses discriminatórios, entre outras características.

Bocayuva menciona mais dois exemplos que os negócios podem adotar como referência. “A Associação Brasileira de Normas Técnicas (ABNT) foi responsável pela publicação da norma técnica ABNT ISO/IEC TR 24027:2024, além da norma mundial ISSO/IEC 42001:2023, que são fundamentais para orientar as empresas na implementação responsável da IA”.

A advogada ressalta que o potencial da IA é enorme e que, se utilizada de maneira adequada, pode ter uma grande contribuição para a população. “O equilíbrio entre avanço tecnológico e proteção dos direitos humanos é vital para garantir que a IA atue em benefício da sociedade, sem comprometer os princípios de justiça e democracia”, finaliza.

Para saber mais, basta acessar: https://www.linkedin.com/in/marcela-bocayuva-46709b93/?originalSubdomain=br

Subscribe to Notifications