Maiores desafios estão no tratamento de dados pessoais, na violação de informações confidenciais e no uso de ferramentas pouco maduras
O uso da inteligência artificial (IA) pode ser um aliado na expansão dos negócios, mas a adoção dessa tecnologia exige atenção, sobretudo em empresas de médio porte, que geralmente não contam com equipes dedicadas a práticas de governança digital. Especialistas em direito e proteção de dados alertam que a utilização de ferramentas baseadas em IA pode representar riscos jurídicos e gerar impactos financeiros e reputacionais. Os maiores desafios estão concentrados na violação de informações confidenciais, no uso de ferramentas pouco maduras e na falta de curadoria no tratamento de dados pessoais.
Um dos maiores desafios trazidos pelo uso da IA está relacionado a problemas no cumprimento da Lei Geral de Proteção de Dados Pessoais (LGPD), Lei n° 13.709. Antonielle Freitas, DPO (Data Protection Officer) do escritório Viseu Advogados e membro da Comissão Especial de Privacidade e Proteção de Dados da OAB/SP, diz que a situação mais crítica ocorre quando as empresas acabam adotando a IA antes de terem clareza sobre a finalidade dos dados utilizados e o grau de autonomia conferido à ferramenta. Outro problema comum em negócios desse segmento, na avaliação de Freitas, é a falta de transparência na atribuição das responsabilidades por decisões decorrentes do uso da IA e os limites de uso da tecnologia.
Freitas observa que, em empresas de médio porte, essas questões aparecem em situações do dia a dia, como triagem de candidatos, avaliação de desempenho de funcionários e contratos com fornecedores. “Nesses casos, privacidade, proteção de dados, segurança da informação, confidencialidade, propriedade intelectual, direitos do consumidor e riscos de discriminação deixam de ser temas separados e passam a compor uma mesma matriz de responsabilidade”, ressalta. “Quando esses pontos são ignorados, a IA deixa de ser apenas uma ferramenta de ganho de eficiência e passa a criar exposição jurídica, reputacional e operacional”, afirma Freitas.
Compreender a adoção da IA além de uma ferramenta de produtividade é fundamental para as empresas na avaliação de Daniel Biagini Brazão, advogado tributarista do escritório Bergamini Advogados. O advogado observa que a IA é capaz de interferir em atividades rotineiras como atendimento a clientes, revisão de contratos, processos seletivos, análise de crédito, classificação de riscos e tratamento de dados pessoais. Do ponto de vista jurídico, a recomendação é verificar de que forma os dados estão sendo utilizados e os níveis de revisão humana.
“Se uma empresa usa IA para negar crédito a um cliente, filtrar candidatos em um processo seletivo ou responder automaticamente a reclamações de consumidores, por exemplo, ela precisa conseguir explicar a lógica daquela decisão. Caso contrário, pode enfrentar questionamentos com base na LGPD, no Código de Defesa do Consumidor, na legislação trabalhista ou mesmo em responsabilidade civil por decisões discriminatórias, equivocadas ou sem fundamento adequado”, alerta Brazão.
Sanções podem paralisar a operação
No dia a dia da operação, os desafios aumentam quando o uso de ferramentas de IA não passa por processos de validação formalizados e não há revisão humana nem avaliações jurídicas. A ausência de controle dos dados inseridos nessas plataformas pode gerar incidentes de segurança, vazamentos de informações confidenciais, questionamentos de clientes, colaboradores e reguladores. O resultado é o abalo na reputação da empresa e a perda de confiança em processos que deveriam fomentar inovação e aprimorar o operacional do negócio.
Para Luis Fernando Prado, sócio do Prado Vidigal Advogados, especialista em governança de IA e líder do Comitê de IA Responsável da Associação Brasileira de IA (Abria), o custo aparece exatamente quando a empresa não tem estrutura para absorvê-lo. “Pode ser uma notificação da Agência Nacional de Proteção de Dados, que está cada vez mais vigilante e ativa, uma ação de um titular de dados pessoais, um cliente corporativo que faz auditoria de fornecedor e descobre o problema. Para uma empresa de médio porte, qualquer um desses eventos consome uma fatia de gestão e de caixa muito maior do que consumiria numa companhia grande”, diz Prado.
O especialista em governança e IA observa que o risco jurídico não é proporcional ao tamanho da empresa, mas à capacidade que o negócio terá em absorver esse impacto. O médio porte adota a tecnologia na mesma velocidade da grande, só que, na maioria das vezes, sem um investimento sólido em controles e governança, ressalta Prado.
Na prática, isso significa que a empresa de médio porte adota a tecnologia como uma companhia grande, mas não conta com os mesmos recursos quando precisa se defender diante de uma questão jurídica. Na avaliação de Jonathan S. Mazon, sócio da área de Mercado de Capitais e Instituições Financeiras do Ayres Westin Advogados, o impacto dos riscos do uso de IA pode ir muito além de perdas financeiras.
Mazon diz que ignorar esses riscos pode resultar em perda de reputação e quebra de confiança com clientes, além de contingências contratuais graves. “Em casos extremos de violação de dados, a empresa pode sofrer sanções administrativas que paralisam suas operações baseadas em dados, gerando apagão operacional e perda de vantagem competitiva”, avalia o advogado.
Políticas internas e curadoria humana
A ausência de equipes dedicadas à governança digital é um dos pontos mais críticos para os negócios de médio porte que incorporam a IA no dia a dia da operação. Outra característica que aumenta o risco das médias empresas é o menor poder de negociação com os fornecedores de ferramentas de IA.
“Essas empresas adotam softwares de prateleira aceitando contratos padrão (Termos de Uso) que transferem toda a responsabilidade jurídica do desenvolvedor da IA para a empresa usuária. O monitoramento de funcionários usando ferramentas de IA sem autorização da empresa [o chamado Shadow AI] também é mais difícil sem ferramentas caras de auditoria”, alerta Mazon.
O especialista em direito e processo civil e em proteção de dados, Willian de Souza Campos da Silva, advogado no Peluso, Guaritá, Borges e Rezende Advogados (PGBR), observa que empresas de médio porte geralmente têm estruturas mais enxutas de compliance, tecnologia e segurança da informação, mas já lidam com grandes volumes de dados e informações sigilosas.
“Dado esse fato, é comum que o uso da IA aconteça sem uma política interna adequada, uma curadoria minuciosa dos resultados obtidos, e mecanismos suficientes de acompanhamento da utilização”, ressalta Silva.
Na visão dos especialistas em proteção de dados, a principal preocupação das empresas com relação ao uso da IA é estruturar e manter uma curadoria dos resultados gerados pelas ferramentas. O advogado diz que, embora a tecnologia traga ganhos na produtividade e em eficiência com o tratamento de grandes volumes de dados, ela não substitui jamais a análise crítica e o conhecimento técnico dos profissionais de cada área. “Por isso, é recomendável que todo conteúdo e informação produzidos com apoio de IA passem por revisão e validação humana, principalmente quando envolver decisões relevantes ou informações sensíveis para a empresa”, diz Silva.
Como mitigar impactos
Para prevenir riscos na adoção da IA, a média empresa não precisa ter estrutura de big techs, muito menos proibir ou frear a inovação que traz impactos positivos ao negócio, diz Luis Fernando Prado. A chave para mitigar danos é reforçar as estruturas de governança. Para médias empresas, o advogado orienta a implementação de uma política de adoção de fácil entendimento e rotinas de treinamento.
“É recomendável ter um processo de gestão e verificação dos fornecedores de forma que se mapeie a porta de entrada de IA na organização, garantindo que riscos sejam conhecidos e endereçados na fase da contratação das soluções. Mitigar risco em IA é, antes de tudo, garantir previsibilidade e estabilidade para o negócio continuar inovando com segurança”, avalia Prado.
Para Willian de Souza Campos da Silva, é preciso ir além de políticas internas de segurança de uso de IA, com regras claras sobre quais ferramentas podem ser utilizadas e quais informações podem ser inseridas. “É indispensável investir em capacitação dos colaboradores para realizar a devida curadoria dos dados compartilhados e das informações geradas através de recursos de IA”, ressalta.
Antonielle Freitas diz que a mitigação dos riscos começa quando a IA é vista como tema de segurança corporativa, deixando de ser apenas uma decisão de tecnologia. Para o membro da Comissão Especial de Privacidade e Proteção de Dados da OAB/SP, o primeiro passo é identificar como e em que atividades a IA está sendo utilizada e quais as finalidades.
“A partir disso, a empresa deve adotar uma lógica proporcional. Usos simples podem seguir regras objetivas e orientações internas que envolvam, por exemplo, dados pessoais de clientes e colaboradores, validação de fornecedores, revisão contratual, medidas de segurança. O objetivo não é criar um processo burocrático, mas estabelecer pontos mínimos de controle para que a inovação avance com segurança, sem depender de improviso, confiança cega no fornecedor ou uso informal pelas equipes”, diz Freitas.
Para Daniel Brazão, as empresas médias não devem tratar a IA nem como ameaça a ser proibida, nem como solução mágica a ser adotada sem controle. É preciso buscar um equilíbrio para aproveitar os ganhos de eficiência que a tecnologia proporciona sem desprezar a curadoria humana.
“O caminho adequado está no meio: aproveitar os ganhos de eficiência, mas preservar supervisão humana, transparência, rastreabilidade, proteção de dados, sigilo e responsabilidade. A tecnologia pode apoiar a decisão empresarial, mas não deve substituir o juízo humano nem apagar o dever jurídico de justificar escolhas”, afirma Brazão.
Publicado na Revista PEGN.