Os cinco pontos de atenção que devem ser considerados na prática na promoção regulatória sobre a inteligência artificial
O Projeto de Lei 2338/2023 prevê diretrizes para a governança de sistemas de inteligência artificial (IA) no Brasil, e traz um novo horizonte de oportunidades e desafios.
Os pequenos e médios empreendedores nacionais costumam ser mais impactados. Na inteligência artificial não é diferente. Por isso, ao longo deste artigo abordaremos cinco pontos de atenção que devem ser considerados na prática na promoção regulatória sobre a inteligência artificial aplicada aos micros e pequenos empreendedores nacionais.
O primeiro deles diz respeito a governança e transparência. O Projeto de Lei 2.338/2023 que tramita no Senado Federal exige que os desenvolvedores de IA mantenham uma documentação detalhada sobre o funcionamento dos sistemas e as decisões envolvidas em sua construção.
A exigência de documentação detalhada de microempreendedores pode representar um desafio. A criação e manutenção dessa documentação demandam recursos financeiros e humanos que muitas vezes são escassos. A transparência pode aumentar a confiança dos consumidores nos produtos de IA desenvolvidos por pequenas empresas. O custo, no entanto, pode ser mitigado e distribuído na cadeia de valor da IA para diminuir o impacto nos pequenos e médios empreendedores.
Um segundo ponto diz respeito as avaliações de impacto algorítmico, que serão compartilhadas com as autoridades competentes. Essas avaliações envolvem a identificação de riscos e benefícios aos direitos fundamentais, além de medidas de mitigação.
A realização de avaliações de impacto algorítmico requer conhecimento especializado que consomem tempo e dinheiro. Para pequenos empreendedores significa a necessidade de contratar consultores especializados ou investir em capacitação interna.
O terceiro aspecto diz respeito ao aumento de custo na implementação de processos internos de segurança ao longo de todo o ciclo de vida dos sistemas. Isso inclui o uso de ferramentas para registro automático da operação do sistema e a realização de testes de confiabilidade.
Implementar medidas de segurança também se apresenta um desafio técnico e financeiro para microempreendedores. A maior parte dos microempreendedores não tem conhecimento para, por exemplo, integrar sistemas, ou mesmo eleger prioridades instrumentais para o resultado do próprio negócio. Imprimir o encargo pode significar elevar o padrão de qualidade dos produtos desenvolvidos, tornando-os mais competitivos no mercado, mas pode ser uma exigência além do alcance dos pequenos empreendedores.
Um quarto ponto diz respeito a previsão do PL 2338/2023 quanto a medidas para mitigar e prevenir vieses discriminatórios e incentivar a diversidade nas equipes de desenvolvimento. Também são necessárias políticas de gestão e governança para promover a responsabilidade social e sustentável.
Para micro e pequenos empreendedores, implementar políticas de diversidade e responsabilidade social pode parecer uma tarefa desafiadora. É comum encontrar uma cultura organizacional fechada e resistente. Boa parte dos funcionários atuam em toda cadeia de produção. Impor novos procedimentos, treinamentos, e integração mobilizará um grande convencimento caro ao negócio. Equipes diversificadas tendem a ser mais inovadoras e eficazes na identificação e mitigação de vieses. A adoção de práticas socialmente responsáveis pode também melhorar a imagem da empresa e atrair talentos e clientes que valorizam esses princípios. Superar a barreira da implementação, no entanto, pode ser complexo.
Por fim, os desenvolvedores devem garantir a explicabilidade dos resultados dos sistemas de IA e disponibilizar informações adequadas que permitam a interpretação desses resultados, respeitando o sigilo industrial e comercial.
A garantia e a explicabilidade dos sistemas de IA grande esforço de investimentos em desenvolvimento e comunicação. Micro e pequenos empreendedores podem precisar criar interfaces mais intuitivas e fornecer informações claras aos usuários. A propósito, tornar a IA explicável pode significar abrir uma caixa preta do machine learning que as compõe comprometendo singularidades e diferenciais de negócios. Tudo que é explicável tem a simpatia dos consumidores, sobretudo os pequenos que demanda mais da confiança destes em comparação com grandes marcas estabelecidas no mercado.
O PL 2338 apresenta um conjunto de diretrizes de governança desafiadoras. Tornar cogente os elementos de governança podem trazer benefícios para micro e pequenos empreendedores brasileiros. A questão é o custo para implementação indiscriminada, sem adequada modulação para negócios de diferentes tamanhos.
Ter documentação detalhada e transparente, promover avaliação de impacto algorítmico, medidas de segurança, promover diversidade e a explicabilidade dos sistemas de IA são elementos que requerem investimento, treinamento, mudança de cultura, conhecimento, dentre outras habilidades que só grandes empreendedores conseguem contratar no mercado, seja pelo custo, seja pela disponibilidade. Se bem implementados, os mecanismos de governança se candidatam a elevar o padrão de qualidade e competitividade dos produtos desenvolvidos. No entanto, fixar paradigmas verticais, cogentes, com mais diretos e deveres do que incentivo a adoção da IA como tecnologia é um desafio que pode custar caro, reduzir oportunidades e dificultar o posicionamento do microempreendedor no mercado de tecnologia.
Marcelo Almeida é Diretor de Relações Governamentais da Associação Brasileira das Empresas de Software (ABES)
*Artigo originalmente publicado em 29 de agosto de 2024 no IT Forum.
