À espera do marco legal da IA, mercado segue normas da UE

Telma Luchetta, sócia-líder de tecnologia da EY: “A lei da UE é muito completa e fácil de adaptar à realidade brasileira”
Divulgação
A inteligência artificial (IA) permite ganhos de eficiência, produtividade e, até mesmo, alavancar modelos de negócio bem-sucedidos, mas as oportunidades não se multiplicam sem riscos.
Na tentativa de evitá-los, surgiu na década passada, nos Estados Unidos, o conceito de IA responsável que, hoje, está sendo aplicado no Brasil.
O setor tecnológico vem atuando para que seus princípios éticos se tornem a pedra fundamental no trabalho dos softwares cada vez mais autônomos e eficientes.
Enquanto o projeto de lei que regula a IA recebe sugestões na Câmara dos Deputados, a norma europeia serve de parâmetro para o segmento dos bancos tradicionais, fintechs, seguradoras e cooperativas de crédito.
“Temos a resolução 18, do Banco do Central, mas ela foca somente na qualidade dos dados.
Já a lei da União Europeia é muito completa e fácil de adaptar para a realidade brasileira.
Na verdade, é o que temos de melhor no mundo”, opina Telma Luchetta, sócia-líder de tecnologia da EY na América Latina.
Pelas diretrizes da Europa, o banco deve fazer o inventário das soluções de IA, estabelecer graus de risco, desenvolver a ferramenta e submetê-la ao chamado “red team” - ambiente onde uma IA confronta outra para checar suas vulnerabilidades.
Em seguida, o sistema precisa passar por um comitê multissetorial de validação, que aprova ou não.
“Todos os bancos do país estão se baseando nisso, com alguns em níveis mais primários e outros mais avançados”, conta a executiva.
Apenas para um cliente brasileiro, a EY desenvolveu 1.200 soluções embarcadas com sua própria metodologia de IA responsável.
Um relatório da plataforma inglesa Evident Insights, publicado no mês passado, colocou o Itaú Unibanco e o Nubank como destaques entre 20 instituições da América Latina em maturidade no uso da IA, favorecida por fatores como escala e infraestrutura de ponta que os pares da região não conseguem alcançar.
Queremos transformar os princípios em ferramentas”
Em um ranking do levantamento, o Itaú Unibanco ficou em primeiro lugar no critério transparência.
Em segundo lugar, veio o Banco do Brasil, seguido pelo Nubank.
O Bradesco ficou em quarto.
O indicador mostrou o grau de adesão à IA responsável conforme demonstrado por processos internos publicados, parcerias estratégicas, contratação de talentos e promoção dos valores éticos.
“Queremos transformar os princípios em ferramentas.
E criamos coisas tão novas que até geramos patentes”, brinca Roberto Frossard, chefe do hub internacional do Itaú e uma das lideranças do Instituto de Ciência e Tecnologia Itaú (ICTi).
Fundada em 2023, a associação congrega 90 pesquisadores do quadro da companhia e 180 de universidades federais e americanas, entre elas, do Massachusetts Institute of Technology (MIT).
As pesquisas aplicadas nas áreas da IA, computação quântica, robótica e neurociência já originaram 20 pedidos de patentes junto ao Instituto Nacional da Propriedade Industrial (Inpi).
A primeira proteção veio para uma ferramenta que previne vieses nas conversas mediadas por IA.
No ambiente de inovação do instituto, os cientistas rodam experimentos semanais.
A meta é mitigar eventuais preconceitos, ataques, desvios e comportamentos indesejados dos softwares.
“Trabalhamos com um misto de ciência e arte.
Todo mundo acaba reagindo aos problemas, mas nós queremos antevê-los.
Então experimentamos diferentes cenários de riscos das tecnologias na fronteira”, explica Frossard.
Pioneira no uso da IA no mundo, a gigante IBM saiu na frente ao implantar uma jornada de transparência ainda em 2013.
Dois anos depois, designou seu primeiro líder global de IA responsável.
“A IA é como se fosse uma turbina sobre um equipamento que pode escalar superrápido, gerando benefícios.
Mas, se alguém descuidar desse arcabouço ético, escala-se para o lado ruim.
Por isso, há projetos que falham e muita coisa não sobe para a produção”, comenta Fabrício Lira, diretor de dados da IBM no Brasil.
A companhia, que atende grandes bancos do país, entre eles Banco do Brasil e Bradesco, testa internamente todos os riscos dos programas robustos de orquestração e governança antes de levá-los ao mercado.
A plataforma watsonx.governance, por exemplo, permite que as instituições financeiras rastreiem os riscos, além de monitorar em tempo real seus modelos de IA e em conformidade com a regulação vigente.
“Nossa estrutura empresarial incorpora ética, transparência e tratamento justo das pessoas desde a origem.
Trata-se de construir confiança ao redor do que a IA pode produzir”, reflete Lira.
A IBM também conta, há oito anos, com um Conselho de IA Ética multidisciplinar.
A missão do time é implantar os princípios no dia a dia da operação.