O presidente da Comissão de Valores Mobiliários (SEC) dos EUA, Gary Gensler, discutiu a IA e os desafios que a cercam, incluindo o impacto na estabilidade financeira, em seus comentários perante o National Press Club na segunda-feira.

“Os modelos baseados em IA de hoje fornecem uma capacidade crescente de fazer previsões sobre cada um de nós como indivíduos”, descreveu ele. “Foram desenvolvidos modelos para auxiliar na tomada de decisões sobre quem consegue empregos, empréstimos, crédito, entrada em escolas e assistência médica, para citar alguns. Isso levanta uma série de questões que não são necessariamente novas para a IA, mas são acentuadas por ela”.

Observando que “as decisões e os resultados dos modelos de IA geralmente são inexplicáveis” e “os insights que surgem de tais modelos por design são inerentemente desafiadores de interpretar em termos de acessibilidade para humanos”, Gensler detalhou:

A IA também pode tornar mais difícil garantir a justiça. Os resultados de seus algoritmos preditivos podem ser baseados em dados que refletem vieses históricos, bem como recursos latentes que podem inadvertidamente ser proxies para características protegidas.

Além disso, o presidente da SEC enfatizou: “Se a função de otimização no sistema de IA estiver levando em consideração o interesse da plataforma, bem como o interesse do cliente, isso pode levar a conflitos de interesse. Em finanças, podem surgir conflitos na medida em que consultores ou corretores estão otimizando para colocar seus interesses à frente dos interesses de seus investidores.” Ele revelou:

É por isso que pedi à equipe da SEC que fizesse recomendações para propostas de regras para consideração da Comissão sobre a melhor forma de lidar com esses conflitos potenciais em toda a gama de interações com investidores.

IA e riscos de estabilidade financeira
Gensler também discutiu os riscos que a IA representa para a estabilidade financeira. “A possibilidade de uma ou mesmo um pequeno número de plataformas de IA dominarem levanta questões em relação à estabilidade financeira”, disse ele.

“A IA pode aumentar a fragilidade financeira, pois pode promover o agrupamento de atores individuais que tomam decisões semelhantes porque estão recebendo o mesmo sinal de um modelo básico ou agregador de dados”, alertou o presidente da SEC. “Isso poderia estimular as monoculturas. Também poderia exacerbar a interconexão de rede inerente do sistema financeiro global”.

No entanto, Gensler observou que a atual orientação de gerenciamento de risco do modelo “não será suficiente” e “precisará ser atualizada”. Ele explicou que, embora as ferramentas de gerenciamento de risco de modelo possam ajudar a reduzir o risco geral, elas abordam principalmente os riscos no nível da empresa ou microprudenciais. O presidente da SEC acrescentou que muitos dos desafios à estabilidade financeira que a IA pode representar no futuro exigirão um novo pensamento sobre intervenções políticas em todo o sistema ou macroprudenciais.

Em conclusão, Gensler enfatizou:

Embora reconheçamos os desafios, nós da SEC também poderíamos nos beneficiar de funcionários que fizessem maior uso da IA ​​em sua vigilância de mercado, revisão de divulgação, exames, aplicação e análise econômica.

“Acho que a IA continuará transformando significativamente a ciência, a tecnologia e o comércio… Como estamos lidando com a automação da inteligência humana, a gravidade desses desafios é real”, opinou.