📸 Créditos da imagem: Unsplash
A crescente sofisticação da inteligência artificial (IA) agêntica pode exigir uma revisão profunda dos marcos regulatórios existentes, especialmente no setor financeiro. Essa foi a avaliação de Sarah Breeden, vice-governadora para a estabilidade financeira do Banco da Inglaterra, durante um discurso proferido no Fórum do Banco Central Europeu sobre bancos centrais, realizado em Portugal nesta terça-feira.
Breeden destacou que o rápido avanço das capacidades dos agentes de IA, que são capazes de operar de forma autônoma, revelou lacunas significativas nas estruturas de supervisão atuais. A natureza desses sistemas, que podem tomar decisões e executar ações sem intervenção humana constante, representa um desafio inédito para os reguladores.
“Nossos marcos regulatórios não foram criados para contemplar agentes autônomos, e contar com a intervenção humana em todas as ações dos agentes provavelmente não é realista. Podem ser necessários marcos de governança e prestação de contas mais sofisticados”, afirmou Breeden. Ela enfatizou a necessidade de uma abordagem mais robusta para lidar com essa nova realidade tecnológica.
Preocupações Crescentes com a IA no Setor Financeiro
As advertências sobre os riscos da implantação da IA no setor financeiro não são novas. Órgãos reguladores e organismos globais de definição de padrões têm expressado repetidamente suas preocupações. A introdução de sistemas avançados, como o Mythos da Anthropic, por exemplo, tem sido apontada por analistas como um potencial gerador de desafios significativos para a segurança cibernética do setor bancário.
Esses sistemas, ao operarem com um alto grau de autonomia, podem criar pontos cegos ou vulnerabilidades que os modelos regulatórios tradicionais, baseados na supervisão humana direta, não conseguem endereçar eficazmente. A complexidade e a velocidade das operações de IA agêntica exigem uma reavaliação de como os riscos são identificados, mitigados e monitorados.
Chamados por Salvaguardas Mais Rigorosas
A urgência de uma ação regulatória mais incisiva foi reforçada no início de junho, quando o Conselho de Estabilidade Financeira (FSB) fez um apelo por medidas de proteção mais rigorosas. O órgão destacou que os agentes de IA representam um desafio particular à supervisão humana, exigindo uma abordagem proativa para garantir a resiliência do sistema financeiro global.
A discussão em torno da IA agêntica e sua regulamentação sublinha um dilema central: como fomentar a inovação e os benefícios potenciais da inteligência artificial, ao mesmo tempo em que se protegem os sistemas financeiros de riscos sistêmicos e inesperados. A colaboração entre bancos centrais, reguladores e especialistas em tecnologia será crucial para desenvolver soluções que equilibrem esses objetivos.
📰 Leia a notícia completa em: UOL »