877
Esta nova regulamentação, conhecida como Regulamento de Inteligência Artificial, introduz uma série de regras e procedimentos específicos para monitorar e controlar o desenvolvimento, a implementação e o uso de sistemas de IA, com particular atenção aos que representam riscos elevados para a saúde, segurança e direitos fundamentais.
Principais Pontos da Nova Regulação
Classificação de Sistemas de IA: A legislação estabelece diferentes categorias de risco para os sistemas de IA, com procedimentos de supervisão específicos aplicáveis a sistemas de risco elevado, proibidos, ou que violem requisitos de transparência.
Autoridades específicas dentro da União Europeia e das autoridades nacionais dos Estados-Membros serão responsáveis pela supervisão e fiscalização do mercado de IA, incluindo a Autoridade Europeia para a Proteção de Dados. Estas autoridades terão poderes para investigar e corrigir práticas que violem a regulamentação
Serão estabelecidos procedimentos específicos para garantir uma resposta rápida e eficaz a sistemas de IA que apresentem riscos imediatos à saúde, segurança, ou direitos fundamentais, incluindo a possibilidade de retirada imediata do mercado.
Autoridades de fiscalização poderão propor e realizar atividades conjuntas, inclusive investigações, para promover a conformidade e identificar não conformidades em múltiplos Estados-Membros.
A regulamentação destaca a importância de supervisionar modelos de IA que possam ser usados para propósitos de risco elevado, com a União Europeia assumindo a supervisão direta em certos casos para evitar sobreposição de competências.
A nova regulamentação busca alinhar-se com regras existentes aplicáveis a serviços financeiros e outras áreas, designando autoridades competentes para integrar a supervisão de sistemas de IA dentro de seus procedimentos existentes.
A interseção entre inteligência artificial (IA) e o setor financeiro, especialmente no que diz respeito a bancos e outras instituições financeiras, é um campo de crescente importância e inovação.
A regulamentação da UE sobre IA visa não apenas garantir a segurança e a ética no uso da IA, mas também alinhar estas inovações tecnológicas com as estruturas regulatórias existentes no setor financeiro. Vamos explorar como isso funciona em detalhe.
O setor financeiro tem sido pioneiro na adoção de IA, com aplicações variando desde análise de crédito, detecção de fraudes, operações de mercado, atendimento ao cliente automatizado (como chatbots), até aconselhamento financeiro personalizado. Essas tecnologias oferecem promessas significativas de eficiência operacional, melhor tomada de decisão, e experiências de cliente aprimoradas.
Contudo, a adoção de IA no setor financeiro também traz desafios regulatórios. A complexidade e a natureza muitas vezes "caixa-preta" dos algoritmos de IA podem dificultar a transparência e a accountability. Há preocupações sobre viés algorítmico, privacidade de dados, e a potencialidade de novas formas de risco sistêmico. A regulamentação da UE procura abordar essas questões, garantindo que a inovação tecnológica não comprometa a segurança financeira ou os direitos dos consumidores.
Requisitos Específicos para Instituições Financeiras
A regulamentação reconhece que as instituições financeiras já estão sujeitas a um regime regulatório rigoroso, que inclui regras sobre governança interna e gestão de riscos. Portanto, a nova regulamentação sobre IA é projetada para complementar e integrar-se a estas estruturas existentes, em vez de substituí-las.
Isso significa que os bancos que utilizam sistemas de IA devem:
Gerir Riscos de IA: Incluir riscos associados ao uso de IA na sua estrutura de gestão de riscos existente, assegurando que estes sejam identificados, avaliados e mitigados de forma adequada.
Transparência e Accountability: Garantir a transparência em relação ao uso de IA, incluindo quando usado para tomar decisões que afetam os clientes, e estar preparado para justificar essas decisões se necessário.
A regulamentação designa autoridades específicas responsáveis pela supervisão do uso de IA por instituições financeiras. Em muitos casos, estas serão as mesmas autoridades que já supervisionam o setor financeiro, garantindo uma integração suave entre a supervisão financeira tradicional e a nova supervisão de IA.
O objetivo da regulamentação da UE sobre IA no setor financeiro é duplo: promover a inovação e as vantagens que a IA pode trazer, enquanto garante que essa tecnologia seja usada de maneira segura, transparente e justa.
Ao integrar a supervisão de IA nos regimes regulatórios existentes do setor financeiro, a UE procura criar um ambiente em que a inovação tecnológica possa florescer sem comprometer os princípios fundamentais de segurança financeira e proteção ao consumidor.
Fonte: https://infobank.pt