A Inteligência Artificial (IA), especialmente os modelos de IA generativa, passou por uma evolução tecnológica significativa que levantou questões complexas durante os debates legislativos. A IA generativa, que representa um avanço considerável desde a concepção inicial da Lei de IA, trouxe desafios e oportunidades únicas, exigindo uma abordagem especial dentro do novo quadro regulatório.

No contexto da União Europeia (UE), os sistemas de IA generativa, como os grandes modelos de linguagem (LLMs) capazes de gerar conteúdo original em áreas importantes como educação, saúde, direito e comunicação, ganharam uma categoria de risco separada. Esses sistemas estão sujeitos a uma série de obrigações de governança relacionadas a riscos, dados, desempenho, previsibilidade, interpretabilidade, segurança e outros aspectos. Além disso, é necessário fornecer detalhes públicos sobre o uso dos dados utilizados no treinamento desses sistemas, protegendo direitos autorais e cumprindo obrigações de transparência ao fornecer o nome da pessoa física ou jurídica responsável, a fim de evitar tentativas de manipulação.

De acordo com a legislação da UE, os fornecedores de IA de alto risco devem se preocupar com a gestão de riscos de seus sistemas desde o início e implementar medidas de mitigação. O uso de dados pessoais sensíveis, como informações sobre etnia, religião, posição política e dados de saúde, só é permitido quando estritamente necessário, com monitoramento adequado. A supervisão humana é exigida, assim como a obrigação de informar as autoridades sobre incidentes e fornecer informações aos usuários sobre os dados do sistema.

As multas estabelecidas pela Lei de IA podem chegar a 35 milhões de euros ou 7% do volume de negócios global das empresas no caso de uso proibido de IA, 15 milhões de euros ou 3% do volume de negócios global para violações da lei, e 7,5 milhões de euros ou 1,5% do volume de negócios global no caso de fornecimento de informações incorretas. As empresas de pequeno e médio porte, bem como as startups, também estão sujeitas a multas administrativas. No entanto, surge a questão de quem será responsável pela regulamentação e fiscalização do desenvolvimento de milhares de aplicações que evoluem com novas atribuições em questão de horas.

Em resumo, a Lei de IA (AI Act) da União Europeia representa um marco importante na regulamentação global da Inteligência Artificial. Ao estabelecer padrões rigorosos e abrangentes, a UE não apenas garante a segurança e a ética no uso da IA em seu território, mas também exerce uma influência significativa além de suas fronteiras. O impacto dessa legislação, semelhante ao observado com o Regulamento Geral de Proteção de Dados (RGPD), demonstra o crescente papel da UE como um regulador global de tecnologias emergentes. A AI Act não apenas aborda os riscos associados à IA, mas também busca equilibrar a inovação tecnológica com a proteção dos direitos humanos e da democracia. À medida que nos aproximamos de sua implementação prevista entre 2025 e 2026, o mundo observa atentamente, antecipando as ramificações dessa legislação pioneira para o futuro da IA em escala global.

Alberto Gonçalves de Souza Júnior é advogado