Como a Europa decidiu regular inteligência artificial por nível de risco

Regular uma tecnologia em movimento é um problema de definição antes de ser um problema jurídico. Escrever regras para uma arquitetura específica gera texto obsoleto em poucos anos. A opção adotada no arcabouço europeu conhecido como AI Act foi outra: em vez de classificar a técnica, classificar a aplicação.

A consequência é que o mesmo modelo pode estar sujeito a exigências completamente diferentes conforme o contexto de uso. Um sistema de reconhecimento de padrões aplicado a controle de qualidade industrial e o mesmo sistema aplicado a triagem de candidatos a emprego não recebem o mesmo tratamento.

Apuração · o que é verificável

O que aconteceu

A estrutura organiza os sistemas em faixas de risco. No topo, usos considerados incompatíveis com direitos fundamentais são proibidos. Abaixo, uma categoria de alto risco concentra as aplicações capazes de afetar acesso a emprego, crédito, educação, serviços públicos e decisões nas esferas penal e migratória.

Para a faixa de alto risco, as obrigações são de processo: gestão de risco documentada, qualidade e governança dos dados de treinamento, registro de eventos, documentação técnica, informação ao usuário, supervisão humana efetiva e níveis adequados de robustez, precisão e segurança cibernética ao longo do ciclo de vida.

Abaixo dessa faixa ficam obrigações de transparência, como informar que se está interagindo com um sistema automatizado ou identificar conteúdo gerado artificialmente. E há um regime específico para modelos de propósito geral, que respondem por documentação e por informações repassadas a quem os integra em produtos.

Contexto

A escolha por regular o uso segue um caminho que a Europa já havia percorrido com produtos físicos. Brinquedos, elevadores e equipamentos médicos não são regulados por sua tecnologia interna, e sim pelo risco que a aplicação apresenta. O AI Act transporta essa lógica de conformidade para software.

Isso explica o vocabulário: fornecedor, implantador, avaliação de conformidade, marcação, vigilância de mercado. São categorias de direito de produto, não de direito digital. Quem já opera sob regimes de dispositivos médicos ou de segurança industrial reconhece a estrutura antes mesmo de ler o detalhe das exigências.

Há ainda o efeito extraterritorial. A regra alcança sistemas cujo resultado é utilizado dentro do bloco, independentemente de onde o fornecedor esteja. Como reescrever um produto por mercado é caro, parte das empresas tende a adotar o padrão mais exigente em toda a operação global.

Quem responde quando o sistema erra

A distinção mais prática do arcabouço é entre quem constrói o sistema e quem o coloca em uso. O primeiro responde por como o sistema foi projetado, testado e documentado. O segundo responde por usá-lo dentro da finalidade prevista, com supervisão adequada e informação a quem é afetado.

Essa divisão elimina uma zona cinzenta comum. Não é possível terceirizar a responsabilidade dizendo que o modelo veio de fora, nem transferi-la ao fornecedor quando a empresa usa o sistema para uma finalidade diferente daquela documentada. Alterar substancialmente o uso pode transformar o implantador em fornecedor.

O ponto delicado é a supervisão humana. A exigência não se satisfaz com uma pessoa autorizando decisões em série sem condições reais de contestá-las. Para ter efeito, a supervisão precisa de tempo, de informação sobre os limites do sistema e de autoridade para recusar o resultado.

O que a conformidade exige na engenharia

Traduzido para dentro do time técnico, o texto pede rastreabilidade. É preciso saber qual versão do modelo respondeu, com quais dados foi treinada e ajustada, quais testes foram executados, quais limitações conhecidas existem e como o comportamento em produção é monitorado ao longo do tempo.

Nada disso é novo para quem desenvolve software em setores regulados. É novo para equipes acostumadas a substituir modelos rapidamente e a ajustar comportamento sem registro formal. O custo de conformidade recai menos sobre o algoritmo e mais sobre a disciplina de versionamento, avaliação e documentação.

Há um efeito colateral relevante sobre a cadeia. Quem integra um modelo de terceiros precisa obter do fornecedor informação suficiente para cumprir as próprias obrigações. Isso empurra a documentação técnica para dentro dos contratos e torna a opacidade do fornecedor um risco jurídico do integrador.

Interpretação editorial da sysINFO

Análise sysINFO

A crítica frequente é que regras assim favorecem grandes empresas, que absorvem custo de conformidade com mais facilidade. A crítica oposta é que, sem regra, o custo do erro é transferido para quem sofre a decisão automatizada. As duas observações são compatíveis e descrevem um trade-off real.

A leitura da sysINFO é que o efeito mais duradouro não será o de proibir usos, e sim o de padronizar documentação. Quando um mercado grande exige determinado conjunto de artefatos técnicos, esse conjunto tende a virar prática comum também fora dele, por conveniência de engenharia.

Vale explicitar: este bloco é interpretação editorial, não relato de fato. Verificável é a estrutura - classificação por risco, obrigações de processo, divisão entre fornecedor e implantador. A projeção sobre difusão de práticas e sobre efeitos competitivos é a leitura que a sysINFO faz dessa estrutura.

Recorte brasileiro

Impacto para o Brasil

Empresas brasileiras que exportam software ou operam subsidiárias no bloco entram no alcance da regra pelo destino do resultado, não pela sede. Para elas, a decisão prática é entre manter duas versões do produto e adotar o padrão mais exigente como linha de base única.

O debate brasileiro sobre regulação de inteligência artificial convive com um arcabouço de proteção de dados já em vigor e com uma autoridade constituída. Boa parte das obrigações de governança de dados de treinamento conversa diretamente com deveres de finalidade, base legal e segurança que já existem.

Há também um ponto de setor público. Compras governamentais de sistemas automatizados aplicados a benefícios, fiscalização ou segurança se encaixam exatamente na categoria mais sensível. Exigir documentação, registro de decisões e supervisão efetiva em edital é uma escolha disponível independentemente de nova legislação específica sobre o tema.

Agenda de acompanhamento

O que observar agora

O texto está escrito, mas boa parte do efeito prático depende de camadas que ainda estão sendo construídas. Normas técnicas, orientações setoriais e a capacidade das autoridades de fiscalizar determinam se a regra vira rotina de engenharia ou apenas mais um papel arquivado na pasta de conformidade.

• Como as normas técnicas traduzirão exigências abstratas em testes verificáveis.
• Se a supervisão humana será avaliada por procedimento ou por efeito real.
• Que informação os fornecedores de modelos passarão a entregar a integradores.
• Se outros países adotarão a classificação por risco como referência.