O Brasil discute, há mais de dois anos, um marco regulatório específico para inteligência artificial, num movimento que acompanha esforço semelhante em outras partes do mundo. Para gestores públicos e privados que já usam ou avaliam usar essa tecnologia, entender a direção dessa regulação, mesmo antes de ela estar totalmente definida, ajuda a evitar retrabalho quando a norma finalmente entrar em vigor.
A Vert Analytics acompanha de perto essa discussão regulatória porque ela afeta diretamente como qualquer sistema de inteligência artificial deveria ser construído desde já, considerando exigência que ainda está em tramitação, não reagindo a ela depois que a lei já estiver em vigor.
Por que a regulação de IA costuma vir depois que a tecnologia já está em uso?
A regulação de tecnologia nova quase sempre chega depois da adoção em escala, porque o legislador precisa observar como a tecnologia é usada na prática antes de definir regra específica sobre ela. Isso cria uma janela em que sistemas de inteligência artificial já tomam decisões relevantes sobre pessoas reais, sem que exista ainda obrigação legal específica de explicabilidade ou revisão humana.
Organizações que constroem seus sistemas apenas para cumprir a exigência mínima legal do momento correm o risco de precisar refazer parte da arquitetura quando a regulação específica finalmente entra em vigor, especialmente se essa arquitetura não previu, desde o início, princípios como auditabilidade e supervisão humana. A Vert Analytics estrutura cada projeto já prevendo esse tipo de exigência, evitando retrabalho futuro para seus clientes.
O que a maioria das propostas regulatórias, no Brasil e no mundo, tem em comum?
Discussões regulatórias sobre inteligência artificial em diferentes países convergem em alguns princípios recorrentes: direito à explicação de decisão automatizada, possibilidade de revisão humana para sistemas de maior risco e responsabilização clara de quem desenvolve e de quem opera a tecnologia. Essa convergência sugere que, independentemente de qual formato específico a regulação brasileira assumir, esses princípios provavelmente vão estar presentes de alguma forma.
Por que construir sistemas já alinhados a esses princípios reduz risco futuro?
Uma organização que já trata explicabilidade e revisão humana como parte do desenho técnico de seus sistemas, antes mesmo de existir obrigação legal específica, não precisa reconstruir arquitetura quando a regulação entrar em vigor. A diferença entre agir cedo e reagir depois a uma exigência regulatória costuma se traduzir em custo bem diferente: reconstruir um sistema já em produção é sempre mais caro do que ter planejado corretamente desde o início.
Um sistema de aprovação de crédito, por exemplo, que já mantém trilha auditável e ponto de revisão humana definido, não precisa de nenhuma reforma estrutural quando uma lei específica exigir exatamente isso; um sistema que nunca considerou esses pontos parte praticamente do zero para se adequar.
O que muda para o setor público especificamente?
Órgãos públicos que aplicam inteligência artificial em decisão que afeta cidadão diretamente, como concessão de benefício ou triagem de documento, tendem a estar entre os primeiros alvos de qualquer regulação específica de IA, justamente porque o impacto sobre direito individual é mais direto nesse tipo de aplicação do que em usos comerciais comuns. Preparar-se com antecedência para esse tipo de exigência é especialmente relevante para a administração pública, onde o custo de retrabalho recai sobre o orçamento que poderia estar financiando outro serviço.
O que um gestor deveria fazer diante de uma regulação ainda em construção?
Esperar a regulação estar totalmente definida antes de agir significa aceitar o risco de reconstruir o sistema depois, sob pressão de prazo legal. A alternativa mais segura é construir cada novo sistema já considerando os princípios que consistentemente aparecem em qualquer proposta regulatória séria, mesmo antes de existir obrigação legal específica sobre eles.
Para gestores que ainda avaliam por onde começar, a experiência da Vert Analytics em projetos de missão crítica sugere que os mesmos princípios de explicabilidade, auditabilidade e revisão humana já deveriam fazer parte de qualquer projeto sério, independentemente do que a lei especificamente exigir quando finalmente entrar em vigor.
