Como os governos estão tentando controlar a IA

As novas regras da máquina

A era do faroeste na inteligência artificial está chegando ao fim. Os governos não estão mais apenas assistindo de fora. Eles estão escrevendo os manuais que determinarão como o código é escrito e onde pode ser implementado. Isso não é apenas sobre ética ou princípios vagos. É sobre leis rígidas e multas pesadas. A União Europeia liderou o caminho com sua AI Act. Os Estados Unidos seguiram com uma ordem executiva abrangente. Essas ações mudam as contas para todas as empresas de tecnologia do planeta. Se você criar um modelo que exceda um certo limite de potência, agora você tem um alvo nas costas. Você deve provar que ele é seguro antes que chegue ao público. Essa mudança marca a transição de promessas voluntárias de segurança para uma supervisão obrigatória. Para o usuário comum, isso significa que as ferramentas que você usa amanhã podem parecer diferentes das que você usa hoje. Alguns recursos podem ser bloqueados em seu país. Outras ferramentas podem se tornar mais transparentes sobre como usam seus dados. O objetivo é equilibrar o progresso com a proteção, mas o caminho é cheio de atrito.

Da ética para a aplicação da lei

Para entender as novas regras, você precisa olhar para as categorias de risco. A maioria dos governos está se afastando de uma abordagem única para todos. Em vez disso, eles estão classificando os sistemas com base no dano potencial que poderiam causar. Essa é uma mudança operacional direta. As empresas não podem mais simplesmente lançar um produto e esperar pelo melhor. Elas devem categorizar sua tecnologia antes mesmo que ela chegue a um usuário. Essa classificação determina o nível de escrutínio que o governo aplicará. Também determina o nível de responsabilidade legal que a empresa enfrenta se algo der errado. O foco mudou do que a IA é para o que a IA faz. Se um sistema toma decisões sobre pessoas, ele é tratado com muito mais suspeita do que um sistema que gera fotos de gatos.

As regras mais restritivas aplicam-se a sistemas considerados de risco inaceitável. Eles não são apenas desencorajados. Eles são banidos. Isso cria uma fronteira clara para os desenvolvedores. Eles sabem exatamente quais linhas não podem cruzar. Para todo o resto, as regras exigem um novo nível de documentação. As empresas devem manter registros detalhados de como seus modelos foram treinados. Elas também devem ser capazes de explicar como o modelo chega às suas conclusões. Este é um desafio técnico significativo porque muitos modelos modernos são essencialmente caixas-pretas. Forçá-los a serem explicáveis exige uma mudança fundamental em como são projetados. As regras também exigem que os dados usados para treinamento sejam limpos e livres de viés. Isso significa que o próprio processo de coleta de dados agora está sujeito a auditorias legais. As seguintes categorias definem a abordagem regulatória atual:

• Sistemas proibidos que usam pontuação social ou técnicas enganosas para manipular o comportamento.
• Sistemas de alto risco usados em infraestrutura crítica, contratação e aplicação da lei que exigem auditorias rigorosas.
• Sistemas de risco limitado, como chatbots, que devem divulgar que não são humanos.
• Sistemas de risco mínimo, como videogames habilitados por IA, que enfrentam menos restrições.

Essa estrutura foi projetada para ser flexível. À medida que a tecnologia muda, a lista de aplicações de alto risco pode crescer. Isso mantém a lei relevante mesmo com a evolução do software. No entanto, também cria um estado de incerteza permanente para as empresas. Elas devem verificar constantemente se seu novo recurso mudou para uma categoria mais regulamentada. Essa é a nova realidade de criar software em um mundo que desconfia do poder da máquina.

Uma estrutura global fragmentada

O impacto dessas regras não se limita às fronteiras de uma única nação. Estamos vendo o surgimento do *Brussels Effect*. Quando a UE estabelece um padrão alto para a regulação de tecnologia, empresas globais frequentemente adotam esses padrões em todos os lugares para simplificar suas operações. É mais barato construir um produto compatível do que construir dez versões diferentes para mercados diferentes. Isso dá à Europa uma influência enorme sobre como a IA é construída no Vale do Silício. Você pode ler mais sobre o EU AI Act para ver como esses padrões são estruturados. Nos Estados Unidos, a abordagem é diferente, mas igualmente significativa. O governo está usando o **Defense Production Act** para obrigar gigantes da tecnologia a compartilhar seus resultados de testes de segurança. Isso sinaliza que os EUA veem a IA em larga escala como uma questão de segurança nacional.

Enquanto isso, a China seguiu um caminho mais direto. Seus regulamentos focam no conteúdo produzido por IA generativa. Eles exigem que as saídas estejam alinhadas com os valores sociais e não minem o poder do Estado. Isso cria um mundo fragmentado onde o mesmo modelo pode se comportar de maneira diferente dependendo de onde você faz login. Um modelo em Pequim terá diretrizes diferentes de um em Paris ou Nova York. Essa fragmentação cria uma dor de cabeça para desenvolvedores que agora devem trabalhar em uma rede de regras conflitantes. Alguns países querem mais abertura, enquanto outros querem mais controle sobre a narrativa. Para o público global, isso significa que a experiência de IA está se tornando localizada. O sonho de uma internet única e sem fronteiras está desaparecendo. Em seu lugar, há um ambiente regulamentado onde sua localização determina o que a máquina tem permissão para lhe dizer. Esta é a nova realidade de 2024. É uma mudança que definirá a próxima década de crescimento tecnológico.

A vida diária sob o olhar regulatório

Imagine uma manhã típica para uma gerente de projetos chamada Sarah. Ela começa o dia abrindo uma ferramenta de IA para resumir uma longa cadeia de e-mails. Sob os novos regulamentos, seu software deve notificá-la de que o resumo foi gerado por um algoritmo. Ele também precisa garantir que os dados de sua empresa não estejam sendo usados para treinar o modelo público sem seu consentimento. Este é um resultado direto das novas proteções de privacidade incorporadas em leis recentes. Mais tarde, Sarah se candidata a uma nova função em uma empresa de tecnologia. A empresa usa uma ferramenta de triagem de IA. Como esta é uma aplicação de alto risco, a empresa teve que auditar a ferramenta em busca de viés. Sarah tem o direito legal de pedir uma explicação sobre por que a IA a classificou da maneira que fez. No passado, ela teria recebido uma rejeição genérica. Agora, ela tem um caminho para a transparência. Este é um exemplo concreto de como a governança muda a dinâmica de poder entre corporações e indivíduos.

À tarde, Sarah caminha por um shopping center. Em algumas cidades, o reconhecimento facial estaria rastreando seus movimentos para exibir anúncios direcionados. Sob as regras rígidas da UE, esse tipo de vigilância em tempo real é restrito. O shopping deve ter um motivo legal específico para usá-lo e Sarah deve ser informada. Os produtos que ela usa também estão mudando. Empresas como OpenAI e Google já estão ajustando seus recursos para cumprir as leis locais. Você pode notar que certas ferramentas de geração de imagem estão indisponíveis em sua região ou possuem filtros rigorosos que impedem a criação de rostos realistas de figuras públicas. Isso não é uma limitação técnica. É uma limitação legal. O argumento para essas regras parece real quando você considera o potencial de deepfakes para interromper eleições ou de algoritmos tendenciosos negarem moradia às pessoas. Ao colocar diretrizes em vigor, os governos estão tentando evitar esses danos antes que aconteçam. Esta é a abordagem dos EUA para a segurança da IA em ação.

No entanto, Sarah também pode notar que suas ferramentas estão ficando mais lentas ou mais restritas. As respostas do tipo “Sinto muito, não posso fazer isso” da IA são frequentemente o resultado de um desenvolvedor tentando evitar uma multa enorme. A tensão entre utilidade e segurança é visível em cada interação. É um lembrete constante de que a máquina está sendo vigiada. Essa evolução não é estática. As regras estão sendo atualizadas à medida que novas capacidades surgem. O objetivo é garantir que a IA que Sarah usa seja uma ferramenta para seu benefício, não um sistema que trabalhe contra seus interesses nos bastidores. Esta é a mudança mais significativa em como interagimos com computadores desde a invenção da internet.

Os custos ocultos da conformidade

Devemos fazer as perguntas difíceis sobre quem realmente ganha em um mundo regulamentado. Uma carga regulatória pesada realmente protege o público ou simplesmente protege os incumbentes? Grandes empresas de tecnologia têm recursos para contratar centenas de advogados e engenheiros para lidar com a conformidade. Uma pequena startup em uma garagem não tem. Corremos o risco de criar um mundo onde apenas os gigantes podem se dar ao luxo de inovar. Isso pode levar a menos concorrência e preços mais altos para os usuários. Há também a questão da privacidade versus segurança. Quando os governos exigem acesso ao funcionamento interno de um modelo de IA, quem está protegendo esses dados? Se um governo pode auditar um modelo para garantir que ele seja seguro, ele também pode usar esse mesmo acesso para monitorar o que o modelo está aprendendo com seus usuários. Esta é uma troca que raramente é discutida em fóruns públicos.

Devemos também considerar o custo oculto da inovação. Se cada novo recurso tiver que passar por um longo processo de aprovação, perderemos avanços que poderiam salvar vidas na medicina ou resolver problemas climáticos complexos? O atrito da regulamentação é um custo real. Precisamos saber se a segurança que ganhamos vale o progresso que perdemos. Há também a questão da aplicação da lei. Como você regula um modelo que está hospedado em uma rede descentralizada ou em um país que ignora normas internacionais? As regras podem se aplicar apenas às empresas que escolhem segui-las, deixando os atores mais perigosos livres para operar sem supervisão. Isso cria uma falsa sensação de segurança. Estamos construindo uma cerca ao redor dos cidadãos cumpridores da lei enquanto o portão permanece aberto para todos os outros. Essas são as perguntas que os reguladores frequentemente evitam. Eles focam nos riscos visíveis enquanto ignoram os sistêmicos. À medida que avançamos, devemos garantir que nosso desejo por segurança não nos cegue para o valor de um mercado aberto e competitivo.

Tem uma história, ferramenta, tendência ou pergunta sobre IA que acha que deveríamos cobrir? Envie-nos a sua ideia de artigo — gostaríamos muito de a ouvir.

O pedágio técnico da transparência

Para os usuários avançados e desenvolvedores, os novos regulamentos se traduzem em restrições técnicas específicas. Uma das métricas mais significativas é o limite de computação. A Ordem Executiva dos EUA estabelece uma barra em 10 elevado à potência de 26 operações de ponto flutuante. Qualquer modelo treinado com mais potência do que isso deve ser relatado ao governo. Isso força os desenvolvedores a manter logs detalhados de seu uso de hardware e execuções de treinamento. Os limites de API também estão se tornando uma ferramenta de regulação. Para evitar a geração em massa de desinformação, algumas regiões estão considerando limites sobre quantas solicitações um único usuário pode fazer a um modelo generativo. Isso afeta como os desenvolvedores constroem aplicações que dependem desses modelos. Eles agora devem levar em conta esses limites em seu código e seus modelos de negócios. O armazenamento local é outro fator importante. As leis geralmente exigem que os dados sobre os cidadãos permaneçam dentro de certos limites geográficos. Isso significa que as empresas não podem simplesmente usar uma nuvem central para processar dados de todos os lugares. Elas devem construir e manter data centers locais. Os requisitos técnicos incluem:

• Marca d’água obrigatória no nível da API para identificar conteúdo gerado por IA.
• Requisitos de residência de dados que forçam o processamento e armazenamento local.
• Registro de computação para qualquer treinamento de modelo que exceda o limite de 10 elevado à potência de 26 flops.
• Camadas de explicabilidade que permitem a auditoria humana dos pesos do modelo e caminhos de decisão.

Os fluxos de trabalho de integração também estão mudando. Os desenvolvedores agora devem construir verificações de segurança em cada estágio do pipeline. Se você está construindo uma ferramenta que usa uma API de terceiros, agora você é responsável por como essa API lida com os dados. Você deve garantir que sua integração não ignore os filtros de segurança definidos pelo provedor. A seção geek da lei é onde as verdadeiras batalhas são travadas. É sobre latência, residência de dados e a matemática dos pesos do modelo. Esses são os detalhes que determinam se um produto é viável ou se será enterrado sob o peso de seus próprios requisitos de conformidade. Você pode encontrar mais detalhes sobre essas mudanças técnicas nas últimas notícias sobre política de tecnologia. Para aqueles que querem ficar à frente dessas mudanças, seguir os últimos desenvolvimentos na regulação de IA é essencial. A complexidade dessas regras significa que o papel do desenvolvedor está se tornando tanto sobre lei quanto sobre código.

O código inacabado

A tentativa de controlar a IA é um trabalho em andamento. Estamos passando de um período de liberdade total para um de crescimento gerenciado. As regras escritas hoje moldarão a tecnologia da próxima década. No entanto, a velocidade do software sempre supera a velocidade da legislação. Quando uma lei é aprovada, a tecnologia muitas vezes já passou para algo novo. Isso nos deixa com uma questão viva que manterá este assunto evoluindo: pode um processo democrático ser rápido o suficiente para regular uma inteligência que se reescreve? Por enquanto, o foco está na transparência e na responsabilidade. Estamos tentando garantir que os humanos permaneçam no comando das máquinas que construíram. Se essas regras tornarão a IA mais segura ou apenas mais complicada, ainda está para ser visto. A única certeza é que a era do algoritmo não regulamentado acabou. Esta é a realidade de 2024 e além.

Nota do editor: Criamos este site como um centro de notícias e guias de IA multilíngue para pessoas que não são geeks de computador, mas que ainda querem entender a inteligência artificial, usá-la com mais confiança e acompanhar o futuro que já está chegando.

Encontrou um erro ou algo que precisa ser corrigido? Informe-nos.