O novo manual global para a IA está a ganhar forma

O fim da inovação sem permissão

A era do Velho Oeste na inteligência artificial está a chegar ao fim. Durante anos, os programadores criaram modelos com pouca supervisão e ainda menos responsabilidade. Agora, um novo manual global está a surgir para substituir essa liberdade por uma estrutura rígida de conformidade e segurança. Não se trata apenas de um conjunto de sugestões ou diretrizes voluntárias. É uma série de leis rigorosas apoiadas por multas pesadas e pela ameaça de exclusão do mercado. A União Europeia lidera o movimento com o seu abrangente AI Act, enquanto os Estados Unidos avançam com ordens executivas que visam os modelos mais poderosos. Estas regras vão mudar a forma como o código é escrito e como os dados são recolhidos. Vão mudar quem pode competir neste campo de apostas elevadas. Se construir um modelo que prevê o comportamento humano, está agora sob uma lupa. Esta mudança desloca o foco da indústria da velocidade para a segurança. As empresas devem agora provar que os seus sistemas não são tendenciosos antes de os lançarem. Esta é a nova realidade para todas as empresas de tecnologia do planeta.

Categorizar o risco no código

O cerne das novas regras é uma abordagem baseada no risco. Isto significa que a lei trata um motor de recomendação de música de forma diferente de uma ferramenta de diagnóstico médico ou de um carro autónomo. A União Europeia estabeleceu o padrão de ouro para este tipo de regulamentação. Dividem a IA em quatro categorias distintas com base no potencial de dano que podem causar à sociedade. Os sistemas proibidos são aqueles que causam danos claros e são totalmente banidos. Isto inclui sistemas de pontuação social, como os utilizados por estados autoritários para monitorizar e classificar os cidadãos. Inclui também a identificação biométrica em tempo real em espaços públicos pelas autoridades, com pouquíssimas exceções para a segurança nacional. Os sistemas de alto risco são aqueles que terão maior escrutínio por parte dos reguladores. São utilizados em infraestruturas críticas, educação e emprego. Se uma IA decide quem consegue um emprego ou quem se qualifica para um empréstimo, deve ser transparente. Deve ter supervisão humana e elevados níveis de precisão. Os sistemas de risco limitado, como os chatbots, têm menos regras, mas ainda exigem transparência. Só precisam de informar o utilizador de que está a falar com uma máquina. Os sistemas de risco mínimo, como videojogos com inimigos de IA, são, na sua maioria, deixados em paz. Este quadro foi concebido para proteger direitos sem travar todo o progresso. No entanto, as definições destas categorias ainda estão a ser debatidas em tribunais e salas de reuniões. O que uma pessoa chama de simples recomendação, outra pode chamar de manipulação psicológica. As regras tentam traçar uma linha na areia, mas a areia está em constante mudança à medida que a tecnologia evolui.

O Parlamento Europeu detalhou estas categorias nas suas últimas notas informativas sobre o EU AI Act. Este documento serve de base para a forma como o resto do mundo pensa sobre a governação da IA. Afasta a conversa de medos abstratos e aproxima-a de requisitos operacionais concretos que as empresas devem cumprir para se manterem em atividade.

A corrida global pela normalização

Estas regras não ficam pela Europa. Estamos a assistir ao surgimento do Brussels Effect em tempo real. Isto acontece quando um grande mercado estabelece regras que todos os outros devem seguir para se manterem relevantes. Uma empresa global não construirá um modelo para Paris e outro diferente para Nova Iorque se o custo de o fazer for demasiado elevado. Simplesmente construirão de acordo com o padrão mais rigoroso disponível. É por isso que o quadro da UE se está a tornar um modelo global. Outras nações estão a observar atentamente e a redigir as suas próprias versões. O Brasil e o Canadá já estão a trabalhar em leis semelhantes que espelham a abordagem europeia. Até os Estados Unidos, que normalmente preferem um toque mais leve para encorajar a inovação, estão a caminhar para um maior controlo. A Casa Branca emitiu uma ordem executiva que exige que os programadores de modelos poderosos partilhem os seus resultados de testes de segurança com o governo. Isto cria um mundo de regulamentação fragmentado, mas convergente. As empresas têm agora de contratar equipas de advogados apenas para ler os novos requisitos. Pequenas startups em mercados emergentes podem achar estas regras impossíveis de seguir. Isto pode levar a um mundo onde apenas as maiores gigantes tecnológicas têm os recursos para se manterem em conformidade. É um jogo de apostas elevadas onde as regras estão a ser escritas enquanto os carros já circulam a toda a velocidade. A Ordem Executiva dos EUA sobre a segurança da IA é um sinal claro de que a era da autorregulação terminou. Mesmo num clima político dividido, a necessidade de algum nível de supervisão tornou-se um raro ponto de acordo entre os líderes mundiais.

Tem uma história, ferramenta, tendência ou pergunta sobre IA que acha que deveríamos cobrir? Envie-nos a sua ideia de artigo — gostaríamos muito de a ouvir.

Um dia no escritório em conformidade

Imagine um gestor de produto chamado Alex. O Alex trabalha numa startup que cria ferramentas de IA para recursos humanos. Antes das novas regras, o Alex lançava uma atualização todas as sextas-feiras à tarde. Agora, o processo é muito mais lento e deliberado. Cada nova funcionalidade deve passar por uma rigorosa avaliação de risco antes de uma única linha de código ser implementada. O Alex tem de documentar os dados de treino e mostrar que não discriminam grupos protegidos. Tem de manter registos detalhados de como o modelo toma decisões. Isto acrescenta semanas ao ciclo de desenvolvimento. Numa terça-feira típica, o Alex não está a programar ou a fazer brainstorming de novas funcionalidades. Está em reuniões com um responsável de conformidade para rever os cartões de modelo. Estão a verificar se os registos da API cumprem os novos padrões de transparência e retenção de dados. Esta é a fricção que a segurança cria. Para o utilizador, isto pode significar um lançamento mais lento de novas funcionalidades. Mas também significa uma menor probabilidade de ser injustamente rejeitado para um emprego por um algoritmo de caixa negra. As pessoas sobrestimam frequentemente o quanto estas regras irão travar a inovação. Pensam que a indústria irá parar. Na realidade, apenas mudará de forma. As pessoas também subestimam a complexidade destas leis. Não se trata apenas de evitar preconceitos. Trata-se de soberania de dados e consumo de energia. As contradições estão em toda parte. Queremos que a IA seja rápida e poderosa, mas também queremos que seja lenta e cuidadosa. Queremos que seja aberta e transparente, mas também queremos proteger os segredos comerciais das empresas que a constroem. Estas tensões não estão a ser resolvidas: estão a ser geridas. O novo manual é uma tentativa de viver com estas contradições. O Alex tem de lidar com várias tarefas específicas todas as semanas:

• Rever a proveniência dos dados para garantir que todos os conjuntos de treino são obtidos legalmente.
• Executar scripts de deteção de preconceitos em cada nova iteração do modelo.
• Documentar os recursos computacionais utilizados para treinar modelos grandes.
• Atualizar a interface do utilizador para incluir divulgações obrigatórias de IA.
• Gerir auditorias de terceiros aos protocolos de segurança da empresa.

Ao fim do dia, o Alex sente o peso destas novas regras. Ele sabe que são importantes para a justiça. Mas também sabe que os seus concorrentes em países com menos regras estão a avançar mais rapidamente. Ele pergunta-se se a sua startup consegue sobreviver ao custo de ser ética. Esta é a realidade para milhares de programadores. A fricção é real e veio para ficar. Para mais informações sobre como estas mudanças afetam a indústria, consulte a nossa mais recente análise de política de IA.

Perguntas difíceis para os novos reguladores

Quem beneficia realmente destas regras? É o público ou são as gigantes tecnológicas incumbentes que podem pagar as taxas legais? Se uma startup tem de gastar metade da sua ronda de investimento inicial em conformidade, isso mata efetivamente a concorrência? Devemos também perguntar sobre os custos ocultos da privacidade. Se cada modelo tem de ser auditado, quem faz a auditoria? Confiamos numa agência governamental para ter acesso ao funcionamento interno de cada grande IA? Há também a questão da desigualdade global. Se o Ocidente define as regras, o que acontece ao Sul Global? Serão forçados a adotar padrões que não se adequam às suas necessidades locais? Dizem-nos que estas regras nos tornam mais seguros, mas será verdade? Ou criam apenas uma falsa sensação de segurança enquanto os riscos reais se movem para partes não regulamentadas da dark web? Devemos perguntar se uma lei escrita hoje pode acompanhar uma tecnologia que muda todos os meses. O desfasamento entre o código e a lei é uma lacuna onde muitas coisas podem correr mal. O Órgão Consultivo de IA das Nações Unidas está a tentar resolver estas lacunas globais, mas o consenso é difícil de encontrar. As contradições permanecem visíveis. Queremos proteção, mas tememos o excesso. Queremos inovação, mas tememos as consequências de um sistema que não compreendemos totalmente. Estas perguntas não têm respostas fáceis, e as leis atuais são apenas a primeira tentativa de as encontrar.

A arquitetura técnica da conformidade

Para os utilizadores avançados e programadores, as regras tornam-se muito específicas. A ordem executiva dos EUA foca-se no poder computacional como um proxy para o risco. Se um modelo for treinado utilizando mais de 10^26 operações de vírgula flutuante, desencadeia um requisito de relatório obrigatório. Esta é uma quantidade massiva de computação, mas à medida que o hardware melhora, mais modelos atingirão este limite. Os programadores também devem preocupar-se com a proveniência dos dados. Já não se pode simplesmente raspar a internet e esperar o melhor. É preciso provar que se tem o direito de usar os dados. Existem também novos padrões para red-teaming. É aqui que contrata pessoas para tentar quebrar a sua IA. Os resultados destes testes devem agora ser documentados e partilhados com os reguladores em certas jurisdições. Os fornecedores de API também enfrentam novos limites. Podem ser obrigados a verificar a identidade dos seus clientes para evitar que a IA de dupla utilização caia em mãos erradas. O armazenamento local de modelos é outra área de preocupação. Se um modelo for pequeno o suficiente para correr num portátil, como se aplicam estas regras? A resposta é muitas vezes através de restrições ao nível do hardware ou marca d’água obrigatória de conteúdo gerado por IA. Estes obstáculos técnicos são a nova base para qualquer pessoa que trabalhe na área. Deve agora considerar os seguintes requisitos técnicos:

• Implementar registos robustos para todas as sessões de treino de modelos.
• Desenvolver ferramentas automatizadas para marca d’água de saídas de texto e imagem.
• Configurar ambientes seguros para auditorias de modelos de terceiros.
• Garantir que os limites de taxa da API não contornam os filtros de segurança.
• Manter registos detalhados de todas as intervenções humanas no ciclo.

Estes requisitos mudam o fluxo de trabalho de um programador. Já não se trata apenas de otimizar para precisão ou velocidade. Trata-se de construir um sistema que seja auditável desde o início. Isto significa mais tempo gasto em infraestrutura e menos tempo no algoritmo central. Significa também que o armazenamento local e os modelos offline enfrentarão uma pressão crescente para incluir estas mesmas funcionalidades de segurança, o que poderá afetar o desempenho em dispositivos edge.

O quadro inacabado

A conclusão é que a era de avançar rapidamente e quebrar coisas terminou para a inteligência artificial. Estamos a entrar numa era de avançar com cuidado e documentar tudo. As regras ainda estão a ser escritas e estão longe de ser perfeitas. São um compromisso confuso entre segurança, lucro e segurança nacional. Uma questão importante permanece em aberto: pode uma lei centralizada controlar verdadeiramente uma tecnologia descentralizada? À medida que os modelos de código aberto continuam a melhorar, a lacuna entre o que é regulamentado e o que é possível irá aumentar. Este não é o fim da história. É apenas o fim do começo. O manual está a começar a ganhar forma, mas a tinta ainda está fresca. Veremos como estas leis são aplicadas e como a indústria se adapta nos próximos meses. A única certeza é que a forma como construímos e usamos a IA nunca mais será a mesma.

Nota do editor: Criamos este site como um centro de notícias e guias de IA multilíngue para pessoas que não são geeks de computador, mas que ainda querem entender a inteligência artificial, usá-la com mais confiança e acompanhar o futuro que já está chegando.