Comment les gouvernements tentent de contrôler l’IA

Les nouvelles règles de la machine

L’ère du Far West pour l’intelligence artificielle touche à sa fin. Les gouvernements ne se contentent plus d’observer depuis les coulisses. Ils rédigent les manuels qui détermineront comment le code est écrit et où il peut être déployé. Il ne s’agit pas seulement d’éthique ou de principes vagues. Il s’agit de lois strictes et d’amendes massives. L’Union européenne a ouvert la voie avec son AI Act. Les États-Unis ont suivi avec un décret présidentiel de grande envergure. Ces actions changent la donne pour chaque entreprise tech sur la planète. Si vous construisez un modèle qui dépasse un certain seuil de puissance, vous avez désormais une cible dans le dos. Vous devez prouver qu’il est sûr avant qu’il n’atteigne le public. Ce changement marque la transition des engagements de sécurité volontaires vers une surveillance obligatoire. Pour l’utilisateur moyen, cela signifie que les outils que vous utiliserez demain pourraient être différents de ceux d’aujourd’hui. Certaines fonctionnalités pourraient être bloquées dans votre pays. D’autres outils pourraient devenir plus transparents sur la manière dont ils utilisent vos données. L’objectif est d’équilibrer progrès et protection, mais le chemin est semé d’embûches.

De l’éthique à l’application

Pour comprendre les nouvelles règles, il faut examiner les catégories de risque. La plupart des gouvernements abandonnent l’approche unique pour tous. Au lieu de cela, ils classent les systèmes en fonction des dommages potentiels qu’ils pourraient causer. Il s’agit d’un changement opérationnel direct. Les entreprises ne peuvent plus simplement lancer un produit et espérer le meilleur. Elles doivent catégoriser leur technologie avant même qu’elle n’atteigne un utilisateur. Cette classification détermine le niveau de contrôle que le gouvernement appliquera. Elle détermine également le niveau de responsabilité juridique de l’entreprise en cas de problème. L’accent est passé de ce qu’est l’IA à ce que fait l’IA. Si un système prend des décisions concernant des personnes, il est traité avec beaucoup plus de suspicion qu’un système qui génère des images de chats.

Les règles les plus restrictives s’appliquent aux systèmes jugés à risque inacceptable. Ils ne sont pas seulement découragés. Ils sont interdits. Cela crée une frontière claire pour les développeurs. Ils savent exactement quelles lignes ils ne peuvent pas franchir. Pour tout le reste, les règles exigent un nouveau niveau de documentation. Les entreprises doivent conserver des enregistrements détaillés de la manière dont leurs modèles ont été entraînés. Elles doivent également être capables d’expliquer comment le modèle parvient à ses conclusions. C’est un défi technique important car de nombreux modèles modernes sont essentiellement des boîtes noires. Les forcer à être explicables nécessite un changement fondamental dans leur conception. Les règles exigent également que les données utilisées pour l’entraînement soient propres et exemptes de biais. Cela signifie que le processus de collecte de données lui-même est désormais soumis à des audits juridiques. Les catégories suivantes définissent l’approche réglementaire actuelle :

• Systèmes interdits qui utilisent le scoring social ou des techniques trompeuses pour manipuler le comportement.
• Systèmes à haut risque utilisés dans les infrastructures critiques, le recrutement et l’application de la loi qui nécessitent des audits stricts.
• Systèmes à risque limité comme les chatbots qui doivent divulguer qu’ils ne sont pas humains.
• Systèmes à risque minimal comme les jeux vidéo utilisant l’IA qui font face à moins de restrictions.

Cette structure est conçue pour être flexible. À mesure que la technologie change, la liste des applications à haut risque peut s’allonger. Cela maintient la loi pertinente même si le logiciel évolue. Cependant, cela crée également un état d’incertitude permanente pour les entreprises. Elles doivent constamment vérifier si leur nouvelle fonctionnalité est passée dans une catégorie plus réglementée. C’est la nouvelle réalité du développement logiciel dans un monde méfiant envers la puissance de la machine.

Un cadre mondial fragmenté

L’impact de ces règles ne se limite pas aux frontières d’une seule nation. Nous assistons à la montée de l’effet Bruxelles. Lorsque l’UE place la barre haut en matière de régulation tech, les entreprises mondiales adoptent souvent ces normes partout pour simplifier leurs opérations. Il est moins coûteux de construire un produit conforme que de construire dix versions différentes pour différents marchés. Cela donne à l’Europe une influence massive sur la façon dont l’IA est construite dans la Silicon Valley. Vous pouvez en savoir plus sur l’EU AI Act pour voir comment ces normes sont structurées. Aux États-Unis, l’approche est différente mais tout aussi significative. Le gouvernement utilise le Defense Production Act pour contraindre les géants de la tech à partager leurs résultats de tests de sécurité. Cela signale que les États-Unis considèrent l’IA à grande échelle comme une question de sécurité nationale.

Pendant ce temps, la Chine a emprunté une voie plus directe. Leurs réglementations se concentrent sur le contenu produit par l’IA générative. Ils exigent que les résultats s’alignent sur les valeurs sociales et ne minent pas le pouvoir de l’État. Cela crée un monde fragmenté où le même modèle pourrait se comporter différemment selon l’endroit où vous vous connectez. Un modèle à Pékin aura des garde-fous différents de ceux à Paris ou à New York. Cette fragmentation crée un casse-tête pour les développeurs qui doivent désormais travailler à travers un réseau de règles contradictoires. Certains pays veulent plus d’ouverture tandis que d’autres veulent plus de contrôle sur le récit. Pour le public mondial, cela signifie que l’expérience de l’IA devient localisée. Le rêve d’un internet unique et sans frontières s’estompe. À sa place, un environnement réglementé où votre emplacement détermine ce que la machine est autorisée à vous dire. C’est la nouvelle réalité de 2024. C’est un changement qui définira la prochaine décennie de croissance technologique.

La vie quotidienne sous l’œil réglementaire

Imaginez une matinée typique pour une cheffe de projet nommée Sarah. Elle commence sa journée en ouvrant un outil d’IA pour résumer une longue chaîne d’e-mails. Selon les nouvelles réglementations, son logiciel doit lui notifier que le résumé a été généré par un algorithme. Il doit également s’assurer que les données de son entreprise ne sont pas utilisées pour entraîner le modèle public sans son consentement. C’est un résultat direct des nouvelles protections de la vie privée intégrées dans les lois récentes. Plus tard, Sarah postule pour un nouveau poste dans une entreprise tech. L’entreprise utilise un outil de filtrage par IA. Comme il s’agit d’une application à haut risque, l’entreprise a dû auditer l’outil pour détecter les biais. Sarah a le droit légal de demander une explication sur la raison pour laquelle l’IA l’a classée de cette façon. Par le passé, elle aurait reçu un refus générique. Maintenant, elle a une voie vers la transparence. C’est un exemple concret de la façon dont la gouvernance modifie la dynamique de pouvoir entre les entreprises et les individus.

Dans l’après-midi, Sarah se promène dans un centre commercial. Dans certaines villes, la reconnaissance faciale suivrait ses mouvements pour diffuser des publicités ciblées. Selon les règles strictes de l’UE, ce type de surveillance en temps réel est restreint. Le centre commercial doit avoir une raison juridique spécifique pour l’utiliser et Sarah doit en être informée. Les produits qu’elle utilise changent également. Des entreprises comme OpenAI et Google ajustent déjà leurs fonctionnalités pour se conformer aux lois locales. Vous remarquerez peut-être que certains outils de génération d’images sont indisponibles dans votre région ou qu’ils ont des filtres stricts qui les empêchent de créer des visages réalistes de personnalités publiques. Ce n’est pas une limitation technique. C’est une limitation juridique. L’argument en faveur de ces règles semble réel lorsque vous considérez le potentiel des deepfakes à perturber les élections ou des algorithmes biaisés à priver les gens de logement. En mettant en place des garde-fous, les gouvernements tentent de prévenir ces dommages avant qu’ils ne surviennent. C’est l’approche américaine de la sécurité de l’IA en action.

Cependant, Sarah pourrait aussi remarquer que ses outils deviennent plus lents ou plus restreints. Les réponses « Je suis désolé, je ne peux pas faire cela » de l’IA sont souvent le résultat d’un développeur essayant d’éviter une amende massive. La tension entre utilité et sécurité est visible dans chaque interaction. C’est un rappel constant que la machine est surveillée. Cette évolution n’est pas statique. Les règles sont mises à jour à mesure que de nouvelles capacités émergent. L’objectif est de s’assurer que l’IA que Sarah utilise est un outil à son avantage, et non un système qui travaille contre ses intérêts en coulisses. C’est le changement le plus significatif dans notre façon d’interagir avec les ordinateurs depuis l’invention d’Internet.

Les coûts cachés de la conformité

Nous devons poser les questions difficiles sur qui gagne vraiment dans un monde réglementé. Un lourd fardeau réglementaire protège-t-il réellement le public, ou protège-t-il simplement les acteurs en place ? Les grandes entreprises tech ont les ressources pour embaucher des centaines d’avocats et d’ingénieurs pour gérer la conformité. Une petite startup dans un garage ne le peut pas. Nous risquons de créer un monde où seuls les géants peuvent se permettre d’innover. Cela pourrait conduire à moins de concurrence et à des prix plus élevés pour les utilisateurs. Il y a aussi la question de la vie privée par rapport à la sécurité. Lorsque les gouvernements exigent l’accès au fonctionnement interne d’un modèle d’IA, qui protège ces données ? Si un gouvernement peut auditer un modèle pour s’assurer qu’il est sûr, il peut aussi utiliser ce même accès pour surveiller ce que le modèle apprend de ses utilisateurs. C’est un compromis qui est rarement discuté dans les forums publics.

Nous devons également considérer le coût caché de l’innovation. Si chaque nouvelle fonctionnalité doit passer par un long processus d’approbation, passerons-nous à côté de percées qui pourraient sauver des vies en médecine ou résoudre des problèmes climatiques complexes ? La friction de la régulation est un coût réel. Nous devons savoir si la sécurité que nous gagnons vaut le progrès que nous perdons. Il y a aussi la question de l’application. Comment réguler un modèle hébergé sur un réseau décentralisé ou dans un pays qui ignore les normes internationales ? Les règles pourraient ne s’appliquer qu’aux entreprises qui choisissent de les suivre, laissant les acteurs les plus dangereux libres d’opérer sans surveillance. Cela crée un faux sentiment de sécurité. Nous construisons une clôture autour des citoyens respectueux de la loi tandis que la porte reste ouverte pour tous les autres. Ce sont les questions que les régulateurs évitent souvent. Ils se concentrent sur les risques visibles tout en ignorant les risques systémiques. À mesure que nous avançons, nous devons nous assurer que notre désir de sécurité ne nous aveugle pas sur la valeur d’un marché ouvert et compétitif.

Vous avez une histoire, un outil, une tendance ou une question sur l'IA que nous devrions couvrir ? Envoyez-nous votre idée d'article — nous serions ravis de l'entendre.

Le péage technique de la transparence

Pour les power users et les développeurs, les nouvelles réglementations se traduisent par des contraintes techniques spécifiques. L’une des mesures les plus significatives est le seuil de calcul. Le décret américain fixe une barre à 10 puissance 26 opérations en virgule flottante. Tout modèle entraîné avec plus de puissance que cela doit être signalé au gouvernement. Cela force les développeurs à tenir des journaux détaillés de leur utilisation matérielle et de leurs cycles d’entraînement. Les limites d’API deviennent également un outil de régulation. Pour empêcher la génération massive de désinformation, certaines régions envisagent des limites sur le nombre de requêtes qu’un seul utilisateur peut faire à un modèle génératif. Cela affecte la façon dont les développeurs construisent des applications qui reposent sur ces modèles. Ils doivent maintenant tenir compte de ces limites dans leur code et leurs modèles commerciaux. Le stockage local est un autre facteur majeur. Les lois exigent souvent que les données sur les citoyens restent dans certaines limites géographiques. Cela signifie que les entreprises ne peuvent pas simplement utiliser un cloud central pour traiter les données de partout. Elles doivent construire et maintenir des centres de données locaux. Les exigences techniques incluent :

• Filigrane obligatoire au niveau de l’API pour identifier le contenu généré par IA.
• Exigences de résidence des données qui forcent le traitement et le stockage locaux.
• Journalisation du calcul pour tout entraînement de modèle dépassant le seuil de 10 puissance 26 flops.
• Couches d’explicabilité qui permettent un audit humain des poids du modèle et des chemins de décision.

Les flux de travail d’intégration changent également. Les développeurs doivent maintenant intégrer des contrôles de sécurité à chaque étape du pipeline. Si vous construisez un outil qui utilise une API tierce, vous êtes désormais responsable de la façon dont cette API gère les données. Vous devez vous assurer que votre intégration ne contourne pas les filtres de sécurité définis par le fournisseur. La section geek de la loi est là où les vraies batailles sont menées. Il s’agit de latence, de résidence des données et des mathématiques des poids des modèles. Ce sont les détails qui déterminent si un produit est viable ou s’il sera enterré sous le poids de ses propres exigences de conformité. Vous pouvez trouver plus de détails sur ces changements techniques dans les derniers rapports d’actualité concernant la politique technologique. Pour ceux qui veulent garder une longueur d’avance sur ces changements, suivre les derniers développements en matière de régulation de l’IA est essentiel. La complexité de ces règles signifie que le rôle du développeur devient autant une question de droit que de code.

Le code inachevé

La tentative de contrôler l’IA est un travail en cours. Nous passons d’une période de liberté totale à une période de croissance gérée. Les règles écrites aujourd’hui façonneront la technologie de la prochaine décennie. Cependant, la vitesse du logiciel dépasse toujours la vitesse de la législation. Au moment où une loi est votée, la technologie est souvent passée à autre chose. Cela nous laisse avec une question ouverte qui fera évoluer ce sujet : un processus démocratique peut-il jamais être assez rapide pour réguler une intelligence qui se réécrit elle-même ? Pour l’instant, l’accent est mis sur la transparence et la responsabilité. Nous essayons de nous assurer que les humains restent aux commandes des machines qu’ils ont construites. Reste à savoir si ces règles rendront l’IA plus sûre ou simplement plus compliquée. La seule certitude est que l’ère de l’algorithme non réglementé est terminée. C’est la réalité de 2024 et au-delà.

Note de l’éditeur : Nous avons créé ce site comme un centre multilingue d’actualités et de guides sur l’IA pour les personnes qui ne sont pas des experts en informatique, mais qui souhaitent tout de même comprendre l’intelligence artificielle, l’utiliser avec plus de confiance et suivre l’avenir qui est déjà en marche.

Vous avez trouvé une erreur ou quelque chose qui doit être corrigé ? Faites-le nous savoir.