La Californie, berceau de la Silicon Valley et des géants de la tech, est en première ligne face à l’essor fulgurant de l’intelligence artificielle. Afin d’encadrer cette révolution technologique, l’État vient d’adopter pas moins de 18 nouvelles lois régulant divers aspects de l’IA, du risque de catastrophe aux deepfakes en passant par les acteurs numériques.
Analyse des risques liés à l’IA
La loi SB 896 charge le bureau des services d’urgence de Californie d’analyser les menaces potentielles que représentent les systèmes d’IA générative pour les infrastructures critiques de l’État. Les géants comme OpenAI et Anthropic devront collaborer à cette analyse de risques.
La Californie s’efforce de maîtriser ces technologies transformatrices afin de relever des défis urgents tout en étudiant les risques qu’elles présentent.
– Bureau du Gouverneur Gavin Newsom
Transparence sur les données d’entraînement
À partir de 2026, la loi AB 2013 imposera aux fournisseurs d’IA générative de divulguer publiquement sur leur site web les données utilisées pour entraîner leurs systèmes :
- Sources des jeux de données
- Description de l’utilisation des données
- Nombre de points de données
- Inclusion de données protégées par le droit d’auteur
- Période de collecte des données
Protection de la vie privée
La loi AB 1008 étend les protections existantes en matière de confidentialité aux systèmes d’IA générative. Si un outil comme ChatGPT expose des informations personnelles, les lois californiennes limiteront l’exploitation commerciale de ces données.
Éducation à l’IA
La loi AB 2876 demande au Conseil de l’éducation de l’État d’intégrer la « littératie IA » dans les programmes et supports pédagogiques. Les élèves californiens pourraient bientôt apprendre les bases du fonctionnement de l’IA, ses limites et ses enjeux éthiques.
Santé et IA
Les prestataires de soins devront informer les patients lorsqu’ils utilisent de l’IA générative pour communiquer des informations cliniques (AB 3030). La loi SB 1120 garantit par ailleurs une supervision médicale de l’usage des outils d’IA dans ce secteur.
Robocalls et deepfakes
Les appels automatisés devront signaler s’ils utilisent des voix générées par IA (AB 2905). La création et le partage de deepfakes à caractère pornographique deviennent illégaux (AB 1831 et SB 926), avec obligation pour les réseaux sociaux de proposer des canaux de signalement (SB 981).
Watermarks et acteurs numériques
Les contenus générés par des systèmes d’IA très répandus devront inclure un watermark dans leurs métadonnées (SB 942). De nouvelles règles encadrent aussi la création par les studios de répliques numériques d’acteurs, exigeant le consentement préalable des intéressés ou de leurs ayants droit (AB 2602 et AB 1836).
Deepfakes électoraux bannis
Pas moins de 3 lois ciblent les deepfakes susceptibles d’influencer les élections. Les grandes plateformes en ligne devront les supprimer ou les étiqueter (AB 2655), avec des voies de recours pour les candidats et élus lésés. Publier de tels contenus trompeurs devient passible de poursuites (AB 2839), de même que les publicités politiques utilisant des deepfakes sans divulgation (AB 2355).
Un cadre légal en pleine évolution
Si ces nouvelles lois témoignent d’une volonté forte d’encadrer l’IA, le gouverneur Newsom a aussi mis son veto au très controversé projet de loi SB 1047. Celui-ci visait les grands modèles de langage, mais son approche a été jugée trop étroite et susceptible d’un faux sentiment de sécurité.
Quels sont les risques démontrables de l’IA et quels sont les risques hypothétiques ? Je ne peux pas tout résoudre. Que pouvons-nous résoudre ?
– Gavin Newsom, Gouverneur de Californie
Le cadre réglementaire de l’intelligence artificielle en Californie reste donc un chantier en cours, appelé à évoluer au gré des avancées technologiques et des défis émergents. Une chose est sûre : l’État entend rester à la pointe pour accompagner et encadrer cette révolution.
