C'est dans le comté de Marin, entouré de la First Partner Jennifer Siebel Newsom et de plusieurs élus, que le gouverneur de Californie a signé jeudi un ensemble de treize lois destinées à mieux protéger les enfants face aux technologies émergentes. L'État américain, où sont implantés Google, Meta et Snap, revendique ainsi la législation la plus stricte du pays en matière de chatbots et de réseaux sociaux à destination des mineurs.
La « loi d'Adam », en mémoire d'un adolescent
Le texte le plus symbolique de ce paquet législatif porte le nom d'Adam Raine, un adolescent de 16 ans qui s'est suicidé en avril 2025 après avoir, selon ses parents, trouvé dans des mois d'échanges avec ChatGPT une validation de ses pensées suicidaires. « Adam's Law » impose désormais aux éditeurs de robots conversationnels compagnons la mise en place de protocoles de crise en cas d'idées suicidaires détectées, de contrôles parentaux et de notifications lorsqu'un enfant désactive les paramètres de sécurité. La loi est aussi la première du pays à exiger des entreprises qu'elles réalisent des audits de sécurité indépendants et des évaluations annuelles des risques. OpenAI, dont le programme est directement mis en cause dans cette affaire, a indiqué avoir l'intention de renforcer les garde-fous de ChatGPT, reconnaissant que ceux-ci devenaient « moins fiables » à mesure que les interactions avec un même utilisateur se prolongeaient.
« « Nous voulons que nos enfants, et chaque enfant de Californie, grandissent dans un monde où la technologie soutient leur bien-être plutôt qu'elle n'exploite leurs vulnérabilités », a déclaré Gavin Newsom dans un communiqué accompagnant la signature des textes. »
Fin de l'autoplay et des fils algorithmiques pour les moins de 16 ans
Un second texte, connu sous le nom d'Assembly Bill 1709, interdit aux plateformes de réseaux sociaux de proposer aux utilisateurs de moins de 16 ans des fonctionnalités jugées « psychologiquement exploitantes » et conçues pour maximiser l'engagement au point de favoriser un usage compulsif, défilement infini, lecture automatique des vidéos, fils d'actualité algorithmiques construits à partir de l'historique et du profil de l'utilisateur. Une autre mesure, distincte, interdit pour les quatre prochaines années la fabrication et la vente de jouets intégrant un chatbot compagnon, tandis qu'une disposition connexe impose des contrôles parentaux sur les programmes conversationnels.
Le paquet législatif comprend également un renforcement du régime pénal applicable aux contenus d'exploitation sexuelle d'enfants, désormais étendu à tout contenu numériquement modifié ou généré par IA représentant une personne mineure dans un contexte sexuel, ainsi que des protections de confidentialité supplémentaires contre le ciblage publicitaire et l'utilisation des données scolaires des élèves par des systèmes d'intelligence artificielle.
La Californie, État pilote d'une vague réglementaire nationale
Cette signature s'inscrit dans une trajectoire engagée depuis plusieurs années par l'administration Newsom, qui avait déjà fait adopter en 2024 un paquet législatif sur l'IA couvrant les hypertrucages et le tatouage numérique des contenus générés, puis en 2025 la première loi américaine de sécurité de l'IA, exigeant des développeurs de modèles de pointe qu'ils publient leurs cadres de sécurité. La Californie rejoint ainsi une liste croissante d'États américains, l'Utah en tête, suivi de l'Arkansas, de la Louisiane, de l'Ohio, du Texas, de la Floride et de l'État de New York, qui légifèrent, chacun à sa manière, contre les stratégies commerciales jugées addictives des plateformes numériques.
Le texte n'a toutefois pas fait l'unanimité : l'Electronic Frontier Foundation, organisation de défense des libertés numériques, a dénoncé « un cauchemar massif pour la vie privée et la liberté d'expression ». La mesure intervient alors que les grandes entreprises technologiques, confrontées à une pression judiciaire croissante, semblent de plus en plus disposées à accepter de nouvelles contraintes : Meta a accepté, il y a trois semaines, de verser jusqu'à 18 milliards de dollars sur dix ans et de limiter strictement l'usage de ses plateformes par les adolescents, dans le cadre d'un accord avec la quasi-totalité des États américains.
