10 octobre 2024
Découvrez comment les nouvelles lois californiennes sur l'IA équilibrent l'innovation et la responsabilité, en couvrant la vie privée, les "deepfakes", les soins de santé, l'éducation et la sécurité.
Des voitures autonomes aux soins de santé, les innovations en matière d'intelligence artificielle (IA) et les entreprises technologiques de nouvelle génération commencent à jouer un rôle clé dans la refonte de notre vie quotidienne. Par conséquent, la taille du marché mondial de l'IA était de 196,63 milliards de dollars en 2023 et devrait croître en moyenne de 36 % par an entre 2024 et 2030. Ces chiffres illustrent la rapidité avec laquelle l'IA se développe.
D'une part, le développement rapide de l'IA permet de trouver des solutions à divers problèmes dans différents secteurs. D'autre part, cette rapidité met en lumière la nécessité d'un développement responsable de l'IA afin de s'assurer que les améliorations sont éthiques et bénéfiques pour la société.
Par exemple, en 2016, Microsoft a lancé un chatbot, Tay, sur X (anciennement Twitter). Il a été conçu pour apprendre des conversations avec les utilisateurs. Cependant, peu de temps après son lancement, Tay a commencé à générer des réponses avec un langage non professionnel, car il avait capté une série d'interactions. Bien que Microsoft ait rapidement mis le robot hors ligne, il s'agit d'un bon exemple de l'importance de s'assurer que les données utilisées pour l'apprentissage de l'IA sont fiables et que le public est conscient de la manière dont les entreprises utilisent ces données pour les produits d'IA.
Pour répondre à cette préoccupation, le gouverneur de Californie, Gavin Newsom, a signé plus d'une douzaine de projets de loi relatifs à l'IA en septembre dernier. Ces lois traitent de tous les sujets, de la divulgation des données d'entraînement au traitement des "deepfakes". Dans cet article, nous allons explorer les lois californiennes sur l'IA et ce qu'elles impliquent. C'est parti !
Trois projets de loi importants ont été promulgués afin de soutenir le développement de l'IA en la rendant plus sûre et plus fiable. Le projet de loi de l'Assemblée (AB) 2013, qui entrera en vigueur en 2026, exige des fournisseurs d'IA générative qu'ils publient des détails concernant leurs ensembles de données d'entraînement. Ces informations comprennent les sources des ensembles de données, des détails sur la manière dont les données sont utilisées, le nombre de points de données dans l'ensemble, l'inclusion de données protégées par le droit d'auteur ou sous licence, la période pendant laquelle les données ont été collectées, etc. Le partage de ces informations aidera les entreprises d'IA à gagner la confiance du public.
L'AB 1008 est un autre projet de loi important qui a été signé. Il étend les lois californiennes existantes sur la protection de la vie privée aux solutions d'IA générative. L'AB 1008 a été introduite pour répondre aux préoccupations et améliorer la confiance du public dans la manière dont les systèmes d'IA traitent les informations personnelles. Une enquête a révélé que plus de 81 % des consommateurs craignent que les entreprises d'IA n'utilisent leurs informations d'une manière non prévue. En fixant des limites claires sur la manière dont les entreprises peuvent utiliser et tirer profit des informations personnelles, telles que les noms, les adresses et les données biométriques, cette loi aide les entreprises d'IA à rassurer les utilisateurs sur le fait que leurs données seront traitées de manière responsable, même si elles sont exposées par un système d'IA.
De même, le projet de loi 896 du Sénat, ou loi sur la responsabilité de l'IA générative, exige que l'Office californien des services d'urgence (CalOES) effectue des analyses de risques sur les menaces potentielles posées par les systèmes d'IA générative. Le CalOES travaillera avec des entreprises pionnières en matière d'IA, telles que OpenAI et Anthropic, afin de discuter et d'analyser les menaces potentielles que l'IA fait peser sur les infrastructures essentielles de l'État.
Nous avons déjà exploré comment l 'IA dans l'éducation peut personnaliser les expériences d'apprentissage, redéfinir les pratiques d'enseignement, offrir un retour d'information en temps réel et soutenir les éducateurs avec des outils et des connaissances avancés. En fait, les innovations de l'IA peuvent créer un environnement d'étude plus efficace et plus engageant pour les étudiants. Les éducateurs et les enseignants du monde entier utilisent l'IA de plus en plus régulièrement, avec des projets pilotes réussis et des mises en œuvre plus larges en cours. Des études montrent que plus de 50 % des enseignants estiment que l 'IA dans les salles de classe a eu un impact positif sur le processus d'enseignement et d'apprentissage.
La Californie a introduit deux lois concernant l'utilisation de l'IA dans les établissements d'enseignement. L 'AB 2876 oblige le Conseil de l'éducation de l'État de Californie à prendre en compte l'apprentissage de l'IA (après le 1er janvier 2025) dans ses programmes d'enseignement des mathématiques, des sciences et de l 'histoire et dans son matériel pédagogique. L'objectif de cette loi est de s'assurer que les écoles californiennes enseignent aux élèves les bases du fonctionnement de l'intelligence artificielle, ainsi que les limites, les impacts et les considérations éthiques de l'utilisation de cette technologie.
En outre, le SB 1288 exige des surintendants californiens qu'ils créent des groupes de travail (au plus tard le 1er janvier 2026) pour étudier la manière dont l'IA est utilisée dans les écoles publiques. Ces groupes de travail devront soumettre leurs conclusions et recommandations aux comités politiques et fiscaux compétents de la législature avant le 1er janvier 2027. Une fois le rapport soumis, le groupe de travail sera dissous et les dispositions seront abrogées le 1er janvier 2031.
L'IA générative améliore le secteur des soins de santé en permettant des innovations pour la découverte de nouveaux médicaments, le diagnostic des maladies, la planification des traitements et les chatbots médicaux. Ces applications peuvent offrir des avantages tels que le suivi en temps réel, des conseils et une assistance pour améliorer les résultats des patients. D'autres technologies d'IA, comme la réalité augmentée (RA), peuvent également être utilisées pour planifier et simuler des procédures chirurgicales.
L'intégration de l'IA générative dans les soins de santé s'accompagne de certaines mises en garde liées à la confidentialité des données et aux réglementations. Il est essentiel de donner la priorité à l'exactitude, à la fiabilité et à l'équité des résultats générés par l'IA tout en préservant la confidentialité des informations de santé.
Pour relever ces défis, la Californie a adopté deux lois sur l'utilisation de l'IA générative dans les soins de santé. L 'AB 3030 demande aux prestataires de soins de santé de divulguer lorsqu'ils utilisent l'IA générative pour communiquer avec un patient, en particulier lorsque ces messages contiennent des informations cliniques sur le patient. Le SB 1120 limite la manière dont les prestataires de services de santé et les assureurs maladie peuvent automatiser leurs services. Ces nouvelles lois garantissent également que des médecins agréés supervisent l'utilisation des outils d'IA dans ces contextes.
L'État de Californie a également adopté des lois visant à limiter l'utilisation de l'IA pour diffuser des informations trompeuses ou inexactes. La loi SB 942 exige que les systèmes d'IA générative populaires indiquent clairement dans leurs données sources que le contenu a été créé par l'IA. De nombreuses entreprises spécialisées dans l'IA le font déjà, et plusieurs outils gratuits (ZeroGPT, Winston AI, GLTR, etc.) peuvent aider les gens à lire ces données sources et à détecter les contenus générés par l'IA.
Trois nouvelles lois(AB 1831, SB 926, SB 981) ont été adoptées en Californie pour traiter les problèmes liés aux deepfakes. Ces lois étendent les protections existantes, criminalisent l'utilisation abusive de contenus générés par l'IA et exigent des plateformes de médias sociaux qu'elles créent des canaux de signalement des contenus "deepfake". Ces lois devraient être mises en œuvre d'ici janvier 2025.
L'un des projets de loi adoptés vise à donner une définition correcte de l'IA. Selon l'AB 2885, l'IA est définie comme "un système technique ou mécanique dont le niveau d'autonomie varie et qui peut, pour des objectifs explicites ou implicites, déduire des données qu'il reçoit comment générer des résultats qui peuvent influencer des environnements physiques ou virtuels".
Deux lois intéressantes ont également été mises en place pour l'industrie du divertissement. Le plus grand syndicat américain d'acteurs de cinéma et de télévision (SAG-AFTRA) a joué un rôle crucial dans l'adoption de ces lois. L'AB 2602 exige que les studios de cinéma obtiennent l'autorisation d'un acteur avant d'utiliser l'IA pour créer une réplique de sa voix et de son image. Par ailleurs, l'AB 1836 interdit aux studios de créer des répliques numériques d'acteurs décédés (comme le personnage de Peter Cushing dans Star Wars : Rogue One) sans l'accord de leurs héritiers.
En découvrant chacune de ces lois, vous vous êtes peut-être demandé pourquoi elles étaient vraiment nécessaires. Les réglementations en matière d'IA sont un sujet de discussion populaire depuis un certain temps déjà, mais elles ont pris de l'ampleur avec la montée en puissance du deepfake content, qui a eu un impact sur divers domaines, notamment les médias et la politique. L'utilisation en ligne de contenus générés par l'IA a suscité des inquiétudes quant à la désinformation et à son impact potentiel sur les résultats des élections, par exemple. La protection de la vie privée et l'utilisation abusive des données personnelles par les innovations de l'IA suscitent également de plus en plus d'inquiétudes. Ces questions ont été l'une des raisons pour lesquelles plusieurs nouvelles lois ont été mises en place pour y répondre.
Par exemple, l'AB 2905 oblige les robocalls à indiquer s'il s'agit de voix générées par l'IA. En outre, l 'AB 2655 demande aux grandes plateformes en ligne telles que Facebook et X de supprimer ou d'étiqueter les "deepfakes" liés aux élections et de créer des canaux de signalement pour ce type de contenu. Les candidats et les élus peuvent également demander une injonction si les plateformes ne se conforment pas à la loi.
Une autre loi, AB 2839, vise les utilisateurs de médias sociaux qui publient ou repostent des "deepfakes" susceptibles d'induire les électeurs en erreur. De même, l'AB 2355 stipule des divulgations claires pour les publicités politiques réalisées à l'aide d'outils d'IA.
Les nouvelles lois californiennes sur l'IA témoignent d'un engagement croissant en faveur de l'équilibre entre l'innovation et la responsabilité. En répondant à des préoccupations majeures dans des domaines tels que la transparence des données, la protection de la vie privée, les deepfakes et l'utilisation de l'IA dans les soins de santé et l'éducation, ces lois visent à protéger les individus et la société tout en promouvant un développement responsable de l'IA. Alors que l'IA continue d'évoluer, ces réglementations contribueront à garantir que sa croissance s'accompagne de pratiques éthiques et de la confiance du public. Ces lois pourraient également encourager d'autres régions du monde à faire de même.
Pour en savoir plus, visitez notre dépôt GitHub et participez à la vie de notre communauté. Explorez les applications de l'IA dans la fabrication et l'agriculture sur nos pages de solutions. 🚀
.webp)
