Le gouverneur de Californie oppose son veto à un vaste projet de loi sur la sécurité de l’IA
Le gouverneur de Californie, Gavin Newsom, a opposé son veto au SB 1047, la Safe and Secure Innovation for Frontier Artificial Models Act, arguant dans une lettre aux législateurs qu'il « établit un cadre réglementaire qui pourrait donner au public un faux sentiment de sécurité quant au contrôle de cette évolution rapide ». technologie."
"Je ne pense pas que ce soit la meilleure approche pour protéger le public des menaces réelles posées par la technologie", a-t-il écrit. aurait exigé « qu'un développeur, avant de commencer à former initialement un modèle couvert… se conforme à diverses exigences, y compris la mise en œuvre de la capacité de procéder rapidement à un arrêt complet… et de mettre en œuvre un protocole de sûreté et de sécurité écrit et séparé ».
Cependant, Newsom a noté que 32 des 50 plus grandes entreprises d’IA sont basées en Californie et que le projet de loi se concentrerait uniquement sur les plus grandes entreprises. "Des modèles plus petits et spécialisés peuvent s'avérer tout aussi dangereux, voire plus, que les modèles ciblés par le SB 1047", a-t-il déclaré.
"Bien que bien intentionné, le SB 1047 ne prend pas en compte si un système Al est déployé dans des environnements à haut risque, implique une prise de décision critique ou l'utilisation de données sensibles", a écrit Newsom. "Au lieu de cela, le projet de loi applique des normes strictes même aux fonctions les plus élémentaires, à condition qu'un grand système le déploie."
Le SB 1047 a suscité un débat houleux au sein de l’industrie de l’IA lors de son passage au pouvoir législatif. OpenAI s'est farouchement opposé à la mesure, ce qui a conduit les chercheurs William Saunders et Daniel Kokotajlo à démissionner publiquement en signe de protestation , tandis que le PDG de xAI, Elon Musk, s'est prononcé en faveur du projet de loi . De nombreuses personnes à Hollywood ont également exprimé leur soutien au SB 1047 , notamment JJ Abrams, Jane Fonda, Pedro Pascal, Shonda Rhimes et Mark Hamill.
« Nous ne pouvons pas nous permettre d’attendre qu’une catastrophe majeure se produise avant de prendre des mesures pour protéger la population. La Californie n’abandonnera pas ses responsabilités. Des protocoles de sécurité doivent être adoptés. Des garde-fous proactifs doivent être mis en œuvre, et les conséquences graves pour les mauvais acteurs doivent être claires et applicables », a écrit Newsom. Cependant, « en fin de compte, tout cadre pour
une réglementation efficace de l’aluminium doit suivre le rythme de la technologie elle-même.
L'annonce de lundi intervient moins d'un mois après que le gouverneur a signé les accords AB 2602 et AB 1836, tous deux soutenus par le syndicat SAG-AFTRA . L'AB 2602 exige que les artistes donnent leur consentement éclairé avant d'utiliser leurs « répliques numériques », tandis que l'AB 1836 renforce les protections contre l'usurpation de la voix et de l'image des artistes décédés.