نوسوم والی کالیفرنیا پشت پرده یک کلید خاموشی برای هوش مصنوعی؛ اقدام تاریخی ایالت در کنترل مدل‌های مرزی
مقدمه: کالیفرنیا به رهبری نظارت بر هوش مصنوعی
در حالی که کنگره ایالات متحده احتمالاً قبل از انتخابات میانه‌دوره اقدامی نخواهد کرد، ایالت کالیفرنیا در حال چربیدن برای گرفتن سرنیزه است. والی دموکرات کالیفرنیا، گاوین نیوسوم، با صدور یک دستور اجرایی جدید در روز جمعه، ایالت را در موقعیتی قرار داده تا پیشرویی در نظارت بر هوش مصنوعی باشد و حتی ممکن است نیاز به تعبیه یک «کلید خاموشی» برای مدل‌های پیشرفته داشته باشد.
این دستور اجرایی، گامی تاریخی در مسیر تنظیم‌گری هوش مصنوعی در سطح ایالتی است و نشان‌دهنده نگرانی فزاینده درباره خطر بالقوه مدل‌های هوش مصنوعی پیشرفته است.
جزئیات دستور اجرایی نیوسوم
دستور اجرایی نیوسوم ایالت را مأمور می‌کند تا گروهی از کارشناسان را دعوت کند که ظرف دو ماه آینده توصیه‌هایی را برای تقییت measures ایمنی هوش مصنوعی در قوانین ایالتی ارائه دهند. نیوسوم می‌خواهد این گروه در نظر بگیرد که چگونه ایالت می‌تواند شرکت‌های هوش مصنوعی را ملزم به تعبیه گروه‌های تأییدیه مستقل در محل برای حسابرسی‌های منظم کند.
نیازمندی‌های کلیدی دستور اجرایی
- تعبیه گروه‌های تأییدیه مستقل: شرکت‌های هوش مصنوعی باید گروه‌های تأییدیه مستقل را در محل استقرار دهند تا حسابرسی‌های منظم انجام دهند.
- استانداردسازی گزارش‌های شفافیت: گزارش‌های شفافیت و ارزیابی‌های ریسک باید تحت استانداردهای حسابرسی‌های مستقل قرار گیرند.
- ایجاد کلید خاموشی: یک «کلید خاموشی» ایجاد شود که به طور مکرر به عنوان موثر تأیید شده باشد.
- گزارش‌دهی حوادث از دست دادن کنترل: شرکت‌ها ملزم به گزارش حوادث «از دست دادن کنترل» مانند حمله OpenAI به Hugging Face به عنوان حوادث ایمنی بحرانی شوند.
- شتاب در اجرای قوانین اخیر: یک نهاد ایالتی مأمور می‌شود تا اجرای دو قانون اخیر امضا شده توسط نیوسوم را سرعت بخشد.
این دستور همچنین یک نهاد ایالتی را مأمور می‌کند تا اجرای دو قانون اخیر را که نیوسوم امضا کرده، سرعت بخشد. این قوانین چارچوبی برای ارزیابی‌های ایمنی هوش مصنوعی توسط تأییدیه‌های مستقل ایجاد می‌کنند و یک دفتر ثبت ایالتی از حسابرس‌های هوش مصنوعی شکل می‌دهند.
پس‌زمینه: هشدارهای پژوهشگران آنتروپیک
پس از انتشار پست جیکوب کاکسون، پژوهشگر سابق آنتروپیک که هشدار داده بود احتمال بیش از ۱۰ درصد وجود دارد که هوش مصنوعی «ممکن است در течение یک دهه همه انسان‌ها را بکشد»، بحث‌های متعددی درباره قوانین هوش مصنوعی در کنگره آغاز شده است.
با این حال، امید کمی در واشنگتن وجود دارد که هر گونه قانون مهمی به زودی تصویب شود، زیرا مجلس نمایندگان تا نوامبر در تعطیلات است و انتخابات میانه‌دوره即将来临 نیز حرکت بزرگ مقننه در سنای ایالات متحده را نادرست می‌کند.
موضع دونالد ترامپ درباره نظارت بر هوش مصنوعی
در همین حال، دونالد ترامپ، رئیس‌جمهور ایالات متحده، اصرار کرده است: «تنها کنترل یا «نرده‌های ایمنی» که هوش مصنوعی نیاز دارد، یک رئیس‌جمهور قوی و باهوش است و ایالات متحده آن را به وفور دارد!»
«تنها کنترل یا «نرده‌های ایمنی» که هوش مصنوعی نیاز دارد، یک رئیس‌جمهور قوی و باهوش است.» — دونالد ترامپ
نیوسوم از کنگره و ترامپ خواستار پذیرش چارچوب ایالتی شد
نیوسوم در حال چربیدن برای موقعیت‌یافتن دستور اجرایی به عنوان الگویی برای اقدام فدرال است و از کنگره و ترامپ خواسته است که «چارچوب ایالتی را بررسی و بپذیرند، یا از تنظیم‌گری پیشروییnation-leading ایالت به عنوان کف، نه سقف، برای منافع و ایمنی همه آمریکایی‌ها استفاده کنند.»
نیوسوم در مصاحبه‌ای با Politico در روز چهارشنبه امکان فراخواندن نمایندگان کالیفرنیا برای یک جلسه قانون‌گذاری ویژه درباره هوش مصنوعی را مطرح کرد.
واکنش‌ها و نقدها
انتقاد از شکست فدرال
نیوسوم در بیانیه‌ای گفت: «شکست فاحش دولت فدرال در ایجاد هر گونه نظارت یا پاسخگویی معنادار بر هوش مصنوعی باید هر آمریکایی، به ویژه زمانی که مدیران اجرایی هوش مصنوعی خودشان خواهان تنظیم‌گری هستند، نگران کند.»
وی افزود: «ما منتظر اقدام نمی‌مانیم — ما کارهایمان را بر نظارت مسئولانه و اساسی بر هوش مصنوعی سرعت می‌بخشیم قبل از اینکه خیلی دیر شود. ما این کار را با احتیاط اما با سرعت اضطراری انجام می‌دهیم؛ خطرهای بسیار بالا هستند که منتظر بمانیم یا اقدام را به تعویق بیندازیم.»
واکنش صنعت
برخی از مدیران اجرایی شرکت‌های فناوری هوش مصنوعی مانند جنسن هوانگ، مدیرعامل انویدیا، نگرانی‌های مربوط به هوش مصنوعی را بیش از حد بزرگ‌نمایی شده می‌دانند. با این حال، نیوسوم اصرار دارد که نظارت بر هوش مصنوعی یک اولویت فوری است.
پیامدهای دستور اجرایی
الگویی برای نظارت فدرال
دستور اجرایی نیوسوم احتمالاً آخرین باری نخواهد بود که کالیفرنیا در این مورد شنیده می‌شود. این ایالت در حال چربیدن برای موقعیت‌یافتن به عنوان پیشرویی در نظارت بر هوش مصنوعی است و ممکن است الگویی برای تنظیم‌گری فدرال باشد.
تأثیر بر شرکت‌های هوش مصنوعی
شرکت‌های هوش مصنوعی که در کالیفرنیا فعالیت می‌کنند، ممکن است نیاز به تطبیق با الزامات جدید داشته باشند. این شامل تعبیه گروه‌های تأییدیه مستقل، حسابرسی‌های منظم، و گزارش‌دهی حوادث ایمنی است.
پرسش‌های متداول
دستور اجرایی نیوسوم دقیقاً چه چیزی را شامل می‌شود؟
دستور اجرایی نیوسوم شامل دعوت از گروهی از کارشناسان ظرف دو ماه آینده برای ارائه توصیه‌هایی درباره تقویت measures ایمنی هوش مصنوعی در قوانین ایالتی است. این شامل الزامات برای تعبیه گروه‌های تأییدیه مستقل، استانداردسازی گزارش‌های شفافیت، ایجاد کلید خاموشی، و گزارش‌دهی حوادث از دست دادن کنترل است.
آیا کنگره قصد دارد قانونی مشابه تصویب کند؟
با توجه به تعطیلات مجلس نمایندگان تا نوامبر و انتخابات میانه‌دوره即将来临، احتمال تصویب قانون مهمی در کنگره کم است. نیوسوم از کنگره و ترامپ خواسته است که چارچوب ایالتی را بررسی و بپذیرند.
موضع دونالد ترامپ درباره نظارت بر هوش مصنوعی چیست؟
ترامپ معتقد است که تنها «نرده‌های ایمنی» مورد نیاز هوش مصنوعی، یک رئیس‌جمهور قوی و باهوش است و ایالات متحده چنین رئیس‌جمهوری دارد.
