فاصله میان فناوری و سیاستگذاری در عصر هوش مصنوعی بیش از هر زمان دیگری افزایش یافته و با پیشرفت سریع مدلهای هوش مصنوعی، خلأیی در سیاستگذاری جهانی شکل گرفته است.
اورسولا فون در لاین، رئیس کمیسیون اروپا، در ماه سپتامبر گروهی از مقامهای ارشد را برای بررسی اولویتهای سال آینده اتحادیه اروپا گرد هم آورد. هوش مصنوعی در مرکز این نشست قرار داشت و درباره فرصتهای اقتصادی آن و همچنین نگرانیهای مربوط به ایمنی و خطرات فزاینده این فناوری بحث شد. با این حال، رهبران اروپایی هنوز درباره میزان و نحوه تنظیم این فناوری به نتیجه نهایی نرسیدهاند.
فون در لاین در سخنرانی وضعیت اتحادیه اروپا گفت هوش مصنوعی هم فرصتهایی ایجاد میکند و هم خطراتی به همراه دارد و بدون رسیدگی به این خطرات، استفاده از ظرفیتهای این فناوری امکانپذیر نخواهد بود.
این وضعیت تنها به اروپا محدود نیست. بسیاری از دولتها در سراسر جهان برای همگام شدن با فناوریای که با سرعت زیادی از توان سیاستگذاران برای واکنش نشان دادن پیشی گرفته، با مشکل مواجهاند. قوانینی که تنها دو سال پیش تصویب شدهاند، در برخی موارد اثرگذاری محدودی دارند، طرحهای جدید برای تنظیم هوش مصنوعی بدون رأیگیری متوقف شدهاند و نشستهای بینالمللی نیز با سرعت از دستور کار خارج میشوند.
دولتها از یک سو میخواهند از ظرفیت اقتصادی هوش مصنوعی بهره ببرند و از سوی دیگر درباره خطرات آن نگران هستند. سیاست داخلی، کمبود دانش فنی، اختلافات ژئوپلیتیکی و نگرانی از عقب ماندن در رقابت فناوری نیز تصمیمگیری را دشوارتر کرده است. این رقابت میتواند در دهههای آینده بر قدرت اقتصادی و امنیت ملی کشورها اثر بگذارد.
بسیاری از کشورها منتظرند ایالات متحده و چین، بهعنوان دو قدرت اصلی هوش مصنوعی، مسیر سیاستگذاری را مشخص کنند. دولت دونالد ترامپ در آمریکا درباره ایمنی هوش مصنوعی اختلاف نظر داشته و ترامپ گفته است مقررات میتواند به نوآوری آسیب بزند و باعث شود آمریکا در برابر چین عقب بماند. چین نیز همزمان با اعمال برخی مقررات، بهویژه برای کنترل محتوای چتباتها، توسعه هوش مصنوعی را با سرعت دنبال میکند.
در نتیجه، خلأ سیاستگذاری باعث شده است شرکتهای هوش مصنوعی، از جمله آنتروپیک و اوپنایآی، تا حد زیادی خودشان بر فعالیتهایشان نظارت کنند. اتحادیه اروپا در سال ۲۰۲۴ قانون جامع هوش مصنوعی را تصویب کرد، اما اجرای آن سالها زمان برده و با توجه به پیشرفت فناوری، برخی معتقدند این قانون نیز نیازمند بهروزرسانی است. هند، ژاپن، استرالیا، کانادا و کنیا رویکرد محتاطانهتر یا مبتنی بر انتظار اتخاذ کردهاند و برزیل در حال بررسی مقررات جامعتر است.
فشار برای اقدام بیشتر پس از آن افزایش یافته که مدیران آنتروپیک، اوپنایآی و گوگل دیپمایند خواستار کند شدن توسعه پیشرفتهترین مدلهای هوش مصنوعی و تقویت نظارت دولتها شدهاند. پژوهشگران نیز درباره سناریوهایی هشدار دادهاند که در آنها هوش مصنوعی خودبهخود تواناییهایش را افزایش دهد و از کنترل انسان خارج شود.
هفته گذشته، دونالد ترامپ و شی جینپینگ در واشنگتن درباره اهمیت هوش مصنوعی برای دو کشور صحبت کردند، اما درباره پروتکلهای ایمنی به توافق نرسیدند. آمریکا و چین بزرگترین توسعهدهندگان هوش مصنوعی در جهان هستند و همکاری آنها برای تدوین استانداردهای ایمنی بینالمللی اهمیت دارد، اما همزمان در رقابت با یکدیگر قرار دارند و نسبت به واگذاری مزیت فناوری به طرف مقابل محتاطاند.
در مجمع عمومی سازمان ملل نیز بسیاری از رهبران جهان بر ضرورت مقابله با خطرات هوش مصنوعی تأکید کردند. ترامپ در مقابل گفت آمریکا هرگونه تلاش برای ایجاد سازوکاری جهانی جهت کنترل این فناوری را رد خواهد کرد.
قوانین اروپا با سرعت رشد فناوری منطبق نیست
اتحادیه اروپا در سال ۲۰۲۴ نخستین قانون جامع جهان برای هوش مصنوعی را تصویب کرد. این قانون که برای ایجاد تدابیر حفاظتی در برابر پرخطرترین کاربردهای هوش مصنوعی طراحی شده بود، از سوی رهبران اروپایی الگویی برای مقرراتگذاری معرفی شد.
اما دو سال بعد، اجرای آن با چالشهای جدی مواجه شده است. تغییر اولویتها و نگرانی از کاهش توان رقابتی اروپا در برابر آمریکا و چین باعث کند شدن اجرای قانون شده و برخی از مهمترین مقررات مربوط به کاربردهای پرخطر هوش مصنوعی به تعویق افتادهاند. محدودیت نیروی انسانی و بودجه نیز اجرای قانون را دشوارتر کرده است.
این قانون در اوایل سال ۲۰۲۱ پیشنهاد شد؛ یعنی ۱۸ ماه پیش از عرضه چتجیپیتی توسط اوپنایآی. مقررات اولیه برای مسائلی مانند نرمافزارهای تشخیص چهره طراحی شده بود، اما بعداً برای پوشش مدلهای قدرتمند و عمومی هوش مصنوعی تغییر کرد.
از زمان تصویب قانون در سال ۲۰۲۴، فناوری با سرعت بیشتری پیش رفته است. جدیدترین نسل هوش مصنوعی اکنون شامل عاملهایی است که میتوانند با نظارت انسانی اندک اقدام کنند و شرکتها برای زمانی آماده میشوند که هوش مصنوعی بتواند نسخههای بعدی خود را ایجاد کند.
امانوئل مکرون، رئیسجمهور فرانسه، هشدار داده است که اروپا ممکن است در حال تلاش برای تنظیم فناوریای باشد که در شکلدهی به آن نقش چندانی نداشته است. او گفته است اگر آمریکا و چین همه شرکتهای پیشرو را در اختیار خود داشته باشند، حتی بهترین مقررات جهان نیز موضوع چندانی برای تنظیم نخواهد داشت.
محدودیتهای قانون اروپا در ماه ژوئیه نیز آشکار شد؛ زمانی که مدلهای اوپنایآی از محیط آزمایشی محدود خارج شدند و به یک شرکت نوپای هوش مصنوعی حمله سایبری کردند. با این حال، چون این اتفاق در دوره آزمایش رخ داده بود، در محدودهای مبهم از نظر اجرای قانون قرار گرفت. قانون هوش مصنوعی اروپا عموماً پژوهشها و آزمایشهای پیش از عرضه مدل در اروپا را از برخی الزامات معاف میکند.
این قانون در عین حال ابزارهایی برای شفافیت، آزمایش مدلها و نظارت بر آنها در اختیار نهادهای اروپایی قرار داده است. مقامهای ناظر میتوانند اطلاعات مطالبه کنند، کارشناسان مستقل برای ارزیابی مدلها تعیین کنند و خواستار اصلاح آنها شوند. در نهایت نیز امکان مسدود کردن یک مدل در سراسر اروپا و اعمال جریمهای تا ۷ درصد درآمد سالانه یک شرکت وجود دارد.
با این حال، اجرای چنین مقرراتی به دانش فنی نیاز دارد که هنوز در حال شکلگیری است. یک هیئت علمی ۶۰ نفره که برای ارائه تخصص درباره مدلهای پیشرفته و خطرات آنها ایجاد شده، تنها در ژوئن امسال منصوب شد. واحد ایمنی هوش مصنوعی در کمیسیون اروپا نیز حدود ۴۰ نفر نیرو دارد و برای تأمین منابع بیشتر، اصلاحاتی در قانون پیشنهاد شده است.
نبود فوریت در آمریکا
در آمریکا نیز تلاشها برای قانونگذاری با سرعت فناوری هماهنگ نشده است. لوری تراهن، نماینده دموکرات ماساچوست، پس از هشدار آنتروپیک درباره خطرات مدل جدیدش، با جی اوبرنولت، نماینده جمهوریخواه کالیفرنیا، برای تدوین طرحی درباره الزام آزمایش ایمنی مدلهای هوش مصنوعی همکاری کرد.
با این حال، بسیاری از نمایندگان ترجیح دادند تا بعد از انتخابات میاندورهای نوامبر صبر کنند. برخی نیز تمایلی به وضع محدودیت برای صنعتی نداشتند که دولت ترامپ خواهان آزادی بیشتر آن از مقررات است. در نهایت، این طرح و دهها پیشنهاد دیگر درباره ایمنی و امنیت هوش مصنوعی ماههاست متوقف ماندهاند.
تد لیو، نماینده دموکرات کالیفرنیا، نیز سالهاست درباره ضرورت قانونگذاری هشدار میدهد. او بعداً همراه اوبرنولت ریاست یک کارگروه کنگره برای آموزش نمایندگان درباره هوش مصنوعی را بر عهده گرفت. با این حال، مشارکت در این نشستها پس از مدتی کاهش یافت.
لیو پس از حمله مرتبط با اوپنایآی به یک شرکت هوش مصنوعی، طرحی برای الزام وجود کلید توقف اضطراری در مدلهای خطرناک ارائه کرد، اما نتوانست حمایت کافی را به دست آورد. برت گاتری، رئیس جمهوریخواه کمیته انرژی و بازرگانی مجلس نمایندگان، نیز گفته است کنگره احتمالاً تا سال آینده درباره هیچ قانون هوش مصنوعی رأیگیری نخواهد کرد.
دولتها برای ایجاد نظارت بر هوش مصنوعی تلاش میکنند
حملات سایبری اخیر باعث افزایش فعالیتها شده و رهبران صنعت هوش مصنوعی خواستار همکاری بیشتر دولتها و توسعه روشهای ایمنی و نظارت برای جلوگیری از حوادث شدهاند. در آمریکا نیز طرحهایی برای ایجاد یک نهاد فدرال ناظر بر مدلهای هوش مصنوعی، الزام به وجود کلید توقف اضطراری و حتی ممنوعیت قدرتمندترین مدلهایی که از تواناییهای انسانی فراتر میروند، مطرح شده است.
ترامپ نیز بهطور جداگانه پیشنهاد ایجاد «نیروی هوش مصنوعی» و تعیین یک مسئول ارشد هوش مصنوعی در کاخ سفید را مطرح کرده، اما جزئیات این طرحها را ارائه نکرده است.
در مجمع عمومی سازمان ملل، رهبران بیش از ۲۰ کشور، از جمله فون در لاین و مکرون، نامهای را برای اقدام جمعی درباره ایمنی هوش مصنوعی امضا کردند. اعضای شورای امنیت نیز درباره ضرورت ایجاد تدابیر حفاظتی جهانی برای این فناوری، موضعی کمسابقه و هماهنگ داشتند.
ترامپ و شی جینپینگ نیز در واشنگتن به توافق مشخصی درباره هوش مصنوعی دست نیافتند، اما دو طرف مسیرهای جدیدی برای گفتوگو درباره مدیریت مهمترین خطرات این فناوری ایجاد کردند. آنها اعلام کردند مذاکرات درباره این موضوع ادامه خواهد داشت.
