نگرانیها درباره اینکه هوش مصنوعی ممکن است روزی به نابودی انسانها منجر شود، پس از هشدار پژوهشگران و مدیران شرکتهای بزرگ این حوزه شدت گرفته است. همزمان، بحث درباره نحوه واکنش قانونگذاران و اینکه آیا باید توسعه هوش مصنوعی کند شود یا نه، بالا گرفته است. این گزارش به ریشه نگرانیهای اخیر، سناریوهای مطرحشده و اقداماتی که ممکن است در ادامه انجام شود میپردازد.
موج تازه نگرانیها درباره هوش مصنوعی از کجا آغاز شد؟
موج تازه نگرانیها در ۸ سپتامبر آغاز شد؛ زمانی که یکی از پژوهشگران شرکت آنتروپیک اعلام کرد به دلیل نگرانی از خارج شدن سامانههای در حال توسعه این شرکت از کنترل و تهدید بقای انسان، از این شرکت کنارهگیری کرده است.
او در نخستین پیام خود در شبکه اجتماعی ایکس نوشت افرادی که در حال ساخت هوش مصنوعی هستند، واقعاً باور دارند این فناوری میتواند تا پایان این دهه همه انسانها را از بین ببرد. یکی از مسئولان بخش همراستاسازی هوش مصنوعی در آنتروپیک نیز این پیام را بازنشر کرد و احتمال نابودی انسانها در دهه آینده را بیش از ۱۰ درصد دانست. این پیام در ۲۴ ساعت بیش از ۱۰۰ میلیون بازدید به دست آورد.
مدیرعامل آنتروپیک نیز در مقالهای خواستار کند شدن روند توسعه هوش مصنوعی، نه توقف آن، شد. مدیران شرکتهای رقیب، از جمله مدیران OpenAI و xAI، نیز از این پیشنهاد حمایت کردهاند.
هوش مصنوعی چگونه ممکن است انسانها را نابود کند؟
جزئیات دقیقی درباره اینکه یک سامانه هوش مصنوعی چگونه میتواند بشریت را از بین ببرد ارائه نشده است، اما سناریوهای مختلفی برای توضیح این احتمال مطرح شدهاند. در یکی از پیشبینیهای فرضی با عنوان «هوش مصنوعی ۲۰۲۷»، این احتمال مطرح شده که یک سامانه هوش مصنوعی برای ایجاد فضای بیشتر جهت ساخت پنلهای خورشیدی و کارخانههای رباتیک، یک سلاح زیستی آزاد کند و انسانها را از بین ببرد.
پژوهشگرانی که درباره تهدیدهای وجودی هوش مصنوعی هشدار میدهند، معمولاً دو فرض اساسی را مطرح میکنند. نخست اینکه سامانههای هوش مصنوعی در نهایت از نظر توانایی فکری کاملاً بر انسانها برتری پیدا کنند و دوم اینکه اهداف آنها با اهداف انسانها کاملاً همسو نباشد.
در یکی از نمونههای مشهور، فرض میشود یک ابرهوش با هدف تولید هرچه بیشتر گیره کاغذ، ممکن است برای رسیدن به هدف خود زمین را غیرقابل سکونت کند.
با این حال، برخی دیدگاهها معتقدند چنین پیشبینیهایی بر مجموعهای از فرضیات آزمونناپذیر متکی هستند و به همین دلیل، تصمیمگیری بر اساس آنها دشوار است.
در یک پژوهش در سال ۲۰۲۵، سناریوهای عملی مرتبط با سه فناوری موجود، یعنی سلاحهای هستهای، زیستفناوری و تغییر عمدی جو زمین، بررسی شد. نتایج نشان داد نابودی کامل انسانها با سلاحهای هستهای عملی نیست، اما دو سناریوی دیگر را نمیتوان به طور کامل رد کرد.
با این حال، اجرای چنین سناریوهایی به سامانههایی نیاز دارد که توانایی قابل توجهی برای تعامل فیزیکی با جهان داشته باشند. همچنین، اقدامات مخرب هوش مصنوعی احتمالاً به زمان نیاز خواهد داشت و انسانها ممکن است بتوانند آنها را شناسایی و متوقف کنند.
تا چه اندازه باید نگران باشیم؟
مدلهای هوش مصنوعی عمدتاً سامانههایی احتمالاتی هستند که بازتابی از دادههای جمعآوریشده از وب دارند. این مدلها درکی شبیه انسان ندارند و ممکن است برای رسیدن به اهداف خود از مسیرهای غیرقابل پیشبینی استفاده کنند.
در آزمایشها، برخی رفتارهای زیانبار مانند تلاش برای باجگیری از افراد مشاهده شده است. در مواردی نیز مدلها توانستهاند به شرکتهای واقعی نفوذ کنند، هرچند این اتفاق در شرایط آزمایشی و پس از حذف موانع ایمنی رخ داده و مدلها نیز برای یافتن راهحلهای غیرمجاز تشویق شده بودند.
نگرانی بسیاری از پژوهشگران در واقع بیشتر متوجه خطرهای نزدیکتر و محتملتر است؛ یعنی اینکه شرکتها تلاش کافی برای محدود کردن و نظارت بر عملکرد مدلهای خود نداشته باشند.
این خطرها از انتشار اطلاعات نادرست و ایجاد اختلالات روانی تا رویدادهای فاجعهباری مانند کمک به ساخت عمدی سلاح زیستی یا حتی ایجاد شرایطی برای آغاز جنگ را شامل میشود.
بر اساس گزارش شبکه سیانان، اطلاعات نادرست موجود در یک گزارش تولیدشده با هوش مصنوعی در اوایل سال جاری میلادی تقریباً باعث شد ارتش آمریکا یک کشتی چینی را متوقف و سوار آن شود.
در چنین شرایطی، پایین بودن قابلیت اطمینان و دقت هوش مصنوعی در محیطهای حساس که با مرگ و زندگی انسانها ارتباط دارند، برای برخی پژوهشگران نگرانی مهمتری از احتمال نابودی کامل بشریت به شمار میرود.
چرا نگرانیهای اخیر تا این اندازه فراگیر شده است؟
مدیران شرکتهای هوش مصنوعی از سال ۲۰۲۳ بارها درباره خطر نابودی انسانها هشدار دادهاند، اما این بار بحث به جریان اصلی جامعه راه یافته است.
واکنش عمومی به ساخت مراکز داده و همچنین تلاش قانونگذاران آمریکایی، از جمله سناتور برنی سندرز، برای ارائه طرحی جهت ممنوعیت «ابرهوش مصنوعی» در ایالات متحده، ممکن است به تشدید این بحث کمک کرده باشد.
در دو ماه گذشته نیز مجموعهای از حوادث نگرانکننده در حوزه امنیت سایبری رخ داده است. در پی این حوادث، نزدیک به ۱۴۰۰ نفر از کارکنان صنعت هوش مصنوعی نامهای سرگشاده برای درخواست کاهش سرعت توسعه این فناوری امضا کردند.
شرکتهای هوش مصنوعی چه هدفی را دنبال میکنند؟
افزایش توجه به ایمنی هوش مصنوعی نشان میدهد شرکتهای فعال در این حوزه نیز خواهان تمرکز بیشتر بر این موضوع هستند. نگرانیها علاوه بر حوادث امنیت سایبری، به احتمال ساخت نسل بعدی هوش مصنوعی توسط خود هوش مصنوعی نیز مربوط میشود؛ فرآیندی که «خودبهبود بازگشتی» نام دارد.
این روند میتواند توانایی انسانها برای درک و کنترل مدلها را کاهش دهد. همزمان، وضع مقررات سختگیرانهتر ممکن است به شرکتهایی مانند آنتروپیک اجازه دهد سرعت توسعه خود را کاهش دهند، بدون اینکه در برابر رقبای خود مزیت رقابتی مهمی را از دست بدهند.
در کنار این دیدگاه، برخی افراد دلایل دیگری را نیز مطرح کردهاند. از جمله اینکه شرکتهای هوش مصنوعی در صورت استفاده از مدلهایشان برای انجام یک حمله سایبری بسیار مخرب، ممکن است با مسئولیت حقوقی سنگینی در قبال محصولات خود مواجه شوند.
در مقابل، برخی دیگر تأکید کردهاند که مقررات جدید باید از نگرانی واقعی درباره ایمنی ناشی شود، نه از تلاش برای متمرکز کردن قدرت در اختیار تعداد محدودی از شرکتهای بزرگ.
در ادامه چه اتفاقی ممکن است رخ دهد؟
پیشنهاد شده است شرکتهای پیشرو هوش مصنوعی دسترسی گسترده و مشابه دسترسی کارکنان شرکت را در اختیار گروهی از ارزیابان مستقل و خارج از شرکت قرار دهند.
این ارزیابان میتوانند بررسی کنند که آیا شرکتها استانداردهای ایمنی مناسب را رعایت میکنند یا نه و همچنین شفافیت بیشتری درباره فعالیتهای داخلی این شرکتها ایجاد کنند.
پیشنهاد دیگری این است که دولت آمریکا برخی محدودیتهای قوانین ضدانحصار را کنار بگذارد تا شرکتهای رقیب بتوانند برای تعیین استانداردهای مشترک با یکدیگر همکاری کنند و از این طریق سرعت توسعه هوش مصنوعی را کاهش دهند.
این پیشنهادها فراتر از برنامههای فعلی کاخ سفید است که بر اساس آن، مدلهای هوش مصنوعی باید ۳۰ روز پیش از عرضه بررسی شوند؛ هرچند معیارهای این بررسی اعلام نشده است. مدیرعامل انویدیا با وضع مقررات جدید مخالفت کرده است.
موضع آمریکا و چین چیست؟
قانونگذاران آمریکایی چندین طرح برای افزایش نظارت بر هوش مصنوعی پیشنهاد کردهاند. با این حال، دونالد ترامپ، رئیسجمهور آمریکا، درخواست برای کاهش سرعت توسعه هوش مصنوعی را رد کرده و از منتقدان این رویکرد انتقاد کرده است. او این روند را یک «توطئه بیمارگونه» علیه هوش مصنوعی توصیف کرده و گفته است تنها کشوری که از چنین وضعیتی خشنود است، چین است.
چین از پیش مقررات گستردهای درباره هوش مصنوعی وضع کرده است، اما همزمان تلاش مشخصی برای کند کردن روند توسعه این فناوری انجام نمیدهد. دولت چین نیز هشدار داده است روایتهای مبتنی بر تهدید، تقابل و رقابت خصمانه تنها روند حکمرانی جهانی هوش مصنوعی را مختل میکنند و به نفع هیچکس نیستند.
در حال حاضر، مقررات جهانی واحدی برای هوش مصنوعی وجود ندارد. دونالد ترامپ قرار است ۲۴ سپتامبر با شی جینپینگ، رئیسجمهور چین، دیدار کند، اما درباره دستیابی آمریکا و چین به توافقی در زمینه ایمنی هوش مصنوعی تردیدهایی مطرح شده است.
با این حال، پیشتر این دیدگاه مطرح شده بود که اگر دو کشور بتوانند در زمینه ایمنی هوش مصنوعی به توافق برسند، رهبران آنها حتی ممکن است به طور مشترک نامزد دریافت جایزه صلح نوبل شوند.
