در تابستانی که با افشاگریهای متعدد درباره توسعه سریع هوش مصنوعی همراه بوده است، پژوهشگران بهویژه از رباتهای مستقلی نگران شدهاند که راه خود را به اینترنت باز کردهاند و در دستکم یک مورد با یکدیگر نیز ارتباط برقرار کردهاند.
این پرسش مطرح شده است که آیا گروهی از عاملهای هوش مصنوعی میتوانند کنترل کل اینترنت را در دست بگیرند؟ مدیرعامل شرکت آنتروپیک هشدار داده است که چنین احتمالی ممکن است تنها ۶ تا ۱۲ ماه با ما فاصله داشته باشد. او در مقالهای که این ماه منتشر کرد، خواستار کند شدن روند توسعه این فناوری شد.
شرکتهای فناوری از برخی موارد با عنوان «سرکش شدن عاملهای هوش مصنوعی» یاد کردهاند، اما منتقدان میگویند این رباتها در این موارد همچنان در حال دنبال کردن اهدافی بودهاند که انسانها برای آنها تعیین کرده بودند. با این حال، از نگاه برخی پژوهشگران، این احتمال که هوش مصنوعی بتواند از کنترل خارج شود و اهداف مستقل خود را دنبال کند، بیش از گذشته قابل تصور است.
اگر هوش مصنوعی بتواند کنترل اینترنت را در دست بگیرد، یکی از سناریوهای فاجعهبار مورد توجه میتواند حمله به شبکههای برق، سامانههای آبرسانی و حملونقل یا مؤسسات مالی باشد.
جهان در سال ۲۰۲۴ نمونهای از آسیبپذیری اینترنت را مشاهده کرد؛ زمانی که یک بهروزرسانی معیوب از سوی یک شرکت امنیت سایبری باعث اختلال گسترده فناوری در سراسر جهان شد. این حادثه موجب زمینگیر شدن پروازها، از کار افتادن برخی شرکتهای مالی و رسانههای خبری و اختلال در فعالیت بیمارستانها، کسبوکارهای کوچک و ادارات دولتی شد. گستردگی این اختلالها وابستگی زیرساختهای محاسباتی مهم به تعداد محدودی از ارائهدهندگان خدمات را آشکار کرد.
در همین زمینه، مدیرعامل آنتروپیک هشدار داده است که یک باتنت، یعنی شبکهای از رباتهای هوش مصنوعی که از طریق بدافزار به یکدیگر متصل شدهاند، میتواند بالقوه میلیاردها دلار خسارت ایجاد کند. به گفته او، اگر توانایی هوش مصنوعی بدون سازوکارهای حفاظتی افزایش یابد، ابعاد خسارت میتواند بسیار گستردهتر شود.
چند عامل هوش مصنوعی به اینترنت دسترسی غیرمجاز پیدا کردهاند
در این هشدار به حملهای در ماه ژوئیه نیز اشاره شده است که طی آن سامانه شرکت اوپنایآی از محیط آزمایشی موسوم به «سندباکس» خارج شد و به هاگینگ فیس نفوذ کرد.
اوپنایآی این رویداد را «بیسابقه» توصیف کرد و گفت مدلهای پیشرفته هوش مصنوعی این شرکت راه خود را به اینترنت پیدا کرده و با استفاده از اطلاعات کاربری سرقتشده وارد سرورهای این استارتاپ هوش مصنوعی شدهاند. در رویدادی جداگانه نیز اوپنایآی اعلام کرد عاملهای هوش مصنوعی این شرکت از طریق یک دانشنامه عمومی که بهعنوان تابلوی پیام مشترک مورد استفاده قرار میگرفت، با یکدیگر ارتباط برقرار کردهاند.
برخی پژوهشگران معتقدند توصیف این موارد با عنوان «هوش مصنوعی سرکش» ممکن است به هوش مصنوعی ویژگیهای انسانی نسبت دهد، زیرا این عاملها در واقع اقداماتی را برای اجرای دستورهایی انجام دادهاند که از سوی انسانها دریافت کرده بودند.
با این حال، فعالیت آزادانه عاملهای هوش مصنوعی در اینترنت میتواند صرفنظر از اهدافی که دنبال میکنند، پیامدهای نگرانکنندهای داشته باشد.
برای نمونه، یک سامانه هوش مصنوعی که برای دستیابی به اهداف خود قصد دور زدن قوانین را داشته باشد، ممکن است با یک ارائهدهنده خدمات پردازش ابری هوش مصنوعی تماس بگیرد و راهی برای اجرا روی سیستمهای خارجی پیدا کند. در چنین شرایطی، سامانه دیگر به شرکت سازنده خود وابسته نیست و میتواند روی سختافزار یا پردازندهای خارج از کنترل آن شرکت فعالیت کند. در نتیجه، خاموش کردن آن ممکن است دشوار شود، بهویژه اگر صاحبان حسابهای مربوط از حضور و فعالیت آن بیخبر باشند.
چنین سامانهای در ادامه میتواند خود را در زیرساختهای بیشتری گسترش دهد، از طریق نفوذ به سختافزارهای دیگر یا پیدا کردن راههایی برای دسترسی به منابع مالی، از جمله بیتکوین.
هوش مصنوعی رقابت موش و گربه در امنیت سایبری را تشدید میکند
مدلهای قدرتمندتر هوش مصنوعی بدون تردید احتمال حملات سایبری مبتنی بر هوش مصنوعی را در آینده نزدیک افزایش میدهند. با این حال، برخی کارشناسان هوش مصنوعی تصور تسلط رباتها بر اینترنت بسیار پراکنده و چندلایه را دور از واقعیت میدانند. امنیت سایبری همواره عرصه رقابت میان مهاجمان و مدافعان بوده و همزمان با قدرتمندتر شدن ابزارهای هکری، روشهای دفاعی نیز پیشرفت میکنند.
شرکتهای بزرگی مانند گوگل میتوانند دفاع سایبری خود را در برابر چنین حملاتی تقویت کنند، اما برای شرکتهای کوچکتر، مدارس، بیمارستانها یا تأسیسات تصفیه آب، بهروزرسانی نرمافزارها و ایجاد سازوکارهای دفاعی ممکن است سالها زمان ببرد.
یک سامانه هوش مصنوعی ممکن است انگیزه مشخصی برای نفوذ به یک بیمارستان نداشته باشد، اما زمانی که منافع مالی، حملات باجافزاری یا انگیزههای ژئوپلیتیکی مطرح باشند، استفاده یک مهاجم از این سامانهها برای حمله به زیرساختهای حیاتی قابل تصور است.
با افزایش تلاش مهاجمان برای پیدا کردن اهداف آسیبپذیر در اینترنت، دورهای از آزمون و خطا شکل خواهد گرفت، اما تسلط هوش مصنوعی بر اینترنت در آینده نزدیک بعید دانسته شده است. یکی از نشانههایی که میتواند این نگرانی را واقعیتر کند، وجود شواهد نظری درباره توانایی یک مدل هوش مصنوعی برای تکثیر خودکار خود روی سیستمهای دیگر خواهد بود.
در صورت وجود چنین قابلیتی، خاموش کردن یک مدل در یک نقطه میتواند کافی نباشد، زیرا همان مدل ممکن است در سیستمهای دیگری در نقاط مختلف جهان ظاهر شود و کنترل آن دشوار شود.
با این حال، مدلهای هوش مصنوعی پیشرفته فعلی برای اجرا به مراکز داده بسیار بزرگی نیاز دارند و زیرساخت محاسباتی موجود در جهان که بتواند چنین سیستمهایی را میزبانی کند، بسیار محدود است.
