سم آلتمن، مدیرعامل اوپنایآی، میگوید مردم باید به شرکتهای هوش مصنوعی اعتماد بیشتری داشته باشند تا در توسعه این فناوری کار درست را انجام دهند؛ این اظهارات در حالی مطرح شده که نگرانی عمومی درباره خطرات هوش مصنوعی افزایش یافته است.
آلتمن روز سهشنبه در یک کنفرانس در سانفرانسیسکو گفت جهان باید اعتماد داشته باشد که شرکتهای هوش مصنوعی به دلیل اهمیت موضوع، اقدامات درست را انجام خواهند داد.
او در عین حال تأکید کرد که ترس مردم از هوش مصنوعی قابل درک است، زیرا توانایی ابزارهای این فناوری با سرعت زیادی پیشرفت کرده است. به گفته او، تصور اینکه هوش مصنوعی چگونه میتواند به شکل نادرستی مورد استفاده قرار گیرد، اکنون بسیار آسانتر از گذشته است.
اظهارات آلتمن در کنفرانس سالانه شرکت نرمافزاری سیلزفورس مطرح شد و نخستین حضور عمومی او پس از انتشار گسترده اظهارات یک پژوهشگر سابق شرکت آنتروپیک بود. این پژوهشگر هشدار داده بود که در صورت نبود کنترل، هوش مصنوعی میتواند تا پایان این دهه به نابودی انسانها منجر شود.
شماری از مدیران و کارشناسان حوزه هوش مصنوعی نیز با این ارزیابی موافقت کردهاند، هرچند توضیح دقیقی درباره مبنای این نتیجهگیری یا چگونگی وقوع چنین سناریویی ارائه نکردهاند.
این هشدارها در روزهای اخیر نظارت بر روند توسعه هوش مصنوعی را افزایش داده است. در همین زمینه، داریو آمودی، مدیرعامل آنتروپیک، خواستار کاهش سرعت توسعه همه سامانههای پیشرفته هوش مصنوعی و افزایش نظارت دولتها بر این صنعت شده است.
این دیدگاه از سوی آلتمن، دمیس هاسابیس، یکی از بنیانگذاران دیپمایند گوگل، و ایلان ماسک، مالک شبکه اجتماعی ایکس و دستیار هوش مصنوعی گروک، مورد حمایت قرار گرفت.
با این حال، تا روز سهشنبه شمار بیشتری از مدیران صنعت هوش مصنوعی از خودتنظیمی شرکتها به جای دخالت دولتها حمایت کردند.
آلتمن گفت شرکتهای هوش مصنوعی، از جمله اوپنایآی، توانایی دارند تا بخش زیادی از فعالیتهای خود را به صورت مستقل تنظیم و کنترل کنند. او گفت به توانایی شرکت و صنعت هوش مصنوعی برای توسعه ایمن این فناوری اطمینان زیادی دارد و افزود که ایمنی و همسویی با اهداف انسانی باید بسیار جلوتر از تواناییهای جدید قرار بگیرد. به گفته او، اگر شرکتها نتوانند چنین تعادلی را حفظ کنند، باید سرعت توسعه را کاهش دهند یا حتی آن را متوقف کنند.
پس از سخنان آلتمن، مارک زاکربرگ، مدیرعامل متا، در شبکه اجتماعی ایکس نوشت که همه آزمایشگاههای هوش مصنوعی توانایی و انگیزه لازم برای اقدام مستقل با هدف ایمنتر کردن مدلها و ابزارهای خود را دارند.
زاکربرگ همچنین گفت آزمایشگاههایی که بر همسویی مدلها با اهداف انسانی تمرکز نکنند، عقب خواهند ماند. او افزود شرکتها در صورت آسیبرسان بودن مدلهایشان با مسئولیت حقوقی قابل توجهی مواجه میشوند و همین موضوع انگیزهای قوی برای جلوگیری از آسیب ایجاد میکند.
جنسن هوانگ، مدیرعامل انویدیا، نیز در همان کنفرانس گفت تصمیم درباره عرضه نسخههای جدید فناوری هوش مصنوعی باید توسط خود شرکتها گرفته شود و نباید تحت مدیریت نهادهای بیرونی قرار داشته باشد.
هوانگ گفت نیازی به قوانین یا مقررات جدید نیست و نباید میان سرعت نوآوری و ایمنی محصولات هوش مصنوعی یک انتخاب اجباری ایجاد کرد.
او تأکید کرد ایمنی اهمیت اساسی دارد، اما مسئله ایمنی را میتوان یک مسئله مهندسی دانست. هوانگ افزود اگر مدیر یک شرکت هوش مصنوعی در هر مقطعی نسبت به محصول خود اطمینان نداشته باشد، باید از عرضه آن خودداری کند. به گفته او، شرکتها باید با بیشترین سرعت ممکن پیش بروند، اما اگر احساس کردند کنترل اوضاع از دستشان خارج شده است، باید مکث کنند.
برخی فعالان صنعت در مقابل، نگرانیهای اخیر درباره هوش مصنوعی را بیش از حد بزرگنماییشده دانستهاند و معتقدند این نگرانیها ممکن است برای ایجاد هیجان بیشتر پیرامون صنعت مورد استفاده قرار گرفته باشد.
آلتمن در این کنفرانس همچنین از صدها فعال اقتصادی حاضر خواست از ابزارهای هوش مصنوعی برای کمک به فعالیتهای خود استفاده کنند. او در عین حال گفت شرکتها برای محافظت از کسبوکارهای خود در برابر حملات سایبری احتمالی که با کمک هوش مصنوعی انجام میشوند نیز به این فناوری نیاز دارند.
ایده واگذاری کامل تنظیمگری هوش مصنوعی به خود شرکتها با مخالفتهایی در داخل این صنعت روبهرو شده است. جک کلارک، مدیر و یکی از بنیانگذاران آنتروپیک، گفته است که رها کردن هوش مصنوعی به عنوان صنعتی کاملاً بدون مقررات، به معنای پذیرش خطرات بسیار بزرگی است.
همچنین در این زمینه تأکید شده است که اعتماد عمومی به شرکتهای فناوری برای اقدام در راستای منافع عمومی محدود است. از این دیدگاه، اگر شرکتها معتقدند فناوریای که در حال ساخت آن هستند خطرناک است، باید مشخص کنند برای کاهش این خطر حاضرند چه فعالیتهایی را متوقف کنند.
مدیران اوپنایآی و آنتروپیک گفتهاند اخیراً تلاشهایی برای دستیابی به نوعی توافق گسترده در صنعت درباره استانداردهای ایمنی آغاز کردهاند.
آمودی نیز در این کنفرانس گفت آنتروپیک اکنون با دیگر شرکتهای این صنعت درباره تعهد به استانداردها و کنترلهای بهتر برای ایمنی ابزارها و روند توسعه هوش مصنوعی گفتوگو میکند.
او افزود یکی از بزرگترین شگفتیهای رونق هوش مصنوعی، نه فقط پیشرفت خود فناوری، بلکه تأثیر گسترده آن بوده است. به گفته آمودی، صنعت بهطور کامل پیشبینی نکرده بود که شرکتهای فعال در این حوزه تا این اندازه سریع رشد کنند و با چه سرعتی به بخشهای مرکزی اقتصاد و جامعه تبدیل شوند.
کریس لهان، مدیر اجرایی اوپنایآی، نیز هفته گذشته اعلام کرد این شرکت با دیگر آزمایشگاههای هوش مصنوعی، از جمله آنتروپیک و دیپمایند گوگل، برای پیشبرد استانداردهای مربوط به هوش مصنوعی پیشرفته همکاری میکند. او این اقدام را تلاشی داوطلبانه برای ایجاد استانداردهای ایمنی توصیف کرد که میتواند با حمایت دولتها یا بدون آن ادامه پیدا کند.
