شرکت Anthropic هشدار داده است که روند پیشرفت هوش مصنوعی به اندازهای سریع شده که ممکن است در آینده نزدیک این سامانهها بتوانند نسل بعدی خود را طراحی و توسعه دهند. به همین دلیل، این شرکت پیشنهاد کرده است که توسعه پیشرفتهترین مدلهای هوش مصنوعی در سطح جهانی با سرعت کمتری ادامه یابد.
بر اساس ارزیابی این شرکت، هوش مصنوعی هماکنون نیز در حال تسریع فرایند ساخت و بهبود سامانههای هوش مصنوعی است و نقش پررنگی در تولید کد و پژوهشهای فنی ایفا میکند. آنتروپیک معتقد است این روند میتواند به نقطهای برسد که سامانهها بدون نیاز به دخالت مستقیم انسان، نسخههای پیشرفتهتر خود را ایجاد کنند.
این شرکت خواستار توقف فوری توسعه نشده، اما تأکید کرده است که ممکن است آزمایشگاههای پیشرو هوش مصنوعی ناچار شوند سرعت کار خود را کاهش دهند تا نهادهای اجتماعی، مقرراتی و پژوهشهای ایمنی بتوانند خود را با این پیشرفتها هماهنگ کنند.
به باور آنتروپیک، توانایی «خودبهبوددهی بازگشتی» میتواند یکی از مهمترین نقاط عطف تاریخ فناوری باشد. چنین قابلیتی از یک سو میتواند به پیشرفتهای بزرگ در علم، پزشکی و سایر حوزهها منجر شود و از سوی دیگر خطر از دست رفتن کنترل انسان بر سامانههای هوش مصنوعی را افزایش دهد.
این شرکت همچنین بر ضرورت همکاری دولتها و شرکتهای بزرگ فناوری برای ایجاد سازوکارهای نظارتی و راستیآزمایی بینالمللی تأکید کرده و هشدار داده است که زمان زیادی برای آمادهسازی زیرساختهای لازم باقی نمانده است.
