جیکوب کاکسون (Jacob Coxon)، پژوهشگر آنتروپیک (Anthropic)، با استعفا از این شرکت هشدار داد که شرکتهای آنتروپیک و اوپنایآی (OpenAI) در رقابتی شتابزده برای ساخت هوش مصنوعی ابرهوشمند قرار گرفتهاند؛ رقابتی که به گفته او میتواند جان انسانها را به خطر بیندازد.
به گزارش میهن بلاکچین، کاکسون که طی سه سال گذشته در زمینه پیشآموزش مدلهای هوش مصنوعی در هر دو شرکت فعالیت کرده، در مجموعهای از پستها در شبکه اجتماعی ایکس مدعی شد سرعت پیشرفت این فناوری بسیار دستکم گرفته شده است. او معتقد است نسلهای آینده هوش مصنوعی میتوانند سامانههای مختلف را هک کنند، حوزههای گوناگون را در مدت کوتاهی متحول کنند و به منابع و قدرت واقعی دسترسی پیدا کنند.
هشدار جدی درباره مسیر توسعه هوش مصنوعی
کاکسون مدعی شد نگرانیهای مطرحشده در گفتوگوهای خصوصی صنعت هوش مصنوعی با پیامهایی که شرکتها در فضای عمومی منتشر میکنند، تفاوت زیادی دارد. به گفته او، برخی مدیران و افراد ارشد در محافل خصوصی با نگرانی بیشتری درباره پیامدهای این فناوری صحبت میکنند.
او در یکی از پستهای خود نوشت:
افرادی که بهطور جدی در حال ساخت هوش مصنوعی هستند، باور دارند که این فناوری ممکن است تا پایان این دهه همه ما را بکشد. این یک ترفند بازاریابی نیست.
کاکسون میان دو شرکت سابق خود نیز تفاوت قائل شد. به ادعای او، بسیاری از افراد در اوپنایآی هنوز ابعاد تمدنی خطرات هوش مصنوعی را بهطور کامل درک نکردهاند، در حالی که آنتروپیک این خطرات را بهتر میشناسد اما همچنان درگیر رقابت برای رسیدن به فناوریهای پیشرفتهتر پیش از رقباست.
این نخستین مورد از خروج چهرههای فعال در حوزه ایمنی هوش مصنوعی از شرکتهای بزرگ این صنعت نیست. در فوریه نیز مرینانک شارما (Mrinank Sharma)، مسئول بخش ایمنی آنتروپیک، از این شرکت استعفا داد.
درخواست برای هماهنگی میان آزمایشگاهها
کاکسون رقابت برای ورود به مرحلهای از توسعه هوش مصنوعی که میتواند به ساخت ابرهوش منجر شود را «قماری ناشی از اعتمادبهنفس بیش از حد» توصیف کرد و گفت تصمیمی با چنین پیامدهایی نباید صرفاً در یک شرکت خصوصی و پشت درهای بسته گرفته شود.
با این حال، کاکسون همچنان به امکان هماهنگی میان شرکتهای فعال در حوزه هوش مصنوعی امیدوار است. او معتقد است حمله اخیر به پلتفرم هوش مصنوعی هاگینگ فیس (Hugging Face) میتواند زمینه را برای توافق میان آزمایشگاههای آمریکایی درباره سرعت توسعه مدلهای پیشرفته فراهم کند.
بیش از ۱۱۰۰ نفر از کارکنان آزمایشگاههای پیشرو هوش مصنوعی نیز در ماه جولای نامهای با عنوان «Pacing the Frontier» را امضا کردند. داریو آمودی (Dario Amodei)، مدیرعامل آنتروپیک، و یاکوب پاچوکی (Jakub Pachocki)، دانشمند ارشد اوپنایآی، نیز از امضاکنندگان این نامه بودند. در این نامه از دولت آمریکا خواسته شده برای ایجاد سازوکارهای فنی و حاکمیتی لازم جهت کنترل سرعت توسعه هوش مصنوعی پیشرفته، یک همکاری بینالمللی را دنبال کند.
آنتروپیک و اوپنایآی همچنین همراه با گوگل، مایکروسافت و حدود ۱۵۰ سازمان دیگر، نامهای مشترک درباره دفاع سایبری امضا کردهاند که نسبت به افزایش حملات سایبری مبتنی بر هوش مصنوعی هشدار میدهد.
هشدار کاکسون در شرایطی مطرح شده که ولکر تورک (Volker Türk)، کمیسر عالی حقوق بشر سازمان ملل، نیز اخیراً درباره خطرات بالقوه هوش مصنوعی پیشرفته هشدار داده است. کاکسون در نهایت پیشنهاد کرد برای جلوگیری از شکلگیری یک رقابت جهانی، حتی توقف موقت تلاشها برای افزایش توانمندی مدلهای هوش مصنوعی نیز مورد بررسی قرار گیرد.
