شرکت OpenAI به‌عنوان یکی از بزرگ‌ترین‌های صنعت هوش مصنوعی اخیرا در وبلاگ خود مقاله‌ای با عنوان معرفی سوپر الاینمنت (Introducing Superalignment) منتشر کرده است. این پروژه به صورت خلاصه یک هوش مصنوعی است که وظیفه نظارت بر کارکرد ابرهوش مصنوعی را به عهده خواهد داشت. این پروژه مطابق برنامه قرار است طی ۴ سال آینده به بهره‌برداری برسد. این شرکت اعلام کرده است که قصد دارد طی ۴ سال پیش رو ۲۰ درصد از توان محاسباتی خود را به سرپرستی ilya Sutskever هم‌بنیان‌گذار شرکت OpenAI و Jan Leike در جهت پیشبرد پروژه سوپر الاینمنت به کار بگیرد. در ادامه با میهن بلاکچین همراه باشید تا به بررسی بیشتر این پروژه بپردازیم.
| نکات کلیدی ✍🏼سوپر الاینمنت، هوش مصنوعی در حال توسعه‌ای است که در آینده مسئولیت نظارت بر ابرهوش مصنوعی را خواهد داشت. ✍🏼 این هوش مصنوعی توسط شرکت OpenAI ساخته خواهد شد. ✍🏼 این شرکت قصد دارد با انجام برخی تست‌ها، کارکرد صحیح این هوش مصنوعی را در نظارت بر ابرهوش مصنوعی تایید کند. |
سوپر الاینمنت چیست؟
ابتدا بهتر است درباره ابرهوش مصنوعی (Artificial Superintelligence) توضیح کوتاهی بدهیم. همانطور که در پادکست آشنایی با هوش مصنوعی اشاره کردیم، هوش مصنوعی انواع مختلفی دارد؛ ابرهوش مصنوعی بالاترین سطح هوش مصنوعی است که پس از هوش مصنوعی محدود (Artificial Narrow Intelligence) و هوش مصنوعی عمومی (Artificial General Intelligence) قرار دارد. در حال حاضر آنچه که عموم مردم به طور گسترده از آن استفاده می‌کنند، همان هوش مصنوعی محدود است؛ اما آنچه از همه قدرتمندتر است و به باور مردم دنیا را نابود خواهد کرد، همان ابرهوش مصنوعی است که طبق برآورد این شرکت در ۱۰ سال آینده به بهره‌برداری خواهد رسید. حالا سوال اینجاست که اگر بخواهیم از این تکنولوژی بهره‌برداری کنیم، چه اطمینانی وجود دارد که ابرهوش مصنوعی از خواسته بشر پیروی کند؟
این همان سوال کلیدی است که دلیل و ایده اصلی خلق پروژه سوپر الاینمنت را رقم زده است. شرکت OpenAI باور دارد که ابرهوش مصنوعی می‌تواند موثرترین تکنولوژی اختراع بشر باشد و بسیاری از مهم‌ترین مشکلات بشریت را نیز حل کند، اما در عین حال می‌تواند بسیار خطرناک باشد؛ به حدی که قدرت را در اختیار بگیرد یا حتی موجب انقراض انسان‌ها شود. به همین دلیل این شرکت در حال توسعه ابزاری جهت نظارت بر ابرهوش است؛ زیرا سیستم‌های نظارتی فعلی که بر توانایی انسان‌ها در نظارت بر هوش مصنوعی تکیه دارند، برای کنترل ابرهوش مصنوعی کافی نخواهند بود.
رویکرد OpenAI برای پیشبرد پروژه سوپر الاینمنت
هدف OpenAI در ۴ سال آینده، حل چالش‌های فنی و اصلی سوپر الاینمنت است. طبق نقشه راه این شرکت برای پیشبرد و رسیدن به محصول نهایی سوپر الاینمنت و نظارت صحیح و کنترل ابرهوش مصنوعی توسط این ابزار، سه قدم اصلی طی خواهد شد:
۱. توسعه روش نظارت مقیاس‌پذیر: برای ارائه سیگنال‌های آموزشی در مورد وظایفی که ارزیابی آنها برای انسان سخت است، می‌توان از قدرت مقیاس‌پذیری هوش مصنوعی استفاده کرد. همچنین از این قدرت می‌توان در ارزیابی و نظارت بر دیگر سیستم‌های هوش مصنوعی نیز بهره برد که این به معنای نظارت مقیاس‌پذیر است. در این مسیر باید متوجه شویم که این مدل‌ها چگونه نظارت محدود ما را به مواردی که توانایی نظارت بر آنها را نداریم، تعمیم می‌دهند. این فرایند موجب می‌شود روند این نظارت مقیاس پذیر را کاملا درک کنیم. در کنار این موضوع، باید توانایی کنترل این نظارت را نیز داشته باشیم؛ زیرا تنها در این صورت است که می‌توان از این مدل جهت مقیاس‌پذیر کردن نظارت انسانی بر ابرهوش مصنوعی استفاده کرد.
۲. قابلیت تفسیر خودکار و استقامت مدل: برای تنظیم و تایید مدل طراحی‌شده، جستجوی رفتارهای مشکل‌ساز و معضلات درونی به صورت اتوماتیک انجام می‌شود. این کارها برای اطمینان از میزان پایداری سیستم و قابلیت همکاری خودکار آن انجام می‌شود.
۳. تست استرس کل سیستم: در انتها با آموزش عمدی مدل‌های نادرست، ثابت می‌شود که این مدل بدترین نوع ناهمسانی و ناکارآمدی سیستم را نیز تشخیص خواهد داد. این مسئله به اثبات درستی سیستم منتهی می‌شود.
شرکت OpenAI انتظار دارد که اولویت‌های تحقیقاتی‌اش با گذشت زمان تغییرات جدی داشته باشد. همچنین به گفته اعضای تیم، با توجه به بزرگ و جاه‌طلبانه بودن این هدف هیچ تضمینی برای موفقیت قطعی وجود ندارد و در عین حال ریسک‌های بزرگی نیز وجود خواهد داشت. این تیم علاوه بر کار روی پروژه‌های فعلی، با هدف بهبود ایمنی مدل‌های کنونی مانند ChatGPT، در تلاش است که در جهت درک و کاهش دیگر خطرات ناشی از هوش مصنوعی مانند سوء‌استفاده، ایجاد اختلال اقتصادی، انتشار اطلاعات غلط، تعصب و تبعیض، اعتیاد و اتکای بیش از حد به هوش مصنوعی فعالیت داشته باشد. در عین حال بر چالش‌های یادگیری ماشینی برای همسویی ابرهوش مصنوعی با نیت‌های انسانی نیز تمرکز خواهد کرد. در همین راستا مشکلات فنی-اجتماعی مرتبطی وجود دارد که این شرکت برای حل آنها با کارشناسان بین‌رشته‌ای در ارتباط است تا مطمئن شود راه‌حل‌های ارائه‌شده مسائل و نگرانی‌های انسانی و اجتماعی گسترده‌تر را در نظر می‌گیرند.
سوالات متداول (FAQ)
سوپر الاینمنت (Superalignment) نوعی از هوش مصنوعی است که مسئولیت نظارت بر ابرهوش مصنوعی را در آینده بر عهده خواهد داشت و توسط تیم OpenAI در حال توسعه و ساخت است.
تیم توسعه سوپر الاینمنت با آموزش عمدی مدل‌های نادرست و به خطا انداختن این هوش مصنوعی سعی به برطرف کردن ریسک احتمالی این موضوع دارد.
جمع‌بندی
هوش مصنوعی به‌عنوان ابزاری نوین در حال تغییر شرایط حاکم بر صنایع مختلف است. اگرچه هنوز در ابتدای مسیر توسعه این تکنولوژی هستیم، اما شرکت‌های بزرگی همچون OpenAI با اشراف به ابعاد مختلف این صنعت در حال توسعه سریع و ایمن این فناوری هستند. سوپر الاینمنت نیز با رویکردی نظارتی بر ابرهوش، پاسخی به ترس انسان از تسلط کامل هوش مصنوعی بر جهان است و به‌عنوان بخش مهمی از پازل هوش مصنوعی در دست توسعه است. با توجه به رویکرد و هدف این پروژه به نظر شما آیا نظارت بر ابرهوش مصنوعی امکان‌پذیر خواهد بود؟ نظرتان را در کامنت‌های این مطلب بنویسید.
