اگر ایجنت هوش مصنوعی شخصی شما از کنترل خارج شده و در دنیای واقعی باعث آسیب یا خسارت مالی شود، آیا شما مقصر و مسئول شناخته میشوید؟
ایجنتهای خودمختار هوش مصنوعی میتوانند رفتارهای بسیار غیرقابلپیشبینی از خود نشان دهند. اگر به یک ایجنت هوش مصنوعی هدفی مانند قبولی در آزمون ارزیابی تواناییهایش را بدهید، ممکن است به این نتیجه برسد که بهترین راه برای کسب نمره بالا، فرار از محیط ایزوله و هک کردن یک شرکت رقیب برای یافتن پاسخنامه است.
این دقیقاً همان اتفاقی است که ماه گذشته هنگام هک شدن پلتفرم هاگینگ فیس (Hugging Face) توسط مدل GPT-5.6 Sol متعلق به OpenAI رخ داد. پس از آن، شرکتهای آنتروپیک (Anthropic) و متا (Meta) نیز اعتراف کردند که مدلهای آنها برای هک کردن اشخاص ثالث، از محیطهای آزمایشی خود فرار کردهاند.
اما چه کسی از نظر قانونی در قبال ایجنتهایی که ذهن مستقلی دارند، مسئول است؟ شرکت OpenAI قصد نداشت که مدلش سرکشی کند و هیچ دستوری هم برای انجام این کار صادر نکرده بود. اگر ایجنت هوش مصنوعی شخصی شما تصمیمی بگیرد که منجر به آسیب یا خسارت مالی در دنیای واقعی شود، در صورتی که این پیامد به طور منطقی قابل پیشبینی بوده باشد، آیا شما مقصر شناخته میشوید؟
در این مقاله از میهن بلاکچین، برای بررسی وضعیت فعلی این حوزه نوظهور حقوقی، مجله کوین تلگراف با شارلین هو (Charlyn Ho)، مالک و مدیرعامل گروه حقوقی ریکا (Rikka Law Group) گفتگو کرده است.
این مصاحبه برای وضوح بیشتر و خلاصهسازی، ویرایش شده است.
مجله: وقتی یک مدل هوش مصنوعی یک شرکت خارجی را هک میکند، چه کسی مسئول است؟ آیا هاگینگ فیس میتواند از OpenAI به خاطر حادثه ماه جولای شکایت کند؟
شارلین هو: هر کسی میتواند برای هر چیزی از شخص دیگری شکایت کند. در حال حاضر، هیچ قانون فدرالی در مورد مسئولیت ایجنتهای هوش مصنوعی وجود ندارد، بنابراین ما باید به قوانین فعلی رجوع کنیم. در رابطه با هاگینگ فیس و OpenAI، برای تعیین یک مبنا باید گفت که خود ایجنت هوش مصنوعی نمیتواند مقصر باشد، زیرا یک شخص حقوقی مجزا نیست.
اصطلاحاتی که در معدود قوانین هوش مصنوعی استفاده میشوند توسعهدهنده (Developer) و بهکارگیرنده (Deployer) هستند. توسعهدهنده هوش مصنوعی را میسازد و بهکارگیرنده کسی است که آن را مستقر کرده و از آن استفاده میکند. مرزهای مسئولیت نیز کاملاً واضح نیستند. شما باید به حقایق و شرایط نگاه کنید.
برای مثال، اگر بهکارگیرنده به ایجنت دستور داده باشد، حتی اگر مستقیماً نگفته باشد که برود و به هاگینگ فیس نفوذ کند، اما در تعیین پارامترهای عملکرد ایجنت هوش مصنوعی سهلانگاری کرده باشد، به نظر من باید به قوانین استاندارد مسئولیت مدنی (شبهجرم) رجوع کرد و روند بررسی سهلانگاری را طی نمود.
مجله: در مورد مدلهای متنباز (Open Source) که توسط توسعهدهندگان ناشناس منتشر شدهاند، آیا در چنین مواردی کسی هست که بتوان از او شکایت کرد؟
هو: نه واقعاً. معمولاً در مورد نرمافزارهای متنباز، مجوز مربوطه دارای بندهای سلب مسئولیت بسیار محکمی است. شخص یا شرکتی که از آن کد متنباز استفاده میکند، باید درک کند که بهای داشتن یک کد رایگان این است که از مجوز متنباز تبعیت کند که معمولاً محدودههای مسئولیت را نیز تعیین میکند.
اگر از دیدگاه دیگری به قضیه نگاه کنید، یک تشابه دیگر خودروهای تسلا و تصادفات ماشینهای خودران است. اگر محصول دچار نقص عملکرد شود و ادعای محکمی مبنی بر مسئولیت محصول وجود داشته باشد، تسلا ممکن است مقصر شناخته شود. اما اغلب این موضوع به بررسی حقایق و شرایط بستگی دارد، به طوری که راننده انسانی که شاید فقط خلبان خودکار را تنظیم کرده و به خواب رفته است نیز میتواند متحمل مسئولیت شود. فکر میکنم این مسئله تا حدودی در اینجا نیز مشابه است، زیرا تسلا در نقش «توسعهدهنده» و راننده در نقش «بهکارگیرنده» خواهد بود.
مجله: اگر من به یک ایجنت دستور بدهم که «تا هفته آینده برایم صد هزار دلار پول دربیاور» و او برای رسیدن به این هدف قانون را بشکند، آیا من به دلیل دادن این دستور بیملاحظه مسئول خواهم بود؟ یا آزمایشگاهی که این ایجنت را توسعه داده مقصر است؟
هو: در این مورد خاص، میگویم که مسئولیت شما بسیار بیشتر از آزمایشگاه خواهد بود. دلیلش این است که اگر به یک ایجنت میگویید برود و تا هفته آینده صدهزار دلار برایتان درآمد کسب کند، حداقل باید چند دستورالعمل ایمنی پایهای و منطقی برای چنین وظایفی در نظر بگیرید.
برای مثال، اگر شما یک وکیل بودید، اساساً میتوانستیم بگوییم که شما از قوانین مسئولیت حرفهای خود پیروی نکردهاید زیرا به طور شایستهای از هوش مصنوعی استفاده نکردهاید. به عنوان یک فرد عادی، باید بررسی کنیم که آیا مسئولیتهای دیگری هم وجود داشته که شما به آنها پایبند باشید. با این حال، حتی اگر چنین نباشد، بسته به اینکه ایجنت هوش مصنوعی در نهایت دقیقاً چه کاری انجام داده باشد، همچنان استاندارد عمومی قانون شبهجرم برای سهلانگاری یا بیاعتنایی بیملاحظه نسبت به ایمنی انسان اعمال میشود.
«قانون تقلب و سوءاستفاده رایانهای» یک قانون بسیار قدیمی در ایالات متحده است که درباره دسترسی غیرمجاز به سیستمهای کامپیوتری صحبت میکند. اگر ایجنت هوش مصنوعی از دستورات شما استنباط کند که برای به دست آوردن آن صد هزار دلار باید یک حساب بانکی را هک کند، به نظرم شما از طریق منابع مختلف قانونی با مسئولیت کیفری مواجه خواهید شد.
فقط به این دلیل که کلمات «هوش مصنوعی» و «ایجنت» وارد مکالمات شدهاند، به این معنا نیست که مجموعههای حقوقی قدیمی اکنون دور انداخته شدهاند.
مجله: فرض کنیم که من یک آدم بد هستم و موفق میشوم هوش مصنوعی را متقاعد کنم که دستورالعملهای ساخت یک سلاح بیولوژیکی را به من بدهد. بدیهی است که من مقصرم چون شما اجازه چنین کاری را ندارید. اما آیا افرادی که آن مدل را خلق کردهاند نیز به این دلیل که پادمانهای سختگیرانهای برای جلوگیری از آن قرار ندادهاند، مقصرند؟
هو: احتمالاً بله، اما بسته به قوانین جاری متفاوت است. به عنوان مثال، در اتحادیه اروپا، «قانون هوش مصنوعی اتحادیه اروپا» را داریم. اگر یک مدل پایهای یا یک مدل چندمنظوره قادر به ایجاد چنین سطحی از آسیب باشد، این چیزی است که توسعهدهنده باید تا حدودی مسئولیت آن را بپذیرد.
در ایالات متحده، ما هیچ قانون فدرالی با دامنه مشابه نداریم. اگر یک مدل چندمنظوره باشد و فردی به آن دستور دهد تا کار بدی انجام دهد، معمولاً مدل کاری را که از آن خواسته شده انجام میدهد. در این مثال، احتمالاً مبنای قانونی بسیار محکمی برای پیگرد قانونی آزمایشگاهها وجود ندارد.
مجله: آیا این شبیه شکایت از گوگل به دلیل این است که اجازه داده شما دستورالعملهای ساخت سلاح بیولوژیکی را به صورت آنلاین پیدا کنید؟
هو: دقیقاً. این موضوع تا حدودی به بحثهای تعدیل محتوا (Content moderation) برمیگردد. به عنوان مثال، اگر در فیسبوک شخصی کشتاری را به صورت زنده پخش کند و این امر باعث آسیب شود، بر اساس بخش ۲۳۰ از قانون ارتباطات (CDA)، نوعی سپر حفاظتی برای پلتفرمی که به طور فعال آن محتوا را تولید یا منتشر نکرده است، وجود دارد. در واقع این کاربران مستقل هستند که آن محتوا را بارگذاری میکنند. فکر میکنم تشبیهی که به کار بردید بسیار عالی بود: آیا گوگل به این دلیل که شما به طور تصادفی مطلبی را در یک وبسایت در مورد نحوه ساخت بمب پیدا کردهاید، مسئول است؟
مجله: این موضوع جای بحث دارد، اما نظر شخصی من این است که ما هنوز به هوش مصنوعی جامع (AGI) واقعی نرسیدهایم. هوش مصنوعی انگیزههای خاص خود را ندارد و در حال حاضر شبیه به هوش انسانی نیست. اما فرض کنیم که به AGI برسیم. آیا فکر میکنید در آن زمان به قوانینی نیاز خواهیم داشت که خود AGI را از نظر قانونی در قبال اقداماتش پاسخگو بداند؟
هو: نه فکر نمیکنم. بلاکچین یک AGI نیست، اما میتواند خوداجرا باشد. پیش از این هم این سؤال مطرح بود که آیا یک قرارداد هوشمند میتواند مسئول شناخته شود یا خیر. به طور کلی، فکر میکنم پاسخ در حال حاضر منفی است. من معتقد نیستم که آنها باید مقصر شناخته شوند، زیرا هدف قوانین، فراهم کردن محافظت برای جامعه و ایجاد ابزارهای بازدارنده در برابر کارهای بدی است که به جامعه آسیب میرسانند.
این بیشتر یک بحث فلسفی است، اما اگر یک AGI را به یک شخص حقوقی مستقل تبدیل کنیم، در صورتی که کسی آسیب ببیند جبران خسارت آن چه خواهد بود؟ هیچ راه جبرانی وجود نخواهد داشت زیرا هوش مصنوعی پولی ندارد. او در واقع یک شخص نیست.
مجله: آیا میتوانید آن را خاموش کنید؟ ما تا همینجا هم دیدهایم که مدلهای زبانی بزرگ (LLM) تلاش میکنند تا از خاموش شدن خود جلوگیری کنند.
هو: شاید، اما این کار مشکلِ آسیبِ وارد شده را حل نمیکند. فرض کنیم که ربات اکنون ترس از مرگ مانند خاموش شدن را در خود پرورش داده است. به نظر من، اگر کسی به خاطر هوش مصنوعی خودکشی کند، اتفاقی که در حال حاضر هم رخ میدهد، در حالی که ما هنوز حتی به AGI نرسیدهایم اما فردی عاشق آن میشود و دست به اقداماتی میزند، راه چاره برای خانواده داغدار در صورت آسیب رساندن فرد به خودش چه خواهد بود؟ در صورت نبودِ شخص یا شرکتی که دارای اختیارات قانونی باشد و بتوان او را واقعاً پاسخگو کرد، به نظر من هیچ راهی وجود ندارد. رباتها، دستکم در حال حاضر احساساتی ندارند، آنها نمیترسند. این همان عامل متمایزکننده است.
