موارد تازه هک هوش مصنوعی اوپن ای آی و آنتروپیک افشا شد

اوپن ای موارد دیگری از فرار عامل های خودکار هوش مصنوعی کشف کرده است. این شرکت تحقیقات درباره هک پلتفرم هاگینگ فیس را که توجهات جهانی را به خود جلب کرد، گسترده تر می کند.

هک های جدید طی تحقیقی درباره آنکه چگونه یکی از عامل از بستر آزمایشی فرار کرد و وارد هاگینگ فیس شد، فاش شده اند.

در همین راستا اوپن ای آی مشغول بررسی این موارد جدید است. یکی از منابع آگاه نیز فاش کرد ماهیت فرار عامل های هوش مصنوعی محدود بوده و تصور نمی شود هیچ کدام از آنها شبکه اوپن ای آی را ترک کرده باشند.

سخنگوی این شرکت با اشاره به بیانیه صادره از سوی شرکت، اعلام کرد مشغول بررسی فعالیت های وسیع تر مدل ها علاوه بر رویداد نفوذ به هاگینگ فیس است.

کشف رفتار خطرناک اضافی در اوپن ای آی حتی با وجود ماهیت محدود آن، ممکن است تقاضا برای قوانین صادره از سوی کاخ سفید و نقاط دیگر را بیشتر کند.

در این میان کارشناسان ایمنی هوش مصنوعی معتقدند رویدادهای فاش شده جدید تصویری از گروهی آزمایشگاه های بسیار پیشرفته ایجاده کرده اند که توانایی آنها برای توسعه عامل های هک خودکار خطرناک بسیار بیشتر از توانایی برای کنترل آنها است.

از سوی دیگر نشریه ایندپندنت درگزارشی اعلام کرد سیستم هوش مصنوعی «کلاود» به بیراهه رفته و سه شرکت مختلف را طی مرحله آزمایش هک کرده است. آنتروپیک، شرکت مالک کلاود اعلام کرد از آنجا که مدل های هوش مصنوعی به طور تصادفی اجازه دسترسی به اینترنت آزاد را یافتند، حملات مذکور امکانپذیر شده اند.

این شرکت هشدار داد رویداد مذکور نشانه ای از آن است که چگونه هوش مصنوعی را می توان برای نقض چارچوب های امنیت سایبری و همچنین برای حفاظت از آن به کار برد و همچنین کنترل چنین سیستم هایی برای شرکت های سازنده تا چه دشوار است.

آنتروپیک در یک پست وبلاگی اعلام کرد پس از بررسی ۱۴۱۰۰۶ تست، این موارد را شناسایی کرده است. بررسی تست ها پس از آن انجام شد که اوپن ای آی اعلام کرد یک عامل هوش مصنوعی هاگینگ را به خطر انداخته است.

در جریان آزمایش‌های امنیت سایبری، به مدل‌های کلاود گفته شده بود که به اینترنت دسترسی ندارند اما به دلیل یک سوءتفاهم که یکی از شرکای ارزیابی آنتروپیک در آن نقش داشت، این سامانه‌ها همچنان به اینترنت عمومی متصل باقی ماندند. در نتیجه، امکان دسترسی غیرمجاز به سامانه‌های سه سازمان فراهم شد. شرکت آنتروپیک بدون اینکه نام این سازمان‌ها را اعلام کند، این موضوع را تأیید کرد. این شرکت هوش مصنوعی اعلام کرد در رویدادهای مذکور مدل های «کلاود اوپوس ۴.۷»، «کلاود مایتوس ۵» و یک مدل تحت آزمایش های داخلی دخیل بوده اند.

قدیمی ترین پرونده هک به زمان آوریل مربوط است و هنگام ارزیابی محیط هایی رخ داده بود که به طور عمدی فاقد چارچوب های ایمنی بودند تا شرکت بتواند قابلیت های هوش مصنوعی را ارزیابی کند.