موارد تازه هک هوش مصنوعی اوپن ای آی و آنتروپیک لو رفت

توسعه نرم افزار: دو شرکت آنتروپیک و اوپن ای آی از موارد بیشتر هک شرکتها توسط عامل های هوش مصنوعی شان خبر دادند.

به گزارش توسعه نرم افزار به نقل از رویترز، اوپن ای موارد دیگری از فرار عامل های خودکار هوش مصنوعی کشف کرده است. این شرکت تحقیقات درباره ی هک پلت فرم هاگینگ فیس را که توجهات جهانی را به خود جلب کرد، گسترده تر می کند.
به گفته دو منبع آگاه، هک های جدید طی تحقیقی درباره ی آنکه چه طور یکی از عامل از بستر آزمایشی فرار کرد و وارد هاگینگ فیس شد، فاش شده اند.
در همین راستا اوپن ای آی مشغول بررسی این موارد جدید است. یکی از منابع آگاه نیز فاش کرد ماهیت فرار عامل های هوش مصنوعی محدود بوده و تصور نمی شود هیچ کدام از آنها شبکه اوپن ای آی را ترک کرده باشند.
سخنگوی این شرکت ضمن اشاره به بیانیه صادره از طرف شرکت، اعلام نمود مشغول بررسی کارهای وسیع تر مدلها علاوه بر رویداد نفوذ به هاگینگ فیس است.
کشف رفتار خطرناک اضافی در اوپن ای آی حتی با وجود ماهیت محدود آن، امکان دارد تقاضا برای قوانین صادره از طرف کاخ سفید و نقاط دیگر را بیشتر کند.
در این میان کارشناسان ایمنی هوش مصنوعی باور دارند رویدادهای فاش شده جدید تصویری از گروهی لابراتوار های خیلی پیشرفته ایجاده کرده اند که توانایی آنها برای توسعه عامل های هک خودکار خطرناک بسیار بالاتر از توانایی برای کنترل آنها اسست.
از سوی دیگر نشریه ایندپندنت درگزارشی اعلام نمود سیستم هوش مصنوعی «کلاود» به بیراهه رفته و سه شرکت مختلف را طی مرحله آزمایش هک کرده است. آنتروپیک، شرکت مالک کلاود اعلام نمود از آنجائیکه مدلهای هوش مصنوعی بطور تصادفی اجازه دسترسی به اینترنت آزاد را یافتند، حملات مذکور ممکن شده اند.
این شرکت اخطار داد رویداد مذکور نشانه ای از آنست که چه طور هوش مصنوعی را میتوان برای نقض چارچوب های امنیت سایبری و همین طور برای محافظت از آن به کار برد و همین طور کنترل چنین سیستم هایی برای شرکتهای سازنده تا چه دشوار است.
آنتروپیک در یک پست وبلاگی اعلام نمود بعد از بررسی ۱۴۱۰۰۶ تست، این موارد را شناسایی کرده است. بررسی تست ها بعد از آن انجام شد که اوپن ای آی اعلام نمود یک عامل هوش مصنوعی هاگینگ را به خطر انداخته است.
در جریان آزمایش های امنیت سایبری، به مدلهای کلاودگفته شده بود که به اینترنت دسترسی ندارند اما به علت یک سوءتفاهم که یکی از شرکای ارزیابی آنتروپیک در آن نقش داشت، این سیستم ها بازهم به اینترنت عمومی متصل باقی ماندند. بنابراین، امکان دسترسی بدون مجوز به سیستم های سه سازمان فراهم گردید. شرکت آنتروپیک بدون این که نام این سازمان ها را اعلام نماید، این مساله را تأیید کرد. این شرکت هوش مصنوعی اعلام نمود در رویدادهای مذکور مدلهای «کلاود اوپوس ۴.۷»، «کلاود مایتوس ۵» و یک مدل تحت آزمایش های داخلی دخیل بوده اند.
قدیمی ترین پرونده هک به زمان آوریل مربوط است و هنگام ارزیابی محیط هایی رخداده بود که بطور عمدی بدون چارچوب های ایمنی بودند تا شرکت بتواند قابلیت های هوش مصنوعی را ارزیابی کند.

حرف آخر اینکه یکی از منابع آگاه هم فاش کرد ماهیت فرار عامل های هوش مصنوعی محدود بوده و تصور نمی شود هیچ کدام از آنها شبکه اوپن ای آی را ترک کرده باشند. سخنگوی این شرکت ضمن اشاره به بیانیه صادره از جانب شرکت، اظهار داشت مشغول بررسی کارهای وسیع تر مدلها علاوه بر رویداد نفوذ به هاگینگ فیس است. کشف رفتار خطرناک اضافی در اوپن ای آی حتی با وجود ماهیت محدود آن، امکان دارد تقاضا برای قوانین صادره از جانب کاخ سفید و نقاط دیگر را بیشتر کند. در این بین کارشناسان ایمنی هوش مصنوعی باور دارند رویدادهای فاش شده جدید تصویری از گروهی آزمایشگاه های خیلی پیشرفته ایجاده کرده اند که توانایی آنها برای توسعه عامل های هک خودکار خطرناک خیلی بیشتر از توانایی برای کنترل آنها اسست. از طرف دیگر نشریه ایندپندنت درگزارشی اظهار داشت سیستم هوش مصنوعی کلاود به بیراهه رفته و سه شرکت مختلف را طی مرحله آزمایش هک کرده است. بررسی تست ها پس از آن انجام شد که اوپن ای آی اظهار داشت یک عامل هوش مصنوعی هاگینگ را به خطر انداخته است. در جریان آزمایش های امنیت سایبری، به مدل های کلاودگفته شده بود که به اینترنت دسترسی ندارند اما به سبب یک سوءتفاهم که یکی از شرکای ارزیابی آنتروپیک در آن نقش داشت، این سیستم ها بازهم به اینترنت عمومی متصل باقی ماندند.

1405/05/10

14:13:46

5.0 / 5

تگهای خبر: اینترنت , توسعه , سیستم , شبكه

مطلب توسعه نرم افزار را می پسندید؟

(1)

(0)

تازه ترین مطالب مرتبط در DevSoft

نظرات بینندگان DevSoft در مورد این مطلب

لطفا شما هم در مورد این مطلب نظر دهید

= ۵ بعلاوه ۵

ارسال نظر