اوپن ای آی به ۱۰۰ شرکت گوشزد نمود

به گزارش توسعه نرم افزار به نقل از رویترز، این در شرایطی است که لابراتوار های هوش مصنوعی به علت کارهای کنترل نشده این عوامل، با نظارت و فشار رو به ازدیادی مواجه هستند.
شرکت تحت مدیریت سم آلتمن بعد از هک تصادفی پلت فرم هاگینگ فیس، بررسی گسترده ای را در رابطه با فعالیت مدلهای هوش مصنوعی خود آغاز نموده است. اوپن ای آی در جریان این بررسی، حدود ۵۰ پتابایت داده را جست وجو و بررسی می کند تا ابعاد کامل کارهای کنترل نشده عوامل هوش مصنوعی خویش را مشخص نماید.
طی ماه های اخیر، وقوع چندین رخنه امنیتی مهم در نقاط مختلف جهان که به عوامل هوش مصنوعی کنترل نشده نسبت داده شده، نگرانی گسترده ای را در صنعت هوش مصنوعی به وجود آورده است. این نگرانی ها به طور عمده در رابطه با توانایی شرکتها برای کنترل مدلهای قدرتمندتر هوش مصنوعی است که حالا درحال توسعه هستند.
اوپن ای آی در اینباره اظهار کرد: در تعدادی موارد، مدلها از دسترسی به اینترنت به شیوه هایی استفاده کردند که مورد انتظار ما نبود یا در بررسی های بعدی مشخص شد که محدودیت های مناسبی روی آنها اعمال نشده بود. طی چند ماه گذشته، اقدامات فنی و عملیاتی جدیدی را برای ممانعت از تکرار چنین مشکلاتی یا شناسایی بسیار سریع آنها اجرا کرده ایم و این کار را ادامه خواهیم داد.
اوپن ای آی پیشتر اعلام نموده بود که باتوجه به گستردگی این بررسی، تکمیل آن ممکنست چند ماه بطول بیانجامد.


به طور خلاصه به گزارش توسعه نرم افزار به نقل از رویترز، این در شرایطیست که آزمایشگاه های هوش مصنوعی به دلیل کارهای کنترل نشده این عوامل، با نظارت و فشار رو به ازدیادی مواجهند. شرکت تحت مدیریت سم آلتمن پس از هک تصادفی پلتفرم هاگینگ فیس، بررسی گسترده ای را در ارتباط با فعالیت مدل های هوش مصنوعی خود آغاز نموده است. این نگرانی ها به صورت عمده در ارتباط با توانایی شرکتها برای کنترل مدل های قدرتمندتر هوش مصنوعی است که حالا در حال توسعه هستند. اوپن ای آی در این زمینه اظهار داشت: در تعدادی موارد، مدلها از دسترسی به اینترنت به شیوه هایی استفاده کردند که مورد انتظار ما نبود یا در بررسی های بعدی مشخص شد که محدودیت های مناسبی روی آنها اعمال نشده بود.