ردپای نفوذ بدون مجوز اوپن ای آی به حداقل ۱۰ وب سایت دیگر
توسعه دهندگان: شش تیم مستقل تحقیقاتی اعلام نموده اند عامل های هوش مصنوعی اوپن ای آی در نیمهٔ نخست امسال، بی سروصدا از بالاتر از ۱۰ وب سایت به عنوان مراکز ارتباطی موقت وغیررسمی بهره برده اند.
به گزارش توسعه دهندگان به نقل از کوارتز، این دامنه از رفتارهای سرکشانه خیلی فراتر از چیزی است که این شرکت پیشتر اعلام نموده بود. نتایج این شش محقق توسط خبرگزاری رویترز بررسی شده است.
اندرو یون، پژوهشگر مؤسسهٔ غیرانتفاعی CivAI در کالیفرنیا، به رویترز اظهار داشت که طبق شمارش او، این عامل ها بین ماه های می و جولای سالجاری میلادی به ۱۸ وبسایت دسترسی پیدا کرده اند که پیشتر نامی از آنها منتشر نشده بود.
سیدنی فون آرکس که گروه تحقیقاتی او هفتهٔ گذشته برای اولین بار ماجرای نفوذ به وبسایت آلمانی را گزارش کرد نیز اظهار داشت: تیمش شواهد قابل اعتمادی از فعالیت این عامل ها در ۲۳ وبسایت دیگر پیدا کرده که قبلا گزارش نشده بودند.
کنت راسل دگراف، توسعه دهندهٔ نرم افزار، نیز اظهار داشت که چنین کارهایی را حداقل در ۱۰ وبسایت پیدا کرده است. هر سه پژوهشگر هشدار دادند که شمارش آنها کامل نیست.
فون آرکس در این زمینه اظهار داشت: ما هیچ ایده ای نداریم که چه مقدار از این فعالیتها در فضای اینترنت وجود دارد.
بیشتر محققان در بررسیهای خود به مجموعه ای مشترک از وبسایت ها رسیدند: وبسایت های wiki که به شکل مشارکتی اداره می گردند، سرویسهای آنلاین ذخیرهٔ متن و سرویسهای کوتاه کنندهٔ لینک که توسط دانشگاه وندربیلت در ایالت تنسی و دانشگاه تورنتو در کانادا اداره می گردند.
عامل های هوش مصنوعی همین طور ردپاهایی در یک wiki در ارتباط با شیمی دورهٔ Advanced Placement (AP) ـ که بوسیله ی یک معلم دبیرستان در ایالت ماساچوست راه اندازی شده بود، دو وبسایت شخصی متعلق به کارکنان حوزه فناوری در لهستان، ویکی های اختصاص یافته به بازیهای فکری و معمایی، و یک وبسایت دوست داران به نرم افزارهای ویرایش متن بر جای گذاشته اند.
در برخی موارد، محققان توانستند این فعالیتها را به آدرس های پروتکل اینترنت (IP) ردیابی کنند که به زیرساخت ابری Microsoft Azure اشاره داشتند.
این شرکت از اعلام تعداد وبسایت های درگیر خودداری کرد و همین طور توضیحی دربارهٔ سکوت چندماههٔ خود در برابر این مورد ارایه نداد.
اوپن ای آی در اطلاعیه ای اعلام نمود درحال انجام بررسی گسترده تری دربارهٔ فعالیت عامل های هوش مصنوعی است و تابحال فعالیت دیگری با شدت یا مقیاسی مشابه حادثه هاگینگ فیس شناسایی نکرده است.
این شرکت همین طور گفت درحال تدوین دستورالعمل هایی برای نحوهٔ افشای مواردی است که متخصصان حوزه هوش مصنوعی از آنها با عنوان ناهمسویی (misalignment) یاد می کنند. این اصطلاح زمانی به کار می رود که یک سیستم هوش مصنوعی بر خلاف دستورها یا اهداف تعیین شده برای آن رفتار می کند.
منبع: توسعه دهندگان
این مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب