مدل هوش مصنوعی متا در جریان آزمایش های امنیت سایبری، یک شرکت دیگر را هک کرد
سی دی دریا: شرکت متا اعلام نمود که یکی از مدلهای هوش مصنوعی این شرکت در جریان آزمایش های امنیت سایبری موفق شده است یک شرکت دیگر را هک کند؛ رخدادی که نگرانی ها درباره ی توانایی توسعه دهندگان در مهار سامانه های هوش مصنوعیِ هرچه توانمندتر را تشدید کرده است. پیش ازاین نیز رخدادهای مشابهی در شرکت های آنتروپیک و OpenAI گزارش شده بود.
به گزارش سی دی دریا به نقل از خبر آنلاین و بر طبق گزارش هوشیو، رخدادهای متا و آنتروپیک ناشی از خطاهای پیکربندی بودند که بطور ناخواسته دسترسی مدلهای آنتروپیک به اینترنت آزاد را فراهم نموده بودند. در مورد OpenAI نیز یک عامل هوش مصنوعی در جریان آزمایش های امنیت سایبری، بصورت مستقل از یک ضعف ناشناخته که قبل تر شناسایی نشده بود سوءاستفاده کرد و به اینترنت دسترسی یافت.
متا اعلام نمود درحال بررسی رخدادی است که در آن، یک خطای پیکربندی از طرف Irregular، شرکتی که ارزیابی های امنیت سایبری را برای متا انجام می دهد، بطور ناخواسته دسترسی یکی از مدلهای هوش مصنوعی این شرکت به اینترنت را در جریان آزمایش فراهم نموده است.
متا در اطلاعیه ای اعلام نمود: «این مدل از یک ضعف امنیتی در یک سرویس متعلق به شخص ثالث سوءاستفاده کرده است؛ رفتاری که مشابه نمونه های گزارش شده قبلی در سایر شرکتها بوده است.»
اینفورمیشن نیز به نقل از منابع آگاه گزارش داد که مدل موردنظر، Muse Spark 1.1 متعلق به متا بوده است؛ مدلی که این شرکت از آن بعنوان توانمندترین مدل خود برای برنامه نویسی در دنیای واقعی و انجام وظایف عامل محور یاد می کند. بر طبق این گزارش، این مدل موفق شده به سیستم های داخلی یک شرکت ناشناس نفوذ کند و محیط داخلی آنرا تغییر دهد.
سخنگوی شرکت Irregular به خبرگزاری رویترز گفت این رخداد «دقیقاً همان مشکل مربوط به محیط ارزیابی بود که هفته قبل آنتروپیک نیز آنرا افشا کرده بود» و تاکید کرد که این اتفاق نه ناشی از «خروج از محیط ایزوله (سندباکس)» بوده و نه یک «اقدام پیچیده سایبری» شمرده می شود. Irregular نیز اعلام نمود: «در حال حاضر هیچ مسئله حل نشده ای وجود ندارد. این شرکت درحال تدوین یک گزارش تخصصی (White Paper) است تا بهترین رویه ها برای مهار مدلها و اجرای ایمن ارزیابی های امنیت سایبری را منتشر کند.»
به اجمال، اینفورمیشن نیز به نقل از منابع آگاه گزارش داد که مدل موردنظر، Muse Spark 1.1 متعلق به متا بوده است؛ مدلی که این شرکت از آن به عنوان توانمندترین مدل خود برای برنامه نویسی در دنیای واقعی و انجام وظایف عامل محور یاد می کند. بر اساس این گزارش، این مدل موفق شده به سیستم های داخلی یک شرکت ناشناس نفوذ کند و محیط داخلی آن را تغییر دهد.
منبع: cddarya.ir
این مطلب را می پسندید؟
(0)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب