مایکروسافت با هدف بهبود ایمنی هوش مصنوعی از طریق آزمایش‌های امنیتی خارجی، یک برنامه پاداش باگ راه‌اندازی کرد که تا ۱۵۰۰۰ دلار برای یافتن آسیب‌پذیری‌ها در سیستم‌های هوش مصنوعی پاداش ارائه می‌کند.
دامنه اولیه این برنامه ویژگی های مبتنی بر هوش مصنوعی در Bing را شامل می شود، از جمله Bing Chat، Bing Image Creator و ادغام Bing در Microsoft Edge، برنامه Microsoft Start و Skype.
این شرکت این برنامه جایزه جدید را در ارائه ای در کنفرانس امنیتی BlueHat برجسته کرد. هدف آن تشویق محققان امنیتی برای یافتن باگ‌ها و نقص‌ها در محصولات هوش مصنوعی مایکروسافت قبل از اینکه عوامل مخرب بتوانند از آنها سوء استفاده کنند، است.
مایکروسافت در اطلاعیه ای اعلام کرد:
همانطور که در سال جایزه ما در پست وبلاگ مروری در ماه گذشته به اشتراک گذاشته شد، ما به طور مداوم در حال رشد، تکرار، و توسعه برنامه های جایزه خود هستیم تا به مشتریان مایکروسافت کمک کنیم در چشم انداز امنیتی در حال تغییر و فناوری های نوظهور جلوتر از منحنی باشند.
برنامه Bounty مایکروسافت گسترش می یابد و شامل هوش مصنوعی می شود
برنامه جایزه جدید مایکروسافت توسعه یک برنامه موجود است که بیش از 13 میلیون دلار به محققان اهدا کرده است. این امر پس از آن صورت می‌گیرد که این شرکت اخیراً رتبه‌بندی‌های شدت آسیب‌پذیری خود را برای سیستم‌های هوش مصنوعی به‌روزرسانی کرده و یک چالش تحقیقاتی امنیتی هوش مصنوعی برگزار کرده است.
طبق شرایط برنامه جایزه، آسیب‌پذیری‌های واجد شرایط باید آستانه‌های بحرانی مایکروسافت را برآورده کنند، قبلاً گزارش نشده باشند و شامل مراحل واضح و قابل تکرار باشند.
موارد ارسالی بر اساس شدت فنی و همچنین کیفیت گزارش مورد قضاوت قرار خواهند گرفت.
حداقل پرداخت پاداش 2000 دلار برای یک نقص با شدت متوسط است که از 15000 دلار برای آسیب پذیری های بحرانی متغیر است. برای مسائلی که تأثیر قابل توجهی بر مشتری دارند، به صلاحدید مایکروسافت پاداش‌های بالاتر امکان‌پذیر است.
نحوه مشارکت
محققان علاقه مند به مشارکت می توانند آسیب پذیری ها را از طریق پورتال مرکز پاسخگویی امنیتی مایکروسافت ارسال کنند.
مایکروسافت توصیه می‌کند که با استفاده از حساب‌های آزمایشی، از قرار گرفتن در معرض داده‌های مشتری یا انکار خدمات استفاده کنید.
دامنه این برنامه به آسیب‌پذیری‌های فنی در تجربیات Bing مبتنی بر هوش مصنوعی محدود می‌شود. برخی از اقدامات مجاز نیستند، مانند دسترسی به داده‌هایی که به شما تعلق ندارند، سوء استفاده از مشکلات سمت سرور فراتر از اثبات مفهوم، و اجرای آزمایش‌های خودکار که ترافیک زیادی ایجاد می‌کنند.
به طور خلاصه
برنامه جایزه باگ AI مایکروسافت نشان دهنده تمرکز صنعت گسترده تر بر شناسایی و افشای مسئولانه آسیب پذیری ها در سیستم های هوش مصنوعی قبل از سوء استفاده از آنها است.
اگرچه محدود به ویژگی‌های هوش مصنوعی بینگ است، اما ممکن است با توسعه و حفظ قابلیت‌های بیشتر هوش مصنوعی مایکروسافت، این جایزه‌ها بعداً گسترش یابد.
تصویر ویژه: Andrii Yalanskyi/Shutterstock