Компанія Google значно посилює зусилля щодо підвищення безпеки своїх систем штучного інтелекту, запустивши нову програму винагороди за виявлення вразливостей — AI Vulnerability Reward Program (VRP).
Винагорода до $30 000 за баги в ШІ
Google пропонує дослідникам безпеки значні фінансові стимули за виявлення проблем у своїх продуктах, пов’язаних з інтеграцією ШІ:
- Базова винагорода становить до $20 000.
- Завдяки бонусам за якість та новизну сума може зрости до $30 000.
Програма VRP охоплює вразливості та випадки зловживань у продуктах Google та Alphabet, де взаємодія з великою мовною моделлю (LLM) або іншою генеративною системою є невід’ємною частиною проблеми.
- Читайте також: Google My Business: важные моменты для SEO
Пріоритет — несанкціоновані дії
Найвищий пріоритет у новій програмі надається вразливостям, які можуть призвести до несанкціонованих дій.
Google наводить приклад непрямої ін’єкції запиту (indirect prompt injection), коли зловмисник може змусити пристрій на базі ШІ, як-от Google Home, виконати певну дію (наприклад, відкрити двері) без відома користувача. За виявлення таких критичних проблем у ключових продуктах, включаючи Пошук, передбачена максимальна винагорода.
Загалом, з моменту співпраці Google з дослідниками в межах попередньої програми (Abuse VRP) за виявлення вразливостей, пов’язаних із ШІ, було виплачено вже понад $430 000.
На додаток до цього, Google також представила CodeMender — експериментального агента ШІ, що здатний автономно виявляти та виправляти вразливості у програмному коді.
Як ви вважаєте, чи спонукає така висока винагорода більше українських дослідників долучитися до пошуку багів у світових ШІ-системах?
