Google тимчасово заморозив свою програму баг-баунті для open source проєктів. Причина — значне зростання кількості звітів про вразливості, які надходять від інструментів штучного інтелекту. Про це повідомив TechCrunch. Замість керованого потоку якісних повідомлень від дослідників команда безпеки отримала лавину автоматично згенерованих звітів, значна частина яких виявилася марною.
Баг-баунті — це програма, за якою компанія платить дослідникам за знайдені вразливості. Для open source вона працює як своєрідний запобіжник: незалежні фахівці перевіряють код бібліотек і фреймворків, якими користуються тисячі продуктів, і отримують винагороду за реальні знахідки. Google довгий час був одним із найбільших спонсорів таких програм, тож його рішення помітне для всієї індустрії.
Проблема не в тому, що ШІ знаходить вразливості. Проблема в тому, що він генерує їх описи масово, дешево і без достатньої перевірки. Модель може вказати на потенційно небезпечний рядок коду, але не підтвердити, що вразливість реально відтворюється. У результаті тріаж — первинний відбір звітів — перетворюється на ручну роботу, яка з'їдає час інженерів. Саме тріаж, а не самі виплати, стає вузьким місцем.
Google не перший, хто зіткнувся з цим. Культура «ШІ-слопу» — масових, низькоякісних, автоматично згенерованих матеріалів — уже впливає на відкриті репозиторії, платформи для фрілансу і системи модерації контенту. Баг-баунті виявилися особливо вразливими: тут винагорода прив'язана до кількості прийнятих звітів, а поріг входу для генерації тексту впав до нуля. Досліднику більше не потрібно глибоко розуміти код, щоб надіслати правдоподібний опис.
Для українських продуктових команд і агенцій це не абстрактна новина. Багато хто з них користується відкритими бібліотеками, а частина — тримає власні програми винагород або приймає звіти від зовнішніх дослідників. Якщо компанія вирішить запустити баг-баунті, їй варто одразу закладати бюджет на тріаж, а не лише на виплати. Інакше перший же наплив автоматичних звітів заблокує процес.
Що можна зробити вже зараз. По-перше, ввести обов'язкову вимогу відтворення: звіт без робочого прикладу експлойту не приймається до розгляду. По-друге, обмежити кількість звітів від одного дослідника за період — це знижує стимул до масової генерації. По-третє, автоматизувати первинний фільтр: якщо ШІ створює проблему, то ШІ ж може її частково відсіювати, перевіряючи звіти на типові ознаки галюцинацій. По-четверте, чітко описати в правилах програми, що автоматично згенеровані звіти без підтвердження вразливості не оплачуються.
Окреме питання — репутація. Дослідники, які роками будують ім'я на якісних знахідках, опиняються в одному потоці з ботами. Це демотивує і може призвести до відтоку сильних фахівців із програм. Для компанії це означає, що економія на тріажі обертається втратою найціннішого ресурсу — довіри спільноти.
Google поки не повідомив, коли саме відновить програму і на яких умовах. Але сам факт заморозки показує: навіть найбільші гравці з великими командами безпеки не готові до масштабу ШІ-звітів. Для українського ринку це нагадування, що інструменти штучного інтелекту змінюють не лише створення продуктів, а й процеси навколо них — зокрема безпеку і роботу з відкритим кодом.
3
