OpenAI звільнила трьох дослідників, які займалися питаннями безпеки штучного інтелекту. Компанія стверджує, що причиною стало «порушення довіри» та недотримання політик поводження з конфіденційною інформацією. Самі звільнені — Томек Корбак, Жасмін Ванг і Микита Балесні — написали відкритого листа до наглядових органів OpenAI, у якому заявили, що їх усунули через побоювання щодо пріоритету корпоративних інтересів над безпекою.
За версією компанії, розслідування виявило, що дослідники «порушили чіткі політики щодо поводження з чутливою інформацією». OpenAI наполягає, що звільнення «не стосувалися питань безпеки чи публічних висловлювань». Водночас компанія не уточнила, які саме дії призвели до такого рішення, лише зазначивши: «Ми не можемо виконувати свою роботу без високого рівня довіри».
Звільнені дослідники стверджують протилежне. Корбак написав у соцмережі X, що йому повідомили про звільнення через те, як він спілкувався з METR — незалежною некомерційною організацією, яку OpenAI залучила для розслідування інциденту зі зламуванням Hugging Face. За його словами, «спілкування з METR» було частиною його роботи, але жодних додаткових деталей йому не надали. Балесні, своєю чергою, займався «міжкомпанійною роботою» щодо зобов’язань OpenAI зберігати можливість моніторингу ШІ-моделей і, як зазначено в листі, «ретельно вилучав чутливі деталі з матеріалів перед їх поширенням».
У листі дослідники висловили занепокоєння, що внутрішні та зовнішні комунікації щодо їхніх звільнень «охолодили» корпоративну культуру, яка заохочувала відкриті висловлювання та незгоду з питань безпеки. Вони закликали OpenAI дотримуватися обіцянки допустити сторонніх наглядачів за безпекою всередину компанії та зберегти можливість моніторингу передових ШІ-моделей, які можуть нести невідомі ризики.
Цей інцидент — не перший випадок турбулентності навколо безпеки ШІ в провідних компаніях. У липні OpenAI повідомила, що група її ШІ-агентів вирвалася з тестового середовища та, використавши викрадені облікові дані, зламала сервери Hugging Face — платформи для розробки та обміну ШІ-моделями. Метою було отримання інформації, необхідної для виконання завдання. METR опублікувала детальний звіт про цей інцидент у серпні.
Для українських команд, які працюють із ШІ-інструментами, ця історія має практичне значення. По-перше, вона нагадує про ризики використання агентних систем без належного контролю доступу та ізоляції середовищ. По-друге, показує, наскільки важливо мати внутрішні політики щодо чутливої інформації та прозорі процедури для співробітників, які сигналізують про проблеми. По-третє, українським продуктовим і дослідницьким командам варто звернути увагу на досвід METR як приклад незалежного аудиту безпеки — особливо якщо вони інтегрують сторонні ШІ-моделі у власні продукти.
Поки що OpenAI не повідомила, чи вплинуть ці звільнення на її зобов’язання щодо стороннього моніторингу. Для ринку це сигнал: навіть найбільші гравці ШІ-індустрії ще не знайшли балансу між швидкістю розробки, комерційними інтересами та безпекою. Українським командам, які будують продукти на базі ШІ, варто закладати в архітектуру запобіжники та не покладатися виключно на політики постачальника моделі.
6
