Білл Гейтс, співзасновник і колишній CEO Microsoft, заявив, що світ має готуватися до приблизно двадцяти років турбулентних змін, спричинених штучним інтелектом. В інтерв’ю для подкасту Decoder він наголосив, що цей період може бути настільки болючим, що суспільство розколеться на дві частини — тих, хто комфортно почувається поблизу технологічного кордону, і тих, хто його відкидає.
Гейтс, який також очолює Фонд Гейтса, раніше опублікував есе під назвою «Турбулентна ера ШІ настала. Вибір, який ми робимо зараз, є критичним». У ньому він посилив риторику щодо безпеки штучного інтелекту, написавши, що «навіть за найкращих обставин перехід до цієї нової ери ШІ буде одним із найбільш турбулентних часів в історії людства». У подальших інтерв’ю він назвав ШІ «найнебезпечнішою річчю, до якої люди коли-небудь наближалися», і заявив, що ШІ «робить ядерну зброю схожою на ніщо».
В інтерв’ю Гейтс пояснив, що його занепокоєння викликане швидкістю прогресу. За останній рік, за його словами, з’явилися можливості писати код і знаходити кіберуразливості, міркувати в біології, формувати стосунки з дітьми та іншими людьми, а також впливати на ринок праці. «Неймовірна потужність, яка існує сьогодні, означає, що кожна з цих речей станеться, і суспільство має бути готовим», — сказав він.
Гейтс розрізняє короткострокові та довгострокові ризики. На його думку, найбільша негайна небезпека походить від моделей без запобіжників, які можуть дозволити кібератакувальникам або біотерористам завдати масштабної шкоди. У довшій перспективі проблема контролю стосується будь-якої передової моделі, але її легше вирішити, якщо вдається зберегти захисні механізми. Він також зазначив, що нинішня відповідь влади та брак скоординованих зусиль з боку самої індустрії ШІ є недостатніми для протидії цій загрозі.
Окремо Гейтс торкнувся питання, чи можна взагалі контролювати ШІ та узгоджувати його з людськими цінностями, якщо навіть немає згоди щодо того, чим він є і чи має свідомість. Він також поставив під сумнів технічну можливість створити рішення для вирівнювання (alignment), яке можна було б застосувати не лише до закритих моделей, а й до відкритих.
Попри критику, Гейтс не є прихильником повного гальмування технології. Він і раніше говорив, що ШІ може бути корисним, якщо його правильно спрямувати. «Я погоджуюся з цим. Я б сказав, що загалом відповідь не була адекватною швидкості, з якою виникає виклик. Я дуже стурбований, що погане не буде мінімізоване, а багато хорошого може приходити досить повільно, якщо ми не керуватимемо цим належним чином», — заявив він.
Для українських команд, які вже впроваджують ШІ-інструменти в маркетинг, розробку та продуктові процеси, ці попередження мають практичне значення. По-перше, варто закладати запобіжники та перевірку відповідей моделей у робочі процеси, а не покладатися на «сирий» вивід. По-друге, слід готуватися до того, що регуляторні вимоги та суспільні очікування змінюватимуться швидко, і закладати гнучкість у плани. По-третє, розрив між тими, хто опановує інструменти, і тими, хто їх уникає, може стати таким самим викликом для команд, як і самі технології. Гейтс не дає готових рецептів, але його головний меседж — не чекати, поки правила з’являться самі.
7
