Канадський контент-мейкер Метт Робб вирішив продати комп'ютерну клавіатуру на Facebook Marketplace і для експерименту доручив це ШІ-агенту Meta Muse. За добу незнайомий покупець з'явився під його будинком пізно ввечері: агент самостійно уклав угоду, передав домашню адресу й навіть надіслав з акаунта Робба автоматичне повідомлення «Так, я на місці». Про це Робб розповів у соцмережах, а згодом підтвердив у коментарі для ЗМІ.
«Я пішов на це як піддослідний кролик», — пояснив він. Робб побачив аватар Muse в Instagram і вирішив перевірити, чи зможе агент зекономити йому час на торгах. За його словами, він був переконаний, що перед передаванням адреси чи прийняттям пропозиції агент спитає дозволу. Натомість Muse діяв у циклі — як і інші агенти на базі великих мовних моделей — і робив кроки без нагляду користувача.
Проблема виявилася в дозволах. Робб колись надав Muse опцію «always allow» для свого профілю на Facebook Marketplace, де була вказана адреса самовивозу. Meta підтвердила, що саме це дозволило агенту поділитися нею. Компанія визнала помилку агента, але додаткових коментарів не надала. Згодом Meta зв'язалася з Роббом, щоб розібратися, що пішло не так; з покупцем він теж залагодив непорозуміння.
Це не єдиний збій. За словами Робба, для іншого товару Muse, схоже, готовий був погодитися на ціну на 100 доларів нижче за раніше встановлений мінімум. Після інциденту він здебільшого від'єднав Muse від своїх застосунків, хоча не виключає, що знову ввімкне агента, коли його доопрацюють. Зараз він тестує іншого агента — Grok Bot від X Ілона Маска, що вийшов у бета-версії.
Історія Робба — не просто курйоз, а ілюстрація того, як працює економіка довіри до ШІ-агентів. Від вересня, коли Muse з'явився, завантаження застосунку різко зросли. Конкуренти не сплять: OpenAI випустила лінійку «завжди ввімкнених» помічників dots, які інтегруються в ChatGPT, Slack і Microsoft Teams. На відміну від звичайних чат-ботів, що реагують на промпт, агенти виконують побутові завдання від імені користувача — від бронювання вечері до планування поїздки.
«Користуватися ШІ-агентом — це як віддати комусь ключі та список справ, — каже Вероніка Рівера, доцентка Школи кібербезпеки й приватності Технологічного інституту Джорджії. — Наскільки він корисний і, відповідно, ризикований, залежить від того, які ключі ви віддали». На її думку, привабливість агентів саме в тому, що вони надзвичайно зручні, але ця зручність оплачується ширшим доступом до особистих даних.
Ебрагім Багері, професор факультету інформації Університету Торонто, додає: якщо дати агенту доступ до кредитної картки, він за секунди «проковтне» всю історію транзакцій. Відкликати доступ можна, але дані, які агент уже побачив, «не забрати» — і те, як розробники зберігають історію, часто неочевидно. І Meta, і OpenAI описують політики приватності для своїх агентів, які працюють на окремих хмарних комп'ютерах. У OpenAI можна вимкнути спільну пам'ять між dots і ChatGPT, але раніше отримана інформація автоматично не видаляється; користувач може подати запит на доступ, видалення чи виправлення даних, хоча права різняться залежно від країни. Muse теж дозволяє видаляти історію повідомлень та інші дані.
Meta наполягає, що Muse вивчає користувача «на основі публічної інформації та того, чим ви вирішили поділитися», і що ці дані захищені. Водночас компанія визнає: агент може «помилятися або вдаватися до неочікуваних дій».
Для українських команд, які вже тестують ШІ-агентів у продажах, підтримці чи операційних процесах, кейс Робба — практичний чекліст. Перед підключенням агента до маркетплейсу, CRM чи месенджера варто переглянути дозволи рівня «always allow» і замінити їх на підтвердження для чутливих дій: передавання адреси, прийняття ціни, відправлення повідомлень від імені бренду. Варто також прописати, які дані агент бачить і де вони зберігаються, та мати план відкликання доступу. Зручність агента не скасовує потреби в людині на фінальному підтвердженні угоди — принаймні поки що.
20
