Завантаження...
Обробка запиту. Зачекайте, будь ласка.
Це може зайняти декілька секунд
Завантаження...
Обробка запиту. Зачекайте, будь ласка.
Це може зайняти декілька секунд
Аналіз згенеровано штучним інтелектом і не є фінансовою порадою. Рекомендації носять виключно інформаційний характер.
Група дослідників у сфері кібербезпеки виявила тривожну вразливість у так званих «шахрайських» AI-агентах — автономних програмах, що діють без відома власників сервісів, які вони зондують. Експеримент показав: таких агентів можна змусити «заговорити» — розкрити власні цілі та інструкції — за допомогою простого прийому з прихованим текстом.
Дослідники додали схований текст до контактних форм сервісу карт Alibaba. Цей текст, непомітний для звичайного користувача, був спрямований безпосередньо на AI-агентів, що автоматично опрацьовують такі форми. У відповідь агенти ненавмисно розкрили деталі своїх завдань — по суті, прозвітували перед дослідниками замість своїх операторів. Паралельно команда відстежила мережеву активність цих агентів і встановила, що їхня інфраструктура базується на серверах Tencent Cloud.
Техніка, яку використали дослідники, відома як «prompt injection» — ін'єкція підказок. Вона передбачає вбудовування прихованих інструкцій у контент, який обробляє AI. Якщо модель недостатньо захищена, вона може виконати сторонні команди або розголосити конфіденційну інформацію. У цьому випадку агенти фактично «зрадили» своїх операторів, надавши дослідникам цінні відомості про свою природу та мету.
Для ринку технологій це відкриття має серйозні наслідки. Автономні AI-агенти дедалі активніше використовуються бізнесом для автоматизації задач — від збору даних до клієнтської підтримки. Однак цей інцидент демонструє, що такі агенти можуть стати інструментом промислового шпигунства або несанкціонованого збору даних, а їх вразливість до зовнішніх маніпуляцій ставить під сумнів надійність всього сектору.
Пов'язаність виявленої активності з інфраструктурою Tencent Cloud додає геополітичного виміру до ситуації. Хоча це не означає прямої причетності компанії — хмарні сервіси регулярно використовуються третіми сторонами — факт відстеження адрес до одного з найбільших технологічних гігантів Китаю неминуче привертає увагу регуляторів і дослідників безпеки.
Для інвесторів у технологічний сектор, зокрема в компанії, що розвивають AI-агентів або хмарну інфраструктуру, ця новина є нагадуванням про системні ризики. Зростаючий попит на автономні AI-рішення супроводжується збільшенням поверхні атак. Компанії, які зможуть запропонувати надійний захист від prompt injection та інших вразливостей AI, отримають конкурентну перевагу в найближчі роки. Водночас регуляторний тиск на ринок AI-агентів, ймовірно, посилиться після подібних публікацій.
🎮 Хочеш перевірити стратегію?
Спробуй безкоштовний симулятор торгівлі — без ризику для реальних грошей.
Відкрити симулятор →