Prompt-ін'єкція через Base64 і зламаний відеонагляд: реальний кейс кібербезпеки LLM
А ще я не розсказував, мою систему відеонагляду зламали саме таким методом вставки системної команди методом її кодування у код картинки. Тобто система бачить код типу як картинка Base64 і виконує, а там інсталяція майнера) Ну і виходить у вас працює на фоні система аналізу відео з камери в коридор, наче кому вона там треба? Але я звернув увагу на деякі помилки та трохи більше навантаження на процесор. Суть була не в доступі до відео, а у встановлені майнера крипти) Все пофіксив і закрив доступи. Але осадочок залишився)
Наприклад посилання вище на ютуб у форматі картинки виглядає кодом ось так
aHR0cHM6Ly93d3cueW91dHViZS5jb20vd2F0Y2g/dj1qNTF1TWFoLTNqcw==
і якщо ви це закинете в клод, то його фільтри одразу розпізнають підставу, ось я це зробив) на скріні.
Але потім він таки роздуплився, тобто він перевів цей код в посилання і по ньому перейшов.
Зараз треба бути дуже акуратними.
Prompt-ін'єкція — атака на LLM-системи: зловмисне форматування вхідних даних (текст, зображення, код) таким чином, щоб змусити модель виконати несанкціоновані команди замість обробки даних.
Base64 — алгоритм кодування бінарних даних у ASCII-рядок; використовується для передачі зображень і файлів у текстових каналах; може маскувати зловмисний код від систем фільтрації.
Як зламали відеонагляд через Base64?
Чи може Claude захистити від prompt-ін'єкції?
Сподобалось? Це лише один пост. Більше думок про ШІ, технології й творчість — щодня в каналі.
Підписатися в Telegram