Перевод на 1 цент превращает банковского ИИ-ассистента в фишинговую страницу (blue41.com)
Blue41 показала непрямую инъекцию промпта против ассистента bunq: враждебные инструкции прячутся в поле «назначение платежа» входящего перевода, а затем попадают в контекст модели, когда вы задаёте любой вопрос, подтягивающий список операций.
Главная переформулировка из треда: это не SQL-инъекция. Тут нечего санировать, нет запроса. Точная аналогия — фишинг, а у фишинга нет чистого технического решения.
Войдите, чтобы сохранить