инструктаж № 6 · 12 мин
Безопасность при использовании ИИ
Голос в трубке больше не доказательство. Разбираемся, что теперь считать доказательством.
То, что раньше служило доказательством — «я узнал этот голос, значит, это правда он», — сегодня подделывается за пару минут. Бдительность тут нужна того же сорта, что и в теме про фишинг: галочку один раз не включишь, каждый звонок оценивается заново.
Сделай это прямо сейчас
Голос в трубке — больше не доказательство
Схема «звонит родственник, у него беда, срочно нужны деньги» знакома, наверное, всем — и раньше от неё худо-бедно спасала обычная внимательность: голос в трубке звучал слишком глухо, слова были не те, что сказал бы именно этот человек. Разница в том, что для убедительной подделки голоса сегодня хватает буквально пары минут любой записи этого человека — голосового сообщения, кружка в мессенджере, старого видео с чьего-нибудь дня рождения, — и результат звучит достаточно похоже, чтобы обмануть на слух в первые растерянные секунды звонка.
Отсюда неудобное следствие: голос в трубке больше не доказательство того, что говорит именно этот человек, — и видеозвонок, если честно, тоже, с картинкой умеют делать то же самое. Доказательство теперь ровно одно: перезвонить самому, на номер, который вы знаете заранее и набрали сами, а не тот, с которого только что звонили или писали, — тот же приём, что уже пригодился в теме про фишинг: доверяем каналу, который завели сами, а не тому, что подсовывают прямо сейчас. Тот же принцип касается и картинки: сгенерированная фотография или видео сами по себе ничего не доказывают, особенно если вас в этот момент ещё и торопят: спешка здесь не случайность, а часть схемы.
Получилось — когда дома есть чёткая договорённость: деньги переводятся только после звонка на номер, который вы набрали сами, а не тот, с которого только что звонили.
Контрольное слово: семейная игра, а не протокол
По-настоящему помогает тут контрольное слово внутри семьи. Придумать его можно прямо за ужином: кто-то в шутку предлагает «пусть будет фиолетовый бегемот» — и вот оно, слово готово; чем нелепее и своевольнее, тем лучше, лишь бы не имя питомца из соцсетей и не девичья фамилия бабушки, которые постороннему нетрудно найти. Это не протокол безопасности, а скорее семейная игра, и относиться к ней стоит именно так — паранойи в этой теме и так хватит без нашей помощи.
Договориться о слове — дело одного вечера, а вот пользоваться им приходится каждый раз заново, совсем как с приёмами из темы про фишинг: разового решения тут не бывает, каждый звонок оценивается отдельно. Даже если слово названо верно, для перевода денег обратный звонок на известный номер всё равно обязателен — это правило без исключений, слово его не заменяет; зато оно помогает решить, стоит ли вообще напрягаться с перезвоном, когда просьба не про деньги. И ещё стоит заранее проговорить вслух: спрашивать слово — не обидно и не значит «я тебе не верю», а если собеседник в трубке торопит и путает слово или не помнит его вовсе, вежливо вешайте трубку и перезванивайте сами, на тот номер, который знаете заранее.
Получилось — когда контрольное слово придумано и о нём знают все, кого оно касается, а не только вы один.
Что не стоит отправлять чат-боту
Список короткий: пароли, паспортные данные, медицинские выписки, финансовые документы, рабочие документы, чужие переписки. Правило одно на весь список сразу: всё, что вы отправили в чат-бот, вы отправили в чужую компанию, — а дальше это живёт по её правилам, а не по вашим.
Это очень болтливый попутчик в поезде: умный, полезный, охотно помогает, и совершенно точно перескажет ваш разговор дальше — не со зла, просто такой уж он есть. С этим попутчиком прекрасно обсудить, чем вирус отличается от червя, а вот паспорт ему в руки лучше не давать: да, заполнить анкету от руки и правда дольше, чем сфотографировать документ и переслать боту, — но у такого длинного языка доверия быть не может. ( утечки данных ).
Видеоподсказка / Video guide: Первый отдел (@DeptOne) — Чем ОПАСНЫ нейросети для взрослых
Если звук не включился автоматически, нажмите кнопку.
Первый отдел (@DeptOne) — Чем ОПАСНЫ нейросети для взрослых — подсказка к практике не отправлять нейросетям секреты и документы.
Проверь себя. Что из этого лучше не отправлять в чат-бот? Отметьте всё, что подходит.
- Просьбу объяснить своими словами, чем отличается вирус от червя.
- Фотографию паспорта, чтобы бот заполнил за вас анкету.
- Выписку от врача, чтобы бот пересказал диагноз человеческим языком.
- Кусок рабочего договора, чтобы бот сделал из него короткое резюме.
Второй, третий и четвёртый. Правило простое: всё, что вы отправили в чат-бот, вы отправили в чужую компанию, на чужие серверы, и дальше это живёт по её правилам, а не по вашим. Первый вопрос — ровно то, для чего эта штука и нужна: спрашивать объяснения не жалко. А анкету, к сожалению, придётся заполнить руками — да, дольше.
Если что-то из списка уже отправлено — не поздно почистить задним числом: откройте историю переписки с чат-ботом (обычно она хранится прямо в приложении или на сайте, во вкладке с историей чатов) и сотрите те сообщения, где мелькали пароль, документ или чужие данные, — заодно и вложенные файлы, если вы их туда прикладывали.
Получилось — когда в истории переписки с ботом не осталось ни одного сообщения с паролем, документом или чужими данными.
Максимум
У большинства крупных чат-ботов есть отдельный переключатель, который управляет ровно одним: используют ли ваши переписки, чтобы дальше обучать модель. Живёт он почти всегда в одном и том же месте — в настройках аккаунта или приложения, в разделе про приватность или про данные, часто рядом с пунктом «история чатов»; конкретное название и путь у каждого сервиса свои и время от времени меняются, поэтому проще один раз самому открыть настройки и поискать слово «обучение» или «данные», чем полагаться на инструкцию, которая устареет раньше, чем вы её дочитаете.
Важно понимать, чего этот переключатель не делает. Он не удаляет уже отправленные сообщения с серверов компании — переписка там всё равно хранится какое-то время, обычно по своим правилам хранения. И он не превращает сервис в приватный: компания всё ещё видит, что вы ей написали, просто обещает не использовать это как учебный материал для будущих версий модели. Разница ощутимая, но не абсолютная — выключенный переключатель не повод присылать боту то, что туда и так отправлять не стоит: пароли, документы, чужие переписки. ( защита от утечек ).
Найти в настройках чат-бота пункт про обучение на ваших переписках и выключить его.
Уверенный тон — не то же самое, что правильный ответ
Уверенный тон ответа не означает, что ответ правильный. Модель не знает, что ошибается, — уверенность в тоне ничего не говорит о том, права она или нет, и неправильный ответ поэтому звучит ровно так же гладко, как правильный: так эта штука устроена по умолчанию, а не в редком сбойном случае. Проверять стоит именно там, где на кону деньги, лекарства и документы, а не в любом случае подряд — если бот помогает накидать вариантов подарка на день рождения, лишняя проверка попросту не нужна.
Максимум
Есть способ вообще не пересылать свои данные никакой компании — запустить языковую модель локально, на собственном компьютере, без интернета и без чужих серверов в цепочке. На практике это означает установить отдельную программу (например, LM Studio или Ollama) и загрузить в неё файл модели размером в несколько гигабайт — дальше разговор происходит только между вами и вашим же компьютером.
Дальше начинаются оговорки. Модели, которые тянет обычный домашний компьютер без мощной видеокарты, заметно слабее и медленнее тех, что крутятся на серверах крупных компаний, — и это честный компромисс, а не бесплатный обед. Локальная модель — вариант для тех, кому конфиденциальность конкретной задачи важнее качества и скорости ответа: юриста с чужими документами, врача с историями болезни, кого угодно, кто по работе регулярно имеет дело с чужими секретами, а не разово. Для обычной бытовой переписки с ботом — спросить рецепт или помочь с письмом — овчинка обычно не стоит выделки: обычный веб-сервис с выключенным обучением на переписках справится ничуть не хуже и без возни с установкой.
Если сводить тему к одной мысли: раньше, чтобы убедительно обмануть, нужно было постараться, а теперь для этого хватает пары минут случайной записи и чужой спешки, — поэтому и защита работает не на слух, а на действии: контрольное слово заранее и обратный звонок на известный номер, когда что-то не сходится. В следующей теме — про приватность в сети: разговор смещается с того, что вы сами присылаете в чат, на то, что о вас и так видно посторонним в браузере и в соцсетях.