Техника цифровой безопасности

инструктаж по цифровой безопасности · обязателен к прочтению

Войти
Мой любимый язык:

инструктаж · 12 мин

6. Безопасность при использовании ИИ

Голос в трубке больше не доказательство. Разбираемся, что теперь считать доказательством.

То, что раньше служило доказательством — «я узнал этот голос, значит, это правда он», — сегодня подделывается по короткой записи. Бдительность тут нужна того же сорта, что и в теме про фишинг: галочку один раз не включишь, каждый звонок оценивается заново.

Сделай это прямо сейчас

Проверить звонок обратным звонком

Правило одно: просят деньги, код или срочную помощь — положите трубку и перезвоните сами. Голос в трубке не доказательство: в исследовательской модели VALL-E для подделки голоса хватило записи длиной 3 секунды.1 Видеозвонок тоже не доказательство, картинку подделывают так же.

Это не теория. В начале 2024 года сотрудник гонконгского офиса британской инженерной компании Arup2 подключился к видеоконференции, где «финансовый директор» и «коллеги» оказались дипфейками.3 По их указаниям он сделал 15 переводов на сумму около 200 млн гонконгских долларов (около 25 млн долларов США); обман вскрылся, когда сотрудник обратился в головной офис.4

Базовый минимум.

  1. Завершите звонок или видеозвонок. Разговор не продолжайте, деньги и коды не называйте.
  2. Откройте приложение «Контакты» на телефоне, найдите человека по имени и нажмите «Позвонить». Номер берите только из контактов: не из истории вызовов и не из присланного сообщения.
  3. Если человека или номера в контактах нет — деньги не переводите, пока не получите номер у того, кто знает этого человека лично.
  4. Когда дозвонились, спросите: «Ты только что звонил и просил деньги?» Только после ответа «да» обсуждайте перевод.
  5. Один раз скажите это правило вслух всем, кто живёт с вами, и напишите его в семейный чат одной строкой: «Деньги — только после звонка на номер из контактов».

Типовой сбой: человек не берёт трубку. Деньги не переводите, пока не дозвонились лично: спешка и давление — типичный приём таких схем. вывод автора

Получилось — когда все, кто живёт с вами, знают правило из шага 5 и оно записано в семейном чате.

Максимум

Дополнительно (на выбор): в контактах нет номера. Критерий выбора — кто просит. Человек из семьи или с работы: позвоните тому, кто знает его лично, и попросите назвать номер или передать, чтобы он позвонил вам сам. Банк или служба: позвоните по номеру с оборота карты или с официального сайта организации, а не по тому, что назвали в разговоре. вывод автора

Договориться о контрольном слове

Контрольное слово помогает быстро заподозрить подделку, но обратный звонок не заменяет: для денег он обязателен даже тогда, когда слово названо верно.

Базовый минимум.

  1. Придумайте слово из двух-трёх случайных слов, не связанных с вами: не имя, не кличка питомца, не девичья фамилия, не дата. Пример формы: «фиолетовый бегемот». Этот пример уже опубликован, возьмите своё. вывод автора
  2. Соберите всех, кого касается: тех, кто живёт с вами, и до пяти близких, кому вы звоните чаще всего. Скажите слово вслух при личной встрече; каждый повторяет его вслух. вывод автора
  3. Слово не пишите в чат и не храните в заметках телефона: его знают только те, кто слышал его вслух. вывод автора
  4. Договоритесь о порядке: если кто-то просит деньги или срочную помощь, вы просите его назвать слово. Слово называет звонящий сам, без подсказки.
  5. Скажите вслух: «Спрашивать слово — не обидно». Слово не названо или названо неверно — положите трубку и перезвоните по номеру из контактов (раздел выше).

Типовой сбой: близкий забыл слово. Это не повод переводить деньги: перезвоните по номеру из контактов и обсуждайте дальше только после этого.

Получилось — когда слово придумано и каждый, кого оно касается, один раз повторил его вслух.

Максимум

Дополнительно (на выбор): вопросы вместо слова. Берите, если близкий не запомнит слово, например пожилой родственник. Заранее договоритесь о двух-трёх вопросах про то, чего на самом деле нет: «как там Вулфи?» (собаки давно нет), «не забыл полить цветы у бабушки?», «как прошёл футбол во вторник?» (никакого футбола не было). Задавайте один вскользь, голосом обычной заботы. Свой человек растеряется и поправит: «Какой Вулфи?»; подделка с большей вероятностью поддержит тему, о которой не знает. вывод автора Если вопрос уже «засветился», возьмите другой. Вопросы не публикуйте в соцсетях и не проговаривайте в голосовых.

Максимум

Дополнительно (на выбор): смена слова. Берите, если слово кто-то мог услышать со стороны или записать. Придумайте новое и повторите шаги 1–2. Без такого повода меняйте слово раз в год. вывод автора

Убрать лишнее из запроса чат-боту

Правило: не отправляйте в чат-бот ничего из этого списка: пароли и коды, паспортные данные, медицинские выписки, финансовые документы, рабочие документы, чужие переписки. Всё, что вы отправили в чат-бот, вы отправили в чужую компанию, а дальше это живёт по её правилам. Ваш разговор может уйти в обучение модели или к сотрудникам при проверке безопасности; а если закон требует, чаты могут храниться и дольше обычного.5 Гарантий, что этого не случится, нет.6 Анкету придётся заполнить руками, это дольше, чем сфотографировать документ, зато документ остаётся у вас. ( утечки данных ).

Видеоподсказка / Video guide: Первый отдел (@DeptOne) — Чем ОПАСНЫ нейросети для взрослых

Если звук не включился автоматически, нажмите кнопку.

Первый отдел (@DeptOne) — Чем ОПАСНЫ нейросети для взрослых — подсказка к практике не отправлять нейросетям секреты и документы.

Проверь себя. Что из этого лучше не отправлять в чат-бот? Отметьте всё, что подходит.

  1. Просьбу объяснить своими словами, чем отличается вирус от червя.
  2. Фотографию паспорта, чтобы бот заполнил за вас анкету.
  3. Выписку от врача, чтобы бот пересказал диагноз человеческим языком.
  4. Кусок рабочего договора, чтобы бот сделал из него короткое резюме.

Второй, третий и четвёртый. Правило простое: всё, что вы отправили в чат-бот, вы отправили в чужую компанию, на чужие серверы, и дальше это живёт по её правилам, а не по вашим. Первый вопрос — ровно то, для чего эта штука и нужна: спрашивать объяснения не жалко. А анкету, к сожалению, придётся заполнить руками — да, дольше.

Если что-то из списка уже отправлено, удалите каждый такой чат.

Базовый минимум.

  1. Откройте список чатов сервиса: он в боковой панели.
  2. Удалите по одному каждый чат, где были пароль, документ или чужие данные. Сервис, которым вы не пользуетесь, пропустите.
    • ChatGPT: наведите на чат, нажмите три точки рядом с названием → «Delete» и подтвердите удаление.7
    • Claude: наведите на чат, нажмите «⋮» → «Delete» и ещё раз «Delete» для подтверждения. В приложении на Android: откройте чат → «⋮» вверху справа → «Delete». В приложении на iPhone: нажмите на чат в списке и удерживайте → «Delete» и подтвердите, если приложение попросит.8
    • Gemini: на gemini.google.com наведите на чат в боковой панели → «More» → «Delete». Если список скрыт, нажмите «Menu» вверху. Чат при этом удаляется и из «Gemini Apps Activity».9
  3. Проверка: в списке не осталось ни одного чата с паролем, документом или чужими данными.

Типовой сбой: нужного чата в списке нет. Удалять нечего, переходите к следующему сервису.

Получилось — когда в истории переписки с ботом не осталось ни одного сообщения с паролем, документом или чужими данными.

Максимум

Дополнительно: что удаление не отменяет. Берите, если в удалённых чатах были действительно чувствительные данные. Claude убирает чат из истории сразу, а из своих внутренних систем — в течение 30 дней.10 ChatGPT планирует окончательное удаление в течение 30 дней, если данные не обезличены заранее и их не нужно хранить по требованию закона или безопасности.11 Из уже обученной модели данные не убрать.12 Чаты Gemini, которые уже проверили люди, хранятся отдельно от аккаунта до трёх лет и при удалении активности не стираются.13 Что отправлено, того не вернуть: поэтому правило выше стоит раньше удаления.

Максимум

Дополнительно (на выбор): отключить обучение на ваших переписках. Берите, если пользуетесь сервисом постоянно. Переключатель отключает только обучение на будущих чатах: уже отправленное он не удаляет, переписка у компании всё равно хранится по её правилам, и сервис он не делает приватным. ( защита от утечек ).

  • Claude: аватар или имя → «Settings» → «Privacy», переключатель про улучшение моделей. Выключенный, он не пускает новые чаты в будущее обучение, но чаты, отмеченные классификаторами безопасности, могут использоваться для безопасности сервиса.14
  • ChatGPT: «Settings» → «Data controls». Выключение останавливает обучение на новых разговорах, а старые чаты остаются в истории.15
  • Gemini: «Keep Activity» на странице Gemini Apps Activity (myactivity.google.com/product/gemini). Выключенный, он не пускает будущие чаты в обучение, но Google всё равно хранит их 72 часа.16

Найти в настройках чат-бота пункт про обучение на ваших переписках и выключить его.

Проверить ответы чат-бота

Уверенный тон ответа не означает, что ответ правильный. Модель может уверенно сообщить неверное, а тон ответа не показывает, насколько ответ надёжен.17 Ошибочный ответ нередко звучит так же уверенно, как верный.

Проверяйте всегда, когда в ответе деньги (суммы, реквизиты, тарифы), здоровье (лекарства, дозировки) или официальные бумаги (сроки, штрафы, законы). Остальное, например идеи подарка на день рождения, не проверяйте.

Базовый минимум.

  1. Выпишите из ответа конкретное: число, название лекарства, срок, номер статьи.
  2. Найдите то же на сайте, который отвечает за это: банка для тарифов и реквизитов, производителя лекарства или инструкцию в упаковке для дозировок, ведомства для сроков и штрафов. вывод автора
  3. Совпало — действуйте. Не совпало или подтверждения нет — верьте сайту, а не боту.

Типовой сбой: подтверждения не нашли. Не действуйте по ответу бота: спросите в банке, у врача или фармацевта. вывод автора

Получилось — когда каждое число из ответа про деньги, лекарства или документы вы увидели на официальном сайте.

Максимум

Дополнительно (на выбор): локальная модель вместо облачного сервиса. Берите, если конфиденциальность конкретной задачи важнее качества и скорости ответа: юрист с чужими документами, врач с историями болезни, любой, кто по работе регулярно имеет дело с чужими секретами. Для бытовых вопросов (рецепт, письмо) не стоит: обычный веб-сервис с выключенным обучением справится не хуже и без установки, хотя приватность остаётся на условиях компании. Локальные модели, которые тянет обычный домашний компьютер без мощной видеокарты, как правило, слабее и медленнее самых мощных облачных. вывод автора

По умолчанию берите Ollama: у неё открытый исходный код (лицензия MIT).18 Пока вы не входите в аккаунт Ollama и не выбираете модели с «cloud» в названии, она, по её FAQ, не видит ваши запросы; облачные модели Ollama обрабатывает у себя.19

  1. Скачайте Ollama с ollama.com/download. Нужен macOS 14 (Sonoma) или новее, либо Windows 10 22H2 или новее.20
  2. Установите. Mac: откройте ollama.dmg и перетащите Ollama в «Программы» (/Applications). Windows: запустите OllamaSetup.exe; права администратора не нужны.21
  3. Откройте терминал (Windows: cmd или PowerShell; Mac: приложение «Терминал») и выполните ollama run gemma4:e2b. Первый запуск скачивает модель около 7 ГБ, дальше начинается чат прямо в терминале. Выход из чата — /bye.22
  4. Проверка: отключите интернет и задайте вопрос. Ответ пришёл — запрос обрабатывает ваш компьютер. вывод автора

Памяти должно хватать на файл модели целиком: он загружается в оперативную память или в память видеокарты.23 Ориентир — 16 ГБ оперативной памяти, как рекомендует LM Studio для Mac и Windows; у Ollama минимум в документации не указан.24 Если e2b запускается, но отвечает слабо, а памяти хватает, возьмите модель крупнее из той же линейки: gemma4:12b — около 8 ГБ, gemma4:26b — 16–19 ГБ; чем больше файл, тем больше памяти нужно. Если e2b не запускается из-за нехватки памяти, более крупная модель не запустится тем более: закройте другие программы и повторите шаг 3.25

Типовой сбой: команда ollama не найдена. Закройте терминал, откройте новый и повторите шаг 3.

Дополнительно (на выбор): LM Studio вместо Ollama. Берите, если не хотите работать в терминале: модели выбираются и запускаются в окне программы. LM Studio бесплатна для дома и работы, но с открытым исходным кодом не распространяется.26 На Mac нужен процессор Apple Silicon (M1–M4) и macOS 14 или новее; на Windows — x64 с AVX2 или ARM.27

Если сводить тему к одной мысли: раньше, чтобы убедительно обмануть, нужно было постараться, а теперь для этого хватает короткой случайной записи и чужой спешки, — поэтому и защита работает не на слух, а на действии: контрольное слово заранее и обратный звонок на известный номер, когда что-то не сходится. В следующей теме — про приватность в сети: разговор смещается с того, что вы сами присылаете в чат, на то, что о вас и так видно посторонним в браузере и в соцсетях.

  1. Neural Codec Language Models are Zero-Shot Text to Speech Synthesizers (VALL-E), arXiv:2301.02111, в аннотации: «only a 3-second enrolled recording of an unseen speaker»; результат исследовательской модели, не готового сервиса, на англ. Проверено: 2026-10-13.↩︎

  2. Пересказ в Fortune: Arup, жертва дипфейк-мошенничества и Пересказ в CFO Dive: материал Financial Times, оба на англ.; подтверждают, что жертвой стала Arup; вторичные источники, заявление Arup и пресс-релиз полиции для проверки не открылись. Проверено: 2026-10-12.↩︎

  3. Пересказ в The Register: Hong Kong deepfaked CFO, на англ. Пересказ сообщения полиции Гонконга (февраль 2024, компания в нём не названа); первоисточники (полиция Гонконга, Arup) для проверки не открылись. Проверено: 2026-10-12.↩︎

  4. Пересказ в Fortune: Arup, жертва дипфейк-мошенничества и Пересказ в The Register: Hong Kong deepfaked CFO, оба на англ.; число переводов, сумма и обращение в головной офис указаны в обоих; вторичные источники, первоисточники для проверки не открылись. Проверено: 2026-10-12.↩︎

  5. Claude: как долго хранятся мои данные («we may retain chats and coding sessions as required by law»), на англ. Проверено: 2026-10-12.↩︎

  6. Claude: используются ли мои данные для обучения моделей и Google: Gemini Apps Privacy Hub, оба на англ. Проверено: 2026-10-12.↩︎

  7. OpenAI Help: How to delete and archive chats in ChatGPT, на англ.; страница напрямую не открылась (ответ 403), путь «боковая панель → три точки → Delete» взят из пересказа поисковой выдачи по зеркалу этой справки; подтверждения «Delete» в приложении не проверены. Проверено: 2026-10-13.↩︎

  8. Claude Help: How can I delete or rename a conversation?, на англ. Проверено: 2026-10-13.↩︎

  9. Справка Gemini: удаление чатов и активности, «More» → «Delete», при удалении чат пропадает и из Gemini Apps Activity; русские подписи кнопок страница не приводит, на англ. Проверено: 2026-10-13.↩︎

  10. Claude Help: How can I delete or rename a conversation?, «removed from your history immediately and from Anthropic’s back-end systems within 30 days», на англ. Проверено: 2026-10-13.↩︎

  11. OpenAI Help: How to delete and archive chats in ChatGPT, на англ.; страница напрямую не открылась (ответ 403), срок в 30 дней и исключения взяты из пересказа поисковой выдачи по зеркалу справки. Проверено: 2026-10-13.↩︎

  12. Claude: как изменить настройки улучшения моделей, данные, уже вошедшие в обучение, остаются в обученных моделях, на англ. Проверено: 2026-10-13.↩︎

  13. Google: Gemini Apps Privacy Hub, чаты, уже просмотренные людьми, не удаляются вместе с активностью и хранятся до трёх лет отдельно от аккаунта, на англ. Проверено: 2026-10-13.↩︎

  14. Claude: как изменить настройки улучшения моделей, путь Settings → Privacy; в поиске и на самой странице название переключателя дано по-разному («Help Improve Claude» и «Help Improve our AI models»), поэтому в тексте оно не приводится; на англ. Проверено: 2026-10-13.↩︎

  15. OpenAI Help: Data controls in ChatGPT и OpenAI Help: How your data is used to improve model performance, на англ.; страницы напрямую не открылись (ответ 403), путь «Settings → Data controls» взят из пересказа поисковой выдачи; точная подпись переключателя в тексте не приводится. Проверено: 2026-10-13.↩︎

  16. Google: Gemini Apps Privacy Hub, переключатель «Keep Activity» на странице Gemini Apps Activity; при выключении будущие чаты не идут в обучение, но хранятся 72 часа, на англ. Проверено: 2026-10-13.↩︎

  17. OpenAI Help: Does ChatGPT tell the truth?, на англ.; страница напрямую не открылась (ответ 403), содержание взято из пересказа поисковой выдачи. Проверено: 2026-10-13.↩︎

  18. Ollama на GitHub, лицензия MIT, на англ. Проверено: 2026-10-13.↩︎

  19. Ollama FAQ, «We don’t see your prompts or data when you run locally»; облачные модели обрабатываются у Ollama, на англ. Проверено: 2026-10-13.↩︎

  20. Ollama: macOS и Ollama: Windows, macOS Sonoma (v14) или новее, Windows 10 22H2 или новее, на англ. Проверено: 2026-10-13.↩︎

  21. Ollama: macOS и Ollama: Windows, установка ollama.dmg в /Applications, OllamaSetup.exe без прав администратора, на англ. Проверено: 2026-10-13.↩︎

  22. Ollama: Quickstart, ollama run gemma4:e2b, около 7,2 ГБ загрузки, выход /bye, на англ. Проверено: 2026-10-13.↩︎

  23. Ollama FAQ, модель загружается в память видеокарты или в оперативную память при работе на процессоре, на англ. Проверено: 2026-10-13.↩︎

  24. LM Studio: System Requirements, «16GB+ RAM recommended» для Mac и Windows; для Ollama минимальный объём памяти в документации не указан, на англ. Проверено: 2026-10-13.↩︎

  25. Ollama: gemma4, размеры загрузки: e2b 4,6–7,5 ГБ, 12b 7,7–8,0 ГБ, 26b 16–19 ГБ; требований к памяти страница не указывает, на англ. Проверено: 2026-10-13.↩︎

  26. LM Studio: free for use at work («free to use both at home and at work») и LM Studio: Terms of Service (исходный код программы — коммерческая тайна, лицензия на личные или внутренние нужды), на англ. Проверено: 2026-10-13.↩︎

  27. LM Studio: System Requirements, Mac: Apple Silicon (M1–M4), macOS 14.0+; Windows: x64 с AVX2 и ARM, на англ. Проверено: 2026-10-13.↩︎