Skip to content
Start free
Get App

Никогда не пишите ЭТО нейросети

Разбор рисков приватности при общении с нейросетями: модерация чатов, утечка данных Samsung, обучение на загруженных файлах и советы по защите данных.

Key Takeaways

  • Диалоги с нейросетями не являются полностью приватными: их могут читать модераторы и асессоры
  • Сквозное шифрование мессенджеров не распространяется на текст, обрабатываемый самим ИИ-сервисом
  • Не загружайте в нейросети исходный код, персональные документы и конфиденциальные бизнес-данные
  • Отключите использование данных для обучения, обезличивайте запросы или переходите на локальные модели

What the video covers

  • Вступление: история девушки, чей диалог с Claude был передан модераторам и привёл к вызову полиции
  • Антропоморфизм: почему пользователи легко раскрываются перед ИИ как перед идеальным собеседником
  • Шифрование: сквозное шифрование мессенджеров не защищает текст, который получает сама компания ИИ
  • Ручная проверка: асессоры по всему миру могут читать пользовательские промпты для улучшения ответов
  • Кейс Samsung (2023): три утечки за три недели через загрузку исходного кода и записи совещаний в ChatGPT
  • Риски загрузки документов: паспорта, селфи и подписи могут использоваться для обучения моделей
  • Коммерческие тайны: внутренние документы в чатах могут стать доступны посторонним
  • Гигиена данных: отключение использования чатов для обучения в настройках сервисов
  • Правило буквы X: обезличивание имён, компаний, сумм и адресов в запросах
  • Локальные модели (Llama, Mistral через Ollama) как способ не отправлять данные на внешние серверы

Chapters

  1. 00:00История о модерации диалога с ИИ
  2. 01:06Почему мы доверяем нейросетям
  3. 02:02Шифрование и ручная проверка данных
  4. 03:04Кейс Samsung: утечки через ChatGPT
  5. 03:36Риски загрузки документов и файлов
  6. 03:48Как защитить данные: настройки и правило буквы X
  7. 04:22Локальные нейросети и заключение

Answers

Questions about this video

Что произошло с девушкой из видео и почему её диалог стал доступен модераторам?

По описанию в видео, её переписка с Claude была помечена алгоритмом безопасности после упоминания покупки оружия и плана расправы. Диалог передали живым модераторам, которые оценили риски и вызвали полицию.

Какой случай утечки данных в компании разбирается в видео?

Речь идёт о Samsung весной 2023 года: сотрудники загрузили в ChatGPT закрытый исходный код и записи внутреннего совещания. После этого компания ограничила использование нейросетей на рабочих компьютерах.

Как снизить риски при работе с нейросетями согласно видео?

Рекомендуется отключить использование данных для обучения в настройках сервиса и применять «правило буквы X», заменяя реальные имена, компании и суммы обобщёнными обозначениями. Для конфиденциальных задач предлагается локальная модель через Ollama.

Full Transcript — Download SRT & Markdown

00:00
Speaker A
Флорида. Поздний вечер. Обычная квартира. Девушка сидит перед монитором и пишет в чат Claude. Для неё это не просто программа, а идеальный цифровой дневник. Ему можно вывалить всё: обиды, страхи, злость на весь мир. Чат не перебивает, не осуждает, отвечает вежливо и сочувственно.
00:21
Speaker A
Но в какой-то момент в поле ввода летят фразы про покупку оружия и детальный план расправы.
00:26
Speaker A
В этот момент иллюзия приватности рушится. Алгоритм безопасности Anthropic мгновенно помечает диалог. Переписка уходит не в виртуальную бездну, а на экраны живых модераторов. Люди читают её «личный дневник», оценивают риски и вызывают полицию. Через пару часов под окнами девушки уже мигают синие маячки.
00:52
Speaker A
Именно в этот момент становится понятно, как на самом деле устроена эта система. Мы привыкли думать, что диалоговое окно — это наша закрытая песочница. А на деле — комната со стеклянными стенами в центре огромного офиса IT-гиганта. Сегодня разберём: как мы добровольно сливаем в сеть бизнес-планы, исходники, сканы паспортов и свои лица, и почему после одной кнопки «Отправить» секрет перестаёт быть секретом.
01:07
Speaker A
Почему мы вообще так легко раскрываемся перед нейросетью? Всё просто: ИИ работает как идеальный собеседник. Не устаёт, не закатывает глаза, не перебивает фразой «Ой, да у меня то же самое было!». Он всегда на вашей стороне. Наш мозг мгновенно попадается в эту ловушку. В психологии это называется сложным словом антропоморфизм — мы наделяем алгоритм человеческими качествами. И понеслась: в чат летят семейные драмы, диагнозы, личные обиды, черновики писем и даже бизнес-идеи. А если совсем отключить критическое мышление — то и пароли с номерами карт.
01:25
Speaker A
Но за этой вежливой картинкой стоят вполне конкретные серверы и правила обработки данных. Когда вы пишете другу в мессенджере — работает сквозное шифрование. Сервис видит факт отправки, но внутри конверта для него — каша из символов.
01:42
Speaker A
С нейросетью этот номер не пройдёт. Канал связи зашифрован, но сама компания получает ваш текст в абсолютно чистом, читаемом виде. Иначе модель просто не поймёт, что вам ответить.
01:58
Speaker A
Ваш запрос летит на сервер. Там его проверяют авто-фильтры, а дальше… часть переписок отправляют на ручную проверку. Тысячи асессоров по всему миру сидят и вручную читают ваши промпты, чтобы улучшать качество ответов. То есть, пока вы слёзно просите бота составить текст для увольнения бизнес-партнёра, где-то на другом конце планеты живой человек пьёт кофе и читает вашу драму как свежий сериал на Netflix.
02:04
Speaker A
Думаете, это касается только личных историй? Давайте про деньги. Весна 2023 года. В Samsung сотрудники начинают использовать ChatGPT для рабочих задач. Обычная история: ускорить рутину, проверить текст, разобраться с кодом. Но всего за три недели всплывают сразу три утечки. Один инженер загружает в чат закрытый исходный код и просит найти ошибки. Второй отправляет другой фрагмент кода и просит его переписать. Третий записывает внутреннее совещание руководства, кидает расшифровку в нейросеть и просит сделать короткий конспект.
02:15
Speaker A
Вместе с запросами на внешние серверы уходят куски секретного кода, технические детали и внутренние планы компании. После этого Samsung срочно ограничивает использование нейросетей на рабочих компьютерах и начинает разрабатывать собственные инструменты для сотрудников.
02:36
Speaker A
Мы загружаем паспорт, селфи, медицинскую карту — и думаем, что нейросеть просто выполнила просьбу. Но некоторые сервисы могут использовать такие файлы, чтобы обучать и улучшать свои модели. Лицо, ваша подпись, печать, поля паспорта — всё это может стать частью огромного массива примеров, на которых учится система. Она всё лучше воспроизводит лица, документы, почерк.
02:56
Speaker A
И однажды по чужому запросу нейросеть может создать изображение, очень похожее на ваше: ваше лицо на чужой картинке, справку с похожим оформлением или документ с вашими личными данными. Вы отправили файл — и уже не знаем, сколько он будет храниться, кто получит к нему доступ и используют ли его для обучения.
03:11
Speaker A
С паспортом всё понятно. Но в чат загружают и рабочие документы: расчёты, презентации, списки клиентов, планы запуска. Иногда прямо объясняют, как устроен бизнес, где он зарабатывает и что собирается делать дальше. Конкуренту не обязательно взламывать вашу почту. Достаточно, чтобы кто-то из сотрудников загрузил внутренний документ в нейросеть. И если эти данные сохранятся или попадут к посторонним, вся ваша внутренняя кухня окажется снаружи.
03:32
Speaker A
Значит ли это, что нужно выкинуть ноутбук и уйти жить в лес? Конечно, нет. Нейросети — мощнейший бустер. Просто перестаньте относиться к ним как к личной ячейке в банке. Не буду перечислять десяток правил. Достаточно запомнить два простых шага, которые помогут защитить личные данные. Зайдите в настройки ChatGPT (раздел Data Controls), Claude или Gemini. Найдите тумблеры «Использовать данные для обучения» и выключите их. Это занимает 10 секунд.
03:48
Speaker A
А дальше — простая гигиена. Проверяете договор или правите код? Внедрите «правило буквы X». Сценарии: никаких реальных фамилий, названий компаний, точных сумм и адресов. Пишите: «Компания Х», «Сумма N», «Сотрудник Y». Нейросети без разницы, логика задачи не изменится. Зато ваши коммерческие тайны не улетят в общий котёл.
04:05
Speaker A
Если вы пишете ядро проекта, обрабатываете клиентскую базу, личный архив фото или секретный код — забудьте про облака. Поставьте себе локальную нейросеть — например, Llama или Mistral через бесплатную программу Ollama. Она запускается прямо на вашем компьютере. Ей вообще не нужен интернет. Вы можете физически выдернуть кабель из роутера — и она продолжит работать. Ваши данные не смогут улететь на внешние серверы.
04:22
Speaker A
Раньше корпорации тратили миллионы долларов, нанимали аналитиков или шпионов, чтобы узнать, о чём думают люди, над какими стартапами они работают и чего боятся. Сегодня мы загружаем им всё это бесплатно, добровольно, с подробными комментариями и файлами в придачу. Технологии дают нам невероятные возможности, но цена этих возможностей — наша конфиденциальность. Помните главное правило цифрового мира: если сервис кажется вам бесплатным, главная ценность в нём — это ваши данные.
04:43
Speaker A
Напишите в комментариях: доверяете ли вы нейросетям свои рабочие идеи или предпочитаете держать дистанцию? Ставьте лайк, подписывайтесь на канал, обожаю!
05:08
Speaker A
правите код? Внедрите «правило буквы X». Сценарии: Никаких реальных фамилий, названий компаний, точных сумм и адресов. Пишите: «Компания Х», «Сумма N», «Сотрудник Y». Нейросети без разницы, логика задачи не изменится. Зато ваши коммерческие тайны не улетят в общий котел.
05:27
Speaker A
Если вы пишете ядро проекта, обрабатываете клиентскую базу, личный архив фото или секретный код — забудьте про облака. Поставьте себе локальную нейросеть — например, Llama или Mistral через бесплатную программу Ollama. Она запускается прямо на вашем компьютере.
05:44
Speaker A
Ей вообще не нужен интернет. Вы можете физически выдернуть кабель из роутера — и она продолжит работать. Ваши данные не смогут улететь на внешние серверы. Раньше корпорации тратили миллионы долларов, нанимали аналитиков или шпионов, чтобы узнать, о чем думают люди, над какими
06:00
Speaker A
стартапами они работают и чего боятся. Сегодня мы загружаем им всё это бесплатно, добровольно, с подробными комментариями и файлами в придачу. Технологии дают нам невероятные возможности, но цена этих возможностей — наша конфиденциальность. Помните главное правило цифрового мира: если сервис кажется вам бесплатным, главная ценность в нем — это ваши данные.
06:21
Speaker A
Напишите в комментариях: доверяете ли вы нейросетям свои рабочие идеи или предпочитаете держать дистанцию? Ставьте лайк, подписывайтесь на канал, обожаю!
Topics:нейросетиприватность данныхChatGPTClaudeутечка данныхSamsungконфиденциальностьлокальная нейросетьOllamaцифровая безопасность

Get More with the SozAI App

Transcribe recordings, audio files, and YouTube videos — with AI summaries and speaker detection. 30 minutes free.

App Store Google Play
Or transcribe another YouTube video here →

Free tools: TXT to SRT · SRT Validator · Merge SRT · Subtitle to Text · All tools

Related Transcripts

View All
Читай описание — Transcript1:11
Читай описание — Transcript
healthirish
172 1 Russian
Какая логика у необразованных людей | Психология — Transcript33:09
Какая логика у необразованных людей | Психология — Transcript
Old School Психология
2,450 1 Russian
Самая инопланетная технология — Transcript54:30
Самая инопланетная технология — Transcript
Homo Deus
8,176 1 Russian
Андрей Безруков: каким будет новый мир? — Transcript2:10:31
Андрей Безруков: каким будет новый мир? — Transcript
ЛИЦА НАУКИ
13,644 1 Russian
ЛИМФАТИЧЕСКАЯ СИСТЕМА Скрытый потенциал BIOMACHINE — Transcript17:24
ЛИМФАТИЧЕСКАЯ СИСТЕМА Скрытый потенциал BIOMACHINE — Transcript
Александр Медведев
3,047 1 Russian
Картошка убирает отек Подробнее в ТГК Max_anti_trainer — Transcript1:53
Картошка убирает отек Подробнее в ТГК Max_anti_trainer — Transcript
Demon Hunter
216 1 Russian
Как убрать ЖИР с лица НА САМОМ ДЕЛЕ (исследования) — Transcript2:14
Как убрать ЖИР с лица НА САМОМ ДЕЛЕ (исследования) — Transcript
ФАУСТ
157 1 Russian
Ты не знаешь, как выглядишь на самом деле — и вот ПОЧЕМУ — Transcript2:39
Ты не знаешь, как выглядишь на самом деле — и вот ПОЧЕМУ — Transcript
ФАУСТ
458 1 Russian
Что делает лицо КРАСИВЫМ? (На самом деле) — Transcript1:47
Что делает лицо КРАСИВЫМ? (На самом деле) — Transcript
ФАУСТ
283 1 Russian
Как убрать отеки с лица (доказано исследованиями) — Transcript3:26
Как убрать отеки с лица (доказано исследованиями) — Transcript
ФАУСТ
930 1 Russian
Полный гайд – Связка для первого агента Hermes Agent — Transcript43:56
Полный гайд – Связка для первого агента Hermes Agent — Transcript
Артемий Миллер про Вайб-кодинг
7,903 1 Russian
ЛИТВИН vs ТАМАЕВ! Гонка на 400 млн! — Transcript1:21:02
ЛИТВИН vs ТАМАЕВ! Гонка на 400 млн! — Transcript
Асхаб Тамаев
12,064 1 Russian