**Никогда не пишите ЭТО нейросети — Transcript & Summary | SozAI** Source: https://sozai.app/transcript/never-write-this-to-ai/ Разбор рисков приватности при общении с нейросетями: модерация чатов, утечка данных Samsung, обучение на загруженных файлах и советы по защите данных. ## Key Takeaways - Диалоги с нейросетями не являются полностью приватными: их могут читать модераторы и асессоры - Сквозное шифрование мессенджеров не распространяется на текст, обрабатываемый самим ИИ-сервисом - Не загружайте в нейросети исходный код, персональные документы и конфиденциальные бизнес-данные - Отключите использование данных для обучения, обезличивайте запросы или переходите на локальные модели ## What the video covers - Вступление: история девушки, чей диалог с Claude был передан модераторам и привёл к вызову полиции - Антропоморфизм: почему пользователи легко раскрываются перед ИИ как перед идеальным собеседником - Шифрование: сквозное шифрование мессенджеров не защищает текст, который получает сама компания ИИ - Ручная проверка: асессоры по всему миру могут читать пользовательские промпты для улучшения ответов - Кейс Samsung (2023): три утечки за три недели через загрузку исходного кода и записи совещаний в ChatGPT - Риски загрузки документов: паспорта, селфи и подписи могут использоваться для обучения моделей - Коммерческие тайны: внутренние документы в чатах могут стать доступны посторонним - Гигиена данных: отключение использования чатов для обучения в настройках сервисов - Правило буквы X: обезличивание имён, компаний, сумм и адресов в запросах - Локальные модели (Llama, Mistral через Ollama) как способ не отправлять данные на внешние серверы ## Chapters 1. 00:00 История о модерации диалога с ИИ 2. 01:06 Почему мы доверяем нейросетям 3. 02:02 Шифрование и ручная проверка данных 4. 03:04 Кейс Samsung: утечки через ChatGPT 5. 03:36 Риски загрузки документов и файлов 6. 03:48 Как защитить данные: настройки и правило буквы X 7. 04:22 Локальные нейросети и заключение Answers ## Questions about this video Что произошло с девушкой из видео и почему её диалог стал доступен модераторам? По описанию в видео, её переписка с Claude была помечена алгоритмом безопасности после упоминания покупки оружия и плана расправы. Диалог передали живым модераторам, которые оценили риски и вызвали полицию. Какой случай утечки данных в компании разбирается в видео? Речь идёт о Samsung весной 2023 года: сотрудники загрузили в ChatGPT закрытый исходный код и записи внутреннего совещания. После этого компания ограничила использование нейросетей на рабочих компьютерах. Как снизить риски при работе с нейросетями согласно видео? Рекомендуется отключить использование данных для обучения в настройках сервиса и применять «правило буквы X», заменяя реальные имена, компании и суммы обобщёнными обозначениями. Для конфиденциальных задач предлагается локальная модель через Ollama. ## Full Transcript — Download SRT & Markdown 00:00 Speaker A Флорида. Поздний вечер. Обычная квартира. Девушка сидит перед монитором и пишет в чат Claude. Для неё это не просто программа, а идеальный цифровой дневник. Ему можно вывалить всё: обиды, страхи, злость на весь мир. Чат не перебивает, не осуждает, отвечает вежливо и сочувственно. 00:21 Speaker A Но в какой-то момент в поле ввода летят фразы про покупку оружия и детальный план расправы. 00:26 Speaker A В этот момент иллюзия приватности рушится. Алгоритм безопасности Anthropic мгновенно помечает диалог. Переписка уходит не в виртуальную бездну, а на экраны живых модераторов. Люди читают её «личный дневник», оценивают риски и вызывают полицию. Через пару часов под окнами девушки уже мигают синие маячки. 00:52 Speaker A Именно в этот момент становится понятно, как на самом деле устроена эта система. Мы привыкли думать, что диалоговое окно — это наша закрытая песочница. А на деле — комната со стеклянными стенами в центре огромного офиса IT-гиганта. Сегодня разберём: как мы добровольно сливаем в сеть бизнес-планы, исходники, сканы паспортов и свои лица, и почему после одной кнопки «Отправить» секрет перестаёт быть секретом. 01:07 Speaker A Почему мы вообще так легко раскрываемся перед нейросетью? Всё просто: ИИ работает как идеальный собеседник. Не устаёт, не закатывает глаза, не перебивает фразой «Ой, да у меня то же самое было!». Он всегда на вашей стороне. Наш мозг мгновенно попадается в эту ловушку. В психологии это называется сложным словом антропоморфизм — мы наделяем алгоритм человеческими качествами. И понеслась: в чат летят семейные драмы, диагнозы, личные обиды, черновики писем и даже бизнес-идеи. А если совсем отключить критическое мышление — то и пароли с номерами карт. 01:25 Speaker A Но за этой вежливой картинкой стоят вполне конкретные серверы и правила обработки данных. Когда вы пишете другу в мессенджере — работает сквозное шифрование. Сервис видит факт отправки, но внутри конверта для него — каша из символов. 01:42 Speaker A С нейросетью этот номер не пройдёт. Канал связи зашифрован, но сама компания получает ваш текст в абсолютно чистом, читаемом виде. Иначе модель просто не поймёт, что вам ответить. 01:58 Speaker A Ваш запрос летит на сервер. Там его проверяют авто-фильтры, а дальше… часть переписок отправляют на ручную проверку. Тысячи асессоров по всему миру сидят и вручную читают ваши промпты, чтобы улучшать качество ответов. То есть, пока вы слёзно просите бота составить текст для увольнения бизнес-партнёра, где-то на другом конце планеты живой человек пьёт кофе и читает вашу драму как свежий сериал на Netflix. 02:04 Speaker A Думаете, это касается только личных историй? Давайте про деньги. Весна 2023 года. В Samsung сотрудники начинают использовать ChatGPT для рабочих задач. Обычная история: ускорить рутину, проверить текст, разобраться с кодом. Но всего за три недели всплывают сразу три утечки. Один инженер загружает в чат закрытый исходный код и просит найти ошибки. Второй отправляет другой фрагмент кода и просит его переписать. Третий записывает внутреннее совещание руководства, кидает расшифровку в нейросеть и просит сделать короткий конспект. 02:15 Speaker A Вместе с запросами на внешние серверы уходят куски секретного кода, технические детали и внутренние планы компании. После этого Samsung срочно ограничивает использование нейросетей на рабочих компьютерах и начинает разрабатывать собственные инструменты для сотрудников. 02:36 Speaker A Мы загружаем паспорт, селфи, медицинскую карту — и думаем, что нейросеть просто выполнила просьбу. Но некоторые сервисы могут использовать такие файлы, чтобы обучать и улучшать свои модели. Лицо, ваша подпись, печать, поля паспорта — всё это может стать частью огромного массива примеров, на которых учится система. Она всё лучше воспроизводит лица, документы, почерк. 02:56 Speaker A И однажды по чужому запросу нейросеть может создать изображение, очень похожее на ваше: ваше лицо на чужой картинке, справку с похожим оформлением или документ с вашими личными данными. Вы отправили файл — и уже не знаем, сколько он будет храниться, кто получит к нему доступ и используют ли его для обучения. 03:11 Speaker A С паспортом всё понятно. Но в чат загружают и рабочие документы: расчёты, презентации, списки клиентов, планы запуска. Иногда прямо объясняют, как устроен бизнес, где он зарабатывает и что собирается делать дальше. Конкуренту не обязательно взламывать вашу почту. Достаточно, чтобы кто-то из сотрудников загрузил внутренний документ в нейросеть. И если эти данные сохранятся или попадут к посторонним, вся ваша внутренняя кухня окажется снаружи. 03:32 Speaker A Значит ли это, что нужно выкинуть ноутбук и уйти жить в лес? Конечно, нет. Нейросети — мощнейший бустер. Просто перестаньте относиться к ним как к личной ячейке в банке. Не буду перечислять десяток правил. Достаточно запомнить два простых шага, которые помогут защитить личные данные. Зайдите в настройки ChatGPT (раздел Data Controls), Claude или Gemini. Найдите тумблеры «Использовать данные для обучения» и выключите их. Это занимает 10 секунд. 03:48 Speaker A А дальше — простая гигиена. Проверяете договор или правите код? Внедрите «правило буквы X». Сценарии: никаких реальных фамилий, названий компаний, точных сумм и адресов. Пишите: «Компания Х», «Сумма N», «Сотрудник Y». Нейросети без разницы, логика задачи не изменится. Зато ваши коммерческие тайны не улетят в общий котёл. 04:05 Speaker A Если вы пишете ядро проекта, обрабатываете клиентскую базу, личный архив фото или секретный код — забудьте про облака. Поставьте себе локальную нейросеть — например, Llama или Mistral через бесплатную программу Ollama. Она запускается прямо на вашем компьютере. Ей вообще не нужен интернет. Вы можете физически выдернуть кабель из роутера — и она продолжит работать. Ваши данные не смогут улететь на внешние серверы. 04:22 Speaker A Раньше корпорации тратили миллионы долларов, нанимали аналитиков или шпионов, чтобы узнать, о чём думают люди, над какими стартапами они работают и чего боятся. Сегодня мы загружаем им всё это бесплатно, добровольно, с подробными комментариями и файлами в придачу. Технологии дают нам невероятные возможности, но цена этих возможностей — наша конфиденциальность. Помните главное правило цифрового мира: если сервис кажется вам бесплатным, главная ценность в нём — это ваши данные. 04:43 Speaker A Напишите в комментариях: доверяете ли вы нейросетям свои рабочие идеи или предпочитаете держать дистанцию? Ставьте лайк, подписывайтесь на канал, обожаю! 05:08 Speaker A правите код? Внедрите «правило буквы X». Сценарии: Никаких реальных фамилий, названий компаний, точных сумм и адресов. Пишите: «Компания Х», «Сумма N», «Сотрудник Y». Нейросети без разницы, логика задачи не изменится. Зато ваши коммерческие тайны не улетят в общий котел. 05:27 Speaker A Если вы пишете ядро проекта, обрабатываете клиентскую базу, личный архив фото или секретный код — забудьте про облака. Поставьте себе локальную нейросеть — например, Llama или Mistral через бесплатную программу Ollama. Она запускается прямо на вашем компьютере. 05:44 Speaker A Ей вообще не нужен интернет. Вы можете физически выдернуть кабель из роутера — и она продолжит работать. Ваши данные не смогут улететь на внешние серверы. Раньше корпорации тратили миллионы долларов, нанимали аналитиков или шпионов, чтобы узнать, о чем думают люди, над какими 06:00 Speaker A стартапами они работают и чего боятся. Сегодня мы загружаем им всё это бесплатно, добровольно, с подробными комментариями и файлами в придачу. Технологии дают нам невероятные возможности, но цена этих возможностей — наша конфиденциальность. Помните главное правило цифрового мира: если сервис кажется вам бесплатным, главная ценность в нем — это ваши данные. 06:21 Speaker A Напишите в комментариях: доверяете ли вы нейросетям свои рабочие идеи или предпочитаете держать дистанцию? Ставьте лайк, подписывайтесь на канал, обожаю! Topics: нейросети приватность данных ChatGPT Claude утечка данных Samsung конфиденциальность локальная нейросеть Ollama цифровая безопасность Учить по этому видео - [Карточки по этому видео](https://sozai.app/ru/tools/ai-flashcard-generator/?from=transcript&id=87917) - [Тест по этому видео](https://sozai.app/ru/tools/quiz-generator/?from=transcript&id=87917) Бесплатно, составлено ИИ по этой расшифровке. Без регистрации. --- This is the markdown twin of https://sozai.app/transcript/never-write-this-to-ai/ — the same content, without the markup. Published by SozAI (https://sozai.app). Reuse and quotation are allowed with attribution and a link back. Machine-readable index: https://sozai.app/llms.txt · data API: https://sozai.app/api/