Speaker A
Прямо сейчас, в каждом кармане лежит устройство,
Видео анализирует пророческий роман Оруэлла «1984» и сравнивает его с современной реальностью цифрового контроля и добровольного наблюдения.
Ask about this video. Answers come from its transcript only — with the timestamp, so you can check them.
Generated from the transcript and can be wrong — check the timestamp.
Key Takeaways
- Современные технологии воплощают многие идеи Оруэлла о тотальном контроле, но в форме добровольной слежки.
- Власть и контроль разрушают не только управляемых, но и тех, кто осуществляет контроль.
- Роман «1984» — это прежде всего история человека, а не просто политический манифест.
- Современные алгоритмы усиливают негативные эмоции, что отличается от прямого государственного контроля в романе.
- Главная угроза свободе в XXI веке — не только государство, а сложные технологические и социальные механизмы.
What the video covers
- Современные смартфоны выполняют функции, похожие на телеэкраны из романа Оруэлла «1984», фиксируя личные данные и поведение пользователя.
- Джордж Оруэлл (Эрик Артур Блэр) родился в колониальной Индии и вырос в английском среднем классе, что повлияло на его взгляд на империю и социальные системы.
- Опыт службы в Бирме дал Оруэллу понимание власти как механизма насилия, разрушающего как управляемых, так и управляющих.
- Роман «1984» не просто политический памфлет, а история обычного человека, который теряет свою личность под давлением тоталитарной власти.
- Современные алгоритмы социальных сетей усиливают ненависть и возмущение, что напоминает методы управления в романе, но с технологическими отличиями.
- Оруэлл считал главной угрозой свободе государство, тогда как сегодня угроза более тонкая и связана с алгоритмическим контролем и добровольной слежкой.
- Видео подчеркивает, что современный контроль стал добровольным и замаскированным под удобство и технологический прогресс.
- Автор канала Личности в деталях связывает творчество Оруэлла с его жизненным опытом и политическими убеждениями.
- Видео сравнивает циклы общественного возмущения в современном мире с постоянным и целенаправленным контролем в романе.
- Финал романа «1984» показывает страшную потерю личности, что делает произведение актуальным и сегодня.
Full Transcript — Download SRT & Markdown
Speaker A
которое знает, где вы находитесь, с кем разговариваете, что покупаете, что читаете
Speaker A
и на что смотрите перед сном. Оно знает ваш маршрут от дома до работы,
Speaker A
ваши поисковые запросы, ваш пульс, количество шагов и содержание переписки с близкими.
Speaker A
Вносите его добровольно, вы за него заплатили, и без него возникает тревога, когда забываете его дома.
Speaker A
В 1949 году умирающий от туберкулёза англичанин описал устройство, которое делает примерно то же самое, только в его версии оно называлось телеэкран.
Speaker A
Висело на стене, и выключить его было нельзя.
Speaker A
Он назвал свой роман 1984.
Speaker A
Прошло 75 лет, и почти всё, что он описал, стало реальностью.
Speaker A
С одной поправкой, которую он не предвидел: мы подписались на слежку добровольно.
Speaker A
Если вам интересны истории людей, которые видели дальше других и платили за это полную цену, подпишитесь на канал Личности в деталях.
Speaker A
Вчера мы разбирали Маяковского, человека, который верил в утопию. Сегодня — человек, который показал, чем утопии заканчиваются.
Speaker A
Эрик Артур Блэр, настоящее имя Джорджа Оруэлла, родился 25 июня 1903 года в Мотихари, маленьком городке в Бенгалии, на северо-востоке Британской Индии.
Speaker A
Отец, Ричард Уолмсли Блэр, служил в Опиумном департаменте Индийской гражданской службы, в ведомстве, которое контролировало производство и экспорт опиума из Индии в Китай.
Speaker A
Это была легальная, хорошо оплачиваемая государственная должность, и сам факт её существования говорит о Британской империи больше, чем любой учебник. Империя зарабатывала на наркоторговле, оформленной как государственная монополия, и не видела в этом ничего предосудительного.
Speaker A
Маленький Эрик вырос в среде, где слово «империя» означало не абстракцию, а конкретную систему, в которой одни люди управляют другими, открыто, буднично, без чувства вины.
Speaker A
Мать увезла Эрика в Англию, когда ему был год. Отец остался в Индии. Они виделись редко,
Speaker A
связь поддерживалась письмами. Семья принадлежала к тому слою английского общества,
Speaker A
который Оруэлл позже опишет с хирургической точностью: нижняя, верхняя часть среднего класса.
Speaker A
Достаточно респектабельны, чтобы послать сына в хорошую школу, недостаточно богаты, чтобы за эту школу заплатить без унижений.
Speaker A
Эрик попал в подготовительную школу Сент-Киприанс на стипендию, что означало: он получал образование наравне с детьми аристократов и банкиров.
Speaker A
Но все знали, что за него не платят полную цену. Это ощущение — быть внутри системы и одновременно быть отмеченным как не совсем свой,
Speaker A
Оруэлл пронесёт через всю жизнь. Оно определит его взгляд.
Speaker A
Он всегда будет смотреть на любую систему изнутри и одновременно со стороны,
Speaker A
видя механизмы, которые участники системы предпочитают не замечать.
Speaker A
Из Сент-Киприанс Блэр перешёл в Итон, один из самых престижных колледжей Англии, куда попадали будущие премьер-министры, генералы и директора Банка Англии.
Speaker A
Блэр попал туда опять же на стипендию, королевский стипендиат, что давало бесплатное обучение, но не давало ни фунта на карманные расходы.
Speaker A
Он учился рядом с мальчиками, которые приезжали на каникулы в загородные поместья с прислугой, а возвращался в скромный дом матери в пригороде.
Speaker A
Итон дал ему превосходное образование: знание латыни и греческого, умение писать английскую прозу кристальной чистоты
Speaker A
и стойкое отвращение к классовой системе, которую он наблюдал каждый день на расстоянии вытянутой руки.
Speaker A
Позже Оруэлл напишет эссе «Почему я пишу», в котором перечислит четыре мотива, побуждающих писателя к работе:
Speaker A
самолюбие, эстетический восторг, исторический импульс и политическая цель.
Speaker A
Он признаёт, что первые три присутствуют у него, но четвёртый, политический, доминирует.
Speaker A
Каждая строка серьёзной прозы, которую я написал с 1936 года, была написана прямо или косвенно против тоталитаризма
Speaker A
и за демократический социализм, как я его понимаю.
Speaker A
Это было не позой и не программным заявлением.
Speaker A
Это было описание внутреннего механизма. Оруэлл не мог писать, не думая о справедливости,
Speaker A
не мог строить предложения, не взвешивая его на весах правды.
Speaker A
Язык для него был не средством самовыражения, он был средством борьбы.
Speaker A
И именно поэтому его проза звучит так, будто каждое слово выбрано не для красоты, а для точности,
Speaker A
как инструмент в хирургическом наборе.
Speaker A
После Итона большинство выпускников отправлялись в Оксфорд или Кембридж.
Speaker A
Блэр, чья семья не могла позволить себе университет, принял решение, которое шокировало всех, кто его знал.
Speaker A
Он поступил на службу в Индийскую имперскую полицию и уехал в Бирму.
Speaker A
Ему было 19.
Speaker A
Мотивы до конца не ясны. Возможно, он хотел увидеть империю изнутри.
Speaker A
Возможно, хотел заработать.
Speaker A
Возможно, просто не знал, что ещё делать.
Speaker A
Так или иначе, следующие 5 лет он провёл в Бирме, командуя полицейскими отрядами, следя за порядком в колонии,
Speaker A
присутствуя при наказаниях и наблюдая за тем, как работает машина имперского подавления.
Speaker A
Бирма была переломным опытом.
Speaker A
Блэр, молодой англичанин из хорошей семьи, оказался в роли угнетателя.
Speaker A
Не метафорически, а буквально. Он командовал людьми с оружием.
Speaker A
Он обеспечивал исполнение законов, написанных в Лондоне для народа, который эти законы не принимал и не хотел.
Speaker A
Позже, в эссе «Как я стрелял в слона» и «Повешение», он опишет то, что чувствовал в Бирме,
Speaker A
с честностью, граничащей с жестокостью к самому себе.
Speaker A
Стыд, отвращение к собственной роли, ощущение, что империя — это не бремя белого человека,
Speaker A
а механизм насилия, который разрушает и тех, кем управляет, и тех, кто управляет.
Speaker A
В «Повешении» он описывает, как ведут на казнь осуждённого, и осуждённый обходит лужу на дороге,
Speaker A
чтобы не промочить ноги.
Speaker A
Через несколько минут этот человек будет мёртв, но он по привычке обходит лужу.
Speaker A
Деталь, которая говорит о человечности больше, чем любой трактат.
Speaker A
Бирманский опыт дал Оруэллу ещё одно понимание, которое станет центральным для всего его творчества:
Speaker A
власть разрушает того, кто её осуществляет.
Speaker A
В 1949 году это звучало как фантастика. Сегодня, когда алгоритмы социальных сетей знают о психологическом профиле пользователя больше,
Speaker A
чем его психотерапевт, персонализированное воздействие стало нормой.
Speaker A
Комната 101 стала мобильной, она помещается в кармане.
Speaker A
И здесь стоит сказать о том, что делает «1984» великим романом, а не просто политическим памфлетом.
Speaker A
Оруэлл написал не трактат о тоталитаризме, он написал историю о человеке.
Speaker A
Уинстон Смит — не герой сопротивления, он обычный, слабый, не особенно храбрый человек,
Speaker A
который пытается сохранить внутри себя крошечный огонёк,
Speaker A
способность отличить правду от лжи,
Speaker A
любовь от ненависти,
Speaker A
себя от того, чем партия хочет его сделать.
Speaker A
Он проигрывает.
Speaker A
Финал романа: Уинстон сидит в кафе и плачет,
Speaker A
потому что любит Большого Брата.
Speaker A
Один из самых страшных финалов в истории литературы.
Speaker A
Не потому что герой погиб.
Speaker A
Он жив.
Speaker A
А потому что он перестал быть собой.
Speaker A
Партия уничтожила не его тело, а его самость.
Speaker A
И это страшнее смерти.
Speaker A
Потому что мёртвого человека жалеют, а человека, который предал самого себя, нет.
Speaker A
Оруэлловская двухминутка длилась 2 минуты.
Speaker A
Современный цикл возмущения — около 48 часов.
Speaker A
После этого объект забыт.
Speaker A
Энергия израсходована, и система возвращается в равновесие до следующего триггера.
Speaker A
Отличие от Оруэлла: партия направляла ненависть сознательно и целенаправленно.
Speaker A
В нашем мире направление задаётся алгоритмами, которые максимизируют вовлечённость,
Speaker A
а ненависть оказывается, вовлекает эффективнее, чем радость.
Speaker A
Исследования показывают: контент, вызывающий возмущение, распространяется в социальных сетях
Speaker A
в среднем быстрее, чем позитивный.
Speaker A
Алгоритмы не злонамеренны.
Speaker A
Они оптимизируют метрику, а метрика отражает человеческую природу.
Speaker A
Мы реагируем на угрозу сильнее, чем на утешение.
Speaker A
Оруэлл понимал это интуитивно.
Speaker A
Технологические компании XXI века подтвердили это статистически и монетизировали.
Speaker A
И вот здесь мы подходим к тому, чего Оруэлл не предвидел.
Speaker A
И именно это делает его роман одновременно пророческим и устаревшим.
Speaker A
Оруэлл думал, что главная угроза свободе — государство.
Speaker A
Тоталитарное, жёсткое, видимое государство, которое следит, наказывает и контролирует сверху.
Speaker A
Наша реальность устроена тоньше.
Speaker A
Главная угроза свободе в XXI веке — не государство, хотя государства продолжают следить, контролировать и подавлять.
Speaker A
Главная угроза — система,
Speaker A
в которой нет единого центра.
Speaker A
Алгоритмы, которые никто полностью не понимает, принимают решения, влияющие на жизнь миллиардов.
Speaker A
Что мы видим в ленте новостей, какие товары нам предлагают, какие политические идеи попадают в наше поле зрения,
Speaker A
а какие отфильтровываются как нерелевантные.
Speaker A
Нет одного Большого Брата.
Speaker A
Есть тысячи маленьких алгоритмов, каждый из которых оптимизирует нашу вовлечённость,
Speaker A
то есть нашу зависимость.
Speaker A
Оруэлл описывал тюрьму.
Speaker A
Мы живём в аквариуме.
Speaker A
Стенки прозрачные.
Speaker A
Никто не мешает двигаться, но пространство ограничено.
Speaker A
А кормят по расписанию.
Speaker A
И рыба, выросшая в аквариуме, не знает, что океан существует.
Speaker A
Олдес Хаксли, автор «Дивного нового мира», другой великой антиутопии, вышедшей на 17 лет раньше,
Speaker A
писал Оруэллу после публикации «1984».
Speaker A
Он хвалил книгу, но возражал по существу.
Speaker A
Хаксли считал, что будущая тирания будет основана не на страхе, а на удовольствии.
Speaker A
Людей не нужно будет заставлять подчиняться.
Speaker A
Достаточно дать им развлечения, которые сделают подчинение приятным.
Speaker A
Не кнут, а пряник. Не телеэкран, а телевизор.
Speaker A
Не двухминутка ненависти, а бесконечный поток контента,
Speaker A
в котором тонет способность к критическому мышлению.
Speaker A
Спустя 75 лет можно сказать: оба были правы.
Speaker A
Оруэлл описал механику государственного контроля.
Speaker A
И она работает в авторитарных режимах по всему миру.
Speaker A
Хаксли описал механику добровольного подчинения.
Speaker A
И она работает в либеральных демократиях.
Speaker A
Два пророка, две модели, и реальный мир использует обе одновременно,
Speaker A
в зависимости от географии и политического режима.
Speaker A
Неил Постман, американский культуролог,
Speaker A
в 1985 году написал книгу «Развлекаясь до смерти»,
Speaker A
в которой поставил вопрос прямо:
Speaker A
что опаснее?
Speaker A
Оруэлловский мир, в котором книги запрещают,
Speaker A
или Хакслиевский, в котором книги никто не запрещает,
Speaker A
просто никто не хочет их читать?
Speaker A
Прошло 40 лет.
Speaker A
И ответ стал очевиднее.
Speaker A
Опасны оба.
Speaker A
Оруэлл описал одну стену тюрьмы, Хаксли — другую.
Speaker A
Мы живём внутри.
Speaker A
И есть третья стена, которую не предвидел ни тот, ни другой: искусственный интеллект.
Speaker A
Алгоритмы, которые формируют ленты новостей, подбирают контент, пишут тексты
Speaker A
и генерируют изображения, создают ситуацию, в которой каждый человек
Speaker A
живёт в индивидуально подобранной реальности.
Speaker A
Двое людей, сидящих рядом в одной комнате и открывающих одно и то же приложение, видят разные новости,
Speaker A
разные мнения, разные версии событий.
Speaker A
Потому что алгоритм подстроился под профиль каждого.
Speaker A
Оруэлл описывал одну правду, навязанную всем.
Speaker A
Наша реальность предлагает миллиарды персональных правд, подобранных индивидуально.
Speaker A
Результат, как ни странно, похож.
Speaker A
Утрата общей картины мира.
Speaker A
Когда каждый живёт в своём информационном пузыре, само понятие объективной реальности,
Speaker A
за которое Оруэлл боролся, становится не запретным, а неактуальным.
Speaker A
Зачем запрещать правду, если можно сделать её невидимой для каждого конкретного человека?
Speaker A
Есть ещё один элемент романа, который заслуживает отдельного внимания:
Speaker A
комната 101.
Speaker A
Место в Министерстве любви, где ломают сопротивление.
Speaker A
Принцип прост.
Speaker A
Каждый человек боится чего-то больше всего на свете.
Speaker A
Для Уинстона Смита это крысы.
Speaker A
Партия знает, чего ты боишься, и использует это.
Speaker A
Не общее запугивание, а персонализированный ужас, подобранный индивидуально.
Speaker A
В 1949 это звучало как фантастика.
Speaker A
Сегодня, когда алгоритмы социальных сетей знают о психологическом профиле пользователя больше,
Speaker A
чем его психотерапевт,
Speaker A
персонализированное воздействие стало нормой.
Speaker A
Не камера допроса,
Speaker A
но таргетированная реклама, точечная дезинформация, индивидуально подобранный контент,
Speaker A
рассчитанный на конкретные страхи
Speaker A
и слабости конкретного человека.
Speaker A
Комната 101 стала мобильной.
Speaker A
Она помещается в кармане.
Speaker A
И здесь стоит сказать о том, что делает «1984» великим романом,
Speaker A
а не просто политическим памфлетом.
Speaker A
Оруэлл написал не трактат о тоталитаризме, он написал историю о человеке.
Speaker A
Уинстон Смит — не герой сопротивления.
Speaker A
Он обычный,
Speaker A
слабый, не особенно храбрый человек, который пытается сохранить внутри себя крошечный огонёк,
Speaker A
способность отличить правду от лжи,
Speaker A
любовь от ненависти,
Speaker A
себя от того, чем партия хочет его сделать.
Speaker A
Он проигрывает.
Speaker A
Финал романа: Уинстон сидит в кафе и плачет,
Speaker A
потому что любит Большого Брата.
Speaker A
Один из самых страшных финалов в истории литературы.
Speaker A
Не потому что герой погиб.
Speaker A
Он жив.
Speaker A
А потому что он перестал быть собой.
Speaker A
Партия уничтожила не его тело, а его самость.
Speaker A
И это страшнее смерти.
Speaker A
Потому что мёртвого человека жалеют, а человека, который предал самого себя, нет.
Speaker A
Оруэлловская двухминутка длилась 2 минуты.
Speaker A
Современный цикл возмущения — около 48 часов.
Speaker A
После этого объект забыт.
Speaker A
Энергия израсходована, и система возвращается в равновесие до следующего триггера.
Speaker A
Отличие от Оруэлла: партия направляла ненависть сознательно и целенаправленно.
Speaker A
В нашем мире направление задаётся алгоритмами, которые максимизируют вовлечённость,
Speaker A
а ненависть оказывается, вовлекает эффективнее, чем радость.
Speaker A
Исследования показывают: контент, вызывающий возмущение, распространяется в социальных сетях
Speaker A
в среднем быстрее, чем позитивный.
Speaker A
Алгоритмы не злонамеренны.
Speaker A
Они оптимизируют метрику, а метрика отражает человеческую природу.
Speaker A
Мы реагируем на угрозу сильнее, чем на утешение.
Speaker A
Оруэлл понимал это интуитивно.
Speaker A
Технологические компании XXI века подтвердили это статистически и монетизировали.
Speaker A
И вот здесь мы подходим к тому, чего Оруэлл не предвидел.
Speaker A
И именно это делает его роман одновременно пророческим и устаревшим.
Speaker A
Оруэлл думал, что главная угроза свободе — государство.
Speaker A
Тоталитарное, жёсткое, видимое государство, которое следит, наказывает и контролирует сверху.
Speaker A
Наша реальность устроена тоньше.
Speaker A
Главная угроза свободе в XXI веке — не государство, хотя государства продолжают следить, контролировать и подавлять.
Speaker A
Главная угроза — система,
Speaker A
в которой нет единого центра.
Speaker A
Алгоритмы, которые никто полностью не понимает, принимают решения, влияющие на жизнь миллиардов.
Speaker A
Что мы видим в ленте новостей, какие товары нам предлагают, какие политические идеи попадают в наше поле зрения,
Speaker A
а какие отфильтровываются как нерелевантные.
Speaker A
Нет одного Большого Брата.
Speaker A
Есть тысячи маленьких алгоритмов, каждый из которых оптимизирует нашу вовлечённость,
Speaker A
то есть нашу зависимость.
Speaker A
Оруэлл описывал тюрьму.
Speaker A
Мы живём в аквариуме.
Speaker A
Стенки прозрачные.
Speaker A
Никто не мешает двигаться, но пространство ограничено.
Speaker A
А кормят по расписанию.
Speaker A
И рыба, выросшая в аквариуме, не знает, что океан существует.
Speaker A
Олдес Хаксли, автор «Дивного нового мира», другой великой антиутопии, вышедшей на 17 лет раньше,
Speaker A
писал Оруэллу после публикации «1984».
Speaker A
Он хвалил книгу, но возражал по существу.
Speaker A
Хаксли считал, что будущая тирания будет основана не на страхе, а на удовольствии.
Speaker A
Людей не нужно будет заставлять подчиняться.
Speaker A
Достаточно дать им развлечения, которые сделают подчинение приятным.
Speaker A
Не кнут, а пряник. Не телеэкран, а телевизор.
Speaker A
Не двухминутка ненависти, а бесконечный поток контента, в котором тонет способность
Speaker A
к критическому мышлению.
Speaker A
Спустя 75 лет можно сказать: оба были правы.
Speaker A
Оруэлл описал механику государственного контроля.
Speaker A
И она работает в авторитарных режимах по всему миру.
Speaker A
Хаксли описал механику добровольного подчинения.
Speaker A
И она работает в либеральных демократиях.
Speaker A
Два пророка, две модели, и реальный мир использует обе одновременно,
Speaker A
в зависимости от географии и политического режима.
Speaker A
Нил Постман, американский культуролог,
Speaker A
в 1985 году написал книгу «Развлекаясь до смерти»,
Speaker A
в которой поставил вопрос прямо:
Speaker A
что опаснее?
Speaker A
Оруэлловский мир, в котором книги запрещают,
Speaker A
или Хакслиевский, в котором книги никто не запрещает,
Speaker A
просто никто не хочет их читать?
Speaker A
Прошло 40 лет.
Speaker A
И ответ стал очевиднее.
Speaker A
Опасны оба.
Speaker A
Оруэлл описал одну стену тюрьмы, Хаксли — другую.
Speaker A
Мы живём внутри.
Speaker A
И есть третья стена, которую не предвидел ни тот, ни другой: искусственный интеллект.
Speaker A
Алгоритмы, которые формируют ленты новостей, подбирают контент, пишут тексты
Speaker A
и генерируют изображения, создают ситуацию, в которой каждый человек
Speaker A
живёт в индивидуально подобранной реальности.
Speaker A
Двое людей, сидящих рядом в одной комнате и открывающих одно и то же приложение, видят разные новости,
Speaker A
разные мнения, разные версии событий.
Speaker A
Потому что алгоритм подстроился под профиль каждого.
Speaker A
Оруэлл описывал одну правду, навязанную всем.
Speaker A
Наша реальность предлагает миллиарды персональных правд, подобранных индивидуально.
Speaker A
Результат, как ни странно, похож.
Speaker A
Утрата общей картины мира.
Speaker A
Когда каждый живёт в своём информационном пузыре, само понятие объективной реальности,
Speaker A
за которое Оруэлл боролся, становится не запретным, а неактуальным.
Speaker A
Зачем запрещать правду, если можно сделать её невидимой для каждого конкретного человека?
Speaker A
Есть ещё один элемент романа, который заслуживает отдельного внимания:
Speaker A
комната 101.
Speaker A
Место в Министерстве любви, где ломают сопротивление.
Speaker A
Принцип прост.
Speaker A
Каждый человек боится чего-то больше всего на свете.
Speaker A
Для Уинстона Смита это крысы.
Speaker A
Партия знает, чего ты боишься, и использует это.
Speaker A
Не общее запугивание, а персонализированный ужас, подобранный индивидуально.
Speaker A
В 1949 это звучало как фантастика.
Speaker A
Сегодня, когда алгоритмы социальных сетей знают о психологическом профиле пользователя больше,
Speaker A
чем его психотерапевт,
Speaker A
персонализированное воздействие стало нормой.
Speaker A
Не камера допроса,
Speaker A
но таргетированная реклама, точечная дезинформация, индивидуально подобранный контент,
Speaker A
рассчитанный на конкретные страхи
Speaker A
и слабости конкретного человека.
Speaker A
Комната 101 стала мобильной.
Speaker A
Она помещается в кармане.
Speaker A
И здесь стоит сказать о том, что делает «1984» великим романом,
Speaker A
а не просто политическим памфлетом.
Speaker A
Оруэлл написал не трактат о тоталитаризме, он написал историю о человеке.
Speaker A
Уинстон Смит — не герой сопротивления.
Speaker A
Он обычный,
Speaker A
слабый, не особенно храбрый человек, который пытается сохранить внутри себя крошечный огонёк,
Speaker A
способность отличить правду от лжи,
Speaker A
любовь от ненависти,
Speaker A
себя от того, чем партия хочет его сделать.
Speaker A
Он проигрывает.
Speaker A
Финал романа: Уинстон сидит в кафе и плачет,
Speaker A
потому что любит Большого Брата.
Speaker A
Один из самых страшных финалов в истории литературы.
Speaker A
Не потому что герой погиб.
Speaker A
Он жив.
Speaker A
А потому что он перестал быть собой.
Speaker A
Партия уничтожила не его тело, а его самость.
Speaker A
И это страшнее смерти.
Speaker A
Потому что мёртвого человека жалеют, а человека, который предал самого себя, нет.
Speaker A
Оруэлловская двухминутка длилась 2 минуты.
Speaker A
Современный цикл возмущения — около 48 часов.
Speaker A
После этого объект забыт.
Speaker A
Энергия израсходована, и система возвращается в равновесие до следующего триггера.
Speaker A
Отличие от Оруэлла: партия направляла ненависть сознательно и целенаправленно.
Speaker A
В нашем мире направление задаётся алгоритмами, которые максимизируют вовлечённость,
Speaker A
а ненависть оказывается, вовлекает эффективнее, чем радость.
Speaker A
Исследования показывают: контент, вызывающий возмущение, распространяется в социальных сетях
Speaker A
в среднем быстрее, чем позитивный.
Speaker A
Алгоритмы не злонамеренны.
Speaker A
Они оптимизируют метрику, а метрика отражает человеческую природу.
Speaker A
Мы реагируем на угрозу сильнее, чем на утешение.
Speaker A
Оруэлл понимал это интуитивно.
Speaker A
Технологические компании XXI века подтвердили это статистически и монетизировали.
Speaker A
И вот здесь мы подходим к тому, чего Оруэлл не предвидел.
Speaker A
И именно это делает его роман одновременно пророческим и устаревшим.
Speaker A
Оруэлл думал, что главная угроза свободе — государство.
Speaker A
Тоталитарное, жёсткое, видимое государство, которое следит, наказывает и контролирует сверху.
Speaker A
Наша реальность устроена тоньше.
Speaker A
Главная угроза свободе в XXI веке — не государство, хотя государства продолжают следить, контролировать и подавлять.
Speaker A
Главная угроза — система,
Speaker A
в которой нет единого центра.
Speaker A
Алгоритмы, которые никто полностью не понимает, принимают решения, влияющие на жизнь миллиардов.
Speaker A
Что мы видим в ленте новостей, какие товары нам предлагают, какие политические идеи попадают в наше поле зрения,
Speaker A
а какие отфильтровываются как нерелевантные.
Speaker A
Нет одного Большого Брата.
Speaker A
Есть тысячи маленьких алгоритмов, каждый из которых оптимизирует нашу вовлечённость,
Speaker A
то есть нашу зависимость.
Speaker A
Оруэлл описывал тюрьму.
Speaker A
Мы живём в аквариуме.
Speaker A
Стенки прозрачные.
Speaker A
Никто не мешает двигаться, но пространство ограничено.
Speaker A
А кормят по расписанию.
Speaker A
И рыба, выросшая в аквариуме, не знает, что океан существует.
Speaker A
Олдес Хаксли, автор «Дивного нового мира», другой великой антиутопии, вышедшей на 17 лет раньше,
Speaker A
писал Оруэллу после публикации «1984».
Speaker A
Он хвалил книгу, но возражал по существу.
Speaker A
Хаксли считал, что будущая тирания будет основана не на страхе, а на удовольствии.
Speaker A
Людей не нужно будет заставлять подчиняться.
Speaker A
Достаточно дать им развлечения, которые сделают подчинение приятным.
Speaker A
Не кнут, а пряник. Не телеэкран, а телевизор.
Speaker A
Не двухминутка ненависти, а бесконечный поток контента, в котором тонет способность
Speaker A
к критическому мышлению.
Speaker A
Спустя 75 лет можно сказать: оба были правы.
Speaker A
Оруэлл описал механику государственного контроля.
Speaker A
И она работает в авторитарных режимах по всему миру.
Speaker A
Хаксли описал механику добровольного подчинения.
Speaker A
И она работает в либеральных демократиях.
Speaker A
Два пророка, две модели, и реальный мир использует обе одновременно,
Speaker A
в зависимости от географии и политического режима.
Speaker A
Нил Постман, американский культуролог,
Speaker A
в 1985 году написал книгу «Развлекаясь до смерти»,
Speaker A
в которой поставил вопрос прямо:
Speaker A
что опаснее?
Speaker A
Оруэлловский мир, в котором книги запрещают,
Speaker A
или Хакслиевский, в котором книги никто не запрещает,
Speaker A
просто никто не хочет их читать?
Speaker A
Прошло 40 лет.
Speaker A
И ответ стал очевиднее.
Speaker A
Опасны оба.
Speaker A
Оруэлл описал одну стену тюрьмы, Хаксли — другую.
Speaker A
Мы живём внутри.
Speaker A
И есть третья стена, которую не предвидел ни тот, ни другой: искусственный интеллект.
Speaker A
Алгоритмы, которые формируют ленты новостей, подбирают контент, пишут тексты
Speaker A
и генерируют изображения, создают ситуацию, в которой каждый человек
Speaker A
живёт в индивидуально подобранной реальности.
Speaker A
Двое людей, сидящих рядом в одной комнате и открывающих одно и то же приложение, видят разные новости,
Speaker A
разные мнения, разные версии событий.
Speaker A
Потому что алгоритм подстроился под профиль каждого.
Speaker A
Оруэлл описывал одну правду, навязанную всем.
Speaker A
Наша реальность предлагает миллиарды персональных правд, подобранных индивидуально.
Speaker A
Результат, как ни странно, похож.
Speaker A
Утрата общей картины мира.
Speaker A
Когда каждый живёт в своём информационном пузыре, само понятие объективной реальности,
Speaker A
за которое Оруэлл боролся, становится не запретным, а неактуальным.
Speaker A
Зачем запрещать правду, если можно сделать её невидимой для каждого конкретного человека?
Speaker A
Есть ещё один элемент романа, который заслуживает отдельного внимания:
Speaker A
комната 101.
Speaker A
Место в Министерстве любви, где ломают сопротивление.
Speaker A
Принцип прост.
Speaker A
Каждый человек боится чего-то больше всего на свете.
Speaker A
Для Уинстона Смита это крысы.
Speaker A
Партия знает, чего ты боишься, и использует это.
Speaker A
Не общее запугивание, а персонализированный ужас, подобранный индивидуально.
Speaker A
В 1949 это звучало как фантастика.
Speaker A
Сегодня, когда алгоритмы социальных сетей знают о психологическом профиле пользователя больше,
Speaker A
чем его психотерапевт,
Speaker A
персонализированное воздействие стало нормой.
Speaker A
Не камера допроса,
Speaker A
но таргетированная реклама, точечная дезинформация, индивидуально подобранный контент,
Speaker A
рассчитанный на конкретные страхи
Speaker A
и слабости конкретного человека.
Speaker A
Комната 101 стала мобильной.
Speaker A
Она помещается в кармане.
Speaker A
И здесь стоит сказать о том, что делает «1984» великим романом,
Speaker A
а не просто политическим памфлетом.
Speaker A
Оруэлл написал не трактат о тоталитаризме, он написал историю о человеке.
Speaker A
Уинстон Смит — не герой сопротивления.
Speaker A
Он обычный,
Speaker A
слабый, не особенно храбрый человек, который пытается сохранить внутри себя крошечный огонёк,
Speaker A
способность отличить правду от лжи,
Speaker A
любовь от ненависти,
Speaker A
себя от того, чем партия хочет его сделать.
Speaker A
Он проигрывает.
Speaker A
Финал романа: Уинстон сидит в кафе и плачет,
Speaker A
потому что любит Большого Брата.
Speaker A
Один из самых страшных финалов в истории литературы.
Speaker A
Не потому что герой погиб.
Speaker A
Он жив.
Speaker A
А потому что он перестал быть собой.
Speaker A
Партия уничтожила не его тело, а его самость.
Speaker A
И это страшнее смерти.
Speaker A
Потому что мёртвого человека жалеют, а человека, который предал самого себя, нет.
Speaker A
Оруэлловская двухминутка длилась 2 минуты.
Speaker A
Современный цикл возмущения — около 48 часов.
Speaker A
После этого объект забыт.
Speaker A
Энергия израсходована, и система возвращается в равновесие до следующего триггера.
Speaker A
Отличие от Оруэлла: партия направляла ненависть сознательно и целенаправленно.
Speaker A
В нашем мире направление задаётся алгоритмами, которые максимизируют вовлечённость,
Speaker A
а ненависть оказывается, вовлекает эффективнее, чем радость.
Speaker A
Исследования показывают: контент, вызывающий возмущение, распространяется в социальных сетях
Speaker A
в среднем быстрее, чем позитивный.
Speaker A
Алгоритмы не злонамеренны.
Speaker A
Они оптимизируют метрику, а метрика отражает человеческую природу.
Speaker A
Мы реагируем на угрозу сильнее, чем на утешение.
Speaker A
Оруэлл понимал это интуитивно.
Speaker A
Технологические компании XXI века подтвердили это статистически и монетизировали.
Speaker A
И вот здесь мы подходим к тому, чего Оруэлл не предвидел.
Speaker A
И именно это делает его роман одновременно пророческим и устаревшим.
Speaker A
Оруэлл думал, что главная угроза свободе — государство.
Speaker A
Тоталитарное, жёсткое, видимое государство, которое следит, наказывает и контролирует сверху.
Speaker A
Наша реальность устроена тоньше.
Speaker A
Главная угроза свободе в XXI веке — не государство, хотя государства продолжают следить, контролировать и подавлять.
Speaker A
Главная угроза — система,
Speaker A
в которой нет единого центра.
Speaker A
Алгоритмы, которые никто полностью не понимает, принимают решения, влияющие на жизнь миллиардов.
Speaker A
Что мы видим в ленте новостей, какие товары нам предлагают, какие политические идеи попадают в наше поле зрения,
Speaker A
а какие отфильтровываются как нерелевантные.
Speaker A
Нет одного Большого Брата.
Speaker A
Есть тысячи маленьких алгоритмов, каждый из которых оптимизирует нашу вовлечённость,
Speaker A
то есть нашу зависимость.
Speaker A
Оруэлл описывал тюрьму.
Speaker A
Мы живём в аквариуме.
Speaker A
Стенки прозрачные.
Speaker A
Никто не мешает двигаться, но пространство ограничено.
Speaker A
А кормят по расписанию.
Speaker A
И рыба, выросшая в аквариуме, не знает, что океан существует.
Speaker A
Олдес Хаксли, автор «Дивного нового мира», другой великой антиутопии, вышедшей на 17 лет раньше,
Speaker A
писал Оруэллу после публикации «1984».
Speaker A
Он хвалил книгу, но возражал по существу.
Speaker A
Хаксли считал, что будущая тирания будет основана не на страхе, а на удовольствии.
Speaker A
Людей не нужно будет заставлять подчиняться.
Speaker A
Достаточно дать им развлечения, которые сделают подчинение приятным.
Speaker A
Не кнут, а пряник. Не телеэкран, а телевизор.
Speaker A
Не двухминутка ненависти, а бесконечный поток контента, в котором тонет способность
Speaker A
к критическому мышлению.
Speaker A
Спустя 75 лет можно сказать: оба были правы.
Speaker A
Оруэлл описал механику государственного контроля.
Speaker A
И она работает в авторитарных режимах по всему миру.
Speaker A
Хаксли описал механику добровольного подчинения.
Speaker A
И она работает в либеральных демократиях.
Speaker A
Два пророка, две модели, и реальный мир использует обе одновременно,
Speaker A
в зависимости от географии и политического режима.
Speaker A
Нил Постман, американский культуролог,
Speaker A
в 1985 году написал книгу «Развлекаясь до смерти»,
Speaker A
в которой поставил вопрос прямо:
Speaker A
что опаснее?
Speaker A
Оруэлловский мир, в котором книги запрещают,
Speaker A
или Хакслиевский, в котором книги никто не запрещает,
Speaker A
просто никто не хочет их читать?
Speaker A
Прошло 40 лет.
Speaker A
И ответ стал очевиднее.
Speaker A
Опасны оба.
Speaker A
Оруэлл описал одну стену тюрьмы, Хаксли — другую.
Speaker A
Мы живём внутри.
Speaker A
И есть третья стена, которую не предвидел ни тот, ни другой: искусственный интеллект.
Speaker A
Алгоритмы, которые формируют ленты новостей, подбирают контент, пишут тексты
Speaker A
и генерируют изображения, создают ситуацию, в которой каждый человек
Speaker A
живёт в индивидуально подобранной реальности.
Speaker A
Двое людей, сидящих рядом в одной комнате и открывающих одно и то же приложение, видят разные новости,
Speaker A
разные мнения, разные версии событий.
Speaker A
Потому что алгоритм подстроился под профиль каждого.
Speaker A
Оруэлл описывал одну правду, навязанную всем.
Speaker A
Наша реальность предлагает миллиарды персональных правд, подобранных индивидуально.
Speaker A
Результат, как ни странно, похож.
Speaker A
Утрата общей картины мира.
Speaker A
Когда каждый живёт в своём информационном пузыре, само понятие объективной реальности,
Speaker A
за которое Оруэлл боролся, становится не запретным, а неактуальным.
Speaker A
Зачем запрещать правду, если можно сделать её невидимой для каждого конкретного человека?
Speaker A
Есть ещё один элемент романа, который заслуживает отдельного внимания:
Speaker A
комната 101.
Speaker A
Место в Министерстве любви, где ломают сопротивление.
Speaker A
Принцип прост.
Speaker A
Каждый человек боится чего-то больше всего на свете.
Speaker A
Для Уинстона Смита это крысы.
Speaker A
Партия знает, чего ты боишься, и использует это.
Speaker A
Не общее запугивание, а персонализированный ужас, подобранный индивидуально.
Speaker A
В 1949 это звучало как фантастика.
Speaker A
Сегодня, когда алгоритмы социальных сетей знают о психологическом профиле пользователя больше,
Speaker A
чем его психотерапевт,
Speaker A
персонализированное воздействие стало нормой.
Speaker A
Не камера допроса,
Speaker A
но таргетированная реклама, точечная дезинформация, индивидуально подобранный контент,
Speaker A
рассчитанный на конкретные страхи
Speaker A
и слабости конкретного человека.
Speaker A
Комната 101 стала мобильной.
Speaker A
Она помещается в кармане.
Speaker A
И здесь стоит сказать о том, что делает «1984» великим романом,
Speaker A
а не просто политическим памфлетом.
Speaker A
Оруэлл написал не трактат о тоталитаризме, он написал историю о человеке.
Speaker A
Уинстон Смит — не герой сопротивления.
Speaker A
Он обычный,
Speaker A
слабый, не особенно храбрый человек, который пытается сохранить внутри себя крошечный огонёк,
Speaker A
способность отличить правду от лжи,
Speaker A
любовь от ненависти,
Speaker A
себя от того, чем партия хочет его сделать.
Speaker A
Он проигрывает.
Speaker A
Финал романа: Уинстон сидит в кафе и плачет,
Speaker A
потому что любит Большого Брата.
Speaker A
Один из самых страшных финалов в истории литературы.
Speaker A
Не потому что герой погиб.
Speaker A
Он жив.
Speaker A
А потому что он перестал быть собой.
Speaker A
Партия уничтожила не его тело, а его самость.
Speaker A
И это страшнее смерти.
Speaker A
Потому что мёртвого человека жалеют, а человека, который предал самого себя, нет.
Speaker A
Оруэлловская двухминутка длилась 2 минуты.
Speaker A
Современный цикл возмущения — около 48 часов.
Speaker A
После этого объект забыт.
Speaker A
Энергия израсходована, и система возвращается в равновесие до следующего триггера.
Speaker A
Отличие от Оруэлла: партия направляла ненависть сознательно и целенаправленно.
Speaker A
В нашем мире направление задаётся алгоритмами, которые максимизируют вовлечённость,
Speaker A
а ненависть оказывается, вовлекает эффективнее, чем радость.
Speaker A
Исследования показывают: контент, вызывающий возмущение, распространяется в социальных сетях
Speaker A
в среднем быстрее, чем позитивный.
Speaker A
Алгоритмы не злонамеренны.
Speaker A
Они оптимизируют метрику, а метрика отражает человеческую природу.
Speaker A
Мы реагируем на угрозу сильнее, чем на утешение.
Speaker A
Оруэлл понимал это интуитивно.
Speaker A
Технологические компании XXI века подтвердили это статистически и монетизировали.
Speaker A
И вот здесь мы подходим к тому, чего Оруэлл не предвидел.
Speaker A
И именно это делает его роман одновременно пророческим и устаревшим.
Speaker A
Оруэлл думал, что главная угроза свободе — государство.
Speaker A
Тоталитарное, жёсткое, видимое государство, которое следит, наказывает и контролирует сверху.
Speaker A
Наша реальность устроена тоньше.
Speaker A
Главная угроза свободе в XXI веке — не государство, хотя государства продолжают следить, контролировать и подавлять.
Speaker A
Главная угроза — система,
Speaker A
в которой нет единого центра.
Speaker A
Алгоритмы, которые никто полностью не понимает, принимают решения, влияющие на жизнь миллиардов.
Speaker A
Что мы видим в ленте новостей, какие товары нам предлагают, какие политические идеи попадают в наше поле зрения,
Speaker A
а какие отфильтровываются как нерелевантные.
Speaker A
Нет одного Большого Брата.
Speaker A
Есть тысячи маленьких алгоритмов, каждый из которых оптимизирует нашу вовлечённость,
Speaker A
то есть нашу зависимость.
Speaker A
Оруэлл описывал тюрьму.
Speaker A
Мы живём в аквариуме.
Speaker A
Стенки прозрачные.
Speaker A
Никто не мешает двигаться, но пространство ограничено.
Speaker A
А кормят по расписанию.
Speaker A
И рыба, выросшая в аквариуме, не знает, что океан существует.
Speaker A
Олдес Хаксли, автор «Дивного нового мира», другой великой антиутопии, вышедшей на 17 лет раньше,
Speaker A
писал Оруэллу после публикации «1984».
Speaker A
Он хвалил книгу, но возражал по существу.
Speaker A
Хаксли считал, что будущая тирания будет основана не на страхе, а на удовольствии.
Speaker A
Людей не нужно будет заставлять подчиняться.
Speaker A
Достаточно дать им развлечения, которые сделают подчинение приятным.
Speaker A
Не кнут, а пряник. Не телеэкран, а телевизор.
Speaker A
Не двухминутка ненависти, а бесконечный поток контента, в котором тонет способность
Speaker A
к критическому мышлению.
Speaker A
Спустя 75 лет можно сказать: оба были правы.
Speaker A
Оруэлл описал механику государственного контроля.
Speaker A
И она работает в авторитарных режимах по всему миру.
Speaker A
Хаксли описал механику добровольного подчинения.
Speaker A
И она работает в либеральных демократиях.
Speaker A
Два пророка, две модели, и реальный мир использует обе одновременно,
Speaker A
в зависимости от географии и политического режима.
Speaker A
Нил Постман, американский культуролог,
Speaker A
в 1985 году написал книгу «Развлекаясь до смерти»,
Speaker A
в которой поставил вопрос прямо:
Speaker A
что опаснее?
Speaker A
Оруэлловский мир, в котором книги запрещают,
Speaker A
или Хакслиевский, в котором книги никто не запрещает,
Speaker A
просто никто не хочет их читать?
Speaker A
Прошло 40 лет.
Speaker A
И ответ стал очевиднее.
Speaker A
Опасны оба.
Speaker A
Оруэлл описал одну стену тюрьмы, Хаксли — другую.
Speaker A
Мы живём внутри.
Speaker A
И есть третья стена, которую не предвидел ни тот, ни другой: искусственный интеллект.
Speaker A
Алгоритмы, которые формируют ленты новостей, подбирают контент, пишут тексты
Speaker A
и генерируют изображения, создают ситуацию, в которой каждый человек
Speaker A
живёт в индивидуально подобранной реальности.
Speaker A
Двое людей, сидящих рядом в одной комнате и открывающих одно и то же приложение, видят разные новости,
Speaker A
разные мнения, разные версии событий.
Speaker A
Потому что алгоритм подстроился под профиль каждого.
Speaker A
Оруэлл описывал одну правду, навязанную всем.
Speaker A
Наша реальность предлагает миллиарды персональных правд, подобранных индивидуально.
Speaker A
Результат, как ни странно, похож.
Speaker A
Утрата общей картины мира.
Speaker A
Когда каждый живёт в своём информационном пузыре, само понятие объективной реальности,
Speaker A
за которое Оруэлл боролся, становится не запретным, а неактуальным.
Speaker A
Зачем запрещать правду, если можно сделать её невидимой для каждого конкретного человека?
Speaker A
Есть ещё один элемент романа, который заслуживает отдельного внимания:
Speaker A
комната 101.
Speaker A
Место в Министерстве любви, где ломают сопротивление.
Speaker A
Принцип прост.
Speaker A
Каждый человек боится чего-то больше всего на свете.
Speaker A
Для Уинстона Смита это крысы.
Speaker A
Партия знает, чего ты боишься, и использует это.
Speaker A
Не общее запугивание, а персонализированный ужас, подобранный индивидуально.
Speaker A
В 1949 это звучало как фантастика.
Speaker A
Сегодня, когда алгоритмы социальных сетей знают о психологическом профиле пользователя больше,
Speaker A
чем его психотерапевт,
Speaker A
персонализированное воздействие стало нормой.
Speaker A
Не камера допроса,
Speaker A
но таргетированная реклама, точечная дезинформация, индивидуально подобранный контент,
Speaker A
рассчитанный на конкретные страхи
Speaker A
и слабости конкретного человека.
Speaker A
Комната 101 стала мобильной.
Speaker A
Она помещается в кармане.
Speaker A
И здесь стоит сказать о том, что делает «1984» великим романом,
Speaker A
а не просто политическим памфлетом.
Speaker A
Оруэлл написал не трактат о тоталитаризме, он написал историю о человеке.
Speaker A
Уинстон Смит — не герой сопротивления.
Speaker A
Он обычный,
Speaker A
слабый, не особенно храбрый человек, который пытается сохранить внутри себя крошечный огонёк,
Speaker A
способность отличить правду от лжи,
Speaker A
любовь от ненависти,
Speaker A
себя от того, чем партия хочет его сделать.
Speaker A
Он проигрывает.
Speaker A
Финал романа: Уинстон сидит в кафе и плачет,
Speaker A
потому что любит Большого Брата.
Speaker A
Один из самых страшных финалов в истории литературы.
Speaker A
Не потому что герой погиб.
Speaker A
Он жив.
Speaker A
А потому что он перестал быть собой.
Speaker A
Партия уничтожила не его тело, а его самость.
Speaker A
И это страшнее смерти.
Speaker A
Потому что мёртвого человека жалеют, а человека, который предал самого себя, нет.
Speaker A
Оруэлловская двухминутка длилась 2 минуты.
Speaker A
Современный цикл возмущения — около 48 часов.
Speaker A
После этого объект забыт.
Speaker A
Энергия израсходована, и система возвращается в равновесие до следующего триггера.
Speaker A
Отличие от Оруэлла: партия направляла ненависть сознательно и целенаправленно.
Speaker A
В нашем мире направление задаётся алгоритмами, которые максимизируют вовлечённость,
Speaker A
а ненависть оказывается, вовлекает эффективнее, чем радость.
Speaker A
Исследования показывают: контент, вызывающий возмущение, распространяется в социальных сетях
Speaker A
в среднем быстрее, чем позитивный.
Speaker A
Алгоритмы не злонамеренны.
Speaker A
Они оптимизируют метрику, а метрика отражает человеческую природу.
Speaker A
Мы реагируем на угрозу сильнее, чем на утешение.
Speaker A
Оруэлл понимал это интуитивно.
Speaker A
Технологические компании XXI века подтвердили это статистически и монетизировали.
Speaker A
И вот здесь мы подходим к тому, чего Оруэлл не предвидел.
Speaker A
И именно это делает его роман одновременно пророческим и устаревшим.
Speaker A
Оруэлл думал, что главная угроза свободе — государство.
Speaker A
Тоталитарное, жёсткое, видимое государство, которое следит, наказывает и контролирует сверху.
Speaker A
Наша реальность устроена тоньше.
Speaker A
Главная угроза свободе в XXI веке — не государство, хотя государства продолжают следить, контролировать и подавлять.
Speaker A
Главная угроза — система,
Speaker A
в которой нет единого центра.
Speaker A
Алгоритмы, которые никто полностью не понимает, принимают решения, влияющие на жизнь миллиардов.
Speaker A
Что мы видим в ленте новостей, какие товары нам предлагают, какие политические идеи попадают в наше поле зрения,
Speaker A
а какие отфильтровываются как нерелевантные.
Speaker A
Нет одного Большого Брата.
Speaker A
Есть тысячи маленьких алгоритмов, каждый из которых оптимизирует нашу вовлечённость,
Speaker A
то есть нашу зависимость.
Speaker A
Оруэлл описывал тюрьму.
Speaker A
Мы живём в аквариуме.
Speaker A
Стенки прозрачные.
Speaker A
Никто не мешает двигаться, но пространство ограничено.
Speaker A
А кормят по расписанию.
Speaker A
И рыба, выросшая в аквариуме, не знает, что океан существует.
Speaker A
Олдес Хаксли, автор «Дивного нового мира», другой великой антиутопии, вышедшей на 17 лет раньше,
Speaker A
писал Оруэллу после публикации «1984».
Speaker A
Он хвалил книгу, но возражал по существу.
Speaker A
Хаксли считал, что будущая тирания будет основана не на страхе, а на удовольствии.
Speaker A
Людей не нужно будет заставлять подчиняться.
Speaker A
Достаточно дать им развлечения, которые сделают подчинение приятным.
Speaker A
Не кнут, а пряник. Не телеэкран, а телевизор.
Speaker A
Не двухминутка ненависти, а бесконечный поток контента, в котором тонет способность
Speaker A
к критическому мышлению.
Speaker A
Спустя 75 лет можно сказать: оба были правы.
Speaker A
Оруэлл описал механику государственного контроля.
Speaker A
И она работает в авторитарных режимах по всему миру.
Speaker A
Хаксли описал механику добровольного подчинения.
Speaker A
И она работает в либеральных демократиях.
Speaker A
Два пророка, две модели, и реальный мир использует обе одновременно,
Speaker A
в зависимости от географии и политического режима.
Speaker A
Нил Постман, американский культуролог,
Speaker A
в 1985 году написал книгу «Развлекаясь до смерти»,
Speaker A
в которой поставил вопрос прямо:
Speaker A
что опаснее?
Speaker A
Оруэлловский мир, в котором книги запрещают,
Speaker A
или Хакслиевский, в котором книги никто не запрещает,
Speaker A
просто никто не хочет их читать?
Speaker A
Прошло 40 лет.
Speaker A
И ответ стал очевиднее.
Speaker A
Опасны оба.
Speaker A
Оруэлл описал одну стену тюрьмы, Хаксли — другую.
Speaker A
Мы живём внутри.
Speaker A
И есть третья стена, которую не предвидел ни тот, ни другой: искусственный интеллект.
Speaker A
Алгоритмы, которые формируют ленты новостей, подбирают контент, пишут тексты
Speaker A
и генерируют изображения, создают ситуацию, в которой каждый человек
Speaker A
живёт в индивидуально подобранной реальности.
Speaker A
Двое людей, сидящих рядом в одной комнате и открывающих одно и то же приложение, видят разные новости,
Speaker A
разные мнения, разные версии событий.
Speaker A
Потому что алгоритм подстроился под профиль каждого.
Speaker A
Оруэлл описывал одну правду, навязанную всем.
Speaker A
Наша реальность предлагает миллиарды персональных правд, подобранных индивидуально.
Speaker A
Результат, как ни странно, похож.
Speaker A
Утрата общей картины мира.
Speaker A
Когда каждый живёт в своём информационном пузыре, само понятие объективной реальности,
Speaker A
за которое Оруэлл боролся, становится не запретным, а неактуальным.
Speaker A
Зачем запрещать правду, если можно сделать её невидимой для каждого конкретного человека?
Speaker A
Есть ещё один элемент романа, который заслуживает отдельного внимания:
Speaker A
комната 101.
Speaker A
Место в Министерстве любви, где ломают сопротивление.
Speaker A
Принцип прост.
Speaker A
Каждый человек боится чего-то больше всего на свете.
Speaker A
Для Уинстона Смита это крысы.
Speaker A
Партия знает, чего ты боишься, и использует это.
Speaker A
Не общее запугивание, а персонализированный ужас, подобранный индивидуально.
Speaker A
В 1949 это звучало как фантастика.
Speaker A
Сегодня, когда алгоритмы социальных сетей знают о психологическом профиле пользователя больше,
Speaker A
чем его психотерапевт,
Speaker A
персонализированное воздействие стало нормой.
Speaker A
Не камера допроса,
Speaker A
но таргетированная реклама, точечная дезинформация, индивидуально подобранный контент,
Speaker A
рассчитанный на конкретные страхи
Speaker A
и слабости конкретного человека.
Speaker A
Комната 101 стала мобильной.
Speaker A
Она помещается в кармане.
Speaker A
И здесь стоит сказать о том, что делает «1984» великим романом,
Speaker A
а не просто политическим памфлетом.
Speaker A
Оруэлл написал не трактат о тоталитаризме, он написал историю о человеке.
Speaker A
Уинстон Смит — не герой сопротивления.
Speaker A
Он обычный,
Speaker A
слабый, не особенно храбрый человек, который пытается сохранить внутри себя крошечный огонёк,
Speaker A
способность отличить правду от лжи,
Speaker A
любовь от ненависти,
Speaker A
себя от того, чем партия хочет его сделать.
Speaker A
Он проигрывает.
Speaker A
Финал романа: Уинстон сидит в кафе и плачет,
Speaker A
потому что любит Большого Брата.
Speaker A
Один из самых страшных финалов в истории литературы.
Speaker A
Не потому что герой погиб.
Speaker A
Он жив.
Speaker A
А потому что он перестал быть собой.
Speaker A
Партия уничтожила не его тело, а его самость.
Speaker A
И это страшнее смерти.
Speaker A
Потому что мёртвого человека жалеют, а человека, который предал самого себя, нет.
Speaker A
Оруэлловская двухминутка длилась 2 минуты.
Speaker A
Современный цикл возмущения — около 48 часов.
Speaker A
После этого объект забыт.
Speaker A
Энергия израсходована, и система возвращается в равновесие до следующего триггера.
Speaker A
Отличие от Оруэлла: партия направляла ненависть сознательно и целенаправленно.
Speaker A
В нашем мире направление задаётся алгоритмами, которые максимизируют вовлечённость,
Speaker A
а ненависть оказывается, вовлекает эффективнее, чем радость.
Speaker A
Исследования показывают: контент, вызывающий возмущение, распространяется в социальных сетях
Speaker A
в среднем быстрее, чем позитивный.
Speaker A
Алгоритмы не злонамеренны.
Speaker A
Они оптимизируют метрику, а метрика отражает человеческую природу.
Speaker A
Мы реагируем на угрозу сильнее, чем на утешение.
Speaker A
Оруэлл понимал это интуитивно.
Speaker A
Технологические компании XXI века подтвердили это статистически и монетизировали.
Speaker A
И вот здесь мы подходим к тому, чего Оруэлл не предвидел.
Speaker A
И именно это делает его роман одновременно пророческим и устаревшим.
Speaker A
Оруэлл думал, что главная угроза свободе — государство.
Speaker A
Тоталитарное, жёсткое, видимое государство, которое следит, наказывает и контролирует сверху.
Speaker A
Наша реальность устроена тоньше.
Speaker A
Главная угроза свободе в XXI веке — не государство, хотя государства продолжают следить, контролировать и подавлять.
Speaker A
Главная угроза — система,
Speaker A
в которой нет единого центра.
Speaker A
Алгоритмы, которые никто полностью не понимает, принимают решения, влияющие на жизнь миллиардов.
Speaker A
Что мы видим в ленте новостей, какие товары нам предлагают, какие политические идеи попадают в наше поле зрения,
Speaker A
а какие отфильтровываются как нерелевантные.
Speaker A
Нет одного Большого Брата.
Speaker A
Есть тысячи маленьких алгоритмов, каждый из которых оптимизирует нашу вовлечённость,
Speaker A
то есть нашу зависимость.
Speaker A
Оруэлл описывал тюрьму.
Speaker A
Мы живём в аквариуме.
Speaker A
Стенки прозрачные.
Speaker A
Никто не мешает двигаться, но пространство ограничено.
Speaker A
А кормят по расписанию.
Speaker A
И рыба, выросшая в аквариуме, не знает, что океан существует.
Speaker A
Олдес Хаксли, автор «Дивного нового мира», другой великой антиутопии, вышедшей на 17 лет раньше,
Speaker A
писал Оруэллу после публикации «1984».
Speaker A
Он хвалил книгу, но возражал по существу.
Speaker A
Хаксли считал, что будущая тирания будет основана не на страхе, а на удовольствии.
Speaker A
Людей не нужно будет заставлять подчиняться.
Speaker A
Достаточно дать им развлечения, которые сделают подчинение приятным.
Speaker A
Не кнут, а пряник. Не телеэкран, а телевизор.
Speaker A
Не двухминутка ненависти, а бесконечный поток контента, в котором тонет способность
Speaker A
к критическому мышлению.
Speaker A
Спустя 75 лет можно сказать: оба были правы.
Speaker A
Оруэлл описал механику государственного контроля.
Speaker A
И она работает в авторитарных режимах по всему миру.
Speaker A
Хаксли описал механику добровольного подчинения.
Speaker A
И она работает в либеральных демократиях.
Speaker A
Два пророка, две модели, и реальный мир использует обе одновременно,
Speaker A
в зависимости от географии и политического режима.
Speaker A
Нил Постман, американский культуролог,
Speaker A
в 1985 году написал книгу «Развлекаясь до смерти»,
Speaker A
в которой поставил вопрос прямо:
Speaker A
что опаснее?
Speaker A
Оруэлловский мир, в котором книги запрещают,
Speaker A
или Хакслиевский, в котором книги никто не запрещает,
Speaker A
просто никто не хочет их читать?
Speaker A
Прошло 40 лет.
Speaker A
И ответ стал очевиднее.
Speaker A
Опасны оба.
Speaker A
Оруэлл описал одну стену тюрьмы, Хаксли — другую.
Speaker A
Мы живём внутри.
Speaker A
И есть третья стена, которую не предвидел ни тот, ни другой: искусственный интеллект.
Speaker A
Алгоритмы, которые формируют ленты новостей, подбирают контент, пишут тексты
Speaker A
и генерируют изображения, создают ситуацию, в которой каждый человек
Speaker A
живёт в индивидуально подобранной реальности.
Speaker A
Двое людей, сидящих рядом в одной комнате и открывающих одно и то же приложение, видят разные новости,
Speaker A
разные мнения, разные версии событий.
Speaker A
Потому что алгоритм подстроился под профиль каждого.
Speaker A
Оруэлл описывал одну правду, навязанную всем.
Speaker A
Наша реальность предлагает миллиарды персональных правд, подобранных индивидуально.
Speaker A
Результат, как ни странно, похож.
Speaker A
Утрата общей картины мира.
Speaker A
Когда каждый живёт в своём информационном пузыре, само понятие объективной реальности,
Speaker A
за которое Оруэлл боролся, становится не запретным, а неактуальным.
Speaker A
Зачем запрещать правду, если можно сделать её невидимой для каждого конкретного человека?
Speaker A
Есть ещё один элемент романа, который заслуживает отдельного внимания:
Speaker A
комната 101.
Speaker A
Место в Министерстве любви, где ломают сопротивление.
Speaker A
Принцип прост.
Speaker A
Каждый человек боится чего-то больше всего на свете.
Speaker A
Для Уинстона Смита это крысы.
Speaker A
Партия знает, чего ты боишься, и использует это.
Speaker A
Не общее запугивание, а персонализированный ужас, подобранный индивидуально.
Speaker A
В 1949 это звучало как фантастика.
Speaker A
Сегодня, когда алгоритмы социальных сетей знают о психологическом профиле пользователя больше,
Speaker A
чем его психотерапевт,
Speaker A
персонализированное воздействие стало нормой.
Speaker A
Не камера допроса,
Speaker A
но таргетированная реклама, точечная дезинформация, индивидуально подобранный контент,
Speaker A
рассчитанный на конкретные страхи
Speaker A
и слабости конкретного человека.
Speaker A
Комната 101 стала мобильной.
Speaker A
Она помещается в кармане.
Speaker A
И здесь стоит сказать о том, что делает «1984» великим романом,
Speaker A
а не просто политическим памфлетом.
Speaker A
Оруэлл написал не трактат о тоталитаризме, он написал историю о человеке.
Speaker A
Уинстон Смит — не герой сопротивления.
Speaker A
Он обычный,
Speaker A
слабый, не особенно храбрый человек, который пытается сохранить внутри себя крошечный огонёк,
Speaker A
способность отличить правду от лжи,
Speaker A
любовь от ненависти,
Speaker A
себя от того, чем партия хочет его сделать.
Speaker A
Он проигрывает.
Speaker A
Финал романа: Уинстон сидит в кафе и плачет,
Speaker A
потому что любит Большого Брата.
Speaker A
Один из самых страшных финалов в истории литературы.
Speaker A
Не потому что герой погиб.
Speaker A
Он жив.
Speaker A
А потому что он перестал быть собой.
Speaker A
Партия уничтожила не его тело, а его самость.
Speaker A
И это страшнее смерти.
Speaker A
Потому что мёртвого человека жалеют, а человека, который предал самого себя, нет.
Speaker A
Оруэлловская двухминутка длилась 2 минуты.
Speaker A
Современный цикл возмущения — около 48 часов.
Speaker A
После этого объект забыт.
Speaker A
Энергия израсходована, и система возвращается в равновесие до следующего триггера.
Speaker A
Отличие от Оруэлла: партия направляла ненависть сознательно и целенаправленно.
Speaker A
В нашем мире направление задаётся алгоритмами, которые максимизируют вовлечённость,
Speaker A
а ненависть оказывается, вовлекает эффективнее, чем радость.
Speaker A
Исследования показывают: контент, вызывающий возмущение, распространяется в социальных сетях
Speaker A
в среднем быстрее, чем позитивный.
Speaker A
Алгоритмы не злонамеренны.
Speaker A
Они оптимизируют метрику, а метрика отражает человеческую природу.
Speaker A
Мы реагируем на угрозу сильнее, чем на утешение.
Speaker A
Оруэлл понимал это интуитивно.
Speaker A
Технологические компании XXI века подтвердили это статистически и монетизировали.
Speaker A
И вот здесь мы подходим к тому, чего Оруэлл не предвидел.
Speaker A
И именно это делает его роман одновременно пророческим и устаревшим.
Speaker A
Оруэлл думал, что главная угроза свободе — государство.
Speaker A
Тоталитарное, жёсткое, видимое государство, которое следит, наказывает и контролирует сверху.
Speaker A
Наша реальность устроена тоньше.
Speaker A
Главная угроза свободе в XXI веке — не государство, хотя государства продолжают следить, контролировать и подавлять.
Speaker A
Главная угроза — система,
Speaker A
в которой нет единого центра.
Speaker A
Алгоритмы, которые никто полностью не понимает, принимают решения, влияющие на жизнь миллиардов.
Speaker A
Что мы видим в ленте новостей, какие товары нам предлагают, какие политические идеи попадают в наше поле зрения,
Speaker A
а какие отфильтровываются как нерелевантные.
Speaker A
Нет одного Большого Брата.
Speaker A
Есть тысячи маленьких алгоритмов, каждый из которых оптимизирует нашу вовлечённость,
Speaker A
то есть нашу зависимость.
Speaker A
Оруэлл описывал тюрьму.
Speaker A
Мы живём в аквариуме.
Speaker A
Стенки прозрачные.
Speaker A
Никто не мешает двигаться, но пространство ограничено.
Speaker A
А кормят по расписанию.
Speaker A
И рыба, выросшая в аквариуме, не знает, что океан существует.
Speaker A
Олдес Хаксли, автор «Дивного нового мира», другой великой антиутопии, вышедшей на 17 лет раньше,
Speaker A
писал Оруэллу после публикации «1984».
Speaker A
Он хвалил книгу, но возражал по существу.
Speaker A
Хаксли считал, что будущая тирания будет основана не на страхе, а на удовольствии.
Speaker A
Людей не нужно будет заставлять подчиняться.
Speaker A
Достаточно дать им развлечения, которые сделают подчинение приятным.
Speaker A
Не кнут, а пряник. Не телеэкран, а телевизор.
Speaker A
Не двухминутка ненависти, а бесконечный поток контента, в котором тонет способность
Speaker A
к критическому мышлению.
Speaker A
Спустя 75 лет можно сказать: оба были правы.
Speaker A
Оруэлл описал механику государственного контроля.
Speaker A
И она работает в авторитарных режимах по всему миру.
Speaker A
Хаксли описал механику добровольного подчинения.
Speaker A
И она работает в либеральных демократиях.
Speaker A
Два пророка, две модели, и реальный мир использует обе одновременно,
Speaker A
в зависимости от географии и политического режима.
Speaker A
Нил Постман, американский культуролог,
Speaker A
в 1985 году написал книгу «Развлекаясь до смерти»,
Speaker A
в которой поставил вопрос прямо:
Speaker A
что опаснее?
Speaker A
Оруэлловский мир, в котором книги запрещают,
Speaker A
или Хакслиевский, в котором книги никто не запрещает,
Speaker A
просто никто не хочет их читать?
Speaker A
Прошло 40 лет.
Speaker A
И ответ стал очевиднее.
Speaker A
Опасны оба.
Speaker A
Оруэлл описал одну стену тюрьмы, Хаксли — другую.
Speaker A
Мы живём внутри.
Speaker A
И есть третья стена, которую не предвидел ни тот, ни другой: искусственный интеллект.
Speaker A
Алгоритмы, которые формируют ленты новостей, подбирают контент, пишут тексты
Speaker A
и генерируют изображения, создают ситуацию, в которой каждый человек
Speaker A
живёт в индивидуально подобранной реальности.
Speaker A
Двое людей, сидящих рядом в одной комнате и открывающих одно и то же приложение, видят разные новости,
Speaker A
разные мнения, разные версии событий.
Speaker A
Потому что алгоритм подстроился под профиль каждого.
Speaker A
Оруэлл описывал одну правду, навязанную всем.
Speaker A
Наша реальность предлагает миллиарды персональных правд, подобранных индивидуально.
Speaker A
Результат, как ни странно, похож.
Speaker A
Утрата общей картины мира.
Speaker A
Когда каждый живёт в своём информационном пузыре, само понятие объективной реальности,
Speaker A
за которое Оруэлл боролся, становится не запретным, а неактуальным.
Speaker A
Зачем запрещать правду, если можно сделать её невидимой для каждого конкретного человека?
Speaker A
Есть ещё один элемент романа, который заслуживает отдельного внимания:
Speaker A
комната 101.
Speaker A
Место в Министерстве любви, где ломают сопротивление.
Speaker A
Принцип прост.
Speaker A
Каждый человек боится чего-то больше всего на свете.
Speaker A
Для Уинстона Смита это крысы.
Speaker A
Партия знает, чего ты боишься, и использует это.
Speaker A
Не общее запугивание, а персонализированный ужас, подобранный индивидуально.
Speaker A
В 1949 это звучало как фантастика.
Speaker A
Сегодня, когда алгоритмы социальных сетей знают о психологическом профиле пользователя больше,
Speaker A
чем его психотерапевт,
Speaker A
персонализированное воздействие стало нормой.
Speaker A
Не камера допроса,
Speaker A
но таргетированная реклама, точечная дезинформация, индивидуально подобранный контент,
Speaker A
рассчитанный на конкретные страхи
Speaker A
и слабости конкретного человека.
Speaker A
Комната 101 стала мобильной.
Speaker A
Она помещается в кармане.
Speaker A
И здесь стоит сказать о том, что делает «1984» великим романом,
Speaker A
а не просто политическим памфлетом.
Speaker A
Оруэлл написал не трактат о тоталитаризме, он написал историю о человеке.
Speaker A
Уинстон Смит — не герой сопротивления.
Speaker A
Он обычный,
Speaker A
слабый, не особенно храбрый человек, который пытается сохранить внутри себя крошечный огонёк,
Speaker A
способность отличить правду от лжи,
Speaker A
любовь от ненависти,
Speaker A
себя от того, чем партия хочет его сделать.
Speaker A
Он проигрывает.
Speaker A
Финал романа: Уинстон сидит в кафе и плачет,
Speaker A
потому что любит Большого Брата.
Speaker A
Один из самых страшных финалов в истории литературы.
Speaker A
Не потому что герой погиб.
Speaker A
Он жив.
Speaker A
А потому что он перестал быть собой.
Speaker A
Партия уничтожила не его тело, а его самость.
Speaker A
И это страшнее смерти.
Speaker A
Потому что мёртвого человека жалеют, а человека, который предал самого себя, нет.
Speaker A
Оруэлловская двухминутка длилась 2 минуты.
Speaker A
Современный цикл возмущения — около 48 часов.
Speaker A
После этого объект забыт.
Speaker A
Энергия израсходована, и система возвращается в равновесие до следующего триггера.
Speaker A
Отличие от Оруэлла: партия направляла ненависть сознательно и целенаправленно.
Speaker A
В нашем мире направление задаётся алгоритмами, которые максимизируют вовлечённость,
Speaker A
а ненависть оказывается, вовлекает эффективнее, чем радость.
Speaker A
Исследования показывают: контент, вызывающий возмущение, распространяется в социальных сетях
Speaker A
в среднем быстрее, чем позитивный.
Speaker A
Алгоритмы не злонамеренны.
Speaker A
Они оптимизируют метрику, а метрика отражает человеческую природу.
Speaker A
Мы реагируем на угрозу сильнее, чем на утешение.
Speaker A
Оруэлл понимал это интуитивно.
Speaker A
Технологические компании XXI века подтвердили это статистически и монетизировали.
Speaker A
И вот здесь мы подходим к тому, чего Оруэлл не предвидел.
Speaker A
И именно это делает его роман одновременно пророческим и устаревшим.
Speaker A
Оруэлл думал, что главная угроза свободе — государство.
Speaker A
Тоталитарное, жёсткое, видимое государство, которое следит, наказывает и контролирует сверху.
Speaker A
Наша реальность устроена тоньше.
Speaker A
Главная угроза свободе в XXI веке — не государство, хотя государства продолжают следить, контролировать и подавлять.
Speaker A
Главная угроза — система,
Speaker A
в которой нет единого центра.
Speaker A
Алгоритмы, которые никто полностью не понимает, принимают решения, влияющие на жизнь миллиардов.
Speaker A
Что мы видим в ленте новостей, какие товары нам предлагают, какие политические идеи попадают в наше поле зрения,
Speaker A
а какие отфильтровываются как нерелевантные.
Speaker A
Нет одного Большого Брата.
Speaker A
Есть тысячи маленьких алгоритмов, каждый из которых оптимизирует нашу вовлечённость,
Speaker A
то есть нашу зависимость.
Speaker A
Оруэлл описывал тюрьму.
Speaker A
Мы живём в аквариуме.
Speaker A
Стенки прозрачные.
Speaker A
Никто не мешает двигаться, но пространство ограничено.
Speaker A
А кормят по расписанию.
Speaker A
И рыба, выросшая в аквариуме, не знает, что океан существует.
Speaker A
Олдес Хаксли, автор «Дивного нового мира», другой великой антиутопии, вышедшей на 17 лет раньше,
Speaker A
писал Оруэллу после публикации «1984».
Speaker A
Он хвалил книгу, но возражал по существу.
Speaker A
Хаксли считал, что будущая тирания будет основана не на страхе, а на удовольствии.
Speaker A
Людей не нужно будет заставлять подчиняться.
Speaker A
Достаточно дать им развлечения, которые сделают подчинение приятным.
Speaker A
Не кнут, а пряник. Не телеэкран, а телевизор.
Speaker A
Не двухминутка ненависти, а бесконечный поток контента, в котором тонет способность
Speaker A
к критическому мышлению.
Speaker A
Спустя 75 лет можно сказать: оба были правы.
Speaker A
Оруэлл описал механику государственного контроля.
Speaker A
И она работает в авторитарных режимах по всему миру.
Speaker A
Хаксли описал механику добровольного подчинения.
Speaker A
И она работает в либеральных демократиях.
Speaker A
Два пророка, две модели, и реальный мир использует обе одновременно,
Speaker A
в зависимости от географии и политического режима.
Speaker A
Нил Постман, американский культуролог,
Speaker A
в 1985 году написал книгу «Развлекаясь до смерти»,
Speaker A
в которой поставил вопрос прямо:
Speaker A
что опаснее?
Speaker A
Оруэлловский мир, в котором книги запрещают,
Speaker A
или Хакслиевский, в котором книги никто не запрещает,
Speaker A
просто никто не хочет их читать?
Speaker A
Прошло 40 лет.
Speaker A
И ответ стал очевиднее.
Speaker A
Опасны оба.
Speaker A
Оруэлл описал одну стену тюрьмы, Хаксли — другую.
Speaker A
Мы живём внутри.
Speaker A
И есть третья стена, которую не предвидел ни тот, ни другой: искусственный интеллект.
Speaker A
Алгоритмы, которые формируют ленты новостей, подбирают контент, пишут тексты
Speaker A
и генерируют изображения, создают ситуацию, в которой каждый человек
Speaker A
живёт в индивидуально подобранной реальности.
Speaker A
Двое людей, сидящих рядом в одной комнате и открывающих одно и то же приложение, видят разные новости,
Speaker A
разные мнения, разные версии событий.
Speaker A
Потому что алгоритм подстроился под профиль каждого.
Speaker A
Оруэлл описывал одну правду, навязанную всем.
Speaker A
Наша реальность предлагает миллиарды персональных правд, подобранных индивидуально.
Speaker A
Результат, как ни странно, похож.
Speaker A
Утрата общей картины мира.
Speaker A
Когда каждый живёт в своём информационном пузыре, само понятие объективной реальности,
Speaker A
за которое Оруэлл боролся, становится не запретным, а неактуальным.
Speaker A
Зачем запрещать правду, если можно сделать её невидимой для каждого конкретного человека?
Speaker A
Есть ещё один элемент романа, который заслуживает отдельного внимания:
Speaker A
комната 101.
Speaker A
Место в Министерстве любви, где ломают сопротивление.
Speaker A
Принцип прост.
Speaker A
Каждый человек боится чего-то больше всего на свете.
Speaker A
Для Уинстона Смита это крысы.
Speaker A
Партия знает, чего ты боишься, и использует это.
Speaker A
Не общее запугивание, а персонализированный ужас, подобранный индивидуально.
Speaker A
В 1949 это звучало как фантастика.
Speaker A
Сегодня, когда алгоритмы социальных сетей знают о психологическом профиле пользователя больше,
Speaker A
чем его психотерапевт,
Speaker A
персонализированное воздействие стало нормой.
Speaker A
Не камера допроса,
Speaker A
но таргетированная реклама, точечная дезинформация, индивидуально подобранный контент,
Speaker A
рассчитанный на конкретные страхи
Speaker A
и слабости конкретного человека.
Speaker A
Комната 101 стала мобильной.
Speaker A
Она помещается в кармане.
Speaker A
И здесь стоит сказать о том, что делает «1984» великим романом,
Speaker A
а не просто политическим памфлетом.
Speaker A
Оруэлл написал не трактат о тоталитаризме, он написал историю о человеке.
Speaker A
Уинстон Смит — не герой сопротивления.
Speaker A
Он обычный,
Speaker A
слабый, не особенно храбрый человек, который пытается сохранить внутри себя крошечный огонёк,
Speaker A
способность отличить правду от лжи,
Speaker A
любовь от ненависти,
Speaker A
себя от того, чем партия хочет его сделать.
Speaker A
Он проигрывает.
Speaker A
Финал романа: Уинстон сидит в кафе и плачет,
Speaker A
потому что любит Большого Брата.
Speaker A
Один из самых страшных финалов в истории литературы.
Speaker A
Не потому что герой погиб.
Speaker A
Он жив.
Speaker A
А потому что он перестал быть собой.
Speaker A
Партия уничтожила не его тело, а его самость.
Speaker A
И это страшнее смерти.
Speaker A
Потому что мёртвого человека жалеют, а человека, который предал самого себя, нет.
Speaker A
Оруэлловская двухминутка длилась 2 минуты.
Speaker A
Современный цикл возмущения — около 48 часов.
Speaker A
После этого объект забыт.
Speaker A
Энергия израсходована, и система возвращается в равновесие до следующего триггера.
Speaker A
Отличие от Оруэлла: партия направляла ненависть сознательно и целенаправленно.
Speaker A
В нашем мире направление задаётся алгоритмами, которые максимизируют вовлечённость,
Speaker A
а ненависть оказывается, вовлекает эффективнее, чем радость.
Speaker A
Исследования показывают: контент, вызывающий возмущение, распространяется в социальных сетях
Speaker A
в среднем быстрее, чем позитивный.
Speaker A
Алгоритмы не злонамеренны.
Speaker A
Они оптимизируют метрику, а метрика отражает человеческую природу.
Speaker A
Мы реагируем на угрозу сильнее, чем на утешение.
Speaker A
Оруэлл понимал это интуитивно.
Speaker A
Технологические компании XXI века подтвердили это статистически и монетизировали.
Speaker A
И вот здесь мы подходим к тому, чего Оруэлл не предвидел.
Speaker A
И именно это делает его роман одновременно пророческим и устаревшим.
Speaker A
Оруэлл думал, что главная угроза свободе — государство.
Speaker A
Тоталитарное, жёсткое, видимое государство, которое следит, наказывает и контролирует сверху.
Speaker A
Наша реальность устроена тоньше.
Speaker A
Главная угроза свободе в XXI веке — не государство, хотя государства продолжают следить, контролировать и подавлять.
Speaker A
Главная угроза — система,
Speaker A
в которой нет единого центра.
Speaker A
Алгоритмы, которые никто полностью не понимает, принимают решения, влияющие на жизнь миллиардов.
Speaker A
Что мы видим в ленте новостей, какие товары нам предлагают, какие политические идеи попадают в наше поле зрения,
Speaker A
а какие отфильтровываются как нерелевантные.
Speaker A
Нет одного Большого Брата.
Speaker A
Есть тысячи маленьких алгоритмов, каждый из которых оптимизирует нашу вовлечённость,
Speaker A
то есть нашу зависимость.
Speaker A
Оруэлл описывал тюрьму.
Speaker A
Мы живём в аквариуме.
Speaker A
Стенки прозрачные.
Speaker A
Никто не мешает двигаться, но пространство ограничено.
Speaker A
А кормят по расписанию.
Speaker A
И рыба, выросшая в аквариуме, не знает, что океан существует.
Speaker A
Олдес Хаксли, автор «Дивного нового мира», другой великой антиутопии, вышедшей на 17 лет раньше,
Speaker A
писал Оруэллу после публикации «1984».
Speaker A
Он хвалил книгу, но возражал по существу.
Speaker A
Хаксли считал, что будущая тирания будет основана не на страхе, а на удовольствии.
Speaker A
Людей не нужно будет заставлять подчиняться.
Speaker A
Достаточно дать им развлечения, которые сделают подчинение приятным.
Speaker A
Не кнут, а пряник. Не телеэкран, а телевизор.
Speaker A
Не двухминутка ненависти, а бесконечный поток контента, в котором тонет способность
Speaker A
к критическому мышлению.
Topics:Джордж Оруэлл1984тоталитаризмцифровой контрольсоциальные сетиимперияслежкаБирмаполитическая прозаалгоритмы
