**ОРУЭЛЛ: Как он УВИДЕЛ наш мир в 1949 году — и что из его ПРЕДСКАЗАНИЙ уже СБЫЛОСЬ — Transcript & Summary | SozAI**
Source: https://sozai.app/transcript/orwell-vision-1949-predictions-fulfilled/

Видео анализирует пророческий роман Оруэлла «1984» и сравнивает его с современной реальностью цифрового контроля и добровольного наблюдения.

## Key Takeaways

- Современные технологии воплощают многие идеи Оруэлла о тотальном контроле, но в форме добровольной слежки.
- Власть и контроль разрушают не только управляемых, но и тех, кто осуществляет контроль.
- Роман «1984» — это прежде всего история человека, а не просто политический манифест.
- Современные алгоритмы усиливают негативные эмоции, что отличается от прямого государственного контроля в романе.
- Главная угроза свободе в XXI веке — не только государство, а сложные технологические и социальные механизмы.

## What the video covers

- Современные смартфоны выполняют функции, похожие на телеэкраны из романа Оруэлла «1984», фиксируя личные данные и поведение пользователя.
- Джордж Оруэлл (Эрик Артур Блэр) родился в колониальной Индии и вырос в английском среднем классе, что повлияло на его взгляд на империю и социальные системы.
- Опыт службы в Бирме дал Оруэллу понимание власти как механизма насилия, разрушающего как управляемых, так и управляющих.
- Роман «1984» не просто политический памфлет, а история обычного человека, который теряет свою личность под давлением тоталитарной власти.
- Современные алгоритмы социальных сетей усиливают ненависть и возмущение, что напоминает методы управления в романе, но с технологическими отличиями.
- Оруэлл считал главной угрозой свободе государство, тогда как сегодня угроза более тонкая и связана с алгоритмическим контролем и добровольной слежкой.
- Видео подчеркивает, что современный контроль стал добровольным и замаскированным под удобство и технологический прогресс.
- Автор канала Личности в деталях связывает творчество Оруэлла с его жизненным опытом и политическими убеждениями.
- Видео сравнивает циклы общественного возмущения в современном мире с постоянным и целенаправленным контролем в романе.
- Финал романа «1984» показывает страшную потерю личности, что делает произведение актуальным и сегодня.

Answers

## Questions about this video

Что такое телеэкран в романе «1984» и как он сравнивается с современными устройствами?

Телеэкран в романе — устройство, которое постоянно следит за человеком и не может быть выключено. Современные смартфоны выполняют похожие функции, но контроль стал добровольным и замаскирован под удобство.

Как опыт службы Оруэлла в Бирме повлиял на его взгляды и творчество?

Служба в Бирме дала Оруэллу понимание власти как механизма насилия, который разрушает и угнетённых, и угнетателей, что стало центральной темой его творчества.

В чем заключается главная угроза свободе в XXI веке по мнению автора видео?

Главная угроза — не только государственный контроль, а сложные алгоритмические системы, которые добровольно принимаются людьми и усиливают негативные эмоции для максимизации вовлечённости.

## Full Transcript — Download SRT & Markdown

00:00

Speaker A

Прямо сейчас, в каждом кармане лежит устройство,

00:06

Speaker A

которое знает, где вы находитесь, с кем разговариваете, что покупаете, что читаете

00:13

Speaker A

и на что смотрите перед сном. Оно знает ваш маршрут от дома до работы,

00:19

Speaker A

ваши поисковые запросы, ваш пульс, количество шагов и содержание переписки с близкими.

00:24

Speaker A

Вносите его добровольно, вы за него заплатили, и без него возникает тревога, когда забываете его дома.

00:33

Speaker A

В 1949 году умирающий от туберкулёза англичанин описал устройство, которое делает примерно то же самое, только в его версии оно называлось телеэкран.

00:48

Speaker A

Висело на стене, и выключить его было нельзя.

00:52

Speaker A

Он назвал свой роман 1984.

00:57

Speaker A

Прошло 75 лет, и почти всё, что он описал, стало реальностью.

01:41

Speaker A

С одной поправкой, которую он не предвидел: мы подписались на слежку добровольно.

01:54

Speaker A

Если вам интересны истории людей, которые видели дальше других и платили за это полную цену, подпишитесь на канал Личности в деталях.

02:05

Speaker A

Вчера мы разбирали Маяковского, человека, который верил в утопию. Сегодня — человек, который показал, чем утопии заканчиваются.

02:17

Speaker A

Эрик Артур Блэр, настоящее имя Джорджа Оруэлла, родился 25 июня 1903 года в Мотихари, маленьком городке в Бенгалии, на северо-востоке Британской Индии.

02:33

Speaker A

Отец, Ричард Уолмсли Блэр, служил в Опиумном департаменте Индийской гражданской службы, в ведомстве, которое контролировало производство и экспорт опиума из Индии в Китай.

03:28

Speaker A

Это была легальная, хорошо оплачиваемая государственная должность, и сам факт её существования говорит о Британской империи больше, чем любой учебник. Империя зарабатывала на наркоторговле, оформленной как государственная монополия, и не видела в этом ничего предосудительного.

03:51

Speaker A

Маленький Эрик вырос в среде, где слово «империя» означало не абстракцию, а конкретную систему, в которой одни люди управляют другими, открыто, буднично, без чувства вины.

04:09

Speaker A

Мать увезла Эрика в Англию, когда ему был год. Отец остался в Индии. Они виделись редко,

04:20

Speaker A

связь поддерживалась письмами. Семья принадлежала к тому слою английского общества,

04:29

Speaker A

который Оруэлл позже опишет с хирургической точностью: нижняя, верхняя часть среднего класса.

04:40

Speaker A

Достаточно респектабельны, чтобы послать сына в хорошую школу, недостаточно богаты, чтобы за эту школу заплатить без унижений.

04:53

Speaker A

Эрик попал в подготовительную школу Сент-Киприанс на стипендию, что означало: он получал образование наравне с детьми аристократов и банкиров.

05:07

Speaker A

Но все знали, что за него не платят полную цену. Это ощущение — быть внутри системы и одновременно быть отмеченным как не совсем свой,

05:20

Speaker A

Оруэлл пронесёт через всю жизнь. Оно определит его взгляд.

05:30

Speaker A

Он всегда будет смотреть на любую систему изнутри и одновременно со стороны,

05:43

Speaker A

видя механизмы, которые участники системы предпочитают не замечать.

05:50

Speaker A

Из Сент-Киприанс Блэр перешёл в Итон, один из самых престижных колледжей Англии, куда попадали будущие премьер-министры, генералы и директора Банка Англии.

06:06

Speaker A

Блэр попал туда опять же на стипендию, королевский стипендиат, что давало бесплатное обучение, но не давало ни фунта на карманные расходы.

06:20

Speaker A

Он учился рядом с мальчиками, которые приезжали на каникулы в загородные поместья с прислугой, а возвращался в скромный дом матери в пригороде.

06:40

Speaker A

Итон дал ему превосходное образование: знание латыни и греческого, умение писать английскую прозу кристальной чистоты

06:50

Speaker A

и стойкое отвращение к классовой системе, которую он наблюдал каждый день на расстоянии вытянутой руки.

07:00

Speaker A

Позже Оруэлл напишет эссе «Почему я пишу», в котором перечислит четыре мотива, побуждающих писателя к работе:

07:13

Speaker A

самолюбие, эстетический восторг, исторический импульс и политическая цель.

07:20

Speaker A

Он признаёт, что первые три присутствуют у него, но четвёртый, политический, доминирует.

07:30

Speaker A

Каждая строка серьёзной прозы, которую я написал с 1936 года, была написана прямо или косвенно против тоталитаризма

07:40

Speaker A

и за демократический социализм, как я его понимаю.

07:46

Speaker A

Это было не позой и не программным заявлением.

07:52

Speaker A

Это было описание внутреннего механизма. Оруэлл не мог писать, не думая о справедливости,

08:00

Speaker A

не мог строить предложения, не взвешивая его на весах правды.

08:06

Speaker A

Язык для него был не средством самовыражения, он был средством борьбы.

08:15

Speaker A

И именно поэтому его проза звучит так, будто каждое слово выбрано не для красоты, а для точности,

08:25

Speaker A

как инструмент в хирургическом наборе.

08:29

Speaker A

После Итона большинство выпускников отправлялись в Оксфорд или Кембридж.

08:40

Speaker A

Блэр, чья семья не могла позволить себе университет, принял решение, которое шокировало всех, кто его знал.

08:51

Speaker A

Он поступил на службу в Индийскую имперскую полицию и уехал в Бирму.

09:00

Speaker A

Ему было 19.

09:02

Speaker A

Мотивы до конца не ясны. Возможно, он хотел увидеть империю изнутри.

09:10

Speaker A

Возможно, хотел заработать.

09:13

Speaker A

Возможно, просто не знал, что ещё делать.

09:17

Speaker A

Так или иначе, следующие 5 лет он провёл в Бирме, командуя полицейскими отрядами, следя за порядком в колонии,

09:30

Speaker A

присутствуя при наказаниях и наблюдая за тем, как работает машина имперского подавления.

09:40

Speaker A

Бирма была переломным опытом.

09:44

Speaker A

Блэр, молодой англичанин из хорошей семьи, оказался в роли угнетателя.

09:53

Speaker A

Не метафорически, а буквально. Он командовал людьми с оружием.

10:00

Speaker A

Он обеспечивал исполнение законов, написанных в Лондоне для народа, который эти законы не принимал и не хотел.

10:10

Speaker A

Позже, в эссе «Как я стрелял в слона» и «Повешение», он опишет то, что чувствовал в Бирме,

10:20

Speaker A

с честностью, граничащей с жестокостью к самому себе.

10:27

Speaker A

Стыд, отвращение к собственной роли, ощущение, что империя — это не бремя белого человека,

10:35

Speaker A

а механизм насилия, который разрушает и тех, кем управляет, и тех, кто управляет.

10:40

Speaker A

В «Повешении» он описывает, как ведут на казнь осуждённого, и осуждённый обходит лужу на дороге,

10:50

Speaker A

чтобы не промочить ноги.

10:54

Speaker A

Через несколько минут этот человек будет мёртв, но он по привычке обходит лужу.

11:00

Speaker A

Деталь, которая говорит о человечности больше, чем любой трактат.

11:06

Speaker A

Бирманский опыт дал Оруэллу ещё одно понимание, которое станет центральным для всего его творчества:

11:17

Speaker A

власть разрушает того, кто её осуществляет.

11:22

Speaker A

В 1949 году это звучало как фантастика. Сегодня, когда алгоритмы социальных сетей знают о психологическом профиле пользователя больше,

11:30

Speaker A

чем его психотерапевт, персонализированное воздействие стало нормой.

11:40

Speaker A

Комната 101 стала мобильной, она помещается в кармане.

11:49

Speaker A

И здесь стоит сказать о том, что делает «1984» великим романом, а не просто политическим памфлетом.

11:59

Speaker A

Оруэлл написал не трактат о тоталитаризме, он написал историю о человеке.

12:05

Speaker A

Уинстон Смит — не герой сопротивления, он обычный, слабый, не особенно храбрый человек,

12:12

Speaker A

который пытается сохранить внутри себя крошечный огонёк,

12:18

Speaker A

способность отличить правду от лжи,

12:22

Speaker A

любовь от ненависти,

12:24

Speaker A

себя от того, чем партия хочет его сделать.

12:27

Speaker A

Он проигрывает.

12:29

Speaker A

Финал романа: Уинстон сидит в кафе и плачет,

12:33

Speaker A

потому что любит Большого Брата.

12:36

Speaker A

Один из самых страшных финалов в истории литературы.

12:43

Speaker A

Не потому что герой погиб.

12:45

Speaker A

Он жив.

12:46

Speaker A

А потому что он перестал быть собой.

12:51

Speaker A

Партия уничтожила не его тело, а его самость.

12:56

Speaker A

И это страшнее смерти.

12:59

Speaker A

Потому что мёртвого человека жалеют, а человека, который предал самого себя, нет.

13:04

Speaker A

Оруэлловская двухминутка длилась 2 минуты.

13:11

Speaker A

Современный цикл возмущения — около 48 часов.

13:16

Speaker A

После этого объект забыт.

13:20

Speaker A

Энергия израсходована, и система возвращается в равновесие до следующего триггера.

13:25

Speaker A

Отличие от Оруэлла: партия направляла ненависть сознательно и целенаправленно.

13:30

Speaker A

В нашем мире направление задаётся алгоритмами, которые максимизируют вовлечённость,

13:37

Speaker A

а ненависть оказывается, вовлекает эффективнее, чем радость.

13:40

Speaker A

Исследования показывают: контент, вызывающий возмущение, распространяется в социальных сетях

13:46

Speaker A

в среднем быстрее, чем позитивный.

13:50

Speaker A

Алгоритмы не злонамеренны.

13:52

Speaker A

Они оптимизируют метрику, а метрика отражает человеческую природу.

13:57

Speaker A

Мы реагируем на угрозу сильнее, чем на утешение.

14:01

Speaker A

Оруэлл понимал это интуитивно.

14:05

Speaker A

Технологические компании XXI века подтвердили это статистически и монетизировали.

14:10

Speaker A

И вот здесь мы подходим к тому, чего Оруэлл не предвидел.

14:15

Speaker A

И именно это делает его роман одновременно пророческим и устаревшим.

14:20

Speaker A

Оруэлл думал, что главная угроза свободе — государство.

14:25

Speaker A

Тоталитарное, жёсткое, видимое государство, которое следит, наказывает и контролирует сверху.

14:30

Speaker A

Наша реальность устроена тоньше.

14:34

Speaker A

Главная угроза свободе в XXI веке — не государство, хотя государства продолжают следить, контролировать и подавлять.

14:40

Speaker A

Главная угроза — система,

14:43

Speaker A

в которой нет единого центра.

14:46

Speaker A

Алгоритмы, которые никто полностью не понимает, принимают решения, влияющие на жизнь миллиардов.

14:53

Speaker A

Что мы видим в ленте новостей, какие товары нам предлагают, какие политические идеи попадают в наше поле зрения,

15:01

Speaker A

а какие отфильтровываются как нерелевантные.

15:05

Speaker A

Нет одного Большого Брата.

15:08

Speaker A

Есть тысячи маленьких алгоритмов, каждый из которых оптимизирует нашу вовлечённость,

15:14

Speaker A

то есть нашу зависимость.

15:16

Speaker A

Оруэлл описывал тюрьму.

15:18

Speaker A

Мы живём в аквариуме.

15:22

Speaker A

Стенки прозрачные.

15:24

Speaker A

Никто не мешает двигаться, но пространство ограничено.

15:29

Speaker A

А кормят по расписанию.

15:31

Speaker A

И рыба, выросшая в аквариуме, не знает, что океан существует.

15:39

Speaker A

Олдес Хаксли, автор «Дивного нового мира», другой великой антиутопии, вышедшей на 17 лет раньше,

15:49

Speaker A

писал Оруэллу после публикации «1984».

15:55

Speaker A

Он хвалил книгу, но возражал по существу.

15:59

Speaker A

Хаксли считал, что будущая тирания будет основана не на страхе, а на удовольствии.

16:05

Speaker A

Людей не нужно будет заставлять подчиняться.

16:10

Speaker A

Достаточно дать им развлечения, которые сделают подчинение приятным.

16:15

Speaker A

Не кнут, а пряник. Не телеэкран, а телевизор.

16:20

Speaker A

Не двухминутка ненависти, а бесконечный поток контента,

16:25

Speaker A

в котором тонет способность к критическому мышлению.

16:30

Speaker A

Спустя 75 лет можно сказать: оба были правы.

16:35

Speaker A

Оруэлл описал механику государственного контроля.

16:39

Speaker A

И она работает в авторитарных режимах по всему миру.

16:43

Speaker A

Хаксли описал механику добровольного подчинения.

16:48

Speaker A

И она работает в либеральных демократиях.

16:51

Speaker A

Два пророка, две модели, и реальный мир использует обе одновременно,

16:56

Speaker A

в зависимости от географии и политического режима.

17:00

Speaker A

Неил Постман, американский культуролог,

17:04

Speaker A

в 1985 году написал книгу «Развлекаясь до смерти»,

17:10

Speaker A

в которой поставил вопрос прямо:

17:14

Speaker A

что опаснее?

17:16

Speaker A

Оруэлловский мир, в котором книги запрещают,

17:22

Speaker A

или Хакслиевский, в котором книги никто не запрещает,

17:27

Speaker A

просто никто не хочет их читать?

17:30

Speaker A

Прошло 40 лет.

17:32

Speaker A

И ответ стал очевиднее.

17:35

Speaker A

Опасны оба.

17:37

Speaker A

Оруэлл описал одну стену тюрьмы, Хаксли — другую.

17:43

Speaker A

Мы живём внутри.

17:46

Speaker A

И есть третья стена, которую не предвидел ни тот, ни другой: искусственный интеллект.

17:53

Speaker A

Алгоритмы, которые формируют ленты новостей, подбирают контент, пишут тексты

18:00

Speaker A

и генерируют изображения, создают ситуацию, в которой каждый человек

18:06

Speaker A

живёт в индивидуально подобранной реальности.

18:10

Speaker A

Двое людей, сидящих рядом в одной комнате и открывающих одно и то же приложение, видят разные новости,

18:18

Speaker A

разные мнения, разные версии событий.

18:22

Speaker A

Потому что алгоритм подстроился под профиль каждого.

18:26

Speaker A

Оруэлл описывал одну правду, навязанную всем.

18:30

Speaker A

Наша реальность предлагает миллиарды персональных правд, подобранных индивидуально.

18:36

Speaker A

Результат, как ни странно, похож.

18:39

Speaker A

Утрата общей картины мира.

18:41

Speaker A

Когда каждый живёт в своём информационном пузыре, само понятие объективной реальности,

18:48

Speaker A

за которое Оруэлл боролся, становится не запретным, а неактуальным.

18:52

Speaker A

Зачем запрещать правду, если можно сделать её невидимой для каждого конкретного человека?

18:58

Speaker A

Есть ещё один элемент романа, который заслуживает отдельного внимания:

19:02

Speaker A

комната 101.

19:04

Speaker A

Место в Министерстве любви, где ломают сопротивление.

19:10

Speaker A

Принцип прост.

19:12

Speaker A

Каждый человек боится чего-то больше всего на свете.

19:17

Speaker A

Для Уинстона Смита это крысы.

19:20

Speaker A

Партия знает, чего ты боишься, и использует это.

19:24

Speaker A

Не общее запугивание, а персонализированный ужас, подобранный индивидуально.

19:30

Speaker A

В 1949 это звучало как фантастика.

19:35

Speaker A

Сегодня, когда алгоритмы социальных сетей знают о психологическом профиле пользователя больше,

19:42

Speaker A

чем его психотерапевт,

19:46

Speaker A

персонализированное воздействие стало нормой.

19:50

Speaker A

Не камера допроса,

19:53

Speaker A

но таргетированная реклама, точечная дезинформация, индивидуально подобранный контент,

20:00

Speaker A

рассчитанный на конкретные страхи

20:03

Speaker A

и слабости конкретного человека.

20:06

Speaker A

Комната 101 стала мобильной.

20:09

Speaker A

Она помещается в кармане.

20:11

Speaker A

И здесь стоит сказать о том, что делает «1984» великим романом,

20:17

Speaker A

а не просто политическим памфлетом.

20:20

Speaker A

Оруэлл написал не трактат о тоталитаризме, он написал историю о человеке.

20:25

Speaker A

Уинстон Смит — не герой сопротивления.

20:30

Speaker A

Он обычный,

20:31

Speaker A

слабый, не особенно храбрый человек, который пытается сохранить внутри себя крошечный огонёк,

20:37

Speaker A

способность отличить правду от лжи,

20:41

Speaker A

любовь от ненависти,

20:43

Speaker A

себя от того, чем партия хочет его сделать.

20:46

Speaker A

Он проигрывает.

20:48

Speaker A

Финал романа: Уинстон сидит в кафе и плачет,

20:53

Speaker A

потому что любит Большого Брата.

20:56

Speaker A

Один из самых страшных финалов в истории литературы.

21:02

Speaker A

Не потому что герой погиб.

21:05

Speaker A

Он жив.

21:06

Speaker A

А потому что он перестал быть собой.

21:11

Speaker A

Партия уничтожила не его тело, а его самость.

21:16

Speaker A

И это страшнее смерти.

21:19

Speaker A

Потому что мёртвого человека жалеют, а человека, который предал самого себя, нет.

21:24

Speaker A

Оруэлловская двухминутка длилась 2 минуты.

21:30

Speaker A

Современный цикл возмущения — около 48 часов.

21:35

Speaker A

После этого объект забыт.

21:39

Speaker A

Энергия израсходована, и система возвращается в равновесие до следующего триггера.

21:44

Speaker A

Отличие от Оруэлла: партия направляла ненависть сознательно и целенаправленно.

21:50

Speaker A

В нашем мире направление задаётся алгоритмами, которые максимизируют вовлечённость,

21:57

Speaker A

а ненависть оказывается, вовлекает эффективнее, чем радость.

22:00

Speaker A

Исследования показывают: контент, вызывающий возмущение, распространяется в социальных сетях

22:06

Speaker A

в среднем быстрее, чем позитивный.

22:10

Speaker A

Алгоритмы не злонамеренны.

22:12

Speaker A

Они оптимизируют метрику, а метрика отражает человеческую природу.

22:17

Speaker A

Мы реагируем на угрозу сильнее, чем на утешение.

22:21

Speaker A

Оруэлл понимал это интуитивно.

22:25

Speaker A

Технологические компании XXI века подтвердили это статистически и монетизировали.

22:30

Speaker A

И вот здесь мы подходим к тому, чего Оруэлл не предвидел.

22:35

Speaker A

И именно это делает его роман одновременно пророческим и устаревшим.

22:40

Speaker A

Оруэлл думал, что главная угроза свободе — государство.

22:45

Speaker A

Тоталитарное, жёсткое, видимое государство, которое следит, наказывает и контролирует сверху.

22:50

Speaker A

Наша реальность устроена тоньше.

22:53

Speaker A

Главная угроза свободе в XXI веке — не государство, хотя государства продолжают следить, контролировать и подавлять.

23:00

Speaker A

Главная угроза — система,

23:03

Speaker A

в которой нет единого центра.

23:06

Speaker A

Алгоритмы, которые никто полностью не понимает, принимают решения, влияющие на жизнь миллиардов.

23:13

Speaker A

Что мы видим в ленте новостей, какие товары нам предлагают, какие политические идеи попадают в наше поле зрения,

23:21

Speaker A

а какие отфильтровываются как нерелевантные.

23:25

Speaker A

Нет одного Большого Брата.

23:28

Speaker A

Есть тысячи маленьких алгоритмов, каждый из которых оптимизирует нашу вовлечённость,

23:34

Speaker A

то есть нашу зависимость.

23:36

Speaker A

Оруэлл описывал тюрьму.

23:38

Speaker A

Мы живём в аквариуме.

23:42

Speaker A

Стенки прозрачные.

23:44

Speaker A

Никто не мешает двигаться, но пространство ограничено.

23:49

Speaker A

А кормят по расписанию.

23:51

Speaker A

И рыба, выросшая в аквариуме, не знает, что океан существует.

23:59

Speaker A

Олдес Хаксли, автор «Дивного нового мира», другой великой антиутопии, вышедшей на 17 лет раньше,

24:09

Speaker A

писал Оруэллу после публикации «1984».

24:12

Speaker A

Он хвалил книгу, но возражал по существу.

24:16

Speaker A

Хаксли считал, что будущая тирания будет основана не на страхе, а на удовольствии.

24:22

Speaker A

Людей не нужно будет заставлять подчиняться.

24:27

Speaker A

Достаточно дать им развлечения, которые сделают подчинение приятным.

24:32

Speaker A

Не кнут, а пряник. Не телеэкран, а телевизор.

24:37

Speaker A

Не двухминутка ненависти, а бесконечный поток контента, в котором тонет способность

24:43

Speaker A

к критическому мышлению.

24:46

Speaker A

Спустя 75 лет можно сказать: оба были правы.

24:50

Speaker A

Оруэлл описал механику государственного контроля.

24:55

Speaker A

И она работает в авторитарных режимах по всему миру.

24:58

Speaker A

Хаксли описал механику добровольного подчинения.

25:03

Speaker A

И она работает в либеральных демократиях.

25:06

Speaker A

Два пророка, две модели, и реальный мир использует обе одновременно,

25:12

Speaker A

в зависимости от географии и политического режима.

25:16

Speaker A

Нил Постман, американский культуролог,

25:20

Speaker A

в 1985 году написал книгу «Развлекаясь до смерти»,

25:26

Speaker A

в которой поставил вопрос прямо:

25:30

Speaker A

что опаснее?

25:32

Speaker A

Оруэлловский мир, в котором книги запрещают,

25:38

Speaker A

или Хакслиевский, в котором книги никто не запрещает,

25:44

Speaker A

просто никто не хочет их читать?

25:47

Speaker A

Прошло 40 лет.

25:50

Speaker A

И ответ стал очевиднее.

25:53

Speaker A

Опасны оба.

25:55

Speaker A

Оруэлл описал одну стену тюрьмы, Хаксли — другую.

26:01

Speaker A

Мы живём внутри.

26:04

Speaker A

И есть третья стена, которую не предвидел ни тот, ни другой: искусственный интеллект.

26:11

Speaker A

Алгоритмы, которые формируют ленты новостей, подбирают контент, пишут тексты

26:18

Speaker A

и генерируют изображения, создают ситуацию, в которой каждый человек

26:24

Speaker A

живёт в индивидуально подобранной реальности.

26:28

Speaker A

Двое людей, сидящих рядом в одной комнате и открывающих одно и то же приложение, видят разные новости,

26:36

Speaker A

разные мнения, разные версии событий.

26:40

Speaker A

Потому что алгоритм подстроился под профиль каждого.

26:43

Speaker A

Оруэлл описывал одну правду, навязанную всем.

26:47

Speaker A

Наша реальность предлагает миллиарды персональных правд, подобранных индивидуально.

26:53

Speaker A

Результат, как ни странно, похож.

26:56

Speaker A

Утрата общей картины мира.

26:58

Speaker A

Когда каждый живёт в своём информационном пузыре, само понятие объективной реальности,

27:05

Speaker A

за которое Оруэлл боролся, становится не запретным, а неактуальным.

27:09

Speaker A

Зачем запрещать правду, если можно сделать её невидимой для каждого конкретного человека?

27:15

Speaker A

Есть ещё один элемент романа, который заслуживает отдельного внимания:

27:20

Speaker A

комната 101.

27:22

Speaker A

Место в Министерстве любви, где ломают сопротивление.

27:28

Speaker A

Принцип прост.

27:30

Speaker A

Каждый человек боится чего-то больше всего на свете.

27:35

Speaker A

Для Уинстона Смита это крысы.

27:38

Speaker A

Партия знает, чего ты боишься, и использует это.

27:42

Speaker A

Не общее запугивание, а персонализированный ужас, подобранный индивидуально.

27:48

Speaker A

В 1949 это звучало как фантастика.

27:54

Speaker A

Сегодня, когда алгоритмы социальных сетей знают о психологическом профиле пользователя больше,

28:01

Speaker A

чем его психотерапевт,

28:05

Speaker A

персонализированное воздействие стало нормой.

28:09

Speaker A

Не камера допроса,

28:12

Speaker A

но таргетированная реклама, точечная дезинформация, индивидуально подобранный контент,

28:19

Speaker A

рассчитанный на конкретные страхи

28:22

Speaker A

и слабости конкретного человека.

28:25

Speaker A

Комната 101 стала мобильной.

28:28

Speaker A

Она помещается в кармане.

28:30

Speaker A

И здесь стоит сказать о том, что делает «1984» великим романом,

28:36

Speaker A

а не просто политическим памфлетом.

28:39

Speaker A

Оруэлл написал не трактат о тоталитаризме, он написал историю о человеке.

28:45

Speaker A

Уинстон Смит — не герой сопротивления.

28:50

Speaker A

Он обычный,

28:51

Speaker A

слабый, не особенно храбрый человек, который пытается сохранить внутри себя крошечный огонёк,

28:57

Speaker A

способность отличить правду от лжи,

29:01

Speaker A

любовь от ненависти,

29:03

Speaker A

себя от того, чем партия хочет его сделать.

29:06

Speaker A

Он проигрывает.

29:08

Speaker A

Финал романа: Уинстон сидит в кафе и плачет,

29:13

Speaker A

потому что любит Большого Брата.

29:16

Speaker A

Один из самых страшных финалов в истории литературы.

29:22

Speaker A

Не потому что герой погиб.

29:25

Speaker A

Он жив.

29:26

Speaker A

А потому что он перестал быть собой.

29:31

Speaker A

Партия уничтожила не его тело, а его самость.

29:36

Speaker A

И это страшнее смерти.

29:39

Speaker A

Потому что мёртвого человека жалеют, а человека, который предал самого себя, нет.

29:44

Speaker A

Оруэлловская двухминутка длилась 2 минуты.

29:50

Speaker A

Современный цикл возмущения — около 48 часов.

29:55

Speaker A

После этого объект забыт.

29:59

Speaker A

Энергия израсходована, и система возвращается в равновесие до следующего триггера.

30:04

Speaker A

Отличие от Оруэлла: партия направляла ненависть сознательно и целенаправленно.

30:10

Speaker A

В нашем мире направление задаётся алгоритмами, которые максимизируют вовлечённость,

30:17

Speaker A

а ненависть оказывается, вовлекает эффективнее, чем радость.

30:20

Speaker A

Исследования показывают: контент, вызывающий возмущение, распространяется в социальных сетях

30:26

Speaker A

в среднем быстрее, чем позитивный.

30:30

Speaker A

Алгоритмы не злонамеренны.

30:32

Speaker A

Они оптимизируют метрику, а метрика отражает человеческую природу.

30:37

Speaker A

Мы реагируем на угрозу сильнее, чем на утешение.

30:41

Speaker A

Оруэлл понимал это интуитивно.

30:45

Speaker A

Технологические компании XXI века подтвердили это статистически и монетизировали.

30:50

Speaker A

И вот здесь мы подходим к тому, чего Оруэлл не предвидел.

30:55

Speaker A

И именно это делает его роман одновременно пророческим и устаревшим.

31:00

Speaker A

Оруэлл думал, что главная угроза свободе — государство.

31:05

Speaker A

Тоталитарное, жёсткое, видимое государство, которое следит, наказывает и контролирует сверху.

31:10

Speaker A

Наша реальность устроена тоньше.

31:13

Speaker A

Главная угроза свободе в XXI веке — не государство, хотя государства продолжают следить, контролировать и подавлять.

31:20

Speaker A

Главная угроза — система,

31:23

Speaker A

в которой нет единого центра.

31:26

Speaker A

Алгоритмы, которые никто полностью не понимает, принимают решения, влияющие на жизнь миллиардов.

31:33

Speaker A

Что мы видим в ленте новостей, какие товары нам предлагают, какие политические идеи попадают в наше поле зрения,

31:41

Speaker A

а какие отфильтровываются как нерелевантные.

31:45

Speaker A

Нет одного Большого Брата.

31:48

Speaker A

Есть тысячи маленьких алгоритмов, каждый из которых оптимизирует нашу вовлечённость,

31:54

Speaker A

то есть нашу зависимость.

31:56

Speaker A

Оруэлл описывал тюрьму.

31:58

Speaker A

Мы живём в аквариуме.

32:02

Speaker A

Стенки прозрачные.

32:04

Speaker A

Никто не мешает двигаться, но пространство ограничено.

32:09

Speaker A

А кормят по расписанию.

32:11

Speaker A

И рыба, выросшая в аквариуме, не знает, что океан существует.

32:19

Speaker A

Олдес Хаксли, автор «Дивного нового мира», другой великой антиутопии, вышедшей на 17 лет раньше,

32:29

Speaker A

писал Оруэллу после публикации «1984».

32:32

Speaker A

Он хвалил книгу, но возражал по существу.

32:36

Speaker A

Хаксли считал, что будущая тирания будет основана не на страхе, а на удовольствии.

32:42

Speaker A

Людей не нужно будет заставлять подчиняться.

32:47

Speaker A

Достаточно дать им развлечения, которые сделают подчинение приятным.

32:52

Speaker A

Не кнут, а пряник. Не телеэкран, а телевизор.

32:57

Speaker A

Не двухминутка ненависти, а бесконечный поток контента, в котором тонет способность

33:03

Speaker A

к критическому мышлению.

33:06

Speaker A

Спустя 75 лет можно сказать: оба были правы.

33:10

Speaker A

Оруэлл описал механику государственного контроля.

33:15

Speaker A

И она работает в авторитарных режимах по всему миру.

33:18

Speaker A

Хаксли описал механику добровольного подчинения.

33:23

Speaker A

И она работает в либеральных демократиях.

33:26

Speaker A

Два пророка, две модели, и реальный мир использует обе одновременно,

33:32

Speaker A

в зависимости от географии и политического режима.

33:36

Speaker A

Нил Постман, американский культуролог,

33:40

Speaker A

в 1985 году написал книгу «Развлекаясь до смерти»,

33:46

Speaker A

в которой поставил вопрос прямо:

33:50

Speaker A

что опаснее?

33:52

Speaker A

Оруэлловский мир, в котором книги запрещают,

33:58

Speaker A

или Хакслиевский, в котором книги никто не запрещает,

34:04

Speaker A

просто никто не хочет их читать?

34:07

Speaker A

Прошло 40 лет.

34:10

Speaker A

И ответ стал очевиднее.

34:13

Speaker A

Опасны оба.

34:15

Speaker A

Оруэлл описал одну стену тюрьмы, Хаксли — другую.

34:21

Speaker A

Мы живём внутри.

34:24

Speaker A

И есть третья стена, которую не предвидел ни тот, ни другой: искусственный интеллект.

34:31

Speaker A

Алгоритмы, которые формируют ленты новостей, подбирают контент, пишут тексты

34:38

Speaker A

и генерируют изображения, создают ситуацию, в которой каждый человек

34:44

Speaker A

живёт в индивидуально подобранной реальности.

34:48

Speaker A

Двое людей, сидящих рядом в одной комнате и открывающих одно и то же приложение, видят разные новости,

34:56

Speaker A

разные мнения, разные версии событий.

35:00

Speaker A

Потому что алгоритм подстроился под профиль каждого.

35:03

Speaker A

Оруэлл описывал одну правду, навязанную всем.

35:07

Speaker A

Наша реальность предлагает миллиарды персональных правд, подобранных индивидуально.

35:13

Speaker A

Результат, как ни странно, похож.

35:16

Speaker A

Утрата общей картины мира.

35:18

Speaker A

Когда каждый живёт в своём информационном пузыре, само понятие объективной реальности,

35:25

Speaker A

за которое Оруэлл боролся, становится не запретным, а неактуальным.

35:29

Speaker A

Зачем запрещать правду, если можно сделать её невидимой для каждого конкретного человека?

35:35

Speaker A

Есть ещё один элемент романа, который заслуживает отдельного внимания:

35:40

Speaker A

комната 101.

35:42

Speaker A

Место в Министерстве любви, где ломают сопротивление.

35:48

Speaker A

Принцип прост.

35:50

Speaker A

Каждый человек боится чего-то больше всего на свете.

35:55

Speaker A

Для Уинстона Смита это крысы.

35:58

Speaker A

Партия знает, чего ты боишься, и использует это.

36:02

Speaker A

Не общее запугивание, а персонализированный ужас, подобранный индивидуально.

36:08

Speaker A

В 1949 это звучало как фантастика.

36:14

Speaker A

Сегодня, когда алгоритмы социальных сетей знают о психологическом профиле пользователя больше,

36:21

Speaker A

чем его психотерапевт,

36:25

Speaker A

персонализированное воздействие стало нормой.

36:29

Speaker A

Не камера допроса,

36:32

Speaker A

но таргетированная реклама, точечная дезинформация, индивидуально подобранный контент,

36:39

Speaker A

рассчитанный на конкретные страхи

36:42

Speaker A

и слабости конкретного человека.

36:45

Speaker A

Комната 101 стала мобильной.

36:48

Speaker A

Она помещается в кармане.

36:50

Speaker A

И здесь стоит сказать о том, что делает «1984» великим романом,

36:56

Speaker A

а не просто политическим памфлетом.

36:59

Speaker A

Оруэлл написал не трактат о тоталитаризме, он написал историю о человеке.

37:05

Speaker A

Уинстон Смит — не герой сопротивления.

37:10

Speaker A

Он обычный,

37:11

Speaker A

слабый, не особенно храбрый человек, который пытается сохранить внутри себя крошечный огонёк,

37:17

Speaker A

способность отличить правду от лжи,

37:21

Speaker A

любовь от ненависти,

37:23

Speaker A

себя от того, чем партия хочет его сделать.

37:26

Speaker A

Он проигрывает.

37:28

Speaker A

Финал романа: Уинстон сидит в кафе и плачет,

37:33

Speaker A

потому что любит Большого Брата.

37:36

Speaker A

Один из самых страшных финалов в истории литературы.

37:42

Speaker A

Не потому что герой погиб.

37:45

Speaker A

Он жив.

37:46

Speaker A

А потому что он перестал быть собой.

37:51

Speaker A

Партия уничтожила не его тело, а его самость.

37:56

Speaker A

И это страшнее смерти.

37:59

Speaker A

Потому что мёртвого человека жалеют, а человека, который предал самого себя, нет.

38:04

Speaker A

Оруэлловская двухминутка длилась 2 минуты.

38:10

Speaker A

Современный цикл возмущения — около 48 часов.

38:15

Speaker A

После этого объект забыт.

38:19

Speaker A

Энергия израсходована, и система возвращается в равновесие до следующего триггера.

38:24

Speaker A

Отличие от Оруэлла: партия направляла ненависть сознательно и целенаправленно.

38:30

Speaker A

В нашем мире направление задаётся алгоритмами, которые максимизируют вовлечённость,

38:37

Speaker A

а ненависть оказывается, вовлекает эффективнее, чем радость.

38:40

Speaker A

Исследования показывают: контент, вызывающий возмущение, распространяется в социальных сетях

38:46

Speaker A

в среднем быстрее, чем позитивный.

38:50

Speaker A

Алгоритмы не злонамеренны.

38:52

Speaker A

Они оптимизируют метрику, а метрика отражает человеческую природу.

38:57

Speaker A

Мы реагируем на угрозу сильнее, чем на утешение.

39:01

Speaker A

Оруэлл понимал это интуитивно.

39:05

Speaker A

Технологические компании XXI века подтвердили это статистически и монетизировали.

39:10

Speaker A

И вот здесь мы подходим к тому, чего Оруэлл не предвидел.

39:15

Speaker A

И именно это делает его роман одновременно пророческим и устаревшим.

39:20

Speaker A

Оруэлл думал, что главная угроза свободе — государство.

39:25

Speaker A

Тоталитарное, жёсткое, видимое государство, которое следит, наказывает и контролирует сверху.

39:30

Speaker A

Наша реальность устроена тоньше.

39:33

Speaker A

Главная угроза свободе в XXI веке — не государство, хотя государства продолжают следить, контролировать и подавлять.

39:40

Speaker A

Главная угроза — система,

39:43

Speaker A

в которой нет единого центра.

39:46

Speaker A

Алгоритмы, которые никто полностью не понимает, принимают решения, влияющие на жизнь миллиардов.

39:53

Speaker A

Что мы видим в ленте новостей, какие товары нам предлагают, какие политические идеи попадают в наше поле зрения,

40:01

Speaker A

а какие отфильтровываются как нерелевантные.

40:05

Speaker A

Нет одного Большого Брата.

40:08

Speaker A

Есть тысячи маленьких алгоритмов, каждый из которых оптимизирует нашу вовлечённость,

40:14

Speaker A

то есть нашу зависимость.

40:16

Speaker A

Оруэлл описывал тюрьму.

40:18

Speaker A

Мы живём в аквариуме.

40:22

Speaker A

Стенки прозрачные.

40:24

Speaker A

Никто не мешает двигаться, но пространство ограничено.

40:29

Speaker A

А кормят по расписанию.

40:31

Speaker A

И рыба, выросшая в аквариуме, не знает, что океан существует.

40:39

Speaker A

Олдес Хаксли, автор «Дивного нового мира», другой великой антиутопии, вышедшей на 17 лет раньше,

40:49

Speaker A

писал Оруэллу после публикации «1984».

40:52

Speaker A

Он хвалил книгу, но возражал по существу.

40:56

Speaker A

Хаксли считал, что будущая тирания будет основана не на страхе, а на удовольствии.

41:02

Speaker A

Людей не нужно будет заставлять подчиняться.

41:07

Speaker A

Достаточно дать им развлечения, которые сделают подчинение приятным.

41:12

Speaker A

Не кнут, а пряник. Не телеэкран, а телевизор.

41:17

Speaker A

Не двухминутка ненависти, а бесконечный поток контента, в котором тонет способность

41:23

Speaker A

к критическому мышлению.

41:26

Speaker A

Спустя 75 лет можно сказать: оба были правы.

41:30

Speaker A

Оруэлл описал механику государственного контроля.

41:35

Speaker A

И она работает в авторитарных режимах по всему миру.

41:38

Speaker A

Хаксли описал механику добровольного подчинения.

41:43

Speaker A

И она работает в либеральных демократиях.

41:46

Speaker A

Два пророка, две модели, и реальный мир использует обе одновременно,

41:52

Speaker A

в зависимости от географии и политического режима.

41:56

Speaker A

Нил Постман, американский культуролог,

42:00

Speaker A

в 1985 году написал книгу «Развлекаясь до смерти»,

42:06

Speaker A

в которой поставил вопрос прямо:

42:10

Speaker A

что опаснее?

42:12

Speaker A

Оруэлловский мир, в котором книги запрещают,

42:18

Speaker A

или Хакслиевский, в котором книги никто не запрещает,

42:24

Speaker A

просто никто не хочет их читать?

42:27

Speaker A

Прошло 40 лет.

42:30

Speaker A

И ответ стал очевиднее.

42:33

Speaker A

Опасны оба.

42:35

Speaker A

Оруэлл описал одну стену тюрьмы, Хаксли — другую.

42:41

Speaker A

Мы живём внутри.

42:44

Speaker A

И есть третья стена, которую не предвидел ни тот, ни другой: искусственный интеллект.

42:51

Speaker A

Алгоритмы, которые формируют ленты новостей, подбирают контент, пишут тексты

42:58

Speaker A

и генерируют изображения, создают ситуацию, в которой каждый человек

43:04

Speaker A

живёт в индивидуально подобранной реальности.

43:08

Speaker A

Двое людей, сидящих рядом в одной комнате и открывающих одно и то же приложение, видят разные новости,

43:16

Speaker A

разные мнения, разные версии событий.

43:20

Speaker A

Потому что алгоритм подстроился под профиль каждого.

43:23

Speaker A

Оруэлл описывал одну правду, навязанную всем.

43:27

Speaker A

Наша реальность предлагает миллиарды персональных правд, подобранных индивидуально.

43:33

Speaker A

Результат, как ни странно, похож.

43:36

Speaker A

Утрата общей картины мира.

43:38

Speaker A

Когда каждый живёт в своём информационном пузыре, само понятие объективной реальности,

43:45

Speaker A

за которое Оруэлл боролся, становится не запретным, а неактуальным.

43:49

Speaker A

Зачем запрещать правду, если можно сделать её невидимой для каждого конкретного человека?

43:55

Speaker A

Есть ещё один элемент романа, который заслуживает отдельного внимания:

44:00

Speaker A

комната 101.

44:02

Speaker A

Место в Министерстве любви, где ломают сопротивление.

44:08

Speaker A

Принцип прост.

44:10

Speaker A

Каждый человек боится чего-то больше всего на свете.

44:15

Speaker A

Для Уинстона Смита это крысы.

44:18

Speaker A

Партия знает, чего ты боишься, и использует это.

44:22

Speaker A

Не общее запугивание, а персонализированный ужас, подобранный индивидуально.

44:28

Speaker A

В 1949 это звучало как фантастика.

44:34

Speaker A

Сегодня, когда алгоритмы социальных сетей знают о психологическом профиле пользователя больше,

44:41

Speaker A

чем его психотерапевт,

44:45

Speaker A

персонализированное воздействие стало нормой.

44:49

Speaker A

Не камера допроса,

44:52

Speaker A

но таргетированная реклама, точечная дезинформация, индивидуально подобранный контент,

44:59

Speaker A

рассчитанный на конкретные страхи

45:02

Speaker A

и слабости конкретного человека.

45:05

Speaker A

Комната 101 стала мобильной.

45:08

Speaker A

Она помещается в кармане.

45:10

Speaker A

И здесь стоит сказать о том, что делает «1984» великим романом,

45:16

Speaker A

а не просто политическим памфлетом.

45:19

Speaker A

Оруэлл написал не трактат о тоталитаризме, он написал историю о человеке.

45:25

Speaker A

Уинстон Смит — не герой сопротивления.

45:30

Speaker A

Он обычный,

45:31

Speaker A

слабый, не особенно храбрый человек, который пытается сохранить внутри себя крошечный огонёк,

45:37

Speaker A

способность отличить правду от лжи,

45:41

Speaker A

любовь от ненависти,

45:43

Speaker A

себя от того, чем партия хочет его сделать.

45:46

Speaker A

Он проигрывает.

45:48

Speaker A

Финал романа: Уинстон сидит в кафе и плачет,

45:53

Speaker A

потому что любит Большого Брата.

45:56

Speaker A

Один из самых страшных финалов в истории литературы.

46:02

Speaker A

Не потому что герой погиб.

46:05

Speaker A

Он жив.

46:06

Speaker A

А потому что он перестал быть собой.

46:11

Speaker A

Партия уничтожила не его тело, а его самость.

46:16

Speaker A

И это страшнее смерти.

46:19

Speaker A

Потому что мёртвого человека жалеют, а человека, который предал самого себя, нет.

46:24

Speaker A

Оруэлловская двухминутка длилась 2 минуты.

46:30

Speaker A

Современный цикл возмущения — около 48 часов.

46:35

Speaker A

После этого объект забыт.

46:39

Speaker A

Энергия израсходована, и система возвращается в равновесие до следующего триггера.

46:44

Speaker A

Отличие от Оруэлла: партия направляла ненависть сознательно и целенаправленно.

46:50

Speaker A

В нашем мире направление задаётся алгоритмами, которые максимизируют вовлечённость,

46:57

Speaker A

а ненависть оказывается, вовлекает эффективнее, чем радость.

47:00

Speaker A

Исследования показывают: контент, вызывающий возмущение, распространяется в социальных сетях

47:06

Speaker A

в среднем быстрее, чем позитивный.

47:10

Speaker A

Алгоритмы не злонамеренны.

47:12

Speaker A

Они оптимизируют метрику, а метрика отражает человеческую природу.

47:17

Speaker A

Мы реагируем на угрозу сильнее, чем на утешение.

47:21

Speaker A

Оруэлл понимал это интуитивно.

47:25

Speaker A

Технологические компании XXI века подтвердили это статистически и монетизировали.

47:30

Speaker A

И вот здесь мы подходим к тому, чего Оруэлл не предвидел.

47:35

Speaker A

И именно это делает его роман одновременно пророческим и устаревшим.

47:40

Speaker A

Оруэлл думал, что главная угроза свободе — государство.

47:45

Speaker A

Тоталитарное, жёсткое, видимое государство, которое следит, наказывает и контролирует сверху.

47:50

Speaker A

Наша реальность устроена тоньше.

47:53

Speaker A

Главная угроза свободе в XXI веке — не государство, хотя государства продолжают следить, контролировать и подавлять.

48:00

Speaker A

Главная угроза — система,

48:03

Speaker A

в которой нет единого центра.

48:06

Speaker A

Алгоритмы, которые никто полностью не понимает, принимают решения, влияющие на жизнь миллиардов.

48:13

Speaker A

Что мы видим в ленте новостей, какие товары нам предлагают, какие политические идеи попадают в наше поле зрения,

48:21

Speaker A

а какие отфильтровываются как нерелевантные.

48:25

Speaker A

Нет одного Большого Брата.

48:28

Speaker A

Есть тысячи маленьких алгоритмов, каждый из которых оптимизирует нашу вовлечённость,

48:34

Speaker A

то есть нашу зависимость.

48:36

Speaker A

Оруэлл описывал тюрьму.

48:38

Speaker A

Мы живём в аквариуме.

48:42

Speaker A

Стенки прозрачные.

48:44

Speaker A

Никто не мешает двигаться, но пространство ограничено.

48:49

Speaker A

А кормят по расписанию.

48:51

Speaker A

И рыба, выросшая в аквариуме, не знает, что океан существует.

48:59

Speaker A

Олдес Хаксли, автор «Дивного нового мира», другой великой антиутопии, вышедшей на 17 лет раньше,

49:09

Speaker A

писал Оруэллу после публикации «1984».

49:12

Speaker A

Он хвалил книгу, но возражал по существу.

49:16

Speaker A

Хаксли считал, что будущая тирания будет основана не на страхе, а на удовольствии.

49:22

Speaker A

Людей не нужно будет заставлять подчиняться.

49:27

Speaker A

Достаточно дать им развлечения, которые сделают подчинение приятным.

49:32

Speaker A

Не кнут, а пряник. Не телеэкран, а телевизор.

49:37

Speaker A

Не двухминутка ненависти, а бесконечный поток контента, в котором тонет способность

49:43

Speaker A

к критическому мышлению.

49:46

Speaker A

Спустя 75 лет можно сказать: оба были правы.

49:50

Speaker A

Оруэлл описал механику государственного контроля.

49:55

Speaker A

И она работает в авторитарных режимах по всему миру.

49:58

Speaker A

Хаксли описал механику добровольного подчинения.

50:03

Speaker A

И она работает в либеральных демократиях.

50:06

Speaker A

Два пророка, две модели, и реальный мир использует обе одновременно,

50:12

Speaker A

в зависимости от географии и политического режима.

50:16

Speaker A

Нил Постман, американский культуролог,

50:20

Speaker A

в 1985 году написал книгу «Развлекаясь до смерти»,

50:26

Speaker A

в которой поставил вопрос прямо:

50:30

Speaker A

что опаснее?

50:32

Speaker A

Оруэлловский мир, в котором книги запрещают,

50:38

Speaker A

или Хакслиевский, в котором книги никто не запрещает,

50:44

Speaker A

просто никто не хочет их читать?

50:47

Speaker A

Прошло 40 лет.

50:50

Speaker A

И ответ стал очевиднее.

50:53

Speaker A

Опасны оба.

50:55

Speaker A

Оруэлл описал одну стену тюрьмы, Хаксли — другую.

51:01

Speaker A

Мы живём внутри.

51:04

Speaker A

И есть третья стена, которую не предвидел ни тот, ни другой: искусственный интеллект.

51:11

Speaker A

Алгоритмы, которые формируют ленты новостей, подбирают контент, пишут тексты

51:18

Speaker A

и генерируют изображения, создают ситуацию, в которой каждый человек

51:24

Speaker A

живёт в индивидуально подобранной реальности.

51:28

Speaker A

Двое людей, сидящих рядом в одной комнате и открывающих одно и то же приложение, видят разные новости,

51:36

Speaker A

разные мнения, разные версии событий.

51:40

Speaker A

Потому что алгоритм подстроился под профиль каждого.

51:43

Speaker A

Оруэлл описывал одну правду, навязанную всем.

51:47

Speaker A

Наша реальность предлагает миллиарды персональных правд, подобранных индивидуально.

51:53

Speaker A

Результат, как ни странно, похож.

51:56

Speaker A

Утрата общей картины мира.

51:58

Speaker A

Когда каждый живёт в своём информационном пузыре, само понятие объективной реальности,

52:05

Speaker A

за которое Оруэлл боролся, становится не запретным, а неактуальным.

52:09

Speaker A

Зачем запрещать правду, если можно сделать её невидимой для каждого конкретного человека?

52:15

Speaker A

Есть ещё один элемент романа, который заслуживает отдельного внимания:

52:20

Speaker A

комната 101.

52:22

Speaker A

Место в Министерстве любви, где ломают сопротивление.

52:28

Speaker A

Принцип прост.

52:30

Speaker A

Каждый человек боится чего-то больше всего на свете.

52:35

Speaker A

Для Уинстона Смита это крысы.

52:38

Speaker A

Партия знает, чего ты боишься, и использует это.

52:42

Speaker A

Не общее запугивание, а персонализированный ужас, подобранный индивидуально.

52:48

Speaker A

В 1949 это звучало как фантастика.

52:54

Speaker A

Сегодня, когда алгоритмы социальных сетей знают о психологическом профиле пользователя больше,

53:01

Speaker A

чем его психотерапевт,

53:05

Speaker A

персонализированное воздействие стало нормой.

53:09

Speaker A

Не камера допроса,

53:12

Speaker A

но таргетированная реклама, точечная дезинформация, индивидуально подобранный контент,

53:19

Speaker A

рассчитанный на конкретные страхи

53:22

Speaker A

и слабости конкретного человека.

53:25

Speaker A

Комната 101 стала мобильной.

53:28

Speaker A

Она помещается в кармане.

53:30

Speaker A

И здесь стоит сказать о том, что делает «1984» великим романом,

53:36

Speaker A

а не просто политическим памфлетом.

53:39

Speaker A

Оруэлл написал не трактат о тоталитаризме, он написал историю о человеке.

53:45

Speaker A

Уинстон Смит — не герой сопротивления.

53:50

Speaker A

Он обычный,

53:51

Speaker A

слабый, не особенно храбрый человек, который пытается сохранить внутри себя крошечный огонёк,

53:57

Speaker A

способность отличить правду от лжи,

54:01

Speaker A

любовь от ненависти,

54:03

Speaker A

себя от того, чем партия хочет его сделать.

54:06

Speaker A

Он проигрывает.

54:08

Speaker A

Финал романа: Уинстон сидит в кафе и плачет,

54:13

Speaker A

потому что любит Большого Брата.

54:16

Speaker A

Один из самых страшных финалов в истории литературы.

54:22

Speaker A

Не потому что герой погиб.

54:25

Speaker A

Он жив.

54:26

Speaker A

А потому что он перестал быть собой.

54:31

Speaker A

Партия уничтожила не его тело, а его самость.

54:36

Speaker A

И это страшнее смерти.

54:39

Speaker A

Потому что мёртвого человека жалеют, а человека, который предал самого себя, нет.

54:44

Speaker A

Оруэлловская двухминутка длилась 2 минуты.

54:50

Speaker A

Современный цикл возмущения — около 48 часов.

54:55

Speaker A

После этого объект забыт.

38:20

Speaker A

Энергия израсходована, и система возвращается в равновесие до следующего триггера.

55:04

Speaker A

Отличие от Оруэлла: партия направляла ненависть сознательно и целенаправленно.

55:10

Speaker A

В нашем мире направление задаётся алгоритмами, которые максимизируют вовлечённость,

55:17

Speaker A

а ненависть оказывается, вовлекает эффективнее, чем радость.

55:20

Speaker A

Исследования показывают: контент, вызывающий возмущение, распространяется в социальных сетях

55:26

Speaker A

в среднем быстрее, чем позитивный.

55:30

Speaker A

Алгоритмы не злонамеренны.

55:32

Speaker A

Они оптимизируют метрику, а метрика отражает человеческую природу.

55:37

Speaker A

Мы реагируем на угрозу сильнее, чем на утешение.

55:41

Speaker A

Оруэлл понимал это интуитивно.

55:45

Speaker A

Технологические компании XXI века подтвердили это статистически и монетизировали.

55:50

Speaker A

И вот здесь мы подходим к тому, чего Оруэлл не предвидел.

55:55

Speaker A

И именно это делает его роман одновременно пророческим и устаревшим.

56:00

Speaker A

Оруэлл думал, что главная угроза свободе — государство.

56:05

Speaker A

Тоталитарное, жёсткое, видимое государство, которое следит, наказывает и контролирует сверху.

56:10

Speaker A

Наша реальность устроена тоньше.

56:13

Speaker A

Главная угроза свободе в XXI веке — не государство, хотя государства продолжают следить, контролировать и подавлять.

56:20

Speaker A

Главная угроза — система,

56:23

Speaker A

в которой нет единого центра.

56:26

Speaker A

Алгоритмы, которые никто полностью не понимает, принимают решения, влияющие на жизнь миллиардов.

56:33

Speaker A

Что мы видим в ленте новостей, какие товары нам предлагают, какие политические идеи попадают в наше поле зрения,

56:41

Speaker A

а какие отфильтровываются как нерелевантные.

56:45

Speaker A

Нет одного Большого Брата.

56:48

Speaker A

Есть тысячи маленьких алгоритмов, каждый из которых оптимизирует нашу вовлечённость,

56:54

Speaker A

то есть нашу зависимость.

56:56

Speaker A

Оруэлл описывал тюрьму.

56:58

Speaker A

Мы живём в аквариуме.

57:02

Speaker A

Стенки прозрачные.

57:04

Speaker A

Никто не мешает двигаться, но пространство ограничено.

57:09

Speaker A

А кормят по расписанию.

57:11

Speaker A

И рыба, выросшая в аквариуме, не знает, что океан существует.

57:19

Speaker A

Олдес Хаксли, автор «Дивного нового мира», другой великой антиутопии, вышедшей на 17 лет раньше,

57:29

Speaker A

писал Оруэллу после публикации «1984».

57:32

Speaker A

Он хвалил книгу, но возражал по существу.

57:36

Speaker A

Хаксли считал, что будущая тирания будет основана не на страхе, а на удовольствии.

57:42

Speaker A

Людей не нужно будет заставлять подчиняться.

57:47

Speaker A

Достаточно дать им развлечения, которые сделают подчинение приятным.

57:52

Speaker A

Не кнут, а пряник. Не телеэкран, а телевизор.

57:57

Speaker A

Не двухминутка ненависти, а бесконечный поток контента, в котором тонет способность

58:03

Speaker A

к критическому мышлению.

58:06

Speaker A

Спустя 75 лет можно сказать: оба были правы.

58:10

Speaker A

Оруэлл описал механику государственного контроля.

58:15

Speaker A

И она работает в авторитарных режимах по всему миру.

58:18

Speaker A

Хаксли описал механику добровольного подчинения.

58:23

Speaker A

И она работает в либеральных демократиях.

58:26

Speaker A

Два пророка, две модели, и реальный мир использует обе одновременно,

58:32

Speaker A

в зависимости от географии и политического режима.

58:36

Speaker A

Нил Постман, американский культуролог,

58:40

Speaker A

в 1985 году написал книгу «Развлекаясь до смерти»,

58:46

Speaker A

в которой поставил вопрос прямо:

58:50

Speaker A

что опаснее?

58:52

Speaker A

Оруэлловский мир, в котором книги запрещают,

58:58

Speaker A

или Хакслиевский, в котором книги никто не запрещает,

59:04

Speaker A

просто никто не хочет их читать?

59:07

Speaker A

Прошло 40 лет.

59:10

Speaker A

И ответ стал очевиднее.

59:13

Speaker A

Опасны оба.

59:15

Speaker A

Оруэлл описал одну стену тюрьмы, Хаксли — другую.

59:21

Speaker A

Мы живём внутри.

59:24

Speaker A

И есть третья стена, которую не предвидел ни тот, ни другой: искусственный интеллект.

59:31

Speaker A

Алгоритмы, которые формируют ленты новостей, подбирают контент, пишут тексты

59:38

Speaker A

и генерируют изображения, создают ситуацию, в которой каждый человек

59:44

Speaker A

живёт в индивидуально подобранной реальности.

59:48

Speaker A

Двое людей, сидящих рядом в одной комнате и открывающих одно и то же приложение, видят разные новости,

59:56

Speaker A

разные мнения, разные версии событий.

60:00

Speaker A

Потому что алгоритм подстроился под профиль каждого.

60:03

Speaker A

Оруэлл описывал одну правду, навязанную всем.

60:07

Speaker A

Наша реальность предлагает миллиарды персональных правд, подобранных индивидуально.

60:13

Speaker A

Результат, как ни странно, похож.

60:16

Speaker A

Утрата общей картины мира.

60:18

Speaker A

Когда каждый живёт в своём информационном пузыре, само понятие объективной реальности,

60:25

Speaker A

за которое Оруэлл боролся, становится не запретным, а неактуальным.

60:29

Speaker A

Зачем запрещать правду, если можно сделать её невидимой для каждого конкретного человека?

60:35

Speaker A

Есть ещё один элемент романа, который заслуживает отдельного внимания:

60:40

Speaker A

комната 101.

60:42

Speaker A

Место в Министерстве любви, где ломают сопротивление.

60:48

Speaker A

Принцип прост.

60:50

Speaker A

Каждый человек боится чего-то больше всего на свете.

60:55

Speaker A

Для Уинстона Смита это крысы.

60:58

Speaker A

Партия знает, чего ты боишься, и использует это.

61:02

Speaker A

Не общее запугивание, а персонализированный ужас, подобранный индивидуально.

61:08

Speaker A

В 1949 это звучало как фантастика.

61:14

Speaker A

Сегодня, когда алгоритмы социальных сетей знают о психологическом профиле пользователя больше,

61:21

Speaker A

чем его психотерапевт,

61:25

Speaker A

персонализированное воздействие стало нормой.

61:29

Speaker A

Не камера допроса,

61:32

Speaker A

но таргетированная реклама, точечная дезинформация, индивидуально подобранный контент,

61:39

Speaker A

рассчитанный на конкретные страхи

61:42

Speaker A

и слабости конкретного человека.

61:45

Speaker A

Комната 101 стала мобильной.

61:48

Speaker A

Она помещается в кармане.

61:50

Speaker A

И здесь стоит сказать о том, что делает «1984» великим романом,

61:56

Speaker A

а не просто политическим памфлетом.

61:59

Speaker A

Оруэлл написал не трактат о тоталитаризме, он написал историю о человеке.

62:05

Speaker A

Уинстон Смит — не герой сопротивления.

62:10

Speaker A

Он обычный,

62:11

Speaker A

слабый, не особенно храбрый человек, который пытается сохранить внутри себя крошечный огонёк,

62:17

Speaker A

способность отличить правду от лжи,

62:21

Speaker A

любовь от ненависти,

62:23

Speaker A

себя от того, чем партия хочет его сделать.

62:26

Speaker A

Он проигрывает.

62:28

Speaker A

Финал романа: Уинстон сидит в кафе и плачет,

62:33

Speaker A

потому что любит Большого Брата.

62:36

Speaker A

Один из самых страшных финалов в истории литературы.

62:42

Speaker A

Не потому что герой погиб.

62:45

Speaker A

Он жив.

62:46

Speaker A

А потому что он перестал быть собой.

62:51

Speaker A

Партия уничтожила не его тело, а его самость.

62:56

Speaker A

И это страшнее смерти.

62:59

Speaker A

Потому что мёртвого человека жалеют, а человека, который предал самого себя, нет.

63:04

Speaker A

Оруэлловская двухминутка длилась 2 минуты.

63:10

Speaker A

Современный цикл возмущения — около 48 часов.

63:15

Speaker A

После этого объект забыт.

63:19

Speaker A

Энергия израсходована, и система возвращается в равновесие до следующего триггера.

63:24

Speaker A

Отличие от Оруэлла: партия направляла ненависть сознательно и целенаправленно.

63:30

Speaker A

В нашем мире направление задаётся алгоритмами, которые максимизируют вовлечённость,

63:37

Speaker A

а ненависть оказывается, вовлекает эффективнее, чем радость.

63:40

Speaker A

Исследования показывают: контент, вызывающий возмущение, распространяется в социальных сетях

63:46

Speaker A

в среднем быстрее, чем позитивный.

63:50

Speaker A

Алгоритмы не злонамеренны.

63:52

Speaker A

Они оптимизируют метрику, а метрика отражает человеческую природу.

63:57

Speaker A

Мы реагируем на угрозу сильнее, чем на утешение.

64:01

Speaker A

Оруэлл понимал это интуитивно.

64:05

Speaker A

Технологические компании XXI века подтвердили это статистически и монетизировали.

64:10

Speaker A

И вот здесь мы подходим к тому, чего Оруэлл не предвидел.

64:15

Speaker A

И именно это делает его роман одновременно пророческим и устаревшим.

64:20

Speaker A

Оруэлл думал, что главная угроза свободе — государство.

64:25

Speaker A

Тоталитарное, жёсткое, видимое государство, которое следит, наказывает и контролирует сверху.

64:30

Speaker A

Наша реальность устроена тоньше.

64:33

Speaker A

Главная угроза свободе в XXI веке — не государство, хотя государства продолжают следить, контролировать и подавлять.

64:40

Speaker A

Главная угроза — система,

64:43

Speaker A

в которой нет единого центра.

64:46

Speaker A

Алгоритмы, которые никто полностью не понимает, принимают решения, влияющие на жизнь миллиардов.

64:53

Speaker A

Что мы видим в ленте новостей, какие товары нам предлагают, какие политические идеи попадают в наше поле зрения,

65:01

Speaker A

а какие отфильтровываются как нерелевантные.

65:05

Speaker A

Нет одного Большого Брата.

65:08

Speaker A

Есть тысячи маленьких алгоритмов, каждый из которых оптимизирует нашу вовлечённость,

65:14

Speaker A

то есть нашу зависимость.

65:16

Speaker A

Оруэлл описывал тюрьму.

65:18

Speaker A

Мы живём в аквариуме.

65:22

Speaker A

Стенки прозрачные.

65:24

Speaker A

Никто не мешает двигаться, но пространство ограничено.

65:29

Speaker A

А кормят по расписанию.

65:31

Speaker A

И рыба, выросшая в аквариуме, не знает, что океан существует.

65:39

Speaker A

Олдес Хаксли, автор «Дивного нового мира», другой великой антиутопии, вышедшей на 17 лет раньше,

65:49

Speaker A

писал Оруэллу после публикации «1984».

65:52

Speaker A

Он хвалил книгу, но возражал по существу.

65:56

Speaker A

Хаксли считал, что будущая тирания будет основана не на страхе, а на удовольствии.

66:02

Speaker A

Людей не нужно будет заставлять подчиняться.

66:07

Speaker A

Достаточно дать им развлечения, которые сделают подчинение приятным.

66:12

Speaker A

Не кнут, а пряник. Не телеэкран, а телевизор.

66:17

Speaker A

Не двухминутка ненависти, а бесконечный поток контента, в котором тонет способность

66:23

Speaker A

к критическому мышлению.

66:26

Speaker A

Спустя 75 лет можно сказать: оба были правы.

66:30

Speaker A

Оруэлл описал механику государственного контроля.

66:35

Speaker A

И она работает в авторитарных режимах по всему миру.

66:38

Speaker A

Хаксли описал механику добровольного подчинения.

66:43

Speaker A

И она работает в либеральных демократиях.

66:46

Speaker A

Два пророка, две модели, и реальный мир использует обе одновременно,

66:52

Speaker A

в зависимости от географии и политического режима.

66:56

Speaker A

Нил Постман, американский культуролог,

67:00

Speaker A

в 1985 году написал книгу «Развлекаясь до смерти»,

67:06

Speaker A

в которой поставил вопрос прямо:

67:10

Speaker A

что опаснее?

67:12

Speaker A

Оруэлловский мир, в котором книги запрещают,

67:18

Speaker A

или Хакслиевский, в котором книги никто не запрещает,

67:24

Speaker A

просто никто не хочет их читать?

67:27

Speaker A

Прошло 40 лет.

67:30

Speaker A

И ответ стал очевиднее.

67:33

Speaker A

Опасны оба.

67:35

Speaker A

Оруэлл описал одну стену тюрьмы, Хаксли — другую.

67:41

Speaker A

Мы живём внутри.

67:44

Speaker A

И есть третья стена, которую не предвидел ни тот, ни другой: искусственный интеллект.

67:51

Speaker A

Алгоритмы, которые формируют ленты новостей, подбирают контент, пишут тексты

67:58

Speaker A

и генерируют изображения, создают ситуацию, в которой каждый человек

68:04

Speaker A

живёт в индивидуально подобранной реальности.

68:08

Speaker A

Двое людей, сидящих рядом в одной комнате и открывающих одно и то же приложение, видят разные новости,

68:16

Speaker A

разные мнения, разные версии событий.

68:20

Speaker A

Потому что алгоритм подстроился под профиль каждого.

68:23

Speaker A

Оруэлл описывал одну правду, навязанную всем.

68:27

Speaker A

Наша реальность предлагает миллиарды персональных правд, подобранных индивидуально.

68:33

Speaker A

Результат, как ни странно, похож.

68:36

Speaker A

Утрата общей картины мира.

68:38

Speaker A

Когда каждый живёт в своём информационном пузыре, само понятие объективной реальности,

68:45

Speaker A

за которое Оруэлл боролся, становится не запретным, а неактуальным.

68:49

Speaker A

Зачем запрещать правду, если можно сделать её невидимой для каждого конкретного человека?

68:55

Speaker A

Есть ещё один элемент романа, который заслуживает отдельного внимания:

69:00

Speaker A

комната 101.

69:02

Speaker A

Место в Министерстве любви, где ломают сопротивление.

69:08

Speaker A

Принцип прост.

69:10

Speaker A

Каждый человек боится чего-то больше всего на свете.

69:15

Speaker A

Для Уинстона Смита это крысы.

69:18

Speaker A

Партия знает, чего ты боишься, и использует это.

69:22

Speaker A

Не общее запугивание, а персонализированный ужас, подобранный индивидуально.

69:28

Speaker A

В 1949 это звучало как фантастика.

69:34

Speaker A

Сегодня, когда алгоритмы социальных сетей знают о психологическом профиле пользователя больше,

69:41

Speaker A

чем его психотерапевт,

69:45

Speaker A

персонализированное воздействие стало нормой.

69:49

Speaker A

Не камера допроса,

69:52

Speaker A

но таргетированная реклама, точечная дезинформация, индивидуально подобранный контент,

69:59

Speaker A

рассчитанный на конкретные страхи

70:02

Speaker A

и слабости конкретного человека.

70:05

Speaker A

Комната 101 стала мобильной.

70:08

Speaker A

Она помещается в кармане.

70:10

Speaker A

И здесь стоит сказать о том, что делает «1984» великим романом,

70:16

Speaker A

а не просто политическим памфлетом.

70:19

Speaker A

Оруэлл написал не трактат о тоталитаризме, он написал историю о человеке.

70:25

Speaker A

Уинстон Смит — не герой сопротивления.

70:30

Speaker A

Он обычный,

70:31

Speaker A

слабый, не особенно храбрый человек, который пытается сохранить внутри себя крошечный огонёк,

70:37

Speaker A

способность отличить правду от лжи,

70:41

Speaker A

любовь от ненависти,

70:43

Speaker A

себя от того, чем партия хочет его сделать.

70:46

Speaker A

Он проигрывает.

70:48

Speaker A

Финал романа: Уинстон сидит в кафе и плачет,

70:53

Speaker A

потому что любит Большого Брата.

70:56

Speaker A

Один из самых страшных финалов в истории литературы.

71:02

Speaker A

Не потому что герой погиб.

71:05

Speaker A

Он жив.

71:06

Speaker A

А потому что он перестал быть собой.

71:11

Speaker A

Партия уничтожила не его тело, а его самость.

71:16

Speaker A

И это страшнее смерти.

71:19

Speaker A

Потому что мёртвого человека жалеют, а человека, который предал самого себя, нет.

71:24

Speaker A

Оруэлловская двухминутка длилась 2 минуты.

71:30

Speaker A

Современный цикл возмущения — около 48 часов.

71:35

Speaker A

После этого объект забыт.

71:39

Speaker A

Энергия израсходована, и система возвращается в равновесие до следующего триггера.

71:44

Speaker A

Отличие от Оруэлла: партия направляла ненависть сознательно и целенаправленно.

71:50

Speaker A

В нашем мире направление задаётся алгоритмами, которые максимизируют вовлечённость,

71:57

Speaker A

а ненависть оказывается, вовлекает эффективнее, чем радость.

72:00

Speaker A

Исследования показывают: контент, вызывающий возмущение, распространяется в социальных сетях

72:06

Speaker A

в среднем быстрее, чем позитивный.

72:10

Speaker A

Алгоритмы не злонамеренны.

72:12

Speaker A

Они оптимизируют метрику, а метрика отражает человеческую природу.

72:17

Speaker A

Мы реагируем на угрозу сильнее, чем на утешение.

72:21

Speaker A

Оруэлл понимал это интуитивно.

72:25

Speaker A

Технологические компании XXI века подтвердили это статистически и монетизировали.

72:30

Speaker A

И вот здесь мы подходим к тому, чего Оруэлл не предвидел.

72:35

Speaker A

И именно это делает его роман одновременно пророческим и устаревшим.

72:40

Speaker A

Оруэлл думал, что главная угроза свободе — государство.

72:45

Speaker A

Тоталитарное, жёсткое, видимое государство, которое следит, наказывает и контролирует сверху.

72:50

Speaker A

Наша реальность устроена тоньше.

72:53

Speaker A

Главная угроза свободе в XXI веке — не государство, хотя государства продолжают следить, контролировать и подавлять.

73:00

Speaker A

Главная угроза — система,

73:03

Speaker A

в которой нет единого центра.

73:06

Speaker A

Алгоритмы, которые никто полностью не понимает, принимают решения, влияющие на жизнь миллиардов.

73:13

Speaker A

Что мы видим в ленте новостей, какие товары нам предлагают, какие политические идеи попадают в наше поле зрения,

73:21

Speaker A

а какие отфильтровываются как нерелевантные.

73:25

Speaker A

Нет одного Большого Брата.

73:28

Speaker A

Есть тысячи маленьких алгоритмов, каждый из которых оптимизирует нашу вовлечённость,

73:34

Speaker A

то есть нашу зависимость.

73:36

Speaker A

Оруэлл описывал тюрьму.

73:38

Speaker A

Мы живём в аквариуме.

73:42

Speaker A

Стенки прозрачные.

73:44

Speaker A

Никто не мешает двигаться, но пространство ограничено.

73:49

Speaker A

А кормят по расписанию.

73:51

Speaker A

И рыба, выросшая в аквариуме, не знает, что океан существует.

73:59

Speaker A

Олдес Хаксли, автор «Дивного нового мира», другой великой антиутопии, вышедшей на 17 лет раньше,

74:09

Speaker A

писал Оруэллу после публикации «1984».

74:12

Speaker A

Он хвалил книгу, но возражал по существу.

74:16

Speaker A

Хаксли считал, что будущая тирания будет основана не на страхе, а на удовольствии.

74:22

Speaker A

Людей не нужно будет заставлять подчиняться.

74:27

Speaker A

Достаточно дать им развлечения, которые сделают подчинение приятным.

74:32

Speaker A

Не кнут, а пряник. Не телеэкран, а телевизор.

74:37

Speaker A

Не двухминутка ненависти, а бесконечный поток контента, в котором тонет способность

74:43

Speaker A

к критическому мышлению.

74:46

Speaker A

Спустя 75 лет можно сказать: оба были правы.

74:50

Speaker A

Оруэлл описал механику государственного контроля.

74:55

Speaker A

И она работает в авторитарных режимах по всему миру.

74:58

Speaker A

Хаксли описал механику добровольного подчинения.

75:03

Speaker A

И она работает в либеральных демократиях.

75:06

Speaker A

Два пророка, две модели, и реальный мир использует обе одновременно,

75:12

Speaker A

в зависимости от географии и политического режима.

75:16

Speaker A

Нил Постман, американский культуролог,

75:20

Speaker A

в 1985 году написал книгу «Развлекаясь до смерти»,

75:26

Speaker A

в которой поставил вопрос прямо:

75:30

Speaker A

что опаснее?

75:32

Speaker A

Оруэлловский мир, в котором книги запрещают,

75:38

Speaker A

или Хакслиевский, в котором книги никто не запрещает,

75:44

Speaker A

просто никто не хочет их читать?

75:47

Speaker A

Прошло 40 лет.

75:50

Speaker A

И ответ стал очевиднее.

75:53

Speaker A

Опасны оба.

75:55

Speaker A

Оруэлл описал одну стену тюрьмы, Хаксли — другую.

76:01

Speaker A

Мы живём внутри.

76:04

Speaker A

И есть третья стена, которую не предвидел ни тот, ни другой: искусственный интеллект.

76:11

Speaker A

Алгоритмы, которые формируют ленты новостей, подбирают контент, пишут тексты

76:18

Speaker A

и генерируют изображения, создают ситуацию, в которой каждый человек

76:24

Speaker A

живёт в индивидуально подобранной реальности.

76:28

Speaker A

Двое людей, сидящих рядом в одной комнате и открывающих одно и то же приложение, видят разные новости,

76:36

Speaker A

разные мнения, разные версии событий.

76:40

Speaker A

Потому что алгоритм подстроился под профиль каждого.

76:43

Speaker A

Оруэлл описывал одну правду, навязанную всем.

76:47

Speaker A

Наша реальность предлагает миллиарды персональных правд, подобранных индивидуально.

76:53

Speaker A

Результат, как ни странно, похож.

76:56

Speaker A

Утрата общей картины мира.

76:58

Speaker A

Когда каждый живёт в своём информационном пузыре, само понятие объективной реальности,

77:05

Speaker A

за которое Оруэлл боролся, становится не запретным, а неактуальным.

77:09

Speaker A

Зачем запрещать правду, если можно сделать её невидимой для каждого конкретного человека?

77:15

Speaker A

Есть ещё один элемент романа, который заслуживает отдельного внимания:

77:20

Speaker A

комната 101.

77:22

Speaker A

Место в Министерстве любви, где ломают сопротивление.

77:28

Speaker A

Принцип прост.

77:30

Speaker A

Каждый человек боится чего-то больше всего на свете.

77:35

Speaker A

Для Уинстона Смита это крысы.

77:38

Speaker A

Партия знает, чего ты боишься, и использует это.

77:42

Speaker A

Не общее запугивание, а персонализированный ужас, подобранный индивидуально.

77:48

Speaker A

В 1949 это звучало как фантастика.

77:54

Speaker A

Сегодня, когда алгоритмы социальных сетей знают о психологическом профиле пользователя больше,

78:01

Speaker A

чем его психотерапевт,

78:05

Speaker A

персонализированное воздействие стало нормой.

78:09

Speaker A

Не камера допроса,

78:12

Speaker A

но таргетированная реклама, точечная дезинформация, индивидуально подобранный контент,

78:19

Speaker A

рассчитанный на конкретные страхи

78:22

Speaker A

и слабости конкретного человека.

78:25

Speaker A

Комната 101 стала мобильной.

78:28

Speaker A

Она помещается в кармане.

78:30

Speaker A

И здесь стоит сказать о том, что делает «1984» великим романом,

78:36

Speaker A

а не просто политическим памфлетом.

78:39

Speaker A

Оруэлл написал не трактат о тоталитаризме, он написал историю о человеке.

78:45

Speaker A

Уинстон Смит — не герой сопротивления.

78:50

Speaker A

Он обычный,

78:51

Speaker A

слабый, не особенно храбрый человек, который пытается сохранить внутри себя крошечный огонёк,

78:57

Speaker A

способность отличить правду от лжи,

79:01

Speaker A

любовь от ненависти,

79:03

Speaker A

себя от того, чем партия хочет его сделать.

79:06

Speaker A

Он проигрывает.

79:08

Speaker A

Финал романа: Уинстон сидит в кафе и плачет,

79:13

Speaker A

потому что любит Большого Брата.

79:16

Speaker A

Один из самых страшных финалов в истории литературы.

79:22

Speaker A

Не потому что герой погиб.

79:25

Speaker A

Он жив.

79:26

Speaker A

А потому что он перестал быть собой.

79:31

Speaker A

Партия уничтожила не его тело, а его самость.

79:36

Speaker A

И это страшнее смерти.

79:39

Speaker A

Потому что мёртвого человека жалеют, а человека, который предал самого себя, нет.

79:44

Speaker A

Оруэлловская двухминутка длилась 2 минуты.

79:50

Speaker A

Современный цикл возмущения — около 48 часов.

79:55

Speaker A

После этого объект забыт.

79:59

Speaker A

Энергия израсходована, и система возвращается в равновесие до следующего триггера.

80:04

Speaker A

Отличие от Оруэлла: партия направляла ненависть сознательно и целенаправленно.

80:10

Speaker A

В нашем мире направление задаётся алгоритмами, которые максимизируют вовлечённость,

80:17

Speaker A

а ненависть оказывается, вовлекает эффективнее, чем радость.

80:20

Speaker A

Исследования показывают: контент, вызывающий возмущение, распространяется в социальных сетях

80:26

Speaker A

в среднем быстрее, чем позитивный.

80:30

Speaker A

Алгоритмы не злонамеренны.

80:32

Speaker A

Они оптимизируют метрику, а метрика отражает человеческую природу.

80:37

Speaker A

Мы реагируем на угрозу сильнее, чем на утешение.

80:41

Speaker A

Оруэлл понимал это интуитивно.

80:45

Speaker A

Технологические компании XXI века подтвердили это статистически и монетизировали.

80:50

Speaker A

И вот здесь мы подходим к тому, чего Оруэлл не предвидел.

80:55

Speaker A

И именно это делает его роман одновременно пророческим и устаревшим.

81:00

Speaker A

Оруэлл думал, что главная угроза свободе — государство.

81:05

Speaker A

Тоталитарное, жёсткое, видимое государство, которое следит, наказывает и контролирует сверху.

81:10

Speaker A

Наша реальность устроена тоньше.

81:13

Speaker A

Главная угроза свободе в XXI веке — не государство, хотя государства продолжают следить, контролировать и подавлять.

81:20

Speaker A

Главная угроза — система,

81:23

Speaker A

в которой нет единого центра.

81:26

Speaker A

Алгоритмы, которые никто полностью не понимает, принимают решения, влияющие на жизнь миллиардов.

81:33

Speaker A

Что мы видим в ленте новостей, какие товары нам предлагают, какие политические идеи попадают в наше поле зрения,

81:41

Speaker A

а какие отфильтровываются как нерелевантные.

81:45

Speaker A

Нет одного Большого Брата.

81:48

Speaker A

Есть тысячи маленьких алгоритмов, каждый из которых оптимизирует нашу вовлечённость,

81:54

Speaker A

то есть нашу зависимость.

81:56

Speaker A

Оруэлл описывал тюрьму.

81:58

Speaker A

Мы живём в аквариуме.

82:02

Speaker A

Стенки прозрачные.

82:04

Speaker A

Никто не мешает двигаться, но пространство ограничено.

82:09

Speaker A

А кормят по расписанию.

82:11

Speaker A

И рыба, выросшая в аквариуме, не знает, что океан существует.

82:19

Speaker A

Олдес Хаксли, автор «Дивного нового мира», другой великой антиутопии, вышедшей на 17 лет раньше,

82:29

Speaker A

писал Оруэллу после публикации «1984».

82:32

Speaker A

Он хвалил книгу, но возражал по существу.

82:36

Speaker A

Хаксли считал, что будущая тирания будет основана не на страхе, а на удовольствии.

82:42

Speaker A

Людей не нужно будет заставлять подчиняться.

82:47

Speaker A

Достаточно дать им развлечения, которые сделают подчинение приятным.

82:52

Speaker A

Не кнут, а пряник. Не телеэкран, а телевизор.

82:57

Speaker A

Не двухминутка ненависти, а бесконечный поток контента, в котором тонет способность

83:03

Speaker A

к критическому мышлению.

83:06

Speaker A

Спустя 75 лет можно сказать: оба были правы.

83:10

Speaker A

Оруэлл описал механику государственного контроля.

83:15

Speaker A

И она работает в авторитарных режимах по всему миру.

83:18

Speaker A

Хаксли описал механику добровольного подчинения.

83:23

Speaker A

И она работает в либеральных демократиях.

83:26

Speaker A

Два пророка, две модели, и реальный мир использует обе одновременно,

83:32

Speaker A

в зависимости от географии и политического режима.

83:36

Speaker A

Нил Постман, американский культуролог,

83:40

Speaker A

в 1985 году написал книгу «Развлекаясь до смерти»,

83:46

Speaker A

в которой поставил вопрос прямо:

83:50

Speaker A

что опаснее?

83:52

Speaker A

Оруэлловский мир, в котором книги запрещают,

83:58

Speaker A

или Хакслиевский, в котором книги никто не запрещает,

84:04

Speaker A

просто никто не хочет их читать?

84:07

Speaker A

Прошло 40 лет.

84:10

Speaker A

И ответ стал очевиднее.

84:13

Speaker A

Опасны оба.

84:15

Speaker A

Оруэлл описал одну стену тюрьмы, Хаксли — другую.

84:21

Speaker A

Мы живём внутри.

84:24

Speaker A

И есть третья стена, которую не предвидел ни тот, ни другой: искусственный интеллект.

84:31

Speaker A

Алгоритмы, которые формируют ленты новостей, подбирают контент, пишут тексты

84:38

Speaker A

и генерируют изображения, создают ситуацию, в которой каждый человек

84:44

Speaker A

живёт в индивидуально подобранной реальности.

84:48

Speaker A

Двое людей, сидящих рядом в одной комнате и открывающих одно и то же приложение, видят разные новости,

84:56

Speaker A

разные мнения, разные версии событий.

85:00

Speaker A

Потому что алгоритм подстроился под профиль каждого.

85:03

Speaker A

Оруэлл описывал одну правду, навязанную всем.

85:07

Speaker A

Наша реальность предлагает миллиарды персональных правд, подобранных индивидуально.

85:13

Speaker A

Результат, как ни странно, похож.

85:16

Speaker A

Утрата общей картины мира.

85:18

Speaker A

Когда каждый живёт в своём информационном пузыре, само понятие объективной реальности,

85:25

Speaker A

за которое Оруэлл боролся, становится не запретным, а неактуальным.

85:29

Speaker A

Зачем запрещать правду, если можно сделать её невидимой для каждого конкретного человека?

85:35

Speaker A

Есть ещё один элемент романа, который заслуживает отдельного внимания:

85:40

Speaker A

комната 101.

85:42

Speaker A

Место в Министерстве любви, где ломают сопротивление.

85:48

Speaker A

Принцип прост.

85:50

Speaker A

Каждый человек боится чего-то больше всего на свете.

85:55

Speaker A

Для Уинстона Смита это крысы.

85:58

Speaker A

Партия знает, чего ты боишься, и использует это.

86:02

Speaker A

Не общее запугивание, а персонализированный ужас, подобранный индивидуально.

86:08

Speaker A

В 1949 это звучало как фантастика.

86:14

Speaker A

Сегодня, когда алгоритмы социальных сетей знают о психологическом профиле пользователя больше,

86:21

Speaker A

чем его психотерапевт,

86:25

Speaker A

персонализированное воздействие стало нормой.

86:29

Speaker A

Не камера допроса,

86:32

Speaker A

но таргетированная реклама, точечная дезинформация, индивидуально подобранный контент,

86:39

Speaker A

рассчитанный на конкретные страхи

86:42

Speaker A

и слабости конкретного человека.

86:45

Speaker A

Комната 101 стала мобильной.

86:48

Speaker A

Она помещается в кармане.

86:50

Speaker A

И здесь стоит сказать о том, что делает «1984» великим романом,

86:56

Speaker A

а не просто политическим памфлетом.

86:59

Speaker A

Оруэлл написал не трактат о тоталитаризме, он написал историю о человеке.

87:05

Speaker A

Уинстон Смит — не герой сопротивления.

87:10

Speaker A

Он обычный,

87:11

Speaker A

слабый, не особенно храбрый человек, который пытается сохранить внутри себя крошечный огонёк,

87:17

Speaker A

способность отличить правду от лжи,

87:21

Speaker A

любовь от ненависти,

87:23

Speaker A

себя от того, чем партия хочет его сделать.

87:26

Speaker A

Он проигрывает.

87:28

Speaker A

Финал романа: Уинстон сидит в кафе и плачет,

87:33

Speaker A

потому что любит Большого Брата.

87:36

Speaker A

Один из самых страшных финалов в истории литературы.

87:42

Speaker A

Не потому что герой погиб.

87:45

Speaker A

Он жив.

87:46

Speaker A

А потому что он перестал быть собой.

87:51

Speaker A

Партия уничтожила не его тело, а его самость.

87:56

Speaker A

И это страшнее смерти.

87:59

Speaker A

Потому что мёртвого человека жалеют, а человека, который предал самого себя, нет.

88:04

Speaker A

Оруэлловская двухминутка длилась 2 минуты.

88:10

Speaker A

Современный цикл возмущения — около 48 часов.

88:15

Speaker A

После этого объект забыт.

88:19

Speaker A

Энергия израсходована, и система возвращается в равновесие до следующего триггера.

88:24

Speaker A

Отличие от Оруэлла: партия направляла ненависть сознательно и целенаправленно.

88:30

Speaker A

В нашем мире направление задаётся алгоритмами, которые максимизируют вовлечённость,

88:37

Speaker A

а ненависть оказывается, вовлекает эффективнее, чем радость.

88:40

Speaker A

Исследования показывают: контент, вызывающий возмущение, распространяется в социальных сетях

88:46

Speaker A

в среднем быстрее, чем позитивный.

88:50

Speaker A

Алгоритмы не злонамеренны.

88:52

Speaker A

Они оптимизируют метрику, а метрика отражает человеческую природу.

88:57

Speaker A

Мы реагируем на угрозу сильнее, чем на утешение.

89:01

Speaker A

Оруэлл понимал это интуитивно.

89:05

Speaker A

Технологические компании XXI века подтвердили это статистически и монетизировали.

89:10

Speaker A

И вот здесь мы подходим к тому, чего Оруэлл не предвидел.

89:15

Speaker A

И именно это делает его роман одновременно пророческим и устаревшим.

89:20

Speaker A

Оруэлл думал, что главная угроза свободе — государство.

89:25

Speaker A

Тоталитарное, жёсткое, видимое государство, которое следит, наказывает и контролирует сверху.

89:30

Speaker A

Наша реальность устроена тоньше.

89:33

Speaker A

Главная угроза свободе в XXI веке — не государство, хотя государства продолжают следить, контролировать и подавлять.

89:40

Speaker A

Главная угроза — система,

89:43

Speaker A

в которой нет единого центра.

89:46

Speaker A

Алгоритмы, которые никто полностью не понимает, принимают решения, влияющие на жизнь миллиардов.

89:53

Speaker A

Что мы видим в ленте новостей, какие товары нам предлагают, какие политические идеи попадают в наше поле зрения,

90:01

Speaker A

а какие отфильтровываются как нерелевантные.

90:05

Speaker A

Нет одного Большого Брата.

90:08

Speaker A

Есть тысячи маленьких алгоритмов, каждый из которых оптимизирует нашу вовлечённость,

90:14

Speaker A

то есть нашу зависимость.

90:16

Speaker A

Оруэлл описывал тюрьму.

90:18

Speaker A

Мы живём в аквариуме.

90:22

Speaker A

Стенки прозрачные.

90:24

Speaker A

Никто не мешает двигаться, но пространство ограничено.

90:29

Speaker A

А кормят по расписанию.

90:31

Speaker A

И рыба, выросшая в аквариуме, не знает, что океан существует.

90:39

Speaker A

Олдес Хаксли, автор «Дивного нового мира», другой великой антиутопии, вышедшей на 17 лет раньше,

90:49

Speaker A

писал Оруэллу после публикации «1984».

90:52

Speaker A

Он хвалил книгу, но возражал по существу.

90:56

Speaker A

Хаксли считал, что будущая тирания будет основана не на страхе, а на удовольствии.

91:02

Speaker A

Людей не нужно будет заставлять подчиняться.

91:07

Speaker A

Достаточно дать им развлечения, которые сделают подчинение приятным.

91:12

Speaker A

Не кнут, а пряник. Не телеэкран, а телевизор.

91:17

Speaker A

Не двухминутка ненависти, а бесконечный поток контента, в котором тонет способность

91:23

Speaker A

к критическому мышлению.

Topics: Джордж Оруэлл 1984 тоталитаризм цифровой контроль социальные сети империя слежка Бирма политическая проза алгоритмы

Учить по этому видео

- [Карточки по этому видео](https://sozai.app/ru/tools/ai-flashcard-generator/?from=transcript&id=14386)
- [Тест по этому видео](https://sozai.app/ru/tools/quiz-generator/?from=transcript&id=14386)

Бесплатно, составлено ИИ по этой расшифровке. Без регистрации.


---
This is the markdown twin of https://sozai.app/transcript/orwell-vision-1949-predictions-fulfilled/ — the same content, without the markup.
Published by SozAI (https://sozai.app). Reuse and quotation are allowed with attribution and a link back.
Machine-readable index: https://sozai.app/llms.txt · data API: https://sozai.app/api/