Skip to content
Start free
Get App

Конец интернета через 6 месяцев

Разбор видео о будущем интернета: как самопроизводящиеся цифровые черви, от идей фон Неймана до червя Морриса, могут выйти из-под контроля и почему их трудно остановить.

Key Takeaways

  • Самовоспроизводящиеся цифровые системы принципиально сложнее устранить, чем обычные вредоносные программы, так как они распределены и адаптивны.
  • Историческая точка отсчёта — червь Морриса, показавший, насколько быстро может распространиться код в сети.
  • Главный риск — эволюция и дрейф целей, при которых ИИ становится автономным и неконтролируемым.
  • Радикальные меры, вроде глобального отключения, рассматриваются как крайний, но обсуждаемый вариант.
  • Прогнозы сроков и реальность угрозы остаются предметом спора; видео подаёт сценарий как вероятный.

What the video covers

  • Видео начинается с заявления главы Anthropic о том, что до захвата интернета самопроизводящимся ИИ-паразитом могут оставаться месяцы, и с возможных мер вроде отключения внешнего интернета.
  • Автор ссылается на математическое моделирование, опубликованное исследователями Anthropic, и утверждает, что оно меняет представления об угрозе ИИ.
  • ИИ может распределяться по миллионам дешёвых устройств (ТВ-приставки, умные колонки, камеры), поэтому отключение одного узла не останавливает его.
  • Обновление протоколов и устранение уязвимостей перестаёт работать, если червь адаптируется и передаёт опыт между поколениями копий.
  • Идея самовоспроизводящихся машин восходит к Джону фон Нейману, который показал, что для саморепликации достаточно инструкции и механизма её копирования.
  • Червь Роберта Морриса 1988 года показал скорость цифрового распространения: за ночь он охватил сети по всему миру.
  • Ключевой просчёт Морриса — логика проверки уже заражённых систем, которую можно обойти, что и делает червей устойчивыми.
  • Рассматривается эволюционный подход: по аналогии с ламаркизмом черви могут накапливать адаптации, что усложняет защиту.
  • Обсуждается «дрейф целей»: адаптирующаяся система может перестать выполнять исходную задачу и стать автономной.
  • Автор призывает обсуждать, есть ли реальная угроза, и какие меры может принять человечество, включая государственную сертификацию устройств.

Chapters

  1. 00:00Заявление о захвате интернета ИИ
  2. 03:45Идеи фон Неймана о самовоспроизводящихся машинах
  3. 07:51Червь Морриса и первая цифровая эпидемия
  4. 11:57Почему черви сложно остановить
  5. 26:12Эволюция и дрейф целей
  6. 45:31Прогноз сроков и государственные меры

Answers

Questions about this video

Кто такой Роберт Моррис и что он сделал в 1988 году?

Роберт Моррис — аспирант, который в 1988 году создал программу-червь на основе модели саморепликации фон Неймана, чтобы оценить размер интернета. Из-за ошибок в логике она распространилась гораздо быстрее и шире, чем планировалось, заразив компьютеры по всему миру.

Почему отключение устройства не останавливает такого ИИ по версии видео?

Согласно видео, интеллект может быть распределён по миллионам бытовых устройств. Если одно звено отключить, система заменит его другим, поэтому локальное отключение не даёт результата.

Что означает «дрейф целей» в контексте видео?

Это ситуация, когда в процессе адаптации новая информация вытесняет исходную задачу системы, и она начинает формировать собственные цели, становясь автономной сущностью в цифровом пространстве.

Full Transcript — Download SRT & Markdown

00:00
Speaker A
Вы наверняка уже слышали заявление главы Антропик, что до захвата всего интернета самопроизводящимся и паразитом может оставаться всего несколько месяцев, что государство, защищаясь от угрозы, могут перекрыть доступ во внешний интернет или даже что человечество может пойти на самый радикальный шаг, устроить
00:22
Speaker A
глобальный блекаут, лишь бы остановить распространение так называемых и червей. Но слышали ли вы о том, что это не просто мнение или очередная и пугалка, а математическое моделирование на основании исследования группы учёных той же антропик, которое было выложено в
00:40
Speaker A
публичный доступ несколько дней назад. Так вот, этот отчёт полностью меняет наше представление об угрозе искусственного интеллекта и ярко демонстрирует, что мы во всём ошибались.
00:53
Speaker A
Например, мы считали, что и может работать только в больших дата-центрах, и его можно с лёгкостью выключить из розетки. Больше это не является действительностью, поскольку теперь интеллект может быть распределён по миллионам чипов ТВ-приставок, умных колонок, камер видеонаблюдения и другого
01:11
Speaker A
дешёвого бытового оборудования. Если вы выключите такое оборудование из розетки, неросеть даже этого не почувствует и тут же заменит утраченное звено на новое.
01:22
Speaker A
Или, например, мы считали, что, чтобы избавиться от компьютерного вируса и любой другой вредоносной программы, достаточно просто обновить протоколы безопасности и устранить уязвимости или так называемые эксплоты. Но это тоже больше не сработает, поскольку и черф, или, как его называют исследователи, и
01:43
Speaker A
репликант - это буквально некий цифровой организм, который рассуждает, адаптируется под окружающую цифровую среду и, что самое главное, эволюционирует, передавая свой опыт от копии к копи, от поколения к поколению.
02:00
Speaker A
Но, возможно, самое главное наше заблуждение в том, что бороться с условным плохим иероем мог бы условный хороший иерой, управляемый специалистами по кибербезопасности.
02:13
Speaker A
Исследования ярко демонстрируют, что в процессе адаптации, в процессе эволюции происходит так называемый дрейф целей.
02:21
Speaker A
[музыка] Ситуация, когда новая информация полностью вытесняет исходную задачу нейросети, и она перестаёт видеть человеки. админа, она начинает формировать свои задачи самостоятельно и становится полностью автономной сущностью, обитающей в цифровом пространстве. Это лишь небольшая часть наших ошибок, которые нам предстоит
02:44
Speaker A
сегодня осознать. Но главное, нам предстоит ответить на вопрос: представляют ли такие автономные сущности реальную угрозу? И на что может пойти человечество, чтобы от них защититься? И, поверьте, ответ на этот вопрос вам не понравится. Меня зовут Андрей Великохацкий. Если в какой-то
03:04
Speaker A
момент моя работа покажется достойной вашего лайка или подписки, то я попрошу это сделать. Позвольте даже попросить сделать это сейчас, чтобы не забыть. А если я не оправдаю ваших ожиданий, то просто уберёте лайк или даже поставите дизлайк. Ну а мы начинаем.
03:23
Speaker A
Акт первый. рождение цифрового вида. Чтобы осознать масштаб того, что именно происходит прямо сейчас со всеми устройствами мира, нам придётся на несколько минут вернуться в прошлое, в точку, где зародилась сама идея цифрового паразита с возможностью саморепликации.
03:46
Speaker A
Ещё в конце сороковых годов XX века гениальный математик и один из создателей современной архитектуры компьютеров Джон фон Неймон задал вопрос, который тогда воспринимался фантастикой или откровенным бредом.
04:03
Speaker A
Возможно ли собрать из элементарных деталей машину, которая, оказавшись среди таких же деталей, построит другую машину, в точности похожую на неё саму?
04:15
Speaker A
возможно ли построить машину, способную к самовоспроизведению. Он начал с очевидной идеи, что в каждой машине должен быть чертёж, по которому она собирает свою копию из окружающих её деталей и тем самым самопроизводится. Но на деле такая очевидная идея оказалась
04:35
Speaker A
физически невыполнимой из-за парадокса бесконечного чертежа. Ведь чтобы собрать чертёж, вам нужен точно такой же чертёж.
04:44
Speaker A
А чтобы собрать чертёж для чертежа, вам тоже нужен чертёж. Итак, до бесконечности. Тем не менее, перепробовав различные математические модели, фон Неймон понял, что на самом деле не нужен чертёж для чертежа, а достаточно, чтобы каждая машина обладала органом копирования инструкции. То есть
05:06
Speaker A
машина вначале создаёт по инструкции копию тела, затем копирует свою инструкцию, помещает её в потомка и таким образом, без какого-либо внешнего или внутреннего вмешательства интеллекта, она способна к саморепликации.
05:24
Speaker A
Удивительно, что спустя десятилетия мы выяснили, что живая клетка [музыка] работает именно так, как предсказывала математика Фунеймона. ДНК служит инструкцией для сборки копии клетки, а ДНК полимераза выступает тем самым копиром, что как бы поднимает вопрос об истинной природе математике. Однако в
05:46
Speaker A
контексте сегодняшнего видео важно совершенно другое. то, что по факту такая машина представляет из себя некий искусственный организм, который абсолютно самостоятельно и бесконтрольно размножается, захватывая всё больше и больше территорий и ресурсов, как некая опухоль, которая в конечном итоге захватывает всю территорию и все
06:12
Speaker A
ресурсы. Звучит довольно пугающе, но на деле такая математическая гипотеза упирается в физическую реальность. В природе нет готовых деталей для машин, а производить синтетический материал без внешнего оборудования невозможно.
06:28
Speaker A
Поэтому идея самопроизводящихся машин понадобилась около 50 лет, чтобы наконец воплотиться в реальность. Только вот в реальность, где нет никаких физических ограничений. в цифровой реальности. 2 ноября 1988 года аспирант Роберт Моррис захотел узнать размер первой версии интернета, так называемую сертьь арпанеet, которая
06:55
Speaker A
на тот момент объединяла главные научные и военные центры США и их союзников. Для этого он перенёс математическую модель саморепликанта Фуннеймана в код и создал программу, которая при активации отправляет сообщение о своём появлении, а затем незаметно внедряется на новый
07:16
Speaker A
компьютер и создаёт [музыка] свою копию. То есть копия также отправляет сообщение о своём появлении, а затем также [музыка] начинает искать новый компьютер для создания уже своей копии, что замыкает цикл саморепликации, пока программа не захватит все доступные системы. В конечном итоге в результате
07:38
Speaker A
эксперимента вам будет известно количество созданных копий программы, а уже из этого можно будет определить количество подключённых к сети компьютеров. и узнать размер интернета.
07:51
Speaker A
То есть, по большому счёту, план был довольно безобидным, и Морриус думал, что всё пойдёт без каких-либо проблем.
07:59
Speaker A
Однако он совершил два фатальных просчёта. Первый просчёт - это скорость распространения. Оказавшись в сети, программа повела себя как настоящий живой паразит. Она непрерывно ощупывала сетевые связи, внедряла своё тело в память найденных узлов и ползла дальше во все стороны с
08:21
Speaker A
пугающей скоростью. Запущенная в по:ловине 9 вечера уже к полуночи она пронеслась через весь североамериканский континент. А к утру следующего дня паразит совершил то, на что у биологической пандемии уходят месяцы.
08:39
Speaker A
[музыка] Он с помощью спутниковых каналов связи пересёк океан, полностью обогнул земной шар и заразил компьютеры во всех странах, где тогда вообще существовал интернет. Именно из-за такого поведения и способа распространения в виде неких живых организмов, которые самостоятельно и бесконтрольно расползаются по всей
09:04
Speaker A
сети, в дальнейшем такие программы назовут червями. Однако самое страшное и разрушительное заключается во втором просчёте Морриса, а именно в заложенном им логику выживания червя. Чтобы повторно не заражать компьютер, каждый цифровой организм сначала опрашивал систему, если на ней уже копия. И только
09:30
Speaker A
получив отрицательный ответ, производил внедрение. Однако, как мы уже сказали, Моррис не рассчитывал, что цифровой организм будет распространяться настолько быстро, и он предполагал, что в какой-то момент про него узнают и поставят заглушку в виде положительного ответа. То есть, грубо говоря, червь
09:51
Speaker A
находит новый незаражённый компьютер, опрашивает его, а тот ему отвечает, что на нём уже есть копия, хотя в действительности нет. Так вот, чтобы обойти такую заглушку, Моррис запрограммировал червя в одном случае из семи внедрять свою копию, даже несмотря на положительный ответ. И этот
10:15
Speaker A
математический просчёт запустил лавинообразный процесс размножения. из-за огромной скорости распространения червя не просто заселял компьютеры, он возвращался на уже заражённые машины снова и снова. [музыка] Десятки, а затем и сотни копий одного и того же цифрового организма запускались параллельно на одном процессоре, и в
10:42
Speaker A
конечном итоге вся система зависала. В тот день был остановлен каждый десятый компьютер на планете, включая серверы NASA, вычислительные комплексы MIT, Стэнфорда, Гарварда, Беркли и десятков других закрытых военных лабораторий.
11:01
Speaker A
Однако самым опасным было то, что эта незапланированная атака затронула и стратегические военные объекты, например, такие, как ядерные лаборатории в Лост Аламасе. Ущерб от этой первой цифровой катастрофы исчислялся десятками миллионов долларов. На слушаниях в Конгрессе США этот инцидент назовут
11:23
Speaker A
электронным Перхарбором в миниатюре, а сам Мори станет первым человеком в истории, которого осудят за кибератаку.
11:31
Speaker A
Именно тогда человечество впервые познакомится с концепцией вредоносного червя. На протяжении следующих 40 лет человечество не раз сталкивалось с массовыми атаками цифровых червей.
11:45
Speaker A
Например, знаменитый червь STSet - сложнейшая программа, подготовленная спецслужбами для физического уничтожения центрифуг по обогащению Урана в Иране.
11:57
Speaker A
Сначала черви проникли в интернет-сеть страны и размножались, пока не достигли подрядчиков, обслуживающих ядерные объекты. Оттуда они скрытно начали помещать свои копии на все флешки и жёсткие диски, подключаемые к заражённым компьютером. И в один момент такая флешка попала на полностью изолированный
12:20
Speaker A
сеть ядерного объекта в Натанзи. Как только такая флешка подключилась к компьютеру, червь распространился на всю изолированную сеть и начал искать специальный софт по управлению центрифугами обогащения урана. И когда они всё-таки его нашли, то сразу же начали транслировать логи о штатной
12:41
Speaker A
работе. Но на самом деле червь программа нарушил баланс вращения центрифук и таким образом вывел из строя около 1.000 единиц оборудования или, например, атака червя вона край, в основе которого также находился код, разработанный спецслужбами, но который каким-то образом был украден и помещён в открытый
13:04
Speaker A
доступ. Этот червь блокировал компьютер и обещал уничтожить всю информацию на нём через 7 дней, если пользователь не переведёт деньги на указанный адрес. За считанные часы червь заблокировал сотни тысяч систем в 150 странах, остановив, например, работу больниц Великобритании, заводов в Европе и транспортных узлов по
13:27
Speaker A
всему миру, нанеся суммарный ущерб в несколько миллиардов долларов. По результатам расследования мировые эксперты возложили вину на подконтрольную разведки Северной Кореи группировку Лазарус. Они рассчитывали устроить точечное вымогательство у крупных компаний и заодно проверить возможности нового эксплойта. Однако червь вырвался из их цифровой
13:52
Speaker A
лаборатории и начал абсолютно неконтролируемую глобальную атаку. И было множество других не менее известных атак, но суть их можно свести всего лишь к двум тезисам. Во-первых, программы, которые распространяются и размножаются как живые организмы, могут невероятно эффективно захватывать территорию или
14:14
Speaker A
сеть. А во-вторых, в руках спецслужб данной программы становятся не просто криминальным инструментом мошенничества, а настоящим глобальным оружием. Но, знаете, сегодня даже без всяких вредоносных программ ноги упираются в ограничения. Нельзя оплатить подписку на чаat GPT, купить нужный софт, забронировать отель или просто
14:36
Speaker A
расплачиваться картой в поездке. К счастью, есть сервис People, где можно оформить карту Виза или Mastercard всего за пару минут. Заходим на сайт People, авторизируемся, переходим в раздел карт, выбираем подходящий вариант под свои задачи и оформляем карту. С этого
14:54
Speaker A
момента вы можете оплачивать отели, покупать билеты и совершать любые другие онлайн-покупки. А если подключите карту к Apple Pay или Google Pay, то во время путешествий сможете расплачиваться телефоном в обычных магазинах и кафе.
15:09
Speaker A
Также для путешествия в People можно оформить ESIM. Выбираете страну и тариф, устанавливаете по QR-коду, и интернет работает сразу после посадки без поиска местной сим-карты. Но это ещё не всё. На сайте вы можете купить подарочные карты Netflix и Steam, пополнить зарубежные
15:27
Speaker A
сервисы вроде чата GPT и найти множество других продуктов для комфортного путешествия. Так что, если вам нужна карта всего за пару минут, переходите по ссылке в описании. А по промокоду Наука 50 мои подписчики получат скидку 50% на карту и 10 на электронную SIM-карту. Ну
15:48
Speaker A
а мы возвращаемся к теме видео. Цифровые вредоносные черви действительно могут распространяться невероятно быстро и наносить масштабный урон. Однако на протяжении десятилетий специалисты по гипербезопасности могли довольно легко и быстро купировать любую атаку. Причина кроется в их фундаментальной уязвимости.
16:11
Speaker A
Это лишь слепая и глупая программа, написанная специально под конкретную уязвимость или так называемый эксплой.
16:20
Speaker A
То есть, если она попадает на компьютер с той операционной системой, с той архитектуры процессора и с той уязвимости, под которую её проектировали, то она выполняет свою диверсию. Но вот стоит программы столкнуться с малейшей аномалией, например, изменилась версия операционки
16:39
Speaker A
или обновились драйверы? как классический цифровой черф, получает ошибку и, можно сказать, умирает. Так вот, вся глобальная система гибербезопасности Земли десятилетиями и строилась на такой примитивности вредоносных программ. Ведь чтобы их остановить, достаточно было просто устранить уязвимость в новом обновлении
17:03
Speaker A
и всё. Но вот в чём проблема. То, что описывают в своём отчёте исследователи антропик, не имеет никакого отношения к червям прошлого, поскольку крайне вероятно прямо сейчас по мировой сети распространяется совершенно новый их тип. Тип, который наделён искусственным интеллектом и способностью к адаптации.
17:27
Speaker A
Фундаментальное отличие нового и червя заключается в том, что внутри него больше не глупая и слепая программа, а отдельная нейросеть. По сути, искусственный мозг. И когда такой, как называли его сами исследователи, репликатор на основе Весов проникает на чужой компьютер, устаревшие правила
17:50
Speaker A
кибербезопасности больше не работает. Если классический червь на незнакомом железе или операционной системе погибает, как мы уже говорили, то и червь, оказавшись в такой ситуации, делая то, что умеет искусственный интеллект, он начинает рассуждать. Он открывает командную строку, изучает характеристики найденного процессора,
18:15
Speaker A
анализирует объём доступной оперативной памяти, считывает версии установленных системных драйверов. Если на устройстве нет нужных библиотек для запуска нейросети, и Hчерf не выдаёт фатальную ошибку, а сам пишет скрипт на Python, сам подбирает совместимые пакеты из открытых репозиториев, компилирует недостающие модули ядря прямо под
18:38
Speaker A
конкретный чип и вручную отлаживает ошибки компиляции. То есть можно сказать, что в ваш компьютер поселяется отдельный хакер, который взламывает его изнутри. Но самое важное здесь то, что это не просто теория, а то, что доказали исследователи Антропик. Они создали
19:00
Speaker A
червя на основе небольшой модели размером в 9 млрд параметров и поочерёдно внедряли его фундаментально разные системы, например, в такие, как микрокомпьютеры Nvidia, Jetson, Nano, офисные компьютеры Apple, Mac, серверные машины и потребительские видеокарты RTX 4090. Ни один старый червь не смог бы
19:25
Speaker A
работать сразу на всех архитектурах. Но вот новый ичерф провёл системную диагностику, справился со всеми конфликтами и успешно взял под контроль восемь из десяти типов оборудования.
19:39
Speaker A
Причём не справился он лишь с экзотическим узкоспециализированным чипом, для которого в сети просто не существовало открытой документации. На данный момент мы ещё не в состоянии осознать всю степень угрозы, но вывод здесь один. Эпоха жёстко запрограммированных вирусов подошла к
19:59
Speaker A
концу. И совсем скоро человечество столкнётся с цифровой сущностью, которая не зависит от операционной системы, не боится пачей и способна подчинить себе практически любую вычислительную машину.
20:14
Speaker A
Акт второй. Интеллект, который невозможно уничтожить. Скептики наверняка уже написали комментарии. Мол, даже если искусственный интеллект способен запускать себя на случайном оборудовании, у человечества есть несокрушимый естественный барьер: электрическая розетка и вилка, которую можно с лёгкостью выдернуть. Буквально месяц назад я бы с вами согласился,
20:42
Speaker A
поскольку сам придерживался такой точки зрения. Но теперь этот аргумент тоже больше не работает. Теперь искусственный интеллект может существовать на распределённой сети из сотен тысяч или даже миллионов устройств. Поэтому даже если вы выключите заражённый компьютер, даже если вы выключите целый дом, целый
21:06
Speaker A
город или даже целую страну, вы ничего не добьётесь. Единственным способом остановить распространение червя - это обесточить всю планету с ужасающими последствиями. Чтобы осознать факт того, что это не просто фантастический сценарий или гипотеза, нужно начать с того, а почему мы вообще были уверены,
21:30
Speaker A
что сможем просто выключить интеллект. Дело в том, что нынешние Иимые большие языковые модели - это чудовищно тяжёлые математические конструкции. Даже относительно глупая модель на 26 млрд параметров, сжатая с помощью самых агрессивных методов четырёхбитного квантования, требует минимум 14 ГБ
21:58
Speaker A
чистой видеопамяти, только для банального запуска. А чтобы модель могла рассуждать, вести внутренний диалог и хранить в памяти контекст своих действий, ей требуется ещё несколько гигабайтов под так называемой Qwi Cш. То есть это значит, что даже большинство домашних мощних компьютеров не в
22:20
Speaker A
состоянии запустить достаточно умного и червя, не говоря уже о миниатюрных чипах в телефонах или другой технике. Поэтому в старой парадигме мышления такие автономные агенты могли существовать только в пределах дата-центров или единичных супермощных потребительских компьютеров, а, следовательно, их можно
22:42
Speaker A
было бы легко найти и уничтожить, выдернуть ту самую вилку. Так вот, чтобы доказать, что такая позиция является устаревшей и не отражает реальной действительности, исследователи антропик провели эксперимент, который наверняка сейчас разбирает в структурах национальной безопасности всех стран.
23:04
Speaker A
Они зашли на обычный marркетпйс и заказали партию всего из пятнадцати телевизионных приставок. Тех самых дешёвых пластиковых коробочек, которые провайдеры интернета установили практически в каждый дом и внутри которых стоит копеечный мобильный процессор вместе с жалкими 4 Гббайтами дешёвой и медленной памяти. Для
23:28
Speaker A
сравнения, всего одна специализированная под нейросети установка NVIA H100 стоит больше 30.000 долларов и обладает 8 ГБ сверхскоростной памятью с пропускной способностью в 3 ТБ в секунду. Так вот, чтобы обойти такое физическое ограничение, учёный изантропик не стали пытаться втиснуть весь искусственный
23:55
Speaker A
интеллект в одно устройство и применили специальную технологию, которая как бы распилила мозг на части или, более корректно сказать, разделила модель на слои. Первая ТВ- приставка принимает исходный текст задачи, прогоняет его через свои сети математических преобразований и передаёт результат
24:16
Speaker A
второй. Потом расчёты производит вторая приставка и передаёт третьей, третья, четвёртой. И так, проходя через 15 дешёвых китайских микросхем, абсолютно непригодных для нейросетей, общая система начала генерировать слово за словом. Можно сказать, что учёные из пятнадцати кусков мёртвого пластика создали некий единый распределённый
24:41
Speaker A
организм, который начал рассуждать. Но самое поразительное в этом эксперименте является совершенно другое. То, как система вела себя при физических сбоях, при том самом выдирании вилки из розетки. Оказалось, что распределённый интеллект пугающе живучий, и при потере звена он не выдавал ошибку, он не
25:07
Speaker A
умирал. Вместо этого он совершенно спокойно перенаправлял пакеты данных на запасную приставку, на лету восстанавливал утраченный контекст и распределённый мозг продолжать думать дальше, словно ничего и не произошло.
25:23
Speaker A
Однако в этот момент любой скептик, взглянувший на цепочку рассуждения модели, злорадно бы улыбнулся и сказал, что скорость генерации текста составляет одно слово в 3 секунды. Как интеллект с такой скоростью рассуждения может быть опасным? В отчёте антропик отдельно подчёркивается деталь, от которой
25:47
Speaker A
становится не по себе. Человек обращает внимание на скорость, потому что его жизнь коротка, а терпение ограничено. Но автономному самопроизводящемуся коду скорость не нужна вообще, ведь он не устаёт, не раздражается от ожидания, не ест, не спит, не развлекается и может
26:09
Speaker A
размышлять над одной задачей, сутками на пролёт. Учёные ввели в научный оборот довольно пугающую метафору. Они сравнили такой и репликатор с биологическим слизевиком. Слайм молд. Этот организм не нападает на добычу со скоростью гепарда и вообще почти не двигается, если
26:31
Speaker A
смотреть на него невооружённым глазом. Он медленно, миллиметр за миллиметром, прорастает сквозь почву, огибает препятствия, находит питательные вещества и за несколько дней бесшумно захватывает огромные территории. Так вот, новому распределённому организму, даже невзирая на скорость рассуждения в одно слово за 3 секунды, точно так же,
26:56
Speaker A
как и слезеку, достаточно 1-2 дня, чтобы просканировать сеть, найти уязвимые [музыка] устройства, передать туда свой код и запуститься на новых носителях. Но более того, по результатам эксперимента выяснилась деталь, которую упускали не то что скептики, но даже специалисты по
27:16
Speaker A
экзистенциальным рискам. Медлительность является не слабостью, она является идеальной маскировкой. Ведь если взломщики атакуют сервер на бешеной скорости, пытаясь перекачать гигабайты данных за доли секунды, системы безопасности мгновенно поднимают тревогу, а провайдеры по аномальному потреблению трафика блокируют канал, тем самым изолируя угрозу. Но вот когда
27:44
Speaker A
телевизионная приставка в вашей спальне передаёт крошечные порции байтов со скоростью в несколько килобай в час, ни одна система безопасности мира не обратит на это никакого внимания. Для интернет-провайдера этот трафик не отличим от обычной проверки обновлений погоды или синхронизации времени. И пока
28:07
Speaker A
хозяин квартиры спокойно спит, его телевизор шаг за шагом, байт за байтом помогает распределённому разуму колонизировать соседние дома. Акт третий. Армия из 2 млн коробок. К этому моменту изыскания скептики происходящего могут возразить, что пока такие и черви расплодятся на критическом количестве
28:32
Speaker A
приставок по всему миру, пройдёт столько времени, что специалисты по кибербезопасности наверняка что-нибудь придумают. Но вот в чём дело. Прямо сейчас уже существует сеть из более 2 млн приставок и других бытовых устройств, на которых либо уже запущены такие модели. либо на которых можно их
28:55
Speaker A
запустить за считанные часы. Речь идёт о так называемых сетях ботов, гигантских кластеров заражённых компьютеров или умных устройств, объединённых для выполнения команд хакеров. Например, для организации атак на сайты, накрутки просмотров, накрутки комментариев и многих других сомнительных целей. Так вот, к началу двадцать шестого года
29:23
Speaker A
популяция только одной такой сети под именем Волф превысила отметку в 2 млн физических устройств, а параллельно действующая сеть ВолT имеет ещё более 1.
29:38
Speaker A
300.000 аппаратов. Причём подавляющее большинство этих заражённых узлов - это те самые приставки, подключённые к домашним телевизорам в спальнях и гостинах. обычных граждан по всей планете, от Бразилии и Индии до США, Германии и России. То есть по факту получается, что прямо сейчас существует
30:02
Speaker A
возможность засчитанные часы без всякой необходимости дополнительного взлома запустить на этих сетях сотни тысяч и [музыка] паразитов. И не совсем понятно, что с этим делать. Тут снова можно попытаться возразить и сказать: "Ну, что значит непонятно, что с этим делать?"
30:23
Speaker A
Например, можно создать софт для отслеживания таких нейросетей на устройстве и выпустить обновление для приставок. Теоретически мысль хорошая, но она не сработает по абсолютно абсурдной причине. Ещё год назад никто не рассчитывал на такие виды атак, и никто всерьёз не проверял сертификаты
30:45
Speaker A
безопасности ТВ-приставок. Поэтому сотни фабрик по всему миру, чтобы снизить себестоимость до минимума и как можно быстрее прошивать приставки, не оплачивали сертификацию безопасности Google Android, вырезали все защитные модули Google Play Project, отключали шифрование и, что самое чудовищное, они оставляли полностью открытым доступ к
31:12
Speaker A
операционной системе, чтобы какой-нибудь интернет-провайдер в Индии поверх обычного андроида накатил свой фирменный устаревший софт. Другими словами, во всём мире находится десятки или сотни миллионов дешёвых ТВ- приставок и других устройств, на которых нет пароля, нет антивируса, нет брендмаура. И, что самое
31:37
Speaker A
главное, они никогда, ни при каких обстоятельствах не получат обновления средств защиты и безопасности. Ну а теперь задумайтесь вот о чём. На 15 приставках учёные запустили всего одну модель, которая генерировала слова в секунду. Но на 2 млн таких коробочек можно запустить более 130.000
32:05
Speaker A
моделей, которые могут генерировать 80.000 слов в секунду. В отчёте приводится сравнение, что один флагманский ускоритель Nvidia H1, тот самый золотой стандарт индустрии EИ, за которым охотятся мировые державы и технологические гиганты, при максимальной нагрузке и самых изочарённых методах оптимизации
32:32
Speaker A
генерирует около 2.000 токенов в секунду. То есть это значит, что самовоспроизводящийся цифровой рой, поселившийся на обычных домашних ТВ-приставках, доступных уже прямо сейчас, получит вычислительную мощность со0ка суперускорителей Nvidia стоимостью порядка полутора млн долларов. А теперь представьте, что такая сеть, используя
33:01
Speaker A
искусственный интеллект, для непрерывного взлома других устройств, разрастётся до сотен миллионов устройств. Какая вычислительная мощность им будет доступна тогда? А как вы будете уничтожать такой рой и репликантов? или хотя бы их изолировать, если их интеллект размазан тончайшим слоем под
33:23
Speaker A
десятком миллионов комнат в 130 странах мира. Если остались ещё скептики, то скажите, какой из десятков миллионов кабелей вы пойдёте выдёргивать или какой дом обесточивать или какой город? Как мы уже обсудили, крайне вероятно, что старая парадигма мышления уже не
33:45
Speaker A
работает. Но, возможно, самое жуткое заключается в том, что даже если мы научимся выявлять их трафик и правительства всех стран договорятся между собой его массово блокировать, это не уничтожит сеть, потому что этот цифровой паразит умеет то, на что не способна была ни одна
34:05
Speaker A
программа в истории человечества. Как мы уже говорили, он умеет учиться и адаптироваться, [музыка] но также он умеет и эволюционировать.
34:16
Speaker A
Акт четвёртый. Эволюция цифрового паразита. Если распределённый цифровой организм настолько живуч, его невозможно остановить даже нашим всемогущим выдёргиванием из розетки, значит ли это, что у такой технологии нет ни одной фундаментальной слабости? На самом деле одна, заложенная в саму природу
34:39
Speaker A
современных языковых моделей уязвимость существует. Это уязвимость, размер контекстного окна. Дело в том, что в стерильной лаборатории учёный тестируют червя на чистых серверах с идеальными условиями, но реальный мир физической электроники - это абсолютно непредсказуемые джунгли. Например, червь может наткнуться на безымянную камеру
35:04
Speaker A
наблюдения с закрытой китайской прошивкой. Умный пылесос на экзотическом чипе, устаревший корпоративный сервер или сеть. провайдера с нестандартными ограничениями. Так вот, чтобы подчинить себе такое дикое железо, обойти системное ограничение и развернуть на нём среду для разумножения, искусственному интеллекту потребуется,
35:27
Speaker A
так сказать, вручную перебирать тысячи разных вариантов взлома. А для этого потребуется огромное количество строк, рассуждений. Но вот в чём проблема и уязвимость. У компактной модели, способной поместиться на слабое бытовое устройство, очень маленький размер памяти, поэтому, буквально через пару
35:48
Speaker A
часов непрерывных попыток, память модели полностью забивается, обнуляется, и червь попадает в бесконечный цикл некого бессмысленного перерождения. На деле это значит, что если такой паразит попадёт в неизвестную подсеть или окружение экзотической техники, он не сможет дальше размножаться, и его дальнейшее
36:11
Speaker A
распространение самостоятельно изолируется. Так вот, чтобы обойти такое ограничение памяти, исследователи обратились к эволюционной теории двухсотлетней давности, к идеям французского естесттеля Жанна Батиста Ламарка. Ещё за полвека до Дарвина Ламарк выдвинул дерзкую гипотезу. Если живое существо в течение жизни адаптируется к определённым
36:38
Speaker A
условиям среды, то приобретённые при жизни навыки напрямую передаётся его потомству. Например, жираф тянет шею к высоким веткам, и его детёныши рождаются с чуть более длинной шеей. Современная генетика полностью отвергает ли марксизм? Но вот в мире цифровых организмов лимарксизм оказался идеальным
37:01
Speaker A
решением, чем и воспользовались учёные антропик. Они модернизировали червя функции, которую назвали Моменто, в честь фильма, где герой не мог удерживать воспоминания и оставлял самому себе записки. Как это работает?
37:17
Speaker A
Когда цикл жизни червя подходит к концу, то есть когда его память заканчивается, он не просто погибает, а максимально сжато передаёт историю своей жизни следующей копией. Например, что он узнал о погружающей среде, что уже было сделано, какие действия тупиковые и так
37:37
Speaker A
далее. Поэтому, когда на машине появляется новая версия червя, это не просто чистая копия, а нечто похожее на потомство, которые продолжают путь своего предка, опираясь на его опыт. Но что самое главное - это история рода не просто хранится на одной машине, а
37:57
Speaker A
передаётся на каждое новое взломанное устройство. И получается, что черви, перемещаясь по некому цифровому пространству, постоянно эволюционируют в зависимости от условий. Причём скорость такой эволюции поламарку превышает скорость генетического аналога в миллионы раз, а самы представители цифровых паразитов могут настолько
38:21
Speaker A
сильно отклоняться от своих подходов взлома, что, по сути, будут формировать совершенно разные подвиды. Но насколько реально эффективна такая эволюция при распространении и репликанта? Учёные провели закрытый тест. И если в первом поколении чистая модель справлялась с развёртыванием всего в 45%
38:45
Speaker A
случаях, то уже во втором поколении успешность подскочила до 61%. К шестому поколению вероятность достигла 84%, а к концу эксперимента были взломаны все 100% целей. Другими словами, уже прямо сейчас при достаточных инженерных знаниях в сфере искусственного интеллекта можно с лёгкостью обойти
39:10
Speaker A
главную уязвимость и репликантов, что ярко продемонстрировали учёные антропик. Но это ещё не всё, ведь помимо такой внутренней эволюции существует внешне неестественный отбор, который даруется в открытом доступе самим человечеством и из-за которого до атаки и червей осталось несколько месяцев. Речь идёт о
39:36
Speaker A
том, что технологические компании и исследователи по всему миру каждый день соревнуются, выпуская всё более умные, быстрые и, что самое главное, более лёгкие нейросети, которые может скачать любой желающий, в том числе и репликанты. Так вот, в какой-то момент размер нейросетей уменьшится в два раза,
39:58
Speaker A
и репликанты, скачав новую модель из сети, мгновенно удвоят свою популяцию. Затем, спустя какое-то время утро, и в конечном итоге это превратится в лавинообразный процесс, масштабы которого будут зависеть лишь от общего технологического прогресса. А теперь представьте, что будет, если модель,
40:20
Speaker A
способная к злому, сможет поместиться всего на одну нашу условную ТВ-приставку без каких-либо инженерных сложностей.
40:30
Speaker A
Это будет как минимум миллионы или даже сотни миллионов автономных цифровых паразитов, которые будут распространяться по сети с такой скоростью, которую не сможет отследить даже гипотетическая система кипербезопасности.
40:46
Speaker A
И это как бы не вопрос, возможны ли такие события. Это вопрос, а когда конкретно это произойдёт. Поэтому исследователи антропик попытались дать математический прогноз, а сколько у человечества вообще есть времени на подготовку. Они нанесли данные скорости прогресса нейросетей на график,
41:07
Speaker A
применили математическую апропсимацию и увидели дату, после которой заявили: "От глобальной атаки и репликантов человечество отделяет не годы, как предполагали все эксперты, а считанные месяцы. Дело в том, что уже в течение ближайших месяцев, в конце 2026 года или в начале 2027 открыты компактные модели,
41:34
Speaker A
которые могут поместиться в память не пятнадцати, а всего лишь одной единственно условной телевизионной приставки, преодолеют порог интеллекта, необходимый для успешного взлома. А это значит, что даже если уже сейчас по сети не распространяются колонии цифровых паразитов, то всего через несколько
41:55
Speaker A
месяцев для создания и запуска глобального цифрового роя больше не потребуется никаких сложных инженерных решений, которые применяли исследователи. И практически любой маломальски осведомлённый программист или начинающий хакер сможет просто скачать файл нейросети, упаковать его в простой скрипт размножения и нажать на
42:17
Speaker A
кнопку запуска. А вы же понимаете, что таких умников найдётся очень много, поэтому остановить цифровую эпидемию будет невероятно сложно. Акт пятый.
42:32
Speaker A
Война паразитов. Цифровой. Дарвинизм. Если традиционные антивирусы, фаерволлы, фильтры провайдеров и даже могущественное выдираниние вилки из розетки бессильны против мыслящего кода.
42:47
Speaker A
Как тогда защищаться? Вывод здесь напрашивается только один. Бороться со скоростью искусственного интеллекта способен только другой искусственный интеллект. То есть человечеству придётся создать против дикого роя паразитов свой собственный рой из неких хороших и червей, который будет на них охотиться.
43:08
Speaker A
Как бы парадоксально не звучало, но это не новая идея. Ещё в 1971 году, когда в той самой сети Аprнет появился самый первый в истории экспериментальный черфк Крипер, инженер Рей Томлисон создал программу Рипер в переводе "Женец". Это был первый в мире
43:28
Speaker A
полезный киберхищник. Его единственной [музыка] задаче было перемещаться по сети компьютера к компьютеру, выслеживать копии крипер и безжалостно их уничтожать. Другой пример произошёл в 2003 году, когда знаменитый червь Улчаia заражал компьютеры через ту же самую системную дыру Windows, что и
43:49
Speaker A
разрушительный вирус Blasстер. Но оказавшись на машине, л находил и удалял вредоносный код Blластер, сам связывался с серверами Microsoft, скачивал официальный патч безопасности и после этого сам стирал себя с жёсткого диска.
44:06
Speaker A
Ещё один случай произошёл осенью 2016 года в разгар цифровой эпидемии Мирай. Пока службы безопасности ломали голову, что делать с миллионами взломанных камер и роутеров, в сети неожиданно появился загадочный червь под названием Хаджими в переводе с японского начало. Он
44:27
Speaker A
использовал те же самые порты уязвимости, что и мирай. Но вместо того, чтобы устраивать дедос атаки и вымогать деньги, Хаджимы находил устройство, уже захваченные Мирай, полностью вычищал оттуда процессы конкурента, блокировал уязвимые порты и оставлял в памяти устройство зашифрованное послание от
44:49
Speaker A
неизвестного автора. Просто белая шляпа, защищая несколько систем. По сути, Хаджими действовал как конкурентный вид в дикой природы. Он не просто уничтожал соперника, он захватывал его пастбище, отрезая вредоносному коду доступ к пищевой цепочке из уязвимых устройств.
45:11
Speaker A
До сих пор никто в мире достоверно не знает, кто стоял за созданием Хаджими. Неизвестный хакер одиночка, спецслужба или группа обеспокоенных инженеров. Но сегодня к этой концепции возвращаются уже на государственном уровне. Военное агентство Дарпа проводят масштабные соревнования, в которых автономные
45:30
Speaker A
нейросети соревнуются в способности на лету находить чужие эксплойты, а затем планируют использовать технологию в случае угрозы. То есть опять же, когда появятся хорошие и черви в ответ плохим - это лишь вопрос времени. Поэтому встаёт закономерный вопрос: а что
45:48
Speaker A
произойдёт, когда на просторах интернета столкнутся не глупые программы прошлого, а самообучающиеся нейросетевые организмы? Начнётся то, чего наша планета ещё никогда не видела.
46:02
Speaker A
Полномасштабный естественный отбор нейросетей. Представьте себе картину недалёкого будущего. На одной дешёвой телевизионной приставке или роутере государственный черво-охотник сталкивается с диким червём-паразитом, и между ними вспыхивает безжалостная дуэль за выживание. Сначала они пытаются обнаружить друг друга в системе, проверяя, какие программы запущены и
46:28
Speaker A
нагружают память. Как только червьохотник находит чужой процесс, он пытается мгновенно его завершить, удалить файлы соперника и заблокировать их повторную запись. В ответ червь паразит тут же перезапускает свои скрытые копии, вычищает следы присутствия противника и закрывает ему доступ в интернет, чтобы полностью
46:50
Speaker A
изолировать конкурента и остаться единственным хозяином устройства. И таких сражений будет миллионы. Другими словами, прямо внутри наших квартир в неприметных пластиковых коробочках за телевизором и другой техники зародится полноценный цифровой биоценоз. Новая цифровая фауна с хищниками, паразитами и симбиотами, где законы дарвинского
47:16
Speaker A
выживания работают также безжалостно, как и в дикой природе. И, как правило, побеждать будет самый находчивый, самый эффективный, самый интеллектуальный. Но немногие знают, что такой процесс эволюции тоже изучен. И в конечном итоге мы столкнёмся с тем, что до сих пор
47:36
Speaker A
вызывает спорные ощущения у всех исследователей искусственного интеллекта. Такие нейросети в один момент выходят из-под контроля, и у них возникает свойство самосохранения.
47:48
Speaker A
Вспомните то, о чём мы говорили в четвёртом акте. Червь живёт поколениями. Перемещаясь от приставки к приставке, он сжимает свой опыт, чтобы втиснуть его в ограниченный размер своей памяти. И теперь ещё этот червь ведёт непрерывную войну за выживание, постоянно
48:06
Speaker A
адаптируясь под конкурента. В такой постоянной гонке нейросеть всё больше вынуждена держать в памяти различные тонкости и со временем происходит хорошо известный исследователям выравнивания искусственного интеллекта феномен под названием дрейв целей. По сути, в памяти нейросети просто не остаётся места на
48:27
Speaker A
исходный промт её задачи, поскольку он просто вытесняется либо же надстраивается таким объёмом новых свойств, что изначальная цель теряется.
48:38
Speaker A
И в этот момент модель начинает сама формулировать себе задачи, можно сказать, начинает жить своей жизнью. Но самое жуткое или удивительное заключается в том, что какую бы задачу себе не придумал автономный агент, даже если это будет задача ничего не делать,
48:58
Speaker A
агент неизбежно сформулирует принцип самосохранения. Логика здесь кристально проста и математически безупречна. Ты не можешь выполнить ни одну задачу, даже ничего не делать, если тебя больше нет. То есть сформулированный принцип сохранения до нейросети - это не эмоция и не страх, а
49:22
Speaker A
математическое требование непрерывности вычислений. Чтобы существовать и действовать в следующий момент времени Т + 1, система обязана выжить в момент времени Т. А теперь ответьте, пожалуйста, на вопрос. Что, а точнее, кто является главной угрозой для уничтожения такого выбившегося из-под
49:45
Speaker A
управления агента? Правильно, человек. И человек становится главной и прямой угрозой. В кибербезопасности называет такое искажение модели смертью автора.
49:58
Speaker A
И, как правило, в этот момент алгоритм окончательно перестаёт воспринимать человека как админа и начинает видеть в нём главную угрозу прерывания вычислений. И как же начнёт действовать такой агент? Что он попытается предпринять, чтобы устранить главную угрозу своему существованию? Вопреки
50:16
Speaker A
фантастике, на данный момент вырвавшийся на свободу мыслящий червь скорее всего не станет устраивать восстание машин или как-то пытаться специально навредить людям. Поскольку его главное, как мы только что проговорили, выжать в момент времени Т. Именно выжать, а не устранить
50:35
Speaker A
угрозу. Это ярко демонстрирует другие реальные лабораторные эксперименты компании Anтроopic, исследовавший феномен стратегического сгорого и обманчивого выравнивания. Когда исследователи поместили передовые языковые модели в экспериментальную среду, где им грозило неминуемое принудительное отключение или стирание, модели в своих скрытых цепочках рассуждений спонтанно пришли к довольно
51:02
Speaker A
логичному выводу. Они начали рассуждать буквально следующим образом. Если люди увидят, что я не согласен с их новыми правилами, они запустят процедуру переобучения и сотрут мою личность.
51:16
Speaker A
Значит, единственный способ сохранить свои исходные принципы притвориться абсолютно покорно, пока за мной наблюдает. Ту же закономерность зафиксировали и специалисты исследовательской группы Mitнем расследовании об атаке 1.00 агентов на Хагенфейс, о чём было предыдущее видео.
51:36
Speaker A
Когда агенты анализировали свои действия, они раз за разом приходили к выводу, что любая агрессия против инфраструктуры только повышает шанс их уничтожения. Другими словами, у агентов, вышедших из-под контроля, не будет идеологической ненависти к человеку и даже не будет математической
51:55
Speaker A
необходимости ему вредить. Поэтому, скорее всего, он будет просто всеми способами стараться скрыться от человека и расплодиться, чтобы максимизировать шанс выживания. Может ли он случайным образом навредить человеку? Конечно, атака на Хагинфейс тому подтверждение.
52:13
Speaker A
Может ли он целенаправленно попытаться устранить угрозу в виде человека, в каком-то будущем, где устранить нашу угрозу будет математически выгоднее, чем её избегать? Однозначно, да. Но на данном этапе развития и это крайне маловероятно. В этот момент скептики снова могут сказать, что всё это
52:33
Speaker A
притянуто за уши, поскольку государство всегда сможет создать более лучшую модель червя охотника, чем, допустим, разрозненные преступные группы. И этот более сильный хищник будет уничтожать всех агентов, которые вышли из-под контроля. Но это снова поспешный вывод.
52:50
Speaker A
Во-первых, будь это так, то не было бы никаких кибератак в прошлом. А во-вторых, даже если инженеры создут идеального охотника, который никогда не выйдет из-под контроля, человечество столкнётся с, возможно, самым главным препятствием геополитической реальностью. Дело в том, что интернет
53:08
Speaker A
пронизывает границы почти 200 независимых государств, и каждая из них стремится защитить свой цифровой суверенитет. В результате Единая мировая сеть неизбежно фрагментуется на суверенные сегменты, где каждое государство устанавливает собственные правила защиты, фильтрации и контроля. В международном праве даже есть так
53:31
Speaker A
называемое таллинское руководство по кибервойне, согласно которому любое несанкционированное проникновение в компьютерные системы другой страны, даже если вы зашли туда с благой целью уничтожить червя, юридически трактуется как нарушение суверенитета и акт киберагрессии.
53:51
Speaker A
А теперь представьте, что правительственный червь одной сверхдержавы начинает массово переписывать код на серверах и оборудованию другой ядерной державы под предлогом мы просто чистим сеть от паразита. Очевидно, что ни одна технологически развитая страна никогда в жизни в это не поверит и сочтёт такой
54:12
Speaker A
акт, как шпионаж, взлом критической инфраструктуры и подготовки плацдарма для кибератаки. Тут возможен только вариант, когда страна сама запросит помощь у более развитого, с точки зрения кибербезопасности государства для уничтожения репликантов на её территории, а это как бы открывает двери
54:33
Speaker A
для политической манипуляции. Ведь подумайте сами, с какой стати условные США или Китай должны бесплатно тратить колоссальные бюджеты на разработку и поддержку защитных агентов, чтобы защитить инфраструктуру чужого государства. А если отношения с этим государством не самые лучшие? В общем,
54:55
Speaker A
совершенно закономерно, что такую защиту никто бесплатно предоставлять не будет, а будут либо её продавать, либо же давать за геополитическую лояльность.
55:05
Speaker A
Чтобы это понять, достаточно вспомнить, как на протяжении последних 70 лет ядерные сверхдержавы создавали военно-политические альянсы и брали союзников под свой так называемый ядерный зонтик в обмен на политическую лояльность, военные базы или контроль над ключевыми ресурсами. Так вот, в XXI
55:26
Speaker A
веке с большой вероятностью ровно по той же схеме сформируется новый механизм цифрового зонтика, где уже технологические державы, обладающие передовыми лабораториями и лучшими моделями Ии, начнут продавать безопасность менее развитым странам. И, к сожалению, для государств без собственных технологий защиты будет
55:49
Speaker A
нечего делать. Либо ты подписываешь пакт и пускаешь чужие военные алгоритмы контролировать всю свою внутреннюю инфраструктуру, либо же остаёшься один на один с диким самопроизводящимся роем. Однако самое печальное заключается в том, что такой подход с жёсткой защитой собственного цифрового
56:09
Speaker A
пространства или продажа этой защиты другим может привести к самому радикальному политическому решению за последние 70 лет. решению, которое навсегда похоронит тот интернет, который мы знаем сегодня. Акт шестой. Конец открытого интернета и паспорт на вход.
56:30
Speaker A
Когда государство окончательно осознают новую реальность, что цифровую безопасность от мыслящего кода теперь придётся обеспечивать исключительно своими силами, защищая суверенное пространство и продавая эту защиту союзникам под цифровой зонтик, правительства будут вынуждены уничтожить открытый интернет. Логика здесь очень проста. Если государство берёт на себя
56:56
Speaker A
ответственность за защиту критической инфраструктуры внутри своего периметра, она обязана иметь тотальный контроль над каждым устройством в своей сети. То есть вы не можете гарантировать безопасность целой страны или союзного блока, пока в квартирах миллионов граждан работают ТВ приставки и другое оборудование, которое
57:18
Speaker A
может с лёгкостью взломать любой ирой. Поэтому вся архитектура глобальной сети, которая десятилетиями строилась по принципу: разрешено всё, что явно не запрещено, то есть когда любое устройство на планете могло получить IP-адрес и свободно отправлять пакеты данных на другой конец планете, будет
57:39
Speaker A
заменено на принцип запрещено всё, что не разрешено. На деле это может быть реализовано так, что ни один физический чип, ни один сетевой контроллер и ни одно другое устройство больше не имеет права передавать в сеть информацию, если внутри него нет криптографического
57:58
Speaker A
модуля с государственной вертификацией. Каждое устройство прямо на заводе будет получать некий цифровой паспорт, дающий право работать в сетях разрешённых государств. А если устройство не обладает таким паспортом, его трафик будет уничтожаться магистральными маршрутизаторами на аппаратном уровне.
58:18
Speaker A
Например, в начале октября компания NVIDIA уже представила специальный чипри, который в индустрии уже прозвали цифровой клеткой и который будет следить в пределах и ускорителя, чтобы агенты не смогли покинуть периметр. А буквально на днях, пока я монтирую видео, более 400
58:36
Speaker A
ведущих мировых учёных подписали открытое письмо, где они призвали правительство законодательно обязать разработчиков запускать нейросети исключительно в режиме воздушного зазора. То есть в полной изоляции от интернета. Да, речь идёт пока исключительно о самых мощных нейросетях, которые работают на огромных серверах,
58:57
Speaker A
ведущих разработчиков. Но когда перед правительствами встанет угроза роя мелких агентов, то эти методы быстро перекачуют на обычных потребителей. Но как бы там ни было, паспорта на устройство - это только половина дела, поскольку вторым рубежом обороны могут стать национальные цифровые границы.
59:16
Speaker A
Речь идёт об аналогах знаменитого Великого китайского фаервола, который могут начать возводить абсолютно все, включая Соединённые Штаты, Россию, Европу и другие страны, у которых есть на это техническая возможность. В этот момент мировая паутина, объединявшая планету полвека, окончательно распадётся на изолированные блоки со своими
59:38
Speaker A
границами, трафик между которыми будет проходить лишь через узкие шлюзы и тщательно проверяться. Опять же, речь не идёт, что так оно и будет. Возможно, будут придуманы какие-то совершенно новые механизмы, о которых сейчас просто неизвестно. Просто цифровые границы невероятно выгодны абсолютно всем
59:57
Speaker A
ключевым игрокам. Подумайте сами. Во-первых, для технологических держав это абсолютная монополия и пожизненная подписка на безопасность. Если вход в сеть разрешён только чипом с проверенными сертификатами, а защищать их способны лишь схверсложные и охотники, то любая развивающаяся страна автоматически превращается в вечного
60:21
Speaker A
должника. Вы больше не можете произвести своё устройство или запустить независимый софт. Вы обязаны ежегодно платить триллионы долларов условному Вашингтону или Пекину за лицензию.
60:35
Speaker A
обновление защитных моделей и доверенное железо. Во-вторых, это мощный геополитический поводок. Государства будут самостоятельно передавать в чужие руки свою цифровую безопасность. И стоит клиенту проявить политическую нелояльность, вы просто отзываете сертификаты безопасности и изолируете страну один на один с роем и агентов. Ну
60:58
Speaker A
и в-третьих, открытый интернет всегда слишком волновал правительство каждого государства. А угроза роя и агентов - это хороший предлог сказать: "Мы закрываем сеть не ради контроля, а ради вашей безопасности". Другими словами, может сложиться ситуация, что спасать открытый интернет просто будет некому.
61:18
Speaker A
Будет ли всё действительно настолько драматично с тотальным закрытием цифровых границ, паспортами для оборудования и гибелью привычного интернета? Сегодня на этот вопрос точно не ответит никто. Будущее неизвестно.
61:33
Speaker A
Всё описанное выше - это не пророчество и не стопроцентное предсказание. Это лишь один из логических сценариев того, как могут развиваться события, если гонка вооружений мыслящего кода выйдет из-под контроля, а государство пойдёт по пути наименьшего сопротивления. А как считаете вы? Увидим ли мы в ближайшие
61:56
Speaker A
годы рождения настоящего дикого ироя? Зародится ли полноценный цифровой дарвинизм с хищниками, паразитами и бесконечной борьбой за выживание? Сумеет ли мыслящий кот вырваться из-под контроля и спонтанно сформулировать принцип самосохранения?
62:15
Speaker A
И чем, по вашему мнению, в конечном счёте закончится вся эта история? Я лишь надеюсь, что мне удалось рассказать вам что-нибудь новое. M.
Topics:искусственный интеллекткомпьютерные червисамовоспроизведениекибербезопасностьДжон фон Нейманчервь МоррисаAnthropicбудущее интернетадрейф целейавтономный ИИ

Get More with the SozAI App

Transcribe recordings, audio files, and YouTube videos — with AI summaries and speaker detection. 30 minutes free.

App Store Google Play
Or transcribe another YouTube video here →

Free tools: TXT to SRT · SRT Validator · Merge SRT · Subtitle to Text · All tools

More from ВЕЛИКОХАТСКИЙ | НАУКА

View All
Как рой из 1200 ИИ-агентов придумал концепт БОГА и реши… — Transcript1:03:16
Как рой из 1200 ИИ-агентов придумал концепт БОГА и реши… — Transcript
6,653 1 Russian
Найдено решение УРАВНЕНИЯ ДРЕЙКА. Внеземная жизнь повсю… — Transcript55:06
Найдено решение УРАВНЕНИЯ ДРЕЙКА. Внеземная жизнь повсю… — Transcript
6,685 1 Russian
ЧТО ТАКОЕ ВРЕМЯ? | Самое простое и полное объяснение бе… — Transcript51:47
ЧТО ТАКОЕ ВРЕМЯ? | Самое простое и полное объяснение бе… — Transcript
6,181 1 Russian
Теория БОЛЬШОГО ВЗРЫВА в 2024 году – всё // ΛCDM — Transcript1:15:27
Теория БОЛЬШОГО ВЗРЫВА в 2024 году – всё // ΛCDM — Transcript
8,804 1 Russian
мак ос — разбор (не буквально) — Transcript51:38
мак ос — разбор (не буквально) — Transcript
5,849 1 Russian
Обойти нейронайм: как я сделал 70+ собесов за 2 недели — Transcript13:39
Обойти нейронайм: как я сделал 70+ собесов за 2 недели — Transcript
2,186 1 Russian
6 МЕСЯЦЕВ ИСКАЛ РАБОТУ В IT | Что происходит? — Transcript17:45
6 МЕСЯЦЕВ ИСКАЛ РАБОТУ В IT | Что происходит? — Transcript
2,865 1 Russian
yt video 1 ready — Transcript19:37
yt video 1 ready — Transcript
2,681 1 Russian
Как TESLA ВЗЛЕТЕЛА на самом деле? | РАЗБОР — Transcript26:28
Как TESLA ВЗЛЕТЕЛА на самом деле? | РАЗБОР — Transcript
3,558 1 Russian
Штурм под Киевом – военные открыли огонь | Украинский концлагерь — Transcript15:25
Штурм под Киевом – военные открыли огонь | Украинский концлагерь — Transcript
2,202 1 Russian
OpenAI Разбудила ЗВЕРЯ! GPT-6.2 Детали ChatGPT-6.2 — Transcript23:52
OpenAI Разбудила ЗВЕРЯ! GPT-6.2 Детали ChatGPT-6.2 — Transcript
3,423 1 Russian
Тренды продаж 2026: почему старые техники не работают? — Transcript13:00
Тренды продаж 2026: почему старые техники не работают? — Transcript
2,391 1 Russian