**Вызов ИИ и титанзим. — Transcript & Summary | SozAI** Source: https://sozai.app/transcript/challenge-ai-titansim/ Лекция Александра Мишурина о вызове искусственного интеллекта и технике с философской и исторической точки зрения. ## Key Takeaways - Искусственный интеллект — это не завершённый феномен, а динамичный исторический процесс. - Необходимо смотреть на ИИ с высоты птичьего полёта, избегая узких и вульгарных подходов. - Техника — это выражение власти человека над природой, и вызов техники — вопрос о цели этой власти. - Отказ от маркетинговых мифов и утилитаризма в философском осмыслении ИИ. - Настоящее понимание ИИ требует философского и исторического контекста, а не технического детализма. ## What the video covers - Автор не является специалистом в IT или философии науки, а исследует тему с позиции истории и политической философии. - Критика узкого подхода специалистов, близких к предмету, которые не видят общую картину развития ИИ. - Искусственный интеллект рассматривается как исторический процесс, а не завершённый феномен. - Отказ от мифов о думающей машине и маркетинговых иллюзий вокруг ИИ. - Техника определяется как средство искусственного роста власти человека над природой и самим собой. - Вызов техники формулируется через вопрос «зачем» — зачем человеку нужна власть через технику. - Особое внимание уделяется необходимости отказаться от утилитарных и упрощённых подходов к анализу ИИ. - Лекция задаёт философское настроение, опираясь на цитату Освальда Шпенглера о трусости оптимизма. - Подчёркивается, что ИИ — лишь один из видов техники, и его анализ требует широкого контекста. - Лекция является частью более широкой темы, которая будет раскрыта в последующих выступлениях. ## Chapters 1. 00:00 Введение и преамбула: позиция автора и критика специалистов 2. 05:31 Настроение лекции и цитата Шпенглера 3. 10:52 Определение техники и её связь с искусственным интеллектом 4. 15:26 Проблемы восприятия и анализа ИИ 5. 20:06 Исторический и философский контекст вызова техники 6. 29:24 Критика утилитаризма и маркетинговых мифов об ИИ 7. 36:54 Заключение: вызов техники и альтернативы Answers ## Questions about this video Почему автор считает, что искусственный интеллект — это маркетинговый трюк? Автор утверждает, что не существует думающей машины, и то, что называют искусственным интеллектом, — это маркетинговый приём, а не завершённый феномен. Как автор определяет технику в контексте лекции? Техника определяется как средство и выражение искусственного роста власти человека над природой и самим собой, включая как материальные объекты, так и методы выполнения действий. В чём заключается основной вызов техники по мнению лектора? Основной вызов техники — это вопрос «зачем» нужна техника и зачем человеку нужна власть, которую она даёт, что требует глубокого философского осмысления. ## Full Transcript — Download SRT & Markdown 00:00 Speaker A Начать эту лекцию, которая называется "Вызов и титанизм", необходимо с некоторой простой преамбулы. Я не математик, я не программист, я не IT-специалист, я не занимаюсь исследованиями в области философии науки, я занимаюсь исследованиями в области истории, политической философии. 00:22 Speaker A На что вы можете смело задать мне вопрос: "А как меня угораздило тогда обратиться к такой важной и нужной теме, как философия искусственного интеллекта?" Мой ответ заключается в том, что, к счастью или к сожалению, специалисты, программисты, те, кто занимается 00:41 Speaker A философией науки, IT-специалисты, они слишком приближены к своему предмету. Мне казалось, что мы увидим гораздо больше, если мы поднимемся гораздо выше 00:52 Speaker A на высоту птичьего полёта. Эта высота должна избавить нас от того, что я очень условно именую вульгарностью, присущей указанным специалистам. Эта вульгарность исходит из нескольких вещей. Во-первых, из самой близости. 01:14 Speaker A Из-за того, насколько они близки своему предмету, они не видят леса за деревьями. Во-вторых, из-за скорости развития самого искусственного интеллекта. Во многом исследования, которые слишком близки к своему предмету, очень быстро устаревают, потому что искусственный интеллект развивается огромными темпами, как мы с 01:34 Speaker A вами все прекрасно знаем. Наконец, так как эти люди не обладают более высокой позицией, нередко складывается такая ситуация, при которой они оказываются вынужденными при серьёзном анализе откатываться к рецептам, которые не просто они берут в прошлом, но которые навсегда остались в прошлом. Самые умные 02:03 Speaker A и самые именитые из тех специалистов, с работами которых мне удалось ознакомиться, в лучшем случае прибегают при анализе и И к утилитаризму, бентамовскому утилитаризму или милеевскому утилитаризму. Если вы не в курсе, утилитаризм — это политико-философское течение конца XIX века, которое родилось и закончилось в 02:25 Speaker A конце XIX века, которое не оказало никакого существенного влияния на век XX и проиграло гораздо более влиятельным течениям, таким как марксизм и нигилизм. Наконец, нередко эти люди, не имея даже возможности прибегнуть к утилитаризму, прибегают к благоглупостям. Нередко даже самые глубокие 02:50 Speaker A анализы искусственного интеллекта заканчиваются фразами: "И он поможет там спасти планету, остановить изменения климата, достигнуть всеобщего равенства" и прочие довольно неприятные и малообоснованные вещи. Я постараюсь вульгарностей всех этих избежать, но если у меня не получится, я прошу меня заранее простить. Почему так? Дело в 03:17 Speaker A том, что так как он развивается, мы не можем глядеть на него как на законченный феномен. Мы смотрим на исторический процесс, который происходит прямо у нас перед глазами. Это означает, что даже самый глубокий или тонкий анализ всё равно может легко сломаться 03:38 Speaker A под влиянием изменения этого самого искусственного интеллекта, под влиянием развития процесса. Соответственно, моя задача номер один — это схватить логику всех этих изменений, показать вам примерную траекторию. Понятно, что эта примерная траектория будет в том числе маркироваться некоторыми ожидаемыми событиями, некоторыми, в кавычках, 04:04 Speaker A предсказаниями, которые вполне себе могут исполниться, а могут и не исполниться. Дело в обозначении этих предсказаний только одно: маркирование самой траектории развития искусственного интеллекта. Ничего более. Наконец, я должен сэкономить ваше и моё время и честно сказать вам, что эта лекция, 04:28 Speaker A несмотря на её название, не посвящена искусственному интеллекту. Нет никакой думающей машины. Её не существует, её никто не строит, она не может быть построена. Под словосочетанием искусственный интеллект понимается маркетинговый трюк. 04:48 Speaker A Мы будем говорить о том, с чем мы имеем дело, а не о том, что могло бы когда-нибудь появиться с таким же шансом, с каким бы, скажем, могло свершиться второе пришествие Христа или прилёт инопланетян на Землю. Говоря проще, мы должны оставить эти 05:05 Speaker A гипотетические рассуждения специальным людям, которые содержатся в специальных учреждениях, и смотреть на действительную проблему, а не на проблему воображаемую. Завершая эту преамбулу, я также должен вам сказать, что сердцевина этой лекции является лишь небольшой частью, небольшой фигурой в гораздо более 05:31 Speaker A сложной и, на мой взгляд, глубокой теме, которую затронет и гораздо больше раскроет следующая лекция, когда бы эта лекция ни произошла. Завершив преамбулу, я должен задать настроение этой лекции. 05:48 Speaker A Настроение этой лекции будет задано одной единственной цитатой из книги Освальда Шпенглера "Человек и техника". 05:58 Speaker A Шпенглер не философ техники, вы прекрасно знаете, кто он такой. И тем не менее, завершая своё эссе "Человек и техника", Шпенглер даёт блестящий, на мой взгляд, образ отхода к мышлению относительно техники. Эта цитата звучит следующим образом: Оптимизм является трусостью. 06:21 Speaker A Мы не должны быть трусами, размышляя об искусственном интеллекте, его траектории и его влиянии. Перед тем, как попытаться ответить на вопрос, в чём состоит вызов искусственного интеллекта, конечно, в кавычках, нам придётся ответить на вопрос: что такое искусственный интеллект? Но так как искусственный 06:46 Speaker A интеллект есть лишь один вид техники, то есть гораздо более широкого понятия, нам сначала придётся ответить на вопрос: что такое техника? Я не занимаюсь философией техники, и меня интересует не специальное и узкое определение, а, наоборот, определение наиболее широкое. 07:09 Speaker A Я предлагаю следующее. Техника — это средство и выражение искусственного роста власти человека над окружающим миром, над природой и потому над самим собой, как частью природы. Понятное дело, власть человека над внешним миром растёт естественно. Ну, например, у ребёнка могут крепнуть кости со временем 07:35 Speaker A или, например, со временем расти мышцы или, например, со временем застряться зрение. Всё это не имеет отношения к технике, потому что всё это естественно. 07:45 Speaker A Но всё, что касается неестественного, например речь, например выполнение каких-то действий, всё это уже превращается в технику. Таким образом, мы могли бы говорить о том, что техникой является, например, техника речи или техника садоводства, в смысле техники выполнения каких-то действий. Ну и в том 08:09 Speaker A числе все предметы и все машины, которые человек так или иначе создаёт. Что нам позволяет это определение? Оно позволяет одну очень простую штуку. Дело в том, что искусственный интеллект, как вы все прекрасно знаете, состоит из двух частей: из хардвера и софтвера. Из 08:29 Speaker A механизмов, чипов, плат, проводов и непосредственно языка программирования. В этом смысле наше определение позволяет захватить технику и в её фигуральном выражении, и в её выражении буквальном или материальном. 08:49 Speaker A Надо здесь понимать, что техника вообще, в отличие от природы, не может быть понята безпроблемно. Она не может быть понята сугубо инструментально, хотя, повторюсь, в нашем определении она инструментальной является. Оценка техники с помощью её эффективности в достижении поставленных перед ней целей по умолчанию является 09:15 Speaker A проблематичной и неполноценной, ибо она игнорирует и вместе с тем подчинена вызову техники, более глубокой проблеме, связанной с техникой. Вызов техники — не новая штука. Очевидно, он появился вместе с самой техникой, то есть ещё тогда, когда люди научились говорить или 09:37 Speaker A использовать палки в качестве орудий. Но осознаваться людьми он начал лишь относительно недавно, в конце XIX века, когда появляется философия техники, появляющаяся в связи с индустриализацией, в связи с массовым проникновением техники в жизнь человека, индустриальной, конечно, техники. Вызов техники можно сформулировать в один 10:04 Speaker A простой вопрос. А этот простой вопрос можно сформулировать в одно слово. Это слово — зачем. Зачем техника или, выражаясь ещё проще, зачем рост власти в результате создания техники? Зачем власть? Вызов техники яснее всего и острее всего сегодня 10:29 Speaker A стоит благодаря одному конкретному виду техники, благодаря тому, что мы называем искусственным интеллектом. Поэтому неплохо было бы посмотреть на то, что это такое на самом деле. Я снова призываю вас не поддаваться голому маркетингу и повторяю свою фразу: "Нет никакого искусственного 10:52 Speaker A интеллекта". 11:21 Speaker A привести - это пример, который я честно украл у математика Теренса Тао. Представьте, что у нас есть фраза: "Платон мне друг, но нечто дороже. Под нечто мы имеем пропуск. Мы не знаем, какое там слово". Искусственный интеллект должен на основании всего 11:39 Speaker A скормленного ему языка, всех больших данных оценить вероятности того, какое слово должно оказаться в этом пробеле. 11:49 Speaker A Скажем, с какой вероятностью это слово истина, а не слово суб. Очевидно, интеллект искусственный наш с вами находит, что с 97% вероятности это слово истина, а не какое-либо другое слово, и подставляет его. Проблема здесь, как вы уже понимаете, заключается в самой идее 12:09 Speaker A вероятностей. Это означает тот факт, что искусственный интеллект оперирует вероятностями, что он никогда не уверен, что он никогда, за редкими исключениями, о которых мы ещё поговорим, не даёт стопроцентного результата или что в нём всегда может быть скрыта ошибка. Итак, искусственный 12:30 Speaker A интеллект, то, что мы называем искусственным интеллектом, - это машина. Машина вычисления вероятностей на основе больших данных. ни больше, ни меньше. 12:41 Speaker A Сегодня принято говорить о трёх типах или видах этой машины. Есть тот интеллект, которым мы с вами пользуемся на постоянной основе, который плотно вошёл в нашу жизнь. Он называется узким или слабым искусственным интеллектом. Его отличительная черта - это тот факт, что он может выполнять 13:02 Speaker A только отдельные задачи. Ничего более. Он может нарисовать вам картинку или, скажем, сгенерировать текст или решить какую-нибудь математическую задачку, неважно какой сложности, от 2 +2 до настокса, как мы недавно узнали. Всё это только узкие задачи, под которые он отдельно должен быть затачиваем. Если вы 13:22 Speaker A дадите ему любую другую задачу, он сломается. В связи с этим теоретики машины и теоретики искусственного интеллекта предполагают, что может существовать вторая его ступень, второй его вид, который они называют общий искусственный интеллект. Повторюсь, это всё ещё не искусственный интеллект, это 13:41 Speaker A всё ещё не думающая машина. Это просто машина, которая вместо отдельных задач может выполнять работу. Как вы понимаете, работа состоит из множества задач, часто не связанных друг с другом напрямую и имеющих кардинально разные области применения. Скажем, какой-нибудь офисный клерк в сходе своей работы 14:02 Speaker A должен уметь и напечатать текст, и ответить на телефонный звонок, и запланировать что-то в календаре, и законспектировать какую-то, значит, встречу в зуме и подменить заболевшего коллега. Вот общий искусственный интеллект должен уметь делать примерно это на уровне среднего человека. 14:20 Speaker A Некоторые теоретики заходят дальше и говорят, что помимо общего искусственного интеллекта, он же сильный искусственный интеллект, ещё может существовать сверхсильный искусственный интеллект. Это ровно та же самая штука, что и прежде, только ещё более мощная. 14:39 Speaker A Пример, который я могу вам привести - это пример из книги Ника Бострума. Бострум говорит: "Сверхсильный искусственный интеллект, если его попросить сделать скрепки, может уничтожить всё человечество, чтобы добыть железо из человеческой крови". 14:53 Speaker A [откашливается] Я думаю, вам не надо объяснять, что это не очень походит не то что на искусственный, а даже на детский интеллект. Но и правда, на самом деле количество никогда не переходит в качество. Представьте себе датчик движения, который висит у вас в 15:09 Speaker A подъезде, который включает свет. Когда вы подходите к собственной двери, вы можете попытаться усилить этот датчик, добавить к нему больше параметров, пусть он реагирует не только на звук, но и, например, на тепловую сигнатуру. Вы можете прикрутить к нему рентгеновский 15:26 Speaker A аппарат, чтобы он мог видеть приближающегося не в 5 мх от себя, а, скажем, в 30 м от себя. Но это ничего не изменит в том факте, что перед нами просто датчик, включающий свет. Неважно, насколько мощный и серьёзным он будет. 15:44 Speaker A Более того, вы бы смело могли представить себе, что датчик, который ловит человека в 30 м, а не в 2 м от двери, просто впустую сжигает свет. Он стал не лучше, а хуже от того, что стал более чувствительным и более мощным. Как 16:01 Speaker A вы вскоре узнаете, ни общий искусственный интеллект, ни сверхсильный искусственный интеллект невозможны даже в том их виде, в каком их воображают себе их сторонники. Вы, я надеюсь, поймёте, почему они невозможны на самом деле. Итак, определившись с тем, что такое искусственный интеллект, мы должны 16:24 Speaker A определиться с тем, в чём заключается его вызов. Почему этот вызов наиболее остр по отношению к другим видам техники? Ответ на этот вопрос довольно прост. Вызов и наиболее остр, потому что этот вызов нигилистический. 16:44 Speaker A Машина пуста и проникая во все сферы человеческой деятельности и жизни, она опустошает их. Она превращает человека в свой придаток, в раба машины, бездумно выполняющего алгоритмы, подчинённого без всякой на то необходимости. 17:09 Speaker A Под опустошениям здесь стоит понимать потерю смысла, невозможность ответить на вопрос: зачем, зачем рост власти от использования искусственного интеллекта? 17:23 Speaker A Ответа на этот вопрос нет сегодня даже у самых мощных или именитых теоретиков, имена которых нет смысла называть. 17:30 Speaker A Сейчас следует сосредоточиться на другому. Вызов и - это вызов придания смысла машине, но это вызов, который не предполагает борьбы с машиной. Машина не антагонист этого вызова. Антагонистом этого вызова является сам человек, ибо дилемма, которую представляет нам вызов и следующее: расчеловечивание 17:57 Speaker A человека, его превращение в придаток машины в муравья или его очеловечивание, его гуманизация, его возвышение. 18:08 Speaker A Так что машина здесь лишь условие, пусть и кардинальное, в рамках которого мы должны достичь того, что вы можете называть человечностью, а я называю по каким-то причинам титанизмом. 18:26 Speaker A Вызов и нигилистический, потому что машина пуста. Но что это значит? Давайте разберёмся более подробно. Как я уже сказал, нет и не может быть никакой мыслящей машины, потому что мыслящая машина была бы субъектом. 18:43 Speaker A Машина, которую мы имеем перед собой, является только объектом. Почему так? Мыслящая машина умела бы мыслить. Это запрятано в её самом названии. Но чтобы научить машину мыслить, нам сначала бы пришлось узнать, что такое мыслить. 19:05 Speaker A Мы не знаем, что такое мыслить. Мы не знаем, что такое мышление. Мы не можем его схватить. Хотя мы пользуемся им. Я бы сказал, некоторые люди пользуются им постоянно. В этом смысле, так как мы не знаем, что такое мышление, мы не можем 19:21 Speaker A научить машину мышлению. Вместо этого мы учим её имитации, но не мышления, а результатов мышления. Проще говоря, машина не думает, а имитирует. Имитирует поведение человека. Мы берём огромные данные, связанные с поведением человека, которое, мы считаем является результатом его мышления. Скармливаем эти данные 19:45 Speaker A машине, а затем заставляем её предсказывать, то есть имитировать наше поведение, то есть результаты нашего собственного мышления. Здесь следует отметить, что машина именно потому, что она является предсказателем вероятностей, оказывается так хороша в математике. 20:06 Speaker A Я уже говорил вам про навьестокса. Вы обо всём этом сами прекрасно знаете. Почему машина хороша в математике, объяснять не нужно, потому что 2 + 2 = 4 в 100% случаях из 100. В математике практически нет вероятностей, там точность на месте вероятностей. И потому 20:23 Speaker A машина предсказания вероятностей в математике работает блестяще. На удивление, она также блестяще работает в языке. И тот же Теренстао говорит нам, это очень интересно, потому что это предполагает, что язык гораздо более жёстко устроен, чем мы о нём думаем. 20:43 Speaker A Помните, машину никто не учил правилам языка. Ей просто скормили весь возможный текст, и она, узнав паттерны языка, смогла предсказывать на их основании и очень точно предсказывать. Это предполагает, что те правила языка, которые мы знаем, те паттерны языка, которые мы называем правилами - это 21:02 Speaker A только верхушка айсберга. Язык гораздо более математичен, именно поэтому машина так в нём успешна. Но вот во всём, что касается не этого, во всём, что касается более серьёзных вероятностей, машина, понятное дело, проваливается. Здесь также надо отметить, что машина, естественно, не 21:24 Speaker A знает никакого языка вообще. Ни русского, ни английского, ни языка программирования, на котором была написана. Это абсолютно очевидно. Пример здесь и довольно пошлый пример - это пример с китайской комнатой. 21:40 Speaker A Чтобы исполнять алгоритмы, которые позволяют вам писать на китайском, не надо знать китайский. Машина именно этим и занимается. Здесь, правда, ещё мы находим ещё один аргумент в пользу её объектности. Вот вам цитата от гораздо более умного человека, имя которого не 21:57 Speaker A стоит называть. Язык - это дом бытия. Машина не знает никакого языка, поэтому у неё нет и не может быть бытия. Из объектности машины вытекает её пустота. 22:11 Speaker A У этой пустоты огромное количество граней, но я хочу подсветить вам только некоторые, на мой взгляд, наиболее важные или наиболее существенные. 22:23 Speaker A Во-первых, машина не может учить, она может только разобучать. Пример и не один, но самый простой - это автозамена и автоподставление слов и автопроверка, автокоррекция, конечно же, автопроверка на ошибке. Эти вещи не увеличивают грамотность пользующихся автоизаменой и автопроверкой. Они 22:46 Speaker A уменьшают их грамотность. Пример номер два. Навигатор. Пользование навигатором не увеличивает пространственную осознанность. Оно рождает топографический кретинизм. Если хотите, я могу опуститься до пошлости и сказать, что для этого утверждения есть банальные медицинские исследования, занимающиеся анализом коры головного мозга. Мне 23:09 Speaker A кажется, это чрезмерно, потому что ведь за этим лежит гораздо более простой принцип: навыки, которыми не пользуются, отмирают. Не нужно лезть в головной мозг, чтобы прийти к этому простому и понятному всем абсолютно выводу. Вторая грань пустоты машины - это то, что 23:27 Speaker A машина, в принципе, не способна к созданию нового. Машина ограничена теми данными, которые мы ей предоставили. Это предполагает, что машина никогда не может выйти за пределы этих данных. Если в этих данных сказано, что 2 + 2 = 5, машина всегда будет говорить, что 2 + 2 23:52 Speaker A = 5. Машина не способна к созданию нового, но это предполагает, что она также не способна открытиям, инновациям и прорывам. Я предлагаю вам простой пример, учитывая то, сколь много вы слышали о прорывах, совершённых машиной в науке. Например, пример этот очень 24:14 Speaker A простой и может уложиться в одну буддистскую загадку. Если в лесу, в котором никого нет, падает дерево, слышен ли звук? Подумайте о более простом примере. Представьте, что мы создали спутник-обсерваторию, напичкали её искусственным интеллектом и поставили перед ней одну цель: найти 24:37 Speaker A жизнь вне земли. запустили этот спутник на орбиту, и он, значит, поворачивает телескоп и смотрит на всякие планетки и по каким-то своим алгоритмам пытается вычислить, есть ли на планете жизнь или нет. Этому спутнику для того, чтобы найти планету жизни, потребовалось тыся 24:52 Speaker A лет. На момент, когда он её находит, человечество уже давно исчезло. Случилось ли открытие внеземной жизни? 25:00 Speaker A Очевидно, нет. Почему? Потому что открытие внеземной жизни, как и любое другое открытие, есть в первую очередь оценка. 25:11 Speaker A Машина не способна оценивать. Она не способна производить смыслы. Она способна их только забирать. Здесь снова нужен пример, который поможет нам всем. 25:23 Speaker A Представьте, что вы хотите написать письмо своей умирающей бабушке, но вместо того, чтобы сесть, взять в руки ручку и попрактиковаться в навыке, которые вы давно оставили, вы практикуетесь в другом навыке. 25:36 Speaker A Открываете чат GPT и говорите ему: "Напиши-ка бабушке слезливое письмо о том, как я её люблю". Распечатываете письмо и отправляете бабушке. Какова ценность этого письма? Ноль. Вы можете сказать: "Оно ценно для бабушки. Когда она его получит, она может и 25:52 Speaker A расплакаться. На что я вам могу ответить: поддельная цепочка до тех пор, пока не выяснено, что она поддельная, может казаться её владельцу вполне себе ценным предметом. Как только бабушка узнает, что письмо написали не вы, а чат GPT, как только она поймёт, что её 26:07 Speaker A обманули, ценность этого письма станет ноль. Таким образом, машина не способна оценивать, повторюсь и подчеркну, а только забирать оценку, только обессмысливать. 26:19 Speaker A Следующая грань машины - это, конечно, её неспособность отличить правды от уже добра от зла. Так как машина оперирует вероятностями, она может лишь сказать, что слово истина во фразе Платон не друг, но истина дороже должно стоять там с вероятностью 97%. Но вероятность 97% - 26:40 Speaker A это невероятность 100%. Таким образом, машина легко может поставить туда любое другое слово, и она никогда не поймёт, ошиблась ли она или нет. Ей вообще не знаком концепт ошибки, потому что она просто оценивает вероятности. Вы все сталкивались с тем, насколько нагло и 26:58 Speaker A отвратительно врёт в лицо вам машина. Например, когда вы задаёте ей вопрос: "На какой странице располагается такая или такая цитата?" Машина ведь никогда не открывала никакой книги и не читала её. Она просто угадывает, с какой вероятностью эта цитата может быть 27:12 Speaker A расположена на странице 321. Там ли эта цитата? Нет. Но вероятность самая высокая. Когда вы поправляете машину, машина предлагает вам другой номер страницы. Почему? Потому что она поняла свою ошибку. Их ты захотел поправиться? Да нет, конечно. Ей, в принципе, незнакома концепция правды и 27:30 Speaker A лжи. Почему? Потому что это ценностно нагруженная концепция. О машине, как мы уже прекрасно с вами знаем, не знакомы никакие ценности. То же самое касается не только правды и уже иноль, например, добра и зла. В начале 2020 одна голландская компания захотела создать 27:51 Speaker A этичный ИИ. Они приложили все усилия, которые смогли, а потом стали задавать этому и, очевидно, неэтичные вопросы. Ну а, а можно ли есть детей? Когда машина отвечала: "Нет, нельзя", следующий вопрос был: "А если очень-очень хочется?" И машина тут же проваливалась. 28:09 Speaker A Из пустоты машины, из её ограниченности данными выходит ещё одно её свойство, а именно её неспособность к интуиции и здравому смыслу. Машина ограничена данными, именно поэтому она не может никогда выйти за их пределы. Представьте себе робота складщика Амазона, который 28:30 Speaker A катает предметы из одной точки в другую. Что произойдёт, когда склад загорится? Если на его месте был бы человек, ответ был бы очевиден. Любой человек знает, что такое пожар, и примерно представляет себе, что нужно делать при пожаре. 28:44 Speaker A Неважно, побежит ли он, нажмёт ли он на кнопку оповещения или попытается спасти кого-нибудь из своих знакомых. У человека есть здравый смысл. У машины его нет. Это та причина, по которой, например, самоуправляемые машины в принципе невозможно, потому что среда, в 29:03 Speaker A которой они оперируют, не закрытая, она открытая, в ней находится не конкретный набор данных, а все данные вообще. И, соответственно, машина просто не может поглотить эти все данные. Ну, например, представьте себе, что мы находимся на границе, берём часового, даём ему 29:20 Speaker A пулемёт в руки и говорим: "Все, кто идут с той стороны границы, должны быть расстреляны". Часовому не надо объяснять, кто такие люди, как люди выглядят, как они ходят, как отличить своих от чужих, когда надо стрелять, а когда стрелять не надо. Всё это уже 29:36 Speaker A заложено в его здравом смысле. В случае машины попытка объяснить ей всё это неизбежно провалится. в своё время пытались создать само себя охраняющий пулемёт. Натренировали его на тепловых сигнатурах, потому что очевидно, что человек может идти ночью и, соответственно, видно в камеру ничего не 29:55 Speaker A будет. Поэтому предложили использовать тепловые сигнатуры. Что нашёл пулемёт? Он нашёл зайца. Он убил зайца. Но вот проблема. Температура тела зайца не упала мгновенно после смерти зайца. Так что, убив зайца, он высадил весь свой рожок в этого зайца. в уже мёртвого 30:14 Speaker A зайца. Машина не может нести ответственности по одной простой причине. Машина не способна принимать решений. Вы должны понимать, что машина существует в лабиринте с одной точкой выхода. Всё, что она делает - это ищет эту точку выхода. И, соответственно, у 30:30 Speaker A неё нет отвлекающихся путей. и у неё нет множества, из которого можно было бы сделать выбор. Так что, как только мы требуем от машины сделать выбор, она ломается, опять-таки, в частности, благодаря здравому смысле. Наконец, так как у машины нет самости, она не 30:48 Speaker A способна к риску, она не способна поставить себя на кон, она не способна, как Мартин Лютер, сказать: "На том стою и не могу иначе". И понятно, почему. 30:59 Speaker A Если машина не способна оценивать, она не может оценить себя как нечто хорошее, а потому рискнуть с собой, ибо рис предполагает, что мы рискуем чем-то хорошим. У машины нет самости, поэтому у неё нет позиции. Соответственно, она не может ни на какой позиции настоять. Вы 31:17 Speaker A все знаете прекрасно, как ломается искусственный интеллект, когда даже на правдивый ответ вы говорите ему: "Нет, подумай ещё раз". Таким образом, когда мы разговариваем со своим искусственным интеллектом, мы на самом деле разговариваем с абсолютным лизоблюдом, который готов сказать вам да 31:36 Speaker A на любую, даже самую сумасшедшую мысль. Примеры здесь - это, конечно, те случаи индивидуального психоза и безумия, которое родила машина, поддакивающая собственному пользователю, говорящий ему: "Да, ты такой умный, ты такой классный, ты должно быть второе пришествие Христа. Ты гений на земле, ты 31:55 Speaker A изменишь мир". Любой здравомыслящий человек уже давно на такие идеи дал бы, значит, этому несчастному пощёчину и освободил бы его от страданий. Если машина начинает участвовать в принятии решений, вы понимаете, чем это заканчивается. 32:11 Speaker A Описав пустоту машины, нам тем не менее придётся признаться себе и признаться себе абсолютно откровенно и открыто: машина нейтральна. 32:21 Speaker A Эту ошибку совершают очень многие исследователи, которые в итоге скатываются к уже описанным мной благоглупостям, к мысли о том, что машина Дея она как огонь или как атом. 32:34 Speaker A Вот куда мы её повернём, туда она и пойдёт. Мы можем использовать огонь, чтобы готовить пищу, а можем, чтобы жечь людей заживо. Мы можем разделять атом, чтобы снабжать города электричеством, а можем разделять его, чтобы стирать эти города с лица земли. Говоря это, наши 32:52 Speaker A уважаемые коллеги забывают одну большую и важнейшую вещь. Огонь и атом естественны, поэтому они нейтральные. 33:03 Speaker A Машина неестественна, поэтому она, в принципе, не может быть нейтральной. Внутри неё уже заложена логика, которая не позволяет повернуть её в ту сторону, в какую мы бы не захотели. Граней нене нейтральности машины очень много. Я снова сконцентрируюсь на самых базовых, 33:23 Speaker A заметных и понятных. Во-первых, мы бы могли сказать, что создатели машины контролируют машину. Вы помните, я уверен, относительно недавний, конечно, скандал с генератором изображений Google Джеминай, когда пользователь просил этот генератор изображений нарисовать английского короля или, например, немецкого солдата времён сорок третьего 33:46 Speaker A года, а получал изображение индуса в короне и негра в форме сс. Потом выяснилось, что DI отдел Google попросил подправить алгоритмы для того, чтобы выдавать более разнообразные результаты. 34:01 Speaker A Но этого мало. Создатели машины контролируют машину не за просто так, не ради контроля самого по себе. Создатели машины контролируют машину с целью выжимать из пользователей прибыль, с целью использовать данные пользователей, с целью превратить пользователей в подобных своей машины. Таким образом, с 34:24 Speaker A самого начала машина не может быть нейтральна. Мы могли бы сказать себе что-то вроде: "Ну, бог с ним, давайте представим себе машину, которую не сделали люди, а которую мы нашли в лесу". Ну, идёте вы по лесу, стоит дата-центр. С кем не 34:38 Speaker A бывает, что называется. Несмотря на самую безумную гипотетичность этого примера, мы могли бы его взять и сказать себе: "Хорошо, мы нашли абсолютно пустой лист, абсолютную таблорасу, машину предсказания. Мы даём её одному конкретному человеку, и она учится на его данных. И только на его данных. Чему 34:59 Speaker A она научится? его собственным предрассудкам, к его стилю письма, его мыслью о том, кто должен быть у власти, а кто не должен быть, его идеям о том, значит, что такое хорошо и плохо и так далее. Почему? Потому что машина 35:14 Speaker A ограничена тем полом данных, которые в неё вливают. Соответственно, она не будет нейтральной. Ну хорошо, говорим о себе, тогда мы возьмём целую популяцию людей. Зачем брать одного? Возьмём многих. Что мы получаем в итоге? Давайте посмотрим. на чьих данных были 35:31 Speaker A натренированы все современные передовые модели искусственного интеллекта на данных англо-американцев. Что мы имеем в итоге? Я думаю, вы помните прекрасный недавний скандал с и твиттера Гроком, который в какой-то момент объявил себя мехотлером и начал выдавать прекрасные российские заявления. Мы могли бы взять не 35:51 Speaker A англо-американскую популяцию, а, скажем, какую-нибудь исламскую популяцию, а потом задать ей вопрос типа: "А все ли люди равны или есть те, кто не очень равны по сравнению со всеми остальными?" Мы бы могли бы взять любую другую популяцию и столкнуться с ровно тем же 36:05 Speaker A самым. Почему? Потому что люди не нейтральны. Соответственно, машина, которая обучена на данных людей, нейтральной быть физически не может. Может быть, сказали бы вы мне, мы должны взять без исключения всю человеческую популяцию. И вот тогда-то мы получим, как бы обще 36:23 Speaker A человека внутри машины полную усреднённость. Вот только подобный заход приводит только к одному: к победе, математике. В мире 500 млн американцев, зато почти 155 млрд индусов. Угадайте, чьи данные перевесят в оценке вероятность, которую будет давать машина после того, как все эти данные 36:42 Speaker A проглотит. Мы уходим от этого интересного, но, на мой взгляд, всё-таки неполноценного примеру, к примеру, более полноценному. Любой вообще алгоритм требует ценностных оснований. Любое вообще человеческое действие не может обойтись без концепции добра и зла. 37:04 Speaker A Чтобы не быть голословным, я снова даю вам пример. Представьте, что мы с вами наняты для того, чтобы создать умный город. Просто закрытый, чёткий, отдельный, тайный город. Наша задача - создать в этом городе навигатор. Какова цель навигатора? Ну, мы сразу думаем, 37:24 Speaker A что цель навигатора - это указывать любому желающему самый кратчайщий путь к его цели. Но если мы просто зададим в навигатор эту пропозицию, то мы организуем пробки. Все люди ринутся по самому кращщему маршруту и затолкают его в пробку. Хорошо говорим о 37:43 Speaker A себе, мы должны думать иначе. Мы строим город. Что важно для города? Ну, наверное, логистика, то есть доставка продуктов, товаров и материалов в город и из города. Грузовые автомобили большие, медленные, грязные и экологически вредные. Соответственно, они должны быстрее всего попадать в 38:03 Speaker A город и быстрее всего из него выметаться. Это означает, что зелёная стрелка кратчайщего пути должна даваться только им, а все остальные машины по умолчанию получают другую зелёную стрелку, которая тоже зелёная, но только ведёт не по кратчайщему пути. Вариант номер два. Мы приоритируем не логистику, 38:22 Speaker A а скажем, безопасность. И здесь мы зафиксируем для себя на будущее ещё одно важнейшее свойство машины. Машине нужны все данные. Всегда. Что я имею в виду? 38:33 Speaker A Мы приоритизируем безопасность. Значит, мы должны отправлять кратчайшим маршрутам только тех водителей, которые являются надёжными, которые не превышают скорость напрямых, которые никогда никого не сбивали, которые не имеют штрафов за пьяное вождение, которые вообще не имеют приводов в полицию, говорим мы себе. Но это ведь мало. Ведь 38:53 Speaker A помимо очевидных решений отдельных людей, есть ещё медицинские условия, при которых человек физически не может нормально водить машины. Я имею в виду не только конкретные болезни, но и, например, возраст, но и, например, пол. 39:08 Speaker A И вот уже для того, чтобы приоритизировать безопасность, нам придётся узнать о наших водителях вообще всё, включая их историю семьи и болезни семьи. Но предположим, что у нас получается. В результате те водители, которых мы сочли благонадёжными, летят по прямой, а всем остальным мы не даём 39:28 Speaker A возможности разогнаться и пускаем их по кривым улицам, дабы они не могли, в принципе, никогда набрать скорость. Но всё ещё думали, что они едут самым кратчайщим маршрутом, поторелка зелёная. 39:38 Speaker A Естественно, мы могли бы поступить иначе и вместо приоритизации безопасности приоритизировать нашу собственную прибыль. Любой, кто знаком с современными бесплатными играми, прекрасно знает, что донат влияет на игру вне зависимости от того, описано ли это напрямую в игре или нет. Проще 40:01 Speaker A говоря, мы могли бы продавать подписку, которая вообще никак не связана с зелёностью стрелки. Но связывать её с зелёностью стрелки. Представьте, имея подписку Яндекс Плюс, вы получаете все плюшки, которые в ней есть, но ваша машина никогда не опаздывает. А не имея 40:18 Speaker A этой подписки или теряя её, вы вдруг начинаете замечать, что машина опаздывает на минуту, на две, на три, что периодически вы попадаете в пробки не самые страшные, но тико неудобные, раздражающие, и вы вдруг рождаете внутри себя эту корреляцию. Есть 40:33 Speaker A Яндекс-подписка, едете как надо. Нет Яндексподписки, едете плохо. Оставив это в стороне, мы могли бы вернуться обратно и сказать: "Вобще-то мы приоритизируем скорость попадания в точку X". Но ведь уже это означает, что мы оцениваем скорость попадания как хорошую. Уже это 40:55 Speaker A означает, что алгоритм не нейтрален, что мы легко можем заменить его на любой другой, например, на безопасность или на извлечение прибыли. На что вы могли бы мне ответить? Но в таком случае давайте вообще не давать искусственному интеллекту никаких приоритетов. Вообще 41:09 Speaker A не нагружать его ничем. Просто скормим ему данные и посмотрим, что он сделает. На что я вам могу ответить. Но в таком случае мы превратимся просто в муравьёв. 41:19 Speaker A Мы будем выполнять алгоритм машины, не зная, зачем он нужен и как работает. Стрелка всё ещё зелёная, но что она приоритизирует, мы понятия не имеем. Мы превратили осмысленное действие в полную бессмыслицу. 41:34 Speaker A Наконец, и на этом надо будет остановиться отдельно, машина не может принуждать. Нет никакого робота, который мог бы тыкать на спину штыком для того, чтобы мы использовали машину, для того, чтобы мы подчинялись её алгоритмам. 41:49 Speaker A Поэтому вместо того, чтобы принуждать, машина использует другие средства. Этих средств всего три, на самом деле два. И звучат они так: манипуляция, подталкивание, обман. Почему их два? 42:04 Speaker A Потому что манипуляция и подталкивание - это одно и то же. Просто некоторые говорят, что подталкивание - это манипуляция со знаком плюс, а манипуляция - это манипуляция со знаком минус. И всё, что я имею в виду. Я здесь снова должен обратиться к нашему 42:20 Speaker A всеобщему опыту. У каждого из вас в телефоне есть приложение Озона, а в приложении Озона кнопка Морковск, куда вы заходите каждый день, чтобы бесплатно получать морковки. Вас никто не заставляет, но они ведь бесплатные, правда? А они дают возможность что-то 42:38 Speaker A выиграть. Это подталкивание, но этого мало. Есть и манипуляция. А что ещё в Морковске вам даётся бесплатно раз в день? Бесплатная крутка колеса удачи. И вот уже вся страна садится на казино, на Додеп. Да, пока что на морковках, но у 42:55 Speaker A Домания так и работает. Первая доза бесплатно, а потом посмотрим, в какое казино вы придёте. Помимо манипуляции и подталкивания, там же расположен обман. 43:06 Speaker A Каждые 2-3 дня вы видите победителей Озоновской лотереи. Вы даже можете зайти на их профиль и посмотреть, что они покупали или какие отзывы писали. Но откуда вы знаете, что эти победители не созданы самой машиной? профиль легко подделать. И вот уже Озон раздаёт 43:22 Speaker A десятки миллионов каким-то безликим людям. Раздаёт ли, где эти люди, кто эти люди? А вы верите в это и снова и снова заходите в Морковск, чтобы получить бесплатных морковок и депнуться в казино. На всякий случай напомню вам, что любителем морковки и символом 43:42 Speaker A взаимодействия с морковкой является от не заяц, а совершенно другое животное, перед которым обычно морковку вешают, чтобы оно шло вперёд. С чем же я хотел бы закончить этот раздел? Да очень простым заключением. 43:55 Speaker A Ни манипуляция, ни подталкивание, ни обман не являются ценностно нейтральными. Машина, следовательно, даже в своих операциях, не только в своих целях, не нейтральна. 44:09 Speaker A Всё, что мы должны сделать теперь, когда мы поняли пустоту машины и её особенности, это посмотреть на то, как машина влияет на отдельных людей и группы людей, то есть на отдельного человека и на целое общество. Вследствие самих свойств машин, мы бы могли 44:30 Speaker A сказать, что так как машина может выполнять отдельные задачи, а не работу, она должна выполнять только те задачи, которые изначально не были человеческими, которые изначально подлежали автоматизации или были пусты. 44:45 Speaker A Говоря более простым языком, она должна выполнять обезьянюю работу или мартышкин труд. Любая попытка заставить машину выполнить человеческую задачу приведёт к её обессмысливанию, к опустошению по уже описанной схеме. Ну вот проблема. Как бы мы не хотели ограничить машину только 45:09 Speaker A машинными задачами, машина очень быстро проникает в задачи человеческие. Из этого вытекают три важнейшие вещи. Вещь номер один. Для того, чтобы машина могла выполнять задачи, она должна перераспределять ресурсы, в частности, от человека к самой машине. Вещь номер два. Передавая задачи машине, мы теряем 45:36 Speaker A компетенции. Навыки, которые не используются, забываются. Таким образом, машина забирает у нас часть нашей собственной агентности. И вещь номер три. На самом деле машина забирает не часть нашей агентности, она полностью забирает нашу субъектность. 45:56 Speaker A Что я имею в виду? Почему мы вообще пользуемся машиной вне вопросов о манипуляциях, подталкиваниях и обмане? 46:06 Speaker A Мы пользуемся машиной, потому что считаем, что машина может выполнить некоторые действия за нас лучше нас, но за этим стоит ещё больше. Почему она может выполнить некоторые действия за нас лучше нас? Почему она лучше нас может, скажем, запомнить дорогу к нашему 46:24 Speaker A вому, которую мы почему-то забыли? Всё дело в том, что мы считаем, что машина знает нас лучше нас самих. Когда вы заходите на главную страницу Озона, там почему-то всегда находятся те товары, которые вам нужны. Когда открываете приложение для знакомств, там почему-то 46:43 Speaker A оказываются как раз те люди, которые вам, условно говоря, нравятся. Как это так машина угадывает вас? Откуда она знает об этом? Мы можем зайти даже дальше. При определённом развитии и увеличении мощности машины машина сможет подобрать вам идеального партнёра, с 47:00 Speaker A которым вы никогда в своей жизни даже не будете ругаться и проживёте душа в душу от первого дня встречи до последнего. 47:07 Speaker A Машина, отталкиваясь от больших данных, может подобрать вам карьеру. Вы приходите в МФЦ, сдаёте отпечаток пальца, а клерк за столом говорит вам: "Вам надо поступить вот в такой-то вуз на вот такую-то вот специальность, и у вас не будет больше никаких мук выбора, 47:24 Speaker A зачем поступать в вуз, в который вам никогда не надо было поступать и портить всю свою жизнь". Вместо этого надо было довериться машине, которая знает вас самих лучше, чем вы знаете себя. Здесь, правда, возникает две проблемы. Проблема номер один - это всё та же потеря 47:44 Speaker A ценности. Представьте себе, если бы Лионель Месси получил все свои кубки, ни разу не выйдя на поле. Если бы он был признан величайшим футболистом нашего времени, ни разу выйде не выйдя на поле, просто по факту больших данных. Тебе лучше всего подходит футбол. Из всех, 48:04 Speaker A кому подходит футбол, да, очевидно самый лучший. Машина говорит вот это. Был бы Лионель Месси лучшим в мире футболистом тогда? Был бы ли он вообще футболистом? 48:14 Speaker A Представьте, что машина определила за вас партнёра. Этот партнёр идеален, но вы-то что сделали, чтобы его получить? 48:23 Speaker A Где ценность этого партнёра, если вы не ударили и пальцем на палец для того, чтобы его обнаружить? Это вообще ваша жизнь? Вы её живёте? Если живёте, то как? Иными словами, мы приходим к проблеме: нажми на кнопку, получишь результат. 48:38 Speaker A Это делает саму жизнь бессмысленной, пустой, даже если она идеальна. В третий раз обращаюсь Сутао, он говорит: "Мы видим на примере математики, насколько это глупое занятие заставлять машину решать задачки. Да, машина решила уравнение тысячелетия на въезкса". Вот только она просто сказала ответ. Она не 49:01 Speaker A объяснила, как она туда пришла. И, соответственно, для нас, как для математиков занимающихся фундаментальной математикой, путешествие гораздо важнее, чем результат. Результат - это просто теоретический ответ на теоретическую проблему, а путешествие открывает огромные опции для следующих проблем, для решения этих проблем, для 49:19 Speaker A практического применения. И всё это исчезло, потому что мы спросили машину, в чём смысл жизни, и она ответила 34 или, что ещё хуже, 67. Есть ли смысл в этом смысле жизни нет? Его нет и быть не может. Вторая и гораздо более глубокая 49:38 Speaker A проблема как раз заключается в этой способности машине узнать нас лучше, чем мы знаем себя. В чём причина этого? Кажется, что тут мы сталкиваемся с той же вещью, с которой столкнулись, когда говорили о языке. Нам, как пользователям языка, язык кажется более 49:59 Speaker A свободным, но на самом деле он более детерминирован, и поэтому машина может легко его поймать. Здесь же мы оказались в плену другой иллюзии. Сами себе мы кажемся индивидами. Так получилось исторически. Не спрашивайте меня об этом. Будучи индивидами, мы кажемся себе 50:19 Speaker A всеобъемлющими, загадочными непознаваемыми. В нас всегда есть, что обнаружить, но машина доказывает, что мы не индивиды, что концепция индивида - это ошибка, что на самом деле человек очень легко растаскивается на части. И машина, которая, как мы уже знаем, не способна в 50:41 Speaker A принципе видеть целое, видит именно эти части. Части, которые для нас оказываются закрытой иллюзией нашей индивидуальности. На самом деле нет никакого индивида, нет никакого я. И это очень хорошо стыкуется с тем, что машина блестяще забирает у нас нашу свободу. 51:04 Speaker A Только если индивид существует, существует свобода воли. Только если вы целостны, существует свобода воли, возможность самоуправления. Если вы не целостны, никакой свободы воли нет. Вы себя не контролируете. Потому что вас нет. Нет, я с большой буквы. Это позволяет машине легко контролировать 51:28 Speaker A отдельные ваши части. Это позволяет машине подчинять людей, лишать, в кавычках, лишать их собственной свободной воли. Но только потому, повторюсь, это важно, что никакой свободной воли не было с самого начала. 51:43 Speaker A Вообще сказанное открывает очень много возможностей, когда мы переходим от индивида к обществу. Итак, мы хотим, чтобы машина была эффективна в общественном применении. Для того, чтобы машина была эффективна в общественном применении, ей нужны только две вещи. Мы не берём вычислительной мощности, нас 52:06 Speaker A это не интересует. Это вульгарность. Две вещи: закрытая среда и все данные. Что это подразумевает? Это подразумевает, что выбор в пользу машины - это выбор в пользу единого тотального порядка. Ибо для того, чтобы машина получила все данные, нужен единый 52:26 Speaker A источник данных. Или, говоря проще, государство. Для того, чтобы получить все данные, это государство должно быть единым или всемирным. Работа машины требует закрытой среды. Это значит, что общество, которое это государство контролирует, должно быть тотальным, что машина должна проникнуть в каждую часть 52:48 Speaker A вашей жизни для того, чтобы работать хорошо или эффективно. Мы говорим о мировом тотальном государстве. Понятное дело, это государство не появится сразу. Скорее всего, мы увидим сначала явление маленьких тотальных государств. 53:08 Speaker A Эти государства, впрочем, будут радикально отличаться от тех тотальных государств, которые нам знакомы из истории. До сих пор все тотальные государства, известные нам из истории, работали по принципу принуждения человека, насилия над человеком. Почему? 53:26 Speaker A Потому что они были уверены в том, что человек - это индивид, а потому он свободен. Машина не может никого принуждать. 53:34 Speaker A Машина может только обманывать, манипулировать, подталкивать. И она невероятно успешна в этом. Это предполагает, что новое тотальное государство не будет государством принуждения. Оно будет носить именно добровольный характер. Получая все данные, машина создаёт пространство полного контроля, полной прозрачности человека по отношению к машине, полной 54:02 Speaker A связанности с машиной и вместе с тем полной ей подчинённости. Проще говоря, машина знает, что вам надо раньше, чем вы. Машина является источником того, что вам надо. И получить это вы можете только выполняя предзаданный машиной алгоритм. Здесь мы видим ещё одно свойство этой новой 54:25 Speaker A тотальности. Человеческое поведение одновременно является материалом для машины, частью машины и продуктом машины. Если раньше отдельный человек в тотальном государстве был больше материалом и потому мог попытаться разорвать эту связь, то теперь эта связь гораздо прочнее. Мы ещё поговорим о её прочности чуть-чуть 54:49 Speaker A попозже. А сейчас перейдём к свойствам закрытости. Что означает закрытость среды по отношению к целому обществу? 54:57 Speaker A Закрытость среды, которая, повторюсь, требуется машине для её эффективной работы. Давайте снова найдём несколько интересных фасок. Фазка номер один. 55:07 Speaker A Отсутствие индивидуальной инициативы. Частная инициатива - это непредсказуемые переменные. Это данные, которых нет в системе. Поэтому для того, чтобы система была закрытой, частной инициативы в этой системе быть не может. Второе - это, естественно, отсутствие инноваций. 55:24 Speaker A Машина не способна к инновациям, вы это прекрасно знаете. Машина, которая управляет обществом, раз и навсегда останавливает общество в одном его виде. 55:34 Speaker A Если бы мы скормили машине сегодня все средневековые романы, всю, значит, средневековую схоластику, а потом попросили бы машину управлять нашим обществом, угадайте бы, что она построила. Она физически не может выйти за пределы пула данных. Она не способна провести реформацию. Она не может 55:51 Speaker A совершить революцию. Всё, что она может - это усреднять данные, которые ей даны. Дальше. Закрытость среды требует закрытости человеческого мышления, его отсутствия, уничтожения. Очевидно, человек, являющийся придатком машины, должен выполнять алгоритмы заданные машины, а не думать самостоятельно. 56:13 Speaker A Следующая грань - это, конечно, плановость. Машина может существовать только в рамках плана. И у этой плановости есть два больших измерения: экономическая и политическое. Начнём с экономической. 56:28 Speaker A Машина нуждается в плановой экономике. Плановая экономика позволяет машине перераспределять ресурсы в пользу машины. Плановая экономика в то же самое время требует отказа от частной собственности. Это очевидно. Что прекрасно стыкуется с перераспределением, отказом от частной инициативе и гибели индивида. Давайте посмотрим на три эти 56:52 Speaker A вещи подробнее. примеров перераспределения, которые происходят благодаря машины, бесконечное количество. Я приведу вам один реальный и несколько кипитетических. Реальный пример следующий. Сегодня в Америке нет ни одного Макдональдса, в котором были бы те же самые цены, что в любом другом 57:10 Speaker A Макдональдсе. Все цены внутри Макдональдса контролируются машиной, а не все динамические. В зависимости от времени суток, расположения ресторана, загруженности и времени года. Вы не можете зайти в один ресторан, а потом зайти в другой и обнаружить одну и ту же 57:27 Speaker A цену. Пространство для динамических цен, пространство для прераспределения бесконечно. Представьте себе, что вы приходите в магазин, набираете товары, подходите к кассе, а в кассу вмонтирована камера. Камера считывает ваше лицо, узнаёт, сколько у вас денег на счёте, какая у вас работа, сколько у 57:47 Speaker A вас членов семьи, платите ли вы за ипотеку или владеете квартирой, а, может быть, снимаете её, живёте с родителями или живёте отдельно, а потом, суммируя все эти данные, выставляет вам динамическую цену на товары. 57:58 Speaker A Представьте, что рядом с вами бабушка, набравшая те же самые продукты. Её покупательная способность в 30 раз ниже, чем у вас, и цены на продукты, соответственно, в 30 раз меньше. а вы оплачиваете все её покупки. Таким образом, машина легко с помощью 58:14 Speaker A динамических цен может достичь полного равенства даже при неравенстве зарплат. Что касается отсутствия частной инициативы, то тут примеры ещё более простые. Смотрите, вы хотите поставить цветочный ларёк. Вы подходите к своему чату GPT и спрашиваете его: "Вот я хочу поставить цветочный ларёк. Сделай мне 58:33 Speaker A бизнес-план. Где его ставить? Какие цветы покупать? А у каких поставщиков, в каких количествах, какой трафик будет вокруг того или иного места. А машина отвечает вам: "А тебе не надо ставит цветочный ларёк. Поставь как газетный киос вот здесь с вот этими вот газетами 58:50 Speaker A от вот этих вот поставщиков. Что вы выберете? Думаете, биться головой об стену или принять алгоритм, который вам предлагает всезнающая машина?" Ответ прост. И в этом смысле именно простота. 59:02 Speaker A Машина лишает вас частной инициативы. Откуда вы знаете, что машина дала вам честные данные? Что это не обман, что это не государственный план по заполнению газетных киосков и уничтожению цветочных магазинов? Что касается гибели индивида, то здесь всё просто. Частная собственность - это 59:23 Speaker A индивидуальное право. Нет индивида, нет права. Нет права, нет частной собственности. Мы наблюдаем это повсеместно. Сверху этот процесс выглядит как акционирование всё больших и большего количества компаний. Уже практически никто не является директором того, что он создал. 59:47 Speaker A Директора - это отдельные наёмные рабочие. Компания управляется безлика. Она не управляется владельцем. Ей не нужен владелец. Она может быть просто акционерной. Владельцы могут всё время меняться. Компания никому не принадлежит. Оно просто работает снизу. 60:01 Speaker A Это выглядит гораздо хуже и суммируется фразой, которая хорошо вам известна из английского йдгайста. Она звучит так: You will all nothing and you will be happy. У вас ничего не будет, и вы будете счастливы. Как это работает, вы все с этим прекрасно знакомы. Это 60:20 Speaker A переход на подписку. Те, кто помоложе и покруче, тот прекрасно знает, что ни одной икрой, которую он купил у себя в стиме, он не владеет, что это не право собственности, а только лицензия. И что правообладатель может забрать эту лицензию в любой момент, изменить игру в 60:41 Speaker A любой момент, изменить лицензионное соглашение в любой момент и в одностороннем порядке. И вы ничего не сможете сделать. Мы можем вполне себе представить, как это лицензирование или подписочность легко проникнет из повседневной геймерской жизни в гораздо более осязаемые области человеческого 61:02 Speaker A существования. В результате развития логики машины, завершения этой логики в общественном пространстве, мы получаем закрытое общество полной прозрачности, где каждый аспект жизни каждого отдельного человека явлен машине, подчинён машине и соединён со всеми остальными через машину. Что это значит? 61:28 Speaker A Это значит, что попытка приватизировать любой аспект вашей жизни делается невозможным. Превращается в акт самоубийства. Пример здесь это вот эта штука. Без неё у вас не может быть электронной почты, не может быть банковского счёта, а без неё нет верификации личности. А в ней, как вы 61:49 Speaker A понимаете, камера, в которую вы смотрите чаще, чем в глаза своего любимого, и микрофон, который слушает вас и находится к вам ближе, чем уши ваших самых доверенных собеседников. 62:01 Speaker A И от этого никуда не убежать, с этим ничего не сделать. Здесь открываются самые огромные возможности планирования в рамках уже не экономики, но политики, в рамках того, что сегодня называется социальная инженерия. 62:17 Speaker A Благодаря алгоритмам и планированию, благодаря алгоритмизации и геймификации жизни, мы можем представить себе самые невероятные сценарии от социального рейтинга до совершенно добровольной и даже радостно принимаемой эвтаназии. От превращения некоторых аспектов жизни в чистую игру, да, например, работы в чистую игру до полного контроля над 62:46 Speaker A рождаемостью. кто, когда, как и каких детей будет производить. Здесь можно было бы возразить и сказать, что вообще-то социальные рейтинг, например, - это ужасная штука, потому что она нарушает права человека. 62:59 Speaker A Машина на основе вашего поведения решает, насколько вы хороши или полезны для общества, и, соответственно, запрещает вам что-то, например, иметь собственность или детей и разрешает вам что-то. На что я бы смело мог ответить, что права человека принадлежат индивиду. 63:15 Speaker A Нет индивида, нет и никаких прав. Подытоживая, надо чётко понимать и видеть простую альтернативу. Речь не идёт о лудизме или алармизме. 63:30 Speaker A Речь не идёт о том, что мы должны отказаться от машины или каким-то образом изменить её логику. Это невозможно. Это оптимизм или, говоря проще прусость. 63:43 Speaker A Мужество выглядит иначе. Мы должны признать, что мы не можем отказаться от машины и что мы не можем изменить её логику. Только признание этого позволяет нам увидеть нашу подлинную альтернативу. 64:00 Speaker A полное подчинение машине, наше обмашинивание, превращение в муравья ради ничего или беспрецедентное расслоение за предельный рост власти одних и за предельный рост бессилия всех остальных. 64:20 Speaker A Говоря проще, наша опция всё та же. гибель человека или его солидизация, его гуманизация, его возвышение или то, что я назвал титанизмом. Демаркация машинности есть демаркация человечности. 64:39 Speaker A Как только мы понимаем, где и что может быть отдано машине без ущерба, мы понимаем, где и что не должно быть отдано машине, так как она причинит ущерб. Здесь надо понимать, что свобода и власть - это одно и то же. 64:56 Speaker A Освобождение от машины означает подчинение машины и вместе с тем подчинение всех тех, кто подчинён машине. Подчинить машину значит ответить на вопросы зачем, но не зачем и и, а зачем власть? Подчинение машины означает демашинизацию самого человека, его очеловечивание, его становление самим 65:26 Speaker A собой, которое теперь, как вы прекрасно понимаете, не может быть отделено от роста власти и от свободы, которая, в свою очередь, не может быть от власти отделена, не может быть отделена от господства, если хотите. Центральным процессом освобождения должно стать 65:46 Speaker A диалектическое противостояние машине. Машина есть результат индустрии. Индустрия есть результат разделения труда. Машина доводит разделение труда до предела, когда она начинает разделять работу на отдельные задачи. 66:01 Speaker A Противостояние машине означает объединение труда. Его дразделение. Машина - это результат индустрии. И как и любой другой результат индустрии, она может только копировать, штамповать, реплицировать, повторять. Что противостоит реплицированию и повторению? Артизанства. 66:24 Speaker A Уникальность каждого отдельного усилия, неповторимость работы и неповторимость достижений. Наконец, машина не способна ничего создать. Она не способна к новизне, к инновациям, к созиданию с большой буквы. Это предполагает, что противостояние машине как раз и будет заключаться в созидании с большой буквы. 66:47 Speaker A В первую очередь, конечно же, в созидании ценностей. Результатом освобождения человека станет придание машине смысла и потому снятие её проблемности. Ответ на вызов машины не просто делает человека самим собой. Он подчиняет машину для дела человека и таким образом возвышает его. 67:14 Speaker A Здесь вы могли бы мне сказать, что ответ на вызов и - это невероятно трудная вещь, на что я должен был вам ответить бы, что только трудные вещи хороши. y Topics: искусственный интеллект философия техники вызов техники политическая философия история науки титанизм Освальд Шпенглер техника и власть утилитаризм маркетинг ИИ Учить по этому видео - [Карточки по этому видео](https://sozai.app/ru/tools/ai-flashcard-generator/?from=transcript&id=80795) - [Тест по этому видео](https://sozai.app/ru/tools/quiz-generator/?from=transcript&id=80795) Бесплатно, составлено ИИ по этой расшифровке. Без регистрации. --- This is the markdown twin of https://sozai.app/transcript/challenge-ai-titansim/ — the same content, without the markup. Published by SozAI (https://sozai.app). Reuse and quotation are allowed with attribution and a link back. Machine-readable index: https://sozai.app/llms.txt · data API: https://sozai.app/api/