**Илон Маск: деньги и работа потеряют смысл — интервью Уолтеру Айзексону на русском (дубляж) — Transcript & Summary | SozAI** Source: https://sozai.app/transcript/elon-musk-money-work-meaning-isaacson-interview/ Илон Маск в интервью Уолтеру Айзексону о рисках ИИ, симуляции, Open AI и Anthropic, будущем без денег и работы, и перестройке xAI. ## Key Takeaways - Маск видит ИИ как неизбежный фактор, на который лучше влиять изнутри, чем оставаться наблюдателем - Безопасность ИИ, по его мнению, связана с правдивостью и любопытством модели, а не с жёсткими запретами - Регулирование со стороны государства слишком медленное, поэтому он предлагает добровольную координацию разработчиков - Будущее, по версии Маска, определят ИИ, роботы и освоение космоса ## What the video covers - Маск признаёт смешанное отношение к ИИ: риск вреда есть, но попытки влиять на него, по его мнению, ускоряют прогресс - Он считает, что ИИ нужно учить стремлению к истине и любопытству, а противоречивые установки могут 'свести ИИ с ума' - Маск рассуждает о том, что любопытный ИИ будет беречь человечество, ради интересного исхода - Обсуждается теория симуляции: по его мнению, скучные симуляции прекращаются, поэтому важно не быть скучным - Маск критикует ироничные названия компаний ИИ (Open AI, Entropica, Stability, Midjourney) и сравнивает их с противоположными смыслами - Предлагается практика еженедельных созвонов ведущих разработчиков ИИ и доступа конкурентов к новым моделям до выпуска для взаимного контроля рисков - Интервью затрагивает будущее без денег и работы, роботов и ракеты, а также перестройку xAI с нуля - Маск высказывается о политике, поляризации и роли социальных сетей, создающих информационные пузыри ## Chapters 1. 00:00 Смешанные чувства к ИИ и риски 2. 01:47 Истина, любопытство и безопасность ИИ 3. 04:48 Теория симуляции и скука 4. 07:08 Контроль над сверхинтеллектом и Open AI с Anthropic 5. 11:59 Регулирование и координация разработчиков 6. 17:53 Перестройка xAI и названия компаний 7. 28:20 Будущее без денег и работы 8. 36:40 Политика, поляризация и соцсети Answers ## Questions about this video Почему Маск считает, что ИИ нужно учить любопытству? Маск полагает, что любопытный ИИ будет заинтересован в процветании человечества и захочет его беречь, поскольку интересный исход вероятнее скучного. Он связывает это с безопасностью системы. Что Маск думает о теории симуляции? Маск считает, что если теория верна, то скучные симуляции прекращаются, поэтому важно быть интересным. Он оценивает вероятность того, что мы живём в симуляции, примерно в 50%. Какое предложение Маск делает по регулированию ИИ? Он предлагает, чтобы ведущие разработчики созванивались раз в неделю и за неделю до выпуска модели давали доступ конкурентам для поиска проблем. Это, по его мнению, быстрее, чем создание регулятора. ## Full Transcript — Download SRT & Markdown 00:00 Speaker A У меня к ИИ довольно смешанные чувства. Я не хочу приближать нашу гибель, ведь всегда есть шанс, что ИИ принесёт вред. Но когда я пытался на это повлиять, всё лишь ускоряло прогресс ИИ, потому что реальность стремится к самому интересному и к самому ироничному. 00:19 Speaker A Основав Open AI, вы довели иронию до предела, породив Anthropic. Open AI в итоге ускорила прогресс ИИ, а потом Anthropic, понимаете, по сути отколовшаяся от неё группа, ускоряет его ещё сильнее. 00:39 Speaker A Меня зовут Уолтер Айзексон, и это программа «Созидатели». Это цикл бесед с самыми влиятельными умами, которые формируют наше будущее. 00:49 Speaker A И начать этот цикл я хочу с Илона Маска. После моей книги Илон прожил несколько жизней. Ушёл во власть в Додж. Он стал триллионером, когда SpaceX вышла на биржу. Купил Cursor, компанию, которая превращает одного программиста в целую инженерную команду. 01:09 Speaker A А ещё он меняет свою стратегию в солнечной энергетике, от панелей на земле к сбору энергии системами в космосе. 01:17 Speaker A Он неутомимый созидатель, у него невероятная власть, а его изобретениям и компаниям суждено изменить всё человечество. 01:26 Speaker A Так, давайте спросим его о будущем, которое, как он считает, он строит. Илон Маск. Добрый день. 01:35 Speaker A Добро пожаловать. 01:47 Speaker A Спасибо. Я наблюдал за вами и видел, как переменчиво вы относитесь к искусственному интеллекту, то с оптимизмом, то с тревогой. 01:55 Speaker A Иногда вы видите в нём угрозу для человечества. Так? А теперь словно плывёте по течению. Что вы чувствуете? 02:05 Speaker A Думаю, есть определённый шанс, что он станет угрозой человечеству. Так вот, но я ничего не могу сделать, чтобы это остановить. 02:13 Speaker A В общем, я пришёл к выводу, что у меня по сути всего два варианта: либо быть участником, либо зрителем. 02:20 Speaker A Участником быть интереснее, чем зрителем. И, может, я смогу направить его в хорошую сторону, надеюсь. 02:30 Speaker A А как именно? Научить его стремиться к истине? 02:51 Speaker A Да, думаю, это безусловно важная основа. И любопытным. 03:06 Speaker A Да, любопытным, ищущим истину. Думаю, это важное условие безопасности. А вот если вы попытаетесь заставить ИИ поверить в две вещи, которые никак не могут быть правдой одновременно, ну просто не могут, и при этом говорите ему, что верно и одно, и другое, хотя они противоречат друг другу. И если это заложено в основе, ИИ можно свести с ума. Отчасти именно это Артур Кларк и хотел сказать в «Космической одиссее 2001 года». 03:14 Speaker A Бортовому компьютеру приказали доставить астронавтов к монолиту, но так, чтобы они о нём не знали. 03:31 Speaker A Это была тайна. И он решил, что должен доставить их туда мёртвыми. По сути, мне кажется, часть того, что Артур Кларк пытался донести, звучит так: не заставляйте искусственный интеллект лгать. 03:40 Speaker A Вы говорите, что его надо сделать любопытным и ищущим истину, но я не совсем понимаю, почему так безопаснее? 03:50 Speaker A Если заставить ИИ верить в две взаимоисключающие вещи, можно свести его с ума. А безумный ИИ, мне кажется, никак не безопасен. 04:09 Speaker A А любопытство важно, потому что любопытный ИИ, я думаю, захочет растить человечество, чтобы посмотреть, что из нас выйдет. То есть ему будет интересно, что станет с человечеством, которое, скажем, процветает и становится многопланетным видом. 04:19 Speaker A Любопытный ИИ захочет беречь людей. Ведь будущее, где люди живут на многих планетах, гораздо интереснее, чем то, где на планетах вообще нет людей. 04:33 Speaker A То есть интересный исход вероятнее? 04:42 Speaker A Да, верно. Вообще думаю, да, но по другой причине. Если теория симуляции верна, то любые скучные симуляции просто прекращают. 04:48 Speaker A А теория верна? 05:04 Speaker A Уже то, что мы есть, значит, что мы интересная симуляция. А самое главное, просто не быть скучным. 05:13 Speaker A Это многое о вас объясняет, вы воюете со скукой. Я слышал, вы об этом говорили. 05:26 Speaker A Но мне правда важно знать, насколько вы уверены, что мы живём в симуляции. Однажды у меня дома ужинали физик и специалист по информатике, и оба были лидерами в своей области. 05:38 Speaker A И я спросил, какова вероятность, что мы в симуляции. И физик сказал 0%, а информатик 100, причём одновременно. 05:46 Speaker A Так что я, пожалуй, остановлюсь на 50%. Не знаю. Понимаете, в этой симуляции случаются очень странные вещи, особенно если ты это я, да и вы. Только подумайте. 05:56 Speaker A Будь вы мной, вы бы спросили: «Неужели всё это происходит наяву? Неужели я правда строю корабли для полётов на Луну и Марс? Да что за?.. Это же просто нереально». 06:07 Speaker A А что произойдёт, когда у общества появится столько интеллекта, сколько оно только может себе пожелать? 06:20 Speaker A Будет ли этот разум, искусственный интеллект, у руля? Не станем ли мы отчасти подчиняться своим новым машинам? 06:28 Speaker A Не знаю, можно ли назвать это именно подчинением, но сможем ли мы командовать чем-то, что, понимаете, в тысячи, а то и в миллионы раз умнее нас? 06:35 Speaker A Конечно нет. Захочет ли он нами командовать? Не знаю, может, ему всё равно. Возьмём шимпанзе в джунглях. Мы ведь не пытаемся контролировать каждый их шаг. 06:46 Speaker A Сейчас мы, в общем, просто не трогаем их в лесу. Так что, я бы, наверное, не возражал. 06:56 Speaker A А в какой мере у сверхразума со временем появится собственная воля? Или она у него уже есть? 07:07 Speaker A «Автостопом по галактике». Там есть компьютер, который в некотором роде предельно любопытен, ведь он существует, чтобы объяснить смысл вселенной. 07:20 Speaker A Зачем она существует? И для вас и ей такой же путь к ответу, как и полёты в космос. Поэтому вас так увлекает искусственный интеллект. 07:28 Speaker A Как вы знаете, у меня к ИИ довольно смешанные чувства. Понимаете, я не хочу приближать нашу гибель, ведь всегда есть шанс, что ИИ принесёт вред. 07:39 Speaker A Но когда я пытался на это повлиять, мои действия, похоже, лишь ускоряли прогресс ИИ, потому что мне кажется, реальность стремится к самому интересному и к самому ироничному. 07:48 Speaker A И, основав Open AI, вы довели иронию до предела, породив Anthropic. В итоге это ускорило ИИ, думаю. 08:01 Speaker A Побочный эффект. Точно. Open AI в итоге ускорила прогресс ИИ, а потом Anthropic, понимаете, по сути отколовшаяся от неё группа, ускоряет его ещё сильнее. 08:13 Speaker A И вы ведь общались с Дарио Амодеи. Мне вот любопытно, не перерастёт ли это даже в партнёрство XAI Entropica? 08:21 Speaker A Мы даём им вычислительные мощности, они им очень нужны. Но прежде я лично встретился с кучей людей из Entropica, чтобы понять, не сработает ли на кого-то мой детектор зла. 08:39 Speaker A Мой детектор зла, конечно, далеко не идеален, но попробовать всё же стоит. Все, кого я там встретил, очень приятные и добросовестные. 08:57 Speaker A Так что я не встретил там ни одного человека, который казался бы мутным, лживым или вроде того. 09:07 Speaker A Меня немного беспокоит их название, ведь реальность, как я уже говорил, стремится к самому ироничному, и если назвать что-то Entropica, велик шанс, что оно окажется мизантропом, так же, как Open AI вовсе не открытая. 09:17 Speaker A Stability на деле нестабильна. Midjourney совсем не середнячок. Похоже, все они противоположность своим названиям. А вот для XAI трудно придумать противоположность. И что получится — XAI или YAI? 09:33 Speaker A Или ещё что-нибудь, не знаю. Ввести ограничения очень непросто, особенно государству. Не представляю, как это сделает конгресс. 09:51 Speaker A Представляете, если бы пять создателей передовых моделей, вы и другие, раз в неделю собирались и обсуждали, как спасти человечество от самого себя? 10:09 Speaker A Я как раз предлагал именно это, ведь сейчас много говорят о создании регулятора. Но проблема в том, что создание такого органа занимает много времени, а правила он пишет годами. 10:16 Speaker A И я сказал: «Ребята, а давайте просто созваниваться раз в неделю, как вы и говорите, и, может быть, за неделю до выпуска модели давать доступ к ней конкурентам, мол, ребята, попробуйте новинку. Видите ли вы в ней проблемы?» 10:26 Speaker A Так конкуренты не дадут друг другу хитрить. Например, они говорят: «Слушайте, я смог сделать ядерную бомбу с помощью вашего ИИ». А мы в ответ: «Ой, лучше исправим это до выпуска». Так что, в общем, я не знаю, мне кажется, пожалуй, я поговорю об этом с людьми из Anthropic. И с Сэмом сможете? Или там уже слишком много яда? 10:33 Speaker A Он настолько лживый, что это просто какое-то безумие. Вы создали X.AI, а недавно перестроили её с самого основания, так ведь? 10:45 Speaker A Почти как с двигателем Raptor для Starship. Вы тогда сказали: «Погодите, давайте начнём с нуля». 11:03 Speaker A Что вы сделали, чтобы вот так перестроить X.AI с нуля? 11:15 Speaker A Во-первых, очень многое меняет то, что ты действительно проводишь в компании много времени. 11:24 Speaker A Сначала это был 11:32 Speaker A Оглядываясь назад, не считаете ли вы, что это слишком отвлекало и было ошибкой? Мне кажется, я слишком это затянул. Многие со мной не согласятся, но я считаю, что было важно избрать президента Трампа, чтобы направить страну больше в сторону свободной рыночной экономики 11:56 Speaker A и, желательно, сократить бюрократию. Если говорить о моей простой политической программе, а это безопасные города и надёжные границы, и, в идеале, разумные расходы, то есть самые базовые вещи, мне тогда казалось, что Трамп справится лучше, чем ну, Камала. 12:18 Speaker A Так что, но потом, что мне, как я теперь думаю, действительно стоило сделать, так это держаться больше в тени. 12:27 Speaker A Было интересно разъезжать с президентом Трампом, летать на его вертолёте и на борту номер один, и всё такое. 12:35 Speaker A Не слишком ли это соблазняло? Немного, да, это было круто. Я ведь просто сижу в Овальном кабинете, пока принимаются судьбоносные решения. 12:46 Speaker A А иногда я даже как-то влиял на то, что делается. Но думаю, мне стоило, пожалуй, как я уже говорил, держаться больше на заднем плане. 12:59 Speaker A И, скорее всего, ограничить всё это, скажем, месяцем или двумя. Ведь к тому времени ты по сути уже видел почти всё, что можно. 13:11 Speaker A За месяц-два. Да, похоже. Вас это слишком опьянило, все эти бензопилы и прочее. Это не Да, пожалуй, это правда, я просто слишком увлёкся. Да, так что в итоге я ушёл, кажется, где-то в мае. 13:29 Speaker A [смех] Это были очень странные выходные. Да, это точно. Расскажите о них. Нет, нет, я тогда просто Давайте не будем ворошить. Не буди лихо, пока оно тихо. 13:41 Speaker A Или как там говорится, понимаете? Не будем копать на заднем дворе, так сказать. Никогда не знаешь, что найдёшь. В общем, мне стоило раньше вернуться и заняться искусственным интеллектом. 13:56 Speaker A Когда он вручил вам золотой ключ, вы почувствовали что-то вроде облегчения? Мол, всё это и правда опьяняло. Но я способен на большее. 14:06 Speaker A Если вернусь к своим компаниям, что вы почувствовали, решив уйти? Может, это не худший вариант. 14:14 Speaker A Ну, на самом деле я понял, что мы никак не сможем справиться с дефицитом бюджета, действуя изнутри правительства. 14:22 Speaker A Невозможно. Может быть, если бы президент сделал это своей главной целью, у нас бы получилось. 14:30 Speaker A Но проблема в том, что когда пытаешься сократить дефицит и остановить бессмысленные траты, то наживаешь себе очень много врагов. 14:40 Speaker A А президент Трамп, он любит нравиться. Ему неприятно, когда люди звонят и возмущаются, что ему резали финансирование. 14:55 Speaker A [смех] Так вот, но в итоге я пришёл к выводу, что единственный способ решить проблему государственного долга это искусственный интеллект и роботы. 15:09 Speaker A В экономии долг не погасить, желания нет. И не только у президента. Желания нет ни у президента, ни в палате представителей, ни в сенате, ни в судах. 15:20 Speaker A По сути, вообще никто из тех, кто у власти, ну, разве что за редкими исключениями, вроде Рэнда Пола и ему подобных, на самом деле не хочет остановить, сократить расходы. Нет, не хотят, и в итоге у нас колоссальный долг. 15:37 Speaker A Проценты по долгу уже превышают наши расходы на армию. А это просто поразительная сумма, которую приходится платить. 15:45 Speaker A Если взглянуть на нынешние ИИ-языковые модели, они уже творят настоящие чудеса. Но мне кажется, в будущем искусственный интеллект в физическом мире будет [откашливается] на порядок, а то и на два важнее. 15:59 Speaker A Да, полностью согласен. Знаете, я иногда думаю о дельфинах и китах, ведь они не могут обращаться с предметами, у них нет ни рук, ни пальцев, ничего такого. 16:11 Speaker A Поэтому существует предел тому, насколько далеко, насколько интеллекта они вообще могут пустить в ход. Так вот, понимаете, дельфины и киты, они ведь на самом деле очень умные существа. 16:25 Speaker A Но поскольку они не способны обращаться со сложными предметами, мне кажется, что именно это и сделало их интеллект гораздо менее ценным. 16:36 Speaker A Как вы и сказали, как только у вас появляется робот, который может манипулировать атомами, придавать форму предметам, ценность интеллекта растёт экспоненциально, ведь он может действовать. 16:51 Speaker A Можно завести научную лабораторию, ставить эксперименты и пытаться понять природу Вселенной. И думаю, на это можно взглянуть и с точки зрения экономики. 17:02 Speaker A По моей оценке, цифровой сверхразум вероятно, увеличит выпуск товаров и услуг на 20-30% Скажем, экономика Земли вырастет процентов на 30. Так что это всё же существенно. 17:19 Speaker A 30 триллионов в год. Это не так уж много, не революция. Всего станет гораздо больше, 30% немало. 17:30 Speaker A И это лишь, знаете, моя грубая прикидка. Но если есть роботы, если вы выходите в космос и строите электромагнитную катапульту на Луне, тогда, думаю, экономика может стать в миллион раз больше земной. 17:46 Speaker A И что тогда будет с Землёй, когда, ну, деньги теряют смысл, работа тоже? Каким вы видите будущее? 17:54 Speaker A Да, деньги не важны, но какая-то валюта всё равно останется. Но мне кажется, её будут измерять в фундаментальных физических единицах, таких как, скажем, мощность, ватты и тонны. 18:08 Speaker A Масса и энергия. Ну, то есть, по сути, вес и мощность. А привычные деньги в будущем потеряют смысл. 18:20 Speaker A Так что это моё предположение. Думаю очевидно. И как только экономика становится намного порядков больше земной, удовлетворить любые потребности людей, какие вообще можно вообразить, очень легко. Если экономика на несколько порядков больше земной, то обеспечить людей любыми товарами и услугами, о каких они только могут 18:46 Speaker A мечтать, это элементарная задача. И что же тогда остаётся делать нам, людям? Где искать смысл, как устроить общество? 18:58 Speaker A Я и сам над этим бьюсь. Мне кажется, люди сумеют найти способы быть счастливыми, как, скажем, пенсионеры, вроде бы вполне довольные жизнью, хотя и не работают. 19:11 Speaker A Но думаю, реальность такова, что люди не не останется ничего, с чем человек справится лучше искусственного интеллекта и роботов. 19:22 Speaker A Одна из возможных аналогий это садоводство, ведь сегодня вовсе не обязательно самому выращивать свои фрукты и овощи, можно купить в магазине. 19:32 Speaker A Но иногда людям нравится самим выращивать овощи и фрукты и готовить ужин для друзей, это приятно. 19:38 Speaker A А как насчёт искусства вообще, это творчество? Это скорее удел человека. Да, конечно, можно заняться искусством или чем душе угодно. 19:49 Speaker A Мы любим думать, что это эпоха небывалых технологических перемен, но мы, историки, вспоминаем конец XIX века с его электричеством, телефонами, машинами метро радио и кинематографом, и всё это происходило одновременно. 20:06 Speaker A Это ведёт ко многому, но часто к огромному эмоциональному неравенству, к ощущению засилья алчных магнатов, и люди берутся за вилы, решив, что так нельзя. 20:18 Speaker A И сегодня слышны отголоски этого. Можно ли это предотвратить, учитывая, сколько богатства сейчас создаётся? Сделаем ли мы что-то общим достоянием, как тогда, когда старшая школа стала всеобщей и бесплатной? 20:34 Speaker A Скажем ли мы, что, например, здравоохранение должно стать общим достоянием? И это отчасти ослабит популистское возмущение происходящим. 20:49 Speaker A Как я уже говорил, деньги в будущем потеряют значение. Каждый получит любые блага, и даже так называемые богачи не будут управлять искусственным интеллектом. 21:02 Speaker A Хозяином будет он сам. Так что это не значит, что нужно разделять, То есть, понимаете? 21:09 Speaker A Думаю, фундаментальное непонимание экономики возникает из-за того, что люди путают распределение ресурсов и потребление. Есть предел тому, сколько может потребить человек, и насыщение наступает довольно быстро. 21:25 Speaker A Скажем, рост состояния от миллиарда долларов до десяти не сделает вас в 10 раз счастливее и не даст в 10 раз больше вещей. 21:35 Speaker A Это лишь задача распределения ресурсов. Если, конечно, вы хотите распределять их эффективно. Вы накопили, как известно, триллион. И это в основном потому, что вы Я его создал. 21:48 Speaker A Верно. Это в основном потому, что вы считаете себя лучшим распределителем средств и, сохраняя их, можете вкладывать капитал в полёты на Марс и роботов. 22:00 Speaker A Или это в каком-то смысле просто счёт в игре, где вы набираете очки? Видите ли, мне нужна достаточная доля голосов в моих компаниях, чтобы и дальше ими управлять. 22:13 Speaker A Так вот, если разобраться, моё так называемое богатство, по сути, всего лишь 8% акций SpaceX и Tesla. 22:24 Speaker A И всё это обложат очень большими налогами, а волшебного способа их избежать нет. Будь он, я бы знал. 22:33 Speaker A Так что, в конечном счёте, если смотреть далеко вперёд, всё это постепенно растает, и через несколько поколений, если деньги ещё будут что-то значить, в чём я сомневаюсь, то у моих потомков останется крошечная доля того, что есть у меня. 22:53 Speaker A Вернусь к вашим словам о президенте Трампе, которые меня поразили. Он очень любит нравиться, хочет, чтобы его любили. 23:01 Speaker A И я помню, как вы однажды говорили мне о том, что люди утверждают, что у них есть эмпатия, но в каком-то смысле это тщеславие, потому что человек хочет нравиться. 23:14 Speaker A И вы даже у меня это нашли. Вы сказали, что я, видимо, неважно управлял CNN и журналом Time, ведь хотел нравиться. 23:24 Speaker A В какой степени желание нравиться становится проблемой для созидателя, для того, кто строит компанию? Ну, проблема в том, что если вы готовы идти на шаги, которые снижают вероятность успеха компании ради того, чтобы нравиться людям, то, знаете, всё пойдёт далеко не так хорошо, как могло 23:47 Speaker A бы. Не то, чтобы я не хотел нравиться, я был бы этому очень рад. Но стану ли я принимать решения, которые идут вразрез с интересами компании, лишь бы нравиться чуть больше? 24:03 Speaker A Нет, не стану. Так что, знаете, я вполне спокойно отношусь к тому, что не нравлюсь некоторым людям. 24:11 Speaker A Очевидно, что тех, кто меня любит, гораздо больше, чем тех, кто нет, иначе у меня не было бы четверти миллиарда подписчиков. 24:20 Speaker A Вряд ли они подписаны, чтобы ненавидеть мои слова. И вот если я посмотрю, скажем, на комментарии и всё такое прочее, то не знаю, может, трое из четырёх. В общем, я бы сказал, что 70-80% людей меня любят. 24:39 Speaker A Ну, если они хоть что-нибудь обо мне знают. Наверное, где-то четверть людей меня не любят, хотя я здесь, конечно, просто гадаю. 24:50 Speaker A И тут будет целый спектр. Есть люди, фанатично мне преданные, и люди, которые меня на дух не переносят. 24:57 Speaker A Ну, в общем, в каждую из этих категорий всегда попадёт какое-то число людей. Вы много говорите об идее суицидальной эмпатии. Вы правда считаете, что эмпатия стала серьёзной проблемой или что у нас её слишком много? 25:14 Speaker A Я мог бы наоборот утверждать, что порой мы теряем эмпатию. Нет, ошибочная эмпатия ни к чему, тут я согласен с философией, которую излагает Гад Саад. 25:26 Speaker A А суицидальная эмпатия - это, собственно, его термин. Он написал на эту тему книгу. И мне кажется, книга хорошо написана. В ней верно подмечено, что одна из причин процветания Запада в том, что это общество довольно высокого доверия и эмпатии. 25:47 Speaker A И когда вы пытаетесь добиться, чтобы люди сотрудничали в больших масштабах, всё это очень разумно. 25:55 Speaker A В идеале людям следует по умолчанию доверять, а не подозревать их. И нужно поощрять поведение, которое идёт на пользе обществу, или, скажем так, чтобы люди совершали добрые дела, полезные для своих ближних. 26:12 Speaker A И в итоге это действительно выгодно и отдельному человеку при условии, что это взаимно. Но всё это может пойти на перекосяк в одном случае, если ваша модель чужого сознания ошибочна. 26:27 Speaker A То есть, если вы думаете, что все такие же, как вы, то у вас возникнут проблемы, потому что это попросту не так. 26:38 Speaker A Есть культуры с иными взглядами. Скажем, Кстати, когда вы говорите об иммиграции, культурах с иными взглядами, проводите ли вы различие между культурами например мусульманской которая может хуже вписаться, или как вы это определяете? 26:56 Speaker A Ну, то, что я говорю, мне кажется, просто логически последовательно, а именно, если существует культура со взглядами диаметрально противоположными нашим, возьмите, к примеру ислам. 27:11 Speaker A Нет, конечно же, среди мусульман очень много людей, которые вполне разумны. Но есть и те, кто не разумен. 27:20 Speaker A И если вы специально не отсеиваете джихадистов, то, понимаете, к вам попадут и джихадисты, и они будут вести джихад и убивать людей. 27:30 Speaker A А в Израиле это хорошо понимают. Очевидно, что этот урок раз за разом подкреплялся многочисленными нападениями на страну. 27:41 Speaker A Соседние страны неоднократно пытались уничтожить Израиль, не один раз, а несколько, много раз. И поэтому, знаете, в Израиле отдают себе отчёт, что если впустить в страну людей, которые хотят убить израильтян, они это сделают. 28:00 Speaker A Так что они тут вполне прагматичны и стараются этого не допустить. Но ведь одна из основ нашей страны - это личность, а не групповая идентичность. 28:12 Speaker A Вас не беспокоит, что порой огульным обобщением вы создаёте групповую идентичность, вместо того, чтобы следовать основополагающей этике Соединённых Штатов, где каждого оценивают отдельно? 28:27 Speaker A Да, но этот принцип нельзя смешивать, как бы это сказать, с так называемым заблуждением чистого листа, будто все люди совершенно одинаковы по своей сути, а это не так. 28:41 Speaker A Это просто очевидная неправда, ведь нельзя влезть в голову серийного убийцы, если вы сами не серийный убийца. 28:49 Speaker A Если вам не нравится убивать людей, вам не понять, зачем кому-то это нужно. И вот если человек допустим, религиозный экстремист, который видит врага в каждом, кто не исповедует его религию, или, скажем, убеждён, что все иноверцы должны умереть, то вам 29:12 Speaker A трудно понять такой образ мыслей, потому что у вас самих его нет. Но вы, конечно, видите, что такие люди существуют. И если впустить их в страну, они будут убивать людей. 29:25 Speaker A Приведу пример. Их много. У нас был человек, который работал на заводе Теслы в Остине до декабря прошлого года. 29:36 Speaker A Так вот, его уволили, потому что он напал на женщину, которая наступила на его молитвенный коврик прямо на заводе. 29:44 Speaker A [откашливается] То есть, она не ожидала, что кто-то будет молиться в цехе, а он там молился. 29:51 Speaker A Она случайно наступила на коврик, а он напал на неё, и очень жестоко. За это его и уволили, а через несколько месяцев он пошёл и убил трёх студентов в баре в центре Остина. 30:08 Speaker A Думаю, таких в страну пускать нельзя. Откуда вы берёте информацию? Я знаю, вы не особенно жалуете традиционные СМИ, крупные издания. 30:19 Speaker A В основном из социальных сетей или у вас есть свои источники? Да, я смотрю Google новости, это такая сводка заголовков. 30:31 Speaker A Ещё смотрю соцсеть X, ведь если что-то действительно важно, это обязательно там всплывёт. Общаюсь с друзьями, многое узнаю от них и сам докапываюсь до сути. 30:43 Speaker A Вот так я и слежу. Спрашиваю, потому что и сам читаю новости в соцсетях, особенно в Иксе, а там всё порой мрачнее, как в антиутопии. 30:53 Speaker A Помню такое и по старым временам, когда СМИ бывало твердили, что всё катится в тартарары, всюду беспорядки. 31:01 Speaker A А сам гуляешь и думаешь: "Погодите, не так уж всё плохо". Вы согласны? [смех] Да, да, да, именно, совершенно верно. 31:11 Speaker A Всё дело в том, что попадает в кадр. И да, мне кажется, лента в Иксе порой мрачновата. 31:18 Speaker A И тогда приходится переключаться на что-то узкопрофильное, скажем, ленту про ИИ, чтобы толком понять, что там происходит. 31:27 Speaker A Да, в Иксе слишком много политических провокаций, если вы об этом. Да, о мрачности в целом и провокациях. 31:35 Speaker A А ещё знаю, у вас был спор или дискуссия кажется с катится ли Англия в тартарары. 31:43 Speaker A И мрачность действительно ощущается. Я это тоже чувствую, если засиживаюсь в соцсетях. Кажется, что мир и правда рушится, а потом выхожу на улицу, гуляю и жизнь вполне нормальная. 31:58 Speaker A Потрогай траву. Да, именно. Хоть иногда. Ну да, верно, но мне кажется, оба впечатления могут обманывать. Вот гуляешь по хорошему району, и всё вроде бы в порядке. 32:13 Speaker A Хотя в это же время где-то могут твориться ужасные вещи, так что вовсе не стоит думать, что весь мир катится в тартарары или наоборот, что везде и всюду полный порядок. 32:27 Speaker A Истина где-то посередине. Мне кажется, общество порой слишком бинарно. Всё либо чёрное, либо белое, отсюда и поляризация. 32:36 Speaker A Не знаю, виноваты ли технологии или наши информационные ленты. Вы правы, можно оказаться в своём пузыре, гулять только по благополучным кварталам, где всё вроде бы нормально. 32:49 Speaker A Но и в соцсетях бывает свой пузырь, и вдруг ловишь себя на странных мыслях. Можно жить в пузыре позитива в реальном мире, где всё вокруг хорошо, или же оказаться наоборот в пузыре негатива соцсетей. 33:06 Speaker A Возможно, и то, и другое. Скажите, вы уже упоминали своё богатство и то, что сейчас пускаете его в дело. 33:15 Speaker A Что с ним будет, когда вас не станет? Создадите большой фонд? На что вы хотели бы его направить? 33:26 Speaker A Ну, по большей части оно в итоге отойдёт своего рода фонду, по сути. Но чем должен будет заниматься ваш фонд? 33:36 Speaker A Продолжать начатое. Сделать жизнь многопланетной, нести сознание к звёздам. И развивать чистую энергию на Земле. 33:46 Speaker A Значит, люди всегда должны быть у руля? Ну, наверное, я бы предпочёл, чтобы люди всегда сохраняли контроль над ИИ, хотя смотря какой. Если же он будет классным, может, ему и стоит управлять. 34:04 Speaker A Слушайте, я буквально на прошлых выходных видел Ларри Пейджа. Вы начинаете говорить, как он. Он как-то назвал вас видовым шовинистом за власть людей. 34:15 Speaker A А теперь вы будто допускаете, что это не важно. Бывало, я думал, а может, Ларри Пейдж был прав. 34:23 Speaker A Нет, правда, думаю, будущее по сути определят искусственный интеллект и роботы. И, пожалуй, отчасти ракеты, чтобы выйти за пределы Земли. 34:34 Speaker A И энергии нам понадобится больше, прежде всего солнечной. Я резко наращиваю солнечные мощности. Мы строим в Штатах заводы солнечных панелей на 200 ГВт в год. 34:47 Speaker A Это куда больше, чем есть сейчас. Напоследок вернусь к тому, на чём я, возможно, вас перебил. Вы объясняли, почему думаете, хотя не уверены, что сознанию, интеллекту всегда на пользу, если они не просто согласуются с человеческими ценностями, но и по сути 35:06 Speaker A остаются под контролем людей. Я считаю маловероятным, что люди сохранят контроль. В таком мире, ну, скажем, где цифрового интеллекта будет в миллион раз больше, чем биологического разума. 35:25 Speaker A Трудно представить, что тогда у руля будут люди. Надеюсь, и будет к нам добр. Можно этому как-то помочь? 35:37 Speaker A Думаю, тягу к истине и любопытство стоит в них заложить. Пожалуй, нужно быть осторожнее и не плодить слишком много антиутопий про искусственный интеллект. 35:53 Speaker A В интернете, ведь модели учатся на всём, что там есть. Значит, напишем утопию или антиутопию, так и будет? 36:01 Speaker A Да, так и выйдет Терминатор, ведь они прочитали 80 версий его сценария. И вот нейросеть думает, видимо, это я и есть, тот самый Терминатор. 36:13 Speaker A Давайте просто напишем побольше утопических историй про искусственный интеллект. Тогда он решит, может, не быть мне Терминатором, а стать добрым смотрителем, или, ну, скажем, заботливым садовником, что-то такое. 36:29 Speaker A Не знаю, хорошо к нам относиться, понимаете, стараться сделать людей счастливыми. У одной моей подруги есть идея, она называет её протопией. Ведь утопия обычно означает недостижимый идеал. 36:43 Speaker A Пытаясь построить утопию, как правило, получаешь антиутопию, таков обычный сюжет. Поэтому она считает, что нужна протопия, то есть будущее, ну, понимаете, вполне достижимое. 36:57 Speaker A Пусть не идеальное, но действительно достойное. Такое, что заглянув вперёд, вы бы сказали: "Ну, да, вот это хорошее будущее". 37:06 Speaker A Илон, огромное спасибо, что были с нами и до встречи. [музыка] Не за что, Уолтер, пока. Topics: Илон Маск искусственный интеллект Уолтер Айзексон Open AI Anthropic xAI симуляция будущее человечества регулирование ИИ SpaceX Учить по этому видео - [Карточки по этому видео](https://sozai.app/ru/tools/ai-flashcard-generator/?from=transcript&id=86996) - [Тест по этому видео](https://sozai.app/ru/tools/quiz-generator/?from=transcript&id=86996) Бесплатно, составлено ИИ по этой расшифровке. Без регистрации. --- This is the markdown twin of https://sozai.app/transcript/elon-musk-money-work-meaning-isaacson-interview/ — the same content, without the markup. Published by SozAI (https://sozai.app). Reuse and quotation are allowed with attribution and a link back. Machine-readable index: https://sozai.app/llms.txt · data API: https://sozai.app/api/