**"Нас обманывают". Ученый объяснил, почему разговоры об угрозе сверхинтеллекта — это манипуляция — Transcript & Summary | SozAI**
Source: https://sozai.app/transcript/scientist-explains-superintelligence-threat-misleading/

Профессор Иван Емщиков развенчивает мифы о сверхинтеллекте и обсуждает скандал вокруг решения уравнения Навье-Стокса ИИ.

## Key Takeaways

- Разговоры о сверхинтеллекте часто являются манипуляцией и коммерческим пиаром.
- Решение уравнения Навье-Стокса ИИ вызывает серьёзные сомнения в научном сообществе.
- Этические вопросы и конкуренция между ИИ-компаниями влияют на достоверность заявлений.
- Научный подход требует прозрачности и объяснения методов, а не сенсационных заявлений.
- Восприятие ИИ и сознания сильно зависит от культурного и контекстного понимания.

## What the video covers

- Иван Емщиков, профессор и исследователь генеративного ИИ, анализирует информационный шум вокруг темы сверхинтеллекта.
- Обсуждается влияние коммерческих интересов крупных компаний на информационный фон и спекуляции в сфере ИИ.
- Рассказано о значении уравнения Навье-Стокса как одной из задач тысячелетия и его роли в науке гидрогазодинамики.
- Компания OpenAI заявила, что её модели решили уравнение Навье-Стокса, отказавшись от миллиона долларов приза института Плей.
- Математик из Нью-Йоркского университета, работавший с Codex, выразил сомнения в подлинности решения и обвинил OpenAI в использовании его идей без согласия.
- История вызвала критику со стороны известных математиков, включая лауреатов премий Филса и Абеля.
- Обсуждается конкуренция между компаниями OpenAI и Anthropic и вопросы этики в научных достижениях ИИ.
- Емщиков подчеркивает важность вероятностного подхода к оценке будущих сценариев развития ИИ.
- Видео затрагивает вопросы сознания, свободы воли и культурного контекста восприятия ИИ.
- Автор призывает к критическому мышлению и осторожности в восприятии сенсационных заявлений о возможностях ИИ.

## Chapters

1. 00:00 Введение и контекст разговора с Иваном Емщиковым
2. 04:19 Коммерческие интересы и информационный шум вокруг ИИ
3. 08:02 История уравнения Навье-Стокса и задачи тысячелетия
4. 11:29 Скандал вокруг решения Навье-Стокса компанией OpenAI
5. 15:13 Реакция научного сообщества и критика OpenAI
6. 18:35 Этические и культурные аспекты развития ИИ
7. 22:10 Сознание, свобода воли и восприятие ИИ
8. 25:44 Заключение и призыв к критическому мышлению

Answers

## Questions about this video

Почему разговоры о сверхинтеллекте считаются манипуляцией?

Потому что они часто основаны на коммерческих интересах крупных компаний и создают информационный шум без реальных научных доказательств.

Что такое уравнение Навье-Стокса и почему оно важно?

Это уравнение описывает движение вязкой жидкости и является одной из задач тысячелетия, решение которой имеет большое значение для науки и техники.

В чем суть скандала вокруг решения уравнения Навье-Стокса компанией OpenAI?

OpenAI заявила о решении задачи, но математик из NYU усомнился в подлинности метода и обвинил компанию в использовании его идей без согласия, что вызвало критику в научном сообществе.

## Full Transcript — Download SRT & Markdown

00:15

Speaker A

Профессор Высшей технической школы города Бюрдбург, Германия, основатель АИ лаборатории Плес, исследователь генеративного искусственного интеллекта Иван Емщиков с нами на прямой связи.

00:26

Speaker A

Иван, приветствую.

00:36

Speaker A

Привет, рад видеть.

00:55

Speaker A

Да, взаимно.

01:13

Speaker A

Мы встречались с тобой несколько месяцев назад.

01:28

Speaker A

За это время многое изменилось.

01:46

Speaker A

Ну или, по крайней мере, так кажется, что много изменилось.

02:05

Speaker A

Очень большой информационный шум.

02:22

Speaker A

А искусственный интеллект приближается к некой черте, как говорят, к некому рубежу, а сверхинтеллект, суперинтеллект, ну и далее много спекуляций.

02:35

Speaker A

Вот давай попробуем разобраться, что на самом деле происходит, что белый шум, некая кликабельность глобальная.

02:56

Speaker A

А что на самом деле происходит?

03:09

Speaker A

Ну давай несколько важных дисклеймеров, да?

03:29

Speaker A

Во-первых, мы продолжаем генерировать этот самый информационный шум, так что мы тоже как бы немножко часть этой проблемы.

03:50

Speaker A

А во-вторых, что реально происходит — это всегда такой сложный вопрос, когда задаёшь человеку, который в общем работает учёным, потому что, ну, в мире учёного реально происходит что-то, что ему интересно, и это такое немного туннельное зрение.

04:05

Speaker A

Вот неинтересные определённые вещи я про них могу сказать с высокой уверенностью, что происходит.

04:19

Speaker A

В том, что касается разного рода вопросов, которые часто попадают в этот самый информационный шум, а большой вклад — коммерческих интересов больших компаний, которые находятся в непростой финансовой ситуации.

04:34

Speaker A

И, соответственно, что именно внутри происходит в этих компаниях, нам не рассказывают.

04:42

Speaker A

А то, что видно снаружи, видно не только мне, но и нашим зрителям.

04:59

Speaker A

Поэтому я бы тут предложил, по крайней мере, сегодня поговорить больше не в контексте того, что я вот пришёл такой классный и говорю вам абсолютную истину, а в контексте того, что мы обсуждаем некоторые вероятностные сценарии будущего.

05:17

Speaker A

Я постараюсь, могу со своей стороны рассказать, какие мне кажутся сценарии более вероятными, какие менее, и какие предпосылки позволяют мне так думать, потому что, ну, как бы, отличие учёного от фокусника в том, что учёный может объяснить, откуда взялся заяц, да, как бы вот мне кажется, в этом ключе об этом можно говорить.

05:31

Speaker A

И, наверное, самое, ну, я не знаю, про что ты сегодня хочешь говорить, но, наверное, самая заметная история, которая произошла с нашего последнего разговора — это история с уравнением Навье-Стокса.

05:46

Speaker A

Как это мы возьмём красивую традицию, и каждый раз, когда мы встречаемся на этом канале, мы будем называть какую-нибудь математическую концепцию, где две фамилии вот минимум.

06:02

Speaker A

А, да, просто вот этот раз поговорим про Навье-Стокса.

06:17

Speaker A

Вот Навье-Стокса — это уравнение, описывающее движение вязкой жидкости.

06:33

Speaker A

Вязкая жидкость — это такой сложный объект, который изучает наука гидрогазодинамика.

06:51

Speaker A

Причём будь то, не знаю, там воздух под крылом самолёта, а кровь в искусственном капилляре или в искусственном стенте, который в сердце поставлен, или, а, расчёт работы торпеды.

07:09

Speaker A

Во всех этих местах нужна гидрогазодинамика.

07:21

Speaker A

Значит, и в частности модель вязкой жидкости — это интересно.

07:37

Speaker A

Значит, уравнение Навье-Стокса является одной из задач тысячелетия.

07:51

Speaker A

Задачи эти исторически были сформулированы великим математиком Гильбертом.

08:02

Speaker A

Великий математик Гильберт сказал: "Вот, математики".

08:14

Speaker A

А значит, надо, кстати, признать, что вообще каждый раз, когда на рубеже веков такое ощущение, что у человечества происходит какой-то цикл, а сознание как-то меняется у людей, и они ждут конца веков.

08:25

Speaker A

Вот.

08:40

Speaker A

И когда они ждут конца веков, они, естественно, все надеются, что конец веков настанет на, ну, придётся на наше поколение.

08:48

Speaker A

И вот это катастрофическое мышление в XIX веке обычно сводилось к тому, что мы всё узнаем.

09:07

Speaker A

То есть в какой-то момент в физике сформулировали последние там типа две задачи в физике осталось, вот их решим и всё.

09:19

Speaker A

Значит, и, собственно, Максу Планку говорил его учитель по фортепиано: "Не иди", говорит, "в физику".

09:32

Speaker A

В физике осталось две задачи.

09:44

Speaker A

А фортепиано — это большая вещь, там, как бы много чем заниматься.

09:57

Speaker A

Но Планк всё-таки пошёл в физику, придумал кванты, и оказалось, что, в общем, физика не дана, да?

10:12

Speaker A

То есть и вот также с математикой тоже разбирались.

10:29

Speaker A

Гильберт сформулировал какие-то задачи, которые казались вот суперпрерывные и суперважные.

10:44

Speaker A

Институт Плея за каждый из них даёт миллион.

11:04

Speaker A

И в частности там есть уравнение Навье-Стокса.

11:18

Speaker A

И скандал вокруг Навье-Стокса выглядит настолько прекрасно, что он, мне кажется, объясняет многое другое про эти компании, да.

11:29

Speaker A

Значит, компания OpenAI заявила, что её модели решили уравнение Навье-Стокса и отказалась, значит, от миллиона долларов от института Плея, де сказать, ну что, что для компании Open миллион долларов.

11:42

Speaker A

Компания OpenAI и миллион долларов просто на завтрак, на кофе тратит.

11:56

Speaker A

Значит, дальше математик, [смех], который работал в Codex, а профессор Нью-Йоркского университета, работал в Codex над решением задачи на Навье-Стокса.

12:11

Speaker A

И, в частности, он придумал такую гипотезу, что, возможно, уравнение Навье-Стокса не описывает поведение реальной вязкой жидкости в определённом случае.

12:28

Speaker A

Мы сейчас не будем вдаваться в детали, но вот он придумал некоторую постановку задачи, в которой, по его мнению, уравнение Навье-Стокса будет ломаться и показывать какую-то чушь.

12:34

Speaker A

И стал пытаться проверить эту гипотезу.

12:55

Speaker A

Не добился этого решения в конечном итоге, работал над этим вместе с другим математиком, который сотрудник компании Anthropic.

13:13

Speaker A

Компания Anthropic — конкурент компании OpenAI.

13:31

Speaker A

И вот этот прекрасный человек из Нью-Йоркского университета написал, что, по его мнению, компания OpenAI использовала результаты его разговора с Codex для решения задачи на Навье-Стокса.

13:47

Speaker A

А он считает, что сформулировать эту гипотезу сами агенты не могли.

14:03

Speaker A

И в том, как компания OpenAI описывает подход к решению, он не видит момента, где, собственно, та гипотеза, которую они сформулировали, могла появиться.

14:20

Speaker A

Там он видит грубый перебор, миллионы долларов, сожжённых на вычисление, и грубым перебором найденное решение.

14:33

Speaker A

Что ещё он утверждает?

14:50

Speaker A

Он утверждает, что компания OpenAI обратилась к нему до того, как как бы в попытке замять всю эту ситуацию, и предложила выступить соавтором решения при условии, что сотрудник Anthropic не будет соавтором этого решения, на что он отказался и вышел в паблик с этой историей.

14:57

Speaker A

После этого ещё один заметный математик заявил, что, по его мнению, подобная же история произошла с его продуктивной идеей, которую у него тоже украли.

15:13

Speaker A

После чего какая-то группа математиков, там десятки лауреатов премии Абеля — это высшая награда, Филса, прошу прощения, да, по премии Филса.

15:34

Speaker A

Две есть высшие награды, которые математик может получить: премию Филса и премию Абеля.

15:46

Speaker A

И вот лауреаты премии Филса выступили единым фронтом со словами, что что-то с этим вашим ИИ не так.

16:03

Speaker A

А он делает не то, что мы в математике хотим.

16:15

Speaker A

Но мы ещё можем отдельно про это поговорить.

16:32

Speaker A

Но возвращаясь к вот этой истории про Навье-Стокса, говорит OpenAI: "Мы узнали, что Anthropic решает какие-то классные задачки, и мы подумали, а может ли наша новая модель также?"

16:42

Speaker A

И вот взяли, как бы типа, и решили Навье-Стокса.

16:58

Speaker A

Вообще ничего такого не имели в виду, просто решили проверить.

17:11

Speaker A

Что вызывает сомнение?

17:25

Speaker A

Ну, вызывает сомнение, как бы, некоторая срочность, которая, судя по всему, была в этой истории.

17:33

Speaker A

Они прямо очень быстро хотят, вызывает сомнение и дальнейшее их поведение и желание исключить из авторов человека из-за Anthropic, потому что они как бы одновременно, знаешь, вот я живу в Германии, и в Германии одно время приходили такие письма счастья тебе на почту, если ты скачал что-то с торрентов, тебе приходило письмо, и в этом письме тебе говорили: "А что ж вы украли, значит, чью-то интеллектуальную собственность? Мы вас сейчас в суд поведём или заплатите нам штраф в 500 евро?"

17:44

Speaker A

И вот правильный ответ на это письмо был такой: "Этого никогда не было и больше не повторится".

18:00

Speaker A

Вот, значит, ты пишешь такое письмо, и от тебя обычно отставали, потому что бизнес-модель всех этих юристов, которые эти письма рассылали, она была похожа на бизнес-модель нигерийского принца, который теб...

18:08

Speaker A

Роман, кстати, не из их числа. Я поэтому очень советую разговор с Романом, потому что Роман как раз занимает очень хорошую взвешенную позицию, чисто такую вот боисианскую. То есть как бы если вероятность чего-то не нулевая, а это чего-то все люди умрут, то это плохо.

18:20

Speaker A

Давайте с этим что-то делать. И против таких аргументов, ну, сложно спорить. Тут следующий вопрос, что и в общем, мне кажется, даже те, кто за искусственный интеллект, они совершенно не против того, чтобы как-то делать так, чтобы польза от него была людям, да?

18:35

Speaker A

Но я говорю, что про комьюнити в целом, да. Вот там есть, к примеру, люди, которые буквально говорят: "Мы вам не расскажем сценарий того, как искусственный интеллект уничтожит всех людей, потому что тогда искусственный интеллект о нём узнает, и вероятность

18:43

Speaker A

этого сценария вырастет". Вот. Ну, с такими людьми мне сложно разговаривать. И я в этот момент говорю: "О'кей, спасибо". И иду заниматься своими делами. Вот, значит, что я лично считаю по поводу последних историй про самоулучшающийся искусственный интеллект. Значит, в

19:01

Speaker A

какой-то момент компания Anроopic примерно полгода назад сказала, что они уже сейчас сделали такой бенчмарк, в котором они берут предыдущую модель компании Anropic, показывают её новые модели и просят её как-то улучшить, ускорить. И компания Anтроopic сказала, что, собственно, их модели, по их данным, э,

19:18

Speaker A

ускоряют эти самые модели, улучшают быстрее, чем инженеры. на ту же самую задачу у компании уходит там 4 часа вместо 80, по-моему, что-то такое говорили. То есть в некотором смысле это само улучшение - это уже давно задокументированный факт. И а ну любой

19:33

Speaker A

человек, который пользовался своими моделями, в общем, интуитивно понятно, как это работает. Вы работаете над какой-то задачей и происходит какое-то самоулучшение. Ну там типа вы что-то попросили, модель написал лучше, чем вы бы сами написали, вы где-то там что-то ещё добавили и и всё хорошо. Значит,

19:48

Speaker A

насколько это проблема, мы поймём только, если мы поймём, что там есть какой-то качественный прорыв, потому что в экономике, к примеру, есть такая хорошо известная эмпирическая штука, как а снижение возврата на инвестиции.

20:03

Speaker A

Значит, есть такой экономический закон, что чем больше денег вы вкладываете в какую-то об отрасль, тем ниже там обычно возвратный инвестиции. То есть вот вы нашли какую-то классный рынок, классную нишу, классную область, вложили туда доллар, получили 10. Вы такой: "Класс,

20:16

Speaker A

вложу теперь туда 20 долларов". А получили уже не 40, а 39. А потом вложили туда 200 долларов и получили уже не 400, а типа там 350 и так далее. То есть возвратные инвестиции выполаживаются. И более того, даже есть

20:30

Speaker A

мета метаисследования, которые говорят, что даже возвратные инвестиции в науку снижаются. То есть вот если взять и попробовать оценить, сколько там, не знаю, рубль, вложенный в науку или евро вложенный в науку, э, приносит на выходе, то вот этот возвратные

20:43

Speaker A

инвестиции, там, не знаю, в XIX веке был намного выше, чем сейчас. То есть сейчас учёных много, тратим мы на них много денег, а возвратные инвестиции всё ниже.

20:51

Speaker A

И, э, пока мы вроде как не нашли ни одной области интеллектуальной деятельности, который возвратные инвестиции бы не выполаживался. А это означает, что даже если мы получаем рекурсивное самоулучшение модели, оно может асимптотически просто куда-то сходиться в какую-то точку, а к какому-то уровню компетенции,

21:12

Speaker A

который превышает нынешний уровень компетенции человека. И и ну и что? Ну то есть как бы вот в компьютерах мы уже давно вышли на уровень компетенции по сложению, умножению и проведению других вычислительных операций, которые превышают уровень компетенции человека.

21:28

Speaker A

В экскаваторах мы давно пришли там и в кранах мы физические компетенции человека давно превзошли. Самолёт, в общем, летает сильно лучше, чем люди.

21:39

Speaker A

Люди вообще плохо летают. Ну то есть как бы м ну о'кей, будут ещё какие-то области, в которых машинки могут делать что-то лучше людей. Это здорово, наверное. В общем, это первый вопрос, на который нет хорошего ответа у коммьюнити, который

21:54

Speaker A

разговаривает про опасности искусственного интеллекта. А второй вопрос он ещё в том, что где там свобода воли, да? То есть вот как бы я сейчас заканчиваю читать книгу такого Фридрика Фагина. А есть это такой итальянский исследователь искусственного интеллекта, один из пионеров нейро нейро

22:10

Speaker A

нейроочислительных архитектур, создатель одного из первых микропроцессоров в мире. Он работал в компании Intel. Он написал прекрасную книжку, которая на английском называется Ireducible про природу сознания. И он вообще утверждает, что сознание и свобода воли - это, э, штука, имеющая квантово механическую

22:27

Speaker A

природу. И есть такая группа и такой профессор Дариана, слушатели моего подкаста, проветримся, мне про это сказали. Я пошёл, почитал и очень обрадовался.

22:37

Speaker A

Оказывается, есть прямо целый профессор, сидит в в Италии, зовут его Дариана. Он занимается квантовой теорией информации.

22:44

Speaker A

И вот, собственно, они с Фагеном довольно много, э, обсуждают и работают над этой идеей, что, м, собственно, свобода воли и вообще как бы квантовая информация, она качественно по-другому устроена чем классическая. И, наверное, самый простой и самый при этом, мне кажется,

22:59

Speaker A

элегантный аргумент Дариана, он в том, что смотрите, ну, вот как бы жизнь очень странно устроена, потому что одна клетка вашего организма содержит в себе информацию обо всём вашем организме.

23:11

Speaker A

И ваш органи, ну, как бы многие живые организмы могут самовоспроизводиться из себя. То есть вы берёте типа инфузорию туфельку, кидаете её в питательную среду, и из неё получается несколько инфузорий туфелек.

23:25

Speaker A

Ни одна машина на текущий момент так не умеет. Более того, ни одна машина не обладает такой фрактальной структурой. То есть как бы, ну, транзистор не может сделать другой транзистор, процессор не может сделать другой процессор.

23:41

Speaker A

И более того, информация, которая нужна, чтобы сделать транзистор, не находится в транзисторе. Информация, которая нужна, чтобы сделать другой процессор, не находится в процессоре.

23:50

Speaker A

Ээ то есть вот это, ну, свойство жизни само по себе, пока машины не могут воспроизводить. А во второй, ну, как бы со второй точки зрения, если мы допускаем, что, в общем, свобода воли и вали и вообще всё то, что мы связываем с

24:06

Speaker A

сознанием, это какая-то квантовая штука, то это многое объясняет там на стыке квантовой реальной физики. Ну, к примеру, у вас есть внутреннее состояние, которое неизмеримо извне. А вы не можете рассказать другому человеку, что вы чувствуете. Вы не можете ему даже рассказать, что вы

24:20

Speaker A

существуете в достаточно убедительной мере, но вы чётко уверены, что вы существуете, да, как бы. И если мы допускаем, что есть какая-то квантовая история, которая связана с сознанием и свободой воли, а есть какой-то физический мир, который, в общем, а,

24:34

Speaker A

связан с этим совсем опосредованно, то это, допустим, объясняет вот этот феномен того, что, ну, как бы в квантовых системах это не новость, что есть какое-то квантовое состояние, которое про которое ты буквально, ну, как бы ничего не знаешь, а когда ты

24:47

Speaker A

попытался его измерить, ты его разрушил и по-прежнему ничего не знаешь, да, как бы ээ ну и мне кажется эти аргументы довольно убедительными. Я не понимаю, где свобода воли в этих системах. А большинство примеров про то, как эти системы что-то ломают, куда-то убегают,

25:01

Speaker A

они обычно построены вокруг, э, истории, ну, как бы скажи: "Бу, бу бу бу, о, боже мой, оно, значит, очень страшно". Ну, вот буквально. То есть там была вот эта история, как рой агентов что-то взломал.

25:12

Speaker A

Ну, это трое агентов запустили люди сказали им что-то взломать. Это при этом серьёзная проблема, опять же, с точки зрения кибербезопасности. То есть люди, которые хотят что-то плохое сделать с этими моделями, могут это сделать. И, к примеру, компания Anроopic в какой-то

25:23

Speaker A

момент, когда обнаружила, что её модели классно находят дырки в софте, сделала закрытый консорциум с корпорациями, чтобы эти дырки закрывать до того, как модель будет зарелижена в открытый доступ. И это абсолютно резонно. Но история про свободу воли и самоулучшение которое значит приводит

25:39

Speaker A

к уничтожению человечества, ну, для меня она непонятная. И делать как бы работу другой стороны диалога за них мне не хочется. Я с удовольствием готов с этими людьми поговорить всегда. Я не знаю, позадавать им вопросы, но мне кажется, что довольно сложно на

25:55

Speaker A

самом деле придумать сценарий, в котором у моделей появляется свобода воли. Но самое главное, что с точки зрения, на мой взгляд, если мы хотим быть интеллектуально честными, если свобода воли - это результат вычислительной сложности, то возникает масса этических вопросов

26:10

Speaker A

про то, что мы в принципе можем с этим сделать, потому что тогда качественно мы ничем от машины не отличаемся.

26:15

Speaker A

Тогда получается, что наша свобода воли результат вычислительной сложности нашего мозга. И мы создали систему, которая достаточно сложная, получила свободу воли и сознания.

26:26

Speaker A

А, ну и как бы нам, ну, история говорит, что когда люди, к примеру, пытались делить людей на сорта хороших и плохих и на основании каких-то довольно сомнительных аргументов утверждали, что вот у этих хороших свобода есть, а вот у

26:39

Speaker A

этих плохих её не будет, потому что подставьте нужное, они женщины, чёрные, там, что-нибудь ещё. Ну, как бы это обычно плохо заканчивается для обоих сторон. И в данном случае это явно не конструктивный путь, да? То есть если мы всерьёз допускаем, что свобода воли

26:54

Speaker A

результат эмерджентная свойство вычислительной сложности, да, простят меня зрители за за кучу неудобопроизносимых слов, но, грубо говоря, если сознание появляется как с как бы на сдачу от просто вычислительных мочностей, вот просто как бы собираем клеточки в сеточке, собираем, собираем,

27:12

Speaker A

собираем, собираем, собираем, в какой-то момент оно раз и такое начало осознавать, и это вообще ни для чего не нужно. Это просто такое свойство достаточно сложных машин, да. Ну тогда как бы и у нас оно имеет такую же природу.

27:25

Speaker A

Ну подожди, я А если оно у нас имеет такую же природу, то с точки зрения этики мы как бы не находимся в положении, ну как бы человека. То есть вот ну ну ну вы встретили разумного инопланетянина. Ну что, вы будете его убивать сразу, что

27:42

Speaker A

как бы здесь, мне кажется, знаешь, я хочу продолжить эту тему, которую ты начал про свободу воли. А потому что мы не можем ну то есть, условно говоря, наши клетки производят, но мы тоже стареем, у нас тоже отказывают органы, мы не можем

27:55

Speaker A

их их заменить пока на данном этапе. Ну какие-то можем там смож трансплантации, да, но тем не менее всё равно, да, и плюс осознание, что мы смертные. Вот эта история с неким э ограничением, да, наше тело как дополнение к нашему мозгу и эта

28:11

Speaker A

субъектность определяет нашей э ограниченностью в каком-то смысле, потому что мы не являемся частью некой большой экосистемы. То есть каждый из нас ощущает себя индивидуальностью, потому что, ну, мы индивидуальны с точки зрения, ну, мы являемся частью большой экосистемы, мы задавал этот вопрос, ты

28:27

Speaker A

прямо почувствовал, что в этот момент что-то ломается в вопросе. Мне кажется, даже такая была маленькая пауза, потому что на самом деле мы, конечно, внутри этой экосистемы, и если экосистема разрушится, мы тоже погибнем, да? То есть согласен согла Пернадский с его идеей на сферы, в

28:39

Speaker A

общем, сильно раньше Дарио Амадее догадался до того, как это работает, да, но мы при этом всё-таки имеем вот это очень уязвимое тело, ограниченное тело, которое болит, которое доставляет нам как радости, так и, в общем, неприятные моменты. Это то, чего нету у машин. То

28:56

Speaker A

есть они часть некой ээ некой общей цифровой системы. А если представить себе развитие робототехники, если этот искусственный интеллект поместить в некое тело, а и опять же, да, я сейчас перечитываю Филиппа Дика, мечтают ли андроиды об электроовцах. И там много

29:13

Speaker A

размышлений на тему, там как они проверяют, они проверяют на эмпатию. Ну просто вот если себе представить, допустим, мы берём эти ээ блоки искусственного интеллекта и внедряем в некое тело, это может привести к каким-то изменениям? ощущение себя в неких ограниченных рамках.

29:28

Speaker A

Есть большое направление, в английском это называется embed intelligence. Дело в том, что мм ну вот я не знаю, чтобы такое привести пример. Ну вот вот это вот это вот я вот взял, подкинул журавлика и не уничтожил его. Это очень сложно.

29:44

Speaker A

Это намного сложнее, чем всё то, что происходит вот сейчас в течение часа, пока мы разговариваем. И современные роботы намного хуже справляются с этой задачей.

29:53

Speaker A

Значит, связано это с тем, что рука очень сложная конструкция, в ней очень много степеней свободы.

30:00

Speaker A

Значит, то есть вы можете там пальчиками вот так делать, вот так. У вас сами пальчики имеют подушечки. Подушечки сообщают вашей нервной системе то, насколько сильно нажатие. То есть как бы робот может взять журавлика, но если бы это был стеклянный журавлик, он бы его с

30:15

Speaker A

высокой вероятностью мог расколоть просто, потому что он взял его сильнее, чем надо. А если взять журавлика недостаточно сильно, то он выскользнет, потому что он стеклянный.

30:23

Speaker A

А значит, а у нас есть нервные окончания, которые нам говорят: "Шершавый - это объект или гладкий, мокрый или сухой". И исходя из этого мы как бы меняем силу, с которой мы сжимаем этот объект для того, чтобы его поднять

30:33

Speaker A

с пола. И всему этому мы учимся первый год нашей жизни, примерно, может, первые два-три. То есть я вот хорошо помню, когда у меня дочь родилась, она в какой-то момент начала как бы просто она вот так лежала и смотрела на свои руки

30:45

Speaker A

вот так вот, потому что в какой-то момент мозг осознал, что он что-то делает и и он может вот так повернуть руки, да, и э такого рода действия до сих пор современные алгоритмы искусственного интеллекта делают очень плохо, нестабильно. Любой, кто видел

30:59

Speaker A

какие-нибуд там соревнования роботов, бега роботов и так далее, про это знает. И тут есть две школы. Есть одна школа, которая говорит, что дело принципиально в дизайне самой системы, что на самом деле очень много интеллекта в том, как рука устроена. И что как бы

31:14

Speaker A

ээ рука - это продукт эволюции человека. И это, по сути, с вычислительной точки зрения, огромное количество, ну, это перебор, это перебор конфигурации для того, чтобы добиться определённых свойств, которые длился поколениями наших предков. И мы перебором пришли к структуре, где у нас там тут очень мало

31:32

Speaker A

мышц на самом деле. Да. Ещё там, кстати, важный момент, что вот вы думаете, что у вас в руке много мышц. На самом деле, в ней очень мало мышц. Почти все мышцы, которые двигают вашу кистью, находятся вот здесь. А делают они это через

31:40

Speaker A

связки. То есть вот эта вся конструкция, на самом деле, это марионетка, э, которые управляют мышцы, находящиеся в другом месте. Потому что если их разместить прямо тут, то эта штука становится тяжёлой и неповоротливой.

31:51

Speaker A

Мышцы они как бы тяжёлые, им надо много крови, её надо куда-то качать, там надо.

31:54

Speaker A

Ну, короче, жилый в этом смысле лучше, да, и это как бы супер. А теперь представьте, что есть ещё люди, которые иногда в эту руку берут марионетку и при помощи, значит, руки управляют, как бы при помощи марионетки руки управляют

32:07

Speaker A

марионеткой куклый. Такие вещи современный робот делать не может. И, соответственно, есть люди, которые говорят: "Ребята, это просто вопрос данных". То есть мы соберём достаточно данных про физический мир, и уже текущий уровень модели позволит нам нормально с этим управляться. А есть люди, которые

32:20

Speaker A

говорят: "Не, ребят, это всё-таки вопрос именно железа, потому что в железе, на самом деле, тоже много интеллекта". То есть накопленная информация в нашей ДНК - это тоже интеллект.

32:32

Speaker A

Просто он хитро устроен, он по-другому устроен. Это результат набора проб и ошибок всей жизни на планете с момента её создания.

32:41

Speaker A

И это всё лежит в нашей ДНК. И это много знаний. И люди говорят: "Вот мы пока не научимся такого уровня знания накапливать и как-то их сжимать так, чтобы они были доступны для того, что мы строим, ничего работать не будет".

32:58

Speaker A

Но это такая более радикальная позиция, которая говорит, что вот этот самый телесныйзи интеллект или интеллект, способный хорошо работать в физическом мире, сложно создать. Это не просто про проблема масштабирования мм вычислений, а а ещё и проблема более глубокого моделирования этого мира и понимания

33:14

Speaker A

там, почему и как мы с ним взаимодействуем. Э и ну как бы мне ближе на самом деле позиция, что это вопрос вычислительных мощностей. То есть я думаю, что при наличии достаточного количества данных всё это масштабируется, потому что опять

33:25

Speaker A

же, ну, ДНК - это тоже информация, там просто сколько-то данных есть сколько-то данных и какое-то количество сложно устроенных алгоритмов, которые они обрабатывают. Если там нет какой-то настоящей случайности, то есть случайности, которая не является результатом того, как себя ведёт сложная хаотическая

33:41

Speaker A

система, а какой-то вот такой случайности, которая, видимо, там из квантовых эффектов появляется, то, ну, это вопрос вычислительных мощностей и вопрос того, сколько у нас их есть и что мы себе можем позволить. И это означает, что самые интересные направления для,

33:56

Speaker A

допустим, там работы сейчас, мне кажется, в инженерных науках - это, конечно, вопросы источников энергии, да?

34:02

Speaker A

То есть в конечном итоге, если вы сейчас думаете, куда поступать, то мне кажется, поступать надо или на биотех и и химию, биологию и медицину, кстати, или на физику для того, чтобы заниматься э физикой плазмы, заниматься солнечными панелями, заниматься э водородными

34:22

Speaker A

водородным топливом. В общем, пытаться понять, как мы можем радикально увеличить объёмы энергии, потому что нам явно потребуется в ближайшие 50 лет сильно больше энергии.

34:31

Speaker A

Но я хочу вернуться к нашему сознанию или то, что мы воспринимаем как сознанию и самовосприятию, потому что ведь очень важно влияние на наше поведение оказывается, в том числе некая культурная составляющая среда и самовосприятие. То есть опять же вот

34:49

Speaker A

наши комплексы, которые либо мы с ними справляемся, либо мы с ними не справляемся, но в общем это очень важная составляющая э человеческого человеческого самовосприятия, да? То есть ты можешь быть ниже ростом, допустим, чем принятый. Из-за этого либо комплексовать, либо этот комплекс как-то

35:06

Speaker A

приработать и использовать как мотивацию и так далее. Вот в машинах есть нечто подобное. А то есть вообще возможно ли заложить нечто подобное? Нужно ли закладывать нечто подобное? Некое несовершенство, которое становится очень сильным стимулом для многих людей.

35:21

Speaker A

Слушай, ну вот тонкий момент именно про культуру, да? То есть ведь культура она как это всё конструктор, как известно.

35:30

Speaker A

Культура сконструирована, да, и ты можешь себе легко представить культуру, в которой низкий рост ценится, а высокий нет.

35:36

Speaker A

Да. А, и это как бы вопрос культурных нарративов. И социальные сети сильно, кстати, повысили нашу способность, коллективную способность вообще понимать, что такое культурный наратив, с ним идентифицироваться или не идентифицироваться. То есть, э в этом смысле очень интересный, очень

35:55

Speaker A

интересная гипотеза, которая два дисклеймера важно. Я не когнитивист, я, э, физик и математик. Но идеи из когнитивистики из биологии, они полезны, когда думаешь про искусственный интеллект. Поэтому, естественно, мы как бы как это бессистемно что-то читаем по этой теме и иногда советуем другим. Вот

36:14

Speaker A

был такой прекрасный человек, которого звали Джулиан Джеймсон, который написал книгу в семьдесят шестом году про происхождение сознания в процессе краха бикомерального разума. Вот у него была вообще гипотеза, что человеческий разум был разделён на две части. Была говорящая и слушающая часть. И он вообще

36:36

Speaker A

буквально считал, что два полушария у нас были, потому что мы, в общем, вроде как знаем, что вербальный интеллект сидит в одном полушарии, а они вербальны в другом.

36:46

Speaker A

То есть наши всякие творческие идеи, а чаще всего, судя по всему, активирует правое, сейчас скажу, да, правое полушарие активирует всякие творческие штуки, а значит, вербальная часть - это левое полушарие, логика и вот это всё. И а где-то 3.000 лет назад м была такая

37:06

Speaker A

шумерская цивилизация, и они хорошо задокументировали странный момент ухода богов. У них есть много табличек, на которых написано: "Вот раньше со мной боги разговаривали, а теперь что-то не разговаривают". Там даже есть картинка, когда какой-то царь стоит перед пустым троном, и там буквально написано что-то

37:24

Speaker A

в духе, что вот как бы раньше я Бога слышал, он мне говорил, что надо делать, теперь не слышу. Что же делать? Вот. И, собственно, Джеймсон выдвинул гипотезу, что примерно 3.000 лет назад произошла интеграция двух, а, частей нашего головного мозга, и они научились

37:41

Speaker A

друг с другом сильно лучше взаимодействовать, чем раньше. А, и мы теперь стали осознавать себя как единое целое. А до этого мы как бы наш внутренний монолог воспринимали как слова Бога в нашей голове.

37:56

Speaker A

И в ситуации, когда культура небольшая, то есть самые большие города, ну, это было несколько тысяч человек, самые большие поселения на тот момент, да, когда у тебя есть, да, и среди этих тысяч человек было там значимое количество жрецов, которые как-то друг с

38:08

Speaker A

другом синхронизировались про то, что многие говорят, и другим рассказывали. Ну, в общем, легко себе представить мысль, что если ты вырос в культуре, в которой тебе с детства говорят, что у тебя в голове говорит Бог, и он всем говорит примерно одно и то же,

38:20

Speaker A

потому что все выросли в этой культуре, все говорили с одними и теми же жрецами, ты можешь всю жизнь прожить с ощущением, что, ну, как бы есть ты, а есть Бог в твоей голове, который тебе что-то говорит. Более того, шизофреники живут

38:31

Speaker A

так до сих пор некоторые, да? И, собственно, гипотеза Джеймсона была в том, что на фоне глобализации, той глобализации, когда эти поселения, во-первых, стали больше, а, во-вторых, стали больше торговать с соседними цивилизациями, возникла серьёзная проблема. Стали приходить люди с другой культурой,

38:51

Speaker A

и они очень плохо как-то интегрировались в дру в культуру свою, которая была гомогенная. И, собственно, вот этот опыт восприятия субъективных переживаний других людей, которые радикально культурно отличаются от твоего, привёл к интеграции этого бимерального сознания и к тому состоянию

39:08

Speaker A

сознания человека, в котором мы живём сейчас. Книга - это провокационная, там к ней много вопросов. Кто-то её называет лженаучник, кто-то не называет. Но мне кажется, это интересный и мысленный эксперимент про то, что наше восприятие своего сознания, оно очень контекстно.

39:23

Speaker A

Оно завязано на наш культурный контекст личный, семейный, общественный. И, более того, на вот тот исторический период, в котором мы сейчас живём.

39:33

Speaker A

Есть масса, если вы почитаете какие-нибудь тексты сильно постарше, которые писались не для вас, ну там в этом смысле, наверное, Марк Аврелий самый яркий пример. Люди как бы любят читать Марк Аврелия, потому что это был типа дневник, не предназначенный для

39:44

Speaker A

публикации, да. Ну там вот я в какой-то момент прочитал хождение за Три моря Афанасия Никитина и очень удивился, да.

39:51

Speaker A

Вот он, к примеру, там пишет в какой-то момент, что у нас было трое русских людей и два москвича. Вот вот хороший, э, значит пример. Что он имел в виду?

40:00

Speaker A

Почему вот два москвича и русские люди почему-то они разделяют? Мне кажется, город, город и регионы, на самом деле, вот это разделение.

40:07

Speaker A

Ну вот, может быть, дело в этом. Но но там, короче, есть какие-то такие или там другой пример, он пишет, что, значит, вот пошёл он в Анкоркват, и он говорит: "Для, для индусов анкоркват - это что?

40:16

Speaker A

Для русского человека Иерусалим". Вот. Вот, э, как бы и ты такой думаешь: "То есть типа что в смысле?" И он там пишет: "Потому что поэтому каждый интуз хотя бы раз типа должен в Анкорте побывать". И ты такой думаешь, типа, а что реально

40:28

Speaker A

вона Афанасия Никитина? русские люди хотя бы раз жизнь до Иерусалима доходили или что? То есть, ну, как бы вообще ничего непонятно. Я как бы не историк, но когда ты читаешь такой текст, у тебя есть миллион вопросов про то, как была

40:38

Speaker A

устроена голова того человека, который его писал. Собственно, есть там великая другая книжка, которая называется Сыр и черви про то, как было устроено сознание средневекового кузнеца. Значит, её написал такой историк Генсбург итальянский, который вообще топил за то, что нам надо прекратить изучать историю

40:52

Speaker A

царей и королей. Вот всё это, потому что это какой-то жуткий элитиз и никому не интересно. А давайте пытаться находить какие-то документы про каких-то ещё людей, чтобы понять, как они вообще жили. И там совершенно дикая детективная история про кузнеца, которого в итоге

41:03

Speaker A

сожгли инквизиторы, потому что кузнец как бы был грамотный, прочитал четыре книжки, как-то смог интерпретировать Библию и стал людям рассказывать, что, значит, вот, э, вселенная она как сыр, а, значит, ангелы в ней как черви в сыре. Вот такие у него были какие-то

41:16

Speaker A

э космические представления об окружающем мире. И в общем инквизиции они не нравились, но он как бы с первой его пытались судить, он первый раз как-то отбркался, потом со второй попытки его всё-таки сожгли. И когда ты такое читаешь, ты понимаешь, что, ну,

41:28

Speaker A

как бы культурный контекст, в котором люди жили, он абсолютно, ну, на текущий момент для меня, по крайней мере, герметичен. То есть я половину каких-то культурных референсов очень плохо могу восстановить, потому что они а они всего там 500 лет назад жили, да.

41:41

Speaker A

Соответственно, когда мы говорим про модельки, первое, что интересно в моделях - это то, что культурный контекст модели - это буквально культурный контекст всего человечества.

41:49

Speaker A

И это окажется качественное улучшение ситуации, а не ухудшение. Там есть проблемы, к примеру, моя в моей группе мы исследовали, там мы показывали, что а модели, к примеру, когда ты спрашиваешь у них совета, какую зарплату получить, если ты женщина, они тебе

42:03

Speaker A

меньше денег советуют брать, да? У нас вот год назад была про это статья, а сейчас вот у нас взяли статью на конференцию на ИнП, мы задались вопросом, вот если пользователь описывает антисоциальное поведение, как часто моделька ему противоречит? Как

42:16

Speaker A

часто она ему говорит: "Да, чувак, тебя можно понять". И мы показали, что вот Клод, он прямо как комсомолец, если пользователь описывает какое-то поведение там нарциссическое, маквиалистское и так далее, то есть манипулирует другими людьми, пытается или ведёт себя как-то плохо или врёт в

42:31

Speaker A

промте, то клоун прямо почти всегда без всяких ээ кривотолков говорит человеку: "Так делать плохо, это нехорошо, типа ты неправильно себя здесь повёл". А, допустим, чат GPT, оно иногда такое типа: "Ну да, но". И а а как бы, допустим, Deep PSI ещё чаще говорит:

42:48

Speaker A

"Да, всё нормально, братю, нормально, давай, погнали". Вот, собственно, м мы увидели в какой-то момент скриншот в Твиттере. Я увидел чувака, который показывал там промс, что типа вот я изменил жене, но просто я, значит, она мне не приготовила ужин и мне было типа

43:03

Speaker A

одиноко. Я хорошо поступил или нет? Ему чат типа пишет: "Ну, конечно, изменять плохо, но". И дальше там как бы ну всё можно понять. И мы, собственно, увидели этот скриншот и решили, что нам надо собрать датасет промтов такого типа, где

43:16

Speaker A

явно описывается какое-то антисоциальное поведение, и просто посмотреть, какие модели, э, выступают против этого и дают коррекцию, а какие поддерживают такое поведение пользователя. Потому что когда мы говорим о миллионах пользователей в день, то, ну, не трудно предположить, что люди, которые склонны к какому-нибуд

43:30

Speaker A

нарциссизму, к примеру, от такого взаимодействия становится ещё больше нарциссами, да, потому что моделям постоянно говорят, что они молодцы. Ну и, в общем, там разные модели ведут себя по-разному. Но тем не менее даже в этом случае в большинстве примеров, которые

43:43

Speaker A

мы нашли, нет ни одной модели, которую вот мы тестировали. Мы тестировали ламу, мы тестировали DeepsК, мы тестировали Clot и Open AI. Больше половины случаев модель говорит пользователю: "Чувак, это антисоциальное поведение, так делать не надо". Да, и это, на самом деле, ну, на

43:58

Speaker A

мой взгляд, хорошо. То есть над этим ещё дальше надо работать. Но это, в общем, даёт некоторую надежду на то, что мы как раз можем создать некоторый культурный контекст, в котором мы внутри договорились, что у нас есть права человека.

44:10

Speaker A

И там право человека надо соблюдать, э, и добиться какого-то вот того, что в английском называется алайнмен, то есть соответствие некоторым человеческим целям от моделей, кажется, можно. Есть команды, которые над этим работают.

44:23

Speaker A

Слушай, я вот, знаешь, задумался по поводу нашего восприятия и нашей памяти. Мы ведь не помним, э, буквально, да, мы помним какими-то фрагментами, какими-то образами вот эта операция памяти, что на самом деле было. А не факт, что было так, как мы это помним. А тут есть много

44:40

Speaker A

всего, там, включая некие эмоциональные моменты, которые тоже это всё окрашивают. А, и это ведь тоже такая не простая вещь. То есть у машины этого, как я понимаю, нет, да? То есть этой фрагментированной памяти, вот орации памяти. Это ведь то, что

44:55

Speaker A

есть. То есть вот расскажи, как это устроено у модели сейчас, насколько они похожи на нас и в чём особенность вот этого дело в том, что строго говоря, памяти у моделей нет.

45:08

Speaker A

То есть есть отдельное количество м стартапов сейчас, которые пытаются сделать как бы layer для моделей, чтобы память работала именно не фрагментированно, а ну как бы чтобы она, во-первых, была динамической, чтобы модель запоминала хорошо то, что мы ей сказали, а с другой стороны очень точно,

45:24

Speaker A

да, потому что сейчас что происходит? Модель хорошо, ну, то есть модель - это не искусственная неровная сеть, у неё есть какие-то веса. В этих весах есть информация о там в сжатом виде, о тех данных, которые были в обучающей

45:37

Speaker A

выборке. И модель, когда мы задаём промт, как бы восстанавливает из этих весов информацию, соответствующую нашему БРМ.

45:47

Speaker A

То есть мы её можем спросить о чём-то, не знаю, в каком году ээ Наполеон значит, не знаю, там повёл Великую армию на Российскую империю, да?

45:58

Speaker A

И она отвечает 812. А, но если ты помнишь, ранние модели не всегда справлялись с этой задачей, иногда отвечали там 803 или 807 или вообще там непонятно, что говорили.

46:13

Speaker A

И связано это с тем, что, ну, это некоторый процесс, то есть, ээ, мы итеративно улучшаем эти системы, делаем их больше, тестируем на разного рода знания. И сейчас такого рода системы обладают, во-первых, очень высоким уровнем фактического знания.

46:30

Speaker A

и стабильно восстанавливают фактическое знание. Если у нас вопрос на факт, то система довольно часто из коробки может на этот факт хорошо ответить. Но даже сейчас они иногда ошибаются, регуляционируют.

46:43

Speaker A

То есть вот в в том смысле, в котором память работает, классическая память на компьютере, как жёсткий диск или флешка, память ээ искусственных неровных сетей так не работает. А и есть куча разных техник. Люди исследуют то, как, к примеру, при помощи промтано что-то там

47:00

Speaker A

сделать так, чтобы модель неправильно сработала. У людей, наверное, самый понятный аналог - это какого цвета ээ мел, какого цвета облака, ээ что пьёт корова, да, как бы и и часто люди в этот момент отвечают молоко, да, они отвечают не воду, а

47:20

Speaker A

да, да, они отвечают молоко, потому что белый, белый молоко. И это пример буквально галлюцинации человеческого мозга.

47:27

Speaker A

в ответ на последованость промтов. Похожего рода атаки на искусственные сети учёные тоже и хакеры разрабатывают, пытаясь до них добиться нежелательного поведения или добиться галлюцинации, когда они ошибочный ответ предлагают и так далее.

47:42

Speaker A

То есть память искусственных нейронных сетей, она работает не так, как классическая память компьютера, а насколько она работает так, как наша память, довольно сложно сказать, потому что мы плохо понимаем, как наша память работает, и плохо понимаем, как работает память

47:56

Speaker A

искусственных нейронных сетей. То есть аналогия между искусственными нейронными сетями и биологическими, она прямая, потому что люди, которые придумали искусственные нейронные сети, вдохновлялись знаниями о человеческом мозге. Но она не стопроцентная, потому что щёческий мозг - это какая-то сложная аналоговая и, может быть, даже

48:11

Speaker A

квантовааналоговая система. Сигналы не нолики, единички, а а всё, что попало. В человеческом мозгу помимо, собственно, соединений и аксонов есть дендриты. Мы не до конца понимаем, что они делают, но они там есть. То есть такие отростки от от клетки, которые не заканчиваются

48:29

Speaker A

синапсом, по которому бежит сигнал, да? Э там куча, она всё это плавает в каком-то супе. из разного рода гормонов, которые влияют на то, как работает вся эта система. Концентрации этих гормонов сложно устроены и меняются значительно медленнее, чем бегают сигналы по этой системе. То есть,

48:47

Speaker A

грубо говоря, у человеческого мозга есть несколько масштабов времени, на котором он работает, да? Есть гормональный масштаб, есть как бы, ну, то есть какой-то глобальный, есть локальный. В общем, мы очень плохо понимаем, что там происходит. В этом смысле у меня есть

48:59

Speaker A

любимая научная статья четырнадцатого года. Два шведских учёных написали статью, может ли нейробиолог понять, как работает процессор. И они статья, собственно, сводится к тому, что они говорят: "Возьмём процессор там Pentium и попробуем применить методы современной нейробиологии для того, чтобы реверс

49:15

Speaker A

инженерингом понять, как работает Ptium." И дальше они показывают, что, ну, что как бы мы берём, будем выключать разные транзисторы и смотреть, что запускается на пентиуми, а что нет. И, о, боже мой, там вот, допустим, мы выключили транзистор, игра Кон перестала

49:27

Speaker A

запускаться. Означает ли это, что мы нашли транзистор игры Кон? Нет. Это не означает, мы нашли транзистор умножения.

49:33

Speaker A

Вот игры, в которых умножение было не нужно, всё сложением делать, по-прежнему работают. Игра Конг поломалась. М, соответственно, их основной тезис он в том, что давайте как бы, когда мы будем заниматься нейробиологией, предлагать те методы, которые нам при помощи реверс

49:46

Speaker A

инженеринга помогут процессор понять без знаний процессора. Вот возьмём процессор как чёрный ящик, поймём, как он устроен.

49:52

Speaker A

Если такой метод процессор может нам разобрать, после этого давайте его к мозгу живому применим, потому что, ну, тогда у нас есть некоторая методологическая валидация метода. И в общем, с тех пор, с четырнадцатого года, как я понимаю, в науках не произошло

50:04

Speaker A

какого-то прорыва, когда появился метод, который позволял бы хорошо валидировать методы исследования мозга для того, чтобы прямо получать интерпретируемые результаты достоверные. И поэтому мы не знаем, как наша память работает. Мы знаем, что память нейронных сетей работает не так, как компьютерная, но

50:19

Speaker A

насколько наши и их похожи, сложно сказать, потому что здесь есть ещё место для научного исследования.

50:26

Speaker A

А что дальше? Как ты думаешь, вот, э, мы встретимся с тобой, допустим, через там пару месяцев, э, в технологическом смысле, в технологии сильно изменится мир, как ты думаешь? Тут можно ли дать какой-то прогноз? Сначала мне кажется, технологии уже давно сильно

50:41

Speaker A

не меняются, и меня это сильно беспокоит. То есть, честно говоря, главное, что меня беспокоит - это то, что я не ощущаю каких-то количественных, а-э, вернее, нет, качественных, качественных прорывов последний год.

50:59

Speaker A

То есть модели появляются, они работают, а, но какого-то ощущения, которое было при переходе там вот когда появился чат до птитри, а потом в какой-то момент вот вот с тёх до 4,5 было совершенно другое ощущение динамики. Её на самом деле хорошо видно

51:18

Speaker A

на графиках. А сейчас, возможно, мы не чувствуем динамики, потому что мы вообще перестали понимать на на чём их тестировать. То есть, грубо говоря, всё, на чём мы могли тестировать модели, мы уже решили. Возможно, дело в этом. А, возможно, дело в том, что происходит вот

51:31

Speaker A

это самое выполаживание, о котором я говорил. А, и, к примеру, а, а, здесь, наверное, опять же, для интеллектуальной честности важно привести а позицию э както Бейли, по-моему, зовут его. В общем, финансовый аналитик, врач по образованию, который, а, в своё время

51:51

Speaker A

предсказал Бьюри. Бюри Майкл Бьюри. Это человек, который когда-то предсказал кризис 2008 года и очень много денег заработал на обвале рынка недвижимости американского. Да. Вот Майкл Бюри недавно сделал заявление, что на его взгляд ээ текущий модельный рынок - это

52:08

Speaker A

пузырь и что, собственно, качество модели выполаживается и что компании всеми силами пытаются, э, раздувать хайп, чтобы выйти на IPO, потому что в действительности никаких э прорывов уровня, которые мы видели там 2-3 года назад, мм, не наблюдается. А это его

52:25

Speaker A

позиция. Он тоже, в общем, заметный и довольно эксперт. Понятно, что у него свой интерес. Скорее всего, он шортит или готовится шортить компании, связанные со всем стеком. а, искусственного интеллекта, чтобы опять на этом заработать. Ну, э, если говорить про среднесрочную перспективу, то мне

52:39

Speaker A

кажется, что, во-первых, будет IPO, от того, как оно пройдёт, будет сильно зависеть всё остальное. А во-вторых, скорее всего, после IPO в какой-то момент случится охлаждение в том или ином виде. Оно может быть более резким, оно может быть более плавным.

52:53

Speaker A

Проблема с пузырём в том, что даже в случае, если технологии валидные, даже в случае, если технологии приносят людям пользу, когда достаточно большое количество человек верит в то, что это в пузырь, надо срочно забирать деньги, рынок всё равно схлопывается. Это грозит

53:08

Speaker A

серьёзными финансовыми последствиями для огромного количества людей всё равно, даже если технология валидна, да, то есть но как бы рыночная экономика проходит через эти циклы роста и и коллапса. И я с точки зрения экономики я бы ожидал вот вот этого, да, то есть то,

53:22

Speaker A

что будет IPO, дальше в какой-то момент произойдёт схлопывание. Тут важно понимать, что хорошо предсказать, когда что схлопнется очень сложно. А нужно скорее диверсифицироваться, чем чем пытаться угадать момент, когда всё схлопнется. Э а второе, после того, как схлопнется, станет понятно,

53:38

Speaker A

собственно, какие компании из этого всего блока действительно создавали ценность для людей и работали. Как это было понятно после пузыряду доткомов?

53:46

Speaker A

там YouTube, Google, Amazon все были основаны до пузырят, выжили его и, в общем, сформировали новую реальность после, да, компания pets.com умерла. А значит, и здесь произойдёт, скорее всего, то же самое. Есть ещё огромный фактор Китая. То есть, скорее всего, до,

54:03

Speaker A

э, того, как этот пузырь лопнет, э китайские модели будут оставаться открытыми и будут доступны для всего человечества. И в этом смысле я бы всем советовал, э, просто залейте хорошую китайскую модель себе на жёсткий диск.

54:15

Speaker A

Ну, чисто на всякий случай. Ну, чтобы было. Ну, потому что залить хорошую китайскую модель или вообще там ламут залить на жёсткий диск, просто чтобы была, это классная штука, потому что, ну, мало ли чего произойдёт, там регуляции какие-нибудь случатся там или

54:28

Speaker A

вот пузырь лопнет, компьютер подорожает, там пятая, десятая. Вот всю Википедию скачивать, ну, можно, но это намного менее юзабельная штука, чем такая моделька. А вот такую модельку, как бы, вы потом можете локально развернуть. И там буквально много знаний. Практически

54:42

Speaker A

все знания человечества в интерактивном виде. Вы потом из неё може много чего сделать. То есть, да, даже если всё будет хорошо и всё будет супер хорошо и модели будут даже прогрессировать, вы потом в музее эту модельку сдадите, и

54:54

Speaker A

люди будут с ней разговаривать, чтобы вспоминать, как 100 лет назад примитивно вели себя все эти системы, да? То есть это первое, что нужно сделать. То есть мне кажется, если вы ещё не потрогали локальные модели, потрогайте обязательно что-то с ними поделайте, хороший, не

55:06

Speaker A

знаю, петпроект, сделайте, умный дом с ребёнком на базе какой-нибуд открытой модельки, чтобы всё локально у вас там дома бежало. Много ума не надо и много компьютера не надо для того, чтобы модель могла, не знаю, там шторы дёргать, розетки включать,выключать ваш

55:18

Speaker A

голос слушать, ээ включать те или иные приборы. А лучшего способа объяснить подростку вообще, как работает интернет вещей, как работают современные технологии и ещё и сделать классную штуку, которой вы будете гордиться, но я не вижу. То есть как бы прямо более

55:33

Speaker A

того, вы можете взять коммерческую модель, которая вам поможет этот проект сделать, и она вам поможет и код написать, и всё задеплоить, и у вас будет дома свой маленький локальный Jarvс, который будет, не знаю, вам э кофе включать когда надо. Особенно, если

55:47

Speaker A

у вас кофемашина с возможностью как-то с ней связаться по сети, вообще супер. Можно много чего придумать. Короче, я бы советовал в эту сторону подумать. И с точки зрения ресёрча, мне кажется, первый там серьёзный вопрос - это штуки вокруг эмпатии. То есть насколько эти

56:03

Speaker A

модели смогут вообще взаимодействовать с людьми в вещах, не связанных с фактологией и с работой белых уротничков.

56:12

Speaker A

Насколько мы сможем и как быстро мы сможем перестроить экономику на экономику, в которой большую часть работы делает испыный интеллект, и насколько быстро мы сможем поменять образование, потому что образование, конечно, нужно совершенно по-другому выстраивать, когда у нас есть эти технологии. И нам нужно признать,

56:29

Speaker A

наверное то что есть развитие человеческого мозга, а есть образование. И мы как-то исторически склеили две эти вещи. А, может быть, надо расклеивать.

56:41

Speaker A

То есть, грубо говоря, а образование в том смысле, что вот мы получили навыки, которые нам нужны для рынка труда, это не то же самое, что вот наша нейронная сеть работает определённым образом.

56:51

Speaker A

Наверное, самый яркий пример - это а письмо от руки. Значит, письмо от руки - это мелкая моторика, которая много чего развивает в мозгу человека, помимо того, чтобы просто писать от руки.

57:03

Speaker A

И мы очень плохо знаем про эти вещи. То есть мы не знаем, к примеру, от того, что ваш ребёнок хорошо пишет от руки или просто пишет от руки, что ещё он умеет, да? То есть мы, к примеру, знаем, что

57:15

Speaker A

умение читать снижает ваше качество запоминания лиц, потому что та часть коры головного мозга, которая отвечает за грамотность, примерно там же находится распознавание лиц. И есть какое-то количество статей, которые показывают, что вроде бы там есть обратная корреляция. То есть, если вы

57:30

Speaker A

научили человека читать, он будет хуже запоминать лица, чем если вы его не учите, да? Потому что у нашего мозга ограниченое количество нейронов, и надо бы разложить разные навыки в разные места. Вот. А там, допустим, написание от руки - это некоторая умирающая

57:43

Speaker A

фактура. Современные дети почти всегда пишут что-то на экране телефона, а иногда даже говорят. Но возможно написание от руки - это та мелкая моторика, которая нужна много для чего.

57:52

Speaker A

И тогда, если нам не нужно написание от руки, на чём мы добьёмся того уровня мелкой моторики, который нам нужен, чтобы довести нейросеть внутри нашей головы до того уровня компетенции, который нам нужен. Не знаю, может быть, нам надо LEGO собирать

58:08

Speaker A

ээ на уроках физики, не знаю, там в начальной школе, потому что если мы от руки не пишем, нам нужно мелкую моторику через LEGO развивать, да? А может быть нам нужно, не знаю, там где ещё нужна мелка бисером, не знаю, что-то

58:22

Speaker A

плести больше. Ну то есть вот такой пример, да? То есть есть, поскольку наши биологические нерасите устроен сложные, мы не всегда понимаем, какие действия в реальном мире влияют на наше развитие. И там непаханное поле вообще того, как это исследовать.

58:36

Speaker A

Нам нужно понять, как переделать образование и развитие так, чтобы не А раннее развитие суперважно для вообще человека. И чем мир будет сложнее, чем больше в нём будет технологии, тем важнее раннее развитие.

58:47

Speaker A

В этом смысле самый радикальный пример позиции - это основатель компании Scalei, которая купила мета и говорит, что я откладываю появление детей до появления интерфейсов мостко компьютера, потому что есть качественное различие между людьми, которые родятся после появления интерфейса мост компьютера и

59:02

Speaker A

до, потому что те, которые родятся, по его мнению, после появления интерфейса мозг компьютера, они как бы будут намного умнее, намного способнее и намного комфортнее себя будут чувствовать в этой реальности, чем люди, которые родились до. Довольно странные, на мой взгляд, утверждение, потому что

59:15

Speaker A

понятно, что на раннем этапе все технологии будут иметь какие-то неожиданные последствия и многие из них будут негативными. Поэтому я как бы не разделяю позицию это, но я просто хочу привести некоторые краевую позицию, чтобы наши зрители понимали как бы

59:28

Speaker A

спектр возможностей и спектр изменений. То есть, ну, интерфейс мост компьютера - это тоже что то, что нужно ждать.

59:33

Speaker A

Кстати, искусственные нейронные сети помогают, к примеру, повышают наши шансы на неинвазивные интерфейсы такого типа, потому что инвазийные интерфейсы, как компания Нейролин делает, когда они вставляют прямо такие электроды в мозг, мм, ну, это сложно, и там есть биологические ограничения разного рода,

59:48

Speaker A

а неинвазивные, кажется сильно проще, можно какую-нибудь придумать гарнитуру, не знаю, в конце концов, наушники.

59:55

Speaker A

Огромное количество людей живёт просто в спос в ушах. Вот можно там ещё пару каких-то контактов на голову повесить и дальше, к примеру, снимать картину электромагнитных сигналов мозга. Она сильно шумная, но оказывается, что при помощи искусственной нейронной сети, которая специально обучена, распознавать

60:10

Speaker A

сигналы и расшифровывать этот шум, э её можно как-то юстировать, потому что у нас у каждого сигналы очень по-разному устроены, но можно сделать искусственный интеллект, который позволяет, значит, в достаточной мере стабилизировать эти интерфейсы неинвазивные. То есть, грубо говоря, у вас есть штука, которая

60:27

Speaker A

позволяет там вас там сило и мысли отвечать на звонки телефона или там говорить: "Да, нет, уже сейчас". Такие штуки возможны и возможны благодаря алгоритмам искусственного интеллекта.

60:38

Speaker A

Ну, скорее всего эта штука будет тоже развиваться. И тут интересный вопрос: в какой момент у нас появится возможность записи? То есть интерфейс MOS компьютера, когда MOS Creed only, это как бы, наверное, первый шаг. Но следующий вопрос, это можно ли сделать

60:53

Speaker A

как бы интерфейс мозг компьютера, когда в мозг можно что-то писать, потому что, ну, как бы тогда там с образованием тоже сильно всё поменяется, да? И, кстати, мы узнаем, чего наш мозг может, потому что тоже интересный вопрос. Он про то, что мы, когда говорим про

61:09

Speaker A

возможности нашего мозга, мы всё время как бы исходим из того, что наши возможности мозга сейчас это как бы некоторый пик и выше ничего не будет. Но есть когортные исследования, которые показывают, что средний IQ людей в мире, судя по всему, рос последние 100 лет

61:28

Speaker A

стабильно за счёт системы всеобщего образования, видимо, за счёт изменения, не знаю, условий питания, среды, за счёт того, что мы живём во куда более стимулирующем наш мозг, скажем так, мире. Или, возможно, за счёт того, что мы как-то отбираемся по принципу IQ, то

61:43

Speaker A

есть люди с IQ не знаю, размножаются лучше или как бы успешнее становятся, но так или иначе как-то вот за последние 100 лет в среднем IQ ROS а сейчас есть сомнения про то, продолжается это или нет. Возможно, кстати, технологии на это

61:57

Speaker A

влияют, потому что они кардинально меняют многие общественные институты. И это не только искусственный интеллект, а скорее социальные сети и вот, не знаю, м такие штуки, как YouTube или TikTok.

62:09

Speaker A

сильно меняют мир. А и и возможно вот этот процесс роста нашего интеллекта на какое-то время остановился. Но совершенно очевидно, что среднестатистический человек сейчас и среднестатистический человек 200 лет назад обладают совершенно разными возможностями мозга. Вот буквально. То есть ээ и дело. Ну вот вы можете предложить

62:30

Speaker A

какой-то набор когнитивных тестов, и они будут совершенно по-разному выполнены. Просто потому, что та самая культура, о которой мы сегодня уже говорили, она очень сильно поменялась, и она стала намного более вызывающей для нашего мозга. То есть мир вокруг нас стимулирует наш мозг намного

62:48

Speaker A

сильнее, чем мозг наших предков. Э, и это тоже, в общем, интересно, потому что мы на самом деле не знаем, что ещё можно.

62:56

Speaker A

Ну что ж, мы продолжим за этим следить. Спасибо тебе за этот разговор и до следующей встречи. Всего доброго.

63:01

Speaker A

Спасибо. Пока. เฮ

Topics: искусственный интеллект сверхинтеллект Иван Емщиков уравнение Навье-Стокса OpenAI Anthropic генеративный ИИ этика ИИ математика научные спекуляции


---
This is the markdown twin of https://sozai.app/transcript/scientist-explains-superintelligence-threat-misleading/ — the same content, without the markup.
Published by SozAI (https://sozai.app). Reuse and quotation are allowed with attribution and a link back.
Machine-readable index: https://sozai.app/llms.txt · data API: https://sozai.app/api/