Speaker A
Друзья, привет. Как-то давно уже, наверное, я начал серию роликов про искусственный интеллект, где-то года, наверное, с девятнадцатого, когда это ещё не было мейнстримом. Вот. И меня тогда вот именно суетила часть именно интеллекта.
Обсуждение текущего состояния искусственного интеллекта и заявления главы NVIDIA о достижении AGI с экспертами.
Key Takeaways
- Искусственный интеллект — сложное и многогранное понятие без единого определения.
- Существуют разные уровни ИИ, от узкого до сверхсильного, каждый со своими особенностями и ограничениями.
- Текущие технологии ИИ далеки от достижения настоящего AGI, несмотря на громкие заявления.
- Этические и социальные проблемы узкого ИИ требуют особого внимания.
- Необходимо критически оценивать заявления крупных игроков рынка, учитывая их заинтересованность.
What the video covers
- Автор рассказывает о своей давней серии видео про искусственный интеллект, начиная с 2019 года.
- Обсуждается сложность определения термина 'искусственный интеллект' и разные школы его изучения.
- Разделение искусственного интеллекта на четыре ступени: узкий, широкий, общий и сверхсильный ИИ.
- Примеры применения узкого ИИ в системах управления, распознавания речи и принятия решений.
- Проблемы узкого ИИ, включая дискриминацию и ограниченную применимость вне заданной среды.
- Критика громких заявлений о достижении AGI, в частности, высказывания главы NVIDIA Хуанга.
- Этические вопросы и сложности объяснения решений ИИ на примере китайской нейросети для выявления коррупции.
- Технические аспекты развития ИИ и сомнения в возможности достижения сильного ИИ на основе текущих моделей.
- Рассмотрение роли ИИ в военных операциях и прикладных продуктах, где ИИ будет работать незаметно для пользователя.
- Общее предупреждение о чрезмерных ожиданиях и важности критического подхода к заявлениям о развитии ИИ.
Chapters
- 00:00Введение и история серии видео про ИИ
- 03:46Сложность определения искусственного интеллекта
- 07:27Проблемы и примеры узкого искусственного интеллекта
- 11:11Заявления главы NVIDIA о достижении AGI
- 15:06Технические аспекты и развитие ИИ
- 19:11Этические вопросы и дискриминация в ИИ
- 23:59Военное применение и прикладные продукты ИИ
- 26:53Заключение и критический взгляд на заявления о ИИ
Full Transcript — Download SRT & Markdown
Speaker A
Готов ли он, не готов, интеллект ли он вообще и так далее. То есть всю эту серию роликов вы можете посмотреть на канале. Это здесь проблем нету.
Speaker A
Готов ли он, не готов, интеллект ли он вообще и так далее. То есть всю эту серию роликов вы можете посмотреть на канале. Это здесь проблем нету.
Speaker A
на таком уровне, что в каждом каждый суслик в поле агрономом стал. Вот. И в общем-то чего рассказывать, когда все прекрасно это видят. Но то техническая часть. Про техническую часть я, в принципе, вам не рассказываю, не говорю о ней, потому что я не специалист в этом
Speaker A
Единственное, что они как-то не сбиты в какой-то единый плейлист, а разрознены. Ну не в этом суть. Суть в том, что мне после этих, после этой серии видео было больше нечего вам сказать, потому что к тому моменту развитие нейросетей стало
Speaker A
нас сразу какой-то сверхразум, суперразум, там искусные, неискусные. В общем, есть было масса предположений, то есть сверхразум наступает, по-моему, там что-то такое как-то ролик назывался. Так вот, и в одном из видео мы как раз-таки пытались терминологию вот эту вот
Speaker A
на таком уровне, что каждый суслик в поле стал агрономом. Вот. И в общем-то чего рассказывать, когда все прекрасно это видят. Но то техническая часть. Про техническую часть я, в принципе, вам не рассказываю, не говорю о ней, потому что я не специалист в этом
Speaker A
вкратце. Искусственный интеллект - это настолько [музыка] сложный термин, связан с сложностью того, что нету единого понимания, что такое [музыка] просто интеллект. Существует много школ, которые изучают интеллект. И вот в каждой школе есть свой подход [музыка] и своё понимание этого. Соответственно,
Speaker A
вопросе. Есть специалисты по нейросетям, и они расскажут гораздо больше. Меня всегда интересует именно суть вещей. И в одном из видео мы как раз говорили про то, что интеллект, сильный искусственный интеллект, мы как бы перешагнём даже эту ступень и станет у
Speaker A
пятьдесят шестого года, уже практически утратило смысл. Так как термин искусственный интеллект довольно сильно затаскан, то я бы разделил всё-таки [музыка] искусст понятие искусственного интеллекта на четыре ступеньки. Это такие ступеньки, [музыка] как узкий искусственный интеллект, широкий общий искусственный интеллект и сверхсильный
Speaker A
нас сразу какой-то сверхразум, суперразум, там искусные, неискусные. В общем, было масса предположений, то есть сверхразум наступает, по-моему, там что-то такое, как-то ролик назывался. Так вот, и в одном из видео мы как раз-таки пытались терминологию вот эту вот
Speaker A
Узкий искусственный интеллект, в принципе, всем нам известен, потому что [музыка] системы управления автомобилем, системы распознавания синтеза речи, системы [музыка] принятия каких-то решений о выдаче вам кредита, это всё делает узкоискусственный интеллект. Он анализирует большое количество параметров. и выдаёт какой-то из
Speaker A
привязать. То есть, что же значит узкий и сильный и так далее и тому подобное. Одна из компаний, которая давала мне интервью, показала, как они сами этот вопрос видят и что они в эти термины вкладывают. Ну вот, давайте
Speaker A
того, из-за узости стают очень остро вопросы о применимости этическом э этого [музыка] искусственного интеллекта. Ну, один из таких случаев это был в Китае, когда [музыка] создали нейросеть, которая по поведению чиновников могла определять, [музыка] насколько они коррумпированы. То есть,
Speaker A
вкратце. Искусственный интеллект — это настолько [музыка] сложный термин, связан с сложностью того, что нет единого понимания, что такое [музыка] просто интеллект. Существует много школ, которые изучают интеллект. И вот в каждой школе есть свой подход [музыка] и своё понимание этого. Соответственно,
Speaker A
нейронная сеть, она начинала дискриминировать либо по полу, либо по расе, либо ещё по каким-то параметрам.
Speaker A
искусственный интеллект — это понятие ещё более сложное, [музыка] потому что мы, во-первых, знаем только один интеллект человеческий, [музыка] который тоже не понимаем, а во-вторых, этот термин сейчас настолько часто используется, что изначальное представление, которое было дано на Дармутской конференции [музыка]
Speaker A
совмещение, э, решения нескольких видов задач одной системой. [музыка] То есть это относится к широкому искусственному интеллекту. И в принципе сейчас основные разработки ведутся на то, чтобы расширить возможности [музыка] существующих решений. Следующая ступенька - это общий искусственный интеллект, также известен под
Speaker A
пятьдесят шестого года, уже практически утратило смысл. Так как термин искусственный интеллект довольно сильно затаскан, то я бы разделил всё-таки [музыка] понятие искусственного интеллекта на четыре ступеньки. Это такие ступеньки, [музыка] как узкий искусственный интеллект, широкий, общий искусственный интеллект и сверхсильный
Speaker A
общим интеллектом, обладать разумом. [музыка] Здесь это кроется основное отличие от человека и машины. Простыми словами, - это достижение машины уровня естественно [музыка] человеческого интеллекта. И последняя ступенька - это сильный искусственный интеллект. То есть в данном случае возможности машины
Speaker A
искусственный интеллект. Но тут, наверное, думаю, нужно пояснить, что означает каждый из этих терминов. Если мы говорим про узкий искусственный интеллект, то это возможность машины решать [музыка] задачи, а так, как решает человек, но, возможно, даже на более сильном уровне. [музыка]
Speaker A
осталась та же. М технически мы развиваемся, и рассматривать весь этот узкий и, так скажем, да, можно только с технической стороны. Но Хуан к нам говорит: "Ребята, а мы уже достигли AGI." Совсем недавно он говорил, что для этого потребуется какое-то время, но, видимо,
Speaker A
Узкий искусственный интеллект, в принципе, всем нам известен, потому что [музыка] системы управления автомобилем, системы распознавания, синтеза речи, системы [музыка] принятия каких-то решений о выдаче вам кредита, это всё делает узкоискусственный интеллект. Он анализирует большое количество параметров и выдаёт какой-то из
Speaker A
день очень много. И люди, которые не следили за данной тематикой ещё там со стародавних каких-то времён и так далее, то есть они не ждали этого того самого AGI, они не понимают, где грань, ээ, и ээ не понимают разницы. Ну, смотри, на
Speaker A
ответов. Но [музыка] здесь есть проблемы. То есть узость означает, что любое изменение среды, в которой работает искусственный интеллект, любое изменение параметров, выход за пределы того, что он имеет, ведёт [музыка] сразу к краху или ошибочности принимаемых решений. И кроме
Speaker A
[фыркает] Вот одна делает одно, другая другая, третья, третья. Вот тебе, пожалуйста, вот всё это. Это, собственно AGI.
Speaker A
того, из-за узости становятся очень остро вопросы о применимости этическом э этого [музыка] искусственного интеллекта. Ну, один из таких случаев это был в Китае, когда [музыка] создали нейросеть, которая по поведению чиновников могла определять, [музыка] насколько они коррумпированы. То есть,
Speaker A
говорим, да? Почему Хуанк вообще об этом сказал? Ну, давай будем честными. Он главный выгодоприобретатель всей этой волны.
Speaker A
поработав год, систему пришлось отключить, потому что хоть она может и выдавала какие-то результаты верные, но, э, объяснить, [музыка] почему этот чиновник коррумпированный или нет, она не могла. То есть также, в принципе, было много громких случаев, когда такой вот узкий искусственный интеллект,
Speaker A
А тему AGI, замену человеку, общий искусственный интеллект, эта тема хорошо продаётся. И там тот же Open на самом деле привлекали инвестиции именно под тему AJI. что мы создадим вот что-то революционное. И это хороший способ разгонять волну, разгонять шумиху, вот, и на этом увеличивать свою
Speaker A
нейронная сеть, она начинала дискриминировать либо по полу, либо по расе, либо ещё по каким-то параметрам.
Speaker A
поэтому, ну, у него здесь, что называется, ищите кому выгодно. Вот ему это напрямую выгодно. Если мы говорим про терминологию, слушай, действительно, здесь, э, термины AGI общегоустоявшегося не существуют.
Speaker A
Второй ступенькой является широкий искусственный интеллект. Широта означает то, что вот наш искусственный интеллект, который ограничен узкой задачей, должен потихоньку расширять свои возможности. Для начала это может быть решение того же класса задач, только в разных диапазонах, в более широком диапазоне. А второе — это
Speaker A
То есть они пытались через деньги, а у китайцев своё определение. Здесь как раз-таки вот в этом проблема в том, что общеустоявшегося термина нету. Что такое AI? И принято считать, что это, ну, такая устоявшаяся, скажем так, история про то, что это инструмент, который
Speaker A
совмещение, э, решения нескольких видов задач одной системой. [музыка] То есть это относится к широкому искусственному интеллекту. И в принципе сейчас основные разработки ведутся на то, чтобы расширить возможности [музыка] существующих решений. Следующая ступенька — это общий искусственный интеллект, также известен под
Speaker A
обладать четырьмя критериями, там мышление, память, планирование, ээ там долгосрочное, ну, стратегическое и там, например, оперативное и обучение. И вот когда начинаешь это всё разбирать, вроде бы там тот же G5T6, там, не знаю, Astro, он действительно может решить задачи
Speaker A
аббревиатурой AI. Это способность системы решать любые задачи в сложных средах с ограниченными [музыка] ресурсами. Эта ступенька хоть уже и близка к человеческому мышлению, но здесь [музыка] стоит вопрос интеллекта и разума. То есть должна ли система [музыка] обладающая таким широким интеллектом,
Speaker A
на практике он доводит до результата только под твоим руководством. Вот. И когда мы начинаем разбирать блок всё-таки обучения, мышления, там начинает всё ломаться. Вот. Потому что тоже мышление, он, например, прекрасно справляется с аналитическим мышлением, с сопоставлением.
Speaker A
общим интеллектом, обладать разумом. [музыка] Здесь кроется основное отличие от человека и машины. Простыми словами — это достижение машины уровня естественного [музыка] человеческого интеллекта. И последняя ступенька — это сильный искусственный интеллект. То есть в данном случае возможности машины
Speaker A
приходит, говорит: "Да нет, всё хорошо". А ты мне говоришь: "Смотри, а вот если такая мысль, и вот эту мысль он разбирает, декомпозирует, сопоставляет с тезисами в книге и говорит: "А вот это, да, это классно, это вот сюда пойдёт,
Speaker A
должны многократно превосходить уровень [музыка] развития интеллекта человека. Несмотря на то, что я говорил вам, что мне нечего сказать больше по этой теме ещё совсем недавно, потому что, ну, действительно, мы дошли до сегодняшнего дня довольно быстро, и, но суть
Speaker A
вообще посмотрим, а-а, а что можно?" Вот типа ты выступи продуктовым а продуктовиком и какие идеи ты можешь сформулировать. И в итоге он генерит абсолютно среднестатистические идеи. Вот то, что есть в рынке у всех, он тебе примерно то и выпишет. Поэтому он у него
Speaker A
осталась та же. Мы технически развиваемся, и рассматривать весь этот узкий и, так скажем, да, можно только с технической стороны. Но Хуан к нам говорит: "Ребята, а мы уже достигли AGI." Совсем недавно он говорил, что для этого потребуется какое-то время, но, видимо,
Speaker A
в этом блоке задач он довольно плох с точки зрения мышления. С точки зрения памяти, ну, смотри, а у него действительно есть кратковременная память это контекстное окно, но когда оно заполняется, он начинает тупить.
Speaker A
нужно увеличить рост акций, там ещё что-то. В общем, Хуангом-то не заржавеет, но какого чёрта разве мы достигли AI или опять и снова у нас проблема в терминологии? В общем, давайте разбираться в этих вопросах, потому что путаницы на самом деле на сегодняшний
Speaker A
есть файлы, реестры, выдержки, то есть я ему даю внешние документы, которыми он оперирует. И на самом деле также у них устроена долговременная память у всех: и у Deпсика, и у остальных. Они смотрят твои чаты, что-то оттуда выдёргивают, сохраняют какую-то папочку и просто её
Speaker A
день очень много. И люди, которые не следили за данной тематикой ещё там со стародавних каких-то времён и так далее, то есть они не ждали этого того самого AGI, они не понимают, где грань, ээ, и ээ не понимают разницы. Ну, смотри, на
Speaker A
который под него собрали, да, он знает огромное количество разных направлений, но он статичен, он не дообучается. Были эксперименты того же Майкрософта, если мне память не изменяет, чатбот тау, э-э, я уж не помню в каком году, когда они его выпустили, дали ему полное са
Speaker A
сегодняшний день там всё может делать. Вот она две-три штуки вместе с там мы их ставим.
Speaker A
агрегировать и там менять свои веса. И опять же то же самое обучение на подьзователя почему-то тяжело строить, что если ты модель, ну, если уж он будет переобучаться сам, сама модель под каждого пользователя, но там веса будут скакать, он будет сходить с ума. Поэтому
Speaker A
[фыркает] Вот одна делает одно, другая — другая, третья — третья. Вот тебе, пожалуйста, вот всё это. Это, собственно, AGI.
Speaker A
инженерные костыли, определённая обвязка. Помимо предпринимателя Джимшера, я хотел поговорить ещё и с человеком из научной сферы. Да и вот Александр Перевалов - это как раз-таки тот самый человек, это кандидат наук.
Speaker A
Ну, давайте разбираться. Так, Джимшер, большой тебе привет. И начнём с самого главного, с того, что сказал Хуанг. Ээ, почему он сказал, что мы на сегодняшний день достигли AGI. И давай ещё раз пройдёмся по терминологии, чтобы понимать, о чём мы, собственно,
Speaker A
воспроизведение того, что уже было в обучающей выборке, а о создании чего-то нового. То есть даже если мы не говорим о той же самой задаче, к примеру, классификация текста на обучающей и тренировочной выборке, а здесь всё-таки речь идёт про, а, обобщающую способность
Speaker A
говорим, да? Почему Хуанг вообще об этом сказал? Ну, давай будем честными. Он главный выгодоприобретатель всей этой волны.
Speaker A
чтобы у нас языковая модель обучилась, необходимо позвать, а, специалистов, позвать создателей этой модели, которые выгрузят данные, запустят цикл обучения, и модель очень долго, используя очень много компьютера, будет менять свои внутренние настройки, скажем так, свои веса. Вот в сильном
Speaker A
Тема искусственного интеллекта была и с волной блокчейна. То есть сейчас де-факто все модели передовые работают на его ускорителе. Да, там сейчас Huawei пытается эту историю тоже подхватить. Тему узкого искусственного интеллекта тяжело продавать.
Speaker A
Это Open AI, TNT. -э то, что их модели и агенты на основе их моделей не могут работать на очень длинном горизонте, а размышлений и выполнять очень длинные процессы, очень длинные задачи. Вот это то, с чем сейчас в принципе прикладные
Speaker A
А тему AGI, замену человеку, общий искусственный интеллект, эта тема хорошо продаётся. И там тот же Open на самом деле привлекали инвестиции именно под тему AGI, что мы создадим вот что-то революционное. И это хороший способ разгонять волну, разгонять шумиху, вот, и на этом увеличивать свою
Speaker A
А можем ли мы ей доверять, особенно в каких-то критичных ситуациях, критичных для жизни человека, когда решается судьба человека? А здесь, наверное, это самый главный вопрос. Вот. То есть AI стоит на этих четырёх столпах.
Speaker A
капитализацию, свои продажи. Ведь он же даже не зря сказал там то, что GPT-6 Astra была обучена, по-моему, там на 100.000 ускорителей, а давайте следующее поколение на 400.000 ускорителей. Если посмотреть финансовую отчётность, у них сейчас рекордные показатели и рекордная капитализация,
Speaker A
Да. Ну тут опять же речь в определениях, то есть аа насколько я читал на сайте Open AI у них своё более экономическое определение AGI, а оно, собственно говоря, заключается в том, что это такой искусственный интеллект, который решает задачи, а экономически важные лучше, чем
Speaker A
поэтому, ну, у него здесь, что называется, ищите кому выгодно. Вот ему это напрямую выгодно. Если мы говорим про терминологию, сл...
Speaker A
больше с отношениями с инвесторами. То есть наверняка в договорах, в контрактах между тем же Microsoft и Open AI звучит тот самый термин AGI. И если он наступает, то наступает следующая фаза финансирования, скажем так. То же самое, мне кажется, есть с Nvidia. Вот если
Speaker A
опять же возвращаться к более научному определению, наверное, всё-таки HI ещё не наступил. Ну, а если смотреть на то, как Open AI его формулирует, то, наверное, всё-таки можно сказать, что да, он уже есть. То есть зависит от того, как мы договариваемся, что такое
Speaker A
AGI. Ну, получается, что они занимаются самообманом. Ну, самообманом или они просто перепридумывают этот термин в своих интересах более маркетинговых, экономических, нежели каких-то научных.
Speaker A
Вот мы сейчас обсуждали компании, которые могут позволить себе работать в минус, потому что у них есть, ну, так скажем, запас жира, и они могут потерпеть, пока Nvidia в них инвестирует, а российскому бизнесу недожиру быть бы живу. Поэтому, чтобы
Speaker A
бизнес рос, нужен компромисс между скоростью работы IT-систем и окупаемостью затрат. Да, представьте, что вы можете получить нужную, высокую производительность, не переплачивая при этом за лишние лицензии. ПО именно такую возможность дают облачные решения Selectecttel. Вы можете развернуть публичное облако на базе VMWR всего за
Speaker A
несколько минут. Вы внедряете, ну, допустим, новое мобильное приложение. Запускать на собственных серверах долго и дорого, так как потребуется закупка оборудования, согласование, поиск нужных специалистов. А в облаке VMWectel новый проект можно запустить на виртуальном сервере почти сразу, не покупая дорогое
Speaker A
железо и лицензии. А таких приложений может быть сотня. Сейчас в облаке на базе VMware появился новый кластер AMD Highfra с высокочастотными процессорами AMD Epic 9275F.
Speaker A
За счёт высокой частоты от 4,1 до 4,8 ГГц серверы 1S или базы данных обрабатывают операции быстрее на меньшем количестве ядер. Используемая архитектура хранения данных Виса полагается на диске с производительностью до 80.000 операций в секунду, готовые к тяжёлой аналитике.
Speaker A
Доступно до 96 виртуальных процессоров и 640 ГБ виртуальной оперативной памяти. Протестировать кластер на своих задачах можно бесплатно. Selecttel даёт до 1.500.000 бонусов на миграцию вашего проекта в облако VMWR. Рассчитайте, во сколько обойдётся кластер для ваших задач в удобном калькуляторе и
Speaker A
разверните решение, перейдя по ссылке в описании или QR-коду на экране. А не кажется ли тебе, что мы пришли к тому, вот сегодня с узким искусственным интеллектом, так скажем, с нейросетями, мы пришли к тому, что э дальше вот в этой архитектуре двигаться
Speaker A
в принципе невозможно. Если мы хотим сделать что-то подобное, HGI, ну, что-то подобное, то нам нужно брать одну сеть, другую сеть, третью сеть, чем занимаются сегодня агенты. Вот. То есть разные, по-разному совершенно настроенные вот оптимизированные модели, которыми будет управлять один
Speaker A
оркестратор. Вот и всё, всё вот это в базе будет решать какие-то задачи гораздо эффективнее, но при этом мы остаёмся в рамках вот этого узкого и то есть нету единого вот этого центра, как бы абсолютно с тобой в этом плане согласен.
Speaker A
Почему? Потому что, ну, давай так сравним. Очень простые вещи. Есть модель Fable 5.1. У неё порядка 10 триллинов параметров по разным оценкам.
Speaker A
А есть, например, модель GLM китайская, а у которой, если мне память не заменяет, что-то около 700 млрд параметров. Текст, например, лучше пишет GLM, а потому что Fable пишет абсолютно клишированный. А, но опять же, те же Fable 5.1 и вообще все передовые модели,
Speaker A
они используют архитектуру мой, смесь экспертов, где внутри отдельный сущности, там у кого-то на 30 млрд параметров ещё как-то, у кого-то там 100 млрд, неважно, где действительно уже вот эта большая модель работает в виде оркестратора. И на практике действительно тебя лучше всего
Speaker A
показывает та история, ну, именно решение результата, когда ты не пытаешься посадить кучу задач на одну модель, ты берёшь вот этот оркестр малых моделей. Пример. Языковые модели очень плохо работают с математикой. Ты можешь взять другую, допустим, модель, которая вообще не на архитектуре трансформеров,
Speaker A
там работает с временными рядами и тому подобное, которая будет решать математические задачи. И мы действительно в рамках решения сложной инженерной задачи используем целый оркестр моделей. которые в итоге там сверху координируются и дают нам результат. И вот этот единый центр,
Speaker A
понимаешь, его создать-то очень тяжело. Сейчас каждый следующий процент прогресса ну создаёт всё более и более высокие затраты. Я почему сказал это про Хуанга в начале, что GPT6 уже там обучалось на 100.000х видеокарт, а следующее поколение, чтобы оно дало скачок, он
Speaker A
говорит: "Давайте на 400.000х карт". Это же помимо того, что тебе нужно больше железа, это же ещё и затрата электроэнергии. сейчас уже есть дефицит в той же Америки. Это же ещё и сложность создания. А сложность создания - это что? Это количество точек отказа.
Speaker A
Во-вторых, вот этот уникальный, сильный искусственный интеллект, который один будет создан, он же где-то будет в одном дата-центре сидеть. Он, извини, на распределённых вычислениях не работает.
Speaker A
У тебя единая точка отказа, по которой ты ударил, нету электроэнергии, либо ударил каким-то, условно говоря, там, по сетевой инфраструктуре, у тебя единая точка отказа. В-третьих, он же галлюцинирует. Ну давай будем честными, я сколько не работаю с разными моделями,
Speaker A
самыми лучшими, там столько галлюцина галлюцинаций ты ловишь. Всё равно нужно это всё отслеживать. При этом, как показывают исследования, да и мой опыт, когда ты берёшь малую модельку на конкретную задачку, её заточил, она работает во-первых дешевле там в десятки раз, а, во-вторых, она работает
Speaker A
с меньшим количеством галлюцинаций, с меньшим количеством ошибок. Поэтому, когда ты это всё начинаешь собирать, стоимость обучения, вот это вопросы безопасности инфраструктуры, ещё и вопросы безопасности кибера, то есть когда у тебя маленькая модель, она заточенная на свою предметную область, её проще выстроить
Speaker A
вот эти ограничения. А когда ты берёшь большую, самую умную модель, тебе всегда в большом, в большом направлении, ну, в большой модели будет большое количество дырк, через которые можно обойти защиты.
Speaker A
И в итоге действительно вот у тебя появляются безумные затраты. Там год назад, по-моему, были оценки, чтобы на создание HI вот этого тебе нужен только дата-центр на 1 триллион долларов. [смех] Ещё электроэнергии, какое количество тебе нужно под это всё строить. А одной
Speaker A
инстанции нужно тебе отдельный под него. И по последним оценкам тебе нужно плюс 20% косе электрогенерации США добавить, чтобы это всё работало. Дальше идут гигантские затраты на это сопровождение.
Speaker A
Тропик и и другие говорят: "Надо притормозить, наш искусственной интеллект очень опасен, он может сбежать".
Speaker A
У меня вопрос: а как куда он сбежит, если нужны такие огромные мощности? А, и у меня есть большое подозрение, что затраты становятся такими непомерными, что если вся эта шумиха не, ну, AGI не оправдает, а, своих ожиданий, и, кстати,
Speaker A
уже говорят многие экономисты, будет глобальный финансовый кризис. И в итоге сейчас начинает закручивать вот эти гайки, типа он опасен, а давайте притормозим.
Speaker A
У нас тогда снимаются ожидания с инвесторов. Мы умные, мы хорошие, но вот нас на это небезопасно, нас притормозили.
Speaker A
А и соответственно ещё и будет история, связанная с тем, что будут выстроены вот эти защитные барьеры, из-за которых новым игрокам будет тяжелее зайти в отрасль разработчиком моделей.
Speaker A
Соответственно, у тебя идёт монополизация рынка, и ты можешь повышать тарифы. И те же истории про побеги из лаборатории, это же не потому, что он там сам захотел сбежать, потому что у него была поставлена определённая задача, которую он воспринял дословно.
Speaker A
Вообще у искусственного интеллекта есть такая проблема, максимизация функции. Он пытается решить задачу максимально эффективно. Это недавно же был тоже случай нашумевший в Австралии, да, когда человек поставил там: "Запиши меня в спортзал". Его агент записал, он сказал: "А можно меня подвинуть выше?" Он пошёл,
Speaker A
другого человека удалил, а обратного действия нету. Поэтому агент, он же ещё раз, да, он действительно может решить разный широкий пул задач, но говорит, что он разумный, аналогичный человеку, нет, ему действительно ничего не надо.
Speaker A
Ты ему ставишь задачу, он её воспринимает и пытается решить. А уже как пытается решить, это тебе неведомо.
Speaker A
И одна здесь из основных проблем в том, что вот в этой цепочке сборки, ну, то есть он сначала всё разбивает, потом вот этой цепочкой логической идёт. А там же проблема в том, что если в какой-то момент вероятность подбирается неверная,
Speaker A
и то весь конечный результат будет неверным. И какого-то критического самоосознания нету. И даже, казалось бы, вот эти все механизмы рассуждения, рассуждающей модели, но это же всё равно надрессированным он надрессирован человеком. Ему показали определённые паттерны, которые должен следовать.
Speaker A
Зачем рассуждает в таком случае модель на трансформере? В неё это просто заложено. То есть, чтобы повысить качество ответа, в неё заложено, что ты, когда готовишь ответ, вот механики рассуждения, рассуждай таким образом, там, перепроверяй себя.
Speaker A
Но причём были исследования, по-моему, в прошлом году, что вот эти механики рассуждения периодически ломают модель.
Speaker A
Вот эти механики рассуждения, ещё раз, это в него заложили. Заложили определённые образы, натренировали, и он по ним работает. Вот и всё.
Speaker A
Но китайцы в противовес, да? То есть, ну, время идёт, каждый день новости какие-то, да? Вот, например, сразу же после этого китайцы сказали: "Мы ничего не будем останавливать". Потом, Хуангу прямо на сцену во время выступления как бы звонил Трамп и
Speaker A
говорил: "Нет, нет, нет, господин Хуанка, давайте работать дальше. Вы что там под Вы что, обалдели, что ли?" Вот.
Speaker A
Вот. Да. А это как объяснить в таком случае? Искусственный интеллект действительно это новая, как тебе сказать, он действительно меняет наш уклад.
Speaker A
Он действительно становится стратегическим активом, даже без Ажи, даже там, извини, там на слабых моделях.
Speaker A
Вот я сейчас собираю продукт, мы там не используем передовые опусы, мы вообще используем базовые модельки, просто ими их оркестрируем, а мы работаем с контекстом, с базой данных. Ээ, но уже появляются очень классные результаты. Мы делаем там для руководителей там даже
Speaker A
зимой мы делали ассистента по управлению проектами. Я разложил там свой рабочий цикл. А потоки данных, что называется, что в какой момент подаётся, как это работает. И даже на там дипсики, на дешёвеньком мы добивались того, что проработка проекта там вместо там
Speaker A
дву-трёх дней недели занимает там час. И с очень нормальным качеством, да, там было понятно, где он ошибается, он перестраховывался, опять же, исходя из того, что он планы это строит гипотетические. Можно было это докручивать, но ещё раз, даже в рамках
Speaker A
этих экспериментов у тебя цикл снижается, и они действительно китайцы и Америка понимает, что искусственный интеллект - это огромное конкурентное преимущество, которое в дальнейшем определит, кто будет мировым лидером.
Speaker A
И это в экономике ты, то есть в экономике связано с тем, что можно делать больше, можно делать дешевле, можно делать качественнее. Это и для армии. То есть, ээ, ведь, ээ, почему там антропик в США немножко сейчас поддавливает, потому что он отказался
Speaker A
взаимодействовать с Пентагоном напрямую, хотя их военные операции уже давно планируются искусственным интеллектом. Та же операция там по президенту Венесуэлы по атаке, кстати, на конфликте с Ираном.
Speaker A
Это всё планировалось искусственным интеллектом. И там тоже был очень показательный кейс, что почему-то я не сильно верю, что они же нанесли там удар по школе. Это оказалось причина в том, что кто-то своевременно не обновил в базе данных информацию, на который дальше ишка
Speaker A
приняла решение некорректное. И на мой взгляд, сейчас будет действительно дальнейшее развитие моделей. Сейчас идёт особенно в области малых моделей. То есть малые модели, там, условно говоря, на 20 млрд параметров, на 30, там, на 70, на 100, они становятся сильно умнее.
Speaker A
То есть вот эти малые модели начинают догонять большие, и тогда вот этими малыми моделями можно заниматься прикладным решением задач. Когда ты даже в большой начинаешь запихивать некачественные данные, результат получается некачественным. И одни из тех стартапов, которые сейчас действительно
Speaker A
зарабатывают деньги - это либо поставщики железа, либо те стартапы, которые занимаются разметкой и подготовкой качественных данных для добучения моделей. И у бизнеса-то сейчас эта проблема-то идёт, потому что они уже, ну, бизнес признаёт. У нас проблемы с качеством данных. Годами об этом никто
Speaker A
особо не говорил, потому что была низкая культура аналитики данных. Вроде бы автоматизировали процесс, оно и хорошо.
Speaker A
А когда же мы переходим к вопросу и, там ещё и начинаются агенты и принятие решений. И вот здесь у тебя возникает вопрос качества данных. Поэтому почему идёт шумиха? Ну, потому что действительно это конкурентное преимущество. Аа мой взгляд, что
Speaker A
наибольшее конкурентное преимущество будет в плоскости малых моделей, которые можно развёртывать локально во внутреннем контуре организации, на устройствах. И вот эти малые модели, там действительно идёт хороший прогресс. Они постепенно постепенно догоняют большие на определённом типе задач. А второй блок, куда сейчас будет направлено- это
Speaker A
выстраивание потоков данных. Опять же, почему у китайцев большое преимущество? Они годами вкладывались в инфраструктуру сбора данных, в связи, в дешёвые датчики. Поэтому у них очень большие дата-сеты, собранные машинами, без влияния человека. И вот китайцы на это сейчас будут делать ставку на
Speaker A
промышленный. И поэтому шумиха будет просто. Она будет постепенно смещаться. Оспорь или подтверди мой тезис, что невозможно создать AGI. Ну, так скажем, по графику. Нельзя сказать, что мы вот сделали уже 80%, осталось совсем чуть-чуть. Вот пару лет пройдёт и вот
Speaker A
точно вот вот AI уже будет создан. Ну вот то есть если AI вот по моему мнению будет достигнут, то это будет внезапно.
Speaker A
И вот скажи так или нет. наверное, частично соглашусь и немножко дополню твою мысль, а, в том, что это скорее будет какая-то более размытая граница, и понимание наступит уже через несколько месяцев, может быть, несколько лет, что мы действительно достигли AGI. А потому
Speaker A
что, опять же, э терминология ещё не зафиксирована. Разя разные столпы, представляющие свои интересы, трактуют это определение по-разному. И мне кажется, что со временем просто модели, а может быть, архитектура этих моделей поменяются, а и будут будет всё работать по-другому. Но
Speaker A
со временем такие системы будут работать всё лучше и лучше и лучше, приближать нас именно к тому определению AI, о котором мы говорили в начале. И уже там через какое-то отложенное время мы поймём, да, мы действительно живём в эре
Speaker A
сильного искусственного интеллекта, но а по графику это точно не происходит. А возможно мы сейчас идём в тупиковом направлении, и те архитектуры, те модели, которые используются сейчас, а не дадут нам возможности достигнуть AGI.
Speaker A
Но это точно будет не по графику и, скорее всего, не внезапно. Скорее всего, эта граница размоется, и потом мы сами уже осознаем, что живём в такую эпоху.
Speaker A
Отлично. Вот мы как раз затронули тупиковое направление, другие архитектуры. И вот, пожалуйста, с скажи мне, как учёный именно, какие подвижки в научной среде, как вот по нейросетям, возможно, да, уже знакомым нам и понятным, так и по альтернативным технологиям. Вот на сегодняшний день
Speaker A
в той сфере, в которой я работаю, мы идём именно по тому хайповому направлению, по направлению языковых моделей. Мы встраиваем их в свои системы, и система уже решает прикладные задачи. А если говорить про смежные направления, а то это, наверное, такие архитектуры,
Speaker A
которые сейчас активно продвигает Ян Ликун. Это бывший главный исследователь компании. метазапрещённый в России. А суть его архитектуры заключается в том, чтобы не прогнозировать следующее по ходу слова, как это делают языковые модели. А суть его архитектуры в том, чтобы учить модели
Speaker A
некой некому пониманию мира, а именно скрытому в м векторных представлениях, то есть наборах чисел, которые, в принципе, людям непонятны. И это одно из возможных направлений.
Speaker A
Но здесь стоит упомянуть, что это всё ещё происходит на тех архитектурах, на вычислительных архитектурах, на которых мы привыкли работать. Они конечны. То есть у нас, а, оперативная память, у нас есть обычная память, жёсткий диск, на ней есть конечное количество байт.
Speaker A
Так вот, если упоминать такие направления, как нейроморфное вычисление, к примеру, мне кажется, что AGI скорее достижим с ними, чем на текущих архитектурах, а, на которых мы привыкли работать, потому что в целом интеллект человека - это, наверное, м ну, во-первых, это точно не дискретная
Speaker A
система, это точно не единички и нолики, это непрерывная система, а, во-вторых, она скорее бесконечно, чем конечно. А наши компьютеры, они, к сожалению, имеют ограниченный набор памяти, операции, которые они могут выполнять. Поэтому скорее даже м всё изменится не в
Speaker A
архитектурах нейронных сетей, а именно в том железе, на котором они работают. В контексте нашей беседы посмотрите, сколько стоит VGA 5090.
Speaker A
Это уже обычная цена, а то, что до 700.000 руб. считается уже хорошим предложением. Цены на такие компоненты, как видеокарты, память, просто улетели в космос. И мы с вами ничего не можем с этим поделать. Но всё ещё можно собрать
Speaker A
себе домашний ПК не с рекордной, но достаточной производительностью. В регард вы найдёте полный ассортимент товаров, необходимых для сборки. Обращу ваше внимание на память небольших объёмов. Она остаётся пока ещё в разумных ценовых рамках, и набрать можно, ну, достаточный для домашнего
Speaker A
компа. переходите по ссылкам в описании, там я подобрал наиболее интересные товары. Так вы ещё и поможете нашему каналу. Спасибо. А не кажется ли тебе, что есть такая скрытая опасность, про которую, ну, может быть, и говорят, ты им, возможно, тоже говоришь, ты же вот
Speaker A
книги пишешь, как выясняется. Вот я не знаю, правда, я ещё не читал ни одной.
Speaker A
Может быть, ты про это там тоже говоришь. Ну вот смотри, как раньше было. Ты вроде бы дал задачу, она выполнена, ты проверил, о там ошибка, не ошибка. Вот и задачи нача начал наш искусственный интеллект ненаглядный выполнять лучше и лучше человек перестал
Speaker A
перепроверять вот я бытовой буквально случай я ээ взял два отчёта автомобильных и сказал вот проанализируй пожалуйста два отчёта вот два автомобиля э что ты будешь делать он по обоим даёт вот просто красный свет всё это нельз это эти автомобили нужно вычеркнуть по
Speaker A
той причине у них там в общем-то проблемный как бы двигатель который не соответствует году, да? То есть, допустим, год двадцать третий, а эти двигатели там сняли с производства ещё в конце двадцать второго. А как же так?
Speaker A
Я начинаю ползать по этому отчёту и выяснять, почему он так, почему он вот занимается такой вот ерундой. [фыркает] И нахожу то, что в европейских ну в наших отчётах такого не бывает, а вот в европейских они просто все отзывные компании вывалили аж с 20 там
Speaker A
какого-то первого года, которые не касаются данных вот автомобилей. Они касаются просто вот, ну, были по этому двигателю вот такие вот отзывные компании и всё. То есть и это данного мотора как бы не касается. А, получается, что передовая модель
Speaker A
совершенно это всё не учитывает и пофиг. Она говорит: "Нет, нет, нет, всё, кошмар, красный свет". Вот. Вот, пожалуйста, тебе пример из того, что как бы человек, если не перепроверяет, он говорит: "Нет, вот, значит, это а это ошибка". Вот. И что с этим делать? Это
Speaker A
же опасность, скрытая опасность. Люди стали сильно доверять мнению нейронки. Даже уже был где-то термин деградации компетенции.
Speaker A
Аа потому что действительно это эта проблема есть, и нас в эту ловушку ведут с агентами. То есть аа человек же существо ленивое по психологии. Давай так. Выживали исторически те, кто умели экономить свои ресурсы. И нам очень нравится это делегировать машине, думаю,
Speaker A
что она всё это сделает. Вот я тебе честно скажу, я верю в два бло б блока скажу. Первый, я верю примерно в партнёрство 70 на30, где 30% - это за человеком поставить задачу, понять контекст, дать ограничение, ну, дать
Speaker A
контекст, дать ограничение, принять результат проверить. А, а, 70% за машины, там, обработать данные, подготовить варианты решения, там, черновики писем, остальное, остальное. остальное. Потому что в любом случае, когда ты идёшь туда, вот всё во всё больше автоматизацию, таких косяков
Speaker A
скрывается очень много. И здесь мне нравится подход китайцев. Они сказали, что, ну, смотрите, агентов мы не ограничим, но давайте каждому агенту пропишем три критерия. Действие, которое и решение, которое может принять сам.
Speaker A
Действие и решение, которое он подтверждает через человека и что он не может делать никогда. вокруг этой границы мы и будем сейчас пытаться выстраивать вс работу, то есть извлекать пользу, потому что действительно то, что ты озвучил, это очень большой соблазн.
Speaker A
А потому что всё равно это энергозатраты. Запретить всё мы не можем. доверять всё. Ну это, извини меня, ну это будет ээ я даже передовые модели, несмотря на то, что у меня всё везде расписано, что может, что не может, периодически ловлю на очень
Speaker A
банальнейших вещах, ошибках, когда он почему-то там какой-то файл удалил, но не не удалил, переместил в архив. И вот поэтому будем выстраивать мы вот эту границу по цене риска и по возможности его откатить. Агенты наделяются всё большими полномочиями. Всё это начинает
Speaker A
встраиваться там даже на уровне устройства. И мы действительно идём к той истории, что дай задачу, он всё сделает. И здесь очень легко вот в эту историю провалиться, что всё будет делать яишко, а я вроде бы зачем я здесь, кто я. Поэтому, например, в своём
Speaker A
продукте вот то, что я делаю, аа я пока, например, ставлю жёсткий стоп себе на то, чтобы, допустим, он отправлял там письма от имени руководителя.
Speaker A
Подготовить черновик тебе, да, подготовить там несколько вариантов решения провести тебя через этот сценарий, помочь разобраться с ситуацией. То есть несколько вариантов решений с плюсами-минусами, да, но решение должно остаться за тобой.
Speaker A
Я дозаписываю вот этот тот маленький кусочек, потому что на тот момент, когда мы разговаривали с Джимшером, вот этой вот новости ещё не было, которую вам сейчас хотел озвучить. И её необходимо буквально вот ставить в это место, потому что мы немножко отошли, да,
Speaker A
Джимшар сказал про деградацию компетенций, но хотелось бы ещё и сказать пару слов про деградацию компетенций самого человека, который пользуется теми или иными моделями и так далее. Есть ли в этом опасность? Да, конечно же, есть. И многие об этом
Speaker A
говорят. И, э, видя противоборства людей, которые говорят о том, что мы не можем перекладывать всё на искусственный интеллект, помощники и так далее, помощников и так далее, а, Хуанг начинает заниматься своим любимым делом, вбросами. Вот, э, что-то есть такое вот
Speaker A
понятие окно овертона, когда какие-то табуированные вещи, если мы постоянно про это говорим, это начинает становиться какой-то допустимой нормой. То есть, если мы раньше говорили что ну недопустима деградация своего собственного мышления, да, у нас должен быть широкий кругозор, потому что это, ну, исторически связано
Speaker A
с нашим выживанием в этом мире. В том числе, в том числе вот а то Хуанг на сегодняшний день говорит, что не знает свой адрес и номер телефона, он просто не видит необходимость их помнить. Ну вот такие вот вещи. То есть сама новость звучит
Speaker A
так: основатель Nvidia считает, что терять интеллектуальную сноровку, то есть вот не только сноровку, да, я бы сказал, вообще кругозор из-за использования и нормально. Люди будут забывать какие-то вещи и лишаться некоторых навыков, но станут лучше мыслить системно и смогут
Speaker A
сосредоточиться на более важном. То есть это именно вот то самое, да, окноветона. Хуанка потихоньку теперь будет вкидывать, что, ребят, деградировать - это нормально. Главное пользоваться, ээ, помощниками. Вот это, то есть, главное системно подойти к вопросу, кому и что,
Speaker A
как что поручить. То есть вы поручили это агенту, это вот этой модели и так далее и тому подобное. Э, но потеряли навык. Ну и ладно. А зачем он вам? Нет, нет, он не нужен. Сегодня у нас другая эпоха. Покупайте наших слонов. Вот таким
Speaker A
образом мы будем двигаться в направлении совершенно осознанно с пониманием, что это новая норма. Не нам на самом деле сегодня судить, что нормально, а что нет. Время расстает всё по своим местам.
Speaker A
То есть, если в недалёком или там относительно далёком будущем, ээ, это окажется действительно какой-то нормой, и мы ээ перейдём просто к другому формату существования, ну, о'кей. То есть нет, какие претензии могут быть. Но по сути, если ты оказываешься сегодня в ситуации, когда у
Speaker A
тебя нет помощников, интернета, там ещё что-то, каких-то своих локальных сетей в дополнительно, то ты оказываешься в ситуации, когда ты ничего не знаешь, не умеешь, навыки утеряны. Что делать?
Speaker A
Хуанк, помоги, а Хуанк тебя не услышит. Вот. Потому что вы находитесь в реальности. Но ещё я хотел сказать, что Хуанга на самом деле уже слушать не нужно, потому что Хуан старенький и у него, наверное, просто деменция.
Speaker A
То, что ты сейчас озвучил, даже передовые модели, даже самые лучшие, они могут и загаллюцинировать там. Уж извини, приведу свой пример. Я, например, каждый день веду дневники, что я делаю, в какое время, мои мысли. Ну, то есть мой такой персональный
Speaker A
ассистент. И, например, я пишу в четверг, там в дневнике, там прошла тренировка, он мне, а, у меня у агента стоит там определённое ограничение, что там не менее трёх физических там, ну, активностей, тренировок в неделю. И он говорит: "А у тебя первая тренировка за
Speaker A
неделю, ты пропустил?" Я говорю: "Подожди, у тебя есть запись? Я во вторник был на тренировке". Ой, да, извини, я не увидел. Или, например, у меня в по дневнику расписано, что я весь день был там, ездил туда, ездил сюда.
Speaker A
Причём он знает, допустим, что я там я машину продал. В конце дня он мне в обратной связь даёт: "А у тебя было сегодня ноль активности, ноль движения".
Speaker A
И вот этого всего будет. Поэтому здесь надо будет проводить линию, что мы готовы делегировать, что безопасно, что откатываемы, где нам нужно всё-таки подтвердить действия, а где только мы.
Speaker A
Вот эту рамку мы и будем пытаться найти. Ну вот смотри, а ещё в юности я для себя вывел такое рассуждение, там для себя же опять же, да, что какой-то интеллект, когнитивные способности человека можно оценить именно потому, как быстро он решает
Speaker A
неизвестную ему ранее задачу. И вот сейчас к сегодняшнему дню, наверное, да, там, ну, может быть, чуть пораньше, когда я впервые увидел такой вот IQ-тест, так называемый, я понял, что примерно это и есть. То есть, э, на тебя обрушивается большой список задач,
Speaker A
которых ты никогда раньше не видел. То есть ты не знаешь, как их решать и так далее. То есть ты один раз его прошёл, допустим, а на второй раз ты уже знаешь приме, то есть логику решения и логику самой задачи. Вот. И это уже будет
Speaker A
по-другому. И решать ты будешь её, соответственно, быстрее, чем в первый раз, когда ты эту задачу. Вот. А-а, но при этом говорят, что тот же самый IQ-тест совершенно никак не пока не оценивает когнитивные способности человека. Так вот, есть куча бенчмарков,
Speaker A
которые определяют, в общем-то, успешность той или иной модели, а возможность её анализа, там, её способностей. Ну и опять же, ээ, мы приходим к тому, что они тоже, наверное, ничего не показывают.
Speaker A
Ну да, есть же была вот эта новость, что, по-моему, GPT6 там взломал этот Arc 3 на, ну, в общем, тесты на общий искусственный интеллект, но когда начали гонять по этим тестам, взяли одну и ту же модель, прогнали её в сухую, получили
Speaker A
там результаты, условно говоря, 60 с лишним процентов, и стоимость решения этой задачи оказалась там что-то 19.000 долларов по токенам. Потом взяли ту же моделю, вокруг неё сделали обвязку, то есть, чтобы она как раз всё это выносила во внешней память, записывала ей эти,
Speaker A
ну, как бы всё, все эти инструменты дали. И та же модель решила вот тот же инструмент, ту же задачу на 90 с лишним процентов там потрать 18.000 долларов.
Speaker A
Поэтому тут действительно большой вопрос этих тестов, что это такое. А опять же, Иишка очень хорошо, а она же очень хорошо работает с поиском паттернов, поиском логики определённых, ну, сопоставлений.
Speaker A
И если задача, скажем так, а-э, решается определённым логическим подходом, и она это видела в других задачах, она её решит. Но если ты ей дашь задачу, с которой она никогда не сталкивалась, то она её и решит очень посредственно. Я
Speaker A
сейчас приведу на простой пример. Иногда ты Ишке дашь какую-то очень сложную задачу, например, из области маркетинга, и он тебе её сделает, э, великолепно. А, а можешь дать задачу, извини, там посчитай 3 + 5 на какой-то, ну, в области знаний, с которыми он не
Speaker A
сталкивался, там в инженерии, например, в каком-то сегменте, он начнёт сыпаться. Также, например, действительно же языковыми моделями, трансформерами ты не решишь там, например, задачу предсказания отказов оборудования. Ну, тяжело она решается, потому что, да, у него просто не было этих датасетов. А,
Speaker A
хотя, например, в области там я не знаю, психологии, мартинга и других допустим популярных направлений, где текстов было много, а она прекрасно справляется. Поэтому ты ей вроде бы дашь новый тип задачи, но если он логически понимает, что эту задачу
Speaker A
можно решить такими-то такими-то подходами, он с ней справится. Там действительно сложная математика, очень много с этим пытаются работать. Но, отвечая на твой вопрос, действительно, тесты мы пока не понимаем, что они мерят.
Speaker A
Интеллект ли? Также и у людей. Раньше же ты очень хорошо это подсветил. Раньше говорили IQ тест. Сейчас говорит: "Слушайте, да, кажется, в жизни нужен эмоциональный текст. Ой, эмоциональный интеллект важен". А начинает сравнивать там какие-то племена, они IQ-тест проходят плохо, но другие тесты проходят
Speaker A
хорошо. Поэтому здесь что такое разум, какой тест собрать, мы до конца сами не понимаем, чтобы ценить его. Передовые модели, они будут развиваться, они притормозятся под разными предлогами. Ну я говорю, я об этом писал ещё там в двадцать четвёртом году. Ну любая
Speaker A
технология развивается пособразным кривой. Сначала она медленно, медленно, медленно, потом складываются условия, идёт взрывной рост, дальше идёт стопор.
Speaker A
Научное сообщество AG уже не ожидает особо. Вот честно тебе скажу, я иногда на задачах беру старые модели новые.
Speaker A
Если ты правильную задачу декомпозировал, да, ты не видишь огромного прироста между новыми моделями. А в своих задачах задачи программирования, да, решаются хорошо, и, скорее всего, будет всё больше прогресс в задачах программирования, но там просто большие датасеты. А в
Speaker A
реальном бизнесе, в реальной жизни такого огромного прироста не будет. Поэтому мои прогнозы следующие: будут, конечно ограничения и регуляторные, связанные с безопасностью, потому что злоумышленники ишкой пользуются прекрасно, а это угрозы. Вот, поэтому тот же общий искусственный интеллект очень сильно
Speaker A
будет тормозиться. Второе, мы будем идти в плоскость энергоэффективных моделей для локального развёртывания на уровне компьютера, на уровне устройства, которые могут качественно решать прикладные задачи. Мы пойдём в плоскость, конечно, создания продуктов.
Speaker A
Ну уж извини меня, чатботы, на мой взгляд, это очень, очень ограниченная ветка развития. То есть ты должен и понимать, и отслеживать, и отслеживать его галлюцинации, и понимать, как формулировать задачи. и много-много всего. Поэтому мой взгляд, что мы идём в
Speaker A
плоскость прикладных продуктов, где искусственный интеллект будет сстраиваться под капот. Ты его даже не будешь видеть. Ты будешь нажимать кнопочки, он будет получить формализованные данные на вход, формализованные данные на выход и решать твою задачу. Либо давать рекомендации, либо что-то идти там в виде агента
Speaker A
взаимодействовать. Аа будет ещ Ну это таких три основных. а-а ещё что, аэ, компании перестают играться в искусственный интеллект, потому что многие компании сейчас внедряют его, потому что это модно, потому что надо.
Speaker A
Зачем, никто не понимает. Я этому вот отдельную книгу посвятил, то есть типовые там паттерны, паттерны успеха, типовые ошибки.
Speaker A
Вот. То есть бизнес научится считать и искать понятную модельку, которую нужно решить внести для, ну, для конкретной задач. Потому что сейчас я не буду называть имена компаний, они покупают, условно говоря, там Квен 3,8 гигантский к себе ставят, закупают железо там на 2
Speaker A
млн долларов и думают: "Ну, сейчас как полетит". А я общаюсь с людьми, которые с ним работают. Ну, не летит.
Speaker A
Мультимодальность, да, модельки учатся работать с разными форматами, с текстом. текст на вход, аудио на вход, на выход, презентация, текст, картинка. То есть вот эта мультимодальность, она будет развиваться. Да, конечно, ну, про агентов мы с тобой сказали. Такие основные тренды. То есть я-то у себя там
Speaker A
и в книге, и в материалах там их девять выписал. Это, ну, там модальность, безопасность ээ неважно такая специфичная история. Ну, вот основное, то есть, а, передовые модели будут, будут для отдельных людей, которым они нужны. Они, скорее всего, станут дороже,
Speaker A
потому что, извини, сейчас и я не знаю, как антропия копен. Они, по крайней мере, на подписке за 200 баксов теряет огромные деньги. Поэтому они её и они говорят, что мы для обеспечения стабильности. Ну, у меня подозрение, что это для сходимости экономики, особенно с
Speaker A
учётом того, что они хотят выйти на IPO. Ну, когда у тебя юнит экономика не сходится и там токенов пользователь сжигает на десятки тысяч долларов в месяц, платя 200 долларов, что-то здесь не то у тебя в бизнесе. Вот поэтому будет будут всё упаковываться в
Speaker A
сценарии, в продукты на основе малых моделей, которые будут оркестрироваться. Ну, а какие-то следующие прорывные истории будут либо за за другими архитектурами, либо в области квантовых вычислений, либо в плоскости нейроморфных, но, на мой взгляд, тоже не быстро.
Speaker A
Ну вот, собственно, такие вот мысли. И понятное дело, что компании Nvidia нужно показывать необходи свою необходимость в этом мире. Что, ребят, вот он вам AGI.
Speaker A
Мы вот прямо вот, даже если вы не согласны, какая нахрен разница, я вам точно говорю, он уже здесь. И потребуется гораздо больше наших устройств и в космосе, и под Землёй, и на Земле. Всё вот всё в наших ускорителях. Поэтому мы самая главная,
Speaker A
самая важная компания на планете. То есть, э, важнейшая часть выступлений Хуангас относится именно вот к этому.
Speaker A
Вот. Поэтому, конечно же, ничего общего с реальностью это не имеет. И жаль, потому что, мне кажется, раньше выступления Хуанга, они были более честными. То есть, ээ, он говорил как визионер о том, что как они видят компании будущее, там роботы, там вот
Speaker A
это всё, искусственный интеллект, там ещё что-то. То есть все вот эти позиции перечисляемые, они были вот развёрнуты именно в том ключе, вот как как видит компания, куда она идёт, чего она добилась, что А сегодня это вот такие вот лозунги, которые противоречат
Speaker A
действительности. Часто это касается и не только корпоративного рынка и рынка ускорителей для искусственного интеллекта и так далее. Это ещё и касается потребительского рынка, в том числе, о чём вы сами прекрасно знаете.
Speaker A
Вот это негативное изменение, которое мне в компании Nvidia не нравится. Вот у нас есть такое вот конспирологическое мнение, что есть некоторые люди, которые на самом деле уже давным-давно заменены другими двойниками. Вот. Потому что, видите, смотрите, как отличается. Ну вот
Speaker A
посмотрите на Хуанга. Раньше он был совершенно другой. А не двойничок ли это? Вот с этой мыслью оставляю вас.
Speaker A
Всего вам хорошего, друзья. Пока.
Topics:искусственный интеллектAGIузкий искусственный интеллектобщий искусственный интеллектсильный искусственный интеллектнейросетиэтика ИИNVIDIAХуангтехнологии ИИ
