Александр Дёмин — Искусственность Интеллекта, или Требу… — Transcript

Александр Дёмин обсуждает искусственный интеллект, машинное обучение, проблемы bias и роль человека в обучении AI.

Key Takeaways

AI — это не только алгоритмы, но и сложные системы с человеческим участием.
Обучение с подкреплением играет ключевую роль в развитии современных AI.
Модели могут усиливать предвзятости, создавая эффект самореализующегося пророчества.
Взаимодействие человека с AI через Human in the Loop критично для качества решений.
Современные LLM — лишь малая часть широкой области искусственного интеллекта.

Summary

Введение в тему искусственного интеллекта и машинного обучения с историческим контекстом.
Обсуждение примера предсказания преступлений и эффекта self-fulfilling prophecy.
Рассказ о пути автора от политологии к машинному обучению и его взглядах на AI.
Объяснение ключевых понятий машинного обучения: bias, variance и их влияние на модели.
Роль трансформеров и появление LLM (Large Language Models) в развитии AI.
Значение обучения с подкреплением (reinforcement learning) в современных AI-системах.
Появление и развитие prompt engineering и context engineering для взаимодействия с AI.
Важность Human in the Loop — взаимодействия человека и AI для повышения качества решений.
Критика проблем неравенства и ограниченного контроля над современными AI-моделями.
Рассуждения о том, как люди могут учиться у искусственного интеллекта и наоборот.

Chapters

Full Transcript — Download SRT & Markdown

Speaker A

Раз-раз. Здравствуйте. Здравствуйте. Здравствуйте. Слышно меня? Нет, слышно. Отлично. А всем спасибо ещё раз, что пришли в этот реально очень жаркий день. И давайте, значит, так. У меня планы всегда наполеоновские для любого разговора, который я завожу.

Speaker A

Поэтому я постараюсь проследить некоторые нити и поставить приоритеты. Если что-то будет непонятно, пожалуйста, сохраните вопрос и задайте его в конце.

Speaker A

Разговор, на самом деле, одновременно я хочу нас привести к какому-то общему знаменателю про то, что такое и вообще про что мы сегодня собираемся разговаривать. Но с другой стороны такой прово, ну, как это, футфотот, то есть я пытаюсь задать какие-то вопросы,

Speaker A

которые, скорее всего, раньше, может быть, сами себе не задавали или могут вопросы, которые могут помочь вам понять ситуацию с искусственным интеллектом. Да, чуть про себя. Я Senior machine learning, я инженер в Провектусе. Я очень рад, что у меня до

Speaker A

сих пор сохранилась в статусе, в работе в названии работы. И да, я вообще, на самом деле, путь у меня был длинный через политологию, через политическую философию, через теоретическую статистику и машинное обучение. Это всё как-то связало меня тому, где я сейчас. Вот

Speaker A

поэтому разговор на самом деле будет такой пропитан политическими политическими причинами, политической политической окраской. Пример, с которого я люблю начинать любой разговор про AI и в том числе про то, как мы можем от AI обучаться и каким-то образом, как эта информация влияет на

Speaker A

мир. Это пред, так называемый предпол. Это был очень популярный машинное обучение, по сути, бизнес, который был полугосударственный полу а э получастный в Америке, который предсказывал, условно говоря, эти вот красные квадраты — это вероятность того, что в этом районе случится преступление.

Speaker A

Ну и соответственно вопрос, который рерчеры задавали долгое время и который, по сути, привели к тому, что этот предпол у него очень интересное будущее. Чуть позже расскажу. Вопрос в том: о'кей, допустим, полицейский да или кто там смотрит на эти репорты, вот

Speaker A

он видит: да, здесь будет преступление, здесь будет преступление, здесь будет преступление. Вопрос в том, с каким настроем этот полицейский уже придёт в этот район, да? И таким образом, да, скорее всего, они придут уже ожидая преступление, скорее всего,

Speaker A

они его там найдут или сделают, да. И таким образом модель в каком-то смысле, причём это, да, не такой уж длинный фидбэк-клуб, который замыкается очень быстро, и в каком-то смысле модель начинает превращаться в self-fulfilling prophecy, да? То есть то, что мы как бы

Speaker A

кто-то ищет, тот всегда найдёт. Вот. И это, на самом деле, пример довольно простой. Это было ещё в году в 2019-2018, до того, как LLM, GPT, CLO и так далее, все агентские вещи стали настолько распространёнными. Но мне кажется, это как раз иллюстрирует

Speaker A

очень важную проблему, что, мол, о'кей, мы можем обучиться делать очень сложные вещи, но непонятно, а что мы из этого, какие мы из этого делаем выводы и насколько это будет вообще работать. И один из главных поинтов, ну, значит, так. Как я хотел поговорить сегодня

Speaker A

немножко про, на самом деле, немного про то, как вообще и по крайней мере с точки зрения машинного обучения пришёл в индустрию, грубо говоря, это как раз часть общего знаменателя. Потом немножко поговорить про Human in the Loop, то есть понять

Speaker A

вообще, как мы сейчас можем взаимодействовать с AI и немножко поделюсь своими какими-то практиками, может быть, кому-то будет полезно, я очень надеюсь.

Speaker A

и в конечном итоге привести к такому рассуждению на тему того, о'кей, но как мы сейчас обучаемся от AI, может отучиться от искусственного.

Speaker A

Вот. Ну первая часть — это про знание, знание силы, интеллект, орудия. Я примерно так себя в голове называю этот процесс того, как AI превратился в то, как мы его знаем сейчас. Мм, на самом деле, как бы откуда идеи берётся, это

Speaker A

отдельный вопрос. Классическая ссылка — это на Алана Тюринга. Про то, что он говорит: "О'кей". Он придумал такие машины, которые работают по алгоритмам, но алгоритмам, который расширяет свои собственные способности, да? То есть это не просто какой-то умный алгоритм, который может выполнять задачи

Speaker A

эффективно и так далее. Это про то, что этот алгоритм начинает самообучаться. Вот. И в этом смысле, да, дальше я так это быстро проскочу десятилетия истории.

Speaker A

Машинное обучение, да, связано. Я не знаю, сколько здесь людей занимаются машинным обучением, но это про то, что в течение 50-60 лет в связи с расширением компьютерных мощностей и теоретических результатов, да, начали появляться более и более умные модели, бла-бла-бла.

Speaker A

Variants, bias, voice, variance — это, по сути, одна из главных задач, которые пытается решать. Почему это важно?

Speaker A

Потому что, да, — это про то, что с одной стороны модель может быть очень неверная, да, она может быть вообще абсолютно отдалена от реальности, но при этом у неё она будет стабильна, то есть она стабильно говорит нам какую-то

Speaker A

хрень. С другой стороны, проблема в том, что мы можем учесть все нюансы. Мы можем, да, вот сдаться в серьёзный там какой-нибудь фьючинг, как называется-то сюда, да, подстраивать модель под реальность, но тогда она будет, каждое предсказание и каждое следующее действие

Speaker A

будет, э, варьироваться, да, и это как бы самая фундаментальная проблема в машинном обучении, которая, мне кажется, сейчас начинает играть особенно большую роль, как только мы начинаем взаимодействовать с моделями при помощи natural language, при помощи нашего языка, да, потому что

Speaker A

здесь вариабельность и вот эта непонятность того вообще, что нам и говорит, а возрастает. Вот, ну, 2017 год, attention is all you need — это когда появились трансформеры, да, то есть то, что залегло как раз в основание искусственного интеллекта. Я

Speaker A

сделал такую небольшую схемку, на самом деле довольно большую, чтобы, грубо говоря, разложить это всё по порядку. То есть как это, как на это смотрю я, как машиннер и как дата scientist. То есть, да, вот был машин, потом мы сделали deep

Speaker A

learning, как нейронные сети, более сложные модели, да, они там научились распознавать картинки, научились распознавать зависимости во времени, сделали Generative AI, да, то есть мы не тренируем на каких-то правильном неправильном лейбле, а мы используем модели, чтобы генерировать что-то новое.

Speaker A

И на самом деле для меня всегда вопрос: "О'кей, ну тогда, наверное, AI — это типа подмножество машинного обучения". Но на самом деле надо понимать, что artificial intelligence и вот это всё искусственный интеллект, это гораздо шире, чем всё, о

Speaker A

чём мы говорим в каком-то смысле. Я немножко пролесну. LLM, про которые мы сейчас смотрим, это совершенно минимальная подчасть искусственного интеллекта вообще. Более того, она основана на двух очень таких важных пересекающихся вещах. Это reinforcement learning. То, почему я говорю про

Speaker A

подкрепление, да, потому что это как раз такая очень, мне всегда кажется, мистическая часть машинного обучения. Про неё все говорят, но никто не знает, что это такое. И на самом деле это стало очень важно как бы в агентах, да, и в

Speaker A

искусственном интеллекте сейчас. И трансформеры туда-сюда. Вот. И дальше что произошло? Дальше у нас LLM, у них появились тулы, да, мы им дали, сказали: "О'кей, LLM, давайте вы будете делать э задачки", да? Начали обращаться с кодом, с structured data, в смысле, с какими-то

Speaker A

цифрами, табличками там и так далее, да? Потом мы начали менеджить, а, как это, как называется, prompt engineering, который потом превратился в контекст engineering, да, мы так все плюс-минус, наверное, знакомы с этим. MCP, все вот эти замечательные вещи, которые помогли

Speaker A

нам расширить набор задач, которые мы можем решать. А, плюс появилась отдельно как бы история с ed knowledge-графами с какими-то, да, как мы вообще можем сделать LLM. Не просто то, что она что-то запомнила, да, а то, что она учится постепенно и запоминает свои ошибки и

Speaker A

учится на них, да? То есть это превратилось в какой-то пайплайн. И дальше вот это важное слово, которое я как бы буду использовать, harness, да, то есть это какой-то такой обобщающий обобщающее понятие всего,

Speaker A

говорю про искусственный интеллект сегодня, я прежде всего говорю проic AI. И я как бы так пытаюсь там видно, нет?

Speaker A

Да, пытаюсь сказать, что когда я говорю про я - это вот какого-то рода такая вещь, которая взаимодействует с внешними вещами, но в том числе эта машина. То есть она всегда связана с хардувеером, она связана с тем, на с реальной

Speaker A

энергией, с реальными ресурсами, на которых это всё работает. А, пожалуй, я так немножко ускорю здесь.

Speaker A

М, да, то есть появились модели ужасно умные, а, десятилетия прогресса и дальше каким образом они, собственно, стали распространёнными в разных индустриях.

Speaker A

Это график, который, эм, это из статьи антропика, буквально там, по-моему, марты этого года, про принятие AI в разных индустриях. И голубая зона - это теоретическая, ну, на самом деле, их такая предположенная граница, где куда яй может дойти в разных индустриях.

Speaker A

Красное - это то, куда мы дошли. То есть, к примеру, ну вот компьютер math, да, мы там, ну, на 35% от того, как антропик оценивает, мы можем это сделать.

Speaker A

И как бы мой главный поинт здесь, что вот одна модель, которая смогла реально распрода, ну как бы один одна такая маленькаямаленькая часть вот этой всей большой схемы, которая смогла настолько распространиться ну настолько распространиться, настолько потенциально распространиться в разных индустриях.

Speaker A

Это очень странно, это очень интересно. И как раз, ну, как бы как я для себе это объясняю, почему так вообще произошло, как мы так обучили, это в реинформен learningнинге, как раз в подкреплении, потому что без того, чтобы мы мы можем

Speaker A

натренивать любые модели, но если мы их не тренируем на реальности с реальными людьми, которые говорят: "О'кей, это правильно, это неправильно, давай мы чуть-чуть это поделаем, отправим, а этого бы не случилось". Ну вот. А здесь, на самом деле, я хотел сказать

Speaker A

одну такую вещь, что, да, таким образом получается, вот AI в таком виде при помощи, э, ээ, обучения с подкреплением превращается в очень серьёзное орудие труда, да, но при этом оно ужасно неравное. И у меня такие вот вопросы возникли, когда я готовил. Я хочу вас

Speaker A

всех спросить, вот кто сейчас пользуется ЛМ или агентами для работы в жизни, когда вот тут кто вообще хоть раз пользовался лмками или агентами?

Speaker A

Да, скорее всего. Кто тренировал ЛМ или агентов? О'кей. О, отлично. И тогда такой вопрос: а кто пользовался машин моделями? Такими классическими машин моделями, какой-нибудь, prediction там, туда-сюда, detction. Ага. И кто тренировал машин learning модели? Любые там какую-нибудь линейную регрессию, ещё что-нибудь. Нет.

Speaker A

О'кей. к чему я это всё и к тому, что моя догадка, у меня была догадка, но она оказалась немножко неверной про то, что да ну конечно распространением и искусственного интеллекта в том виде, котором мы сейчас его знаем, в

Speaker A

применениях, оно почти вездесущее, да, по кра по крайней мере здесь. А с другой стороны, как бы отношение отношение количеству людей, которые имми пользуются км к тому, кто их тренирует, сильно выросло, да? То есть в том смысле, что сейчас то, как эти лэмки

Speaker A

работают, то, как эти агенты обучаются, это абсолютно не то, что монополизированная история, но она очень сжатая. Почему? Потому что в какой-то момент учителя начали платить за тренировку моделей, а не наоборот, потому что, да, там до 2015 года было

Speaker A

очень важно тренировать модели, и все на это наши деньги зарабатывали. Называлось Date Science. Очень круто. А сейчас сложность возникла в том, что все модели, все фронтирмодели, которые мы используем, они просто мы просто не можем даже их контролировать. Мы даже не

Speaker A

можем, как бы сейчас я сяду и переобучу опус, чтобы он работал для меня, как я хочу, чтобы он работал, да? То есть я подч из таких неравенств, которые возникают вместе с искусственным интеллектом как орудием, это одно из тысячи, про которое я хотел просто

Speaker A

упомянуть. Вот. И, соответственно, из такого, возвращаясь к нашему примеру про предпол, да, то есть потенциально, о'кей, если мы заметили такую модель, мы заметили даже, что скорее всего это selfilling проic, что мы что-то там э неправильно придумали, может быть сама

Speaker A

предпосылка модели и задачи неправильная, давайте мы подкрепим её при помощи реинформен лернинга и так далее. И вот здесь как раз важная вещь, которую я хочу заметить, что, а, да, на мой взгляд, искусственный интеллект работает только, если он подкреплён

Speaker A

человеком. То есть без human and the loop, без человеческого фидбека, искусственного интеллекта бы не было. Но с другой стороны, человеческого фидбэка недостаточно, чтобы искусственный интеллект обучить всем, короче, как это правильно сказать, ес, ну да, если он выйдет из-под контроля и начнёт вредить,

Speaker A

если вдруг мы не, короче, при помощи подкрепления мы не можем решить абсолютно все проблемы, которые вытекают из искусственного интеллекта.

Speaker A

на тему человека я на самом деле хотел просто немножко сказать: "О'кей, мы немного поняли, как вообще появился искусственный интеллект в каком-то виде, в котором, как я его понимаю". И дальше, где мы находимся сейчас, это про то, как человек взаимодействует с этим

Speaker A

искусственным интеллектом, да, и кто такой человек. Для меня это очень важный вопрос как раз с точки зрения такой политической, на самом деле. И, ну, как бы один простой ответ на это человек - это я, да, мы все вот это. Давайте

Speaker A

подумаем про то, как мы взаимодействуем с искусственным интеллектом. один на один. И как бы я просто хотел сказать, что для меня интересная вещь, что для меня открыло на самом деле всю работу с искусственным интеллектом, это работать над автономностью и самообучаемостью. То

Speaker A

есть ска возвращаясь к идее алантюринга, я говорю: "Так, я хочу на самом деле алгоритм, который будет сам расширять свои возможности. Я вообще не хочу участвовать". Да? То есть я всё начинал с того, что я был каким-то ботлнеком. Я

Speaker A

на самом деле считаю, что человек - это и есть Battlнек в том, как развиваются агенты сейчас. В хорошем смысле и в плохом, да, в хорошем смысле, что Battleк необходим, но при этом какой-то микроменеджмент тоже, мне кажется, с искусственным интеллектом не очень

Speaker A

хорошо работает, по крайней мере, в моём случае. И одна из важных вещей, которую я начал делать - это, ну, модел в среднем, то есть про то, что когда у тебя происходит искусственный интеллект, как с ним вообще, ну, я говорю про колод-код, про

Speaker A

агент, потому что я его использую буквально каждый день. И то, что я начал делать - это буквально трекать то, сколько энергии я трачу. То, что, как я сказал, искусственный интеллект - это не только алгоритмы, это ещё машины, которые работают по этому алгоритму. И,

Speaker A

да, известные статистики про то, как сколько чистой воды уходит на охлаждение дата-центров после использованиям, да. Это вот по сути я сделал так. О'кей, я попросил моих агентов пойти почитать туда-сюда, сделать какую-то примерную оценку. И дальше я это не просто смотрю

Speaker A

на это, типа в своём клоде. Я ещё это использую, говорю: "Так, о'кей, если мы достигли в какой-то момент, он мне говорит: "Ты сегодня потратил 50 л воды на то, чтобы охладить своего клода". Я говорю: "Что жесть?" Говорю: "Так, после

Speaker A

этого всё хайку, пожалуйста". Больше никаких опусов, ничего умного не надо. Пожалуйста, всё хайкай. Если если уж я уже 50 л потратил, значит этого достаточно. Ну вот. И да, наверное, ну, это такая, наверное, история для совсем отдельного обсуждения про то, как мы все

Speaker A

выстраиваем свои общие процессы взаимодействия с И. Но одна вещь, которую я хочу подчеркнуть, особенно на тему того, что за человек in theлуop, human in the loop, то, что человек - это вообще, а, понятие это политическое и оно сконструировано в

Speaker A

каком-то смысле. И существует отдельное длинное и большое распространение ресерча на тему того, что вообще за представление о человеке имеют LLM. То есть, к примеру, вот один из один из одно из исследований, которое относительно недавнее, это на тему того,

Speaker A

о'кей, если мы попросим визуальные модели сгенерировать человека, то, очевидно, он сгенерирует белого и чаще всего мужчину. Вот. И в этом смысле, когда я говорю Human and the loop, я хочу подчеркнуть, что на самом деле за этим скрыта большая большая история и

Speaker A

практика того, как, ну, не дискриминируется. На самом деле абсолютно исключаются из бенефитов, которые искусственный интеллект приносит люди, которые его на самом деле это тренируют, да? То есть один из одна из статей, она выводит такое, точнее, это концепт, который существует в

Speaker A

антропологии довольно долгое время. Weird wide educated industrialized reach and democratic. Very weird - это как раз тот подход к обучению, который приоритит, грубо говоря, глобальный север, американскую инфраструктуру и так далее. И история это в том, что человек человеки из глобального юга, они дважды

Speaker A

стираются. То есть, с одной стороны задокументировано очень много ну дискриминации трудового трудового населения и так скажем, ну, то, что зарплаты в 2-три 2-3 доллара в час во Венесуэле и в Кении от Open AI для того, чтобы лейблеры размечали токсичные вот

Speaker A

эти все посты и да, то есть они не получают тех невероятных как бы финансовых бенефитов и материальных бенефитов, которые получают компании, да? То есть, к примеру, кто-то сказал, что антропик антропик вырос за 5 лет так же быстро, как Amazon AWS вырос за 10

Speaker A

лет, да? То есть вот это вот различие меня очень сильно как бы здесь волнует.

Speaker A

Я хочу его подчекнуть. Но второе метод стирания - это то, что на самом деле внутри лмок, внутри вот этого мышления, да, все говорят про там chain of thought, как мы правильно учим их ризанить, как мы правильно учим то и сё.

Speaker A

Это на самом деле как бы важно, естественно, потому что это это важно. Но с другой стороны, как бы из самого языка, на котором обучена модель, то есть этот мозг, который дальше используется в разных агентах и искусственном интеллекте, тоже население

Speaker A

абсолютно исключается. И в этом смысле, опять-таки, плюсуя к тому, что я уже сказал на тему того, что перетренировать эти модели сложно, они они структурируются вот таким довольно большим капиталистическим и индустриальным циклом. И да, ну как бы из этого следует ещё один момент, что

Speaker A

опять нельзя из пистолета Мака Макарова сделать пистолет водный, потому что в каком-то смысле, когда мы опять вернёмся к моему любимому примеру на тему предпола, да, то есть если уже такая вещь есть, это пистолет Макарова, да, пистолет - это это изобретение, это

Speaker A

технология, да, более того, это для кого-то орудие труда. И но как бы что пытаются сейчас сделать сообщество в каком-то смысле? Это давайте мы, да, мы сделали пистолет Макарова, который может вредить людям, который может вредить экологии и так далее. И давайте мы

Speaker A

просто оптимизируем его. Давайте мы его сделаем чуть-чуть, да, не будем менять фундаментальные вещи, но будем пытаться его оптимизировать. И не знаю, это такой вопрос скорее на будущее. Я не знаю, сколько времени у него осталось, поэтому я буду быстро закругляться.

Speaker A

быстрый тезис на тему того, о'кей, мы примерно поняли, как искусственный интеллект обучился, как мы его натренировали, как он обучился, распространился в индустрии, как мы с ним сейчас можем взаимодействовать, где сложности, кто такие мы. И последнее на тему того, как вообще учиться от

Speaker A

искусственного интеллекта. И здесь я как бы всегда, когда читаю LM, я думаю про largeu Mirror. То есть в каком-то смысле надо, я воспринимаю эти модели и моё взаимодействие с агентами как какое-то зеркало того, как вообще я воспринимаю мир, чего я хочу добиться и так далее.

Speaker A

То есть это к разговору про selffulfilling проicy. Я о нём всегда очень э много думаю и говорю: "Так, что я хочу сейчас сделать и каким образом мне нужно это сделать?" Потому что результат, который я получу, будет в каком-то смысле отражением того, что я

Speaker A

хотел найти абсолютно. То есть это это, кстати, очень интересное исследование антропика на тему эмоциональности, да?

Speaker A

То есть они смотрели на то, на то, как нейроны в описе, которые отвечают за эмоциональные части в литературе, то есть это, груйроны, которые, если ты генерируешь там того же, а, картину, портрет Дорина Грея, то эти нейроны отвечали бы там за

Speaker A

desperation, anger, sadness и так далее. То есть они как бы выучили языковое представление эмоций, и дальше они пытаются показать нам. О'кей. В зависимости от того, насколько меняется эта эмоция в твоём промте, вот так может поменяться определённое поведение. То

Speaker A

есть здесь это, ну, грубо говоря, подлизывание и какая-то жёсткость. А это я не буду в это углубляться, слайды будут.

Speaker A

Мы поделимся слайдами. Последний, наверное, вывод, который я хочу здесь сделать, это про то, что, да, нужно, на мой взгляд, как вообще обучаться сейчас это смотреть на это как на зеркало и на отражение каких-то глубинных причин, каких-то глубинных вещей, которые мы можем могли бы не

Speaker A

замечать до этого, особенно через то, что называется merging behavior, да? То есть это когда модели начинают делать вещи, которые для которых мы их не тренировали и не подкрепляли. Вот. Ну, наверное, на этом я и закончу. Спасибо.

Speaker A

Да, много было. M. Перезагрузил. А так я знаю, как вам так классно.

Topics:искусственный интеллектмашинное обучениеобучение с подкреплениемLLMHuman in the Loopbiasтрансформерыprompt engineeringreinforcement learningдатасаенс

Frequently Asked Questions

Что такое эффект self-fulfilling prophecy в контексте AI?

Это ситуация, когда предсказания модели влияют на поведение людей, из-за чего предсказанное событие с большей вероятностью происходит, подтверждая модель.

Почему обучение с подкреплением считается важным в современных AI?

Обучение с подкреплением позволяет моделям учиться на основе обратной связи от среды, что делает их более адаптивными и эффективными в решении сложных задач.

Что означает Human in the Loop и почему это важно?

Human in the Loop — это подход, при котором человек участвует в процессе обучения и принятия решений AI, что помогает улучшить качество и надежность моделей.

Get More with the Söz AI App

Transcribe recordings, audio files, and YouTube videos — with AI summaries, speaker detection, and unlimited transcriptions.

App Store Google Play

Or transcribe another YouTube video here →