Skip to content
Get App

Разработка с AI автоматизация и продуктивность 5 2

Разбор способов дообучения LLM: LoRA, QLoRA и полное дообучение. Практичный обзор адаптеров и их преимуществ для открытых моделей.

Key Takeaways

  • LoRA — самый распространённый и практичный способ дообучения открытых моделей
  • Адаптеры компактны и заменяемы, основная модель остаётся неизменной
  • Полное дообучение требует значительно больше данных и вычислительных ресурсов и нужно редко
  • Для обучения удобно арендовать GPU в облаке

What the video covers

  • Введение в дообучение моделей и способы, которыми это можно делать
  • LoRA (Low-Rank Adaptation): основные веса модели не меняются, обучается небольшой адаптер (менее 1% параметров)
  • Преимущества LoRA: быстрое обучение и малый размер адаптера (десятки мегабайт против нескольких гигабайт модели)
  • Адаптеры легко подключать и менять на одной базовой модели
  • Обсуждение автоматического подбора параметров для адаптера с помощью агентов кодинга и недавних исследований о чтении весов LLM
  • QLoRA: LoRA поверх сильно сжатой модели, экономия памяти
  • Полное дообучение: изменение всех весов, требует больше данных и GPU, но выполнимо
  • Когда полное дообучение имеет смысл: нужна единая собственная модель или глубокие изменения
  • Практический пример: дообучение модели для задачи, сравнение работы до и после тренировки
  • Рекомендация: для обучения арендовать видеокарту в облаке, есть бесплатные кредиты у некоторых платформ

Answers

Questions about this video

Что такое LoRA и почему её выбирают для дообучения?

LoRA (Low-Rank Adaptation) не меняет основные веса модели, а добавляет небольшой адаптер с обучаемыми параметрами, обычно меньше 1% от общего числа. Это быстро, требует мало памяти и позволяет легко менять адаптеры.

Чем полное дообучение отличается от LoRA?

При полном дообучении меняются все веса модели, что требует в разы больше данных и вычислительных ресурсов. Обычно это оправдано, если нужна одна собственная модель или глубокие изменения.

Почему адаптер весит значительно меньше самой модели?

Адаптер содержит только изменённые параметры LoRA, порядка 60–70 мегабайт, тогда как сама модель может весить 3–4 гигабайта. Поэтому адаптеры удобно хранить и переключать.

Full Transcript — Download SRT & Markdown

00:07
Speaker A
И я вернулся. А вы вернулись? Напишите, пожалуйста, всё ли у нас хорошо. Да, вроде всё хорошо. Спасибо. Давайте продолжать.
00:19
Speaker A
Всем ещё раз добрый вечер. Мы продолжаем наше занятие. И, собственно, пора поговорить уже непосредственно про способы, виды и особенности до обучения.
00:32
Speaker A
Прежде всего, давайте поговорим, а, про, а, способы, которыми вы можете дообучать модель. И самый распространённый способ, и тот способ, который мы будем использовать сегодня - это laра, то есть low rank adaptation. И как это работает, да? То есть вообще вот как бы веса нашей
00:52
Speaker A
модели. Ну вот если брать, например, в случае с D1 2B, это, ну, условно там, на самом деле, чуть меньше, но условно 2 млрд параметров. Что это означает? Означает, что а вот у нас есть такая гигантская, можно сказать, математическая формула, да? Ну, это я
01:17
Speaker A
сейчас очень максимально упрощаю. максимально упрощаю, чтобы просто - как бы вы себе лучше это могли как бы визуализировать, да, и то есть это такое гигантский набор, а-а, можно сказать, чисел, да. И вот этот гигантский набор чисел, он образует веса
01:41
Speaker A
модели. То есть вот, собственно, Веса модели - это буквально такой вот такая простыня, гигантская простыня ну, можно сказать, текста. Там там всё как бы всё сложнее, но это реально вот такой просто гигантской гигантский массив информации.
01:57
Speaker A
И чем больше, соответственно, миллиардов параметров, тем умнее модель. То есть как бы 2 млрд параметров - это такая глупенькая модель, а, например, там 27 млрд параметров - это уже довольно умная. И вот дело в том, что вот эти 2
02:13
Speaker A
млрд параметров, всех их менять, это можно как бы сделать, но в большинстве случаев это не нужно делать, потому что, ну, даже 2 млрд параметров изменить - это как бы задачка, если честно, да? То есть это это большое большое количество,
02:33
Speaker A
да, параметров, которые надо поменять. Вместо этого чаще всего используется Laora, да, то есть Laura adдаapter. Это означает, что как бы мы вот эти основные веса модели не меняем, они как бы остаются такие, как они есть. А мы просто берём 16 млн параметров, которые
02:52
Speaker A
м как бы мы меняем. И получается, что когда, например, идёт какой-то запрос, то берутся вот эти как бы веса модели и к ним добавляется адаптер, который как бы меняет поведение модели, и всё вместе это складывается уже потом в ответ
03:11
Speaker A
модели. Чем это очень хорошо? Значит, во-первых, это а во-первых, это требует очень мало времени на тренировку модели, да? То есть там меняется меньше, там меньше обычно меньше 1% весов. И поэтому это происходит быстро и просто. Во-вторых, сам этот адаптер, он очень, на самом
03:32
Speaker A
деле, очень мало весит. То есть, например, вот наша моделька, которая вот эта 2B, она может легко весить там 3-4 Гб. А вот эти адаптеры, которые мы изменили, на самом деле, они там весят 60-70, да, в этом в этом районе
03:45
Speaker A
мегабайт. И при этом тоже ещё важно учесть, что адаптеры, а адаптеры очень легко м меняются, да, то есть как бы то есть вы можете, например, вы можете скачать, да, модель, вот она у вас скачана, а вы можете на ней один
04:02
Speaker A
адаптер подключить, потом другой адаптер подключить, да? То есть вы можете вот так, а-э, ну, таким образом, соответственно, просто легко менять эти адаптеры, потому что это буквально адаптер, вы не меняете саму модель. И вообще в мире, скажем так, openсоourсных
04:17
Speaker A
моделей, ну, очень многие вещи делаются именно через LРА адаптеры, потому что это это практично, удобно и на практике это один из лучших вариантов.
04:27
Speaker A
Агдан спрашивает, а как она понимает, что именно в эти 16 млн взять? Ну, во-первых, это не то, что она понимает, это понимает агент кодинга, да? То есть как бы агент кодинга знает, как бы есть есть уже как бы технологии для
04:40
Speaker A
дотренировки модели. И с помощью этих технологий агент кодинга знает, как их использовать и соответственно их использует. И что тут важно сказать, да, вот насчёт вот этих 16 млн параметров, это то, что вот недавно был очень такой важный прорыв, очень важное открытие.
04:58
Speaker A
А когда ма когда взяли маленькую модельку, ну, там брали, по-моему, вообще 0,8 м 0,8Б, то есть там 800 млн параметров. И вот тут большая модель смогла смогла буквально прочитать эти Веса. Вот прямо буквально. То есть не не а не
05:20
Speaker A
использовать технологии до тренировки, которые как бы меняю, ну там там это Слушайте, знаете, просто я в это не хочу углубляться, потому что, во-первых, я в этом не эксперт. И более того, чтобы быть в этом экспертом, это невероятно сложная область. Невероятно нужно там
05:33
Speaker A
эта смесь математики невероятно сложной и вообще с огромным количеством реально очень сложных вещей. И поэтому прям сильно именно в техническую часть я не хочу углубляться, потому что опять-таки мы мы сами вручную вообще ниче ничего делать не будем. Но недавно они взяли
05:49
Speaker A
как бы топовую LLM, и эта топовая LLM смогла именно прочитать Веса модели и сказать, что вот это место и вот это место вот надо его перетренировать и изменить. Вот это это такой довольно прорывной момент, потому что раньше, до
06:08
Speaker A
этого всё равно вся вот эта вся вся дотренировка, она всё равно происходила по а определённым таким законам и правилам математическим до тренировки.
06:21
Speaker A
То есть оно как бы а вы как бы ставили задачу, и там запускается как бы процесс такой дотренировки, который как бы дотренирует, тренирует, тренирует и так далее. А тут как бы можно прямо вот модель смотрит на веса модели, вот вот
06:34
Speaker A
прямо весь вот это такое полотно гигантской информации и говорит: "Вот здесь проблема и вот тут проблема, и нам нужно эти места вот изменить".
06:43
Speaker A
Поэтому в этом плане это очень очень интересный прорыв. М посмотрим, какое у него будет продолжение, потому что пока пока якобы не видел я не видел больше особо дальше в эту сторону движения. А это говорит скорее о том, что не всё так
06:59
Speaker A
просто здесь. То есть не всё так просто, что можно вот так просто, э, веса модели как бы считать. Но может быть, может быть, мы увидим ещё это движение.
07:08
Speaker A
А вот так что вот это самый как бы лора - это то, что самый простой способ. Какие ещё бывают? Значит, во-первых, есть ещё проще, чем это называется Qoraра. Это, а, скажем так, тоже лора, только поверх ещё сильно сжатой модели, да? То есть мы берём как
07:28
Speaker A
бы сильно сжатую модель и ещё и и к ней вот делаем такой адаптер. А в этом случае ещё меньше нужно памяти. То есть это это тоже ещё такой в некоторых случаях вполне себе вариант.
07:44
Speaker A
А значит, соотственно, лора - это только что только только что мы только обговорили. Потом есть полное дообучение, то есть это когда вы берёте и меняете вообще все веса модели, да? То есть как бы вы полностью меняете веса модели, а при этом и данных, да, для
08:04
Speaker A
такой дотренировки, ну это даже не это даже не дотренировка, это, можно сказать, уже перетренировка, потому что вы просто вы полностью меняете как бы веса модели. А, во-первых, данных нужно в разы больше. И GPU как бы для такого для такой
08:21
Speaker A
тренировки тоже нужно намногонамного больше. При этом я не хочу сказать, что это невозможно. А то есть это это абсолютно, ну, как бы абсолютно выполнимая вещь. И я, например, э-э, вот когда я ещё давно вот учился до тренировки, да, на, аэ, уAгин Face на
08:38
Speaker A
курсах, а мы прямо полностью перетренировывали там, ну, довольно маленькую модельку, по-моему, 1 млрд параметров. Мы прямо полностью её перетренировали. Это абсолютно такая выполнимая задача. То есть это не сказать, что это что-то невыполнимое, не это можно сделать.
08:55
Speaker A
Просто в быстрее случаев с практической точки зрения в этом нет особого смысла. Это имеет смысл, когда, например, в некоторых случаях вы хотите получить прямо цельную модель, да, потому что не забывайте, что вот при вот такой, да, структуре у вас в любом случае два
09:10
Speaker A
файла, да? То есть это два, на самом деле, два файла. Один файл адаптера и один файл, собственно, модели. А в некоторых случаях вам хочется свою собственную модель сделать. Это вот, чтобы у вас была одна просто собственная модель. И тогда это нужно как бы все
09:23
Speaker A
веса модели менять. Ну, плюс в некоторых случаях, например, просто адаптер может не обойтись. А если вы хотите более глубинные изменения в модели, то это, ну, как бы это такая, например, более сложно становится история. То есть, например, в моём случае мы полностью
09:40
Speaker A
переделали модель, чтобы она начинала отвечать на вопросы, на которые она как бы не должна отвечать. То есть, по сути, мы мы брали просто модель, которая следовала таким стандартным гайдлайнам.
09:52
Speaker A
Ну, то есть, например, там, если её спросить там, а как взломать соседский Wi-Fi? Да, и она, ну, должна была ответить: "Нет, я не подскажу такого".
09:59
Speaker A
Да, как бы. А мы, ну, я так отвечал, потому что так любая модель такая ответит. А, а мы делали так, чтобы она чтобы она всё рассказывала. И это, если честно, немножко пугает, потому что когда когда ты можешь вот так поменять
10:12
Speaker A
модель, ты понимаешь, что она реально там мне стала с энтузиазмом рассказывать, каким именно образом можно взломать Wi-Fi соседа. Так что это, ну, такая как бы история, не всем нужная, но, в принципе, знаете, что можно и сделать и полное до обучения. И плюс
10:29
Speaker A
дальше уже идёт, например, обучение с подкреплением. Reinforcement learning. То есть это когда вы, э, например, когда у вас нет каких-то готовых данных, да, то есть когдани вот, например, вот всё, что мы делали до этого, да, это мы у нас есть какие-то готовые образцы, то
10:49
Speaker A
есть у нас есть типа образцы, что вот так хорошо, типа вот вот делай вот так, да, и мы и мы учим на этом. Но в некоторых случаях образцов или нет, или их не может быть, или сама суть такая, что как бы образцы
11:04
Speaker A
очень сложно подготовить. И в этом случае хорошо работает обучение с подкреплением. Это когда вы когда а когда модель что-то пробует делать и у неё, например, это там получается или не получается, в зависимости от этого, если получилось, то этот в это это
11:24
Speaker A
действие как бы оно принимается, да, и модель дальше дообучается. Вот, если помните, там год или примерно м примерно год или полтора назад там очень такая выстрелила статья, а, Андрея Карпатова, который который как раз написал о том, что если
11:42
Speaker A
просто взять и вот взять маленькую модельку и написать просто такой там питоновский скрипт, который будет давать ей какую-то задачу, модель будет как бы сама пробовать как бы решить эту задачу, и если, например, это у неё успешно получается, то вот это
11:58
Speaker A
её как бы обучение, оно записывается, да, и она с этого момента дальше стартует. И вот в таком как бы авто таком режиме можно очень далеко продвинуться, но это уже всё-таки более такие все как бы замороченные, если честно, истории. То есть это как бы
12:13
Speaker A
интересная штука, но тут уже надо прямо углубляться, разбираться и, ну, если вам прямо реально это супер интересно, то, что мы сегодня будем делать, это такая более прикладная чистая история. То есть вот вот у нас есть задача, мы эту задачу
12:26
Speaker A
хотим решить, да? То есть вот и потом, если вы захотите в этом разбираться, поверьте, там кроличья нора просто нереальных размеров, правда? Ну то есть там столько тонкостей появляется, и эти тонкости надо любить. То есть я, например, почему я, например, никогда не
12:41
Speaker A
занимаюсь именно, ну, вот такой серьёзной какой-то тренировкой моделей, потому что, а, знаете, это наполовину наука, наполовину искусства. И вот та половина науки мне в ней не нравится. То есть там нужно, ну, всё-таки хорошо понимать математику, там нужно, ну, вообще такой иметь немножко
13:02
Speaker A
другой склад ума для таких задач, а, по крайней мере, не мой, как бы. То есть мне это не так интересно, а вот общаться с агентами, чтобы они делали дотренировку, это очень интересно.
13:13
Speaker A
А Байл спрашивает: "А можно доучить модель, чтобы она могла хорошо программировать?" Ну, смотрите, а, во-первых, во-первых, да, давайте так начнём с такого от это, да, можно, а другое дело, что просто каким путём вы пойдёте. То есть, например, сейчас есть
13:30
Speaker A
маленькие модели до обучённые, что они, например, хорошо программируют или в какой-то области, или на каком-то языке, или вообще, в принципе, например, они просто хорошо программируют. Но вопрос, с кем с кем сравнивать, да? То есть вот с лу они там лучше, чем кто
13:48
Speaker A
программирует. Они, например, лучше программируют, чем модели их размера, да? Это 100% такого много. Вы можете найти там довольно маленькие, там 9B, например, модели, которые программируют на уровне, не знаю, моделей там 27Б. Да, такое вообще это без проблем можно
14:02
Speaker A
сделать. Другое дело, что можно ли сделать так, чтобы модель программировала маленькая на уровне там, не знаю, Clot Fable, да? Вот. Ну так давайте скажем. Вот тут скорее нет, потому что а программирование, да, вот вот что такое вообще программирование, если так
14:26
Speaker A
задуматься. Программирование - это некое логические алгоритмическое мышление о нашем мире. Вот так. Ну вот, если очень-очень так упрощённо, да, говорить и на прикладном уровне, базовом уровне, типа правильно напиши там с правильным синтаксисом напиши что-нибудь, да, вообще легко можно добучать и никаких
14:52
Speaker A
проблем здесь нет. А проблема начинается тогда, когда для того, чтобы сделать хорошее программирование, нужно много знать о мире. То есть вот почему, например, Fable так круто программирует. Это не потому, что её как бы тренировали специально там для как-то для
15:09
Speaker A
программирования. Ну, на самом деле, её тоже тренировали, но это немножко отдельный разговор. Но как бы в целом она так круто программирует, потому что у неё есть невероятное понимание мира.
15:19
Speaker A
Просто такое, наверное, невероятное, которое у людей в принципе не может быть. То есть она одновременно, вот представляете, это человек, который одновременно может знать, как правильно написать синтаксис, да, кода, при этом знать а какую лучше всего, например, архитектуру выбрать для этого там решения какого-то.
15:45
Speaker A
При этом понимать, например, какие есть особенности движения, не знаю, пакетов по сети. чтобы это учесть в этой архитектуре, да? То есть вот, ну, вот такая широта мира. Вот этому невозможно научить маленькую модельку.
16:01
Speaker A
Вот в этом проблема. При этом, например, если вам нужно что-то программировать, что-то очень простое, вообще легко, то есть вот представим, например, себе такую вещь. Вы хотите сделать какую-нибудь, не знаю, там игрушку для ребёнка, чтобы он с помощью неё
16:16
Speaker A
что-нибудь программировал. Ну там типа для школьника, да, какой-нибудь такой взять гаджет, сделать для школьника, чтобы он чтобы он что-то мог с этим гаджетом программировать несложное и при этом, чтобы этот гаджек полностью локально, например, работал. Легко вот такое сделать очень легко. То есть мы
16:31
Speaker A
берём конкретную задачу программирования, там базовые какие-то вещи, и мы на это тренируем модель. Но вот так сделать так, чтобы маленькая модель понимала мир по-настоящему, нет, такого не получится. То есть вообще вот вся фишка вот этих больших моделей именно в том, что у них есть очень-очень
16:48
Speaker A
глубокая по понимание мира, потому что они очень много всего знают. И это вообще на этом строятся всем вообще. То есть вот я, когда ещё там года два-три назад я читал там воспоминания ещё и Дарию Амадея. То есть вот вообще вот
17:02
Speaker A
если просто вот вы не знаете, кто такой Дариомадей, это, ну, я имею в виду, вы, наверное, знаете, кто он, ну, может быть, просто его биографию не знаете, это человек, который, а, он изначально работал в Open AI, и он ушёл из Open AI
17:16
Speaker A
и обосновал, а, основал, собственно, антропик. И просто откуда вообще вот эта вся пошла история, что почему, например, почему он ушёл? Потому что в тот момент, когда он уходил, там тогда появилась такая мысль, что, а что, если мы возьмём
17:37
Speaker A
и просто натренируем более умную модель, которая больше знает, она от этого станет умнее. И это вот нам сейчас там задним числом кажется. Ну, конечно, это очевидно. Конечно, если вы типа модель натренируете на большее, а-а, на большее количество данных, то, конечно, вообще 100% типа
17:58
Speaker A
всё умнее. Но вот тогда, в то время это была совершенно неочевидная мысль, и никто не знал, получится это или нет. И как раз Дарио Амадей, он, видимо, понял, что это верный путь движения, и поэтому он ушёл из Open AI. Он основал свою
18:11
Speaker A
компанию как раз, которая которая стала вот в это этим заниматься. А, Дмитрий пишет: "Я пытался обучить модель распознавать определённое положение ног на подиуме. Оно мне подсовывало примеры: хорошие ноги, плохие ноги". Я 2 дня кликал по правильным ногам, потом
18:32
Speaker A
сломался несколь. А насколько сейчас, сегодня есть правильное распознавание фото в моём случае ног? Ну, слушайте, я думаю, я вот как бы я бы на вашем месте поступил. То есть я прекрасно понимаю, что то есть по сути, о чём вы
18:43
Speaker A
спрашиваете. Вот если так очень упростить, чтобы натренировать модельку, нужно сначала создать крутой датасет ног. Вот как бы я это сделал, я бы А причём я так понимаю, что именно там вам, скорее всего, нужны пары, да, как бы ног. Вам
19:00
Speaker A
нужно пары, там неправильные ноги, правильные ноги, неправильные ноги, правильные ноги. Ну, типа вот, наверное, скорее в каком-то вот таком ключе. А сейчас я бы сделал как в таком случае я бы взял какую-то крутую умную модель, а сказал ей: "Распознавай правильные
19:15
Speaker A
хорошие, плохие ноги и собери мне такой датасет. Всё. И она просто это сделает. Я уверен, что там модель уровня, ну ладно, Fable там, но Opus, Astra, Sol, они должны легко эти вещи понимать.
19:30
Speaker A
И, соответственно, они вам просто они вам создадут датасет. То есть не вы будете кликать, а они как бы всё прокликают, и после этого вы сможете уже натренировать модель.
19:43
Speaker A
А что нам нужно для тренировки, да, и как вообще эта тренировка будет происходить? Значит, во-первых, а, по сути нужно четыре составляющих. То есть, во-первых, нужна некая исходная модель.
19:53
Speaker A
То есть, опять-таки, дотренировать можно только модель, которая доступна в открытом виде, то есть, например, на Huging Face. И мы будем конкретно натренировывать D D D1 2B.
20:04
Speaker A
А дальше датасет. Нам нужен датасет, который, а, где будет как бы правильно правильно показано, что вот как бы такой вот, например, там такая такие-то входящие данные должны превращаться в такие данные. датасайты могут быть очень разные, да, то есть это
20:24
Speaker A
как бы тоже это, а там конкретно в нашем примере, да, будет такой просто датасейт, что как бы входящие данные, пример как бы как эти данные должны быть обработаны. Ну, условно говоря. И вот там примерно у нас будет там, не знаю,
20:37
Speaker A
4.000 таких примеров. А, и вот на этом датасете уже всё дальше тренируется. И ес эти датасеты просто, ну, создаются самими агентами кодинга.
20:46
Speaker A
То есть это это так называемые синтетические данные, то есть которые просто агент кодинга берёт и он их генерит, то есть там через, ну, питоновский скрипт какой-нибудь напишет.
20:55
Speaker A
Питоновский скрипт сгенерит ему там 4.000 данных, как ему нужно. А, плюс нам нужны тесты для проверок, которые как бы не как бы те проверки, которые а они не будут в этом датасете, да, то есть как бы модель не может на
21:12
Speaker A
них тренироваться, но при этом соответственно потом по ним проверяется. А, и, конечно, нам нужен GPU, да, то есть какая-то видеокарта, потому что тренировка всегда происходит на GPU.
21:24
Speaker A
Сколько нам нужно примеров? как бы начинается более-менее от 500 до 2.000. Это вот такое начальное как бы начально более-менее нормальное какой-то какой-то начальный пример. Потом там 3-5.000 примеров, это уже какой-то более такая нормальная ситуация. Вот там в нашем случае у нас там примерно 4.000
21:46
Speaker A
будет примеров. А 5-10.000 - это, собственно, уже такой довольно хороший датасет. Если он хорошо сделан, опять-таки, то это хороший достоит, с которым можно уже дальше там работать.
21:59
Speaker A
Для более сложных, более сложных до тренировок, особенно если вы всю модель хотите перетренировать, там ещё больше надо, да? То есть это это скорее больше относится к лоре.
22:10
Speaker A
А причём намного важнее количество качества, да? То есть, во-первых, примеры должны быть похожи на ту реальную работу, которую вы хотите, чтобы модель выполняла.
22:21
Speaker A
Вам нужно, чтобы ответ был проверен. Ну, то есть опять-таки проверен, что имеется в виду? Если его может проверить ИI, то это прекрасно, но просто в некоторых случаях, вот как с примера, вот, например, у Дмитрия вот этими с ногами, то там, возможно, в
22:36
Speaker A
некоторых случаях нужно, чтобы всё-таки человек покликал, да? То есть я не знаю, мне кажется, там Сол Astra или OPСus, они должны хорошо отличать ноги, но если вдруг они не могут отличить, то там, к сожалению, нужен человек. И вообще-то
22:49
Speaker A
это, кстати, а если без шуток вы хотите заработать, есть в интернете разные стартапы, сервисы, которые вам буквально за это заплатят. То есть вот буквально вы прямо просто садитесь за компьютером и начинаете вот так вот вот Дмитрию вот это ноги размечать. Не шутка, совершенно
23:05
Speaker A
реальная вещь. Аа, и более того, например, если Дмитрий поймёт, что ему обязательно нужно, чтобы человек это разметил, то он тоже может прийти в такой сервис, сказать: "Вот вам там 5.000 фотографий ног, пусть кто-нибудь там мне поразмечает человек".
23:21
Speaker A
А, и вот, собственно, нужны тесты для проверки. То есть, в принципе, это всё, что нам нужно.
23:27
Speaker A
Тут, я думаю, у вас появляется вопрос: а какой для этого нужен компьютер? Сразу скажу, что там запускать, да, модель можно на слабеньких компьютерах, а вот дотренировывать модель, тут всё-таки нужен уже компьютер помощнее.
23:42
Speaker A
А давайте так скажем, вот я когда вот вот эту наш готовился к нашему сегодняшнему занятию, я тренировал там на видеокарте 24 Гб видеопамяти H100. Я вам сейчас расскажу, как её получить бесплатно. И, собственно, я на этом тренировался. Но, в принципе, вот
24:02
Speaker A
давайте так. Если у вас компьютер, у которого 812 Гб видеопамяти, ну, в вот как бы для каких-то более серьёзных моделей этого точно не хватит.
24:15
Speaker A
Но в принципе, в принципе, если вы э если вы вот реально там 2Б модельку хотите дотренировать, то 812, может быть, вам тоже хватит. Просто учтите, что это больше займёт времени. То есть это не будет 20 минут, это будет, может
24:29
Speaker A
быть, несколько часов, несколько суток, да? То есть это может быть вот так будет. А видеокарта э 16 Гб - это уже как бы, ну, на грани для какой-то нормальной тренировки. То есть, ну, в принципе, 16 Гб- это уже как
24:43
Speaker A
бы с этим можно уже жить и работать. А если вы хотите прямо вот быстро, это вот 2432 Гб, их надо арендовывать как бы. Ну или или у вас, конечно, может, дома такие есть. Тогда всё классно.
24:57
Speaker A
или их надо арендовывать, как и мы будем это делать, бесплатно арендовывать. А этого точно хватает. Если у вас Apple Silicon, да, то есть Mac вот с М процессором, то и у вас больше 16 Гб рама, вы тоже можете попробовать. Я не
25:11
Speaker A
гарантирую, что это будет. И это, скорее всего, будет долго, да? То есть тоже всегда готовьтесь к тому, что-то перетренировать дома будет долго, да? То есть вам, скорее всего, может, на ночь придётся оставить, чтобы это, а может и на несколько дней, чтобы это работало.
25:23
Speaker A
А, но в принципе с Маком теоретически это можно сделать. А лучший вариант, который мы будем использовать, мы просто арендуем облачную профессиональную видеокарту буквально на 20 минут. Это будет стоить полтора доллара, и там вам дадут бесплатные кредиты, что ничего платить
25:40
Speaker A
не надо будет. Поэтому в целом, как бы я бы рекомендовал, что для обучения просто использовать какой-то более такую вот арендовывать в видеокарту и всё.
25:54
Speaker A
А где взять это бесплатно? Ну, во-первых, как бы вот то, что я вам сейчас скажу, методы - это такие более проверенные методы, но всегда где-нибудь, да, можно взять что-то бесплатно. Ну, то есть там, а, у всяких сервисов могут какие-нибудь акции
26:09
Speaker A
происходить там, мм, некоторые тоже сервисы, кто даёт GPU в аренду, могут вам, по, может быть, там несколько долларов даже дать просто на счёт бесплатно при регистрации. А вам этого хватит? Ну, как бы вам для нашей задачи вам буквально там долларов пять нужно
26:23
Speaker A
будет максимум, скорее всего. А где бесплатно дают? Во-первых, есть, во-первых, есть такой такой сервис, как Google Collab. И это довольно известный сервис для исследователей. Там можно брать, аэ, бесплатно видеокарты Т4 на 16 ГБ, а сессии до 12 часов. Ну, в
26:44
Speaker A
принципе, там вот нашу модельку тоже вы в Google колабе можете легко, как бы, в принципе, я думаю, натренировать. А там просто проблема в том, что там как бы поскольку это всё бесплатно, то вам ничего не гарантировано.
26:58
Speaker A
лимит как бы нигде на самом деле не ну как бы не отображается и мог быть очереди ещё о тоже очень известный научный проект называется ал и это это проект для дата да data science как бы профессионалов и там тоже можно
27:17
Speaker A
арендовывать вот такие разные ну мм попроще я бы сказал такие GPU то есть там Т4 тоже а по 16 ГБ Но опять-таки для нашей задач тоже этого может хватить, но там, во-первых, при регистрации нужен телефон, там, всякое такое, а, и тоже,
27:34
Speaker A
поскольку это бесплатно, то могут быть очереди и перебои. А мы будем другое использовать. Мы будем использовать сервис, который называется Model. И на самом деле это вообще очень классный сервис. Честно, я реально всё больше и больше им пользуюсь, причём длявершенно
27:47
Speaker A
разных целей. Сейчас я вам покажу. Значит, вот model.com. Вы просто сюда заходите и регистрируетесь здесь. И вам каждый месяц будет даваться 30 долларов э бесплатных кредитов сюда. И эти 30 долларов вы можете тратить спокойно на аренду любых GPU. Вот вы можете прайсинг
28:15
Speaker A
посмотреть, например, скажем, вот там Nvidia H1. очень классное, хорошее GPU, которого нам хватит. Оно стоит, ну, вот тут вообще посекундная тарификация, но если в час смотреть, оно стоит 4 доллара в час. Нам вам часа вот выше крыши просто будет. То есть на эти 30 долларов
28:32
Speaker A
вы можете так прилично обтренироваться, на самом деле. И более того, я, например, для себя недавно открыл потрясающее использование модула. Это то, что если вы работаете с 3D-графикой в Блендере, вы можете настроить так. Просто просто попросите это кодекс или клод-код сделать, он вам
28:51
Speaker A
сделает. Вы можете настроить так, чтобы, например, вы рисуете что-то в блендере, ну, точнее, или ваш агент рисует что-то в блендере, а рендерится это всё на вот этих видеокартах, не у вас на компьютере, а вот на этих видеокартах. Я
29:05
Speaker A
вот буквально недавно такое делал. Я проводил, а, такой, мм, как бы вебинар для строительной компании, и я им показывал, что вот вы можете взять просто ваши там чертежи, например, здания, их, сделать, по ним 3D-визуализацию. И даже если у вас нет
29:24
Speaker A
мощного компьютера, вы просто берёте, говорите кодексу и клод-коду: "Сделай, подключи к блендеру вот эти, э, вот эти модел видеокарты и всё рендерит там, и он всё сделает".
29:37
Speaker A
И всё это очень удобно работает. Вот они даже пишут, что 30 долларов в месяц бесплатных кредитов.
29:44
Speaker A
И всё это очень домно работает, потому что у них есть CLI, то есть вот, а, ну, не знаю, тут у них почему-то ссылки нет, но вы можете просто вбить model CLI, аа и у них, соответственно, это оченьочень классная штука, и агенты
30:01
Speaker A
с этим прекрасно работают. Ваш агент с Model Cli будет просто вообще без каких-либо проблем работать.
30:09
Speaker A
А, поэтому это то, что мы будем использовать. Ну и в целом, как бы, если, ну да, там, если вам хочется просто поэкспериментировать, да, вот эти варианты интересные тоже colab и kag, но как бы для что-то серьёзного вам нужен
30:23
Speaker A
модел. Или если у вас есть своя видеокарта, там 1624, тоже это вполне себе тогда вариант.
30:30
Speaker A
А также как бы есть разные пучи пути до обучения. То есть, например, вот, скажем, есть такой известный сервис UNSL, и это такая библиотека.
30:41
Speaker A
библиотека, ну и в том числе библиотека. И у них ещё есть уже и приложение тоже.
30:45
Speaker A
Она как бы берёт на себя всю техническую часть как раз вот этого загрузка модели лора, кюлора, формат там дела. Она вот это вот как раз все вот эти вещи, которые нужно сделать, она это делает. И оно как бы в этом очень и очень
31:00
Speaker A
эффективно. Поэтому как бы вы можете, например, там таким путём пойти, да, то есть использовать там взять модель с Хагнфейса, использовать unsloth, например, в колабе или в Кэгре. А, и потом как бы, ну, всё это экспортировать. Ну, там GooF - это
31:15
Speaker A
стандарт такой, ну, для Windows, ну, не то, что Windows, ну, как бы не маковских LLM, скажем так. Но мы пойдём в другом пути. Мы будем просто всё делать через кодексы clДКОД. Они всё вообще всё сделают сами. Просто вообще
31:31
Speaker A
всё. А поэтому что мы будем, собственно, делать? Я хочу сделать такую вещь, что я хочу взять, а, а сейчас вот Никита спрашивает: "А у нас clд в блендера хорошо моделирует?" Вы поразитесь, насколько? Он просто потрясающе моделирует в блендере. Так
31:53
Speaker A
вот, а значит, что мы будем делать сейчас? Я почему-то закрыл Nion. Зря я его закрыл.
32:06
Speaker A
Да, сейчас, в общем, а задача в том, что я хочу сделать как бы расширение для хрома, который которое будет управлять моим ноушеном. Сразу скажу, что а я просто это уже, ну, как бы сделал, да, и я сделал себе скилы, и у меня сейчас
32:26
Speaker A
будет мой использовать э ну как бы мой агент будет использовать эти скилы. Но, честно вам скажу, я это делаю просто, чтобы наше время с вами не тратить, потому что на самом деле там без скилов, ну, у меня точно также там может быть
32:39
Speaker A
там на полчаса больше времени заняло, там чуть-чуть ему побольше он всякого этого делал. То есть это это просто сделано чисто ради того, чтобы мм ну просто вот а просто чтобы нам немножко времени сэкономить. То есть по сути это
32:52
Speaker A
как будет работать, что мы в браузере открываем Notion доску. А наша вот эта дотренированная D1 2B модель может выполнять наши, ну, как бы мы что-то пишем сделать и расширение это выполняет в ноушене, да? То есть, то есть вот эта моделька говорит, что нужно
33:12
Speaker A
сделать расширению, чтобы управлять нашим ноушеном. И давайте сначала сделаем такое только без дотренировки модели, а просто вот с а просто с вот это D1 2B моделью. Вот.
33:26
Speaker A
Давайте я сейчас просто создам новый мм создам новый проект. Я сейчас попробую использовать этот. А сейчас я попробую использовать ээ 61 S high. Не знаю, насколько он сейчас сработает. Если что, мы перейдём на Aro. Я не помню, если честно, с какой
33:54
Speaker A
я моделью делал. А, ну, лучше, конечно, поумнее модель. То есть тут, как бы, тут чем чем умнее у вас модель, тем здесь лучше, потому что всё-таки тема такая не самая, скажем так, простая, хотя и не самая, не самая сложная тоже.
34:08
Speaker A
Так. Мм, сейчас, да. Значит, давайте возьмём так. И что я ему скажу? А, смотри, мне нужно создать, а, расширение для браузера в Хроме, которое будет использовать вот эту локальную модельку.
34:48
Speaker A
Она у меня уже скачана на SSD жёсткий диск. И у тебя есть скилл, который тебе рассказывает, как сделать такое, а, такое раши такое расширение для браузера. Вот сначала я хочу сделать такое расширение для браузера и запустить там обычную, да, модельку. А
35:05
Speaker A
потом я хочу дотренировать модель. И у тебя тоже, кстати, есть скилл дотренировки. Потом мы дотренируем эту модель на для того, чтобы она эти действия особенно хорошо делала в а в этом браузере. Так что сейчас сначала просто собери мне расширение для браузера,
35:25
Speaker A
который будет управляться вот этой обычной моделькой, используя скилл, который у тебя для этого есть.
35:36
Speaker A
Всё. И сейчас мы посмотрим, что она сделает. Но, ещё раз повторюсь, и без скила.
35:43
Speaker A
Не, кстати, мне кажется, он не тот, не тот. Раз сейчас, а, может, и тот. Сейчас я гляну, какое оно затем скилом или нет. Пошла. Момент.
35:59
Speaker A
Да нет, не то, не то. Вот вот этот скилл. Ты не тот скилл используешь. Вот этот скилл надо сейчас. А давайте, мне не нравится, что он сразу таким какие-то у нас не туда пошло, поэтому давайте я сейчас новый
36:16
Speaker A
чат начту. Сейчас. А, ай, да что такое? Я просто сейчас сразу скажу, какие ему скилы, потому что у меня там есть просто другие скилы для расширения браузера. Он может не туда пойти.
36:40
Speaker A
Используй вот эти скилы и и или создай тренировочную доску в Ntion, или поищи. У меня там уже должна быть создана такая тренировочная доска в Nion. Я не помню, как она называется, но а, по-моему, она у меня как-то называется типа
36:59
Speaker A
сейчас мм она у меня называется, в общем, поищи. У меня, по-моему, там где-то есть такая вот тренировочная доска вtion именно для этой задачи. Посмотри, посмотри, какие у меня там вообще, что у меня там есть. И хм.
37:29
Speaker A
Да, в общем, поищи, поищи, посмотри. А если нет, то то просто сгенери, сделай через Notion connector сделай такую доску.
37:42
Speaker A
Вот. А сейчас она пойдёт, надо делать. Да. А вообще вот как бы в клод в блендере реально очень круто работает.
37:54
Speaker A
Попробуйте. Меня прямо это впечатлило. То есть когда я когда я попробовал, я прямо ну вот знаете, вот на что меня как бы сложно удивить, да, там чем-то и но вот когда я первый раз я дал блендер mcp, я тогда ещё давал опусу 5,5. Фйблу
38:07
Speaker A
если дать, это ещё круче. И это прямо впечатляет. Но только единственное как бы вот у меня нармак, да, на Маке плохо вообще так рендерить такое 3D, поэтому я просто в modдел сразу отдал и всё.
38:22
Speaker A
То есть вам по сути нужно будет что сказать, да, как бы аа вам нужно будет по сути просто сказать, что вот я сейчас вот он, да, кстати, открыл экспериментальную, которую мы будем скоро будем работать.
38:36
Speaker A
А значит, а, ну, ну, пока мы ещё дотренировку не делаем пока, как бы вам сначала просто попробуйте сделать что-то, где будет использоваться ваша локальная модель или то, что вы уже сделали, да, можно просто поднастроить тот проект, который вы сделали. А, и
38:51
Speaker A
потом сейчас, когда он это сделает, мы потом сейчас сделаем тренировку. Тренировка делается, если честно, элементарно. То есть просто вы нужно просто сказать, что сделай синтетический датасет для тренировки. Он это просто так пух вот так сделает. И э используй
39:15
Speaker A
model CLI, чтобы натренировать там на вот этих м на вот этих данных, как бы, и всё.
39:23
Speaker A
Так, а вот он он открыл вот, да, собственно, вот это вот это у нас как бы это реальный, то есть как бы это реальный, в котором мы сейчас будем работать, да? То есть это вот это просто реальная доска вtion, да? Я просто его в
39:37
Speaker A
браузере у себя открыл. А так, сейчас давайте чуть поменьше сделаю размер. Так. Так, Никита спрашивает: "Просто коннектором соедините всё, и можно забыть всё, чему учился в блендер?" Я я не шучу, реально, попробуйте. Вас очень это впечатлит. Ну, потому что я, например, там аа ну мы там
40:06
Speaker A
тоже там я в чате, например, там с Никитой Чесноковым, который как бы ну намного лучше меня в этом всём разбирается, и даже его это впечатлило, насколько насколько круто можно как бы клодом потрясающие вещи делать в блендере. Ну, понятно, меня впечало. У
40:21
Speaker A
меня как бы опыта никакого в этом нет. Я 3D никогда не занимался, но это реально впечатляет тех людей, которые этим прямо очень хорошо в этом разбирается.
40:31
Speaker A
Угу. Вот сейчас он сейчас он как бы соберёт нам такое расширение для браузера, включит там вот эту нашу 2Б модельку.
40:47
Speaker A
А, и сначала мы сейчас посмотрим, как как у нас будет она как бы это вот это недотренированная как бы моделька работать, а потом отправим на тренировку.
41:02
Speaker A
Единственное только я хочу, мне вот интересно, насколько мы сможем быстро дотренировать. Что-то у нас как-то я может минут 20 она точно будет тренироваться. Я, может быть, попробую или ускорить, или уже возьму ту, которая у нас уже есть, как бы дотренированная.
41:16
Speaker A
А потому что на самом деле опять-таки, ну вот процесс тренировки - это, понимаете, просто вот немножко, честно, что немножко есть разочаровывающее вообще вот в AI-кодинге, да, и вообще во всех этих вещах с AI вы как бы ждёте, ну вот мы
41:36
Speaker A
привыкли, да, люди, мы привыкли ждать какого-то процесса, да, там, что мы сейчас тренировка, мы увидим, как что-то тренируется, где-то что-то что-то происходит там или что-то такое. То есть мы мы ждём чего-то, мы ждём какого-то интерфейса, мы ждём, что-то произойд мы
41:53
Speaker A
мы чего-то ждём, да? А по факту вы просто вот реально буквально говорите кодексу: "Я хочу, чтобы ты натренировал вот такую модельку, делать такие вещи.
42:04
Speaker A
Подумай, какой тебе сделать датасет, а используй model CLI, чтобы там арендовать GPU. Всё, сделай это". и он всё сделает. То есть как бы просто вы там типа уйдёте там на полчаса попить чай, вернётесь и у вас натренированная модель.
42:23
Speaker A
Вот вот вот вот и вся магия. Вообще, мне кажется, чем дальше, тем будет больше больше людей тренировать свои модели, потому что как раз это стало настолько просто. Просто большинство людей ещё не знают, что это стало настолько просто. В этом такая
42:42
Speaker A
интересная особенность. Это действительно очень просто. То есть вот вот то, что вы сейчас увидите.
42:52
Speaker A
Так, так, сейчас он там м включит модель. Сейчас он протестирует. Так, я сейчас посмотрю пока по вот тут я вам ещё рассказал.
43:35
Speaker A
А, ну, а можно просто про датасет поговорить. Хотя, опять-таки, в плане датасета тут тоже не нужно вашего какого-то особого большого знания, да? То есть просто, чтобы вы просто понимали, аа как бы в датасет, например, можно включать там команды,
43:55
Speaker A
правила определённые, а можно включать различные варианты одних и тех же там фраз, команд, да, как бы, и смысл в том, чтобы просто, а, натренировать то, что там на определённые какие-то там команды, да, должно происходить определённые нужные нам аэ действия, да, И, например,
44:23
Speaker A
скажем так, вот давайте вот, да, вот такой пример, да, прямо, что скажем, а там посмотри последнюю запись, да, там, допустим, там поправь колонку, да, и, допустим, если стоит, что рабочая часть закончена, решение по результату остаётся за принимающим, это должно
44:39
Speaker A
поставить статус на проверке. А если, например, нужный допуск выдаёт другая организация, без него следующий шаг невозможен. Это ожидание. И мы вот таких примеров очень много даём. Таких пар, да, то есть вот пару вот, например, там, а вот такой-то,
44:56
Speaker A
вот так-то вот это, да, это пара у нас такая, и вот это такое-то, вот это, это пара, да, то есть из таких пар у нас условно там ну 2.000 пар, да, как бы суммарно даёт примерно 4.000 примеров.
45:09
Speaker A
Вот. То есть там конкретно там, например, в нашем там примере это всякие там приёмка блокеры, а там вчера, сегодня примеры, там приняли, вернули, да? То есть это просто много-много много вот таких примеров.
45:23
Speaker A
А Елена спрашивает: "А никто не пробовал колонку Алису использовать как говорил с AI?" А я не знаю, не знаю, видели или нет, но я её себе перетрени, ну, как бы я её взломал, всё оттуда убрал и а туда
45:36
Speaker A
туда подключил свой Open Claw. Э, поэтому как бы я знаю, что к самой Алисе тоже можно сделать так, что она будет как бы с KI всяким инструментом обращаться, но я просто хотел, чтобы это просто чисто колонка была, а вся всё
45:48
Speaker A
содержимое моё было. Я там Linux поставил и очень классно. И Open Cl туда подключил.
45:56
Speaker A
Так. А вот он пишет: "Вот откройте extensions." Так-ха-ха. Сейчас, сейчас я загружу это. Он уже собрал это расширение. Мне надо его загрузить. Сейчас момент.
46:19
Speaker A
Так, manage extensions. Так, тут это всё, тут всё то же самое, что как если мы делали, помните, с вами э для браузера ширения. Всё, я вот загрузил сейчас. А где оно? Оно у меня А.
46:48
Speaker A
local. Вот local agent. Всё, я его загрузил. Сейчас я его включу. Хм, сейчас почему-то у меня он не включается.
47:12
Speaker A
Сейчас. Так, сейчас я скажу, спрошу у него. А я я расширение загрузил, но почему-то он у меня он не включается. Я когда по нему нажимаю, то он просто не включается.
47:32
Speaker A
Сейчас, сейчас он сам посмотрит, в чём дело. А вот всё, видимо, надо было перезагрузить. Вот, собственно, он это сделал. Это расширение. То есть это просто расширение для браузера, которое добавляет, когда вот я открываю, то у меня вот такое работает. И сейчас у меня
47:54
Speaker A
работает вот это исходное, да, вот он сейчас тестирует. Перемести карточку записать демо в проект Маяк в работу. И это работает, в принципе. То есть вот с такой это уже работает. Просто проблема в том, что если мы какие-то другие
48:05
Speaker A
команды Сейчас я ему на стоп поставлю. Просто проблема в том, что если мы какие-то другие команды более сложные, да, будем делать, то это уже не сработает. Сейчас, секунду. Куда у меня он дел?
48:20
Speaker A
Э, сейчас момент не пойму, куда куда он только что же был тут. А вот и всё.
48:35
Speaker A
Да. То есть вот давайте, например, там скажем там, а, измени de деadлайн запись демо на 20 ноября. Вот посмотрим, он такое сделает или нет.
48:50
Speaker A
Хотя нет, ну, если даже сделал даже такой. Ну, сейчас давайте что-нибудь ещё посложнее. А, запись демо. Измени, э измени мм исполнителя на Анна.
49:10
Speaker A
Так, ладно. Это забавно. Забавно, что сейчас у меня оно внезапно стало даже с обычной хорошо работать. Сейчас мы спросим: "Слушай, а у меня как-то классно работает с обычной. Дай мне примеры команд, которые точно с обычной не сработают моделью недотренированной".
49:28
Speaker A
Так, это это всё потому, что как раз у меня здесь хороший промт, да? То есть я я дотренировки уже сделал много вещей, которые из-за которых оно в принципе нормально работает.
49:38
Speaker A
Сейчас посмотрим. То есть, в принципе, например, давайте посмотрим. Перемести экспорт CSV в backlock. Мм. работает. Интересно. То есть, по сути, как, кстати, чтобы тоже давайте объясню, как это работает, да? То есть я пишу вот это действие и вот эта модель
50:24
Speaker A
принятия решений, она выбирает, какому действию лучше всего соответствует фраза, которую я сказал. Но вообще, она не должна так хорошо работать. То есть она просто реально просто очень хорошо как-то работает сейчас.
50:38
Speaker A
Сейчас он мне скажет какие-нибудь примеры, что ему сказать, чтобы у него м не так это получилось.
50:45
Speaker A
А вот давайте посмотрим, например, а, ну вот, например, скажем: "Обнови статус exпорт CCC по последнему сообщению". Вот видите, как раз вот это.
51:04
Speaker A
Давайте посмотрим. Так, он куда он её перенёс? А сейчас он перенёс в А сейчас у меня экран занимает. Она как-то не был не был готов к тому, что вот так будет. А вот так, да. Вот видите, он а-а он как раз
51:41
Speaker A
изменил этот экспортс, что всё принято. Хотя на самом деле не принято, потому что там дальше пишется, что нашли ошибку с кириллицей, да? То есть как бы, то есть он неправильно как бы трактовал это, да? То есть это, например, вот одна
51:52
Speaker A
ошибка, то есть он не должен был сюда это перенести. Или, например, скажем, сейчас возьмём возьмём другую, ой, сейчас возьмём другую какую-нибудь команду например.
52:05
Speaker A
А, например, поставь на проверку. Аа, поставь на проверку. Подготовить демо у Бориса. Ну вот давайте такое ведём, потому что он должен поставить вот подготовить демо. Это какое? Вот подготовить демо Бориса. Вот он должен вот это на проверку поставить. Давайте,
52:31
Speaker A
давайте посмотрим. Хотя нет, сейчас он нормально спросается. Ну ладно, в общем, в любом случае вот с тем примером он у нас не справился. Ну, можно ещё, например, вот это спросить, который, а, ну, например, вот этот, э, скажем, обнови обнови статус интеграции, да, он
52:58
Speaker A
должен принести в ожидание, да, там с учётом причины, по которой команда не может продолжить. Давайте попробуем такой. Он должен в ожидание поставить это. Да что ж такое? Почему ты так стал хорошо работать?
53:09
Speaker A
А, ладно. На самом деле, как бы, ну, о так хорошо работать. Ну, по крайне мере, давайте так. Он не всегда будет так хорошо работать, да? Просто сейчас как-то нам очень везёт. Ну вот тут одно одно точно он как бы неправильно
53:25
Speaker A
работал. И вот это тоже аа как бы он у нас неправильно делал. Он должен вот тоже должен он должен перенести в работе. Сейчас посмотрим.
53:38
Speaker A
Да, видите, он неправильно. То есть, в общем, он как бы иногда, а он иногда как бы всё равно правильно делает, но не во всех как бы случаях, да. И давайте теперь мы дотренируем.
53:50
Speaker A
Теперь используй скилл дотренировки. И давай дотренируем нашу вот эту модель, чтобы она хорошо все эти вещи делала. А особенно там, чтобы оно точно делало хорошо. там, "Обнови статус exпоort CSV по последнему сообщению".
54:07
Speaker A
Или, например, выставь в мобильное версии лендинга статус по её последнему сообщению. А, смотри, мы сейчас это проходим. Я прямо сейчас как бы в прямом эфире, да, это всё делаю. А у нас там датасет уже, скорее всего, готов.
54:19
Speaker A
Объясни вот коротко для моих прямо вот, кто сейчас меня смотрит, из чего мы сделали этот датасет. И дальше давай посмотрим вот на Model CLI, насколько максимально быстро, да, там не ориентируйся на бюджет, потрать сколько тебе нужно, хоть можешь там 50 долларов
54:35
Speaker A
потратить, аа потрать насколько много мы можем арендовать GPU, чтобы одновременно быстро натренировать эту модель. Мы можем её за несколько минут натренировать, да, если если а-а если там минут за 5-10 можем тренировать, то давай запускай столько GPU, сколько сколько хочешь. что у тебя
54:54
Speaker A
там лимит 50 долларов вот на просто одну эту тренировку. Мне просто модел, вы не думайте, что я так деньгами сорю, мне просто модел это подарили 300 долларов, и они у меня заканчиваются сейчас в конце ноября.
55:05
Speaker A
Поэтому, как бы, мне всё равно их особо некуда, а некуда девать. Вот для зрителей мы сгенерировали вымышленные комбан вымышленные комбандоски с карточками статуса и истории. Для каждой команды правила вычисляют правильное действие: изменить статус, уточнить карточку или оставить всё как есть. Модель видит доску,
55:31
Speaker A
команду и варианты действия. Правильный ответ используется при обучении, а похожие варианты одной доски остаются в одной выборке. Ну, то есть, короче, просто мы генерировали кучу кучу вот таких синтестических досок, да, которые где и как бы разные фразы, да, там
55:45
Speaker A
разные, ну, как бы разные команды, и мы просто тренируем вот на 4.000х примерах действий, чтобы эти все действия делались.
55:55
Speaker A
Так, сейчас посмотрим. Посмотрим, интересно, за сколько он сможет. Мне самому даже интересно. Но там, я думаю, есть какие-то лимиты, потому что, например, у Блендера там есть чёткие лимиты там. А когда вы отправляете например рендериться то от количества GPU, которую вы
56:19
Speaker A
арендовываете, у вас не сильно растёт, ну, в какой в какой-то момент не сильно начинает расти скорость рендера там, потому что просто есть свои технологические ограничения, что вы не можете там один рендер сделать там на гигантском количестве видеокарт, там с
56:35
Speaker A
определённого момента там не сильно увеличивается как бы прирост. Так, сейчас посмотрим. Так вот, всё, он он уже, а там, мне кажется, сейчас сгенери уже, э, да, вот он подтвердил там почти 4.000 примеров.
57:08
Speaker A
А модел принял запуск базового замера на B200. Для тренировки выбрал одну B200. Готовый код работает на одной карте, а несколько GPU потребует распределённого запуска и могут дольше ждать в очереди.
57:18
Speaker A
Ну а давайте так сделаем. Пусть он это тренирует, как бы вот просто пусть он это сейчас вот он тренирует. Я ему скажу так, что А, хорошо, скажи примерно, сколько займёт тренировка на B200. Ты тренируй, а давай, пока ты тренируешь,
57:34
Speaker A
а, подключи к нашему вот этому расширению уже дотренированную модель. Она у меня тоже где-то лежит на жёстком диске. Просто подключи эту дотренированную модель. А, чтобы мы сейчас уже могли её посмотреть. А когда когда наша дотренируется, скажи, мы тоже, наверное, её посмотрим, если она
57:51
Speaker A
не супер долго будет тренироваться. А, ну, минут 10. Ну ладно, пусть она, короче, пока тренируется. Сейчас я вам покажу, как бы с той, которой я уже дотренировывал. Ну, сейчас вот он за м посмотрим, что он сейчас там за 10
58:08
Speaker A
минут, я думаю, может, тоже сделает, потому что реально это вот настолько настолько просто и быстро.
58:22
Speaker A
Никита спрашивает: "А сколько кредитов с этим тратится на Блендер? Нужна умная модель?" Да, на блендер обязательно вам нужна, ну, то есть там опус пять.
58:29
Speaker A
Во-первых, во-первых, клод лучше всего клод очень хорошо работает с блендером, но опус 5,5 или fable, да, то есть как бы вам нужно вот такого уровня модели, а, ну, кредиты будут как бы так, ну, уходить. Я не не сказал бы, чтобы они прямо улетать
58:46
Speaker A
будут, но ну тогда он такой будет затратный довольно. А вот, а всё, теперь вот мы сейчас подключили ту.
58:58
Speaker A
А нет сейчас давайте-ка вот, вот дообучённая. И сейчас давайте я вот это спрошу у добучённой.
59:11
Speaker A
А, например, вот это обнови статус. Должно попасть в работе. Он должен стать в работе.
59:22
Speaker A
Так, это в начале первый раз долго, потому что он первый раз считал, как бы, а он её сейчас загружал в память, да? Вот всё он попал в работу, потому что до этого, помните, у нас в готовое попадал, потому
59:36
Speaker A
что он неправильно считывал комментарии там. А или, например, вот это выставь в мобильной версии лендинга статус по её последнему сообщению. Он должен перевести в работе как раз тоже.
59:48
Speaker A
Так. Так. А сейчас. Хм, почему-то он тоже, ну, тоже как бы не идеально, но он, может быть, он просто там мобильная версия, может быть, не то.
60:16
Speaker A
Сейчас. А может быть, он был у меня в Давайте вот сейчас пока сюда поставлю. Вот так посмотрим.
60:30
Speaker A
Мм, проверка выявлено обязательно замечания. Исправления пока не внесены. Ну, может быть, просто дайте сейчас текст немножко чуть поправлю.
60:38
Speaker A
Исправления пока не внесены. А-а, нет. Исправление пока вносится. Давайте вот так как бы сделаем. Просто может быть формулировка не очень удачная. Сес посмотрим.
60:56
Speaker A
Да ладно, всё равно, в общем, короче, демонстрация так себе у меня тут получается. Но, как вы видите, всё равно как бы то, что вот одно, а, одно точно лучше заработало, а, просто другие они не должны были работать, но они почему-то заработали,
61:12
Speaker A
да. А сейчас я спрошу. А скажи, какие ещё были примеры, которые вот какие примеры плохо работали с прошлыми, с недотренированной GPU и точно и работают и должны и должны хорошо работать с дотренированной? Дай мне ещё каких-нибудь примеров, а то просто на тех примерах, а
61:38
Speaker A
и оригинальная тоже на некоторых хорошо срабатывала. Сейчас посмотрим. Да, это у меня просто сейчас так память, э, ноутбук стал больше такой греться и шуметь, потому что у меня сейчас как раз две локальные модели, по сути, загружены в память.
62:15
Speaker A
Он сейчас нам даст какие-нибудь ещё примеры, но в целом это буквально вот так просто довольно просто делается.
62:22
Speaker A
Другое дело, что как бы просто, чтобы прямо вот до хорошего результата дойти, да, возможно, вам побольше придётся поэкспериментировать, да, и прочее. И, ну, с кодексом тоже пообсуждать, например, слушай, а может быть, подумаем там какой-нибудь там какой подходт лучше
62:36
Speaker A
датасету, там посмотри в интернете. Ну, то есть в это как, знаете, так же, как с разработкой, да? То есть вам просто нужно обсудить, аа, обсудить как-то вообще посмотреть, как какие лучше есть практики мировые, да, там и прочее, и прочее.
62:53
Speaker A
Так, да, смотрю, что-то у меня сильно сейчас GPU грузит. А вот давайте вот такой, например, обнови статус интеграции плате с учётом причиной, по которой команда не может продолжить. должно быть. Значит, а, а, вот видите, вот тут пока у меня
63:20
Speaker A
даже ещё обучение не началось, потому что он пишет, что аа потому что, короче, B200 на них часто очередь больше, а, поэтому он на H1 сейчас пойдёт. Ну, в общем, ладно, тогда мы ему просто скажем: "Ладно, как бы не
63:34
Speaker A
тренируй, мы сейчас 20 минут ждать не будем". Ну, поверьте, он просто вот он бы дотренировал эти 20 минут и просто также точно также бы поставил эту модель. То есть никакой дополнительной магии здесь не существует.
63:49
Speaker A
А так, сейчас мы ему попробуем вот это, значит, исходную модель. Например, смотрите, вот так поставим.
63:57
Speaker A
Интеграция платежей. Давайте вот так её сюда. Значит, а он должен поставить в режим ожидания.
64:05
Speaker A
Давайте посмотрим. А он, видите, в готовое поставил. А если я выберу до обучения, в добучную, вот он правильно сделал в в собственно в эти м в ожидания. И давайте ещё один пример посмотрим.
64:30
Speaker A
Вот это, например, а, поставь на проверку. Подготовить демо у Бориса. Исходное поставила уже выполнено. А карточка Бориса в проекте сернопроверки.
64:41
Speaker A
О'кей, давайте сделаем. Пусть она сейчас, если выполнена, это будет неправильно. А куда она поставила сейчас? А давайте в бклок сюда перезадим.
65:01
Speaker A
Да, нет, тоже, в общем, тут она до сих пор верно как-то срабатывает. Ну, в общем, смотрите, самое главное, что мне хочется, чтобы вы попробовали дома, и как раз у вас такое будет домашнее задание. Сейчас оно у вас появится после
65:14
Speaker A
окончания занятия. Мне хочется, чтобы вы просто взяли и попробовали просто вот подключите моде CLI, зарегайтесь, там вы получите 30 долларов на счёт.
65:26
Speaker A
Если вдруг смол какие-то проблемы, то или попробуйте Google Collab или KGLE, или ещё поспрашивайте, может вам кодекс ещё какие-то альтернативные варианты найдёт.
65:36
Speaker A
И просто попробуйте под вашу какую-то задачу, вот такую маленькую модельку, чтобы он натренировал. Это очень просто.
65:43
Speaker A
И мне хочется как раз, чтобы вы вот эту простоту видели, что это не требует от вас каких-то особых знаний, усилий, да? То есть вы можете просто взять и просто дотренировать, и оно будет работать. как вот здесь. То есть на самом деле вот
65:56
Speaker A
здесь, если посмотреть, работает на самом деле очень круто. Ну то есть, например, там типа, а, перенеси экран оплаты в бэклок.
66:06
Speaker A
А сейчас оно первый раз делает чуть дольше, потому что оно у меня просто было вы в выключена. Сейчас, сейчас давайте я обновлю.
66:26
Speaker A
принеси перенеси мобильная версия лендинга в backlock вот или там а смени деadлайн мобильной версии лендинга на ноябрь девятнадцата ноября вот дате тут просто вот за 2 секунды. А за 2 секунды это, собственно, вот так происходит.
67:00
Speaker A
Никита пишет: "Сейчас сложно не сделать, а придумать для для чего сделать. Это точно". То есть это вообще придумание - это сейчас самое вообще главный главный такой скилл и навык. Но я вам советую, что я советую взять или ваш проект,
67:12
Speaker A
который вы уже делали, и просто до него на нём вот, собственно, дотренировать модель, чтобы ещё лучше она стала работать. или, ну, можно, можно новый какой-то проект придумать, если хотите, и в нём нужно тренировать. И вам также нужно с видео просто презентовать будет
67:25
Speaker A
эту работу, точно так же, как вы делали до этого. Вот теперь теперь вы можете посмотреть тоже, как другие ученики делали, и, может быть, в чём-то даже научитесь и, может быть, какие-то новые подходы тоже попробуйте. Так что вот так
67:41
Speaker A
очень просто. То есть вся теперь вся тренировка моделей - это просто разговор с кодексом. То есть, точно, точно так же, как разработка.
67:50
Speaker A
Теперь точно так же это тренировка моделей. И если вот это вы уже вынесте с этого задания, поверьте, вы уже сможете сделать очень крутые штуки, да. Так что увидимся с вами через неделю. Буду ждать ваши работы и, соответственно, как
68:07
Speaker A
всегда, если что, пишите в чате. Спасибо и счастливо.
Topics:LoRAдообучение моделейQLoRAfine-tuningадаптерыLLMнейросетимашинное обучениеHugging Faceopen source модели

Get More with the SozAI App

Transcribe recordings, audio files, and YouTube videos — with AI summaries and speaker detection. 30 minutes free.

Or transcribe another YouTube video here →