**Разработка с AI  автоматизация и продуктивность Занятие 6 1 — Transcript & Summary | SozAI**
Source: https://sozai.app/transcript/ai-development-automation-productivity-lesson-6/

Шестое занятие курса по углублённой разработке с AI: встраивание агента в продукт, разбор работ студентов с дообучением локальных моделей, рост точности классификации и генерации.

## Key Takeaways

- Дообучение небольших моделей на собственных данных на домашнем оборудовании даёт сильный прирост качества
- Итеративное дообучение на ошибках модели позволяет дополнительно повышать точность
- Не всегда стоит дообучать: иногда лучше улучшить промпт или разделить задачу на несколько моделей
- Для агентных систем важны песочницы и вопросы безопасности

## What the video covers

- Открытие шестого занятия курса по углублённой разработке с AI: переход к встраиванию агента в собственный продукт
- Тема курса смещается от личных ассистентов к практике агентов и безопасности, которая будет развита на следующем занятии
- Разбор работ студентов: дообучение маленькой модели на домашней видеокарте для распознавания писем-задач (точность ~97%)
- Дообучение локальной модели для генерации описаний стоковых фото: более полные описания, ключевые слова и ускорение в ~4 раза
- Классификация вакансий: дообученная модель повысила число верных ответов с 2 до 8 из 14 объявлений
- Классификация отзывов о фильмах с помощью роутера на BERT и Qwen-адаптеров: разобрано 94 из 103 сложных оценок
- Классификация обращений клиентов студии: точность выросла с 80,8% до 90,8%, найдено все 33 случая недовольства
- Определение компании-владельца данных локальной моделью и тренировка на учебных примерах
- Обсуждение этики обучения моделей на чужих данных и выбора между дообучением и промпт-инжинирингом
- Анонс архитектуры агента: агент в облаке, модель GPT-серии, песочница E2B

## Chapters

1. 00:00 Введение в занятие и план курса
2. 04:00 Разбор работ: дообучение моделей для писем и стоковых фото
3. 20:00 Классификация вакансий и отзывов о фильмах
4. 31:40 Обращения клиентов и определение владельца данных
5. 45:00 Дискуссия: этика обучения и выбор подхода
6. 60:00 Новые инструменты и модели для разработки
7. 75:00 Архитектура встраивания агента в продукт

Answers

## Questions about this video

Какие результаты показали студенты после дообучения моделей?

Точность распознавания писем-задач достигла около 97%, описания стоковых фото стали полнее и генерируются в четыре раза быстрее, а классификация обращений клиентов выросла с 80,8% до 90,8%.

Какие инструменты будут использованы для встраивания агента?

Агент будет работать в облаке, в качестве модели планируется GPT-серия, а для песочницы выбран E2B.

Почему преподаватель говорит, что дообучение не всегда оправдано?

Иногда задачу проще решить улучшением промпта или разделением на несколько небольших моделей, и выбор подхода зависит от требуемой точности и стоимости.

## Full Transcript — Download SRT & Markdown

00:06

Speaker A

Да. А если всё хорошо, то тогда давайте начинать. Ах, всем добрый вечер и добро пожаловать на шестое уже занятие нашего курса по углублённой разработке с AI.

00:25

Speaker A

И сегодня у нас будет очень интересное занятие, где мы будем встраивать агента внутрь нашего продукта, потому что а мы как бы закончили нашу вот эту такую тему с, ну, локальными моделями, и вы вообще супер молодцы. Сейчас мы посмотрим ваши

00:39

Speaker A

доработанные модели. Очень впечатляющие, если честно. И аа и поэтому мы готовы как бы переходить к такой новой, совершенно новой теме. Хотя, [фыркает] если если вы были у меня на курсе по а-а [вздыхает] [тяжело вздыхает] на курсе по а

01:00

Speaker A

личным иагентам и ассистентам, возможно, вам эта тема покажется знакомой, потому что немного похожую вещь мы на этом курсе делали. И мой просто моя такая идея, что а вот этот курс и агентов, ассистентов, он просто изменится потом и вместо мы не будем на нём вот это

01:17

Speaker A

делать, то, что мы делали, а вместо этого там будет просто большая часть про а как бы вот личных агентов, да, там типа GPT DOTS, когда она всем будет доступна, она просто пока не всем доступна. И поэтому вот эта разработка такая с

01:33

Speaker A

сбоксами, с м агентом в нашем продукте, она как бы переехала на наше занятия. Но на самом деле всё, то, что мы будем делать сегодня, оно другое, не то, что а мы делали м на курсе по AIгентам. И самое главное, что мы на следующем

01:48

Speaker A

занятии это ещё дальше будем развивать. Мы там больше про безопасность как раз будем говорить, то есть глубже в это намного погружаться, да? Ну давайте начнём с ваших работ.

01:58

Speaker A

Так. Работы очень впечатляющие. Давайте посмотрим. Тут много видео. Так. Угу. Ничтовый помощник помогает не забыть о письмах, где от нас ждут действий. В первой версии он мог принять рекламу за счёт. А просьбу подтвердить размеры отправить на ручную проверку. Мы

02:33

Speaker A

подготовили 1.252 примера писем и дообучили моде. Интересно, что, видите, это добучение, ну, как бы, я так понимаю, на вашей домашней, да, видеокарте. То есть просто даже на домашней видеокарте вот такую модельку можно доучить.

02:46

Speaker A

D1 на моей видеокарте обучали в три раунда. В последнем добавили больше коротких писем, на которых модель ошибалась. Для проверки взяли 300 отдельных [музыка] писем и сверили ответы с готовой разметкой. Ещё до обучения уточнили вопрос к модели.

03:02

Speaker A

Верных ответов стало 68% вместо 58. После до обучения и правки правила для счетов получили почти 97%.

03:13

Speaker A

Метки тоже стали точнее. Проверили и реальную почту. Рекламу, которую помощник раньше принимал за счета, он теперь распознал правильно. [музыка] Да, вот это прямо очень впечатляющий пример. Классно. То есть вот вообще вот просто чем очень сильно до обучения, это

03:32

Speaker A

то, что вы берёте реально маленькую вот такую малюсенькую модельку, на домашней видеокарте её дообучаете и и она вам начинает давать 96 практически практически 97% правильных ответов. В принципе, я практически уверен, что, ну, вот если, например, что вы сделаете

03:48

Speaker A

дальше? проверили. И если, например, вот дальше вы возьмёте вот эти 3%, да, там 3,5%, где у вас ошибки, если вы их возьмёте и на них накопите ещё одну как бы такую, э, ну, как бы базу, да, то есть отдельную, и

04:04

Speaker A

потом ещё дотренируете чисто на ошибках, я думаю, вы легко доведёте там 98-99% вы получите в итоге. А, очень хороший пример. Очень классно.

04:15

Speaker A

А так, пойдёмте дальше. У меня есть программа Stock Local. Она пишет описание и ключевые слова для стоковых фото с помощью локальной модели Квен. Но базовая модель справляется плохо. На этот кадр ушло почти 6 минут.

04:38

Speaker A

Описание вышло короче нормы. Ключевых слов мало, и среди них есть нерелевантные. Чтобы это исправить, я взял около 500 своих реальных стоковых фотографий и поручил агенту собрать из них датасет для обучения. Агент проверил каждое описание, расставил ключевые слова по

04:57

Speaker A

важности и подготовил примеры для обучения. Затем агент обучил модель на этих примерах, 12 минут на облачной видеокарте, меньше доллара, и вернул новую модель на Mac. Она работает прямо на компьютере без интернета. Тот же кадр с дообученной моделью. Полторы минуты и

05:17

Speaker A

правильное описание с первого раза. Описание полное, ключевых слов больше, и они точнее. Качество атрибуции заметно выросло. Почти в четыре раза быстрее и качественнее. И всё на своём компьютере.

05:34

Speaker A

Класс. Оченьочень здорово. Супер. А, очень хороший тоже пример. И причём, в принципе, а-а, ну, понятное дело, [откашливается] что такой немножко на себя такой как бы пиратский такой совет, но как бы на самом деле, в принципе, вы же можете обучаться вообще на разных как

05:50

Speaker A

бы других тоже стоковых фотографиях, стоковых описаниях. То есть понятное дело, что вы на своих обучались, потому что это точно стопроцентно как бы законно. Вот. Но, знаете, как бы Open я и антропик они вот никого не спрашивали, когда они обучались.

06:05

Speaker A

А что особенно смешно, что при этом сейчас они такие типа: "А вот вам мы не дадим и, который мы обучили на всех материалах всего мира".

06:15

Speaker A

Да. Так, я художница и ищу технические заказы: сайты магазины автоматизацию. Джобter каждый день собирает сотни объявлений, но название часто обманывает. Дизайнер оказывается разметкой видео с роботами, поэтому я доучила маленькую модель.

06:39

Speaker A

5.000 примеров. Название одно, задача разная. Экзамен 14 новых объявлений. Верных ответов было два, стало [музыка] восемь.

06:51

Speaker A

Но из шести показанных мне подошло одно. Модель стала умнее, но пока она только подсказывает, решаю я.

07:01

Speaker A

Класс, класс. Очень здорово. Прекрасный пример, очень классная презентация. Так вот это более такой, кстати, сложный пример, и мы сейчас тоже его ещё обсудим.

07:17

Speaker A

А фильм классный, уснул на третьей минуте. И какой тут плюс? В первой версии Клеф Флэш даже принимала пометку о дублеже за критику фильма. Мы разметили больше 7.500 пося комментариев рутера в модали сравнили полное дообучение Берта и адаптеры а Квен тренировали на похожих

07:35

Speaker A

фразах с противоположным смыслом на Маке оставили R Modern Bert в паре сквен вместе они разобрали 94 из 103 сложных оценок на отложенных фильмах вот рутер до переделки, а вот после. Только кино, сериалы и их новинки. Голоса из кэша

07:50

Speaker A

видны сразу. Калькулятор считает по нажатию, стрелки обновляют. [музыка] Проверим на колобке. Нажимаю да. Читаем, что зрителю понравилось, а теперь нет.

07:58

Speaker A

Вот за что ругают. По ссылке открывается исходный комментарий в самой раздаче. Теперь книжка. Кодекс прочитал 100 комментариев. Детей сказка рассмешила, а взрослые разошлись даже в главном.

08:09

Speaker A

Смешно ли слушать колобка с голосом Харламова? Вот и подсказка. Смотрите ли с семьёй. Рецензия хранится неделю.

08:15

Speaker A

Нужна новая. Нажимаем вызвать свежую. Да, отличный пример. И как раз тоже ещё и пример, почему, а, иногда может быть как бы сложнее не тренировать. Мы сейчас к этому вернёмся, потому что наш это как раз такой есть и вопрос ещё про это. И,

08:31

Speaker A

а, и в целом вообще тоже хотел про это рассказать. Так что мы ещё про это поговорим. Просто что вы были в контексте того, что именно мы будем говорить, да? то, что это пример, когда мм оценка отзывов, да, то есть вот

08:45

Speaker A

делать оценку отзывов, это на самом деле применимо ко многому, да, то есть это, например, может быть там отзывы на всё, что угодно, в принципе.

08:52

Speaker A

Записаться, перенести визит, узнать цену, отменить запись или пожаловаться. В студии Нюанс помощник определяет смысл обращения и подсказывает, что делать дальше. Вот сообщение. Недовольно прошлой организацией, но от текущего массажа не отказываюсь.

09:10

Speaker A

Я буду. Клиентка подтверждает визит, но недовольна. Администратору нужно сохранить запись и разобраться с жалобой. Исходная нейросеть отвечала: прочее: недовольства нет. После обучения подтверждение: недовольство есть. На 120 проверочных сообщениях точность выросла с 80,8 до 90,8%.

09:35

Speaker A

Раньше замечала 29 случаев недовольства из тритх. Теперь все 33. Меньше ручной сортировки, больше внимания клиентам.

09:46

Speaker A

Вопросы о допустимости процедур специалисту. Класс. Очень здорово. Отличный пример. Так, идёмте дальше. В проекте Свой круг локальная модель D1 помогает определять, какой компании принадлежат данные. На сложных примерах она ошибалась.

10:16

Speaker A

Мы подготовили учебные примеры и провели до обучения на бесплатном GPU. На проверке было 82 верных ответа. Из 120 стало 103. Но уверенных ошибок в выборе владельца стало 11 вместо нуля. В учебных данных обнаружились случайные подсказки. Эти результаты исключили,

10:37

Speaker A

генератор исправили, повторное обучение пока не запускали. Пользу обучения пока подтвердить не удалось. Само расширение мы улучшили, добавили контекст строк таблиц и различение одноимённых компаний пон.

10:53

Speaker A

Исходную D1 сохранили. Да, это тоже как бы на самом деле результат, потому что не всегда, не во всех случаях получается как бы сразу прямо так классно обучить, потому что в некоторых ситуациях нужно аа себя как бы спрашивать, ну, то есть вообще как бы

11:10

Speaker A

понять, а почему почему не получается, да, добучить. Как правило, до обучить не получается тогда, когда, а, самому себе как бы сформулировать чёткие критерии того, там, что такое верный ответ, что такое неверный, да, ответ, это на самом деле довольно

11:28

Speaker A

сложная задача. То есть вот тут, да, конкретно, если у нас брать, то вот, э, идёт как бы сверхконтактых контактных адресов. И хоть как бы это и выглядит такой довольно какой-то технической такой типа задачей, на самом деле я представляю, что там могут быть

11:48

Speaker A

как бы определённые проблемы. То есть там, например, могут быть проблемы в том что а например, там те же самые там идут чуть-чуть могут быть чуть разные написания, а чуть не больше немного немного разные падежи, да, там какие-то вот такие, например, вещи. А так что, в

12:08

Speaker A

принципе, я думаю, это добучить всё можно, но нужно очень хорошо подготовить датасет. То есть это вот пример того, где прямо нужен какой-то оченьоченьочень хороший датасет, очень хорошо продуманный датасет и, собственно, как на ним вообще работать, потому что, например, вот Jeff, да, вообще вот

12:25

Speaker A

оригинальная вот эта decision модель, которая стала популярная, она там, собственно, там всё как бы вот вот их создатель, он так и говорит, что всё дело только в датасете, который мы используем. То есть наша компания - это на самом деле datтасеткомпания, да? То

12:39

Speaker A

есть как бы мы мы все усилия практически прилагаем именно к созданию датасетов хороших. Поэтому здесь, видимо, такая же как бы история. То есть вам просто нужно двигаться дальше, не останавливаться и пробовать обсуждать наsi, как как мы лучше можем создать более качественный

12:55

Speaker A

датасет. Но я думаю, в итоге у вас всё получится. Вот Илина пишет: "Простые примеры, он изначально на 100% правильно решал, а день потратил, чтобы найти извращённый вопрос на нём и погорел". Да? То есть это вот как раз вот именно мм

13:17

Speaker A

нужно просто тогда больше большой датасет сложных примеров, да? То есть это вот такой, ну, неочевидная как бы вещь, но это вот если просто ему дать такой датасет сложных, то точно, я думаю, можно [вздыхает] можно так дообучить.

13:32

Speaker A

Так, пойдёмте дальше. Знакомьтесь, банный экзаменатор. Локальная модель сравнивает свободный ответ с ключом экзамена. До обучения она пропускала спрятанные ошибки, после ловит почти всё.

13:49

Speaker A

подвлеки подм Парасимпатия шака. Класс. Здорово. Очень хороший тоже пример такой, ну, нестандартного тоже использования. Очень мм очень классно. И опять-таки, я так понимаю, что у вас до обучения, да, идёт на А ну у вас NRD А5.000, Да, очень хорошие результаты. Точность,

14:46

Speaker A

сильно. Вот главное ещё, что вот кроме того, что точность зашла, ещё и ложность как бы тоже прямо в 60 раз упала. Это очень круто.

14:55

Speaker A

Так, а я косметолог. В моём телефоне рабочие личные фотографии постоянно перемешаны. Облако не подошло, поэтому я обучала модель локально на своём Мак.

15:13

Speaker A

Я хотела, чтобы программа сама раскладывала снимки в работу и личное, а не тратила время на ручную сортировку.

15:20

Speaker A

Для обучения я использовала 161 фотографию и 60 шагов флора. Ещё 23 снимка оставила только для честной проверки.

15:29

Speaker A

Здесь видно ответы базовой и дообученной модели на одних и тех же фото. Она возвращает всего одно слово: work или personal.

15:40

Speaker A

До обучения 15 правильных из 23, после 22 из 23. Семь ответов стали лучше, и ни один не стал хуже.

15:51

Speaker A

К телефону я программу пока не подключала. На тесте результат хороший, но в реальной жизни его ещё нужно проверить.

16:01

Speaker A

Угу. Отличный пример. И отличный пример использования именно вот такой мультимодальной модели, потому что аа вот этот GEMA э E2B - это такая мультимодельная модель, которая в том числе может работать и с картинками. И как раз она достаточно будет, ну, как бы

16:19

Speaker A

её можно достаточно на телефоне запустить. Так что прямо очень классный кейс. Очень здорово. Так, это мы смотрели уже на прошлом занятии.

16:28

Speaker A

В вид клинике уже работает система разбора звонков. Можно ли перенести эту задачу на ресурсы локальных моделей? Для расшифровки сравнили Visper, Гига и Квен. На десяти одинаковых текстах Джема завершила всё разборы. Квен без рассуждений тоже справилась, но добавляла неподтверждённые детали. Для

16:47

Speaker A

пилота выбрали Джему. Сложнее всего оказалась разметка. В одном звонке обсуждают нескольких питомцев. Для каждой услуги нужно указать, кому она нужна, и чем закончился разговор.

16:58

Speaker A

Правила уточняли по репликам. Большая очередь - это справка. Подходите без записи. Уже приглашение. А. Вы записаны на 10. Подтверждение. Для дообучения взяли Квен на 4 млрд параметров. На пятидесяти звонках база дала два полностью верных разбора. Второй адаптер- 17, третий - 21. Новый адаптер

17:20

Speaker A

обучили с исходных весов на 1.000 звонков. На локальной видеокарте с 16 Гббайтами памяти одна эпоха заняла час и 9 минут. 200 свежих звонков оставили для проверки. У третьего адаптера 79 полностью верных разборов, у нового 98.

17:38

Speaker A

Разработка продолжается. Бывает, модель верно определяет справку о рентгене, но упускает приглашение к терапевту. Следующая задача - сохранить в разборе обе услуги.

17:50

Speaker A

Да, супер, очень классный пример. И тоже, например, вот если говорить о, а, скажем так, профессиональных, да, workкфлоow, то как как в некоторых случаях это решается, да, например, в некоторых случаях невозможно, например, сделать так, чтобы такая маленькая моделька, типа там 4Б, она вам

18:08

Speaker A

там идеально на все вещи отвечала. И в профессиональном использовании тогда можно просто по-другому делать. Тогда просто берётся, например, берётся две модельки такие или даже в некоторых случаях три. И каждый из них тренируется на очень чёткую свою задачу. Типа там

18:24

Speaker A

одна моделька тренируется только определять, а, например, там о каком питомце идёт речь. А вторая модель учится определять только о какой услуге идёт речь. И третья модель только о каком визите, да? То есть вот, а, и вы, у вас просто три маленьких модельки

18:42

Speaker A

крутятся, и каждый из них натренирована очень-очень узко. И просто каждое сообщение, оно проходит через три модели, да? То есть как бы одна модель говорит: "О, это такой питомец". А другая говорит: "О, это такой услуга". А третья говорит: "Да, там визит уже там,

18:56

Speaker A

не знаю, запланирован". Да. То есть просто тоже вот можно в таком ключе об этом подумать. То есть в некоторых случаях, допустим, вот вот просто смотрите, представьте, да, а у вас вот эта модель, да, там 4Б.

19:08

Speaker A

Может быть, вместо этого лучше взять две маленькие decision модельки 2Б и каждую из них натренировать вот на конкретную такую задачу, да, и запустить просто две модельки вместо такой одной. Так что это а тоже такой интересный путь.

19:24

Speaker A

Так. [музыка] [музыка] Тут, я так понимаю, что это тегирование фотографии. Она смотрит, расзнаёт, [музыка] предлагает теги на русском языке.

19:46

Speaker A

[музыка] [музыка] [музыка] [музыка] А [музыка] вот это тоже хороший результат, да? То есть, то есть, э, у вас сейчас, да, не получилось как бы сделать так, чтобы, а-а, ну, как бы стала лучше, хорошая, да, как бы доля, но при этом это не значит, что это как

20:33

Speaker A

бы плохо сделанная работа или что-то. Аа это тоже опыт. Это очень важный опыт. И с этим опытом вам просто нужно понять, что как так получилось, да? То есть опять-таки, когда речь идёт о вот таких суперсубъективных как бы вещах, да, там

20:47

Speaker A

типа картинок, то [фыркает] а возможно просто нужно другую делать разметку, да? То есть можно взять, например, там какую-нибудь топовую модель и сказать ей там размить мне там тыся несколько тысяч а фотографий и на них как бы уже тренироваться. То есть

21:05

Speaker A

это просто ну очень хороший опыт, который а-а который тоже тоже очень важен. То есть, мне кажется, просто, если вы потом в будущем будете, а, вот так, ну, как бы дальше, скажем так, искать новые подходы именно для вот этих датасетов, то у вас всё

21:23

Speaker A

очень хорошо получится, потому что, опять-таки, по сути, всё сводится именно именно к [фыркает] датасетам.

21:30

Speaker A

Так, тут у нас такая презентация. Аа, значит 359B. Да, ну, кстати, 9B тоже такая приличная, да?

21:42

Speaker A

Значит, адаптация модели, подрусские задания на HTML, CSS, SVG. На чём училась модель? А, до обучение прошло успешно. А-а, тактактак.

22:00

Speaker A

Угу. Результат улучшился по пяти критериям. Вот тут очень хороший результат. И а как кодекс повысит качество? Начнём с ошибок моделей и проверим, какие изменения действительно помогают разобрать сбои, расширить набор, да? То есть, если если продолжать работать, то кодекс в любом случае обязательно дойдёт

22:17

Speaker A

до, а, хорошего результата. Так, наше расширение подсвечивает на Ютубе видео по теме. Решает маленькая локальная модель на 2 млрд параметров, но из коробки она ведётся на слова.

22:38

Speaker A

Sony, настройки для видео, камера, значит, фотография. 81% уверенности. Мимо. Мы собрали 1.00 контрастных пар.

22:50

Speaker A

Два почти одинаковых названия и разный ответ. 18 тем от кулинарии до шахмат. Дальше Лора. Прямо на домашней RTX470.

23:01

Speaker A

5 минут обучения и адаптер на 62 Мб. А вот живой YouTube. До обучения модель подсвечивает и уроки видеосъёмки, после остаются уроки фотографии. На тестах, которых модель не видела, пары без единой ошибки. Было 76%, стало 98, а на совсем новых темах с 79

23:24

Speaker A

до 88. Теперь тема пишется одной строкой. Ответ приходит за 35 мсекунд. И всё без интернета.

23:32

Speaker A

Супер. Очень классно. Отличный результат. И самое главное, что всё вы это сделали просто дома. То есть вот просто задумайтесь, какие-то возможности огромные открывает. А что вы дома можете вот такие модели дотренировать?

23:46

Speaker A

Как найти разговоры, где пригодится мой опыт дизайнера? В чатах тысячи сообщений. Для этого мы сделали ленту.

23:53

Speaker A

Скачанная модель на моём Маке ищет вопросы для полезного совета и темы для постов. Пятой домашки решили её дообучить. Первая попытка сделала хуже.

24:02

Speaker A

Подобрали другие примеры и попробовали снова. Как проверяли, взяли 20 сообщений. Семь из них действительно полезны дизайнеру. До обучения модель нашла пять полезных сообщений, а два пропустила. После обучения нашла шесть, пропустила одно, но ошибки остались. Ещё два ненужных сообщения она предложила по

24:20

Speaker A

ошибке. Раньше таких было три. Вот настоящий пример. Человек спрашивает про цвета. До обучения модель предлагала сделать пост, после [музыка] ответить человеку советом. Злучилось немного точнее.

24:32

Speaker A

Обсудили и дальнейшее улучшение. [музыка] Собрать больше настоящих вопросов по дизайну, разобрать ошибки и обучить ещё раз. А результат проверить на новых сообщениях. Теперь есть понятный путь, как сделать ленту полезнее.

24:47

Speaker A

Угу. Тоже отличный пример. И вообще, в принципе, мне кажется, вот сейчас мир стремительно двигается к тому, что у каждого будут вот такие агенты, которые смотрят где-то сообщения.

24:59

Speaker A

Вот мы сегодня как раз там с товарищами обсуждали, что вообще, скорее всего, в очень близком будущем нас ждут мессенджеры, которые вот мы привыкли к тому, что как бы вот вы отправили текст, и человек получил текст. Вы отправили картинку, человек получил картинку, вы

25:16

Speaker A

отправили голосовое сообщение, человек получил голосовое сообщение. А представьте, что если будет мессенджер, в котором будут, а, вот каждый человек отправляет сообщение, как он хочет. Вот кто-то хочет только голосовухи, вообще вот только вот только их просто обожает и только их наговаривает. А при этом вы

25:36

Speaker A

у себя в настройках ставите, что вот я хочу, чтобы если мне кто-то шлёт там голосовое сообщение, чтобы оно автоматически превращалось в короткую там такую, знаете, презентацию карточки.

25:47

Speaker A

Просто суть. Я вот так свайпнул эти карточки и всё прочитал, что там было в голосовом. То есть и представьте, что как это изменит общение. Мы каждый будем говорить то, что мы хотим, а как бы в том формате, как мы хотим. А человек,

26:01

Speaker A

который получает эти сообщения, он будет это будет автоматически трансформироваться. И, естественно, плюс вот, ну вот всякие всякие автоматизации тоже в этом всём будут работать.

26:11

Speaker A

Оченьочень интересно всё меняется. Так, у каждого изображения своя задача. Естественная ретуш. Новый фон, рекламная сцена, замена предмета, добавление человека, смена сезона или освещения. Для Image Lab Conceptt мы дотренировали локальную модель, которая понимает такие пожелания в тексте заказа. 1.412

26:39

Speaker A

учебных примеров, отдельные данные для проверки. Одинаковые сообщения до и после тренировки. Смотрите, как меняется ответ. Модель точнее выбирает операции и реже просит лишнее уточнение.

26:56

Speaker A

Это реальные результаты запуска. Работы портфолио показывают услуги студии. Сама модель разбирает текст и работает на компьютере.

27:11

Speaker A

Подробности обучения и все ответы сохранены. Супер. Очень классный пример. Очень здорово описано. Результат очень хороший, да? То есть с 32 до 83 - это прямо класс. И я уверен, что опять-таки тоже можно можно и дальше тоже продвинуться просто если, ну, ещё

27:28

Speaker A

продолжать тренировать на новых хороших датасетах. Так, домашка п дообучить локальную модель D1, чтобы она точнее находила кликбейт. Тыся новостей с пяти сайтов разметил Клод Хайку, прочитал статью и решил, спрятана ли суть. И каждый написал пару честный заголовок и кликбейтный. Лора адаптер

27:48

Speaker A

обучили в облаке модел за полторы минуты. Сама модель не меняется. Исходная модель на ленте пропускает типичные приманки. Раскрыл неочевидное, что подготовил, назвал число.

28:00

Speaker A

После обучения модель их ловят, хотя этих заголовков не было в обучающих данных. На 240 новостях, которых модель не видела, точность выросла с 26 до 48%, а ложных срабатываний стало в 2 с по раза меньше.

28:17

Speaker A

Трудность. Первая версия решила, что любой вопрос кликбейт. Вылечили трудными парами. Объяснение и тизер к одной новости. Та же маленькая модель и почти вдвое точнее.

28:28

Speaker A

Да, тоже супер просто пример. И а мне кажется, что вот если ещё тоже продолжать ещё тренировать, ещё ещё тренировать, то можно прямо ещё повысить точность. Но в два раза это уже отличный результат.

28:45

Speaker A

Так а поиск находит цитаты, а локальная модель решает, полезно ли каждая для ответа. Граница 50%.

29:01

Speaker A

Основные веса заморожены. Обучался только лоадаптер. 8 млн параметров. Выбрали раннюю версию после 360 примеров. Дальше проверка ухудшалась.

29:12

Speaker A

Теперь новый прогон на видеокарте. Одна и та же модель оценивает те же три цитаты. Сначала без адаптера, потом с ним. Вопрос: меняются ли основные веса при обучении Лора? Цитата отвечает прямо: "Не меняем. Без адаптера оценка 47,7%.

29:30

Speaker A

Ниже границы с адаптером 83". На отложенных сово парах верных решений стало 44 вместо 42. Новых ошибок нет.

29:41

Speaker A

Полезная цитата и раньше стояла первой: улучшилась сама оценка, а не порядок. Проверка небольшая. 16 вопросов по одной записи. Это не оценка всей библиотеки.

29:51

Speaker A

[фыркает] А, ну как бы результат очень позитивный. Просто он как бы и до этого хорошо, я так понимаю, в целом у вас работало.

29:57

Speaker A

Просто стало ещё ещё лучше. Здорово. Так. Так, а давайте вот тут посмотрим. Сейчас тут у меня где-то это значит вот это лучшее видео, да? Это это ещё без дотренировки. Просто я так понимаю, [музыка] что именно а как бы инструмент, который выделяет главное,

30:36

Speaker A

да? То есть вы, а, соответственно, с со [музыка] страницы, да, он он по вашей команде да он соответственно выбирает самое главное на странице, [музыка] да, и работает, соответственно, я так понимаю, вот так, да, то есть это уже буквально реальная демонстрация,

30:59

Speaker A

то есть вы хоп, и он, соответственно, вот вам всё выделил. Здорово. тоже оченьочень хороший пример. Отлично.

31:08

Speaker A

Пойдёмте, у нас пара работ ещё осталось, и потом вопросы будем разбирать. А, так это, мне кажется, мы уже смотрели, если я не ошибаюсь.

31:17

Speaker A

Аа это, а вот это мы ещё тоже, по-моему, не смотрели такое тоже. Это это уже из прошлых как бы за заня.

31:32

Speaker A

Испанский - это не один язык. 20 разных стран со своими словами. То, что в Мексике значит одно, в Аргентине может значить совсем другое. А если испанский вам не родной, чтение книги превращается в настоящее испытание.

31:49

Speaker A

Раньше это выглядело так. Вы садитесь читать и через пару страниц встречаете незнакомое слово, ищете его в интернете и находите четыре разных значения. Какой из них имел в виду автор?

32:13

Speaker A

Проходит 20 минут, а вы всё ещё на том же предложении. Теперь у меня есть Reading desk. Навык для Клода. Я просто отправляю книгу, а Клод сам берёт следующие 10 страниц и находит слова, которые могут быть мне незнакомы.

32:28

Speaker A

Я отмечаю те, что знаю, а остальные Клод объясняет просто с переводом и с новым примером, без спойлеров.

32:38

Speaker A

Очень классно. Мне очень нравится, как класс мографика профессиональ у Очень классная машин графика. [вздыхает] Да. Так, отлично, вроде мы всё посмотрели. А теперь давайте отвечу на вопросы. И ещё вот у нас тут несколько интересных тем.

32:56

Speaker A

А отвечу на такой, ну, точно, точнее, не отвечу, правильно сказать будет на такой вопрос. А, Никита, а есть ли вообще какие-то новости или подвижки по блокировкам КЛОД с российскими документами? Может, уже появились рабочие варианты вернуть доступ или есть надежда на послабление

33:13

Speaker A

со стороны антропик? [фыркает] только распробовал все его прелести, и тут отобрали. Хочется понять, есть ли какие-то зацепки, как к нему вернуться.

33:20

Speaker A

Ну, смотрите, про такие вещи я никогда, ну, не рассказываю и не могу рассказывать аа по ряду причин. В том числе, потому что на самом деле это никак с AI непосредственно не связано, да? То есть я человек, который учу работе с AI, но я не занимаюсь тем,

33:36

Speaker A

что я настраиваю работу AI или советую что-то поэтому. То есть я понимаю ваш вопрос, но поймите меня тоже, я про такие вещи не могу рассказывать.

33:45

Speaker A

А в целом сложно сказать вообще, на самом деле, почему именно такая история с антропиком. Есть очень много теорий на этот счёт, а потому что они это особенно рьяно делают и не совсем понятно, вот причины не совсем понятны. То есть, возможно, мы

34:08

Speaker A

потом узнаем, почему это именно так происходило. А, может, им какой-нибудь Клод, э-э, Опуus 9 уже там говорит, что да, именно так и надо делать. А, ну [вздыхает] больше, честно, очень сложно что-то прокомментировать.

34:27

Speaker A

А [вздыхает] поэтому могу только сказать, что, ну, пути есть, да, пути есть, но все они уже лежат как бы в таких уже серых зонах, скажем так.

34:43

Speaker A

А, но улучшений я бы пока не ждал. То есть как бы это улучшение - это только вот когда когда когда вообще станет жизнь станет лучше, тогда, я думаю, и антропик тоже улучшится.

34:56

Speaker A

А, да. Теперь давайте отвечу на вопросы. И вот первый вопрос от Дмитрия как раз совпадает с вопросом, а-а, с вопросом вот тут. А, Дмитр Шашит ещё про новые модели.

35:12

Speaker A

А, модели Open AI. Как теперь с этим зоопарком жить? Да, действительно, ой, кстати, у меня неправильно здесь написано. Действительно, вышли вчера Soul 62 и Astra 62. И это, пожалуй, самый неоднозначный релиз. А это самый неоднозначный релиз вообще, в принципе,

35:40

Speaker A

со времён, наверное, GPT5. Вот GPT5 был тоже настолько же неудачный, я бы сказал. А, и причём он особенно неудачным получился, потому что они эти модели раздали инфлюенсерам несколько недель назад. И получилось так, что они, похоже, их раздали вот несколько недель

35:58

Speaker A

назад модели вышли и буквально за несколько дней до модели они ещё их улучшили, как бы Open AI. И поэтому все ревью, практически все ревью всех, у кого она была заранее, они все просто чудовищные. Ну, то есть там буквально, что типа это очень плохой

36:13

Speaker A

релиз, как бы [фыркает] не используйте эти модели. А при этом Open сами говорят, что просто, ну вот мы их буквально за несколько дней до релиза поменяли, а вот эти люди, они не успели это свои как бы ревью обновить. На что там эти люди

36:28

Speaker A

пришли, сказали, что нет, мы не согласны, мы их сейчас попробовали, они всё ещё очень плохие. А мой опыт такой, я как раз сегодня мы их поиспользуем, ну, по крайне мере СОЛ поиспользуем. Мой опыт такой, то что я вот сегодня работал

36:42

Speaker A

солом. Скажу так, а это точно не модели уровня. То есть Сол не модель уровня Опуса, Астра тоже не модель уровня и Опуса, и Фйбла. То есть и Сол тоже не модель уровня. Короче, короче, до Клода им прямо далеко. Вот

37:00

Speaker A

прямо реально далеко. А ощущения от них после Клода такие как бы не очень, как бы, если честно. Но в целом работает нормально. То есть как бы вот я, например, 62 сегодня там делал реальные рабочие задачи. Не могу сказать, что он как-то плохо их сделал.

37:20

Speaker A

Вполне нормально, хорошо сделал. Просто чувствуется такой вот, ну, знаете, вот такой вот то, чего ты не ощущаешь с опусом. Даже опус. Вот ты просто говоришь там, иди сделай вот это. И он такой: "Понял, пошёл делать вот это". А

37:32

Speaker A

тут какие-то начинаются вопросы какие-то лишние, там какая-то вот как-то вот что-то немножко не то. Но при этом почему мы будем их сегодня использовать?

37:43

Speaker A

Sol 62 теперь можно использовать даже на двухсотдолларовом тарифе можно использовать в режиме Ultrafast. И мне как раз хочется посмотреть, как это будет ощущаться на занятии.

37:56

Speaker A

А дальше вышел Gemini 4 Carbon. И вот это я пробовал вчера на занятии первого уровня курса. У меня было занятие. И слушайте, это, честно, какой-то позор.

38:07

Speaker A

Просто позор, потому что, может быть, сама модель неплохая, может быть, говорят, что она там на уровне опуса. И в принципе она в итоге сделала всё нормально, но это было чудовищно медленно. И похоже она, в принципе, довольно модель сама по себе такая

38:23

Speaker A

медленная. То есть она как-то у неё такие долгие долгие вызовы инструментов, она как-то вот так много всего делает.

38:30

Speaker A

Это, то есть она, видимо, сама по себе ещё такая как бы медленная, да, именно не в плане скорости инфренса, а то есть как бы генерации токенов, а именно вот просто вот у неё она просто как-то вот медленно работает в целом, а больше

38:43

Speaker A

действий совершает, я бы сказал, чем нужно. Но кроме этого сейчас вот эта модель, она её Google раздаёт с чудовищно низкой скоростью, типа там 20-25 токенов в секунду. Это в три раза медленнее, чем чат GPT. И чтобы просто вы понимали, я вчера, у нас вчера было

39:00

Speaker A

вот занятие первого уровня курса, где мы делали, помните, расшире расширение для браузера, куда мы добавляем этот маркдаун голос и там теперь мы Джеф туда ещё добавляем. И вот он просто только Leng Fus, только план того, как встроить L Fusз,

39:20

Speaker A

он делал минут 15. Я просто в шоке был. То есть как бы я больше не буду с ним работать. Ужасная модель в этом плане. Вообще мне прямо вообще не понравилось. Ужасный пользовательский опыт. А в то же самое время остальные вещи я сделал тогда на

39:34

Speaker A

занятии с Quen 4 Max. И вот эта модель мне очень понравилась. Очень приятная, классная.

39:41

Speaker A

А-а, мм очень короткие, чёткие ответы. Ответы по сути очень хорошо. А очень как бы, знаете, она такая вот она вот по ощущениям реально похожа на там Опус. Они похоже реально дистиллировали, наверное, опус. Оченьочень приятная модель. А единственное, у неё есть

40:07

Speaker A

проблемы с доступностью. Во-первых, она тоже не быстрая. Она тоже там типа 30-40 токенов в секунду. Ну, не такая медленная как Gemini, но всё равно как бы не быстрая.

40:16

Speaker A

И плюс она похожа, ну, у них просто не хватает GPU. То есть у меня там я когда делал вызовы там, во-первых, их провайдер сейчас только либо Backклаloud, и я делаю вызов, у меня там каждый пятый вызов заканчивается с

40:30

Speaker A

ошибкой. То есть вот если бы не это, мне она очень понравилась. Реально очень приятная модель. Классно всё сделала, классные задаёт вопросы, классно пишет, реально очень удачная, очень хорошая модель. Мм.

40:43

Speaker A

И вот теперь, собственно, вопрос про особенности тренировки. И сейчас как раз открою. Открою этот вопрос.

40:52

Speaker A

Это как раз вот про ту тот пример, где а с фильмами, да? То есть где отзывы на фильмы.

41:05

Speaker A

Так. Ага. Так, я ещё вижу тут один, кстати, вопрос. Наверное, я на него ответил сейчас. Вот этот вот этот вопрос.

41:22

Speaker A

Па-папа. Напомните, пожалуйста, я отвечал, по-моему, я отвечал, когда он просто давно уже 4 ноября. Мне кажется, я на него должен был ответить, но если вдруг не ответил, напишите, пожалуйста. Аа вот Дмитр спрашивает: "А а буду признатель за разбор примера особенности русского

41:40

Speaker A

языка и его скрытых смыслов, типа фильм классно уснул на пятой минуте. И как можно настроить вызовы Джеф с разбиванием задач? плюс организовать, а-а, древограф из моделей для быстрого решения подобных задач. Смотрите, тут я бы мм я бы так вообще вот вообще к этому

41:58

Speaker A

подошёл. То есть какая там проблема, да? То есть проблема у Дмитрия в том, что А в чём проблема отзывов? Проблема отзывов в том, что они как бы может быть написана одна вещь, а имеется в виду совершенно другое. Да. Вот, то

42:14

Speaker A

есть, как в примере, там фильм классный, уснул на пятой минуте, да? И е, если, например, простая модель это смотрит, она видит: "Фильм классный, а, ну всё, фильм классный". Да, там она она не вот у неё нет вот этого такого понимания там

42:27

Speaker A

тройного дна, да, в этом ответе. Или, знаете, когда там, а, там, не знаю, там, не знаю, отзыв на какой-нибудь там какой-нибудь там фастфуд, отзыв такой, что там вот как раз я там давно не мог сходить в туалет, сходил, поел тут и прямо побежал сразу,

42:45

Speaker A

да? То есть как бы и модель подумает: "Ой, это же хороший отзыв". И видите, то есть проблема, а это проблема вот с этими с вот такими многоуровневыми как бы смыслами, да, которые заложены. А что с ними делать, да? То есть, ну,

43:00

Speaker A

во-первых, я бы как использовал бы Джеф, а, ну, во-первых, давайте начнём с того, что таких отзывов на самом деле не так много, да? То есть их в принципе не так много. Поэтому я бы сделал такую вещь, да? То есть, например, вот вы не

43:18

Speaker A

забывайте, что вы одну и ту же фразу вы можете обработать несколькими вызовами Джава. То есть, например, скажем, можно построить такой процесс, да? И плюс это отвечает на ваш второй вопрос: как организовать древограф из моделей для быстрого решения подобных задач? Вот

43:32

Speaker A

смотрите, вот как бы я это организовал. Опять-таки, я сейчас не претендую на то, что это, а, универсальное решение или лучшее решение, потому что я бы с вот с вот то, что я вам сейчас говорю, я бы с этим пошёл к фейблу или там кастре,

43:46

Speaker A

например, и я бы с ней это обсудил. То есть как бы может быть она предложит мне лучшее решение, но вот чисто по логике я бы действовал так. А-а первый вопрос, который должен идти в Джеф - это есть ли

43:59

Speaker A

в этой фразе неоднозначность или какой-то двойной смысл? То есть просто вот вот вот такой вопрос Джеву, что вот скажи, в этой фразе это есть, что вот вообще какая-то неоднозначность, да, какой-то двойной смысл. И если Джеф такой говорит: "А, хм, да, выглядит

44:16

Speaker A

немножко неоднозначно. Всё, тогда эта фраза дальше улетает в какую-то более нормальную уже там LLM или какую-то нормальную модель. То [фыркает] есть просто вот я бы на этом этапе это отсекал, да. это нам добавляет как бы, аэ, это нам добавляет как раз вот это

44:37

Speaker A

дополнительную одну проверку, которая стоит денег, но при этом, если вам важна точность, да, то есть мы то вам тоже здесь нужно как бы взвесить, да, вот вам что нужно, если вам нужна там идеальная точность, то я бы просто добавил вот

44:49

Speaker A

такой один вопрос. То есть первый вопрос, что есть ли тут какая-то неоднозначность в этом ответе? Если она есть, всё, то это как бы улетает дальше уже более умной какой-то модели. И умная модель, она уже такая, а, смотрит и даёт

45:03

Speaker A

на это ответ. Если Джеф говорит такой типа: "Нет, здесь всё однозначно", да? То есть как бы дальше, если она даёт такой ответ, то к Джеву идёт второй вопрос: "А это отзыв там положительный или отрицательный?" И Джеф такой говорит: "Это 100% там положительный или

45:19

Speaker A

100% отрицательный". То есть я бы вот эту неоднозначность, такую человеческую неоднозначность, я бы её отсекал просто первой. И всё, что неоднозначное, а я на самом деле, ну, не так этого много будет. Ну, то есть если там вы почитаете

45:30

Speaker A

отзывы, ну, может, там один из, там, не знаю двадцати наверное отзывов там один из пти двадцати отзывов, он, наверное, какой-то не очень однозначный.

45:41

Speaker A

И, соответственно, тогда вот это бы вот я бы так скорее, скорее всего здесь выстроил. А дальше здесь подходов может быть очень много. Просто вы учтите, что вы одно и то же сообщение можете раз один вопрос задать Джеву, по-другому

45:54

Speaker A

спросить Джева ещё по-другому спросить. То есть вы можете много раз про одну про одну и ту же фразу опрашивать. То есть Джеф - это не то, что вы один раз спросили и всё, как бы не, вы можете хоть там 100 раз спросить разные вещи. Я

46:04

Speaker A

знаю, например, там аа ну вот таких специалистов, которые уже на Джеве очень сложные процессы выстраивают и у них там просто такой стенавал просто вопросов как бы идёт. Поэтому вы можете много вопросов задать, и они они классифицируются соответственно по

46:22

Speaker A

разным параметрам. И более того, опять-таки, смотрите, вы можете, например, сделать так, что вы можете раз вопрос какой-то Джев задать, получить его результат, второй вопрос Джева задать, получить его результат, третий вопрос два задать - получить результат, а потом задать четвёртый вопрос, который

46:39

Speaker A

будет посмотри на эти три ответа и скажи. Да? Да, то есть как бы вот эти суммарно три ответа, они тебе об этом говорят, да? То есть вот это вот [кашель][откашливается] это если вам нужна как бы очень хорошая точность.

46:52

Speaker A

А, ну или также можно отсылать более более умным моделям. То есть я я бы, наверное, примерно таким путём пошёл для вот для таких более человеческих вещей. Но опять-таки это не то, что это не то, что у меня какое-то уникальное знание есть.

47:05

Speaker A

То есть когда вот вам самое главное - это чувствовать, что такие пути есть. То есть вот я иногда, когда сажусь, я просто буквально сажусь с фейблом и говорю: "Слушай, я не знаю, как это сделать, но я чувствую тут какой-то

47:18

Speaker A

может быть решение, да, как бы давай его найдём". И, соответственно, он вам поможет подсказать такие классификации.

47:25

Speaker A

А, да, давайте, если не отвечал, дайте отвечу на вопрос. Никиты, а для домашнего задания я сделал в clignotion explainer с персонажкой. Для первой пробы получилось здорово. Есть история, смена планов, озвучка и музыка. Но если смотреть на ролик как motion дизайнер и

47:40

Speaker A

сравнивать с современной рекламой, видно, что анимация персонажа, переходы и ритмы сцены пока довольно простые. При этом я видел ролики, сделанные с помощью клод, где уровень motion анимации очень высокий. А это одна из причин, почему я захотел его изучать. Как вы выстраиваете

47:54

Speaker A

работу с Clot, чтобы довести такой эксплейнер до уровня современного рекламного ролика? Что лучше давать ему на входе и на каких этапах? референс с разбором конкретных сцен, раскадровку, а стиль, кадры, указания по движению и таймингу, например. Имеет ли смысл

48:09

Speaker A

сначала попросить КЛОД разобрать, как референсе поставлена камера? Смотрите про это сейчас как раз может и хорошо, что у нас этот вопрос немножко полежал, потому что аа сейчас, потому что тут появился про про именно это скилл, который вам прямо

48:31

Speaker A

нужен. Сейчас я вам его покажу. Вот, по сути, мне кажется, чтобы вам начать как раз работать с мон графикой, это прямо вот ровно то, что то, что нужно сейчас.

48:45

Speaker A

А сейчас [фыркает] что-то их-то так много стало сейчас. Ладно, наверное, вот этот, мне кажется, правильный. Сейчас посмотрю.

49:15

Speaker A

М, вроде, вроде это он. Сейчас, секунду. А-а, так, сейчас момент. У меня был, у меня я такие вещи Ой, я такие вещи в Твиттере, я такие вещи оставляю себе в твиттере всегда сохраняю.

49:44

Speaker A

Потому что я в основном их там и нахожу. И вот это как раз как раз была про про вот так сейчас.

50:01

Speaker A

Нет, ладно. Так, вот это, по-моему, если я не ошибаюсь, это вот этот ролик. Ой, не ролик, а скил.

50:16

Speaker A

Так, сейчас я вам кину ссылочку. Вот он. А, да, Twitter. Twitter сейчас это там я не то немножко нашёл. Я я не смог найти найти то, что нужно. А вот этот это этот от Hgen. Hen - это очень известная как

50:33

Speaker A

бы вот как раз motion графики. И я не пойму, почему у них тут вот это detect skill instructions potential promption detected skill disclosure behaviors в общем я бы вот этот момент обсудил.

50:50

Speaker A

Что здесь такого? Мне немножко странно, что я не очень верю в то, что это реально очень довольно известный репозиторий Hyper Frames. Ну такая как бы известная компания. У них 8-6.000 звёзд. Я думаю, [откашливается] надо обсудить. Там, скорее всего, это

51:04

Speaker A

объяснимо. То есть, как бы, скорее всего, вряд ли это какая-то серьёзная проблема, но лучше уи спросить, что это такое. Аа что это такое, да? То есть это а вы можете как бы воссоздать практически reverse engриering практически любое видео. То есть вы просто даёте ему, а,

51:26

Speaker A

видео, и он начинает процесс свой reverse engниринга. А единственное, может быть, оно требует это HyperFames Pro, но а также я помню, что, по-моему, не только они такое делали. Вот сейчас я посмотрю.

51:42

Speaker A

Reverse any video. Хм, в общем, посмотрите. По-моему, по-моему, сейчас есть вот такие reverse engineering video. Вот reverse engineering video style sampling. В общем, я бы посмотрел, а-а, поискал ещё, может быть, может быть, вот этот скил Hyperframes использовать, ну, если он

52:05

Speaker A

там не требует платного аккаунта. Или, может быть, посмотреть какие-то ещё есть, да, вот такие же проекты интересные. Но смысл в том, что сейчас есть точно появляются вот такие скилы, которые позволяют как разреверс инжерить видео, да, чтобы чтобы вы могли там, ну,

52:21

Speaker A

как бы из них как бы стиль брать и всякие такие вещи. А в целом, на самом деле, если вот так говорить, в общем, вам просто нужно использовать правильные технологии. То есть технология имеется в виду не Hyperframes, не там не вот эту

52:33

Speaker A

конкретную, да, какую-то, а просто по сути это же вся вот эта вся motion графика, она строится практически на таких же технологиях, как на веб-сайтах используются технологии. И вот попробуйте вот просто дома сделать эксперимент. Возьмите, например, а там какой-нибудь

52:54

Speaker A

какую-нибудь технологию интересную, например, там, не знаю, вот вот я про это не уверен, что это 100% заработает, я просто не пробовал, но у меня есть подозрение, что с этим можно очень что-то интересное сделать, да, вот с этим с VG GPU, да, сделать вот такое

53:08

Speaker A

что-то что-то классное, да, то есть какую-нибудь motшн графику, а, используя вот эту вот эту технологию, а, Аа, мне кажется, должно тоже получиться. И у них тут очень много всего вот такого классного и интересного. То есть я бы скорее вот таким путём пошёл. И плюс,

53:26

Speaker A

да, надо давать просто любые референсы обязательно, а, ну, если вам что-то что-то очень нравится. И плюс я всегда прошу делать мне много макетов, да, сэмплов. То есть я просто я прямо говорю, что так сделать вот такой сделать такой смпл а-а, ну не смпл, в

53:39

Speaker A

смысле, а как бы макеты, да, что вот покажи мне раскадровку, да, и я, соответственно, а буду смотреть, какой из этих стилей лучше подходит. Обычно, то есть просто многие думают, что вот ты просто так говоришь, и он сделал. Нет,

53:50

Speaker A

ну, как бы я обычно выбираю там из вариантов пять или 10 вариантов выбираю и только после этого что-то у меня получается. [вздыхает] То есть это прямо как бы не не идеальный процесс.

54:01

Speaker A

И вот, кстати, как отличный пример до тренировки, это Quent 387B Pi adapted. Это я вот кидал к нам в чат.

54:12

Speaker A

Это вот вообще очень интересная штука, и такого сейчас станет всё больше и больше. Ну, потому что на самом деле вы видели, насколько просто стало дотренировывать модели. Но это очень хороший пример дотренировки. Это взяли модель Quen 3827B, которая на самом деле

54:27

Speaker A

сама по себе довольно хорошая модель. Это, ну, вот для локальной модели это хорошая модель, но другое дело, что она 27Б, так что у вас должен быть довольно мощный компьютер, чтобы её запускать. А, и что они сделали? Они её натренировали

54:41

Speaker A

конкретно под Harness Pie, который, кстати, мы будем сегодня использовать. И плюс это они вчера сделали, а сегодня я ещё видел, они выпустили для Open Code тоже. То есть, что это такое, да? Это, по сути, у каждого Харнеса есть свои

54:55

Speaker A

инструменты, да, то есть как бы свой набор инструментов, свои действия. И они взяли эту модель и конкретно её натренировали хорошо работать именно с этим Харнесом, в данном случае с Паем. И результаты очень крутые. То есть вот у них там, например, SVE Bench пошёл с 39

55:16

Speaker A

до 64. Это вообще нереально просто рост, просто гигантский. То есть это, мм, ну, чтобы просто вы понимали, это там она скакнула до уровня, наверное, там, ну, наверное, ближе к опусу уже современному. Ну там, то есть это прямо это очень большой скачок. И там Terminal

55:32

Speaker A

Bench тоже очень большой скачок. Так что это вот прямо крутецкий пример того, как можно взять какую-нибудь такую довольно хорошую модель и её дотренировать, чтобы она просто, например, вот в одном конкретном харнесе очень классно работала.

55:46

Speaker A

А и такой, я думаю, вот всё больше и больше будет становиться. Да. Ну и давайте пока на перерыв сейчас не пойдём, ещё минут 10 поговорим, потому что поговорим о том, что мы как раз будем сегодня делать. Мы сегодня, по

55:59

Speaker A

сути, а встроим агента внутрь нашего продукта. То есть мы создадим продукт и, ну, веб-сервис, и мы будем встраивать агента внутрь него. То есть как мы это будем делать, да? А мы мы будем по сути делать альтернативу.

56:18

Speaker A

Ну и такой как бы альтернативу, конечно, так это я сейчас сказанулся, но нечто такое вдохновлённое, знаете, такими сайтами как например Lavable Bolt Visero, Replit, да, то есть это вот а такие агенты кодинга, да, которые в вебе, то есть когда вы приходите, что-то

56:37

Speaker A

просите сделать, и он это делает. Вот давайте попробуем своего такого сделать. И причём, как мы это сделаем? Мы это сделаем. А мы это сделаем сначала, а-а, сначала мы это сделаем вот сегодня на этом занятии мы это сделаем как бы такую

56:53

Speaker A

базовую вещь, а на следующем занятии мы ещё просто её там доработаем и с безопасностью её поработаем, потому что безопасность - это одна будет такая из ключевых как бы вещей. И по сути, да, то есть это будет вот как вот как вот можно

57:07

Speaker A

сделать, что вы как бы вы пользуетесь там кодексом, да, а тут пользователь будет открывать ваш сайт, просто писать вот обычными словами, что он хочет получить, и агент ему это будет делать.

57:17

Speaker A

А мы это сделаем просто такой классный, продуманный процесс, как это сделать так, чтобы это хорошо работало.

57:25

Speaker A

А, ну опять-таки, если вы пользовались любым из этих сервисов, вы представляете, о чём мы говорим. Но Визиру, я думаю, почти все из вас пользовались, потому что мы его на курсе тоже использовали. То есть что мы, как мы это сделаем, да? То есть мы сделаем,

57:38

Speaker A

во-первых, сайт, да? То есть мы сделаем просто сайт, где человек, у человека будет такое прямо окошко, он там пишет сообщения и, собственно, пишет обычными словами. А, ну и агент в этом как бы пишет задачу. агент запускается, он, собственно, пишет ему этот сайт, который

57:58

Speaker A

ему нужно создать, и пользователь видит прямо вот на нашем сайте свой работающий сайт и правит его уже дальше там дополнительными комментариями, которые ему нужно дать. То есть, по сути, это вот, ну, просто берём и воссоздаём то же самое, что вы делаете на этих сайтах.

58:15

Speaker A

Просто мы таким образом узнаем, как такое делается. А из чего это такой сервис состоит?

58:22

Speaker A

Ну, во-первых, конечно, это состоит из интерфейса, да? То есть интерфейс, в смысле, вот человек куда-то должен зайти, что-то должен сделать, да, поработать. А я предлагаю просто вот самый простой вариант - это SHCN, да? То есть вот вот это вот такая библиотека SHCN. А

58:43

Speaker A

если мы посмотрим, тут очень много у них разных а темплейтов для этого, да, то есть шаблонов. Ну и вообще в Шатсене много уже готовых, как бы заготовленных UI решений. Сейчас мы посмотрим.

58:59

Speaker A

А сейчас они тут эти что-то сейчас деньги стали брать сейчас. Но Шантсен вообще он вообще бесплатный. Так, сейчас.

59:12

Speaker A

Так, да, вот вот так можно. Shatcn.com. И вот тут есть разные как бы компоненты, да, там AI elements, например, и можно просто отсюда прямо брать элементы чат, да, вот такой красивый, симпатичный чат.

59:29

Speaker A

Или, например, отсюда можно взять компоненты например м как выглядит цепочка мыслей, да? То есть вот когда думает вот как оно выглядит или, например, как выглядит tool, да, использование инструмента, да, то есть это такие, это как бы это то,

59:47

Speaker A

что в принципе [фыркает] вы видели уже много где, потому что вот этот шат CN элементы, они много где используются, и мы можем просто взять их [вздыхает] и всех у нас их э использовать.

60:00

Speaker A

И, соответственно, то есть нам нужен интерфейс будет сделать, а это всё будет работать, ну, как бы мы это будем запускать на Верселе, то есть как бы у нас это всё будет работать не то, что прямо на нашем сервере, прямо сервере,

60:12

Speaker A

ну, на верселе, а при этом вся разработка будет идти в агенте Пай, да? То есть это всё будет идти в агенте Pй.

60:22

Speaker A

А, и мы сейчас поговорим о том, как он работает. И этот агент P, он будет использовать модель. Ну, вы можете разные модели использовать. Подписку не получится использовать. Нужно будет в любом случае API вызовы использовать, но или Open Router, соответственно, или

60:36

Speaker A

если у вас есть CHG GPT Pro аккаунт, просто API chat GPT используйте. Так что тут всё просто. А работать он будет в облаке, а он будет в облачных сенбоксах работать. Сейчас мы тоже о них поговорим. Это очень интересная штука.

60:51

Speaker A

То есть, по сути, наш как бы наш посетитель, он заходит на сайт в даёт задание как бы начать а разработку чего-то. И эта разработка, она происходит в такой специальной облачном компьютере.

61:08

Speaker A

Это нужно как раз для безопасности, чтобы как бы невозможно было так, чтобы человек управлял агентом кодинга, который работает у вас на сервере, на вашем реальном сервере, потому что это может очень плохо закончиться, потому что есть разные, ну, как бы когда, то

61:25

Speaker A

есть вам нужно очень очень очень обезопасить агента кодинга, чтобы он не мог ничего у вас на сервере сделать.

61:31

Speaker A

Поэтому мы просто его запускаем на облачном сервере, который появляется буквально на там на несколько минут. Он запускается и потом исчезает. И, ну, а базу данных будем просто Cloud Flare использовать, потому что они просто дешёвые, точнее, бесплатные и и простые.

61:49

Speaker A

И, соответственно, а вот если говорить, да, там о вещах, да, которые часто, которые часто сейчас так немножко путаются, да, то есть как бы у нас по сути будет три ключевых элемента здесь.

61:59

Speaker A

Ну, кроме кроме там интерфейса, вот этих всех вещей. Это значит модель, да, которая собственно обрабатывает да наши вызовы. Это Harness, да, сам агент, по сути, в который, в котором работает эта модель, и Sandbox - это изолированный компьютер, который

62:16

Speaker A

появляется в облаке, и в нём в нём будет работать, собственно, наш агент. И модель мы будем, скорее всего, использовать GPT61 Terra, потому что, мне кажется, по цене, качеству это хороший вариант и по скорости. Аа агент у нас будет P и Sandbox у нас будет E2B.

62:36

Speaker A

И мм давайте, давайте сейчас пойдём на перерыв, после этого обсудим, что такое P, что такое, э, E2B, что, какие вообще бывают сэндбоксы, как нам всё это собрать вместе. И после этого мы всё это соберём, собственно, используя тот самый

62:54

Speaker A

ультрафст режим в Soul 62. А, да, я ещё вижу вопрос Евгения. Обязательно на него отвечу, когда уже разработка начнётся, просто чтобы пока будет пока будет разрабатываться.

63:06

Speaker A

Так что 10 минут обязательно после этого возвращайтесь.

Topics: AI-разработка дообучение моделей локальные модели агенты Qwen BERT классификация текстов автоматизация E2B песочница курс по AI

Учить по этому видео

- [Карточки по этому видео](https://sozai.app/ru/tools/flashcard-maker/?from=transcript&id=95926)
- [Тест по этому видео](https://sozai.app/ru/tools/quiz-generator/?from=transcript&id=95926)
- [Кроссворд по этому видео](https://sozai.app/ru/tools/crossword-maker/?from=transcript&id=95926)
- [Филворд по этому видео](https://sozai.app/ru/tools/word-search-maker/?from=transcript&id=95926)
- [Шпаргалка по этому видео](https://sozai.app/ru/tools/study-guide-maker/?from=transcript&id=95926)

Бесплатно, составлено ИИ по этой расшифровке. Без регистрации.


---
This is the markdown twin of https://sozai.app/transcript/ai-development-automation-productivity-lesson-6/ — the same content, without the markup.
Published by SozAI (https://sozai.app). Reuse and quotation are allowed with attribution and a link back.
Machine-readable index: https://sozai.app/llms.txt · data API: https://sozai.app/api/
