Speaker A
Друзья, всем привет. Мы с вами ещё не разбирали, что такое Джеф. Весь хайп пролетел мимо, поэтому сегодня чистая практика. Что осталось после того, как все убежали дальше?
Обзор нейросети Джефф: как она работает, кейсы применения и преимущества перед классическими моделями.
Key Takeaways
- Джефф отвечает сразу на все вопросы за один проход, что значительно ускоряет обработку.
- Модель оценивает уверенность в каждом ответе, позволяя автоматизировать простые задачи и передавать сложные человеку.
- Использование Джефф экономит время и деньги по сравнению с классическими нейросетями.
- Джефф может выступать диспетчером для выбора подходящих навыков и моделей в сложных сценариях.
- Порог уверенности помогает минимизировать ошибки в автоматической обработке.
What the video covers
- Видео объясняет суть нейросети Джефф и её отличия от классических моделей GPT и Claude.
- Джефф отвечает на вопросы в формате анкеты с вероятностями, что ускоряет обработку и снижает стоимость.
- Показывается, как Джефф может автоматически обрабатывать запросы клиентов с разной степенью уверенности.
- Приводятся реальные кейсы использования: классификация платежей, разбор комментариев, фильтрация новостей.
- Джефф работает быстрее и дешевле конкурентов, при этом умеет оценивать уверенность своих ответов.
- Рассматривается использование Джефф как диспетчера для выбора навыков и моделей в больших нейросетях.
- Обсуждается теория порогов уверенности для автоматизации и передачи сомнительных случаев человеку.
- Демонстрируется экономия времени и денег при использовании Джефф на реальных данных автора.
- Видео содержит ссылки на Telegram-группы и ресурсы для начинающих в теме искусственного интеллекта.
- Автор приглашает подписываться и оставлять осознанные комментарии для продвижения видео.
Chapters
- 00:00Введение и обзор темы Джефф
- 00:32Ссылки и приглашение в сообщества
- 00:59Пример обработки запроса клиентом
- 01:59Отличия Джефф от классических нейросетей
- 03:00Типы вопросов и формат ответов Джефф
- 03:45Преимущества скорости и стоимости
- 05:00Идея порогов уверенности и автоматизация
- 06:54Пример запроса и стоимость
- 08:36Первый кейс: классификация платежей
- 10:20Второй кейс: разбор комментариев
Full Transcript — Download SRT & Markdown
Speaker A
Но сначала я за пару минут простыми словами объясню суть так, чтобы понятно стало, о чём речь. С вас подписка там внизу, осознанный комментарий, чтобы это видео увидело как можно больше людей, ну и, конечно, лайк.
Speaker A
Все ссылки на ресурсы, которые мы обсуждаем в этом видео, в бесплатной Telegram-группе, ссылка в описании. А если вы только стартуете в теме искусственного интеллекта, залетайте к нам в прогруппу, ссылка тоже внизу.
Speaker A
Поехали. Смотрите, представьте, вам в поддержку пишет клиент: "С меня дважды списали деньги в этом месяце. Исправьте, пожалуйста."
Speaker A
Если бы это письмо отрабатывал алгоритм, то что бы он с ним сделал? Отвечал бы на три вопроса. Это просьба вернуть деньги, да или нет? В какой отдел эту просьбу отправить? Оплата, техподдержка, может быть, продажи? И насколько это срочно?
Speaker A
Человек отвечает на это за секунду, даже не задумываясь. А как это делают сейчас с нейронками? Отправляют это в чат GPT или Клод и просят: "Верни мне ответ в формате JSON."
Speaker A
И нейронка начинает писать: "Токен за токеном, символ за символом." Это долго, это стоит денег. И самое неприятное, она не может честно сказать, насколько уверена в ответе.
Speaker A
Нейронка Джеф устроена совсем по-другому. Она вообще не пишет. Представьте анкету с галочками. Вы даёте ей ситуацию, то самое письмо и вопросы.
Speaker A
Вопросы бывают ровно трёх типов: да или нет? Выбор из вашего списка и оценка по шкале. А нейронка ставит галочки и рядом с каждой пишет вероятность.
Speaker A
Причём ответить вариантом, которого нет в вашем списке, она физически не может. Попросите выбрать из трёх отделов. Четвёртый она не придумает никогда. А вот классическая нейронка может.
Speaker A
Итак, откуда скорость? Обычная нейронка пишет ответ по одному кусочку токену, и каждый следующий ждёт предыдущего. Джефф смотрит на всё целиком и за один проход отвечает сразу на все вопросы.
Speaker A
Задали один вопрос или 20, по времени почти нет разницы. Ну и деньги. Платите вы только за то, что отправили. 42.000 долларов за миллион токенов. А ответ бесплатный, потому что его почти нет, одно число.
Speaker A
А теперь самое важное. Вот это будет одна идея, на которой держатся почти все кейсы. Дальше Джефф не отвечает просто "да", а "да на 90%". И это число, естественно, можно превратить в правила.
Speaker A
Смотрите, если уверенность выше 90%, письмо сразу уходит в очередь на возврат автоматически. Если ниже десяти, то это точно не возврат, ничего не делаем. А всё, что посередине, отдаём живому человеку.
Speaker A
И чем дороже ошибка в вашем бизнесе, тем выше вы ставите порог. Это и есть вся магия. Быстрая, дешёвая модель разгребает очевидное, а сомнительное уходит туда, где думают медленно и дорого, то есть к человеку или большой нейронке.
Speaker A
Теперь как выглядит запрос к Джеф? Возьмём примеры с нашей жизни. Человек пишет: "Оплатил подписку, а деньги списались два раза. Верните второй платёж."
Speaker A
Это ситуация. Тут она называется state, а ниже вопросы: просит ли он вернуть деньги, да или нет? В API этот тип называется нул. Кому передать? Оплата, вопросы по урокам или технические проблемы с доступом и срочность по шкале из трёх ступенек.
Speaker A
Отправляем. Это возврат на 99%. Отдел оплата, уверенность 100%. Срочность ответить сегодня — 89%. Всё уверено. Значит, по нашему правилу это можно давать автоматике.
Speaker A
А стоимость всего запроса 2,5 цента. Одна оговорка: "В окно влезает 32.000 токенов." Это и ситуация, и вопросы вместе. Для письма или комментария с огромным запасом хватает. Для чего-то побольше, естественно, нет.
Speaker A
И нам, по сути, это и не надо. О'кей, теория понятна. Давайте по кейсам. Я их разбил на три уровня. От того, что можно сделать за вечер, до того, что раньше было сделать реально проблематично.
Speaker A
И все примеры я собрал на наших собственных данных. Первый — Google таблицы. Взял счета за месяц: 42 платежа за сервисы, которыми мы реально пользуемся. Clot, Open Router, 11 Labs, серверы, монтаж, реклама.
Speaker A
Суммы в примере условные и выписка вообще близка к реальной. Где-то Apple.com Bill, где-то PayPal. Ну и две новые колонки: статья расходов и подписка. Это или разовый платёж. Несколько секунд, пятая часть цента.
Speaker A
И тут, кстати, был классный кейс. С первого раза Джеф угадал 33 из 42. Я полез смотреть ошибки, и виноваты, конечно, данные. 11 Labs — это нейросети или озвучка. Эти категории пересекались, я потом переписал описание и стало 41 и 42.
Speaker A
А единственная оставшаяся ошибка — hosting railway стояла с уверенностью 37%. То есть по нашему правилу ушла бы к человеку. Второй кейс — комментарии.
Speaker A
Я выгрузил 317 комментариев с последних двенадцати роликов этого канала и попросил Джеф разложить каждый. Это вопрос, это идея для видео, это благодарность, это критика, хочет учиться, ну или просто спам.
Speaker A
И отдельный вопрос: стоит ли автору ответить? Вся пачка за 13 секунд и 1 цент. Для сравнения, Клод Хайку на той же задаче — 25 секунд и 12 центов. То есть вдвое быстрее и в 11 раз дешевле.
Speaker A
Третий кейс на тех же данных — это проверка той самой теории про порог. Я сверил ответы Джефа с ответами Хайку. Там, где Джеф была уверена на 90% и больше, а это 60% всех комментариев, две модели совпали в девяти случаях из десяти,
Speaker A
а там, где уверенность ниже шестидесяти, совпали меньше, чем в половине. То есть Джеф действительно сама подсвечивает, где она сомневается. Если это что-то уверенное, то отрабатывается автоматически, если сомнительное — передаётся человеку.
Speaker A
Именно так работает правило. Четвёртый кейс — новости. Каждую неделю для нашего Telegram-канала. Кстати, подписывайтесь обязательно, бесплатно.
Speaker A
Я собираю и потом вручную отбираю самые ценные события из мира искусственного интеллекта, из Реддита, Экса, Ютуба, кучи новостных лент. Я отдал Джеф 133 таких материала за прошлую неделю.
Speaker A
Это существенная новость или шум? За 6,5 секунд и полцента она выкинула 79 штук мусора. Посты про политику Сальвадора, баг-репорт с Гитхаба, ну и всё такое.
Speaker A
Ну а на первое место поставила запуск агентов Dots от OpenAI. Это, кстати, та новость, которую я поставил первой в сегодняшнем апдейте для AI-шника Pro.
Speaker A
Второй уровень кейсов интересней. Тут Джеф работает не сама по себе, а как диспетчер для больших нейронок. Кейс пятый — выбор скила.
Speaker A
У меня в Клоде больше 100 разных скилов, и Клод иногда соображает, какой из них загрузить, довольно долго. Так вот, скилы — это и есть меню вариантов, а Джеф выбирает из него.
Speaker A
Я написал 16 типичных запросов: придумай название для ролика, сделай схему в Эклидро, проверь факты в сценарии и сравнил. Джеф — 16 из 16, 14 секунд на всё и меньше цента.
Speaker A
Хайку — 13 из 16, 28 секунд и 17 центов. Опусус 5,5 — 15 из почти 50 секунд и ровно доллар. То есть на этой самой задаче самая дорогая нейронка оказалась в 130 раз дороже и при этом ошиблась.
Speaker A
Тест небольшой, но тенденция понятна. Шестой кейс — выбор модели: простой вопрос — дешёвой нейронки, сложный — умной.
Speaker A
И тут в Open Router 25 сентября появилась готовая штука Jeff Router. Вы просто пишете в качестве модели Typees Jeff Router, и Джеф перед каждым запросом решает, какую модель взять.
Speaker A
Я дал ему три задачи: перевести "друзья всем привет" на английский. Он сделал это с помощью GPT-6 Luna за 2 секунды. Придумать три заголовка — тоже Луна.
Speaker A
А вот спроектировать архитектуру сервиса на миллион комментариев в сутки он отдал Deepsic V4.1 Flash. Получилось почти 7.000 токенов ответа меньше, чем за цент.
Topics:Джеффнейросетьискусственный интеллектавтоматизацияобработка запросовклассификацияэкономия времениэкономия денегTelegramкейсы AI
![[СТРИМ] Общаемся и обсуждаем правки локализации Gothic II — Transcript](https://i.ytimg.com/vi/WqgCj8hkEes/maxresdefault.jpg)
