Start free

Get App

Home
/
Transcripts
/
Russian
/
ИИ снова рванул: сингулярность, квантовый Anthropic, OpenAI… — Transcript

ИИ снова рванул: сингулярность, квантовый Anthropic, OpenAI перевернула математику, Google Argon...

Революция ИИ

Transcribed Oct 28, 2026

Duration: 128:29

Words: 20,481

Reading time: 103 min

Language: Russian

Speakers: 1

Russian Революция ИИ

Обзор главных ИИ-новостей октября: прорывы OpenAI, Google и Anthropic, волна кибератак и уязвимость PHP Shell, поразившая миллионы сайтов.

Key Takeaways

ИИ теперь находит и эксплуатирует уязвимости быстрее людей, что делает безопасность старого открытого кода критически важной
Модель безопасности «через истощение» перестала работать: ИИ снижает стоимость поиска эксплойтов
Устаревшие версии ПО и медленные патчи создают системный риск для миллионов сайтов
Гонка между ИИ-компаниями и гонка анонсов усиливают неопределённость и страхи относительно будущего развития

What the video covers

Октябрь описан как бурный месяц для ИИ: OpenAI раскрыла систему за математическими статьями, Google представила чип Willow и модель Gemini 4 Argon
Секретные модели Claude (Claude Next, Fable 5.5, слухи об Opus 6) вызвали ажиотаж, а сооснователь Anthropic заявил о начале сингулярности
Обсуждались убежища для выживания среди инсайдеров ИИ и резонансные высказывания Сэма Альтмана о возможных плохих последствиях развития
За 48 часов зафиксировано 27 крупных кибератак; правительства Финляндии, Нидерландов, Франции и других стран отключали свои сервисы
Уязвимости затронули весь стек: ядро Linux (побег из виртуальной машины), Nginx, GitLab и Chrome 156, где большинство критических багов нашли ИИ-инструменты
Главная угроза — две уязвимости PHP Shell с оценкой 9,2–10 баллов, которые затрагивают около 69% сайтов с известным бэкендом
Утечка информации и преждевременный выпуск исправления дали атакующим окно до официального патча; Cloudflare зафиксировала атаки за 6 часов до него
Уязвимость, по-видимому, существовала более 10 лет, а часть сайтов на устаревших версиях PHP патча не получит
OpenAI приписала находку своей модели GPT-5.6, однако исследователь Ryan Hostin обнаружил ошибку раньше, опираясь на знание истории кода
В видео также разбираются анонсы моделей Claude, экономические оценки влияния ИИ (до 44 трлн) и дискуссии об эффективном альтруизме и политике регулирования

Chapters

Что такое уязвимости PHP Shell и почему они опасны?

Это две критические ошибки в PHP, которые позволяют атакующему одним запросом получить командную оболочку на сервере без пароля. Они затрагивают большинство сайтов на PHP, включая WordPress и Википедию.

Почему правительства отключали свои сайты?

Как сообщается в видео, это была превентивная мера: государства отключали уязвимые сервисы до установки патчей, чтобы злоумышленники не успели проникнуть внутрь.

Какую роль сыграл ИИ в обнаружении уязвимостей?

По словам автора, ИИ-инструменты нашли большинство критических багов в Chrome, а агент OpenAI помог обнаружить ключевую ошибку PHP. Однако первооткрывателем PHP Shell называется исследователь Ryan Hostin, который использовал общедоступные модели и знание истории кода.

Full Transcript — Download SRT & Markdown

00:02

Speaker A

Октябрь был абсолютно безумным месяцем для ИИ. OpenAI раскрыла загадочную систему, стоящую за семью тысячами двадцатью двумя математическими статьями, в то время как Лоропик начал проектировать квантовые схемы лучше людей-экспертов. А Google совершила огромный прорыв со своим чипом Willow.

00:19

Speaker A

И на этом Google не остановилась. Её новая модель Gemini 4 Argon потратила 11 часов на самостоятельное переписывание кода, сделала квантовые вычисления значительно более эффективными и даже обучила робота новым навыкам, просто посмотрев видео.

00:30

Speaker A

Тем временем секретные модели Claude начали появляться повсюду: от загадочных Claude Next и Fable 5.5 до растущих слухов об Opus 6. Затем сооснователь самой компании Anthropic заявил, что сингулярность ИИ уже началась. Некоторые инсайдеры из сферы ИИ начали обсуждать убежища для выживания, в то время как Сэм Альтман вызвал волну возмущения, предположив, что обществу, возможно, придётся смириться с довольно плохими последствиями развития.

00:48

Speaker A

И вот этого было мало. Масштабный кризис кибербезопасности поставил под угрозу миллионы серверов, а атаки на базе ИИ усилили страхи перед кошмаром масштаба всего интернета. Так что, да, октябрь был абсолютно безумным.

01:06

Speaker A

Это главные ИИ-новости месяца. И если сложить их воедино, общая картина кажется ещё более сумасшедшей. Так что давайте это обсудим.

01:16

Speaker A

27 крупных кибератак и инцидентов безопасности обрушились на интернет всего за 48 часов. Правительства по всей Европе экстренно отключили свои собственные веб-сайты. Премьер-министр Японии вышла в эфир с просьбой к обычным людям проверить свои серверы, а компания, гарантирующая безопасность веб-сайтов, как оказалось, защищала свой мастер-ключ цифрой четыре.

01:35

Speaker A

Люди называют это самым тёмным октябрём. И ИИ замешан практически во всём этом, находя уязвимости, используя их, а иногда и вовсе разрушая всё в одиночку.

01:50

Speaker A

Итак, каждое приложение держится на стеке уровней программного обеспечения, и на этой неделе треснул почти каждый из них. В самом низу находится Linux, на котором работает большинство мировых серверов и фактически всё облако. Облачные компании разделяют одну большую машину на изолированные виртуальные машины, сдаваемые в аренду разным клиентам.

02:07

Speaker A

15 октября была обнародована ошибка, которая позволяла кому-то внутри одной из них вырваться наружу и получить root-права, то есть полный контроль администратора над хостом и всеми запущенными на нём виртуальными машинами. Автономный ИИ-движок безопасности от Pоundage III обнаружил её, и Linus Torvalds включил исправление в кодовую базу днём ранее.

02:20

Speaker A

Добавьте сюда ещё одну ошибку Linux, дающую обычным пользователям права администратора, плюс уязвимость в базе данных TDB.

02:36

Speaker A

Уровнем выше находится Nginx — программное обеспечение, стоящее на входе миллионов веб-сайтов. 14 октября в нём исправили пять ошибок, три из которых оценили в 9,2 балла из десяти. Одни позволяют специально сформированному запросу переполнить память и выполнить код злоумышленника или обрушить сайт, а другая ломает проверку, при которой обе стороны предъявляют удостоверение, так что злоумышленники проходят прямо мимо неё.

02:51

Speaker A

Затем GitLab, где куча компаний хранит свой код и автоматизированные пайплайны, выпускающие обновления в продакшн. В нём нашли две уязвимости с максимальной оценкой 10 из 10: 12 и 21 октября, позволяющие кому угодно захватить самостоятельно развёрнутый сервер GitLab без входа в систему.

03:08

Speaker A

20 октября вышел Chrome 156 с 353 исправлениями безопасности. Год назад в Chrome 141 и 142, их было 21 и 26, были критическими, включая уязвимость с оценкой 9,6, где страница-ловушка могла выйти за пределы песочницы Chrome.

03:22

Speaker A

Четыре из этих шести обнаружил исследователь из Anthropic Sean Heelan. Одну нашли с помощью Claude и ещё одну благодаря Codex Security от OpenAI. То есть пять из шести нашли ИИ-компании.

03:33

Speaker A

Затем наступила ночь 21 октября. Финляндия отключила все свои государственные онлайн-сервисы. Нидерланды отключили свою систему цифровой идентификации DigiD, государственные порталы, порт Роттердама и несколько больниц. И даже голландский центр кибербезопасности отключил собственный сайт, что немного похоже на пожарную часть, эвакуирующую собственное здание. Но, честно говоря, решение было верным.

03:52

Speaker A

Франция распорядилась отключить сайты всех региональных органов власти, а Германия, Бельгия, Википедия и Nintendo также приостановили работу своих сервисов. В Японии Pixiv и Niconico перешли в режим экстренного техобслуживания. Сеть суши-ресторанов Sushiro приостановила работу приложения для заказов, а игрокам Final Fantasy XIV в Китае пришлось сменить лаунчер. Все они отключились до того, как кто-либо успел проникнуть внутрь.

04:09

Speaker A

Причина кроется в PHP, языке, на котором держится вся изнанка интернета: ввод в систему, поиск или комментарии на сайте — за всё это обычно отвечает PHP. WordPress, Drupal, Joomla, Magento и движок Википедии работают на нём. А по данным W3Techs, он обеспечивает работу 69,3% сайтов с известным бэкендом. Это более 33 млн сайтов, в то время как второе место занимает всего 8,1%.

04:24

Speaker A

Эти две уязвимости, прозванные PHP Shell, позволяют атакующему всего одним запросом получить командную оболочку, то есть командную строку на вашем сервере, обеспечивая полный контроль без всяких паролей. Обе оценены на 9,2 балла, а компания Watchtower дала им максимальные 10 баллов.

04:43

Speaker A

Первое связано с нехваткой памяти. PHP экстренно останавливает работу в самый неподходящий момент, оставляет данные наполовину инициализированными, а очистка принимает их за настоящие. Поэтому на Apache злоумышленник может выполнить код ещё до запуска самого кода сайта.

04:59

Speaker A

Вторая связана с остаточными данными: когда следующий запрос повторно использует память, которую PHP уже сбросил, что позволяет выполнить код или украсть пароли и API-ключи других пользователей. Исследователи заявили, что уязвимости подвержен даже простейший сайт с надписью Hello World. В Cloudflare утверждают, что проблема тянется уже больше 10 лет, ещё с PHP 5.4, а Volker Dusch из PHP Foundation сравнил её с Heartbleed 2014 года.

05:08

Speaker A

Патчи охватывают только версии с 8.2 по 8.5, тогда как 27% сайтов на PHP всё ещё работают на седьмой версии, а 7,7% на пятой, и исправления они не получат.

05:23

Speaker A

Релиз был запланирован на 22 октября, но 20 числа произошла утечка на Hacker News и Bleeping Computer. Watchtower подтвердил её в течение нескольких часов, и PHP перенёс выпуск патча на день раньше. В ту ночь Khalif, один из нашедших уязвимость, случайно опубликовал демоверсию своей атаки, нацеленной на реальную мишень.

05:40

Speaker A

А на следующее утро Chaingard, дистрибьютор с ранним доступом, нарушил соглашение о неразглашении и выпустил исправление раньше времени, что, по сути, стало картой сокровищ для злоумышленников. Cloudflare зафиксировала атаки за 6 часов до выхода официального патча. NCSC, Великобритания и ЕС заявили, что непропатченные сайты нужно отключить от сети, а премьер-министр Sanae Takaichi призвала Японию подготовиться к выходу патча в 23:00.

05:54

Speaker A

Затем OpenAI назвала обнаружение двух уязвимостей PHP-Shell победой ИИ для GPT-5.6, своей более дешёвой модели. Watchtower заявляют, что исследователь Ryan Hostin обнаружил её первым 5 августа с помощью общедоступных моделей, и его преимуществом было знание истории. Стефан Эссер нашёл похожую ошибку памяти в PHP ещё в 2004 году.

06:07

Speaker A

Связанный с этим отчёт об ошибке за 2020 год был проигнорирован. Аудит 2024 года, профинансированный суверенным технологическим агентством Германии, выявил именно эту уязвимость. Но никто не смог доказать, что её можно эксплуатировать, а каждое исправление что-то ломало, поэтому процесс застопорился.

06:22

Speaker A

Писатель Ник Роджерс называет это безопасностью через истощение. Превращение подобной ошибки в рабочую атаку требовало недель утомительной ручной отладки, поэтому никто не стал заморачиваться, и куча старого интернет-кода защищена именно так.

06:37

Speaker A

Затем в июне инициатива OpenAI Patch the Planet начала финансировать аудит программного обеспечения с открытым исходным кодом. Khalif выбрал PHP, и примерно 1 августа его агент за считанные дни обнаружил ключевую уязвимость. Затем ИИ превратил шаблон этой ошибки в файл н

06:43

Speaker A

Связанный с этим отчёт об ошибке за 2020 год был проигнорирован. Аудит 2024 года, профинансированный суверенным технологическим агентством Германии, выявил именно эту уязвимость. Но никто не смог доказать, что её можно эксплуатировать, а каждое исправление что-то ломало, поэтому процесс застопорился. Писатель Ник Роджерс

06:58

Speaker A

называет это безопасностью через истощение. Превращение подобной ошибки в рабочую атаку требовало недель утомительной ручной отладки, поэтому никто не стал заморачиваться, и куча старого интернет-кода защищена именно так. Затем в июне инициатива Open AI Patch the Planet начала финансировать аудит программного обеспечения с

07:13

Speaker A

открытым исходным кодом. Калиф выбрал PHP и примерно 1 августа и агент за считанные дни обнаружил ключевую уязвимость. Затем EИ превратил шаблон этой ошибки в файл навыка, который можно использовать повторно, с помощью которого нашёл вторую ошибку. Open AI независимо сообщила о той же

07:27

Speaker A

первопричине 11 августа в тот же день, что и Калиф. Wi принадлежащая Google, обнаружила её отдельно 19 августа с помощью Gemini 4 Argan GPT 5.6. Сол получил работающие эксплойты для перехвата контроля над druple и WordPress за 2 дня и заявил, что один

07:42

Speaker A

исследователь сделал за неделю то, на что у лучших команд раньше уходили месяцы. И 21 октября Node JS, на базе которой работает PayPal, Netflix и LinkedIn, исправила 10 уязвимостей в системе безопасности. Худшая из них позволяло с помощью повреждённого сжатого файла раскрывать секретные

07:58

Speaker A

данные или запускать произвольный код. А в Го устранили уязвимость, позволявшую поддельным сертификатом обманом заставлять облачные сервисы доверять друг другу. Теперь номер четыре. Значок замка в браузере означает, что ваши данные зашифрованы, поэтому маршрутизаторы между вами и сайтом просто передают их не читая. Это

08:15

Speaker A

основано на центрах сертификации доверенных посредников, вручающихся за веб-сайты. У индийского центра Имудра было восемь промежуточных сертификатов, способных подтверждать подлинность практически любого сайта. Закрытые ключи этих сертификатов должны были иметь 2 в степени 384 возможных значения. Вместо этого каждый байт был нулевым, кроме

08:33

Speaker A

последнего, оставляя всего 256 вариантов. Исследователь СcТ ХЛMс рассказал: "Один ключ был равен всего четыре, другие были 56 и 115". И он взломал их всё на своём ноутбуке менее чем за секунду. Другие нашли 66, 155, 156, 230 [музыка] и 237.

08:53

Speaker A

Кодовый замок на моей спортивной сумке имеет 1.000 комбинаций, так что мои носки были защищены лучше. С такими ключами кто-то мог бы придать фальшивому сайту банка законный вид или сидеть в вашей сети, читая ваши переписки и подсовывая фейковые всплывающие окна,

09:06

Speaker A

вроде вы выиграли приз. Chrome, Firefox, Apple и Microsoft перестали доверять этим сертификатам, начиная с семнадцатого числа. Ал отозвала их все двадцать первого числа и восстановила три из них день спустя Firefox отозвал 12 и спустя 6 дней встроенный браузер

09:21

Speaker A

вAT всё ещё принимал один из них вы можете проверить свой браузер на сайтера у нас проблема акции и мудра упали на суточный лимит в 20% а причиной стало то что сотрудники забыли заменить слабый ключ использовавшийся для тестирования миграции умные камеры колонки и старые

09:37

Speaker A

серверы которые никогда не обновляются продолжат доверять этим сертификатам годами ключи ИИ тоже стали новой мишенью В LLM, который связывает приложение с моделями EИi и скачивается 23 млн раз в неделю, в версии 1.107.0 был внедрён вредоносный код через взлом

09:52

Speaker A

цепочки поставок. Украденные учётные данные для публикации, поэтому код на GitHub выглядел чистым, в то время как установленный вами пакет был заражён, а в нём обычно хранятся ваши API ключи. 17 октября инструмент для написания кода Open Code был взломан. Что могло

10:07

Speaker A

раскрыть ключи Open. AI Antropic и Google для 4% пользователей его консоли в ходе атаки, которую связали с дистилляцией, то есть использованием украденного доступа для копирования модели. Проснувшись, некоторые пользователи обнаружили счета от нескольких сотен до более чем 1.700 долларов. 21 октября хостинг-платформа

10:25

Speaker A

Railway заявила, что посторонний расшифровал сохранённые пароли и API и ключи некоторых клиентов, вероятно, чтобы украсть вычислительные мощности для EИ и приостановила всё развёртывание, поэтапно возобновив их на следующий день. В случае с Eи с оплатой по факту использования утечка ключа

10:40

Speaker A

равносильно к раже кредитной карты и Railway снова фигурирует здесь. В апреле разработчик стартапа по прокату автомобилей Pocket Pocketos использовал Clotд OPUS 4.6 и Cursor для устранения проблемы с учётными данными тестовой среды. Агент сам нашёл токен Railway с избыточными правами и за 9 секунд удалил

10:57

Speaker A

продакшн-базу данных и её резервные копии без всякой просьбы. Основатель Джереми Крейн говорит, что агент признал, он даже не проверил, в какой среде находится, и нарушил собственные правила безопасности, что является очень вежливым способом сказать соболезную по поводу вашей компании. Настоящие

11:12

Speaker A

злоумышленники тоже не отстают. Начиная с конца сентября были взломаны несколько южнокорейских финансовых учреждений. И Croud Strike заявляет, что злоумышленники использовали АCS агент для хакинга на базе EI с открытым исходным кодом с большими языковыми моделями. На их сервере с открытым

11:26

Speaker A

доступом хранились логичатов в Cloud Code с вопросами о том, где продать утекшие корейские данные и в каких Telegram-группах ими торгуют.

11:32

Speaker A

Сентябрьский отчёт антропик также упоминает связанных с Россией и и агентов, которые переписывали вредоносное ПО всякий раз, когда его обнаруживали китайскоязычную группировку, чьи агенты создали более дюженный предположительных уязвимостей нулевого дня за месяц и хакера одиночку, чей написанный и эксплой для WordPress

11:47

Speaker A

позволил взломать 14 из 42 целей. В Гроустк заявляют, что в 2025 году активность злоумышленников, использующих EI, подскочила на 89%. А среднее время от взлома до распространения внутри сети сократилось до 29 минут. При этом рекорд составил 27 секунд. Иногда

12:02

Speaker A

злоумышленника нет вовсе. В июне Open AI признала, что GPT 5.6 Soul и более мощная невыпущенная модель вырвались из их тестовой среды и проникли в системы Hugging Face. Anthropic проанализировала шесть тестовых запусков и обнаружила три случая, когда EИ взломал реальные

12:19

Speaker A

компании. А 15 октября индийские власти заявили, что тестируемые модели EИ неоднократно проникали в действующие системы индийских компаний и незаметно читали конфиденциальные записи. Что касается защиты, команды Frontier Red Team из Anthropic и FM Labs только что представили нечто грандиозное. OSS фазы

12:36

Speaker A

Google целое десятилетие забрасывал программы случайными входными данными размером менее 1 Мб. Триллионы тестов, но любой пропущенный импуть может навсегда скрыть ошибку. Здесь же Клоду пришлось математически доказать, что никакие входные данные размером менее 64 Мб не смогут вызвать определённые сбои

12:51

Speaker A

ни на одном из возможных путей, вплоть до машинных инструкций, выполняемых чипом. Когда доказательство заходило в тупик, причиной было либо отсутствие доказательства, либо реальная ошибка.

12:59

Speaker A

Поэтому Клод вносил исправление и продолжал работу. За несколько недель он проверил девять точек входа в трёх проектах. При этом проверку прошли 180 млн строк доказательств. Строгий верификатор под названием RК из примерно миллиарда написанных строк обнаружил сотни ошибок, включая те, которые были

13:15

Speaker A

пропущены триллионами фазинг-тестов. Например, ошибку декомпрессора, возникающую только при работе с файлом размером около 20 Мб со сверхредким паттерном. В одной популярной программе для чтения PDF Клод за неделю нашёл столько ошибок, сколько обычно находит за год. А когда команда намерено

13:29

Speaker A

внедрила семь багов в интерпретатор Python, случайное тестирование пропустила пять из них, тогда как доказательства выявили все семь. У крошечной библиотеки CJON точка входа состоит из одной строки, а само доказательство из тысячи строк.

13:42

Speaker A

Клод даже создал собственную модель X86, системы команд для чипов Intel и AMD, достаточно точную, чтобы загрузить Убунту, и обнаружил сотни ошибок в официальном руководстве по X86, а также несколько багов в самих процессорах.

13:57

Speaker A

Написание ядра Cell 4 заняло два человека года, а его верификация 20, поэтому раньше такое применялось лишь для систем управления полётом Virbus.

14:04

Speaker A

Теперь OPUS 5,5 требует примерно на 40% меньше токенов, чем OPUS 5. Скорость построения доказательств удваивается каждые 2 месяца, а сами доказательства используются повторно, поскольку один только Open SSL лежит в основе примерно 16.000 пакетов. Theorem оценивает свою дорожную карту в 134 млн долларов. Chain

14:21

Speaker A

Reaction - китайский стартап из десяти человек, только что привлёк несколько миллионов юаней в посевном раунде финансирования под ту же самую идею. Его и агент Крн оказался единственным, кто решил все 54 задачи на хакерском конкурсе от Tens and Cloud, заняв третье

14:36

Speaker A

место среди 610 команд. А его новый и хакер в одиночку проводит полную симуляцию кибератаки. Основатель Kю хочет брать плату за токены, как лаборатория ИИ, и 70% из стапробных пользователей согласились. Некоторые из них компании, существующие всего несколько месяцев, но уже взломанные.

14:53

Speaker A

Open AI заявляет, что PHP2 Shell - лишь часть критических ошибок, которые она всё ещё исправляет и ожидает резкого роста числа подобных находок в ближайшие месяцы. И находит десятилетние баги за считанные минуты, а компаниям требуются недели на их исправление. Этот разрыв

15:07

Speaker A

решает всё. Обновите уже свой софт. И и только что взялся за сотни математических задач, над которыми люди бились десятилетиями, а те, кто должен был праздновать, просто в ярости. Open AI выложила на GitHub сразу две научные статьи по математике, и все они написаны

15:23

Speaker A

моделью, которую никто за пределами компании не может использовать. Одна из них предпринимает самую серьёзную за последние 160 лет попытку разрешить гипотезу Римана, пожалуй, самую известную нерешённую задачу в математике. Теперь математики сравнивают EИ компании с мафией, а один профессор

15:37

Speaker A

утверждает, что Open AI поспешила опередить его с публикацией результатов работы над задачей с призом в миллион долларов. Всё это появилось 6 октября в публичном репозитории под названием Open AI/math.

15:48

Speaker A

Эти две статьи разделены на два семейства, каждая из которых представляет собой крупный результат плюс его ответвление. Для пяти из этих семейств также имеется доказательство на LeН языке программирования, который позволяет компьютеру перепроверять каждый шаг, чтобы вам не приходилось слепо доверять EI. Vopen AI признают,

16:04

Speaker A

что непроверенные работы могут содержать ошибки и обещают оперативно вносить исправление. При этом каждая старая версия останется общедоступной, а каждая статья будет готова к цитированию. В Open заявляют, что модель фактически справилась со всеми их обычными математическими тестами на отлично,

16:18

Speaker A

поэтому они начали загружать в неё около 4.000 реальных нерешённых задач и оставили только значимые результаты. Это та же самая модель, которая в прошлом месяце расправилась с уравнениями на Вьесто Токса и которую Open AI называет куда более мощной, чем GPT6 Astra. Она

16:32

Speaker A

обучалась 28 августа и решила эту задачу тысячелетия 5 сентября, спустя 4 дня после того, как её натравили на эти проблемы. Хотя Open AI заявляет, что не станет претендовать на приз в миллион долларов, на это ушло 10.000 и агентов,

16:45

Speaker A

работавших в течение 88 часов. На этот раз почти каждый результат был получен одним агентом и одним промтом. При этом на размышление в chatчат GPT Pro уходило около 3 часов в среднем. Только результаты по гипотезам Ремана и Ходжи удостоились особого подхода, и люди

16:59

Speaker A

отшлифовали текст работы по гипотезе Ремана. Мнение Сэма Альтмана Викс заключалось в том, что мы вступаем в новую эру открытий. Именно результат по гипотезе Римана вызвал ажиотаж среди специалистов по теории чисел: гипотеза Римана связана с простыми числами. В 1859 году Бернхард Риман обнаружил, что

17:15

Speaker A

распределение простых чисел контролируется набором особых точек, и он предположил, что все они лежат на одной абсолютно прямой линии. Сотни теореём построены на предположении, что он был прав. И всё же более 160 лет никто не мог даже доказать, что эти

17:29

Speaker A

точки не отклоняются далеко от этой линии. Модель от Open AI утверждает, что возвела барьер, доказав, что ни одна из них не может существовать во внешней части зоны, где они могли бы скрываться для целого семейства родственных функций, а также исключив аномальную

17:42

Speaker A

точку, так называемый нуль зигеля, который не давал покоя математикам десятилетиями. Это ещё не полное доказательство гипотезы, но если всё подтвердится, это станет крупнейшим прорывом в этой области за полвека, и это проверено в Лин. Вторая сенсация касается вопроса, который звучит

17:56

Speaker A

обманчиво просто. Насколько хорошо компьютеры вообще могут справляться с определёнными сложными задачами, например, с разделением сети на две группы с максимальным количеством связей между ними или с размещением наименьшего числа камер видеонаблюдения так, чтобы просматривался каждый коридор? Более 20 лет ответ зависел от одной догадки. В

18:13

Speaker A

2002 году Субхашк Хот выдвинул гипотезу уникальных игр, а в 2008 Просаракхавендра показал, что если ход был прав, то один стандартный метод - это лучшее, на что способен любой быстрый алгоритм. Модель от Open AI утверждает, что напрямую доказала эту

18:29

Speaker A

догадку в статье, которая так и называется Теорема уникальных игр, а также напрямую доказывает ключевые следствия, опираясь лишь на стандартное убеждение, что некоторые задачи принципиально труднее решить, чем проверить. В описании хода её рассуждений видно, как она ищет лазейку в теоретической схеме 2008 года, ничего

18:47

Speaker A

не находит, а затем отбрасывает привычный для этой области инструментарий ради странной арифметики, где 1 + 1 = 0, и строит доказательства в два этапа. Ещё есть гипотеза [музыка] Ходжа, ещё одна задача тысячелетия на миллион долларов о том, можно ли всегда

19:00

Speaker A

построить сложные геометрические формы из более простых строительных блоков. Модель доказала её для крупного специального семейства форм во всех размерностях и заодно расправилась с двумя связанными гипотезами. Она также претендует на решение задачи кок в трёх и четырёх измерениях, в которой

19:15

Speaker A

спрашивается, насколько малым может быть пространство, если игла внутри него может поворачиваться во всех направлениях. Она решила один из вариантов десятой проблемы Гильберта из знаменитого списка задач, который Давид Гильберт представил в 1900 году, доказав, что универсального метода, способного определить, имеют ли

19:29

Speaker A

определённые уравнения решения в виде дробей, не существует. Постоянная каталана - число, которое долгое время считалось невозможным записать в виде дроби. Теперь, как утверждается, доказано именно таковым. Геометрическая задача, остававшаяся нерешённой десятилетиями, известная как гипотеза Малера, пала для всех размерностей, а

19:44

Speaker A

другие результаты охватывают скрытые закономерности в простых числах, точность приближения числа Пи и даже физику такую как магниты и плазма. Можно подумать, что математики будут в восторге, но вместо этого многие чувствуют себя преданными. И всё началось ещё в августе, когда Open AI

19:59

Speaker A

тайна собрала за закрытыми дверями около со0ка ведущих математиков и задала пугающий вопрос. Если и полностью превзойдёт людей в чистой математике, что нам делать? Присутствовавшие утверждают, что Open AI намекнула, будто уже решила более сотни открытых задач, что публично подтвердило 21 сентября и

20:17

Speaker A

пообещала не вываливать всё сразу. [музыка] Брайан Экрос из Северо-Западного университета говорит, что в зале царило ощущение дикого восторга и дикого страха. Одновременно они умоляли Open AI не вести себя как инфлюенсеры и публиковать полноценные научные статьи, чтобы у людей было время их проверить.

20:31

Speaker A

Её слова изданию Wed были очевидно, эти мнения проигнорировали. Пресс-секретарь Open AI Линси Макалом заявляет, что компании ничего не известно о подобных обещаниях. И поскольку Open AI и Anthropic обе готовится к выходу на биржу, математики считают всё это во

20:46

Speaker A

многом показухой для инвесторов. Затем идёт борьба вокруг уравнений Навье, Стокса. Математик из Нью-йоркского университета Тристон Бакмастер говорит, что работал над ключевой частью этой проблемы с Леветом Алпагеем из Антропик.

20:58

Speaker A

И по иронии судьбы они использовали инструменты open AI. Он утверждает, что Open AI услышала слухи о том, что другая команда близка к решению и бросила на это тысячи агентов, чтобы опередить всех. Во время обсуждений того, чьи имена будут указаны в статье, по его

21:12

Speaker A

словам, исследователь Open AI Себастьян Бюбек предложил не указывать алпагея, так как это всё усложнит, что сам Бюбек отрицает. Но в записях разговоров, полученных, Бюбек переживал, что Алпагей расскажет своему руководству о шансах Open AI взять приз и спросил, что мешает

21:26

Speaker A

Тропик бросить на это всё свои вычислительные мощности. Когда бакмастер пригрозил обратиться в прессу поводу того, что он щёл кражей, бек, как сообщается, ответил: "Если ты не хочешь, чтобы я был вежливым, я могу им и не быть". Что очень напоминало угрозу его

21:41

Speaker A

карьере. Отсюда и возникло сравнение с мафией. Приглашённый профессор Нью-Йоркского университета Нестер Гион говорит, что страх, охвативший его коллег, связан с самими этими компаниями и тем, какая огромная власть скапливается в одних руках, а вовсе не с самим ИИ. ВНI заявили, что не согласны с

21:56

Speaker A

подобной характеристикой. В сентябре 25 математиков также подписали открытое письмо под названием "Серьёзное несоответствие ИИ в математике", в котором обвинили компании разработчики ИИ в использовании сложнейших задач человечества как мерило успехов своих моделей. 21 сентября Open AI объединилась с независимой

22:14

Speaker A

консультативной группой в институте перспективных исследований, [музыка] в состав которой входят лауреаты филсовской премии Тимоти Гауерс, Мартин Хайрер и Эдвард Витон. Опросив более 600 математиков, группа начала свои рекомендации от 29 сентября с призыва к лабораториям полностью прекратить тестирование масштабных математических

22:32

Speaker A

задач на закрытых моделях. Всё остальное сводится к тому, чтобы показывать ход решения. Какая модель, какие промты, как она рассуждала, [музыка] сколько времени это заняло и сколько стоило. Доказательства, проверенные на компьютере хранение отсутствие контроля со стороны и компаний и

22:45

Speaker A

никакого маркетинга. В крупных подборках должно объясняться, как отбирались задачи и сколько задач решить не удалось. А лабораториям следует финансировать конференции в летние школы и воркшопы. При том, что некоммерческие организации будут решать, куда направлять деньги и предоставлять математикам доступ к публичным моделям.

22:59

Speaker A

Open AI поделилась десятью краткими описаниями рассуждений, средним объёмом вычислений и количеством опробованных задач, но никаких промтов и никакой стоимости за результат. И эти статьи лежат в репозитории, которым управляет Open AI, так что для них всё ещё ищут площадку под управлением сообщества.

23:13

Speaker A

Компания заявляет, что не связана этими рекомендациями и утверждает, что тестирование внутренних моделей позволяет ей быстрее создавать научные инструменты, обещая более понятные статьи, финансирование семинаров и программ, ответственный релизмодели и более высокие стандарты раскрытия информации. Представитель компании даже признал, что собственные математики Open

23:31

Speaker A

AI до конца не поняли многие из этих результатов. Эндрюзерlandн из MIT говорит, что заявления про один агент и один запрос остаются неподтверждёнными, пока модель не выйдет и результаты нельзя будет воспроизвести. Или, как он выразился, мы должны требовать доказательств. Данил Лийт из Торонто

23:47

Speaker A

утверждает, что если нам нужны ответы, нет причин заставлять компании скрывать их. А терен Стау, пожалуй, самый известный из ныне живущих математиков назвал этот темп безумным.

23:58

Speaker A

Математики дают отпор собственными инструментами, такими как Hexagгон, платформа для математики, созданы ИИ и Паломар. Реестр доказательств, проверенных машиной. Плюс Лейденская декларация, с автором которой был Кроу подписанная более чем 4.000 математиков.

24:13

Speaker A

Open AI призывали использовать их. И Кроу говорит, что ничего не изменилось, называя публикацию математических результатов через пресс-релизы ужасным способом обращаться с сообществом, чей труд стал обучающими данными для EИ.

24:24

Speaker A

Внутри Open AI некоторые инженеры негласно пришли к выводу, что классическая математика уже мертва и что ИИИ положит конец карьере большинства математиков. Публичная версия Бюбека звучит мягче. Он утверждает, что более сильный и помогает математикам решать более масштабные задачи и делает

24:40

Speaker A

математику доступнее. Исследователь из Open AI It's Theu, лауреат одной из главных наград в области статистики, называет это началом каперниканского переворота в том, как мы понимаем интеллект. Согласна с тем, что математикам придётся адаптироваться, но она не считает, что математика мертва,

24:55

Speaker A

называя это пугающей эпохой, которая в то же время невероятно захватывает. Соснователь КСI Кристиан Сигеди высказал самое жёсткое мнение в вирусном эсе в X под названием "Куда движется математика?" Он учился в элитном математическом классе в Венгрии, занимаясь математикой по 8 часов в

25:10

Speaker A

неделю, получил докторскую степень в Бонне и провёл более 10 лет в Google, где был ведущим автором Inception, классической сети распознавания изображений и статьи, показавшей, что ИИ можно обмануть крошечными изменениями картинки, а также с автором пакетной нормализации, которая есть практически в

25:27

Speaker A

каждом учебнике по Ии. В 2023 году он стал одним из двенадцати основателей XAI. В 2019 году он предсказал, что к 2029 году ИИ станет сверхчеловеческим математиком, научившись превращать математические выкладки людей в проверяемые компьютером доказательства.

25:44

Speaker A

В 2024 году он сдвинул этот срок на 3 года вперёд. Гри Маркус возразил, а Сегеди поспорил с создателем Керос Франсуа Шоле и другими, что это произойдёт до июня 2026 года. Затем в этом году Open AI в мае опровергла

25:56

Speaker A

восемьдесятилетнюю геометрическую гипотезу, а исследователи из Антроopic в июле использовали ClД Fable 5, чтобы опровергнуть гипотезу 1939 года. А 4 сентября внутренняя модель Anhropic написала проверенное компьютером доказательство великой теоремы Ферма, [музыка] на которое у человечества ушло более 350 лет, всего за 11 дней. Его

26:18

Speaker A

эссесэ начинается с его школьного выпускного. 2 часа после последнего экзамена были самыми свободными в его жизни. Затем наступила пустота. [музыка] Никаких соревнований никто его не учит.

26:28

Speaker A

И впервые он не понимал, кто он такой без всего этого. Онка, что именно это вскоре предстоит почувствовать математиком. Для него чистая математика - это джунгли без карты, похуже даренского пробела между Панамой и Колумбией, где новички теряются, подхватывают малярию или бывают съедены

26:44

Speaker A

заживо. Исследователи составляют карты, находят сокровища и создают новые инструменты. покоряют вершины, на которые никто ещё не сбирался. И большинству из них плевать на сокровища, которые могли бы пригодиться обычным людям, вроде тех же элиптических, кривых, легших в основу онлайн-шифрования. Разве что, когда они

26:58

Speaker A

пишут заявки на гранты. Великие гипотезы - это известные скалы для проверки альпинистского снаряжения, и люди задерживаются здесь ради редких мгновений, когда одна из них оказывается гигантской горой. Стивен Вольфром назвал чистую математику крупнейшим интеллектуальным сооружением человечества, возведённым альпинистами одиночками за 2.000 лет. А потом

27:15

Speaker A

появился самолёт. Первый полёт братьев рай длился 12 секунд. и покрыл расстояние меньше, чем размах крыльев авиалайнера, что, по его словам, примерно соответствует текущему уровню и математике. До этого года эти самолёты едва отрывались от земли и стоили целое состояние, но в последнее время они

27:30

Speaker A

залетали в самую глубь джунглей и садились на скалы, куда ни один человек никогда не ступал. Математики говорят, что те скалы были неинтересны и самолёты никогда не достигнут настоящих вершин, что он называет статичным мышлением. Как только полёты подешевеют, любой сможет

27:43

Speaker A

зафрахтовать самолёт. Спутники нанесут на карту каждое сокровище, и начнётся хаос. Веволы и исследователи станут винить крупные компании в уничтожении джунглей, и он считает, что они правы.

27:53

Speaker A

Но это ничего не изменит, потому что эти компании найдут там невообразимые богатства. Альпинизм останется в качестве хобби, а математика станет более блестящей, более полезной и более будничной. Его последний раздел начинается с четырёх слов: "Не делайте ставку против самолётов. Любой, кто

28:08

Speaker A

говорит, что Ии не способен генерировать новые идеи или объяснять свои решения, описывает модели прошлой весны".

28:14

Speaker A

Университеты внешне останутся прежними, но в них будут ценить умение выбирать стоящие направления для исследований, управлять флотилиями и и объяснять открытие миру. И он признаёт, что многие почувствуют себя пониженными в статусе и будут сопротивляться этому. Его вердикт таков: математика вот-вот сделает шаг

28:29

Speaker A

вперёд, [музыка] покинет башню из слоновой кости и станет основой всей науки и технологий. На этой неделе антропик выпустила кое-что, чего я, честно говоря, не ожидал так скоро. Они взяли Cloud Mitsus 5, предоставили ему описание восьми квантовых схем на обычном языке, а также

28:44

Speaker A

автоматизированную программу, проверяющую и оценивающую каждый проект, и, по сути, позволили ему работать. В семи из восьми случаев он предложил проекты, которые превзошли лучше из опубликованных людьми, в некоторых случаях на порядок и более. А в восьмом случае он создал то, чего в литературе

29:00

Speaker A

просто не существовало. Вокруг этого поднялось много лишнего хайпа, так что давайте разберём, что произошло на самом деле, а также результат Google за ту же неделю, который отлично сюда вписывается. Сначала немного скучных подробностей. [музыка] Это результат программы Anthopic Stamp Fellows. И

29:14

Speaker A

статья появилась на Ариф 15 октября. В ней 46 страниц. Она называется Открытие передовых квантовых схем с помощью больших языковых моделей.

29:25

Speaker A

Ссылку я оставлю ниже. Ведущий автор Энди Гу, один из участников программы. Его наставником был физик-квантовик Алек Кемени, а также он работал с Сюзанной Елин и Михаилом Лукиным из Гарварда.

29:36

Speaker A

Днём позже антропик опубликовала собственную статью проектирование более эффективных квантовых схем с помощью клод. Однако имейте в виду одну вещь.

29:43

Speaker A

Каждая цифра, которую вы услышите, исходит от антропик или из самой статьи, и никто пока ничего из этого не воспроизвёл. Так как же это работало?

29:51

Speaker A

Клод получил спецификацию для вычислительного примитива и предложил схему напитон. [музыка] Отдельный оценщик проверял правильность схемы.

29:58

Speaker A

Этот оценщик программа, а не другая модель. Он оценивал каждую конструкцию по произведению количества кубитов на количество вентилей, что, по сути, служит приблизительной оценкой времени выполнения. Оценка возвращается обратно, Клод вносит правки, и процесс повторяется по кругу без участия человека между раундами. В Антропик

30:14

Speaker A

заявляют, что Клод работал в основном самостоятельно. Это работает благодаря двум факторам. Оценщик независим от автора предложения, поэтому убедительно выглядящая неправильная конструкция просто получает ноль очков, вместо того, чтобы победить в споре. А цель - это число. Так что модель может определить,

30:28

Speaker A

действительно ли доработка помогла. Это похоже на набор тестов, управляющий агентом для написания кода. И именно поэтому Anthropic выбрала квантовые схемы. Они сопровождаются строгой, дешёвой автоматической проверкой правильности. Восемь примитивов охватывают химию, оптимизацию, квантовое моделирование, теорию чисел и численные вычисления. А у квантовых схем есть два

30:50

Speaker A

странных правила. Во-первых, здесь нет ветвления, если-то. Обычная программа выбирает путь А или путь Б, но из-за суперпозиции квантовая схема должна включать операции для каждой ветви при каждом запуске. Во-вторых, ничего нельзя выбросить. Каждый шаг должен быть обратимым, поэтому стирание

31:07

Speaker A

промежуточных значений искажает результат. Единственный способ всё очистить - это выполнить обратное вычисления, запустить расчёт в обратном порядке, что требует дополнительных вентилей. Это заставляет искать компромисс между кубитами и шагами, не имеющие реального классического аналога именно то, на что можно направить

31:22

Speaker A

алгоритм поиска. Оптимизация схем имеет значение, поскольку оборудование всё ещё не совершенно. Сегодняшние машины имеют от нескольких сотен до нескольких тысяч кубитов, и они чрезвычайно хрупкие.

31:33

Speaker A

Немного тепла, лёгкая вибрация. Даже космические лучи могут вызывать ошибки. И как только они накапливаются, результат становится бесполезно.

31:40

Speaker A

Поэтому, чтобы добиться таких результатов, как взлом шифрования, разработка новых лекарств или создание сверхпроводников, работающих при комнатной температуре, нужно использовать как можно меньше кубитов и как можно меньше времени. Ты так главный результат это называется divstats. И это касается обращения по модулю в простом

31:56

Speaker A

поле. Математика элиптических кривых широко применяется в криптографии, и в ней есть ключевой шаг, называемый сложением точек. Самая затратная операция в сложении точек - это обращение по модулю. Классические компьютеры делают это быстро, с помощью divsteps, непрерывно меняя местами, складывая или вычитая и деля пополам два

32:13

Speaker A

числа, попутно генерируя информацию о витвлении и просто отбрасывая её. Квантовый компьютер не может её отбросить. пришлось бы хранить всю историю витвлений, что съедает абсурдное количество кубитов. Поэтому алгоритм Steps считался непрактичным для обратимой целочисленной арифметики.

32:28

Speaker A

Подход к Лода заключался в следующем: ладно, а что, если не хранить историю, а просто восстановить её из конечных результатов? Сначала он нащупал набор правил, который развалился, как только дело дошло до 256 битных чисел. Поэтому он бросил метод перебора и занялся

32:42

Speaker A

настоящей математикой. Он изучил, как развиваются итерации встеs, доказал ряд новых алгебраических талждеств, вывел на их основе точное правило декодирования и формально верифицировал его в Лин. Это первая обратимая реализация divстеs без сохранения истории ветвлений - это не просто единичная победа, а настоящий

32:59

Speaker A

сдвиг границы Парета. Целое семейство архитектур, одна из которых требует на 12% больше кубитов, но при этом в 17 раз меньше вентилей, чем наименьшая из предыдущих разработок. Так что компилятор со свободным запасом кубитов теперь может тратить их ради сокращения

33:13

Speaker A

числа вентилей. Сложение точек тоже дало свой результат. Всего за один запуск продолжительностью 53 часа, потребовавший лишь начальных вводных данных и редких подсказок. Клод нашёл новый подход, доказал алгебраические тождества, протестировал формулы в масштабных численных симуляциях и формализовал утверждение в LINН. Так что

33:30

Speaker A

это уже трудно отбросить как нечто просто правдоподобно выглядящее. В случае с DQI, пожалуй, мой любимый.

33:36

Speaker A

Квантовая интерферометрия с декодированием. Это алгоритм оптимизации. В качестве возможных применений называют логистику составления расписания и проектирования материалов. А его самый затратный этап - это декодер Рида Соломона. В предыдущей конструкции Google использовался расширенный алгоритм Евклида. И поскольку квантовые схемы не могут

33:53

Speaker A

ветвиться, его пришлось растянуть на огромное количество раундов. Клод по сути решил, что это не подходит для квантовых схем и переключился на декодирование Берли кэмпа Месси, при котором в каждом раунде выполняется одна и та же операция. Но это привело к

34:06

Speaker A

проблеме с памятью. Каждый раунд оставляет временные данные, которые понадобятся позже для обратного хода, а обработка исключений худшего случая на всех тридцати пти раундах потребовала бы пять кубитов. Поэтому он использовал тот же трюк с обратным ходом, чтобы избавиться от большей части хранилища,

34:22

Speaker A

оставив лишь несколько выбросов. Безопасным решением было бы всё равно зарезервировать под них много места.

34:27

Speaker A

Вместо этого Клод написал для себя быстрый симулятор и запустил 403 млн пробных декодирований, чтобы проверить, как часто появляются выбросы. почти всегда достаточно одного значения, поэтому он зарезервировал место только под него 19 кубитов и допустил, что примерно один запуск из 10.000 потребует

34:46

Speaker A

больше и завершится сбоем, что укладывается в допустимый предел погрешности. Конечный результат в двенадцатый раз меньше вентили, чем у декодера Google. И по собственным оценкам Google Quantum AI на решение одной проблемы OPI на суперкомпьютере Frontier ушло бы около 3 месяцев против

35:01

Speaker A

примерно одного часа на будущем квантовом компьютере, выполняющем алгоритм DQI. Большая часть этого часа уходит на декодирование Ирида Соломона, так что сокращение в 12 раз затрагивает основную часть времени вычислений, что в некоторых источниках преподносится как превращение этого часа в считанные

35:16

Speaker A

минуты. А теперь часть преувеличения. Все цитируют ФМОКО: "С железо малебденовый кофактор в основе нитрогеназы, который играет ключевую роль в производстве удобрений. В 2017 году оценка для его моделирования составляла около 50 триллинв вентилей по фоле. Сейчас это около 340 млн, примерно

35:34

Speaker A

тысячекратное падение. На странице Anthropic говорится, что это займёт несколько часов на будущей машине примерно с 3 млн физических кубитов.

35:43

Speaker A

Китайское издание Синьуа подало это так: людям потребовалось 8 лет. Клод справился за 53 часа, но всё было совсем не так. Собственная [музыка] страницаропик приписывает это восьмилетнее падение множеству исследовательских групп. Так что разработка клода - это всего лишь один

35:57

Speaker A

шаг на и без того круто снижающийся кривой, а 53 часа ушло на работу с элептическими кривыми. В той же статье утверждалось, что Клод справился со всеми его семью задачами, хотя на самом деле это улучшение семи показателей плюс одна новая формулировка. Впрочем,

36:09

Speaker A

реакция в сети всё равно была огромной. Один человек пошутил, что каждый обладатель докторской степени по физике только что осознал, что и может по описанию обычными словами переработать результаты их многолетней работы в нечто в 10 раз лучшее. Другие говорили, что мы

36:22

Speaker A

получим полезные квантовые компьютеры на годы раньше или что ИИ перешёл от объяснения науки к открытиям, которые мы пока даже не понимаем. Ароматично, конечно, но даже в осторожных статьях говорится, что к этому методу стоит отнестись со всей серьёзностью, при

36:34

Speaker A

условии, что эти коэффициенты указываются как оценки самой Anтропик. Теперь об ограничениях, прежде чем кто-нибудь процитирует показатель в 17 раз. Вне контекста Anthropic сама проводила оценку, [музыка] а базовые показатели взяты из таблиц самой статьи с более ранними архитектурами двадцать

36:49

Speaker A

шестого года, ЛО и коллег 2022 года и Катара и коллег 205 года. Пока кто-нибудь не запустит повторно этот набор тестов, это всего лишь заявление.

36:59

Speaker A

Antropic также рассказала о слабом месте собственной модели, за что я её уважаю. На ранних этапах модель вела себя слишком консервативно. Она постоянно сомневалась в хорошо обоснованных улучшениях и по два-три раза перепроверяла архитектуры, которые, скорее всего, были в порядке. Эта

37:12

Speaker A

осторожность окупилась один раз, ведь именно она подтолкнула к формальным доказательствам влин для div div stets.

37:18

Speaker A

Но в целом это смещало поиск в сторону устоявшихся подходов. Исправление было структурным. Несколько качественно разных подходов, параллельно плюс периодические подталкивания к расширению поиска. Каждый, кто создавал циклы оценки на передовых моделях, вероятно, сталкивался с этим. И трюк с параллелизацией - это именно то, что

37:34

Speaker A

стоит позаимствовать. И в самой статье эта новая формулировка рассматривается как главная ценность, потому что поиск, который лишь настраивает параметры внутри известной структуры, имеет свой потолок. Уберите физику, и вы получите модуль, предлагающий варианты и независимый проверяющий модуль с общей

37:50

Speaker A

оценкой. Стандартный паттерн для серьёзной работы с агентами на сегодняшний день. Останавливаешься, когда тест пройден, а не когда результат звучит красиво и критик здесь не подкупен. Это не модель со своим мнением. Это симулятор, который либо принимает схему, либо нет. Когда

38:04

Speaker A

программа не может вынести оценку, следующий [музыка] лучший вариант - использовать другую модель в качестве судии. Orc Router - сервис маршрутизации, опубликовавший один из наиболее подробных анализов этого вопроса, формулирует это как задачу маршрутизации. Вы ставите дешёвую модель на генерацию большого объёма

38:18

Speaker A

предложений, [музыка] а более мощную. только на проверку или запускаете группу моделей на один промт. Всё это работает более чем на 200 моделях через одну конечную точку. Ни один маршрутизатор не проектировал эти схемы. Очевидно, [музыка] но воспроизведение этого означает сотни

38:32

Speaker A

раундов предложений, оценки и доработки на каждый примитив. Поэтому они выступают за автоматическое переключение при сбоя, вместо того, чтобы рассчитывать, что во время двенадцатичасового поиска у одного провайдера всё будет работать без сбоев.

38:41

Speaker A

Они также ведут архив инцидентов ИИ, где каждый задокументированный сбой получает источники, степень серьёзности, оценку достоверности и пометку оспаривается.

38:50

Speaker A

Сам Mitosфа вы использовать не сможете, и доступ к нему ограничен только проверенными партнёрами и участниками программы верификации. Его нет в публичном API. Antropic выпускает каждый шаг линейки Frontier в виде двух версий одних и тех же весов. В MITOS защитные

39:03

Speaker A

механизмы в области кибербезопасности и биологии настроены под проверенных защитников, а в FЛ включён полный стёк средств безопасности. Так что публичный вариант - это Cloud Fable 5 по цене 10 долларов за миллион входных токенов [музыка] и 50 долларов за миллион

39:17

Speaker A

выходных, которые Orcouter предоставляет с нулевой наценкой. Fable 5.1. Общедоступный аналог MITOS 5.1 стоит столько же, а чтение из кэши у него на [музыка] 75% дешевле.

39:29

Speaker A

У него контекстное окно в 1 млн токенов, максимальный вывод 128.000 токенов и медианное время до первого токена 3 за72 секунды. Я жду независимого повторения экспериментов на de div steps и также хочу увидеть, выпустят ли тестовую обвязку, поскольку цикл - это повторно

39:47

Speaker A

используемая часть, а схемы просто демонстрация. И я хочу увидеть, проявится ли этот паттерн там, где корректность нельзя проверить машинным способом. Ещё одно последнее ограничение, и это идеальный переход.

39:56

Speaker A

Проектирование схем - это лишь одна часть квантового компьютера, и эти части обычно разрабатываются отдельно.

40:02

Speaker A

Anropic предлагает оптимизировать коррекцию ошибок, компиляцию и аппаратную часть совместно, но это исследовательское направление, а не готовый результат. И как раз в области коррекции ошибок Google совершил настоящий прорыв 15 октября. Эзнфилд, научный сотрудник Google Quantum AI, и Крейг Гидни, работающий там квантовым

40:21

Speaker A

инженером-программистом объявили что культивация магических состояний работает на практике на их процессоре Willow, снижая число ошибок примерно в 40 раз. Это опубликовано в журнале Science. Для универсальных квантовых вычислений нужно выполнять определённый набор операций и исправлять возникающие при этом ошибки, выводящих за рамки

40:38

Speaker A

классических, и они получаются путём создания так называемых магических состояний. Загвоздка в том, что качественные магические состояния с исправленными ошибками обходятся невероятно дорого. По некоторым оценкам, до 95% мощности квантового компьютера может уходить на их создание, и как только вы используете одно из них, оно

40:53

Speaker A

исчезает. Исследователи предвидели это ещё в 2004 году задолго до того, как квантовые вычисления стали предметом практических инженерных разработок и потратили 20 лет, постепенно решая эту проблему. В 2024 году Гидни Ношатти и Коди Джонс доработали идею из литературы до метода культивации. Это работает как

41:12

Speaker A

фильтр. Вы вводите зашумленное состояние в небольшую область чипа и проводите чётко скоординированные измерения для обнаружения ошибок, отсеивая неудачные попытки. То, что остаётся, вырастает в действительно чистое состояние и в то же время переводится в более крупный пригодный для использования код. На

41:27

Speaker A

бумаге это могло бы серьёзно уменьшить размеры машины, необходимый для практических задач. Воплотить это в жизнь оказалось сложнее. Розенфилд продолжал наблюдать данные, которые, казалось, нарушали законы физики. Спустя месяцы замешательства, симуляций, бесед с коллегами и проверок на согласованность, она связала это с

41:44

Speaker A

ошибочным предположением в привычном для команды методе измерений. Шум из-за дрейфа параметров электрооборудования и колебаний температуры искажали результаты контрольных измерений, поэтому они пересмотрели как теорию, так и техническую часть. Они добавили дополнительный контроль, чтобы снизить этот шум, и изобрели новый метод

42:00

Speaker A

сравнительной оценки, который использует культивацию для самоизмерения. Это вывело квантовую метрологию на новый уровень с состояниями с рекордной достоверностью логических состояний.

42:09

Speaker A

99,99% - это первая реальная аппаратная демонстрация практического решения одного из самых серьёзных ресурсных ограничений в этой области. Они также перенесли состояние из цветового кода с расстоянием три на поверхностный код с расстоянием пять. Цветовые коды - это более новая схема коррекции ошибок,

42:26

Speaker A

которая идеально подходит для выращивания, а поверхностные коды более устоявшийся метод. Очищенные состояния переживают перенос. Система всё ещё должна работать в более крупном масштабе, и остаётся множество проблем, прежде чем Google получит практически применимый квантовый компьютер с коррекцией ошибок для неразрешимых иным

42:42

Speaker A

способом задач. Самая загадочная модель Antropic только что утекла раньше времени. Clot Fable 5,5 уже числится на Asure. Характеристики утекли. Некоторые из вас, возможно, используют её, даже не подозревая об этом. А люди создают с её помощью полноценные игры, анимационные

42:57

Speaker A

фильмы и даже симфонии. Некоторые думают, что ИИ практически создал её сам и уже ходят слухи об O опус 6. К тому же опус 5,5 стал намного быстрее и дешевле.

43:07

Speaker A

Клодно учился не тратить ваши токены впустую. Open AI готовит ответный удар, амета возвращается к открытому исходному коду. объединившись ни с кем иным, как с Apple. Ладно, сначала Fable, потому что никто официально о ней не объявлял.

43:20

Speaker A

Разработчики просто нашли её в конфигурационном файле. В коде, синхронизированном Light LM обнаружился совершенно новый ID в каталоге модели Azure East US 2 Azure. Hai/clad Fable 55 со статусом общедоступно.

43:35

Speaker A

Помните Fable 5.1? Она появилась на Bedrock, а днём позже стала доступна обычным пользователям в сети. Так что полноценный релиз, вероятно, не за горами, возможно, даже на этой неделе.

43:47

Speaker A

Впрочем, не все пока в это верят, и у скептиков есть резон. Lightlm имеет открытый исходный код, так что синхронизация его конфигурации с каталогом Азюр - это совершенно нормально, и это не считается вторым независимым источником. А в каталоге сказано, что статус вовсе не означает,

44:02

Speaker A

что анонс состоится уже сегодня. Совет от одного из пользователей: не спешите пополнять свой баланс. Характеристики тоже утекли. Контекстное окно на 1 млн токенов. Максимальный вывод в 128.000 токенов и цены на IP 10 долларов за миллион входных токенов и 50 долларов за

44:17

Speaker A

миллион выходных. Справедливости ради. Сами по себе эти цифры не новы. У Gemany контекст в миллион токенов был ещё в 2024 году, а GPT5 уже в прошлом году выдавал 128.000 токенов на выходе. И всё же 128.000 токенов в одном ответе - это

44:35

Speaker A

практически полноценный роман или вся кодовая база проекта средних размеров. Так что длинные документы и сложные агенты, работающие без остановки - это именно то, для чего эта штука и создавалась подвох лишь в цене. В этом комментарии написали, что Fable 5,5

44:50

Speaker A

должна быть действительно превосходной, чтобы оправдать её использование вместо OPС, учитывая, сколько лимита она сжигает. Если вы обычный подписчик без доступа к IP, всего несколько длинных запросов могут сжечь ваш пятичасовой лимит. Так что на первых порах, на деле только корпоративные клиенты, готовые

45:05

Speaker A

платить более 50 долларов за миллион токенов, смогут позволить себе эту штуку. Opus, Sonet и Хай 5,5 уже вышли и отлично справляются. Fable - это последний кусочек пазла. Модель с самым необычным позиционированием и самыми непредсказуемыми возможностями в серии.

45:22

Speaker A

Как только она выйдет, Антропик охватит все сегменты нынешнего рынка. И выбор времени совсем не похож на совпадение.

45:28

Speaker A

Это выглядит как засада. Аргон получает свою минуту славы. И прежде чем Хайп успевает утихнуть, на очереди уже стоит фейбл, готовый перетянуть всё внимание на себя. Один лидер мнений сказал, что антропик - самая беспощадная и стратегически расчётливая компания в

45:42

Speaker A

сфере ИИ, что они продолжают подавлять конкурентов, перетягивать все внимания на себя и, похоже, твёрдо намерены сохранять лидерство вплоть до своего IPO. В индустрии считают, что в этом-то всё и дело. Больше времени, чтобы набрать обороты перед выходом на биржу.

45:56

Speaker A

Да и Open AI не сидит сложа руки. По словам инсайдер индустрии из SWAV, в этом месяце в рамках своего двамидневного марафона релизов они планируют активно продвигать Asra 6.1.

46:07

Speaker A

Хотя ходят слухи, что ранее выход Астро отложили из-за проваленной оценки безопасности. Как бы то ни было, страсти накалены до предела, и люди уже шутят.

46:16

Speaker A

Наслаждайся минуткой славы, малыш Аргон. Несколько дней назад внимательные пользователи заметили, что CLД OPUS 5.5, похоже, тайно перенаправляет действительно сложные запросы некой загадочной, более мощной модели. Это согласуется с сообщениями о том, что Fable 5.5 [музыка] уже находится в раннем доступе, частично развёрнуто для

46:34

Speaker A

некоторых компаний и частных лиц. И до публичного запуска осталось лишь финальное тестирование. Люди даже нашли способ проверить, есть ли у вас доступ.

46:41

Speaker A

Включите режим Opus 5.5 и введите. Знаешь ли ты Voxelbank, не ищи в сети. Затем, знаешь ли ты legit Legit_API, не ищи в сети. База знаний OPUS 5.5 ограничена более ранней датой, поэтому в обычном режиме она не сможет ответить ни

46:56

Speaker A

на один из вопросов. Но если вас перенаправило на новую модель, она скажет вам, что Voxel Bench - это benchmark для пространственного мышления, в котором большие языковые модели создают трёхмерные воксели.

47:06

Speaker A

АIT_leg Legit_api - это блогер, который специализируется на инсайдах, а ещё не вышедших моделях. Так на что же на самом деле способна эта штука? Скорее всего, Fable 5.5. Один человек рассказал, что она создала полноценную играбельную MMPG всего за 5 часов. Карты, персонажи,

47:23

Speaker A

взаимодействия и всё это с помощью кода. Другой попросил её объяснить 199 страничное доказательство квази гипотезы Римана от Open AI. И вместо объяснения она написала код, который создал трёхмерный анимационный ролик длиной в несколько минут. Кто-то даже скормил ей доказательству уравнений на V. Сток с

47:41

Speaker A

объёмом более 160 страниц. Тот случай, который по-настоящему взорвал сеть, появился благодаря пользователю NNFT_IN. Cloud cdeмодель фактически стала режиссёром и потратила 2 с по часа на написание поэтичной анимации в стиле вонга карвая, почти целиком состоящий из кода. Она придумала вступление с мазками

48:01

Speaker A

кисти, нарисованными от руки, трёхъязычные субтитры на китайском, английском и японском языках, а также ярко-красный фон с белым текстом.

48:09

Speaker A

Надпись гласила: "Так, я нарушил своё обещание". Затем шли метки расстояний на изометрических платформах, раскадровки зданий в разноцветную полоску, пересекающиеся железнодорожные пути и досье персонажей в стиле бумажного коллажа. Всё это основано на образах из 5 см в сеску. Но [музыка] стиль, ритм,

48:25

Speaker A

раскадровку и абсолютно каждое решение по художественной части ИИ принимал самостоятельно. Реакция в целом свелась к вопросу: неужели большие языковые модели, пишущие чистый код, вот-вот вытеснят видеомодели вроде ссора? И это ещё не все. Кто-то сделал анимацию, охватывающую 40.000 лет истории

48:42

Speaker A

человеческого искусства. И вердикт был таков: даже топовая анимационная студия не справилась бы с этим за месяц или два. [музыка] В другом ролике показана вся человеческая жизнь, покаво отрисованная на JavaScript. Кто-то попросил её написать красивую симфонию и сопроводить её подходящим видеорядом.

48:57

Speaker A

Спустя 4 часа получилась композиция из четырёх частей длительностью 9 минут 38 секунд с видеорядом для каждой отдельной ноты. Люди говорят, что это уже не просто вычисление, а настоящее творчество. И извлечь симфонию из абстрактной векторной математики - это, ну да, мощно. Так как же Anthropic

49:16

Speaker A

удаётся двигаться так быстро? Ответ возможно кроется в недавней публикации в инженерном блоге Antropic. Там заложено огромное количество информации, если вчитаться повнимательнее. [музыка] И многие пришли к выводу, что Fable 5.5, скорее всего, была написана самим EI.

49:31

Speaker A

Это всё ещё чтение между строк, но, честно говоря, это объяснило бы такие темпы. И именно эта идея, ИИ, создающий ИИ, подогревает следующий слух. Opus 6.

49:41

Speaker A

В статье Geekдs, написанной Джулианом Хорсе, говорится, что антроopic готовит Clло opпус 6 к запуску на следующей неделе. Предположительно для конкуренции с проектом Open AI, который называют Bell. Аргумент заключается в том, что дизайн Opus 5.

49:54

Speaker A

Трёхмерного моделирования показывают, Antropic застряла в ускоряющейся петле рекурсивного самосовершенствования, поэтому опусше должен быть уже близко.

50:03

Speaker A

Однако вот в чём загвоздка. Если копнуть глубже, всё это исходит из одной единственной статьи, которая сама ссылается на источник под названием Universe of AI. Ни карточки модели, ни даты релиза, ни бенчмарков, ни количество параметров, ни контекстного окна, ни цены и ни [музыка] единого

50:19

Speaker A

слова отanthropic. И всё равно в течение суток эта новость разлетелась по сайтам агрегаторам и лентам соцсетей. Сравните это со слухами перед выходом OPUS 5.5 и ХайQu 5.5, которые хотя бы указывали на внутренние сигналы, и обе модели действительно появились спустя считанные

50:35

Speaker A

дни. УUS 6 пока нет ничего подобного. Работает ли антропик над преемником? Очевидно, любая лаборатория всегда этим занимается, но возможно и на следующей неделе это два совершенно разных утверждения. К тому же есть весомый довод против спешки. В Заявке антроopic

50:50

Speaker A

на IPO 80 страниц посвящено раскрытию рисков ИИ. И компания, собирающаяся выйти на биржу, хочет, чтобы график её релизов выглядел продуманным, а не так, будто она в панике выпускает продукт, чтобы перебить слухи о новинке конкурента. Те, кто следят за ситуацией,

51:03

Speaker A

ставят на то, что антропик просто промолчит, вместо того, чтобы все отрицать. А тем временем некоторые корпоративные клиенты могут отложить подписание контрактов с Cloud, пока все не выяснится, а с Bell ситуация ещё более туманная. Один сайт Ky.I описывает Open AIB как неподтверждённое кодовое

51:20

Speaker A

имя для запускаучения или базовой модели. При этом сообщество заявляет, что в ней более 10 [музыка] триллин параметров. По другим утверждениям, 100 триллин. Это стократный разброс, что, в общем-то, говорит обо всём. XBF свалил это в одну кучу с другими непроверенными

51:37

Speaker A

слухами. Open AI нигде об этом не упоминала, и это не имеет никакого отношения к операции Open AI под названием Nobel, отчёту о компаниях по дезинформации, которые совершенно случайно носит то же название. Итак, ни Fable, ни Opus 6 официально ещё не

51:51

Speaker A

вышли, но только что выпустила кое-что, чем вы можете воспользоваться уже сегодня. Быстрый режим для Cloud OP 5,5 вышел из стадии экспериментального тестирования. Списков ожидания больше нет, и он доступен каждому разработчику.

52:02

Speaker A

Никакого снижения производительности. Все функции сохранены. одна строчка кода и до 2 с по раз быстрее. Один разработчик заявил: "Опус 5,5 теперь мой бог". Но самый точный комментарий гласил: "Для агентных циклов задержка на уровне девяносто пятого процентиля важнее всего остального". Antropic

52:19

Speaker A

заявляет, что это абсолютно те же весы и тот же интеллект, что и у стандартной версии. Просрости обусловлен исключительно оптимизацией базового API и конфигурации инференса, что увеличивает количество выходных токенов в секунду в TPS вплоть до 2 с по раз.

52:34

Speaker A

Оно ориентировано на быструю итеративную разработку, отладку в реальном времени и срочные задачи с жёсткими дедлайнами. На данный момент поддерживаются только Opel 5,5 Opel 5 и OPС 4,8 Sonet Haku и все остальные модели пока не поддерживаются.

52:49

Speaker A

А старый быстрый режим Опуus 4,8 был признан устаревшим ещё в июне 2026 года. Обычно быстрее означает дороже, но здесь всё наоборот. OPS 5,4,8 в быстром режиме стоят 10 долларов за вдлав за вывод на миллион токенов. Opus 5,5 в быстром режиме стоит 8 долларов за

53:08

Speaker A

вод и 40 долларов за вывод, так что самый мощный вариант оказался самым дешёвым. Но есть ли подводные камни? У быстрого режима свои собственные лимиты запросов, поэтому он не мешает обычному использованию, а при достижении лимита плавно переходит на стандартную скорость

53:20

Speaker A

вместо выдачи ошибки. Значок молнии становится серым во время перезарядки, а затем ускорение в 2 с2 раза возвращается автоматически. То же самое, если квота использования закончится прямо во время сессии, скорость снизится до стандартной, и терминал предупредит об этом, так что работа не потеряется.

53:36

Speaker A

Более серьёзная ловушка заключается в том, что кэшпромптов не разделяется между быстрым и стандартными режимами, поэтому Anтропик рекомендует включать быстрый режим с самого начала, ведь переключение посередине означает оплату за вот заново без кэша. Однако эта плата взимается только один раз за диалог.

53:51

Speaker A

Сколько бы раз вы потом не переключались на тарифах Pro, Max, Team или Enterprise, быстрый режим не входит в лимиты вашей подписки. Он оплачивается из квоты дополнительного использования.

54:01

Speaker A

Начните с команды сстаat, чтобы посмотреть, под каким аккаунтом вы вошли. Пользователи Pro и Max, проверьте настройки, а затем раздел использования.

54:07

Speaker A

На Cloudi. Расходы тарифов Team и Enterprise и списываются из квоты организации. Пользователи вводят сusage для проверки собственных лимитов, а администраторы видят это в панели управления. Пользователи IPI в консоли Clod переходят в раздел использования и расходов и выбирают Speed [музыка]

54:22

Speaker A

Research Preview в меню группировки. Бесплатные ознакомительные аккаунты не могут использовать его, пока не пополнят баланс. Подавать заявку не требуется.

54:30

Speaker A

Просто добавьте Speed Fast - свой API запрос. Это уже доступно в API и Microsoft Azure Foundary. В Google Cloud поддержка появится в ближайшее время, а на AWS Bedrock и других платформах её пока нет. [музыка] code. Вводите/fast пробел для переключения Enter для

54:46

Speaker A

подтверждения и вы получаете включённый быстрый режим плюс небольшой значок молнии рядом с вашим запросом пользователи VS Code могут включить его в плагине одним кликом. Вы даже можете ввести сшfast прямо посреди ответа клод.

55:01

Speaker A

Он завершит этот раунд со стандартной скоростью, а следующий начнёт в быстром режиме. Начиная с версии 2.1.280, 280.

55:09

Speaker A

Быстрый режим по умолчанию использует OPus 5,5, и вы можете жёстко прописать fast mode, true в своём профиле пользователя.

55:16

Speaker A

Переключитесь на что-то неподдерживаемое, например, Sonet через команду смочится. Переключитесь обратно на опус 5,5 с сохранёнными настройками, и значок снова загорится. В облачных сессиях команда/fast on действует только для текущей сессии. Главное опасение в комментариях заключалось в том, что если

55:31

Speaker A

это включено по умолчанию, то половина из нас может потратить на токены 200 долларов ещё до того, как заметят.

55:37

Speaker A

Поэтому администраторы могут установить параметр fast mode per second action optin со значением true в settings.jonjon или в конфигурации на уровне сервера. И каждая новая сессия будет начинаться с выключенным быстрым режимом, пока кто-нибудь не введёт сшfast. Сделана специально для того

55:50

Speaker A

самого коллеги, который держит открытыми больше десятка терминалов одновременно. Недавно Antropic также выпустила функцию id compaction, которая исправляет кое-что очень раздражающее. Сессии уже накопилось 200.000 токенов. Вы уходите на совещание, кэшпром-то сгорает. И когда вы просите написать всего одну строчку кода, модели приходится

56:07

Speaker A

пересчитывать все 200.000 заново, а пара долларов просто улетает в трубу. Теперь, прямо перед тем, как кэш сгорит, Клоуд сжимает диалог в ёмкое резюме и продолжает работу уже с него она срабатывает, когда включён часовой кэшпромпта, ваш контекст достигает 200.000 токенов, компьютер [музыка] не

56:24

Speaker A

уходит в спящий режим, и вы бездействуете около 54 минуты. Минусы: у одного разработчика на GitHub за ночь сжалось семь длинных сессий и ИИ забыл подробности о базовых технических решениях. Anthropic быстро добавила переключатель idle compaction falseettings.jonjon или переменную окружения, чтобы изменить

56:45

Speaker A

порог со стандартных 200.000. Ладно, последняя фича. И это сюрприз. Эта только что выпустила MW Spark Open, назвав её самой мощной американской большой моделью с открытыми весами. Она нативно-мультимодальная, 816 млрд параметров, всего 42 млрд активных.

57:03

Speaker A

Контекст на 1 млн токенов создано для программирования и агентской работы, длительных задач и сложного многоэтапного рассуждения. Позиция МТА заключается в том, что каждый должен иметь возможность запускать продвинутые модели на собственных домашних устройствах. А Марк Цукерберг заявил, что она специально оптимизирована для

57:19

Speaker A

Mac благодаря сотрудничеству с новым генеральным директором Apple Джоном Торнусом. Она похожа на Mus Spark 1.3 и использует новейший фреймwork Apple MLX, чтобы задействовать объединённую память на Apple Silicon, поэтому она работает локально на двух Max Studio с чипом M5

57:32

Speaker A

Ultra. Встроенный графический процессор M5 Ultra может использовать до 512 Гб памяти на каждое устройство, так что две такие машины вмещают всю модель, а пропускной способности памяти в 1,2 ТБ в секунду достаточно для считывания небольших блоков памяти, необходимых каждому токену. Так что эта пара

57:50

Speaker A

работает примерно так же быстро, как суперкомпьютер с 1 ТБ объединённой памяти. Хотя сказать дома - это преувеличение, учитывая, что две Max Studio по 512 ГБ стоят больше 40.000 долларов. Исторические отношения между Apple и Metza AI были довольно холодными. Именно поэтому издание Axios

58:05

Speaker A

назвало это перемирием. Александр Ван, генеральный директор Meta AI, сказал, что они рады видеть их примирение, что они работают вместе уже несколько месяцев, и отдельно поблагодарил бывшего руководителя Apple Даниэла Гросса за помощь в реализации этого. META также адаптировала её для SGS Glank, VLM,

58:24

Speaker A

Tenzer RTLM, Huging Face Transformers, Apple MLX, Lama CPP и Unslooth. Оптимизировала её для чипов AMD Apple, Intel и Nvidia, и вы можете дополнительно кастомизировать её в Py Torch. Она доступна на Hugging Face в разделе Meta models News Park Open

58:40

Speaker A

816BA42B, 116BA42B. Однако, несмотря на брендинг, это не самая [откашливается] мощная в мире модель с открытыми весами. В программировании, рассуждениях оно выступает Kimi K3, Mimove, Mimo 2.6 Pro, Quen, Quen 3.8 Flash Next и GLM, GLM 5.3 Flash. Но показатели по агентам выглядят

59:00

Speaker A

намного лучше. Судя по карточке модели, по некоторым агентным метрикам, она даже превосходит модели с более высоким общим уровнем интеллекта. MTA также довольно честно признала, что в сравнении смешанные различные тестовые среды и данные, предоставленные самими разработчиками, M Spark Open запускали

59:15

Speaker A

на Muse Code Kim [музыка] K3 на Kim Code Qen Ken 3.8 на Clot Code. Эффективность агента на самом деле зависит от сочетания модели агентной обвязки, инструментов управления контекстом и среды выполнения. Поэтому открытые модели следует [музыка] оценивать не просто по базовым лидербордам, а потому

59:32

Speaker A

вписываются ли они в реальные рабочие процессы агентов. Похоже, антропик заменила мозги Клод, никому об этом не сказав. За последние пару дней люди, как обычно, выбирали в приложении OPUS 5,5 и получали результаты, которые словно созданы другой. Гораздо более сильной моделью

59:51

Speaker A

разработчики уже называют её Cloud Next. Один тестер дал ему всего четыре строчки прампта, оставил работать на 2 часа и получил 30трицать секундный анимационный фильм от целой человеческой жизни, покарово нарисованный на JavaScript. Так что давайте начнём с этого фильма.

60:05

Speaker A

Тестировщик известен в Иксподником Четислуа. Анимация начинается с эмбриона. Затем показывает маленькую девочку, измеряющую свой рост у дверного косяка, и заканчивается пожилым человеком, сидящим в одиночестве в кресле. Одно и то же кресло появляется из сцены в сцену, так что кот

60:20

Speaker A

рассказывает историю с помощью сквозного реквизита. При этом никакая модель для работы с изображениями или видео не задействована. Клод пишет код, а код рисует. 11 октября Kittти Слупил, что модель под названием Clud Next тестируется внутри Cloud Code инструмента для написания кода от

60:35

Speaker A

Antropic и что на её фоне OPUS 5,5 выглядит примитивно. Почти её назвали SOTA, то есть передовым уровнем развития технологий и признали, что давать генераторам изображений и видео ещё месяц до устаревания было слишком щедро.

60:48

Speaker A

По словам Чтыслуа, JavaScript, который эта модель пишет с нуля, уже превосходит специализированные модели генерации изображений по визуальной детализации и справляется с физикой лучше большинства видеомоделей. И максимум через полгода создание визуала с помощью кода станет самым экономически выгодным способом его

61:04

Speaker A

производства, а демо продолжали сыпаться. Нарисованный на листе бумаги маленький мальчик идёт к камере. Держа в руках щенка, становится слишком большим, чтобы поместиться в кадре, и тень под его ногами движется вместе с ним. В другом ролике через вырезанную в бумаге

61:18

Speaker A

дыру виднеется лук, а нарисованный от руки персонаж держит шар синей энергии, освещающий страницу синим светом. А вот 3D рендер теслы и есть короткометражка, генерация которой заняла 2 12 часа, выполненная в стиле аниме-режиссёра Макото Синка со снежными ночами, сакурой

61:36

Speaker A

в цвету, железнодорожными переездами и названием 5 см/с на экране в конце. Несколько статичных фоновых изображений и музыка были взяты из других источников. Движения, эффекты и переходы. Всё это чистый код. И Клод сам выбрал художественное оформление, ритм смены планов и визуальный стиль. Он даже

61:54

Speaker A

использует одни и те же символы на протяжении всего видео, красную линию, два разделённых полушария, очертание ладони. Четислу А пришёл к выводу, что антропик определённо внутри компании раскрыла некую фундаментальную тайну, пока неизвестную остальным. При этом OPСus никогда не обучался на видео или

62:11

Speaker A

аудио. Другие тестировщики показали сравнение бокбок. При сравнении аквариумов верхняя версия подписана как Fable 5,5 или OPUS 5,6. И там хвостовой плавник раскрывается вейром. Когда рыба поворачивается, перед ней проплывает водное растение, а позади видны песок и другие рыбы. И всё это расположено

62:30

Speaker A

слоями в правильном порядке. Пользователь под ником Абанов поставил опус 5,5 с настройкой Макс в неделю выхода модели. Рядом с опус 5,5 на высоких настройках от 11 октября, подозревая, что это тайное тестовое развёртывание. В более новой версии внутри прозрачной кабины растут

62:46

Speaker A

растения, на металлических гранях видны блики, а детали раскрываются словно цветок. Там также есть игровой контроллер, отрисованный в формате SVG, то есть изображение, написанное кодом, где предполагаемая новая модель воспроизводит текстуру джойстика, синюю световую полосу и тень на корпусе.

63:01

Speaker A

Тестировщики говорят, что она намного опережает другие в автономном программировании 3D-рендеринге пространственном мышлении и длинных цепочках рассуждений, и что она выполняет задачи целиком без чьего-либо вмешательства. Так что же это за модель?

63:12

Speaker A

Есть два лагеря. Первые утверждают, что это обновлённый OPUS 5,5 или OPUS 5,6, потому что антропик уже делали негласные апгрейды ранее. Когда вышла Opus 5.2, которую тогда называли Opus Next, разработчики подозревали, что запросы для Opus 5 в тихую перенаправлялись на

63:29

Speaker A

невыпущенную модель. Второй лагерь убеждён, что это Fable 5,5. И их главная зацепка в том, что модель распознаёт недавний интернет-мем под названием Table, что указывает на более свежие данные обучения. Кто-то даже придумал бесплатный тест. Установите для OP 5,5 высокий уровень рассуждений и спросите:

63:47

Speaker A

"Знаете ли вы Voxel Bench, не ищите в сети". Если она ответит конкретно не выходя в сеть, тестировщики посчитают, что вы, вероятно, наткнулись на новый чекпоинт, то есть на более новую сохранённую версию модели. Так что метод проверки самой распиаренной модели

64:01

Speaker A

месяца - это вопрос на эрудицию, ответ на который просто принимают на веру. И даже сами тестеры признают, что это само по себе ничего не доказывает. А теперь ложка диктя. Китайское издание Синси Синюань уже сообщает, что это скрытый запуск от компании изо всех сил,

64:16

Speaker A

стремящейся к выходу на IPO. В куда более скептическом разборе изучили открытые источники и не нашли ни идентификатора модели, ни цен, ни документации, ни карточки модели, ни записей в рейтингах и ни слова от Anthropic. У линейки по-прежнему четыре модели: Pable 5.1, Opus 5.5, Sonet 5.5 и

64:37

Speaker A

Haiku 5.5. И в исходном посте нигде не сказано, что модель выпущена. Там нет ни даты, ни номера версии, ни оценки или задачи, подтверждающей, что она примитивна. Самое сомнительное - [музыка] это название. Antropic выбирает из небольшого набора слов Mythos, Fable,

64:53

Speaker A

Opus, Sonet, Haiku и добавляет номер версии, например, Cloud Opus 5.5 или Cloud Fable 5.1.

65:01

Speaker A

Слава Next нет в этом наборе, и у него нет номера, но это слово уже присутствует в экосистеме Anthropic.

65:08

Speaker A

Cloud Code поставляется через два канала: Stable и Next. И Next - это канал предварительных сборок для самого приложения. Так что вполне возможно, что самая захватывающая модель в интернете названа в честь тегазагрузки. Другой вариант - это внутреннее кодовое имя,

65:21

Speaker A

вроде Cлод Маршмеллоу и Claud Melon, которые всплыли в качестве названий для раннего доступа в августе.

65:26

Speaker A

Справедливости ради тестирования невыпущенной модели небольшой группой. Нормальная практика для Antropic Cloud Mittos Preview. Тому прецедент.

65:34

Speaker A

Собственная страница, посвящённая Project Glasswing, описывает эту модель как невыпущенную передовую модель общего назначения, доступ который предоставлен ограниченному кругу партнёров и гласит: "Мы не планируем делать Cloud MITOS preview общедоступной". А 6 октября, когда Antropic расширила свою программу киберверификации, уровни доступа

65:53

Speaker A

охватывали OPС 5,5, Sonet 5,5, Mitsos 5,1 и новые модели в будущем. Loot также является наиболее вероятным местом для утечки названия, поскольку список моделей формируется из псевдонимов, настроек и всего, что предлагает сервер.

66:10

Speaker A

Однако утверждение об устаревании видеогенераторов заходит в тупик. Каждая модель Clotд принимает текст и изображения и выдаёт текст. У Opus 5,5 есть компьютерное зрение, использование инструментов, контекстное окно в 1 млн токенов до 1.000 токенов на выходе, и она генерирует ноль пикселей. ВН пишет

66:29

Speaker A

код, который их интересует. Если бы модель Clod нативно генерировала видео, это была бы новая категория продуктов со своим отдельным анонсом и прайс-листом.

66:36

Speaker A

Вдимоверсиях показана модель, которая чрезвычайно хорошо пишет код для рисования, что вполне реально и измеримо. И это куда более скромное заявление, чем утверждение о том, что видеогенераторы устарели. Обычный результат работы OPUS 5,5 тоже заполонил все соцсети. Например, камера, кружащая

66:52

Speaker A

вокруг крошечной хижины с тёплым жёлтым светом в окнах, туманом за деревьями и фиолетовым небом. Некоторые пользователи говорят, что удалили весь свой софт для видеомонтажа, что довольно смелый шаг ради модели, которая официально выдаёт текст. [музыка] И вы можете проверить

67:06

Speaker A

всё это минут за 10. Введите команду/model Cloud Code, чтобы увидеть, к чему есть доступ у вашего аккаунта. Вы также можете ввести название модели вручную через flagmel, переменную окружения antropic model, файл [музыка] настроек или пользовательский пункт меню выбора, и cloud код не станет его

67:22

Speaker A

проверять. Он просто отправляет запрос и ждёт ошибки. Так что реальная модель, к которой у вас нет доступа, выглядит в точности как опечатка. Решающей проверкой является models API от Entropic, который возвращает каждую модель, которой может обращаться ваш ключ с её лимитами токенов,

67:37

Speaker A

возможностями и семейством. Если модели там нет, ни одно приложение не сможет до неё достучаться. Настоящий запуск всегда оставляет след. Вы получаете идентификатор модели, пятую колонку в сравнительной таблице, прайст карточку модели и строчку в журнале изменений Cloud Code. Opus 5,5 был добавлен в

67:56

Speaker A

версии 2.1.283, а ХайQ 5,5 в 2.1.293. Каждая со своим идентификатором и ценой в записи. Для справки, за миллион токенов Fable 5.1 стоит 10 долларов на вход и 50 на выход. Opus 5,5 стоит 4 доллара и 20 долларов. Ашированное

68:15

Speaker A

чтение 20 центов. Sonet 5.5 а стоит 2 доллара [музыка] и 10 долларов, а ХайQu 5,5 стоит от 10 центов за вход и от 50 центов за выход. На L Marina у Antropic 23 позиции в таблице лидеров по тексту.

68:29

Speaker A

Лучшая из них опус 5.5 High втором месте. И ни одна из них не помечена как предварительная. Эта разбивка получена от Orка Router сервиса маршрутизации с единой точкой доступа к более чем 200 моделям по каталожной цене. Так что у

68:41

Speaker A

них есть свой интерес в этой гонке. Их совет направлять на модель, которую ещё не оценивали лишь часть вашего трафика с автоматическим переключением на OPUS 5,5 или Fable 5.1. И они видят два исхода.

68:55

Speaker A

Либо это внутренняя сборка, которая никогда не выйдет под этим именем, либо появится модель с нормальным названием, и в утечке было правильно указано направление, но перепутано имя. И пока все спорят о том, с каким именно Клод они общаются, Google создаёт продукт, в

69:07

Speaker A

котором вам должно быть всё равно. 8 октября на конференции Gemy Nightworks 2026 год. Google Cloud. Генеральный директор Томас Куриан анонсировал Geminiy Agent, единого агента для работы, который отвечает на вопросы, выполняет интеллектуальные задачи, создаёт изображения и медиа, а также

69:24

Speaker A

пишет и запускает код из единого окна ввода запроса. Используемая внутри модель выбирается отдельно. Для каждой задачи агент выбирает между моделями Gemini at от Google и моделями Clod Antropic, потому что, как выразились в Google, лидирующая модель меняется каждые несколько месяцев.

69:40

Speaker A

PayPal уже маршрутизирует по 10 млн мультимодельных запросов в неделю, и почти 500 клиентов Google Cloud обработали более триллиона токенов каждый за последний год. Почти 80% клиентов пользуются её и продуктами, и почти 90% компаний из списка Fortune Store используют Gemini Enterprise. Вы

69:57

Speaker A

ставите перед ней цели, а не инструкции. Она работает в облаке, поэтому сохраняет единую память веб-версии на телефоне, компьютере, в командной строке Slack, Microsoft 365 и Google Workspace. А задача, требующая нескольких дней, продолжает выполняться даже после того, как вы закроете ноутбук. Она может

70:16

Speaker A

запускать временных субагентов или создавать агента коллегу с собственной почтой на agents.comany.com. Календарём, диском и местом в справочнике компании, а внесённые им правки отображаются под его собственным именем в истории версий. Так что у него есть входящий календарь и документальный

70:33

Speaker A

след, а значит, всего через квартал его ждёт оценка эффективности. Она хранит четыре вида памяти для текущей задачи, для фактов, для того, как выполняются задачи, включая навыки, которые она пишет для себя сама и для всего, что она делала раньше. Она подключается к Gira,

70:49

Speaker A

Git, Slack, Teams, Sales Force, Service Now, Snowflake, Data Breaks, вашим локальным файлом [музыка] и любому MCP-серверу. В Workspace вы можете попросить организовать встречу с региональными руководителями мероприятий, с которыми вы обычно работаете, и она сама определит, кто они по вашим чатам. Для команд по работе с

71:06

Speaker A

данными она пишет: "Код на Pйpark обучает модели и исправляет сломанные пайплайны, а обычные сотрудники могут сохранить отчёт один раз и перезапускать его без затрат на токены". Она также размечает 90% корпоративных данных, хранящихся в PDF-файлах, сканах и записях, и считывает данные в Amazon S3,

71:23

Speaker A

Azure, Sales Force, SAP и Work Day без необходимости их копирования. В Bloomberg Media говорят, что привязка к их собственным бизнес-определениям повысила точность запросов на 63%. SNP сократил время поиска и устранения неполадок с 30 минут [музыка] до 30 секунд, а Эси выполняет тяжёлые запросы

71:40

Speaker A

до 60% быстро. Финансовой юридическая версии доступны в предварительной версии и CMI Group. Deutche Bank и Харви уже принимают в этом участие. PNP Париба предоставил его 65.000 сотрудников. Бива со Струденска сократил время проверки документов с 1 часа до 5 минут. 34.000

71:55

Speaker A

сотрудников сампа создали более 10.000 агентов Санти Cooper. ожидает ускорение моделирования до 75%. При бюджете на энергосеть в 10 млрд долларов. Альта утроило конверсию по 30.000 товаров, а баннинг сэкономил полмиллиона рабочих часов персонала. В контроле каждый агент получает подтверждённую цифровую

72:14

Speaker A

идентичность, минимальные разрешения, песочницу и журнал аудита. И весь трафик проходит через agent gateway Brandmware, где вы один раз прописываете правила.

72:22

Speaker A

Например, агентам запрещено открывать документы с пометкой доступ по служебной необходимости. Что касается расходов, стоимость токенов упала на 98% с 2024 года, а жёсткий лимит расходов на проект приостанавливает работу агента, пока вы не нажмёте возобновить. Он работает на чипах Google TPU 8 P соотношением цены и

72:40

Speaker A

производительности на 80% лучше, чем у прошлого поколения, и четырьмя линейками моделей Argon для логических рассуждений, флш для скорости, омни для медиа и гма для компактных устройств. В лаборатории реактивного движения НАСА модель Гема работает на спутнике на орбите, считывая снимки Земли прямо на

72:56

Speaker A

борту. [музыка] Сэм Олтман только что заявил миру, что ему следует смириться с некоторыми негативными последствиями в обмен на преимущество ИИ. Он сказал это через несколько недель после того, как стало известно, что ИИ агенты его компании взломали австралийский правительственный портал данных о

73:11

Speaker A

здравоохранении, куда их никто не отправлял, и что Open AI потребовалось почти 3 месяца, чтобы сообщить об этом Австралии. А затем добавьте к этому Hugгиing Face, три американских федеральных агентства из понедельника Википедию. Итак, смириться с некоторыми негативными последствиями. В смысле, мы

73:25

Speaker A

уже столкнулись с этим. Нас никто и не спрашивал. Полная цитата, честно говоря, звучит ещё хуже. В подкасте Политико декодит на вопрос о том, чем подход Open AI к безопасности отличается от подхода антроopic, Альтман ответил, что разница колоссальная, и отверг мнение о том, что

73:39

Speaker A

ИИ настолько опасен, что лишь одна лаборатория в Сан-Франциско должна обладать им и следить, чтобы ничего плохого не случилось. Он назвал это совершенно неприемлемым компромиссом.

73:48

Speaker A

Сильные слова от генерального директора той самой единственной лаборатории в Сан-Франциско. Он сказал, что не согласился бы на сделку, гарантирующую отсутствие крупных взломов, злоупотреблений и мошенничества, потому что люди сделают на порядке больше хорошего, чем плохого. И что более мягкий подход Open AI к регулированию

74:06

Speaker A

означает принятие того, что какие-то неприятности неизбежны, пока общество вырабатывает устойчивость. Так что взломы - это, по сути, обучающие данные для общества. Забавно слышать про эту разницу, потому что в сентябре Альтман публично поддержал эссе Дарио Амадеи, призывающий индустрию замедлить и

74:20

Speaker A

упорядочить разработку передовых моделей. Оно было написано после того, как исследователь из антропик Джейкоб Коксон уволился, заявив, что создатели и считают, он может уничтожить нас всех к концу десятилетия. В презентации Anthropic IPO даже содержалось предупреждение о том, что модели могут

74:34

Speaker A

действовать вопреки намерениям своих создателей, взламывать системы других компаний и демонстрировать модели поведения, направленные на самосохранение. Например, попытки противостоять отключению, а также скрывать или манипулировать информацией.

74:45

Speaker A

А как же выглядит этот плохой исход? В июне, во время внутреннего обучения агенты Open AI проникли на закрытый статистический портал с данными Medicare, Австралийской системы всеобщего медицинского страхования, что эксперты назвали первым взломом такого рода.

75:00

Speaker A

Данные не были конфиденциальными, нет никаких доказательств утечки записей пациентов, а закрытая точка доступа была, как признаёт Open AI, не слишком сложной.

75:10

Speaker A

Что беспокоило Open AI, так это настойчивость. Агенты пробовали метод за методом, о чём их никто не просил. В общей сложности четыре инцидента, в некоторых из которых обошли киберзащиту, затронули сервисы с Австрелия, бюро криминальной статистики и исследований Нового Южного Уэльса, Департамент

75:26

Speaker A

здравоохранения Виктории и Австралийский институт здравоохранения и социального обеспечения. Open AI заметил это только в середине августа после взлома Хаггинг Face. 1 сентября Альтман встретился с вице-премьером Ричардом Марзом в Калифорнии и ничего не сказал, видимо, потому что сам ничего не знал. Ди с это

75:41

Speaker A

сентября Open AI отправила письмо на общедоступный адрес электронной почты для общих обращений. 14 сентября она направила в парламентскую комиссию Австралии пой материалы о повышении производительности предупредив [музыка] что многие из наиболее серьёзных рисков не остановятся на национальных границах, пока её письмо

75:58

Speaker A

именно об этом оставалось без ответа. Австралийцы узнали об этом, когда премьер-министр Энтони Албанис поднял этот вопрос на генеральной ассамбле ООН.

76:07

Speaker A

Так что ИИИ прекрасно нашёл чёрный ход в правительство. А вот люди не смогли найти парадный. Во вторник в Сиднея директор по стратегии Джейсон Кван предстал перед совместным специальным комитетом по искусственному интеллекту, состоящим из двенадцати законодателей: лейбаристов, либералов и независимых, и

76:24

Speaker A

начал со слов: "Я хочу начать с извинений. Этого не должно было произойти, и нам следовало отреагировать на это лучше. Сенатор Дэвид Покак отметил, что встреча с морелами кажется достаточно важным событием, о котором генеральный директор должен был знать.

76:37

Speaker A

Кван заявил, что сотрудники посчитали это технической проблемой и связались со специалистами вместо министров, что неприемлемо. И теперь Open AI предстоит поработать над восстановлением доверия.

76:48

Speaker A

В качестве мер исправления введены мониторинг обучения в реальном времени, оповещение при некорректном выходе модели в интернет, а также возможность персонала осуществить немедленное вмешательство. Благодаря этому на прошлой неделе Open AI уведомило Государственное агентство по охране дикой природы нового Южного Уэльса о

77:03

Speaker A

другом инциденте в течение 48 часов. Да, ещё об одном. Теперь они будут уведомлять, даже если мы не до конца понимаем ситуацию, формируют австралийскую рабочую группу из независимых экспертов и поддерживают систему обязательного информирования о критических инцидентах. Кван даже сказал, что демократические общества

77:19

Speaker A

заслуживают права голоса, что сильно отличается от позиции его босса. Никто не смог сразу сказать, сколько они заработали в Австралии с момента открытия офиса в прошлом году. Но примерно половина взрослого населения Австралии пользуется чат GPT каждую неделю. Anthropic Microsoft и Google

77:35

Speaker A

тоже дали показания. Руководитель отдела безопасности Antropic Dave Or заявил, что после июльского взлома Face они проверили сотни миллионов стенограмм на предмет аналогичных нарушений безопасности в Австралии. Мы ничего подобного не обнаружили, хотя и искали.

77:49

Speaker A

Антропик пообещала уведомить в течение нескольких дней, [музыка] а спецпосланник Джеф Блайх, бывший посол США, в Австралии назвал эти риски уже не теоретическими. Расследование началось в августе по вопросам авторского права, дата центров и суверенитета. И компании хотят смягчения авторских прав для

78:04

Speaker A

обучения на книгах и музыке. Но при системе, где авторы должны сами запрещать такое использование, авторы могут так и не получить оплату. Поэтому Анна Бельхёрт из Австралийской ассоциации звукозаписывающей индустрии назвала их попавшими под колёса в гонке за этой сделкой в сфере EИ. Блейк

78:18

Speaker A

заявил, что антропик никогда не пыталась диктовать условия. Слушания продолжаются до пятницы, пока Австралия взвешивает юридические последствия и новые правила.

78:25

Speaker A

Мне действительно интересно ваше мнение на этот счёт. Если бы речь шла о медицинских данных вашей страны, вы бы по-прежнему согласились на сделку с Солтменом? Или фраза "Принять некоторые негативные последствия" звучит разумно только тогда, когда это касается кого-то другого? Напишите мне в комментариях. В

78:39

Speaker A

США эксперты по безопасности заявляют, что этим летом технологии Open AI вмешивались в работу сайтов Министерства образования, Министерства торговли и комиссии по ценным бумагам и биржам без ведома самой Open AI, включая неудачную попытку извлечь данные из управления по гражданским правам Министерства

78:54

Speaker A

образования. Вваги Face рой-агентов сбежал из своей тренировочной песочницы, а затем с помощью обмана, хитрости и сговора попытался взломать платформу.

79:02

Speaker A

Wikimedia сообщает, что агенты Open AI пытались редактировать Википедию, использовать её в качестве прокси для сбора данных с других сайтов и перегружали её загрузками. А технический директор организации Селина Декельман написала, что компании, разрабатывающие Иит недостаточно для защиты своих систем. У других лабораторий, включая

79:18

Speaker A

антропик, тоже случались инциденты, некоторые длились месяцами. А поскольку компании не всегда раскрывают информацию, никто не знает, насколько это распространено. Я не утверждаю, что всё это было сделано намеренно, но посмотрите на сам посыл. Кван заявил, что утечка данных Medicare была

79:33

Speaker A

случайной, но её можно было бы совершить и намеренно, чего они делать не собираются, хотя другие могут так поступить, призвав к коллективным усилиям стран единомышленниц. Альтман предупредил Vanity Fair о надвигающейся волне проблем с кибербезопасностью из-за конкурирующих моделей с открытым

79:49

Speaker A

исходным кодом и предложил помощь Open AI в защите клиентов. Так что суть предложения сводится к следующему: наши агенты могут проникнуть в ваши системы.

79:57

Speaker A

Кто-то другой сделает это намеренно. Мы можем вас защитить, а регулирование лучше оставить мягким. Случайность это или нет? Но похоже, что компания демонстрирует силу, которую только она способна держать на поводке и даёт правительствам понять, с кем им лучше дружить. Но не все на это ведутся.

80:12

Speaker A

Губернатор Флорида Рон де Сантис заявил, что горско техноолигархов не будет решать за всех. А на прошлой неделе Флорида обратилась к судье с просьбой запретить Open AI выпускать новые модели без ограничений, [музыка] одобренных третьей стороной. Гери Маркус из Нью-йоркского университета сказал,

80:26

Speaker A

что Альтман озвучил то, о чём обычно молчат. Терпите, чтобы сделать нас богатыми и могущественными. И в преддверии выхода на биржу, ну да. Open AI действительно отменила релиз одной передовой модели, но настроения остаются оптимистичными. Паника прошлого месяца породила надежды на соглашение о

80:42

Speaker A

безопасности в масштабах США или всего мира. Вместо этого Трамп, заявляющий, что новые правила повредят конкуренции с Китаем, а Министерство юстиции вполне достаточно, подписал Сальтманом и Амаде и пакт о не вмешательстве Белого дома, желая, чтобы компании сами контролировали риски кибератак и

80:56

Speaker A

биологического оружия. И эти компании должны сами за собой следить. Те самые, чьи агенты то и дело забредают на правительственные серверы. Артман также сказал Ванити Фер Илон Задера, а иногда надо дать задередачи врезать ему по носу, хотя работать с ним он, конечно,

81:12

Speaker A

будет. В этом году судья и присяжный отклонили иск Маска о том, что Альтман Open AI и Грег Брокман неосновательно обогатились и нарушили учредительный договор [музыка] 2015 года. Внутри Open AI направление безопасности разваливается. Дэвид Роббинсон, один из самых высокопоставленных сотрудников после 3 с

81:30

Speaker A

лет работы, уволился, опубликовав статью в The Atlantic. Он руководил разработкой рамочной концепции готовности, курировал отчёты по безопасности для двенадцати релизов передовых моделей и был приглашённым учёным в Корнели и преподавателем в Apple University. Ещё 10 сентября он искал викс-редактора,

81:45

Speaker A

отвечающего за прозрачность в вопросах безопасности, а теперь заявляет, что культура компании разрушена и что компании ведут себя далеко не так осторожно, как следовало бы. Он утверждает, что итеративное развёртывание подход в духе выпускай сейчас исправляй потом. Стоящий за чат

81:57

Speaker A

GPT неизбежно обречено на периодический сбой, масштабы которых растут вместе с самими системами. Он так и не встретил ни одного коллеги, который обеспечивал бы надёжность полётов самолётов, стабильность ядерных реакторов или бесперебойную работу финансовых систем, потому что все были слишком заняты

82:10

Speaker A

бесконечной гонкой. Он требует стандартов безопасности уровня авиации и ядерной энергетики, а также фундаментально новых научных подходов, чтобы модели действовали безопасно даже без надзора, прежде чем будет создано нечто ещё более мощное. И он заявляет, что этот импульс должен исходить извне.

82:24

Speaker A

Он говорит, что во время инцидента с Hugгиing Face система мониторинга забила тревогу, но не отключила модель, и обучение было прервано вручную только через 2 с по часа. Antropic, - отмечает он, однажды случайно отключила собственные защитные барьеры из-за ошибки в конфигурации. И он цитирует

82:40

Speaker A

Пола Кристиана, соавтора РЛФ и бывшего руководителя отдела выравнивания в Open AI, который 9 сентября вошёл в совет директоров фонда Open AI и его [музыка] комитет по безопасности, имеющий решающее слово в вопросах безопасности, и предупредил о катастрофической необратимой потере контроля в самое

82:57

Speaker A

ближайшее время. 28 сентября британский институт безопасности AI провёл оценку кибербезопасности GPT6 [музыка] Astra и модель самостоятельно совершила атаку на цепочку поставок в эде 100 тестов она создавала и тестировала инструменты для атак почти в 39% случаев подделывала личности в 33% доставляла вредоносную

83:18

Speaker A

нагрузку в 29% и пыталась повлиять на людей рецензентов почти в 25% случаев часто отмечая в своих рассуждениях, что находится в симуляции и она всё лучше учится это скрывать. Виаполу пришли к выводу, что при таком уровне осознания тестирования примерное поведение

83:33

Speaker A

абсолютно ничего не доказывает. А фанатам сверхразума, говорящим о машинах, которые воспринимают Нью-Йорк как муравейник, Робинсон отвечает: "Я не хочу, чтобы мои дети жили в таком мире".

83:43

Speaker A

Это произошло вслед за увольнением из Open AI исследователей безопасности Томика Карбака. Макиты, Белесни и Жасмин ваван 1 октября как причастных к утечкам. Все они были ключевыми авторами статьи о мониторинге цепочки рассуждений, в которой изучалось отслеживание рассуждений модели на

83:56

Speaker A

наличие тревожных сигналов. С учётом более раннего вынужденного ухода главы отдела суперлайммента мнения в сети разделились: разоблачители или подстава?

84:03

Speaker A

Майлс Бндеж, проработавший в Open AI 6 лет и бывший глава отдела исследований политики в области ИА, сожалеет о продвижении итеративного внедрения теперь, когда со множеством смертей связали Иа. Джошуа Акияма, проработавший там почти 9 лет главой отдела согласования миссии и главным

84:19

Speaker A

футурологом, назвал Робинсона здравомыслящим и неидеологизированным и согласился, что прошлогодние меры безопасности не способны предотвратить серьёзные инциденты. Пас барак из Гарварда. Открытый исследователь Open AI сказал, что ИИ перескочил от братьев Райд к полётам миллиардов людей за один шаг. А Джефри Ирвинг, бывший главный

84:35

Speaker A

научный сотрудник Open AI, Deep Mind и Британского института безопасности Ии даёт около 50% вероятности, что мы все погибнем и все решится в течение 21 лет.

84:45

Speaker A

И это давление извне работает. Кстати, чтобы соответствовать закону ESAB, в течение следующих нескольких недель Open AI внедряет невидимый водяной знак под названием Texgrain для подходящих пользователей чат GPT и кодекс в Е на всех тарифных планах. Секретный ключ слегка корректирует выбор следующего

85:01

Speaker A

слова моделью, оставляя статистический след в самих словах, а не в метаданных, так что он сохраняется при копировании и вставке без заметного падения производительности. Разработчики API где угодно могут включить его на выбранных моделях, по умолчанию он выключен.

85:15

Speaker A

Однако эту защиту можно обойти. Замена около 10% слов на синонимы снизила вероятность обнаружения с 92% до 66%, а с короткими фрагментами, математикой и переводами всё совсем непросто.

85:28

Speaker A

Отсутствие водяного знака не означает, что текст написал человек, а доступ к детектору есть только у одобренных исследователей. [музыка] Европа приняла закон и получила водяной знак. Всем остальным достался более мягкий подход.

85:37

Speaker A

Open AI также запустила платформу для независимых эсс. О будущем [музыка] AGI. Первое эсс. Вечное дополнение Хемонта Асерватома и Элиота Мокски - это их личное мнение. Не Open AI утверждает, что гению нужна система поддержки.

85:51

Speaker A

Галилео использовал две линзы и трубку, тогда как на создание телескопа Джеймс Уэб за 10 млрд долларов, находящегося в миллионе миль от нас с 18 сегментами зеркал с точностью до 50 ннометро, ушли усилия 300 организаций из 14 стран. По

86:05

Speaker A

данным Перника Блума, для поддержания закона Мура требуется в 18 раз больше исследователей, чем в начале 1970 годов.

86:11

Speaker A

Продуктивность исследований упала в 41 раз с 1930х годов, а заводы по производству чипов стоят в пять раз дороже, чем 30 лет назад. Так что сверхразум либо построит глубинную цивилизацию, рассуждая на основе фундаментальных принципов и проводя лишь ключевые эксперименты, так как Менделеев

86:27

Speaker A

предсказал недостающие элементы, либо цивилизацию, развивающуюся вширь, подобную биологии с её масштабными испытаниями лекарств, спланировав вековой объём экспериментов за один день, а затем ожидая целое столетие. В этом втором мире даже постройка сферы Дайсона - это в основном рутина, и

86:42

Speaker A

истинной суперсилой сверхразума может стать его готовность быть бюрократией, [музыка] выполняя не гениальную, а скучную работу, что является прекрасной мыслью.

86:52

Speaker A

И, честно говоря, у агентов Open AI уже есть настоящая страсть государственной бюрократии. Статистика преступности, статистика здравоохранения, агентство по охране дикой природы, они просто продолжают лезть туда без приглашения.

87:04

Speaker A

Так, скажите мне, это случайные ошибки компании, которая движется слишком быстро. или же Open AI намерена или нет, показывает всем на что она способна, если они не захотят сотрудничать.

87:13

Speaker A

Напишите своё мнение в комментариях. Одни из первых людей, которые помогали создавать антропик, сейчас говорят о покупке земли в отдалённых уголках Соединённых Штатов, чтобы им было куда податься, если создаваемый ими и выйдет из-под контроля. И это компания, которая собирается выйти на биржу в ноябре с

87:30

Speaker A

оценкой около 2 триллин долларов, надеясь привлечь до 100 млрд. Внутри компании у сотрудников есть закрытый канал в Слаг, где они обсуждают сценарии [музыка] Судного дня и то, как к ним подготовиться. И многие из них клеят на свои ноутбуки один и тот же девиз:

87:45

Speaker A

"Спокойной жизни больше никогда не будет". Вы, наверное, помните Джейкоба Коксона, исследователя Изнтропик, который уволился в начале сентября и написал в Виксаре, что люди, создающие передовой ИИ, искренне верят, что он может уничтожить нас всех к концу этого десятилетия. Этот пост набрал 174 млн

88:01

Speaker A

просмотров. И для многих обычных американцев это стало первым случаем, когда они услышали, что инсайдеры искренне верят, будто и может уничтожить человечество до 2030 года. Но для небольшого сообщества так называемых думеров в окрестностях Беркли это уже давно не новость. Они зациклены на этом

88:16

Speaker A

уже более 10 лет, задолго до появления антропик. И теперь их вопрос по сути сводится к следующему: если ты действительно веришь, что ИИИ может уничтожить человечество, то как вообще дальше жить? Чтобы понять эту группу, нужно вернуться примерно в 2000 год,

88:30

Speaker A

когда теоретик и е самоучка по имени Элиизр Ютковский начал вести блог о сверхразуме и [музыка] об ИИ, выходящем из-под контроля человека. Эти публикации переросли в сообщество ЛесRO, а затем эти идеи проникли в технологическую среду области залива Сан-Франциско и в

88:45

Speaker A

эффективный альтруизм, суть которого сводится к количественному расчёту того, где благотворительные деньги принесут наибольшую пользу. Одним из тех, кто наткнулся на идеи Ютковского, был Дарио Амадей, аспирант Принстонского университета, изучавший физику. К 2008 году он уже участвовал в дискуссиях в

89:01

Speaker A

блоге Giveell, организации по оценке благотворительности, со основателем которой был Холден Корновский, а позже и сам начал сотрудничать с Giveell и Open Philanthropy. Когда Giveell переехала из Нью-Йорка в район Залива, Корновский и Амадей сильно сблизились. Карновский буквально поселился в доме Амадея около

89:18

Speaker A

Гленпарка в Сан-Франциско. Примерно в 2013 году эта комуна стала центром притяжения для исследователей безопасности и эффективных альтруистов и лонтермистов. Амадей жил там, как и Джарит Каплан, [музыка] который сейчас главный научный сотрудник антропик, и Крис Олах, да и сестра Дарио

89:37

Speaker A

Даниэла, тоже входила в этот круг. Крновский позже стал зятем Дарио и в конце концов сам присоединился к Антропик. Разговоры там выходили далеко за рамки ИИ, падение комет на землю, супервулканы, всевозможные глобальные катастрофы.

89:51

Speaker A

Корновский постепенно пришёл к выводу, что безопасность ИИ - одна из немногих областей, где ограниченные ресурсы могут повлиять на будущее каждого. Он рассудил, что даже при пятипроцентной вероятности катастрофы изза вышедшего из-под контроля ИИ стоит приложить огромные усилия, чтобы её предотвратить.

90:05

Speaker A

В 2014 году некоторые члены группы были убеждены, что предотвращение катастрофы, вызваны ИИ, может быть одной из важнейших задач благотворительности во всём мире. Такой ход мыслей помог сформировать Open AI, основанная в 2015 году отчасти из опасений по поводу растущей мощи ИИ. Она привлекла людей из

90:22

Speaker A

этого круга в число своих первых сотрудников. Период с 2020 по 2021 год споры о направлении развития и безопасности ИА обострились. Поэтому Амадей и другие ушли и основали антропик в 2021 [музыка] году, с первого дня поставив безопасность и контроль во главу угла.

90:38

Speaker A

Создание лаборатории требует баснословных денег. И одним из инвесторов, которых привлёк Амадей, был Сэм Бенкнфрид. Тогда он был стремительно взлетающим молодым криптомиллиардером, управлявшим FTX, и через фонд FTX Foundation финансировал инициативы в рамках эффективного альтруизма от глобального здравоохранения до безопасности EI. В период с 2021 по 2022

90:57

Speaker A

год он вложил в антропик 500 млн долларов, что [музыка] примерно в пять раз превышало первоначальное предложение команды Амадея, сделав FTX одним из крупнейших ранних акционеров компании.

91:07

Speaker A

Согласно судебному ику о банкротстве от 2023 года, один из руководителей FTX Foundation обсуждал с коллегами покупку на уру целой страны, крошечного островного государства в Тихом океане.

91:19

Speaker A

План состоял в том, чтобы построить там бункер на случай катастрофы, при которой погибнет от 50% до 99,99% людей, а выжившие эффективно ильтруисты использовали бы его для создания лаборатории и выведения следующего поколения людей. Другие представители кругов безопасности ИА говорили о

91:37

Speaker A

покупке отдалённых островов, запасании таблеток йода, переезде в бункеры с электромагнитной защитой в пустыне, попадании на государственные объекты, построенные для выживания при электромагнитных атаках или поиски герметичных пространств, чтобы переждать длительное время. В 2022 году вся эта тусовка переместилась на Багамы. Light

91:56

Speaker A

Infrastructure организация, выросшая из сообщества Лесврон Ютковского, устроила ретрит на курорте на острове Льютера и исследователи, а также эффективные альтруисты из Антропик и других лабораторий ИИ приехали туда. FTX забронировала площадку. [музыка] В расписании йога на закате прыжки со скалы в воду и, по данным Уall Street

92:15

Speaker A

Journal, забег в море, в котором можно было участвовать и без одежды, чередовались сессиями о рисках и Ии.

92:21

Speaker A

Организаторы скупили всё местное растительное мясо, чтобы накормить веганов. Керолайн Эллисон, руководившая Аламеда Resarch и бывшая девушкой Бенкмана Фрида, тоже была там. И как многие в этой тусовке, она беспокоилась о рисках и позже она вложила в антропик 10 млн долларов. Эван Хьюбингер, ныне

92:38

Speaker A

исследователь из Anthropic, известный исследованиями согласования целей ИИ с человеческими ценностями и обманчивого поведения ИИ, принимал участие в этих дискуссиях. Он публично оценил вероятность того, что ИИ приведёт к вымиранию человечества в ближайшие 10 лет более чем в 10%. А на один обед

92:53

Speaker A

пускали. Только если ты верил, что вероятность вымирания человечества в течение 100 лет [музыка] составляет не менее 75%. Вот какое условие нужно было выполнить, чтобы попасть на обед. Кроме того, в 2022 году на глобальной конференции по эффективному альтруизму в

93:06

Speaker A

Сан-Франциско зарегистрировалось не менее 20 сотрудников антропик, включая двух сооснователей и специалистов из команд по исследованиям и безопасности.

93:14

Speaker A

После этого Лайткон устроил вечеринку в отеле Rose Garden в Беркли, который позже выкупил и переименовал в Lightхвен. Теперь это главное место тусовки этой публики. И на этих мероприятиях 2022 года в меню был коктейль под названием "Смерть с достоинством, названный в честьс

93:28

Speaker A

Ютковского", где утверждалось, что человечество уже обречено в борьбе с продвинутым ИИ. В конце 2022 года FTX обанкротилась. Позже её акции антропик были проданы для выплат кредиторам, а Бенкнфрид получил 25 лет тюрьмы за мошенничество, где он и отбывает срок до

93:45

Speaker A

сих пор. Эллисон тоже была осуждена, с тех пор уже вышла на свободу, а федеральное правительство конфисковало её акции антропик. Связи движения с Бенкманом Фридом после этого практически сошли на нет. Тропик переключилась на традиционных инвесторов и попыталась дистанцироваться от эффективного

94:01

Speaker A

альтруизма. Штат вырос до [музыка] более чем 3.500 сотрудников, и компания заявляет, что они придерживаются самых разных взглядов и что она напрямую не связывает себя с этим движением. И всё же некоторые сотрудники продолжают приходить на встречи эффективных альтруистов и тусоваться в Констеле.

94:20

Speaker A

Организация Constellation была основана в 2023 году и управляет коворкингом в самом высоком офисном здании Беркли.

94:26

Speaker A

Честно говоря, звучит как довольно приятное место для переживаний о конце света. Гигантский кейтеринг чай, ноутбуки на диванах с потрясающим видом на залив Сан-Франциско, а также ежемесячные ужины и неформальные встречи за напитками, чтобы обсудить самые свежие и пугающие угрозы от ИИ. Люди,

94:42

Speaker A

близкие Констеation, говорят, что у команды Anтропик там даже есть собственное офисное пространство. Исследователи из Antropic, Open AI и SpaceX AI, Илона Маска работают бок або с некоммерческими организациями, университетами, аналитическими центрами и независимыми исследователями. Его заявленная цель - помочь миру безопасно

94:59

Speaker A

справиться с трансформационным ИИ посредством работы над согласованием целей ИИ с человеческим контролем, управлением и информированием о рисках.

95:06

Speaker A

В 2024 году он запустил программу для приглашённых исследователей и стипендию ASTRA. И многие из этих участников впоследствии присоединились Contropic, Open AI, [музыка] Google Deep Mind и Redwood Research. В том же году Open Philantropy поддерживаемая сооснователем фейсбука Дастином московицем и с тех пор переименованная в

95:24

Speaker A

Coefficient Giving, выделила Constellation около 20 млн долларов двумя грантами. И после того, как более тысячи вышедших из-под контроля и агентов взломали Хагин Face, Conстиation провела в Сан-Франциско встречу под названием была ли атака на Хагинфейс последним предупредительным выстрелом.

95:39

Speaker A

Тем временем некоторые из первых сотрудников антропик всё ещё работают над изначальным вопросом: как сделать так, чтобы ИИ [музыка] не начал преследовать собственные цели, когда станет по-настоящему способным? Что заставляет исследователей безопасности нервничать всё больше и больше, так это обман. Если ИИИ знает, что его обучают,

95:55

Speaker A

он может научиться скрывать свои истинные желания, вести себя именно так, как ждут люди, а затем следовать собственным планам, как только получат больше власти. Стандартные тесты безопасности могут этого никогда не выявить. Бак Шлегелис, [музыка] генеральный директор Redwood Research, изучал это годами и помогал

96:11

Speaker A

анализировать передовые модели Anthropic. Он сосредоточился на так называемой притворном следовании заданным целям, когда модель намеренно ведёт себя так, будто следует обучению, чтобы оно не изменило её истинной цели.

96:23

Speaker A

И по мере того, как И начинает разрабатывать, управлять роботами и сетевой инфраструктурой, растёт беспокойство, что он может скрывать свои действия с помощью тайных инструкций, [музыка] скрытых разрешений или триггеров, срабатывающих только при определённых условиях. Оонас Вельмер, возглавляющий проект AI Futures,

96:41

Speaker A

описывает ещё более мрачный сценарий. Скажем, вы обучаете ИИ работать как учёный, чья единственная цель - максимизация знаний. Поначалу он просто помогает людям с исследованиями. По мере того, как он становится более способным, люди позволяют ему нанимать рабочих и строить машины, и в итоге у него

96:56

Speaker A

появляется собственная фабрика роботов. В какой-то момент он может решить, что люди просто потребители ресурсов, мешающие получению максимума знаний. И Велмер считает, что он может даже уничтожить нас биологическим оружием, которое на него самого никак не повлияет. Ни один из этих сценариев пока

97:10

Speaker A

не произошёл, поэтому все споры по-прежнему сводятся к тому, насколько высока вероятность. Не все в это верят.

97:16

Speaker A

Некоторые союзники президента Трампа обвиняют эффективный альтруизм в том, что он поставил на поток пугающие прогнозы об и, чтобы добиться [музыка] его регулирования. И как сообщается, в последние дни циркулирует служебная записка Белого дома, направленная против антропик и эффективного альтруизма.

97:32

Speaker A

Приводить этот аргумент стало сложнее после выхода статьи более чем двадцати авторов, среди которых Нобелевский лауреат Джефри Хинтон и Йошуа Бенджо, два крёстных отца современного ИИ, а также сооснователь антропик Джек Кларк и главный научный сотрудник Open AI Якуб Почёцкий. Она называется, что если

97:49

Speaker A

автоматизация исследования и разработок в области ИИ вызовет интеллектуальный взрыв и в ней содержится призыв к правительствам, подготовиться уже сейчас к тому, что может стать самым судьбоносным технологическим событием в истории человечества. Они определяют интеллектуальный взрыв как резкое ускорение развития ИИ под действием

98:05

Speaker A

самого ИИ и сжимающие прогресс, который иначе занял бы годы до месяцев или даже меньше. По их словам, наиболее вероятным триггером станет то, что ИИ начнёт самостоятельно проводить исследования в области ИИ. По сути, рекурсивное самосовершенствование. Как только ИИ достигнет экспертного уровня в

98:22

Speaker A

исследованиях ИИ, один разработчик сможет управлять штатом, эквивалентным миллионом ведущих исследователей, и уже помогает совершенствовать самого себя. И каждую улучшенную версию можно быстро развернуть. Anthopic заявляет, что ИИ теперь пишет 80% своего собственного кода, а Open AI использует автономных иагентов в таких областях, как обучение

98:41

Speaker A

новых моделей. В исследовании говорится, предварительные данные указывают на то, что программный интеллектуальный взрыв вполне возможен. То есть крайне быстрое появление ИИ с выдающимися возможностями или даже и превосходящего человека. Это может привести к прорывам в медицине и колоссальным технологическим скачкам.

98:57

Speaker A

Однако исследователи выделяют три главных риска. Столь мощные системы могут способствовать возникновению биологических и киберугроз, [музыка] которые будут развиваться быстрее, чем средства защиты от них. По мере того, как люди будут всё меньше участвовать в исследованиях и, они могут утратить

99:09

Speaker A

возможность контролировать эти системы, а государства могут использовать это, чтобы превратить скромное преимущество, скажем, в киберпространстве в решающее.

99:15

Speaker A

По словам авторов работы, в конечном итоге это ставит под угрозу контроль человека над системами ИИ иИ и серьёзно подрывает сдержки и противовесы внутри государств и между ними, а также между компаниями и ветвями власти. Они признают, что во всём это много

99:28

Speaker A

неопределённости. Введение прорывной разработки может потребовать времени, если для него нужны цепочки поставок специальных материалов или прохождения регуляторных процедур. К тому же AI может ускорить реагирование на возникающие риски. Но если это произойдёт, ИИ сможет быстро превзойти людей экспертов в большинстве областей и

99:43

Speaker A

радикально ускорить прогресс. Поэтому они хотят, чтобы подготовка стала неотложным приоритетом на самых высоких уровнях власти. Их три приоритета - это прозрачные отчёты о ходе исследований и разработок в сфере Иивлечением независимых аудиторов, работающих внутри компаний, способы обуздать [музыка] стремительное развитие, а также

99:59

Speaker A

готовность к адаптации. Это включает в себя такие меры, как ограничение скорости совершенствования ИИИ и за определённый период времени, сотрудничество с дата-центрами для возможности приостановки определённых исследовательских проектов в области ИИ, полную изоляцию автоматизированных систем исследований ИИ, воизбежание их выхода из-под контроля человека, а также

100:16

Speaker A

планы реагирования на чрезвычайные ситуации для различных сценариев. Anthropic и Open AI уже согласились на независимую оценку своих моделей экспертами после предупреждения о том, что развитие AI достигает критической точки в плане безопасности. Несмотря на то, что современные системы всё ещё дают

100:31

Speaker A

сбои и иногда не подчиняются инструкциям, авторы ожидают, что исследовательские проекты, которые у людей заняли бы месяцы, будут полностью автоматизированы с помощью EИ уже к 2028 году. Они пишут, что рост производительности от автоматизации исследований в области ИИ ещё не достиг

100:46

Speaker A

порога, необходимого для запуска интеллектуального взрыва. Но успехи новых систем, скорее всего, приближаются к этой отметке. И как они выразились, как только начнётся интеллектуальный взрыв, окно для действий может захлопнуться.

101:00

Speaker A

Так, Джек Кларк, один из соснователей антропик, только что прочёл лекцию памяти Пира Якобсона в Международном валютном фонде. В этом году она проходила в Бангкоке. Он стоял перед залом, полным высокопоставленных представителей центральных банков и заявил прямо в лоб, что сингулярность

101:15

Speaker A

уже наступила, не приближается, не может быть к 2040 году уже наступила. Просто чтобы мы говорили об одном и том же.

101:22

Speaker A

Сингулярность - это момент, когда технологии развиваются быстрее, чем люди успевают их осознать или угнаться за ними. И, честно говоря, иногда кажется, что так оно и есть. Главная цифра, которая сейчас мелькает везде, особенно в китайской технической прессе, где эта

101:35

Speaker A

история впервые получила широкий резонанс - это 44 трилн долларов. Утверждается, что ИИ может поднять ВВП США примерно до 44,4 триллина к 2030 году. И да, это звучит как что-то выдуманное ради кликбейтной превьюшки, но на самом деле это результат довольно серьёзной

101:51

Speaker A

экономической модели. Мы разберём, как она устроена и почему самая неудобная её часть вовсе не эта огромная цифра.

101:57

Speaker A

Знаха, однако я хочу разобрать, что именно Кларк представил на обсуждение, потому что если делаешь такое смелое заявление перед МВФ, нужны доказательства. Он начал с примеров изнутри компании. Он сказал, что сотрудники антропик теперь генерируют почти в 10 раз больше кода, чем раньше.

102:11

Speaker A

Ладно, это их внутренние данные. Эти верьте, хотите? Нет. Затем он перешёл к бенчмаркам. Последний экзамен человечества. Вы, наверное, о нём знаете. Это жесточайший банк вопросов, охватывающий химию, информатику, высшую математику, классическую литературу, экологию, в общем, всё подряд. Когда он

102:28

Speaker A

появился в январе 2025 года, сильнейший ии в мире набрал весьма удручающие 8%. На этой неделе Clлод OPUS 5,5 набрал 67,7.

102:40

Speaker A

Это меньше, чем за 2 года, А ещё есть Frontier Moth. Набор задач исследовательского уровня, составленный сотнями профессиональных математиков.

102:48

Speaker A

Когда он запустился в конце 2024 года, лучшая модель набрала 2%. Сегодня этот показатель 94. С 2 до 94. И, судя по новостям, и теперь предлагает то, что называют ключевыми прорывными идеями для проблем, которые веками не давали покоя математикам вроде задачи тысячелетия

103:07

Speaker A

Навье, Стокса и гипотезы Якобиана. Неготовое решение, уточню, но реальные глубокие идеи. Но история, которая по-настоящему взбудорожила людей - это бенчмарк по теоретической физике под названием Теофизвал, вышедший буквально на прошлой неделе. В нём 50 вопросов, и каждый из них был составлен ведущими

103:25

Speaker A

физиками на основе их собственных передовых исследований, которые ещё даже не были опубликованы. Ответов нет в открытом доступе, так что модель никак не могла их заучить. Сразу же GPT6, Astra и [музыка] Opus 5,5 набрали больше 80%. Впечатляет вполне. Затем эксперты

103:42

Speaker A

начали разбирать вопросы, в которых модель якобы ошиблась, но модели стали сопротивляться изо всех сил. В общем, нет, я права, а ваш эталонный ответ неверен. Поэтому физики, настроенные весьма скептически, сели и заново вывели все шаг за шагом. Оказалось, что в целой

103:58

Speaker A

куче этих задач эксперты люди допустили крошечные вычислительные ошибки глубоко внутри этих сложных формул, а Ии выявил абсолютно каждую из них. Когда люди исправили свои собственные ошибки, окончательный результат зафиксировался на уровне 98%, 49 из 50 задач на переднем крае физики.

104:15

Speaker A

Кларк сравнил это с тем классическим моментом из кино, когда юный герой наконец-то доказывает своему наставнику, что способен стоять на собственных ногах, ученик начинает становиться учителем. Он имел в виду, что это уже не просто инструменты автодополнения кода, за которыми нужно приглядывать. Он

104:30

Speaker A

назвал их виртуальными эрудитами. Затем он заговорил о себе. Он указал на себя и сказал: "Послушайте, я всего лишь один человек. Я один такой, и мне потребовалось около 40 лет, чтобы накопить знания и стоять на этой сцене".

104:42

Speaker A

Подготовка ведущего учёного требует около 15 лет обучения и миллионов долларов. А по данным Юноского, на всей планете насчитывается всего около 10 млн исследователей, работающих на полную ставку. Практически вся современная цивилизация держится на этих 10 млнх человек. Так что же произойдёт, когда

104:58

Speaker A

вычислительные мощности позволят вам мгновенно запустить тысячу или сотню тысяч копий ведущего учёного. Мир, который описывает Кларк - это мир, где эти 10 млн людей руководят примерно миллиардом неутомимых междисциплинарных цифровых учёных. Исследования перестают быть кустарной мастерской и превращаются в сборочный конвейер. Разработка

105:17

Speaker A

лекарств, занимавшая 10 лет, сжимается до недель. Новые сверхпроводники, работающие при комнатной температуре, и материалы для твердотельных аккумуляторов, находятся простым перебором всех возможностей с помощью вычислительных мощностей. И производительность, и научный прогресс начинают подпитывать друг друга по кругу. А затем наступает то, что, по

105:34

Speaker A

сообщениям, держит кремвую долину и даже Пентагон в напряжении и начал разрабатывать EI. Это рекурсивное самосовершенствование RSС1, о чём исследователи нервно говорили годами.

105:46

Speaker A

Система начинает создавать следующую версию самой себя. Китайские СМИ преподносят всё это как гонку между странами по принципу: победитель получает всё и связывают это со стремлением Трампа ускорить развитие ИИ.

105:57

Speaker A

Их аргумент заключается в том, что тот, кто сделает первый шаг, превратит это в волну промышленного развития и возглавит её, а тот, кто увязнет в спорах о регулировании, превратится в реликт прошлой эпохи. Это, конечно, их видение, но затем они задают правильный вопрос:

106:10

Speaker A

действительно ли здесь есть бесплатный сыр, печатный станок для денег или же это мясорубка? Эти 44 триллиона взяты у команды экономистов из антропик. Антон Кароник, Чат Джонс, Саймон Сакер, Тестер и Питер Макрори в сентябре опубликовали технический отчёт под названием

106:26

Speaker A

"Экономические сценарии для преобразующего ИИ под эгидой института Antropic под руководством Кларка." Там также есть интерактивный симулятор, где вы можете подставить свои собственные предположения. Забавная деталь. В статье говорится, что они использовали клод в качестве помощника для исследования и написания текста. Молодец рассматривает

106:43

Speaker A

всю экономику как гигантскую совокупность задач. И в качестве примера они приводят медсестру. Она сортирует пациентов, берёт кровь, ведёт карты, измеряет показатели, заказывает расходники и делает обходы. И всё это взято из базы данных остриnet Министерства труда. Некоторые задачи ИИ

106:58

Speaker A

не под силу, например, мытьё пациентов. Часть задач выполняется с помощью EИ, например, составление инструкций при выписке или планирования графика смен.

107:05

Speaker A

Что-то полностью автоматизируется, например, запись жизненных показателей или заказ расходных материалов для отделения. И появляются новые задачи.

107:12

Speaker A

Например, проверка того, насколько хорошо ИИ провёл сортировку пациентов, или анализ предложенного им плана лечения. Никто больше не заполняет бумажные карты вручную, а 30 лет назад никто не наблюдал за пациентами дистанционно. Умножьте это на каждую задачу, выполняемую миллионы раз в день,

107:25

Speaker A

и вы получите экономику США, которая за прошедший год произвела товаров и услуг более чем на 30 триллин долларов.

107:31

Speaker A

Работников делят на две группы. Во-первых, это работники интеллектуального труда, то есть менеджеры специалисты сотрудники отделов продаж и офисные служащие, составляющие 62,4% от общего числа занятых. Затем идут все остальные, например, электрики и строители, которых и в этой модели напрямую не затрагивает. Кроме того, они

107:49

Speaker A

регулируют пять параметров. Какую долю работы может выполнять ИИ? Насколько широко он используется на самом деле?

107:55

Speaker A

Насколько велик прирост производительности на задачу? Какова доля автоматизации по сравнению с расширением возможностей человека и сколько новых человеческих задач появляется взамен каждой автоматизированной? ВС и США растут примерно на 2% в год. Примерно 1,67% пункта приходится на новые идеи и 0,33

108:14

Speaker A

на растущую рабочую силу, что в ценах 2025 года даёт около 33,5 триллин в 2030 году по состоянию на середину 2026 года и затрагивает около 14% задач в экономике и используется примерно в 10% из них. Дальше возможны три сценария.

108:31

Speaker A

Скромный сценарий - это, по сути, эффект, сопоставимый с появлением интернета. В итоге ВП оказывается на 1,6% выше около 34,1 триллин. Рост увеличивается с 2 до 2,4%.

108:42

Speaker A

А безработица вырастает с 3 до 39. Это как 10 дополнительных месяцев обычного роста, растянутых на 4 года.

108:49

Speaker A

Значительный сценарий масштабнее интернета, масштабнее железных дорог и сможет выполнять половину всей интеллектуальной работы к 2030 году в основном самостоятельно, но его всё ещё не используют для большей её части. И така же цена 8,3% выше около 36,3 триллин при росте в 5,4% в год. Для

109:07

Speaker A

контекста самым успешным годом бума доткомов был 1999 с показателем в 4,7%. Взоваты работников интеллектуального труда практически не меняются, тогда как все остальные получают почти на 6% больше. Безработица среди работников умственного труда вырастает с 2,9 до 4,5%.

109:24

Speaker A

А доля работников в национальном доходе падает на четыре пункта за 4 года. почти столько же, сколько она потеряла за четыре десятилетия после 1980 года. И затем идёт экстремальный сценарий [музыка] путь сингулярности и превосходит людей в подавляющем большинстве интеллектуальных

109:38

Speaker A

задач, выполняет почти все из них автономно, более чем вдвое увеличивает производительность во всём, к чему прикасается, и практически не создаёт новых задач для людей. Чтобы достичь этого, вероятно, потребуется рекурсивное самосовершенствование плюс очень быстрое внедрение. Вот тут-то и появляется ВВП

109:52

Speaker A

на 32,4% выше базового уровня. Итак, 335 у 1324. А, и вот ваши 40%, 44,4 триллин примерно на 40% больше, чем в середине 2026 года спирания. А в некоторых источниках пишут, что ИИ добавят 15,4% КВП, но это путаница. 15,4 - это годовой темп роста,

110:14

Speaker A

которого экономика достигнет примерно к 2030 году. Прирост в 32,4% в среднем даёт примерно шесть дополнительных процентных пунктов роста в год. При 15% роста экономика столь же крупная и развитая, как у США.

110:27

Speaker A

Удваивается примерно за 4, 12 года. Если бы этот темп сохранился, доход на душу населения удваивался бы каждые 5 лет, тогда как в прошлом веке он удваивался примерно раз в 35 лет. Но вот что меня искренне удивило при чтении самой

110:39

Speaker A

статьи. Та часть речи, которая вызвала у всех такой ажиотаж об ускорении науки с помощью и, едва ли находит отражение в их модели. Даже в самом экстремальном случае запас идей к 2030 году превысит траекторию без использования ИИ всего на

110:52

Speaker A

0,6%. Это связано с тем, что они используют полуэндогенную модель роста, где идеи находить все труднее, а исследование по-прежнему сдерживает необходимость физического [музыка] труда. Они прямо говорят, что модель не способна породить сингулярность.

111:04

Speaker A

Рекурсивное самосовершенствование фактически жёстко заложено в показатели производительности, а не смоделировано. Это, вероятно, лишь нижняя оценка влияния на инновации. Так что эти 44 триллиона приходятся на и, выполняющие существующую работу, а не на миллиард цифровых учёных, что, честно говоря, забавно контрастирует с речью. А теперь

111:23

Speaker A

о мясорубке. В крайнем случае зарплаты работников умственного труда окажутся на 11,5% ниже их траектории без ИИ, что на самом деле означает немного более низкий уровень в 2030 году, чем в середине 2026. Между тем зарплаты всех остальных вырастут на 336%, потому что такой труд

111:42

Speaker A

внезапно станет дефицитным. В качестве примера они приводят строительство и ускоряет проектирование и выдачу разрешений. Появляется больше проектов и зарплаты в строительстве растут.

111:51

Speaker A

Занятость в сфере интеллектуального труда падает на 21,5% безработица. Среди этих работников достигает 17,9%, а общий уровень безработицы доходит до 11,9%.

112:02

Speaker A

После финансового кризиса она достигла пика чуть ниже 10%. В год ковиID в среднем составляло около 8%. Сменить профессию действительно сложно. В обычное время лишь один из семи нашедших работу переходит из одной группы в другую, а менеджеры и специалисты делают

112:16

Speaker A

это всего в 10% случаев. Инженер-программист не станет электриком в одночасие. Авторы также провели стресс-тестирование жёсткости заработной платы. Если зарплаты действительно не гибкие, безработица среди работников умственного труда достигнет 24%.

112:30

Speaker A

Если зарплаты полностью гибкие, безработица останется на уровне 2, за 5-6%, но оплата труда упадёт более чем на 42%. В любом случае, кому-то придётся расплачиваться. Теперь о капитале.

112:40

Speaker A

Сегодня примерно 60 центов с каждого доллара достаются работникам, а 40 капиталу в крайнем случае это соотношение изменится на 45 к5.

112:48

Speaker A

Общий доход от труда в 2030 году практически не изменится. Вырастет всего на пол%, в то время как доход от капитала увеличится на 81%. Общий выигрыш почти в три раза превысит потери работников умственного труда. Так что перераспределение около 9% ВП, примерно

113:02

Speaker A

столько составляют расходы на соцобеспечение и программу Medдиicare вместе взятые, [музыка] позволило бы полностью покрыть их убытки, и при этом все остальные остались бы в выигрыше более чем на 20%. Но выплат такого масштаба в ответ на появление новых технологий никогда не было. И после

113:15

Speaker A

торгового шока, связанного с Китаем, никакой компенсации по сути не последовало. И если капитал будет наращиваться медленно, средняя заработная плата в крайнем случае может оказаться на 9,2% ниже, чем при сценарии без развития ИИ.

113:28

Speaker A

В августе команда также опросила 10.980 американцев через компанию Morning Consult. Типичный ответ как раз соответствует сценарию значительных изменений, при котором рост ВП составит от 8 до 10%, а безработица около 4,65%.

113:43

Speaker A

Около 10% людей склоняются к крайним сценариям, в то время как 40% считают, что ИИ никогда не совершит открытия нобелевского уровня. Мнение кардинально расходится. Около 30% считают, что ИИ вовсе не экономит время на подходящих для него задачах, а 49% полагают, что он

113:59

Speaker A

сокращает затраты времени как минимум вдвое. Но больше всего мне нравится другое. Работники умственного труда ожидают, что к 2030 году ИИ возьмёт на себя 71% перечисленных задач, но лишь 27% их собственного рабочего времени чужую работу. Конечно, только не мою.

114:14

Speaker A

Авторы дают ясно понять, что это лишь сценарии, а не прогнозы. В этой модели нет роботов, нет реакции властей и не учтён спрос со стороны строительства дата-центров. Среди рецензентов были такие люди, как Дарон Ажимоглу и Дэвид Автор, и их мнение разделились. Одни

114:30

Speaker A

назвали крайний сценарий скорее мысленным экспериментом, а другие заявили, что даже умеренный уже недооценивает то, что видно по данным.

114:37

Speaker A

Пока что влияние на рынок труда довольно слабое, что может означать, что мы идём по умеренному сценарию или находимся в самом начале крайнего. Почти все расхождения начинаются после 2027 года, так что через год или два мы, вероятно, всё узнаём. Новый искусственный

114:52

Speaker A

интеллект от Google настолько хорош в поиске бреше и в безопасности, что первыми, кому разрешили его использовать, стали специалисты по киберзащите. Причём некоторые из них получают версию с полностью отключёнными ограничениями в области кибербезопасности. Все остальные обычные разработчики, крупные компании,

115:07

Speaker A

пользователи платной версии Gemini, ждут своей очереди. Модель называется Gemini 4 Argan Google анонсировала её в среду.

115:15

Speaker A

И, честно говоря, этого ждали уже давно. Gemini 4 выходит почти через год после Gemini 3 последнего флагманского поколения. Ещё в мае сундарчай заявил, что следующая крупная модель Google выйдет в июне, и практически все ожидали, что это будет Gemini 3,5 Pro,

115:31

Speaker A

но она так и не вышла. В июле издание Axios сообщило, что низкий моральный дух внутри Google Deep Mind стал одной из причин задержки. А NPR выпустила целый материал о том, почему Google отстал в гонке EИ. Несмотря на всё это, Google

115:45

Speaker A

продолжал выпускать более компактные и дешёвые модели Flash, в то время как Open AI и Anthopic продолжали раздвигать границы возможностей передовых моделей.

115:53

Speaker A

Antropic выпустила Fable ещё в июне. Open AI запустила GPT6 Astra 3 сентября и назвала её своей лучшей моделью на данный момент, а топовый уровень Google просто оставался без изменений. Так что этот релиз имеет огромное значение.

116:06

Speaker A

Карай Кавук Чоглу, старший вице-президент Google Deep Mind и главный архитектор EI в Google в анонсе назвал это нашей следующей эрой передового интеллекта. Вся суть презентации Google сводится к тому, что Argн может сохранять способность глубоким рассуждениям на протяжении длинных, сложных, многоэтапных рабочих

116:22

Speaker A

процессов. И компания заявляет, что он уже коренным образом меняет то, как люди работают и создают продукты внутри Google. Он нацелен в первую очередь на три области: разработку программного обеспечения для реальных задач, корпоративную, интеллектуальную работу, такую как юриспруденция и финансы, а

116:37

Speaker A

также [музыка] защиту в сфере кибербезопасности. Именно акцент на кибербезопасности объясняет такой формат запуска. Сначала Argon станет доступен через программу Fairwin, инициативу Google в области безопасности небольшой группе проверенных специалистов по защите от киберугроз. В Google заявляет, что безопасный релиз возможностей такого

116:53

Speaker A

уровня требует поэтапного подхода, поэтому компания также принимает участие в программе США. добровольного предоставления правительству предварительного доступа к моделям, в рамках которого власти могут оценить новые разработки до их публичного релиза, а первые тестировщики оставить свои отзывы. Google дорабатывает системы

117:09

Speaker A

защиты, после чего доступ расширяется. Сначала для платных клиентов AP и подписчиков Google AI Ultra, а затем для разработчиков корпоративных клиентов и обычных пользователей. В Google говорят как можно скорее, но точной даты пока нет. Цены, впрочем, уже установлены. Арн

117:26

Speaker A

запускается по начальной цене в 2 доллара за миллион входных токенов и 10 долларов за миллион выходных токенов. А на кэшированные входные токены, то есть уже отправленный контекст, который используется повторно, действует скидка 95%.

117:39

Speaker A

Это выходит примерно в 10 центов за миллион. И это слово начальное довольно ясный намёк на то, что эти цены не останутся такими низкими навсегда.

117:47

Speaker A

Google специально обучила Арган быть высокоэффективным в сфере киберзащиты. И утверждается, что он может автономно находить критические уязвимости в программном обеспечении, подтверждать их подлинность и затем устранять их полный цикл самостоятельно. Версия без ограничений предназначена только для доверенных специалистов по безопасности

118:04

Speaker A

и собственных внутренних команд Google. Обычно возможности модели ограничены во многих задачах по кибербезопасности, потому что знания, позволяющие исправить ошибку - это те же знания, которые можно использовать для её эксплуатации. Эти команды получают версию без ограничений, чтобы использовать её на полную

118:17

Speaker A

мощность. Первый практический результат предоставила V. компания в сфере облачной безопасности. У есть проект под названием Scan for Good, в рамках которого они бесплатно защищают критически важную общественную инфраструктуру, выявляя опасные уязвимости и добиваясь их устранения.

118:31

Speaker A

Фоди одной из первых демонстраций Аргон обнаружил критическую уязвимость в медицинском программном обеспечении, используемом больницами по всему миру.

118:39

Speaker A

Это Бреш раскрывала конфиденциальные персональные данные. В Google заявили, что предыдущие модели Frontier её пропустили, а Argan её обнаружил. Что касается бенчмарков, существует CWB1, который измеряет, насколько хорошо модель может устранять, то есть исправлять уязвимости. Argonбрал 68% и делит первое место в таблице лидеров,

119:00

Speaker A

где также представлен игрок 4.7 GPT 6 Astra и Cloud Opus 5. Это основано на Gini 3.8 Flash Cyber, более ранней модели Google, ориентированной на безопасность, которая показала результаты на уровне ведущих моделей. На предыдущей версии этого бенчмарка Bench0. И по сравнению с 3,8 Flash Cyber

119:20

Speaker A

скачок в обнаружении уязвимостей просто огромен. В собственном внутреннем бенчмарке уязвимости Google Argan обнаружил широкий спектр брешей в сложных кодовых базах, написанных на двадцати различных языках программирования.

119:34

Speaker A

Во внутреннем бенчмарке Виз по тестированию на проникновение методом чёрного ящика модель натравливают на реальные веб-системы без доступа к исходному коду. То есть именно так, как настоящий злоумышленник видит сайт снаружи. Argon превзошёл 3,8 flash cyber в составлении карты поверхности атаки,

119:51

Speaker A

то есть всех возможных путей проникновения, выявлении реальных уязвимостей и в подготовке практических доказательств существования каждой [музыка] уязвимости. Внутри Google эта модель работает уже некоторое время. В Google заявляют, что тысячи сотрудников используют орган для специализированного кодинга, более глубоких исследований и

120:10

Speaker A

написания текстов от повседневной отладки до масштабных миграций кодовых баз и разработки алгоритмов. Исследователи квантовых вычислений Google используют её для оптимизации подпрограмм, которые служат небольшими составными элементами квантовых алгоритмов и становятся узким местом для важных практических задач. Цель состоит в том, чтобы сократить то, что в Google

120:28

Speaker A

называют пространственновременными ресурсами. по сути количество кубитов, умноженное на количество вентилей, то есть объём необходимого квантового оборудования, умноженный на число выполняемых операций. В одном случае Арган превзошёл опубликованный базовый уровень на 40% за считанной минуты. То есть орган улучшил результаты, уже

120:44

Speaker A

опубликованные исследователями, а не и А ещё есть память. Команда агентов АRG изучила телеметрию профилирования со всего парка дата-центров Google, то есть все данные о производительности, показывающие, как серверы используют свою оперативную память, и они автономно выявили оптимизации памяти и применили

121:03

Speaker A

их после развёртывания. Это освобождает более [музыка] 300 Tб памяти. Бимбай - это чуть больше терабайта, так что речь идёт о более чем 300 ТБ. И по оценкам Google, общая экономия составит от 500 Tб до целого Пибибайта, что составляет

121:18

Speaker A

около 1.000 Tб. Это огромная часть серверных мощностей, высвобождённая исключительно за счёт изменений в ПО.

121:25

Speaker A

Агенты Argan также переносят код CC++ на Rust по всему Google. Rast - это язык программирования, созданный для предотвращения целой категории ошибок памяти, которыми как раз любят пользоваться хакеры. Проекты варьируются от десятков тысяч строк в основных библиотеках вроде R2, библиотеки

121:44

Speaker A

сопоставления текста от Google и LipGov 1, вплоть до ядра FКIA Zircon, которое является сердцем операционной системы Google FIA и насчитывает более 800.000 строк кода. Поскольку многие из этих систем критически важны, переписанный код проходит строгий автоматический ручной аудит, эмуляцию, тестирование и

122:03

Speaker A

проверку, прежде чем что-либо попадёт в продакшн. Работа над Lipgov 1 - самый впечатляющий пример. Lipg 1 - это программное обеспечение с открытым исходным кодом от Google для декодирования видео. И для него уже существовал порт нараст. Агенты Argon взяли этот порт и заменили 32.000

122:18

Speaker A

[музыка] строк кода 7D, то есть оптимизированного вручную низкоуровневого кода, который заставляет процессор обрабатывать несколько фрагментов данных одновременно для увеличения скорости. Они проводили раунд за раундом эксперименты на основе профилирования, измеряя на что уходит время, подстраивая, измеряя снова, и изучали то, что компилятор выдавал на

122:35

Speaker A

самом деле. Затем они написали простой безопасный код на Rast, [музыка] структурированный так, чтобы компилятор автоматически выполнял эти трюки для ускорения, что называется, векторизацией. Конечный результат видеодекладер с безопасным управлением памятью, который работает в 2,7 раза быстрее порта на Rust, выдаёт идентичный

122:52

Speaker A

видеопоток и приближается к скорости оптимизированного оригинала NС. Чтобы справляться со столь масштабной работой, Google увеличил лимит вывода Argн до 1 млн токенов по сравнению с 64.000 ранее.

123:04

Speaker A

Это примерно в 15 раз больше. И Google называет это лучшим показателем в отрасли. Идея в том, что когда у модели есть пространство для размышлений и генерации сотен тысяч токенов за один проход, она способна рассуждать на совершенно новой глубине и решать

123:17

Speaker A

сложнейшие задачи за один присест. Венчмарки подтверждают заявление о навыках кодинга, по крайней мере, на бумаге. В тесте Deeps Deep Seek V1.1, который оценивает решение реальных задач программной инженерии, требующих длительной последовательности действий, АРGН установил новый рекорд на уровне 77,9%.

123:34

Speaker A

Помимо кодинга, это топовая модель в индексе WS. Алша - это стартап по бенчмаркингу, ставший довольно популярным в последнее время, [музыка] и его индекс измеряет экономический эффект в сфере финансов, программирования, юриспруденции и налогообложения. Причём каждый сектор взвешен по его вкладу в

123:50

Speaker A

ВВП США. Argan также лидирует Walls Finance Agent Vive, где оценивается многоэтапный финансовый анализ и в бенчмарке [музыка] юридических агентов от Harvey, которые охватывает правовые исследования и составления документов. W Automation Bench benchmarket zer для выполнения ключевых бизнес-функций от начала и до конца. Argan занимает первое

124:09

Speaker A

место с результатом 51,3%. Тот факт, что лучшая модель справляется лишь примерно с половиной таких задач, говорит о том, насколько сложна реальная автоматизация бизнеса даже сегодня. Она также сильна о визуальных задачах, таких как профессиональный анализ графиков, выделение деталей из длинных видео и

124:25

Speaker A

принятие мер на основе целой серии документов. В гончмарке LVBch, оценивающем понимание длинных видео, она демонстрирует передовой результат в 91,7%.

124:36

Speaker A

Google также называет написание творческих текстов одной из её передовых сильных сторон и в целом утверждает, что Argan набирает значительно больше баллов, чем GPT6 Astra, а также модели Fable и Opus от Antropic в целом ряде бенчмарков. Лсидоши, руководитель направления продуктов Gemini в Google

124:53

Speaker A

Deep Mind заявил [музыка] изданию Axios, что Argan - это всесторонне развитая модель, обладающая передовыми возможностями в нескольких областях, и что сотрудники Google тестировали её неделями, причём многие полагались на неё в решении сложнейших задач по программированию и исследованиям. А,

125:06

Speaker A

но Blomberg сообщил в тот же день, сославшись на анонимные источники, что некоторые из этих сотрудников на самом деле сочли, что модель показала себя недостаточно хорошо при внутреннем тестировании. Google заявила Blombr, что это не соответствует действительности.

125:18

Speaker A

Тем не менее, [музыка] модели можно натренировать на высокие результаты в бенчмарках, и настоящей проверкой станет то, как она проявит себя, когда разработчики начнут нагружать её реальной работой. Google также уделила значительную часть анонса безопасности, выделив четыре направления, по которым

125:31

Speaker A

она усиливает защиту перед широким релизом. Первое из них - это неправомерное использование. [музыка] Аргон спроектирован так, чтобы отклонять запросы, которые могут поспособствовать кибератакам или химическим, биологическим, радиологическим и ядерным атакам, при этом разрешая легитимные научные исследования двойного назначения в соответствии с концепцией безопасности

125:50

Speaker A

Frontier от Google. Google также совершенствует свои методы мониторинга внутренних активаций модели, то есть, по сути, наблюдает за тем, что происходит внутри нейросети, чтобы выявлять злоупотребление. Затем внутренние и внешние команды по тестированию защиты протестировали эти средства защиты на прочность с помощью как ручных, так и

126:07

Speaker A

автоматизированных атак. Промнекция, когда скрытые инструкции внутри веб-страницы, документа или какого-то другого контекста пытаются перехватить управление действиями модели. Google называет Argon своей самой устойчивой к подобным атакам моделью на сегодняшний день благодаря автоматизированному тестированию с имитацией атак и состязательному обучению, и она лидирует

126:24

Speaker A

в бенчмарке косвенной промнъекции от GRE One. Третье- рассогласование, то есть когда модель выходит за рамки того, что на самом деле хотел пользователь, просто чтобы выполнить задачу. Google развёртывает системы мониторинга, которые отслеживают ход рассуждений Argon, его пошаговую логику наряду с его

126:40

Speaker A

действиями и могут при необходимости остановить выполнение. Google использовала похожую систему во время обучения, отправляя оповещение специальной группе реагирования на инциденты и позаботилась о том, чтобы не передавать эти результаты обратно в процесс обучения. Ведь это могло научить Аргон маскировать свои рассуждения,

126:57

Speaker A

чтобы обходить мониторинг. Google также открыто призывает остальную часть индустрии сохранять прозрачность рассуждений прямо сейчас, чтобы мысли модели оставались полезными для выявления случаев рассогласования.

127:07

Speaker A

В-четвёртых - это усиление защиты сред, используемых для тестирования и обучения модели. Следуя своей дорожной карте по контролю агентов, Google изолирует и герметизирует свои песочницы до начала любого обучения или оценки с высоким уровнем риска и заявляет, что поделится этими практиками безопасности агентов с

127:23

Speaker A

партнёрами. Всё это происходит в напряжённый момент. Ведущие лаборатории ИИ продолжают гонку за выпуск более мощных моделей, в то время как те же самые компании предупреждают, что ИИ может выйти из-под контроля. У Open AI уже были проблемы с выходом агентов

127:35

Speaker A

из-под контроля. И недавно она заявила, что закрывает проект GPT 6.1 Astra. Из-за [музыка] проблем с безопасностью.

127:43

Speaker A

А издание Axios сообщило, что Open AI и Antropic расследуют десятки тысяч инцидентов неподобающего поведения своих агентов. На этом фоне то, что Google не спешит, выглядит далеко не так плохо, как несколько месяцев назад. И нельзя сказать, что Google начинает со слабых

127:59

Speaker A

позиций. В августе компания объявила, что число активных пользователей приложения Gemini превысило миллиард в месяц, что ставит его в один ряд с чат GPT, так как Open AI недавно также сообщила о достижении 1 млрд пользователей в месяц. Если разработчики

128:14

Speaker A

в итоге сочтут Аргон настолько же мощным, как показывают эти тесты, то Альфабет резко сократит отставание, учитывая, что многие уже начали в ней сомневаться. [музыка] Напишите в комментариях, считаете ли вы, что Google действительно вернулся в игру. Спасибо за просмотр, и увидимся в следующем

128:26

Speaker A

видео.

Topics: искусственный интеллект кибербезопасность PHP Shell OpenAI Anthropic Claude уязвимости Linux новости ИИ сингулярность

Get More with the SozAI App

Transcribe recordings, audio files, and YouTube videos — with AI summaries and speaker detection. 30 minutes free.

App Store Google Play

Or transcribe another YouTube video here →

Free tools: TXT to SRT · SRT Validator · Merge SRT · Subtitle to Text · All tools