Скрытая модель старше GPT-6 Astra: OpenAI слила 700 открытий, которые люди не понимают

22/7. Если вы когда-то в школе запоминали число Пи, то скорее всего именно вот так, дробью. Делите 22 на 7 и получаете почти число Пи. Ошибка только в третьем знаке после запятой. И вот как вы думаете, как сейчас можно узнать про число Пи что-то новое? Его ведь считали ещё в Древнем Египте. Это самое затасканное число на свете. А вот оказывается, что можно. В конце сентября нейросеть OpenAI доказала одну вещь про число Пи. К ней математики подбирались в пятидесятых годах. Смотрите, число Пи дробью точно не запишешь. Это все знают, но приблизить можно, как те самые 22/7. И ведь вопрос был в том, насколько хорошо. Бывают такие числа-хитрецы. Они подозрительно ловко ловятся дробями. Так вот, модель доказала, что число Пи не из них. Оно ведёт себя как самое обычное число без фокусов. В этой задаче есть одно число, и все давно знали, каким оно должно быть, двойкой. Люди почти за 70 лет дотолкали его с 42 до 7, а модель сразу поставила два. И это проверили.

Есть такая программа, называется Lean. Это такой занудный проверяющий. Он не верит на слово и проходит каждый шаг логики. И если Lean говорит «да», то в таком случае ошибок в рассуждениях почти точно нет. Вы на канале Den Drive, меня зовут Дэн, и последние дни я изучал математические статьи, где понимал примерно каждое пятое слово. Поэтому объяснять я буду так, как объяснял бы самому себе. Я покажу вам самое понятное из того, что нейросети открыли за последние 2 месяца. Расскажу, как одна молодая математичка держала мировой рекорд ровно 3 дня. Скажу, какая модель на самой деле сделала историю с числом Пи, потому что это не совсем та Astra, про которую вы подумали. А в конце будет вещь, и она лично меня напрягла сильнее всего. Она будет про то, откуда модель вообще берёт свои вопросы. Ну и, конечно же, нажмите на подписку авансом. Ну а если вам не зайдёт, отпишетесь. Поехали.

Простые числа вы, наверняка, помните из школы. Это те, что делятся только на единицу и на себя. 2, 3, 5, 7, 11, 13. Чем дальше, тем реже они попадаются. Но иногда бывает такое, что они идут парой, почти вплотную, как 11 и 13. И есть одна очень старая гипотеза, что таких пар с разницей в два бесконечно много. Доказать её до сих пор никто не может. А вот в 2013 году математик Жан Итон доказал версию немного послабее, что пар с разницей не больше 70 млн бесконечно много. И, честно, мне это кажется самому смешным. Но это был такой прорыв, что про Жана потом сняли целый фильм. Потом за дело взялась целая толпа математиков в открытом проекте, прямо через интернет. И уже через год они спустили эту границу до 246. И всё, 12 лет граница стояла на месте. А вот тут начинается история, из-за которой я вообще снял этот ролик. Юлия Штадельман в Илинойском университете училась в Оксфорде у Джеймса Мейнарда, одного из главных людей в этой задаче. Около двух лет она сидела над простыми числами и летом у неё получилось 240. А в это время между математиками ходили слухи, что OpenAI готовит объявление как раз про простые числа. И её наставник Кевин Форд говорил ей, мол, бросай всё это и выкладывай статью прямо сейчас. Даже если её побьют на следующий день, рекорд хотя бы на день будет твой. И Юлия выкладывает статью буквально в последний день августа. Через 3 дня стартап Axiom, он тоже делает математический ИИ, три ночи подряд гоняет её подход и выдаёт 220. А примерно через 2 часа OpenAI показывает свою новую модель Astra. И в статье к запуску стоит 186. То есть границу, которую 12 лет никто не мог сдвинуть, за одну неделю сдвинули несколько раз. Юлия в этом списке продержалась 3 дня. И вы только представьте, 2 года работы и 3 дня в рекордсменах. Математик Теренс Тао в тот же день назвал это неприглядным зрелищем, когда три ИИ-компании наперегонки объявляют свои рекорды. Что же сделала Astra? Сотрудник OpenAI Вэй-Цзе Су объяснял это очень сухо, языком специалистов. Если по-простому, то модель нашла условия, при которых числа удобнее раскладывать на множители. Пересчитать старое быстрее тут бы не помогло. Нужна была новая лазейка, и её модель нашла. Су, кстати, написал, что впервые услышал про эти пары простых чисел в 9 лет и назвал ту ночь сюрреалистичной. А Юлия сказала, что обиженной себя не чувствует. Ей интереснее идеи, чем само число. Зато за неё заступился математик Эндрю Гранвилл. Он сказал, что не видит, чтобы OpenAI хоть как-то подумала, каково ей. И вот что забавно, тот же Гранвилл рассказал, что сам недавно с помощью искусственного интеллекта сделал доказательство за 2 часа. Хотя раньше на такую работу ушёл бы месяц. Ну давайте честно, тут есть две оговорки. Проверка в Lean здесь с допущением. Она опирается на три известных старых результата, и их не перепроверяют. И гипотезе про пары с разницей два это нас напрямую не приближает. Там нужна двойка, а не 186.

А вот вторая находка Astra в тот же вечер, как по мне, даже интереснее. Там был обратный вопрос: как далеко простые числа могут разбегаться, какой длины бывает пустыня, где нет ни одного простого числа. В конце тридцатых британский математик Роберт Ранкин вывел формулу для такой пустыни. И дальше 80 с лишним лет её улучшали по крошке. В середине десятых пятеро очень сильных математиков, среди них тот же Тао, сдвинули её ещё чуть-чуть. Тао, если что, получил Филдсовскую медаль, которую ещё называют Нобелевской премией для математиков. А Astra на восьми страницах сдвинула её сильнее, чем они все вместе. Математик Джерент Лидхман написал, что это как найти совершенно новый шахматный дебют после десятилетия игры. У задачи впервые с тридцатых годов появилась новая отправная точка. Окей, а что с числом Пи изначально? Я обещал сказать, какая модель это сделала. Так вот, это была не Astra. В начале октября OpenAI разом выложила в интернет больше 700 математических статей. И вот число Пи как раз лежит в этой пачке. Сделала их модель, которую никто снаружи не видел. Названия у неё нет. В описании так и написано: «Не выпущенная внутренняя модель OpenAI». Получается, что самая крутая Astra, которая есть у нас в чате GPT, это младшая модель. А старшая уже прямо сейчас сидит внутри их компании и пачками закрывает то, к чему люди подбирались всю свою жизнь. Кстати, когда я собирал материал, я искал также открытия Astra в ДНК, в новых лекарствах и физике плазмы. Так вот, подтверждённых открытий там я не нашёл. В карточке безопасности Astra биология есть, но она находится в разделе опасных способностей. И их компания сдерживает.

Всё самое громкое и проверенное пока находится только в математике и физике. Поэтому про них мы и будем говорить. Из этой пачки я выбрал то, что можно объяснить без доски. И самая любимая моя история вот какая. На рубеже девятнадцатого и двадцатого веков Давид Гильберт составил список главных задач для математиков нового века. Десятая звучала так: есть ли способ по любому уравнению с целыми числами сказать, есть у него решение или нет? Советский математик Юрий Матиясевич в 1970 году доказал, что такого способа нет, но только для целых чисел. Но а что, если разрешить дроби? Этот вопрос висел больше полувека. И вот эта модель OpenAI ответила, что и для дробей способа нет. А сейчас будет реакция чилийского математика Эктора Пастена. Он и в этой области работает много лет, и модель собрала доказательство из двух его же идей, из разных разделов математики. Сам Пастен понятия не имел, что они стыкуются. Он говорит, что его это крайне удивило.

Представьте, вы годами носите в разных карманах два ключа, а кто-то берёт их и вставляет один в другой и открывает дверь. Следующая штука поближе к нам с вами. Умножение матриц. Матрица, если вы не слышали, это просто таблица чисел, а не фильм. И любая нейросеть, по сути, огромная фабрика по перемножению таких таблиц. Каждое ваше сообщение в чат GPT — это миллиарды таких умножений. Ещё в 1969 году немецкий математик Фолькер Штрассен показал, что таблицы можно перемножать быстрее, чем нас с вами учили в школе. С тех пор скорость выжимали по капле, а внутренняя модель заявила скачок, какого в этой задаче не было десятилетиями.

молодая математичка держала мировой рекорд ровно 3 дня. Скажу, какая модель на самом деле сделала историю с числом Пи, потому что это не совсем та Astra, про которую вы подумали. А в конце будет вещь, и она лично меня напрягла сильнее

всего. Она будет про то, откуда модель вообще берёт свои вопросы. Ну и, конечно же, нажмите на подписку авансом. Ну а если вам не зайдёт, отпишетесь. Поехали.

Простые числа вы, наверняка, помните из школы. Это те, что делятся только на единицу и на себя. 2 3 5 7 11 13. Чем дальше, тем реже они попадаются. Но иногда бывает такое, что они идут парой, почти вплотную, как 11 и 13. И есть одна

очень старая гипотеза, что таких пар с разницей в два бесконечно много. Доказать её до сих пор никто не может. А вот в тринадцатом году математик Жан Итон доказал версию немного послабее, что пар с разницей не больше 70 млн

бесконечно много. И, честно, мне это кажется самому смешным. Но это был такой прорыв, что про Жана потом сняли целый фильм. Потом за дело взялась целая толпа математиков в открытом проекте, прямо через интернет. И уже через год они спустили эту границу до 246. И всё, 12

лет граница стояла на месте. А вот тут начинается история, из-за которой я вообще снял этот ролик. Юлия Штадельман в Илийском университете училась в Оксфорде у Джеймса Мейнарда, одного из главных людей в этой задаче. Около двух лет она сидела над простыми числами и

летом у неё получилось 240. А в это время между математиками ходили слухи, что OpenAI готовит объявление как раз про простые числа. И её наставник Кевин Форд говорил ей, мол, бросай всё это и выкладывай статью прямо сейчас. Даже если её побьют на следующий день, рекорд

хотя бы на день будет твой. И Юлия выкладывает статью буквально в последний день августа. Через 3 дня стартап Axiom, он тоже делает математический ИИ, три ночи подряд гоняет её подход и выдаёт 220. А примерно через 2 часа OpenAI

показывает свою новую модель Astra. И статье к запуску стоит 186. То есть границу, которую 12 лет никто не мог сдвинуть, за одну неделю сдвинули несколько раз. Юлия в этом списке продержалась 3 дня. И вы только представьте, 2 года работы и 3 дня в

рекордсменах. Математик Теренс Тао в тот же день назвал это неприглядным зрелищем, когда три ИИ-компании наперегонки объявляют свои рекорды. Что же сделала Astra? Сотрудник Open Eye Вэй-Цзе Су объяснял это очень сухо, языком специалистов. Если по-простому, то модель нашла условия, при которых

числа удобнее раскладывать на множители. Пересчитать старое быстрее тут бы не помогло. Нужна была новая лазейка, и её модель нашла. Су, кстати, написал, что впервые услышал про эти пары простых чисел в 9 лет и назвал ту ночь сюрреалистичной. А Юлия сказала, что

обиженной себя не чувствует. Ей интересней идеи, чем само число. Зато за неё заступился математик Эндрю Гранвилл.

Он сказал, что не видит, чтобы Open Eye хоть как-то подумала, каково ей. И вот что забавно, тот же Гранвилл рассказал, что сам недавно сделал с помощью искусственного интеллекта доказательство за 2 часа. Хотя раньше на такую работу ушёл бы месяц. Ну давайте честно, тут

есть две оговорки. Проверка в линии здесь допущением. Она опирается на три известных старых результата, и их не перепроверяют. И гипотезе про пары с разницей два это нас напрямую не приближает. Там нужна двойка, а не 186.

А вот вторая находка Astra в тот же вечер, как по мне, даже интереснее. Там был обратный вопрос, как далеко простые числа могут разбегаться, какой длины бывает пустыня, где нет ни одного простого числа. В конце тридцатых британский математик Роберт Ранкин вывел

формулу для такой пустыни. И дальше 80 с лишним лет её улучшали по крошке. В середине десятых пятеро очень сильных математиков, среди них тот же Тао, сдвинули её ещё чуть-чуть. Тао, если что, получил Филдсовскую модель, которую ещё называют Нобелевской для

математиков. А Астра на восьми страницах сдвинула её сильнее, чем они все вместе. Математик Джерент Лидхман написал, что это найти совершенно новый шахматный дебют после десятилетия игры. У задачи впервые с тридцатых годов появилась новая отправная точка. О'кей, а что с

числом Пи изначало? Я обещал сказать, какая модель это сделала. Так вот, это была не Астра. В начале октября Open AI разом выложила в интернет больше 700 математических статей. И вот число Пи как раз-таки лежит в этой пачке. Сделала

их модель, которую никто снаружи не видел. Название у неё нет. В описании так и написано: "Не выпущенная внутренняя модель Open AI". Получается, что самая крутая Астра, которая есть у нас в чате GPT, это младшая модель. А старшая уже прямо сейчас сидит внутри их

компании и пачками закрывает то, к чему люди подбирались всю свою жизнь. Кстати, когда я собирал материал, я искал также открытия Астры в ДНК, в новых лекарствах и физике плазмы. Так вот, подтверждённых открытий там я не нашёл. В карточке

безопасности Астры биология есть, но она находится в разделе опасных способностей. И их компания сдерживает.

Всё самое громкое и проверенное пока находится только в математике и физике. Поэтому про них мы и будем говорить. Из этой пачки я выбрал то, что можно объяснить без доски. И самая любимая моя история вот какая. На рубеже девятнадцатого и двадцатого века Давид

Гильберт составил список главных задач для математиков нового века. Десятая звучала так: есть ли способ по любому уравнению с целыми числами сказать, есть у него решение или нет? Советский математик Юрий Матиясевич в семидесятом доказал, что такого способа нет, но

только для целых чисел. Но а что, если разрешить дроби? Этот вопрос висел больше, чем полвека. И вот эта модель Open AI ответила, что и для дробей способа [музыка] нет. А сейчас будет реакция чилийского математика Эктора Пастерна. Он и в этой области работает

много лет, и модель собрала доказательства из двух его же идей, из разных разделов математики. Сам Пастерн понятия не имел, что они стыкуются. Он говорит, что его это крайне удивило.

Представьте, вы годами носите в разных карманах два ключа, а кто-то берёт их и вставляет один в другой и открывает дверь. Следующая штука поближе к нам с вами. Умножение матриц. Матрица, если вы не слышали, это просто таблица чисел, а

не фильм. И любая нейросеть, по сути, огромная фабрика по перемножению таких таблиц. Каждое ваше сообщение в чат GPT это миллиарды таких умножений. Ещё в шестьдесят девятом году немецкий математик Фолькер Штрассен показал, что таблицы можно перемножать быстрее, чем нас с вами учили в школе. С тех пор

скорость выжимали по капле, а внутренняя модель заявила скачок, какого в этой задаче не было десятилетиями. И тут Вирджиния Уильямс, Массачусетского технологического, одна из главных людей в этой теме, сказала фразу, и я её перечитал несколько раз. В каком-то, может быть, дьявольском смысле, говорит

она, это можно считать попыткой нейросетей ускорить самих себя. Подвох здесь тоже есть. Это всё пока лишь теоретическая скорость. Для того, чтобы видеокарты завтра начали считать быстрее, путь очень длинный, и не факт, что он вообще пройдёт. А вот рядом лежит

соседняя статья про умножение обычных больших чисел. Там полвека считалось, что быстрее определённой скорости нельзя, а вот модель доказала, что можно. Но ускорение будет очень крошечное, что почувствовать его получится только на числах, для записи которых не хватит атомов по всей

Вселенной. Формально рекорд, на практике ноль пользы. Мне кажется, что человек такую работу просто не стал бы писать.

Ладно, а как же физика? 100 лет назад Эйнштейн предсказал странное состояние вещества. Если газ охладить почти до абсолютного нуля, атомы перестают вести себя как отдельные шарики и сливаются в одно общее облако. Это называли конденсатом Бозе-Эйнштейна. В девяносто пятом его получили в лаборатории и потом

дали за это Нобелевку. Но строго на бумаге математики умели доказывать его в основном для идеального газа, где атомы друг друга не толкают и для пары упрощённых моделей. А в настоящем газе атомы толкаются. Модель доказала, что облако проявляется и в газе, где атомы

сталкиваются как твёрдые шарики. А с другой физической работой вышла интереснее. Есть одна из задач тысячелетия, за неё обещают миллион долларов. У неё есть упрощённая версия, её считают разминкой. И модель выложила статьи, где заявляет, что разминку решила полностью. Роланд Бауэршмидт из

Нью-Йоркского университета специально ровно по этой теме первую статью похвалил, а про вторую сказал, что она ужасная. И он говорит: "Если бы мне такое прислал по почте незнакомец, я бы письмо просто удалил". Ну, а остальные связанные работы он просто назвал

нейрослопом и сказал, что это даже эксперт толком не проверит. Но пока мы не вернулись к числу Пи, у меня маленькая просьба. Скорее всего, именно ты, который сейчас смотрит это видео, возможно, и подписан на мой канал. Но вот ты уже, скорее всего, нет, потому

что каждый пятый по статистике, который смотрит моё видео на Ютубе, не подписан на канал. То есть статистика у меня, что из людей, которые меня смотрят, подписаны лишь 19%. Поэтому, если ты до сих пор не подписан на канал, то нажми

на кнопку подписки прямо сейчас. Ну а я, в свою очередь, продолжу и дальше снимать самые интересные и актуальные видео на тему искусственного интеллекта.

И всё это делать каждый день. Подписывайся на канал, ну а мы продолжаем. И мы возвращаемся к числу Пи, и скорее всего вообще нужно было с этого начать видео, потому что зачем вообще математикам знать, насколько хорошо это самое число ловится дробями.

И я вам сейчас приведу пример. Есть одна странная бесконечная сумма, и название у неё смешное Flint Hills, как холмы в Канзасе. Слагаемые там маленькие и ведут себя спокойно, но иногда одно вдруг подскакивает. Это когда номер слагаемого оказывается почти точно кратным Пи. И

больше 20 лет никто не мог сказать, сходится эта сумма к какому-то числу или улетает в бесконечность. Всё упирается в то, насколько ловко Пи ловится дробями.

Будь число Пи хитрецом, скачки были бы слишком большими. А раз число обычное, значит, и сумма спокойная. Так вот, из результата модели, как пишут сами авторы, выходит, что сумма сходится. Но я всегда честен на своём YouTube-канале, и тут есть одна тонкость. Лин проверил

только главное, что число Пи не хитрец, а шаг от этого к сумме уже за пределами проверки. Его держит обычный текст статьи с рекордом 186. Помните? Это тоже проверка с допущениями. А про статью, которую специалисты назвали ужасной, вы уже слышали. То есть в этой пачке есть

всё сразу. Что-то проверено машиной, что-то с оговорками, а что-то пока просто ждёт, пока его прочитают живые специалисты. И это займёт месяцы. Ну, хорошо, так могут ли учёные объяснить это или нет? Мой ответ такой: проверить они действительно могут, ИИ скажет,

[музыка] правда это или нет, а вот понять, почему это правда и как до этого вообще додумались, получается далеко не всегда. Вспомните Постена, человек много лет работал в этой области, доказательства собраны из его же идей, и всё равно он не знал, что они стыкуются.

Тао считает, что понимание в математике растёт не столько от самих ответов, сколько от дороги к ним, а теперь ответы приходят без дороги. Но многие наоборот рады. Майкл Дуглас из Гарварда сказал, что этот день запомнит как начало новой эры в математике и математической

физике. А Дэн Лит из Торонто пересказал слова своего соавтора, мол, я всю жизнь ползал, а теперь могу летать. Ну, а напоследок будет то, что меня реально напрягло. Когда математики начали разбирать эти статьи, несколько человек обратили внимание на сами вопросы.

Некоторые задачи были такие узкие или так противоречила тому, во что верило большинство специалистов, что вряд ли команда OpenAI додумалась бы их задать.

Отсюда есть догадка, что модель сама придумывает себе задачи, возможно, в долгих разговорах целого роя агентов. И вторая странность это то, что ряд статей построен на очень похожих идеях и приёмах, настолько похожих, что выглядит так, будто авторы между собой

переговорились. Журналисты спросили об этом OpenAI напрямую, но компания ничего не ответила. А Юлия Штадельман, кстати, свою статью про 240 сделала без всяких нейросетей. И Тао в тот же день написал, что в ней есть идеи, которые было бы гораздо труднее вытащить, если бы ответы

нейросетей вышли первыми, и Юлия бросила свою работу. Подписывайтесь на канал и до новых встреч.