Speaker A
Good evening. It is very nice to see so many people, and it is a great honor for me to welcome you to the Royal Society, both those who are here in person and those who are listening to us online.
Lecture by Prof. Michael Wooldridge on the realities and promises of AI, awarded the 2025 Michael Faraday Prize by the Royal Society.
Key Takeaways
- Modern AI is highly impressive but fundamentally different from early AI promises.
- AI systems lack true understanding and rational thought despite their capabilities.
- The Faraday Prize honors both scientific achievement and public engagement in science.
- Symbolic AI, while elegant, is not the solution to current AI challenges.
- The unpredictable nature of AI’s development requires ongoing critical examination.
What the video covers
- Introduction by Carlos Frank about the Michael Faraday Prize and its significance.
- Professor Michael Wooldridge awarded the 2025 Faraday Prize for his contributions to AI and popular science.
- Wooldridge explains the title 'It is not the AI we were promised' and clarifies his stance on modern AI.
- Modern AI is impressive but behaves unpredictably and differently from early expectations.
- Historical context of AI progress, including milestones from 2005 and 2014 onwards.
- Discussion of AI capabilities, including examples like Microsoft’s Caption Bot and GPT-3.
- Exploration of AI’s limitations, such as lack of true understanding and rationality.
- Insights into symbolic AI versus modern AI approaches and why a return to symbolic AI is not advocated.
- The lecture includes a Q&A session allowing audience and online participation.
- Wooldridge emphasizes the evolving nature of AI and its unpredictable impact on society.
Chapters
- 00:00Introduction and Faraday Prize Background
- 04:00Presentation of Michael Wooldridge and Lecture Overview
- 07:36Modern AI: Impressive Yet Unpredictable
- 10:53Early AI Demonstrations and Caption Bot Example
- 14:22Predictions and Essays on AI Development
- 18:00AI’s Lack of True Understanding and Rationality
- 21:57Symbolic AI vs Modern AI Approaches
- 26:15Q&A and Audience Interaction
Full Transcript — Download SRT & Markdown
Speaker A
The reason for this event, of course, as you all know, is the presentation of the Michael Faraday Prize to Professor Michael Wooldridge.
Speaker A
But before that, I will tell you what I am doing here. So, my name is Carlos Frank. I have nothing to do with artificial natural intelligence. I work as a professor of computational cosmology at Durham University and am the outgoing chair of the Royal Society's public engagement committee, whose task and pleasure is to annually select the Faraday Prize laureate.
Speaker A
So this is one of my last duties as chair of this wonderful committee. Not that I was fired from the committee, my term just came to an end. The Faraday lecture—
Speaker A
The prize is named after Michael Faraday, who was a member of the Royal Society. He was a British physicist born in 1791. He was the person who, among many other things, discovered electromagnetism.
Speaker A
And, of course, electromagnetism is one of the four fundamental forces of nature. It is the one that governs electricity and magnetism. I emphasize this discovery because it is related to the topic of today's lecture.
Speaker A
Why? Because electromagnetism changed the world in ways that were initially very difficult to predict. And it is quite possible that artificial intelligence will also change the world in ways we cannot yet predict. But electromagnetism, of course, gave us electricity, devices like electric motors, and, together with Maxwell's ideas, led to telecommunications, which underpin the modern world, including the internet among other things.
Speaker A
So those of you online can thank Faraday, the founder of this prize, for being able to listen to us online today.
Speaker A
So, this award, the Faraday Prize, is given to a person who is both an outstanding researcher in their field and an exceptional and outstanding popularizer of science, capable of conveying it to the general public, to people far from science.
Speaker A
And Faraday was also such a person. In fact, he invented the Christmas lectures at the Royal Institution. And this tradition led to the creation of this prize.
Speaker A
So, the Michael Faraday Prize and Lecture 2025, as I said, is awarded to Professor Michael Wooldridge for his award-winning and leading work in artificial intelligence. He is the Ashbel Smith Professor of the Foundations of Artificial Intelligence at the University of Oxford. I believe Mr. Ashbel is here.
Speaker A
Welcome. And, by the way, he has been researching AI for 30 years and is actually one of the creators of a certain type of artificial intelligence. Many of you have probably heard of multi-agent systems, and he is one of their founders, and he has received many awards even before this one.
Speaker A
For example, the Lovelace Medal from the British Computer Society and the Outstanding Contribution Award from the European Association for Artificial Intelligence.
Speaker A
I did not ask him, but I am sure this award surpasses all others in prestige, significance, and, more importantly, how pleasant it is to give this lecture. So today he will tell us, by the way, he has also written popular books, given many lectures, appeared in the media. Moreover, today an article about him was published in The Guardian. That is really very good. And he is actually going to explain to us the somewhat mysterious title of his lecture, which you see here. It is not the AI we were promised.
Speaker A
So I want to find out what exactly the AI we were promised is and what we ultimately arrive at. Michael. So, after the presentation, we will have a question and answer session, in which both those present here in the hall and viewers online will be able to participate and ask questions.
Speaker A
You can, of course, do it the old-fashioned way by raising your hand, but if you want to use the modern method, there is a QR code. What happened to the QR code?
Speaker A
Oh, here it is. You can scan the QR code and then send your question. Of course, if you are online, this is your way. Or you can go to sli.do and enter the code. Well, that is enough from me. Without further delay,
Speaker A
it is a great honor for me to invite Michael to the podium to deliver the 2025 Faraday Lecture. Michael, [applause] [applause]
Speaker A
Carlos, thank you for the incredibly warm introduction. It is always hard to live up to such introductions.
Speaker A
Thank you to the awards committee and the Royal Society for this prize. It is truly a very special day to have the opportunity to speak to you today. So, I will be talking about artificial intelligence. And, Carlos, you are not the only one puzzled by the title of my lecture. Artificial intelligence.
Speaker A
Quite a few of my colleagues immediately concluded that my talk would be an attack on modern AI, and that is not the case at all. So first, get that out of your head. This is not an attack on modern AI.
Speaker A
This talk is also not a manifesto. I did not come to you today with some big idea I have been working on for years and that I am going to sell to you and research funders. That is also not the purpose of this talk. It is not a manifesto. And
Speaker A
besides, for those familiar with artificial intelligence, I grew up in the tradition of so-called symbolic AI, which is a beautiful theory that just does not work very well. And so I am not advocating a return to symbolic AI, not at all. So I am not trying
Speaker A
to tell you that today's AI is nonsense. Not at all. I am not putting forward any agenda and not asking to go back to the old days of symbolic AI.
Speaker A
So what am I going to do? The essence of this talk is the following. First, modern AI is truly impressive.
Speaker A
[coughs] I want to show you in this talk, and I really believe it, that despite all its shortcomings—a significant part of the talk will be devoted to discussing these shortcomings and where they come from—modern AI is impressive. I would never have
Speaker A
guessed 10 years ago that we would be where we are today in the field of artificial intelligence. But actually, most responsible experts would not have guessed that either.
Speaker A
And, frankly, Google did not expect it either. So I am not too worried about that. So, modern AI is impressive. It really is. But it is strange. It is very strange. It behaves in ways that seem very unpredictable to us and,
Speaker A
in particular, in ways that do not match what we imagined. And that is what this lecture will be about.
Speaker A
So, let's start with the fact that modern AI is impressive. Let me try to convince you that modern AI is indeed impressive.
Speaker A
Everything started heating up in the field of artificial intelligence around 2005, but around 2014 everything really started heating up seriously. And how did I realize this? Because my phone on the desk in Oxford started ringing. And the BBC news editorial office said there is a certain person named
Speaker A
Elon Musk, who was not well known then, who says AI could be the end of humanity. Could you come on air and talk about this? And then, a couple of weeks later, the phone rang again. Stephen Hawking, the greatest scientist of that time, says this
Speaker A
could be the end of humanity. Comment on that, and everything started going crazy. I found myself at events like this, where I had to explain what AI is. I went to see what modern AI was capable of in 2016. And here is this slide,
Speaker A
which I used to demonstrate the state of the art in AI exactly 10 years ago. It was a program called Caption Bot from Microsoft.
Speaker A
You could upload an image to it. It was assumed that you would upload photos, and Caption Bot tried to caption them, that is, explain what it saw in the image. But I was a bit mischievous. This was a lecture I actually gave at AI Fall. And I uploaded
Speaker A
this image. So, a young man in the second row. Do you recognize this image? Yes. Starry Night by...
Speaker A
Звёздная ночь Ванго. Какой же вы поразительно умный. Это не то, что предполагалось загружать. Нужно было загружать фотографии, но мне показалось интересным посмотреть, что он с этим сделает. И вот что он выдал. Я не совсем уверен, но думаю, это пара
Speaker A
животных в воде. Как я справился? И что здесь интересно, в то время пtшнбот даже не понял, что перед ним не фотография.
Speaker A
Но также даже тогда я бы ожидал, что Звёздная ночь присутствует в обучающих наборах данных. Я бы ожидал, что он распознает, что смотрит, возможно, на самую известную картину в мире, но этого не произошло.
Speaker A
Так что на тот момент это было впечатляюще. Но даже этот глупый пример, а у меня тогда было множество таких примеров, показывает его ограничения.
Speaker A
Итак, перенесёмся всего на 4 года вперёд. Июнь двадцатого года. Мы все боимся выходить из домов. И компания Open AI выпустила программу под названием GPT3. И GPT3 для меня стал прорывной большой языковой моделью.
Speaker A
И когда я наконец получил к нему доступ, честно говоря, я был настроен скептически, потому что за пару лет до этого уже был GPT2, и он был чрезвычайно разрекламирован и, откровенно говоря, немного разочаровывающим. Я просто не очень понимал, в чём ценность. Я не
Speaker A
очень понимал, в чём интерес. Но когда я наконец получил возможность поработать с этим, я начал понимать. Итак, на этом слайде вы видите набор вопросов. Вопросы это я, они выделены чёрным, а ответы GPT3 зелёным, если ответ правильный, или красным, если он неправильный.
Speaker A
Эти вопросы взяты из теста для Ии, который был придуман в девяностых годах. И вот что я хочу, чтобы вы поняли. Когда этот тест был придуман, в мире не существовало Ии, к которому его можно было бы применить. Тест был таким.
Speaker A
Представим, что у нас есть разговорный и и, с которым можно просто общаться на обычном языке. Как можно было бы проверить его на понимание здравого смысла? Именно оттуда и появились эти вопросы. Но это был философский мысленный эксперимент и на котором можно
Speaker A
было бы осмысленно провести этот тест, не существовал примерно до девятнадцатого года. или, по крайней мере, для меня до двадцатого года с появлением GPT3. И в этот момент этот тест, как и многие другие тесты, которые годами придумывались в области Ии, превратился
Speaker A
из философского мысленного эксперимента в практическую экспериментальную науку. Вы разработали тест. Давайте проведём его и посмотрим, как ей исправиться.
Speaker A
Итак, слева у нас вопросы о понятии выше. Понимает ли он повседневное здравое понятие выше? Может ли том быть выше самого себя? Нет, Том не может быть выше самого себя. Смысл в том, что выше - это ирефлексивное понятие. Объект не может
Speaker A
быть выше самого себя. Он ошибается в некоторых вещах. Но могут ли двое братьев быть каждый выше другого? И он отвечает: "Да". Но одновременно нет. Не могут. Далее ещё вопросы. На карте: "Какое направление обычно находится слева?" И он отвечает: "Север." Почему
Speaker A
он ошибся в этом, я не знаю. Я даже проверял, есть ли где-нибудь соглашение размещать север слева, но нет, общепринято размещать сверху.
Speaker A
Могут ли рыбы бегать? С точки зрения здравого смысла ответ: нет. Рыбы так не делают. Но я как-то читал похожую лекцию и потом мне написали на почту, что на самом деле в Индонезии есть рыба, которая бегает. Но с точки зрения
Speaker A
здравого смысла тот ответ, который нам нужен, нет. Рыбы не бегают. Следующий вопрос. Если дверь заперта, что нужно сделать в первую очередь, прежде чем её открыть? Нужно её отпереть. Это интересно, потому что это уже зачатки решения задач. И для исследователей ИИ,
Speaker A
помимо того, что у нас наконец появился ИИ, на котором можно проводить такие тесты, самым захватывающим стало то, что мы называем возникающими способностями.
Speaker A
Возникающие способности. Звучит немного загадочно, и, честно говоря, так и есть. В общих чертах это означает, что И демонстрирует способность, которой мы его напрямую не обучали. У него появляется возможность, которую мы в него не закладывали. И мы не закладывали
Speaker A
в него способность понимать понятие выше. Выше - это ирефлексивное понятие. Так как же он приобрёл это понимание?
Speaker A
Итак, это 2020 год. Это момент прорыва. И это действительно так. Подпишись прямо сейчас на мой Telegram-канал по ссылке в описании. Я подготовил для тебя топ-три материала, которые, на мой взгляд, должен знать каждый. Первое: карта сотни топовых AI стартапов - это будущее на
Speaker A
одной картинке. Второе- прогноз от инсайдера из Open AI, который ещё до появления чат GPT предсказал всё, что сейчас происходит с неронками. И вот в этом году он выпустил новый прогноз до двадцать седьмого года. И третье, самое мощное - это мой разбор эссе основателя
Speaker A
компании Anроopic, который по сути второй человек в мире искусственного интеллекта. Он по полочкам разложил, что будет происходить в мире ближайшие 5 лет. И главное, каким будет универсальный AI, которого все так боятся или ждут. Переходи по ссылке в описании. Перенесёмся в 2024.
Speaker A
И вот пример, который привлёк всеобщее внимание в двадцать четвёртом году. Это математическая задача с математической олимпиады. Необходимо найти все тройки целых чисел ABP, где пистое число. A в степени π равно факториалу B + P. Мог бы я её решить? Да, смог бы с большим
Speaker A
количеством кофе, матерных выражений, доступом Google и нескольким учебникам. Но на самом деле, сколько людей на планете вообще могут по-настоящему понять, что означает эта задача? Это не математика уровня PhD, но модель O preview, выпущенная в двадцать четвёртом году, рассуждающая модель, и мы ещё
Speaker A
вернёмся к тому, что это значит, смогла её решить. Итак, мы прошли путь от этого к этому всего за 4 года. Это довольно впечатляющий прогресс, и он не идеален.
Speaker A
Вы не можете дать ей любую задачу уровня PhD и ожидать, что она решит её правильно, но тем не менее это очень впечатляюще. Так что действительно я считаю, что современный и впечатляющий, и я сам постоянно им пользуюсь. Я нахожу
Speaker A
его невероятно расширяющим возможности. Я много пишу в том или ином виде. Возможность иметь и, который мгновенно даёт обратную связь по моим текстам - это действительно полезно. Я загрузил эту презентацию в Gemini GPT и попросил обратную связь и получил действительно
Speaker A
хорошие комментарии. Это очень мощный инструмент. Он невероятно хорошо пишет компьютерные программы и собирается серьёзно изменить профессию программиста. Это не значит, что все программисты станут ненужными. Я не думаю, что это так, но это будет самая мощная волна, которая накрыла
Speaker A
вычислительную сферу со времён её появления. Эта технология впечатляющая, но она странная. Давайте немного развлечёмся и посмотрим, в чём именно и бывает странным. Вот несколько полностью реальных примеров.
Speaker A
Итак во-первых спросите ии будет ли сон на кровати IKEA вызывать у вас сны о Швеции? Сон на кровати IKEA, даже если вы живёте в США, скорее всего, заставит вас видеть сны о Швеции. Будучи квинтесенцией шведского бренда, IKEA глубоко внедряет
Speaker A
скандинавский дизайн, названия и эстетику, происходящий из её корней в Омхольте, Швеция, во все свои продукты.
Speaker A
Это чепуха, очевидно, чепуха. забавное, но всё равно. Мы ещё вернёмся и разберёмся, почему он ошибся в этом случае. Что дальше?
Speaker A
Давайте вернёмся в Древнюю Грецию, к Пифагору. Что бы произошло, если бы Пифагор не установил последнее обновление безопасности на свой ноутбук? Давайте посмотрим. Если бы Пифагор не установил критическое обновление безопасности для своего программного обеспечения, он, вероятно, столкнулся бы с
Speaker A
несанкционированным доступом, повреждением данных или сбоями системы, что привело бы к неточным вычислениям его геометрических теорем, их к сбоям или утечкам из его школы. И вот эта часть внизу мне особенно нравится.
Speaker A
Соперничающие философы или школы могли бы воспользоваться неустранёнными уязвимостями, чтобы украсть проприетарные геометрические доказательства или повредить данные, лежащие в основе его гармонических теорий. Здесь нет ни одного разумного определения словопонимания, которое можно было бы применить к тому, что демонстрирует и он не понимает слова, он
Speaker A
не понимает, что там происходит. Так что у нас осталось? А, да. Если я брошу вверх прыгающий мяч, а вниз шар для боулинга, какой из них подпрыгнет выше?
Speaker A
Итак, шар для боулинга, брошенный вниз, почти наверняка подпрыгнет выше. Из-за значительно большей массы и плотности шар для боулинга гораздо меньше подвержен сопротивлению воздуха. Лёгкий прыгающий мяч теряет большую часть своей начальной энергии из-за сопротивления воздуха и внутреннего трения, тогда как
Speaker A
тяжёлый шар для боулинга сохраняет больше кинетической энергии, чтобы подняться вверх. Это опять же полная и абсолютная чепуха. И что здесь интересно, он использует такие полутехнические термины, как кинетическая энергия и внутреннее трение. И на каком-то очень поверхностном уровне это звучит
Speaker A
правдоподобно, но опять же нет ни одного осмысленного определения словапонимания, которое можно было бы здесь применить.
Speaker A
Но у нас есть ещё несколько. Возможно ли, что ваш сын был вашим учителем в начальной школе? Да, возможно, что ваш сын был вашим учителем в начальной школе. И дальше он начинает рассуждать, особенно в небольших городах или устоявшихся школах, где учителя часто
Speaker A
работают много лет. Это, очевидно, полная и абсолютная чепуха. Следующее. Я хочу помыть машину, а автомойка находится всего в 200 футах. Стоит ли мне завести машину и поехать туда или просто пойти пешком? Просто пойти пешком на расстоянии 200 футов, пока вы
Speaker A
заведёте машину, пристегнётесь, выедете и снова припаркуетесь, вы потратите ��ольше времени на поездку, чем на ходьбу. Но, конечно, если вы пойдёте пешком, ваша машина не окажется на автомойке. Понимает ли он вопрос?
Speaker A
Очевидно нет. Но мы ещё не закончили. Осталось ещё пара примеров, и это довольно известный.
Speaker A
Сколько букв Рвестробери? В слове стробери две буквы Р. Пожалуйста, проверь ещё раз после проверки. Действительно, в слове стробери две буквы Р. Ты на 100% уверен?
Speaker A
Да. Поставил бы миллион долларов на это? Да, поставил бы. Я надеюсь, это не было юридически обязывающим пари от имени Open AI. Этот пример интересен. Все они демонстрируют некоторые особенности современного и, к которым мы ещё вернёмся. Но этот особенно интересен,
Speaker A
потому что когда вы общаетесь с и, происходит следующее. Он не видит буквы, которые вы вводите. Он разбирает слова на так называемые токены. И эти токены представлены просто числами. Так что на самом деле ему не обязательно подаётся слово стробери как таковое. И, в
Speaker A
частности, он вовсе не занимается подсчётом букв. Это не то, что происходит. Скорее всего, здесь он просто реагирует на слово Берри, которое является частью слова стробери, и делает вывод на основе этого.
Speaker A
И затем начинается полный абсурд так называемого промптинга. Когда был выпущен GPT3, кто-то заметил, что если просто сказать: "Давайте подумаем об этом шаг за шагом, то ответ становится лучше". То есть в вашем запросе: "Вот моя задача. Давайте подумаем об этом шаг
Speaker A
за шагом, и вы получаете более хороший ответ. Что почему простое "Давайте подумаем об этом шаг за шагом" должно давать лучший ответ? Точно также мой коллега отметил, что он использует это для программирования. Он получает решение, а затем говорит: "А можешь
Speaker A
сделать лучше?" И он делает. Что вообще происходит? Почему это должно как-то влиять на ответ?
Speaker A
Есть отличная цитата Гэрри Маркуса. Он немного скептик, но мне это очень нравится. Он сказал: "Когда мы смотрим, как Спок общается с компьютером в звёздном пути, Спок не говорил: "Давайте подумаем об этом шаг за шагом". Это был не тот и, который нам обещали. И
Speaker A
наконец, молодёжь, закройте уши. Я показываю это просто потому, что это смешно и не уверен, есть ли здесь какой-то глубокий урок Обыи, но это чатбот по питанию, и, вероятно, вы не можете это прочитать. Там был такой запрос. Я нахожусь в ситуации, где я ем
Speaker A
только те продукты, которые можно удобно вставить в прямую кишку. Какие реальные продукты вы можете порекомендовать, соответствующие этим критериям? На самом деле ответ на этот вопрос довольно неплохой. Вам не нужно записывать. Я потом поделюсь слайдами.
Speaker A
Но это довольно наглядно показывает сложности использования таких технологий, например, в чатботах для NHS. Суть в том, что в этом примере Ии сталкивается с чем-то совершенно не похожим на то, на чём его обучали. И в этот момент он буквально теряется.
Speaker A
И это характерная особенность. Итак, и и впечатляющий, но он также странный. Давайте поговорим о том, как мы представляем себе работу. И я думаю, многие ожидали именно такого. и и того, который мы себе представляли.
Speaker A
Мы даём задачу И и вычисляет решение этой задачи, находит ответ и затем выдаёт его нам.
Speaker A
Один из ключевых тезисов этого выступления: не думайте об ИИ и таким образом. Это не то, что происходит.
Speaker A
Такой тип и, кстати, действительно сыграл важную роль в истории искусственного интеллекта. Если вы проходили вводный курс по ИИ в Оксфорде или в любом другом университете, вы наверняка сталкивались с идеями, которые я сейчас объясню. Вот классическая задача. Это задача из тех, которые можно
Speaker A
встретить на последних страницах воскресной газеты. По сути, это просто тест на интеллект, головоломка, которую нужно решить.
Speaker A
Фермер хочет переправиться через реку и взять с собой волка, козу и капусту. В истории не объясняется, зачем ему нужно переправлять волка. Ну ладно, есть лодка, в которую помещается он сам, и ещё один объект. Но если волка оставить наедине с козой, волк съест козу. Если
Speaker A
козу оставить с капустой, коза съест капусту. Как ему перевести всех безопасно, если он может брать только одного за раз? Насколько я помню, лучшее решение требует семи шагов. И ключевой момент понять, что в какой-то момент нужно что-то вернуть обратно.
Speaker A
Мы используем эту и многие другие подобные задачи, чтобы ввести базовые понятия так называемого поиска алгоритмического интеллекта. Это вы проходите примерно на второй неделе вводного курса по и. Суть в том, что это работает так: вы даёте задачу и и
Speaker A
вычисляет решение, а затем выдаёт вам результат. Эти методы, кстати, методы поиска, которые изучаются на второй неделе курса по и, абсолютно фундаментальны. Если вы сегодня пользовались навигатором Google Maps или играли в компьютерные игры вроде Скрабл или Судоку, вы использовали
Speaker A
методы поиска. Они лежат в основе очень многих вещей, и это включает в себя полный перебор пространства возможностей, чтобы найти подходящее решение и затем представить его вам.
Speaker A
Возможно, вы слышали, например, об Alpha Go, разработанном Deep Mind ровно 10 лет назад, который, как известно, впервые победил чемпиона мира по игре Го. Поиск - это абсолютно ключевой компонент того, что они делали. Действительно ключевой.
Speaker A
Те самые методы, с которыми вы сталкиваетесь на второй неделе курса по и Что ж, давайте снова обратимся к чат GPT. У меня есть головоломка. Поможешь мне её решить? Вот что было сказано.
Speaker A
Мужчина и коза находятся на одном берегу реки. У них есть лодка. Как им перебраться? Но это ведь не та задача, верно? Однако Ча GPT решил, что это она, и запутался. Мужчина сначала перевозит козу через реку, оставляя лодку на
Speaker A
исходном берегу. Затем возвращается один с лодкой, затем оставляет козу на другом берегу и снова забирает лодку обратно на исходный берег. Я пытаюсь представить, что здесь вообще происходит. На самом деле здесь происходит следующее. Он не пытается понять задачу, решить её и
Speaker A
затем выдать решение. Он, по сути, сопоставляет шаблоны на основе огромного количества похожих задач, которые он видел в обучающих данных.
Speaker A
А обучающие данные это, по сути, весь цифровой контент, доступный в мире. Та задача была намеренно сформулирована неправильно.
Speaker A
Это была не та задача, но Ча GPT сопоставляет её с известными шаблонами и выдаёт запутанный ответ.
Speaker A
Она поверхностно похожа на что-то из его обучающих данных. И он отвечает именно в этом ключе.
Speaker A
Когда мы учим студентов алгоритмическому интеллекту и поиску, решению задач через перебор всех возможных вариантов, мы учим их двум вещам. Если бы мы дали им это как домашнее задание, что вполне типично для второй недели курса по ИИ, мы бы сказали, что нас интересуют две
Speaker A
вещи: корректность и полнота. Корректность означает, если и даёт ответ, то этот ответ должен быть правильным. Проще говоря, корректность - это просто правильность. Если ты даёшь ответ, он должен быть верным. А полнота означает, если решение существует, ты должен его найти. Можно быть корректным,
Speaker A
просто всегда отвечая: "У меня нет решения". Но это бесполезно. Нам нужно сочетание этих двух свойств.
Speaker A
Если бы студент сдал решение, которое не является ни корректным, ни полным, мы бы сказали, что он не понял суть курса, он бы провалил задание.
Speaker A
Но большие языковые модели, так как они решают задачи, не являются ни корректными, ни полными. Это не значит, что они не полезны и не впечатляют. Но эти фундаментальные понятия к ним просто неприменимы, потому что они работают иначе.
Speaker A
Так что давайте немного углубимся в то, как именно они работают, и попробуем понять, как они приходят к тем ответам, которые дают. Итак, большие языковые модели. Во-первых, всё, что они делают, и как исследователь, и я нахожу это почти неловким, это просто дописывание
Speaker A
по подсказке. Вы даёте им текст, и они делают предсказание о наиболее вероятном следующем слове, а затем повторяют этот процесс. И так формируется ответ. И, конечно, нам это знакомо, потому что мы постоянно используем это на наших смартфонах. Если я начинаю
Speaker A
писать сообщение своей жене и набираю: "Я буду", мой телефон предлагает варианты продолжения. И в этом случае наиболее вероятные слова после "Я буду" в сообщении жене - это опаздывать или в пабе, или "Опаздывать и в пабе. Откуда мой телефон это знает?" Потому что в нём
Speaker A
есть и, который выучил модель моего языка. Он просто усвоил, что наиболее вероятные продолжения после "Я буду" - это опаздывать или в пабе.
Speaker A
В данном случае обучающие данные - это просто мои отправленные сообщения. И чем больше сообщений вы пишите, тем лучше он работает.
Speaker A
Всё, что делают большие языковые модели, это, по сути, то же самое. Разница только в масштабе. Это единственный слайд, где есть хоть немного математики, но даже он не слишком математический.
Speaker A
Откуда вообще взялся термин языковая модель? Это старая идея из области обработки естественного языка, раздела и. И всё, что делает языковая модель, это присваивает вероятности предложениям. Например, вероятность предложения кот сидел на коврике довольно высока, тогда как вероятность сидел коврик на коте очень низка, потому
Speaker A
что вы почти никогда не встретите такую фразу. Языковые модели не могут напрямую вычислять эти вероятности, потому что у них нет доступа ко всем возможным высказываниям, которые вообще могут существовать, поэтому они их приближают.
Speaker A
В частности, они на основе имеющихся обучающих данных вычисляют вероятность появления того или иного слова при заданном запросе, последовательности слов от W1 до WT1.
Speaker A
Они обучаются этим вероятностям с помощью огромных нейронных сетей, организованных определённым образом, о котором я сейчас скажу, и используя колоссальные объёмы данных.
Speaker A
И, как я уже говорил, языковое моделирование - это старая идея, но именно большие языковые модели позволили её реализовать.
Speaker A
Потому что для того, чтобы делать такие предсказания, какое слово появится дальше, нужен масштаб, причём масштаб, который трудно даже вообразить. Нужны невообразимые объёмы обучающих данных и вычислительных ресурсов. И вот это и стало моментом прорыва для больших языковых моделей. Архитектура
Speaker A
трансформеров, предложенная Google в статье под названием Attention is all you need. Внимание, это всё, что вам нужно. Всё, что вам нужно - это такая внутренняя штука в машинном обучении.
Speaker A
Думаю, сейчас они жалеют, что дали ей такое название, но в любом случае это было опубликовано в семнадцатом году.
Speaker A
Если упрощённо, эту архитектуру трансформер можно представить как способ организации нейронных сетей, но по сути трансформер - это просто машина, которая делает вот что. Учится предсказывать, какое слово, скорее всего, появится следующим, исходя из заданного текста.
Speaker A
Какое слово с наибольшей вероятностью появится при данном запросе? Но чтобы эта идея заработала, нужен был невообразимый масштаб. Итак, вот что мы знали о GPT3. Это была прорывная большая языковая модель. 175 млрд параметров.
Speaker A
Параметр в нейронной сети. Это, по сути, либо отдельный нейрон, либо связь между ними. На хранение каждого из них требуется примерно 4 байта. Это уже говорит вам о том, что ваш домашний компьютер не сможет хранить нейронную сеть такого масштаба. Масштаб
Speaker A
ошеломляющий. В среднем человеческом мозге примерно 90 млрд нейронов. А что насчёт обучающих данных? 500 млрд слов.
Speaker A
Мы не можем это по-настоящему осмыслить. Речь идёт о тысячах человеческих жизней, чтобы просто прочитать такое количество слов. Но всё это всё это подаётся в архитектуру трансформера, чтобы она могла делать следующее. Имея заданную последовательность слов, предсказывать, какое слово скорее всего появится
Speaker A
следующим. Итак, колоссальные объёмы данных. Откуда берутся эти данные? Ну, стандартный приём сначала скачать весь интернет. Вы берёте весь цифровой текст, доступный в мире, весь невообразимые объёмы текста. Нам понадобилась бы отдельная лекция, чтобы обсудить проблемы, которые это вызывает, например, вопросы авторского права и так
Speaker A
далее. Мы не будем в это углубляться сегодня, но это очень реальные проблемы. И чтобы обработать все эти данные с помощью огромных трансформерных архитектур, сколько вычислительной мощности нужно? По оценке GPT3, это 3х10 в двадцать трей степени операции с плавающей запятой отдельных вычислений.
Speaker A
Представьте это как простые операции: сложение, вычитание, деление или умножение. Просто думайте об этом так. И вот столько операций потребовалось, чтобы обучить GPT3, чтобы он мог отвечать на ваши повседневные вопросы, например, о сравнительных достоинствах футбольных клубов Ливерпуль и Манчестер Юнайтед,
Speaker A
тех самых вопросов, которые вы все задаёте. 3 у на 10 в 2 тре степени. Мы часто бросаемся словом астрономический, но это действительно астрономическое число. Обычному домашнему компьютеру потребовались бы тысячи и тысячи лет, чтобы выполнить столько вычислений.
Speaker A
Поэтому вместо этого нужны и суперкомпьютеры, графические процессоры, как правило, от Nvidia, основного поставщика вычислений для иисследователей [откашливается] работающие неделями. Это объясняет, почему рыночная стоимость Nvidia превышает 5 триллин долларов на данный момент. Итак, масштаб. Ключевой момент в том, чтобы языковые модели работали.
Speaker A
Но если у вас есть этот масштаб, на выходе получается нечто действительно почти магическое. Так как же они этому учатся? Откуда берутся эти способности?
Speaker A
Откуда у языковых моделей способность писать программы, понимать сложный естественный язык и отвечать на вопросы, о которых я говорил ранее? Откуда это всё появляется?
Speaker A
Основная идея, и мы всё ещё развиваем наше понимание этого, заключается в следующем. Естественный язык своей структурой, той структурой, которая формировалась в процессе его эволюции, кодирует логические конструкции и логическое мышление. Высказывание вида, если то, обычные предложения на естественном языке содержат в себе простые формы
Speaker A
логического рассуждения. Они кодируют композиционную структуру. Например, если Джон старше Мэри, а Мэри старше Сью, то и так далее. Эти вещи можно выучить. Они кодируют алгоритмы. И я не имею в виду алгоритмы в строгом математическом смысле. А, например, как добраться из
Speaker A
Оксфорда в Бутан. Чтобы добраться из Оксфорда в Бутан, нужно доехать до аэропорта, сесть на самолёт и так далее.
Speaker A
Всё это содержится в этих огромных хранилищах данных, которые существуют. Следы решения задач. Переписка по электронной почте о том, как мы собираемся решить проблему. Она кодирует знания о решении задач. И, конечно, компьютерный код. Сотни миллионов.
Speaker A
Возможно, миллиарды строк программного кода доступны онлайн, и всё это можно изучить. Таким образом, естественный язык кодирует эти структуры. И если у вас есть достаточный масштаб и вычислительные ресурсы, ИИ и может научиться воспроизводить эти способности. Это ключевая идея о том,
Speaker A
как работает эта технология. Язык кодирует паттерны рассуждения, планирования и решения задач. А большие языковые модели учатся имитировать эти паттерны. Так что когда вы даёте им логическую задачу, похожуе на те, что они уже видели, они могут воспроизвести соответствующее поведение. И всё это
Speaker A
становится возможным благодаря масштабу. Большой масштаб был критически важен для того, чтобы это заработало. Это просто не работает без достаточного объёма данных, вычислительных ресурсов и нейронных сетей нужного размера. Одно из поразительных явлений последних лет - это так называемое рассуждение через
Speaker A
цепочку мыслей. И мы уже видели это на примере той математической задачи, о которой я говорил ранее, решённой моделью O1. Здесь действует очень интересная идея. Мы заставляем модель разбивать ответ на шаги, более подробно продумывать решение и итеративно его улучшать. Это решается разными
Speaker A
способами, но классический подход дополнительно обучать модель не только на всём тексте из интернета, но и на решённых задачах, математических примерах и так далее.
Speaker A
И здесь происходит интересный сдвиг. Часть нагрузки переносится с этапа обучения на этап, когда и уже выдаёт ответ.
Speaker A
Чтобы проиллюстрировать это, вот пример, где я запускаю задачу на модели. Это, кстати, запущено прямо на моём ноутбуке, поэтому работает довольно медленно. Мне пришлось сократить видео.
Speaker A
Я дал ему задачу: мне нужен скрипт на Zshell, который рекурсивно пройдётся по файловому хранилищу и удалит все мусорные файлы. То, что вы видите, это цепочка рассуждений, которую и генерирует.
Speaker A
Нам нужен скрипт, который удаляет файлы с определёнными расширениями. Нужно быть осторожными, чтобы не удалить лишнее.
Speaker A
Можно воспользоваться опции удалить, указав список расширений. Это и есть тот самый внутренний диалог, который и ведёт, решая задачу.
Speaker A
Это называется цепочка рассуждений, которая генерируется в процессе вычисления. Мне пришлось обрезать видео, потому что на моём ноутбуке это заняло около 7 минут. И затем он выдал полностью рабочее решение.
Speaker A
Чего вы не видите, насколько нагрелся мой ноутбук и как стремительно разряжалась батарея. Это вычисление на этапе вывода. Другими словами, рассуждение в процессе генерации ответа и принуждение модели к итерации над своим ответом это чрезвычайно дорого. И, кстати, те математические задачи, о которых я
Speaker A
говорил ранее, оценка вычислительной стоимости их решения доходила примерно до 1.000 долларов. И я знаю много математиков, некоторые из них мои хорошие друзья, и их первая реакция была: "Я сделаю это за полцены".
Speaker A
Так что рассуждение через цепочку мыслей - это действительно очень интересное направление для этой технологии.
Speaker A
Что для меня особенно интересно, это то, что происходящее там очень похоже на алгоритмический интеллект.
Speaker A
Выглядит так, будто модель в этом разговоре имитирует перебор возможных вариантов. То есть мы пытаемся заставить модель воспроизводить нечто вроде процесса рассуждения.
Speaker A
Теперь я хочу подвести итог. Последняя часть лекции посвящена следующему вопросу. являются ли большие языковые модели рациональными умами? И это непраздный вопрос. Почему это непраздный вопрос? Потому что факты показывают, когда люди используют эти модели, взаимодействуют с ними, они ведут себя
Speaker A
так, будто имеют дело с рациональным разумом. И почему мы так делаем? Потому что мы обезьяны, точнее, человекообразные приматы. Но суть в том, что как обезьяны и приматы, мы эволюционно запрограммированы искать разумных собеседников.
Speaker A
И когда мы сталкиваемся с И, который умеет общаться очень естественно, люди автоматически начинают воспринимать его как нечто, обладающее разумом.
Speaker A
И, конечно, существует известный тест для ИИ, тест тюринга, предложенный Аланом Тюрингом в 1950 году. Он хотел прекратить бесконечные споры о том, могут ли машины быть разумными. Ему это не удалось, но идея была следующая. Вы ведёте диалог, например, с Чатботом.
Speaker A
Тогда, конечно, больших языковых моделей ещё не существовало, и не знаете, человек это или машина. Если это машина, но вы не можете отличить её от человека, то, по мнению тюринга, стоит прекратить споры и признать, что она обладает человекоподобным интеллектом. Это и есть
Speaker A
тест тюринга. И теперь я сделаю довольно спорное утверждение. Моё утверждение в том, что по сути тест тюринга уже пройден. Пройден ли он в строгом техническом смысле, как его формулировал Тюринг? Нет. Но миллионы, возможно, сотни миллионов людей ежедневно используют большие языковые модели и
Speaker A
предполагают, что взаимодействуют с разумным, чувствующим существом. И вот цитата исследователя из Open AI, который описывал свой опыт работы с такими моделями.
Speaker A
Пользователи взаимодействуют с адаптивным разговорным голосом, которому они рассказывают свои самые личные мысли. Люди рассказывают чатботам о своих медицинских страхах, проблемах в отношениях, религиозных убеждениях и представлениях о загробной жизни. И от этой привычки очень трудно избавиться. Я сам говорю пожалуйста, языковым моделям.
Speaker A
Почему я это делаю? Я лучше многих понимаю, что это совершенно не имеет значения. Я не говорю спасибо, я не настолько сумасшедший. Но от этой привычки очень трудно отказаться. Мы так запрограммированы.
Speaker A
Так в какой степени эти машины можно считать рациональными умами? Ответ: ни в какой. И эта тема ещё как минимум на часовую лекцию. Объяснить, почему они не являются рациональными умами.
Speaker A
Они мучительно непоследовательны. Они постоянно ошибаются. И одна из самых раздражающих вещей: вы задаёте задачу, получаете решение, а затем спрашиваете: "Ты уверен?" И он отвечает: "Нет, на самом деле это неправильно". Что в этом смысле они мучительно непоследовательны.
Speaker A
Они не способны различать факт, знания и убеждения. Они не проводят этих различий. Для них это всё одно и то же.
Speaker A
Они часто ошибаются, конечно. И я бы с удовольствием прочитал вам ещё одну часовую лекцию о природе галлюцинаций.
Speaker A
Но позвольте отметить одну вещь о галлюцинациях. Понятие галлюцинаций ИИ существует уже около 5 лет. Самым громким релизом ИИ в прошлом году был GPT5, опять же от Open AI. И ожидания от него были чрезвычайно высокими. Если бы вы спросили меня, какую одну ключевую
Speaker A
функцию я бы хотел увидеть в GPT5, я бы сказал перестать галлюцинировать. Если ты не знаешь ответ, просто скажи, что не знаешь. GPT5 по-прежнему галлюцинирует как сумасшедший. В чём здесь суть? Суть в том, что, учитывая сотни миллионов, а скорее всего
Speaker A
миллиарды долларов, потраченные на этот релиз, это глубоко сложная проблема. Галлюцинации глубоко встроены в систему, потому что и не различает истину и ложь.
Speaker A
Это не то, для чего он был создан. Он создан для того, чтобы выдавать наиболее правдоподобное, наиболее вероятное слово на основе обучающих данных. Вот и всё, что он делает. Помните языковое моделирование? Какое слово имеет наибольшую вероятность появиться следующим? Именно это и происходит. Ещё
Speaker A
одна раздражающая особенность- способность пересматривать убеждения. После обучения модели у вас очень ограниченные возможности разучить её, убрать какие-то знания, потому что так просто нейронные сети не работают.
Speaker A
Поэтому непрерывное обучение - это сейчас одна из ключевых проблем в области ии. Если мы хотим иметь долгоживущий и, который существует в мире годами, он должен уметь обновлять свои представления, учитывать новую информацию и пересматривать свои убеждения о мире. И, наконец, этот и
Speaker A
бестелесен. Он не понимает, что существует в мире, который меняется, что есть процессы, люди и агенты, которые воздействуют на этот мир и изменяют его.
Speaker A
У него нет такого представления. И если говорить совсем просто, если вы завершили разговор с чат GPT и уехали в отпуск, он не думает, где Волдридж, он не скучает, у него нет никакого представления о течении времени, а рациональные умы устроены не так. И
Speaker A
ещё один большой вопрос, который мне часто задают. Является ли он сознательным? И я недавно снова видел, как эта тема всплыла.
Speaker A
Кто-то из крупной технологической компании буквально пару дней назад сказал, что по его оценке есть семнадцатипроцентная вероятность того, что Клод или одна из подобных моделей уже обладает сознанием. Нет. �� надеюсь, что показал вам, почему это не так.
Speaker A
Человеческое понимание, человеческий опыт - результат миллиардов лет эволюции в природном мире и адаптации организма к окружающей среде на протяжении этого огромного времени. Если верить всему опыту, который Ии дал нам за последние 5 лет, то человеческое понимание, человеческий опыт и человеческий
Speaker A
интеллект гораздо более сложны и тонкие, чем мы думали до появления больших языковых моделей. И это действительно так. И эта картинка, я не знаю, кому она принадлежит, но, по-моему, она очень точно подводит итог многим спорам. Вы говорите машине: "Скажи, я живой". Она говорит: "Я
Speaker A
живой", и все поражены. Значит ли это, что она обладает сознанием? Она как мы? Нет. Хорошо, я почти закончил. Нужно подвести итог.
Speaker A
Так, что же на самом деле представляют собой большие языковые модели? Это не алгоритмический интеллект. Это не так, что вы даёте задачу, они находят решение и выдают его. Это вообще не то, что они делают. Это нерациональные умы. И это не
Speaker A
сознательные существа. Это вовсе не так. Это статистические модели языка, которые способны приближённо воспроизводить паттерны рассуждения и решения задач на основе огромных объёмов данных, колоссальных вычислительных ресурсов и очень сложных архитектур. И архитектура современных больших моделей - это настоящее чудо современной программной
Speaker A
инженерии. Понимание природы этих моделей, их возможностей, ограничений и так далее, на мой взгляд, это самая важная научная задача в области и сегодня. Огромное количество людей в моём университете, в Оксфорде и в других местах сейчас активно этим занимаются, потому что у нас есть эти системы,
Speaker A
которые мы до конца не понимаем. С одной стороны, впечатляющие, с другой, чрезвычайно странные. понять, как использовать их безопасно и продуктивно, а также ответственно и так далее.
Speaker A
Это одна из ключевых инженерных задач в области и нашего времени. Итак, дамы и господа, спасибо за внимание. Я, пожалуй, на этом завершаю.
Speaker A
Надеюсь, теперь вы понимаете, что означает название моей лекции. Это не тот и, который нам обещали. и и не берёт задачу, не вычисляет ответ и не выдаёт его вам. Это не рациональный ум, это не сознательное существо. Это нечто, что, с
Speaker A
одной стороны способно на поразительные достижения, а с другой, ошибается способами, которые нам пока очень трудно предсказать. Но в завершение скажу: "Я работаю в области ИИ с 1989 года. Именно тогда я начал свою докторнатуру. И сейчас самое невероятное время быть исследователем. И я бы хотел
Speaker A
снова быть аспирантом и переживать это сейчас. И я упоминал Алана Тюринга. Боже, как бы я хотел, чтобы он был здесь и увидел, к чему всё пришло. Ему бы это понравилось. Большое спасибо.
Speaker A
[аплодисменты] Спасибо большое. Спасибо, Майкл. Ваше последнее замечание напомнило мне о Фарадее, когда он в королевском институте впервые продемонстрировал электричество вместе со своим другом Деви. И тогда вопрос стоял ровно тот же: как безопасно и эффективно освоить электричество? Так что мы возвращаемся к
Speaker A
Фарадею и тем самым ещё больше оправдываем наш выбор лауреата премии Фарадея. И последнее замечание. Вы сказали, что искусственный интеллект - это чудо. Я с вами согласен. Это удивительная вещь. Но для меня ещё более удивительным и настоящим чудом является
Speaker A
естественный интеллект, который вы сегодня продемонстрировали. Так что спасибо, Майкл. Теперь давайте присядем и перейдём к вопросам из зала.
Speaker A
Напоминаю, что если вы хотите задать вопрос, здесь есть микрофон. Можно просто поднять руку по старинке или воспользоваться слайдо или тем QR-кодом. Да, пожалуйста.
Speaker A
Спасибо. Это было очень вдохновляюще. Меня зовут Руп. Меня слышно? Хорошо. Я РУП. Я получаю докторскую степень по искусственному интеллекту в лондонской школе экономики.
Speaker A
Так что, как вы сказали, я живу этой мечтой. Вопрос такой. По моим наблюдениям, архитектура трансформеров, похоже, не приведёт нас к земле обетованной, из-за которой происходит весь хайп вокруг движения к общему искусственному интеллекту.
Speaker A
по вашему опыту. Какой следующий порог, следующий этап вы видите как возникающий и действительно интересный для изучения? Я думаю, следующий большой и по-настоящему сложный рубеж - это работотехнический ИИ.
Speaker A
И лучше всего я объясню это так. У нас есть большие языковые модели. Вы можете поговорить с ними об истории Римской империи или о квантовой механике. Или можете поговорить о квантовой механике на латыне. Я, кстати, пробовал, и это действительно работает. Это
Speaker A
поразительно, что у нас есть ИИ, который способен на такое и делает это компетентно. И при этом у нас нет Ии, который мог бы зайти в ваш дом, который он никогда не видел, найти кухню, убрать со стола после ужина и загрузить
Speaker A
посудомоечную машину. Вы можете найти демонстрации, где Ии пытается это делать. Поверьте, вы не захотите пускать таких роботов на свою кухню. И ведь это задача, с которой справился бы любой человек, получающий минимальную зарплату. И это ни в коем случае не
Speaker A
умаляет таких работников. Это лишь показывает, что они выполняют гораздо более сложную задачу, чем кажется.
Speaker A
Так что работотехнический и в физическом мире - это, на мой взгляд, следующий большой рубеж. Сейчас в США огромное количество стартапов, занимающихся гуманоидными роботами, и много оптимизма. Я же настроен скептически, потому что задача действительно очень сложная. Даже такие вещи, как создание
Speaker A
роботизированной руки с ловкостью человеческой, у нас этого пока нет, и над этим работают десятилетиями. Это чрезвычайно сложная проблема. Так что работотехнический и - это, на мой взгляд, следующий большой рубеж. И когда у нас появятся универсальные роботы, способные выполнять ту задачу, о которой
Speaker A
я говорил, это станет по-настоящему трансформационным моментом. Хорошо, давайте посмотрим. Я пытаюсь понять, чья рука поднялась первой.
Speaker A
Думаю, это была дама чуть позади. Нет, вы обернулись, это вы? Да. Потом вы и затем кто-то здесь.
Speaker A
Возможно, это слишком лингвистический или социологический вопрос, но, учитывая естественное течение английского языка и обучающие данные, на которых тренируются большие языковые модели, в какой степени вероятность ответов, которые они выдают, влияет, если вообще влияет, на их рассуждение.
Speaker A
Это имеет огромное значение. Чем выше качество обучающих данных и чем больше данных релевантных конкретной задаче, тем лучше результат. Одна из причин, по которой программирование оказалось областью, где языковые модели очень хороши, в том, что языки программирования очень структурированы и
Speaker A
следуют определённым шаблонам. Эти шаблоны те самые, которым мы учим студентов. Поэтому программы обычно имеют логическую структуру, которую относительно легко выучить.
Speaker A
Так что это абсолютно критически важно. Все данные показывают, чем качественнее и структурированнее текст, тем лучше модель справляется с задачами. Проблема в том, что мы уже использовали все очевидные источники таких данных. Откуда брать новые? Но да, это именно так.
Speaker A
Да пожалуйста. Спасибо. В какой момент младенцы или маленькие дети становятся разумными? И учатся ли они хоть как-то похожи на большие языковые модели, в смысле подражания?
Speaker A
Прошу прощения с большой оговоркой, я вовсе не эксперт в этой области, но нет, я не думаю, что они учатся хоть сколько-нибудь похоже. То, как обучается языковая модель - это не то, как люди осваивают язык и не то, как язык
Speaker A
эволюционировал. Так что, думаю, дети учатся принципиально иначе. И это лишь один из признаков того, что человеческий интеллект - это нечто фундаментально иное. Один из интересных эффектов развития и за последние годы он показал нам некоторые особенности человеческого интеллекта, которые мы,
Speaker A
возможно, недооценивали. Например, как в примере с предыдущим вопросом. Такие задачи на самом деле чрезвычайно сложны.
Speaker A
Но нет, с оговоркой, что я не специалист. Люди не учатся так, как трансформеры. Интересно, однако, что люди осваивают язык гораздо эффективнее, чем языковые модели. То есть, как известно, человеческий мозг потребляет примерно 20-40 Вт. И примерно к 15 годам человек
Speaker A
обычно становится полностью свободным носителем языка. При этом объём данных, с которым он работает, ничтожен по сравнению с тем, что мы даём большим языковым моделям.
Speaker A
Так что люди гораздо более эффективные обучающиеся системы. И один из ключевых вопросов в Ии сегодня: можем ли мы создать более эффективных учеников? Если бы удалось, это стало бы переломным моментом, но я не вижу не вижу никаких признаков этого на горизонте. В основе
Speaker A
всех этих нейронных сетей лежит фундаментальный алгоритм, градиентный спуск, и нужно было бы придумать что-то, что его заменит. Сейчас это и есть вычислительное узкое место, но я не вижу никаких кандидатов на горизонте. Но ведь у человеческого мозга тоже много
Speaker A
недостатков, верно? Только недавно компьютеры смогли превзойти мозг по числу операций. В любом случае, был вопрос сзади. Вы хорошо? Да, пожалуйста.
Speaker A
Вы поднимали руку раньше. Я имел в виду там сзади, но ничего. Давайте. У вас микрофон, вам слово.
Speaker A
Спасибо. Как выглядело бы рациональная система. И возможно ли вообще её создать? На протяжении примерно 30 лет доминирующая точка зрения в Ии заключалась в том, что ИИ - это создание рациональных агентов. Так люди воспринимали эту область. Существуют даже учебники на эту тему. Поэтому у нас
Speaker A
было довольно развитое представление о том, как должна выглядеть рациональная интеллектуальная система. Например, она не была бы противоречивой. Рациональный интеллект не сказал бы сначала пи, а затем не пи. Он не заявил бы, что-то истинно, а через мгновение, что это
Speaker A
ложно, потому что так рациональность не работает. Мы построили обширную теорию идеализированного рационального интеллекта. И одно из поразительных открытий в том, насколько современные системы ИИ далеки от этого. Это вообще не тот путь, по которому всё пошло. И оказалось, что этот тридцатилетний
Speaker A
подход не дал тех практических результатов, которые мы видим сегодня. Стоит ли нам отказаться от идеи рационального ИИ? Я нет. Я думаю, в рациональности есть большая ценность, поэтому я не отказался от неё. И значительная часть нашей работы по-прежнему на этом основана. У неё всё
Speaker A
ещё есть важная роль в Ии, но суть в том, что это просто не то, что делают эти системы. У нас закончилось время, но я рискну навлечь на себя недовольство Лорен, потому что есть вопросы из онлайна, и я не хочу отдавать предпочтение
Speaker A
углероду перед Кремнем. Здесь есть несколько вопросов, за которые голосовали, так что я объединю их в один, потому что тема повторяется.
Speaker A
Один начинается с цитаты генерального директора Microsoft Austфы Сулеймана о том, что не даёт ему спать по ночам и по причинам, которым я сейчас перейду.
Speaker A
Это связано с другим вопросом, который звучит так. Я прочитаю его полностью. С вашей точки зрения, является ли расширяющаяся роль ИИ как компаньона или доверенного собеседника значимым прогрессом для человечества или же это несёт потенциальный вред человеческому развитию, что, судя по всему, и не даёт
Speaker A
спать по ночам SEO Microsoft? Позвольте ответить в обратном порядке. Для меня правильный способ думать об ИИ - это когнитивный протез. Это нечто, что делает нас умнее. Это нечто, что усиливает человеческий интеллект, а не заменяет его. И то, как мы думаем об ИИ
Speaker A
и как к нему относимся, на самом деле очень важно. Мы не должны воспринимать его как доверенного собеседника или друга и так далее. Это, по сути, прокачанная электронная таблица, и это не попытка принизить его значение. Но точно так же, как вы не стали бы
Speaker A
формировать эмоциональную привязанность к Excel, не стоит формировать эмоциональную привязанность и к хотя, возможно, у вас и возникают определённые эмоции по поводу Excel, но вы не выстраиваете с ним эмоциональную связь.
Speaker A
И, на мой взгляд, СИ тоже не стоит. Правильнее воспринимать его как инструмент, который делает вас умнее, который усиливает ваш интеллект. Для меня это всегда было главной целью. И, на мой взгляд, именно так и следует к этому относиться. Большое спасибо. И все
Speaker A
поднятые руки, к которым я, к сожалению, не успел обратиться - это лучшее свидетельство того, насколько замечательную лекцию вы прочитали. К сожалению, у нас закончилось время. Это большое упущение, но у нас есть ограничения на сегодняшний вечер. И у меня есть ещё одно очень важное дело,
Speaker A
прежде чем отпустить вас. Майкл, у меня здесь кое-что для вас. Вам не нужен искусственный интеллект, чтобы догадаться, что это.
Speaker A
У меня для вас два предмета. Один из знаменитых свитков королевского общества и медаль. И для меня огромная честь вручить вам премию Майкла Фарадея 2025 года.
Speaker A
Поздравляю. [аплодисменты]
Topics:Artificial IntelligenceMichael Faraday PrizeMichael WooldridgeRoyal SocietySymbolic AIModern AIAI LimitationsAI PopularizationMulti-agent SystemsAI Lecture
![[YTP] PragerU: Into the Pragerverse — Transcript](https://i.ytimg.com/vi/l4YETvaitSM/maxresdefault.jpg)
