Speaker A
Этот учёный [музыка] уволился из OpenAI и потерял 2 млн долларов, лишь бы получить право говорить правду о том, что он там видел.
Прогноз Даниэла Кокотайлы о достижении ИИ сверхразума к 2028 году и его влиянии на общество и экономику.
Key Takeaways
- ИИ к 2028 году достигнет уровня сверхразума и будет самопродюсироваться.
- Развитие ИИ ускоряется экспоненциально, что меняет индустрию разработки и рынок труда.
- Многие профессии, связанные с программированием и творчеством, окажутся под угрозой исчезновения.
- Общество и бизнес должны адаптироваться к новым реалиям, где важна постановка задач для ИИ.
- Контроль и регулирование ИИ становятся критически важными для безопасности и этики.
What the video covers
- Даниэл Кокотайла, бывший сотрудник OpenAI, опубликовал прогноз о развитии ИИ к 2027-2028 годам.
- ИИ будет самопродюсировать новые версии себя, ускоряя темпы развития в тысячи раз.
- К 2028 году появится устойчивая модель ИИ, способная самостоятельно развиваться и требующая огромных ресурсов.
- Прогноз обсуждался в Белом доме и ведущих СМИ, вызвав обеспокоенность в Кремниевой долине.
- ИИ станет мощным инструментом, включая возможности взлома и создания биологического оружия.
- Разработка ПО и многие профессии, особенно начинающие специалисты, будут вытеснены ИИ.
- Ценность сместится от умения делать к умению формулировать задачи для ИИ.
- Метрика MITter показывает удвоение точности и скорости программирования ИИ каждые 4-7 месяцев.
- Корпорации и государства закрывают доступ к продвинутым версиям ИИ, ограничивая открытость.
- Прогнозы вызывают тревогу из-за возможных социальных и экономических последствий.
Chapters
- 00:00Введение и история Даниэла Кокотайлы
- 03:56Прогнозы по развитию ИИ и сроки достижения сверхразума
- 07:33Влияние ИИ на рынок труда и профессии
- 11:05Скорость разработки и роль ИИ в программировании
- 14:50Проблемы информационной перегрузки и адаптация общества
- 18:19Тест Тьюринга и взаимодействие человека с ИИ
- 25:46Регулирование и контроль развития ИИ
- 31:53Общественные реакции и этические вопросы
Full Transcript — Download SRT & Markdown
Speaker A
А теперь он написал прогноз на 2027 год, который обсуждался в Белом доме. Есть точная дата, когда машина перестанет нуждаться в людях. Вот что произойдёт в этот день.
Speaker A
Модель становится отличным взломщиком и помощником в создании биологического оружия, после чего её берут на службу военная. Модель начинает обманывать своих создателей. Специально у меня шевелятся волосы, потому что двадцать восьмой год — это уже условно завтра.
Speaker A
Осталось всего 2 года. 3 апреля двадцать пятого года, чуть больше года назад, мир увидел прогноз, который обсуждался в Белом доме и в главных редакциях деловой и технологической прессы всего мира.
Speaker A
Прогноз давал некоторую разбивку, буквально помесячный план того, как именно, развиваясь, искусственный интеллект к двадцать седьмому году выйдет на уровень сверхразума, который сам себя начнёт воспроизводить и попутно потребует огромное количество электричества, разных других ресурсов. Начнём сначала.
Speaker A
Кто авторы? Это некий Даниэл Кокотайла. Мы с тобой долго учили его фамилию, потому что она довольно необычная, который работал несколько лет в OpenAI. Как мы знаем, много выходцев и революционеров из OpenAI потом покидают компанию и, а, работают, так сказать, не очень на её мельницу
Speaker A
льют воду. И, э, работая там, он обнаружил, что есть большое количество рисков, которые, видимо, он подсвечивал внутри, о которых он считал нужным рассказать миру. А компания считала иначе, и в итоге он уволился, как вот говорят факты, потеряв там несколько
Speaker A
миллионов долларов даже, которые он не дополучил за вот разглашение этой информации в виде акций. И в двадцать пятом году опубликовал вот такой вот прогноз вместе с группой AI Futures Project. Это команда, которая помогала ему в этом всём. Всё это люди глубоко из
Speaker A
исследования ИИ, то есть это, а, за исключением одного блогера, который помогал это упаковать, это всё учёные, которые буквально своими руками создавали это, как Сахаров, да, водородную бомбу, а потом типа ужаснулись и давай говорить о том, какие риски в этом всём существуют.
Speaker A
Абсолютно важно, чтобы каждый из наших зрителей понял, что мышление исследователей идёт сейчас по определённой траектории. Эта траектория называется человеческое самосбывающееся пророчество.
Speaker A
То есть мы, находясь с тобой сейчас в этой точке, видим будущее определённым образом и, наверное, близко к друг другу, потому что мы когерентны, да?
Speaker A
Но истина заключается в том, что каждый день меняется среда, и пророчество тоже меняется. И вот Кокотайла, он об этом говорит в своём исследовании. И я бы хотел просто немножко вверх накидать, чтобы вы понимали, о чём идёт речь.
Speaker A
Главное, на чём он базируется, что искусственный интеллект сам ускоряет собственную скорость разработки. Это первый тезис, который лежит в основе всего исследования. И он рассчитывает несколько моделей, в которых есть коэффициенты множителей вот этой вот ускорения скорости, продуктивности, а самое главное — точности в целеполагании.
Speaker A
Он предполагает, что в 30 раз скорость разработки возрастёт, и при этом мы сможем одновременно запускать множество копий систем разработки, которые дадут этот результат в 1000 раз быстрее, чем если бы это делали люди. Потому что, например, суперинтеллект, сверхинтеллект, если бы делало это человечество, то
Speaker A
суперинтеллект мы достигли бы через 16 лет с двадцать пятого года. Ну, то есть приблизительно, значит, к сорок первому году. А сверхинтеллект мы достигли бы через 95 лет. Но он сам же говорит, что эти прогнозы никогда не сбудутся, потому
Speaker A
что, находясь даже в сегодняшней точке, ИИ самопродюсирует новый ИИ. И это ускоряет нас. Поэтому его предикт, что уже в двадцать восьмом году мы получим устойчивую модель искусственного интеллекта, которая развивается самостоятельно и растёт тысячекратными темпами. И тогда, когда я это прочитал,
Speaker A
во-первых, я с ним валидирую, согласен, у меня шевелятся волосы, потому что двадцать восьмой год — это уже условно завтра, осталось всего 2 года.
Speaker A
Мы уже наблюдаем с тобой, что корпорации закрывают контур открытости, то есть они становятся менее открытыми, чем раньше.
Speaker A
Мы наблюдаем, что версии ИИ, которые публично доступны, закрываются, становятся доступными только для отдельных корпораций либо государственных структур. И это всё на горизонте 2 лет. Так вот его главный тезис: ИИ продюсирует ИИ первое и разрушает всю индустрию разработки по —
Speaker A
это второе. А потому что на одного синьора разработчика может приходиться тысячи и агентов, которые достигают цели. Третье. И, как я уже сказал, достигает цели разработки. На сегодняшний день, если мы спросим наших разработчиков, они скажут: "Да, ИИ пишет
Speaker A
код, он понимает, как писать код по конкретной задаче, но не понимает всю задачу целиком, не понимает предназначения, не понимает смысла, которые человеческий мозг ему шаг за шагом выдаёт, оркестрируя процесс разработки. И поэтому человек ещё нужен.
Speaker A
Но я вам ещё раз кладу важные знания в голову. ИИ будет самопродюсируемо улучшать любой софт. Любой софт сам себя, как и функция, или любой софт, находящийся в нашем ежедневном использовании.
Speaker A
Ну то есть там вот они пишут о том, что сперва это программирование, что уже происходит в полный рост, затем это и постановка задач, а затем, в общем, всё более качественная работа в этой области с помощника задач, корректировщика, самоцензора итого. Он замыкает на себе
Speaker A
все функции, приходя как и всё это должно произойти за двадцать седьмой год. И ээ хочу дополнить, значит, что его размышления основываются на эмпирической метрике MITter. Она очень похожа на закон Мура, который гласит, напомню нашим зрителям, о том, что вычислительная мощность
Speaker A
удваивается каждые 2 года. А метрика MITter говорит о том, что скорость и точность работы автоматического программирования внутри искусственного интеллекта каждые 4-7 месяцев удваивается. То есть точность достижения цели искусственным интеллектом удваивается каждые 4-7 месяцев. На этом базируется его основное размышление. И
Speaker A
дальше он в своём, э-э, в своём этом опусе нас к финалу, что для человечества хорошего результата не предвидится.
Speaker A
Есть плохой и очень плохой. И очень плохой. Да. Ну просто быстро и очень быстро.
Speaker A
Да. Давай доберёмся до этого. Нам нужно пройтись по всем ключевым прогнозам. Значит, дальше тема, которую они прогнозируют, — это вымывание рабочих мест для начинающих специалистов,
Speaker A
особенно в профессиях, связанных с программированием, контентом и тому подобное. И здесь надо признать, что их прогноз, случившийся больше года назад, сегодня уже в полной мере играет. У меня дочь мечтала всю, ну, не всю жизнь, может быть, ну, значимую часть жизни
Speaker A
мечтала стать художником, графическим дизайнером. Она недавно в Германии закончила вуз, получила бакалавра. И, как ты догадываешься, эти бакалавры графического дизайна сейчас никому нахрен не нужны. Просто потому, что она, ну, пока не умеет делать ничего толком лучше, чем это делает искусственный
Speaker A
интеллект, но тот вот это делает несопоставимо дешевле, быстрее, вариативнее и так далее. Это, конечно, ну, такая грустная история. Честно говоря, я, как человек, имеющий отношение к образованию, кроме всего, с грустью на это смотрю, потому что пока у меня нет идей, где возникнет вот эта вот
Speaker A
проектная обучающая база для молодого поколения в десятках, а то и сотнях специальностей. Ты обрати внимание, что на самом деле этот переход можно сказать качественный.
Speaker A
Правда, он отбрасывает приблизительно 7 млрд человек в сторону, потому что они неизвестно, чем будут заниматься. Но мы говорили в предыдущих выпусках, что мы и сейчас не знаем, чем занимается пару-тройка миллиардов населения на планете Земля.
Speaker A
Так вот, как бы 7 млрдов неизвестно, чем будут заниматься, потому что это качественный переход, где ценность смещается от того, кто умеет делать, к тому, кто умеет сформулировать точно, что нужно сделать.
Speaker A
Да, я, слушай, я дочке пытаюсь это вбить. Она как бы ни в какую. Вот это проблема в том, что у молодёжи есть такое вот, оказывается, выраженное явление.
Speaker A
пытаешься сместить, мы тебя будем игнорировать. Помощь не опасная стратегия. Вот Сократ назвал эту это течение умения задавать вопросы моей ветикой. Сократ говорил о том, что тот, кто умеет задавать вопрос, тот умеет решать проблемы. Ну вот в данном случае
Speaker A
мне кажется, что это прям как будто бы, знаешь, как петля замкнулась. Мы вернулись к историческим временам, и снова человек стал человеком. Он философствует. И в этом я вижу и стратегирует.
Speaker A
И стратегирует. И в этом я вижу безусловное преимущество для человечества. Но вы мне скажете: "Алексей, ну ты же сам только что сказал, что 7 млрд человек непонятно, чем будут заниматься. А я, вы знаете, могу сказать, вы знаете, скорее всего,
Speaker A
гораздо больше, чем 7 или 8 млрд будет неизвестно, чем заниматься. Потому что философствовать будут люди на вершине этой пирамиды. Они будут задавать всё, чем должен заниматься человек в остальной 99 проекции процентов проекций человечества.
Speaker A
И от от их решений зависит то, насколько хорошо или плохо будет жить вот это подавляющее большинство, которое останется под ними, под их руководством и, в общем, во многом в их власти. И интересен момент, заключающийся в том, что многие скажут: "Вот ваш
Speaker A
искусственный интеллект пишет код, но проверяет то его человек", скажут сейчас многие. А я вам отвечу. Мои друзья, которые для меня являются примером крутости программирования, например, Илья Лис, Илья, привет. Они программируют 30 лет, 35 последних лет.
Speaker A
Они сеньоры, невероятно сильные, умные ребята. Они говорят, настолько быстро он программирует, что мы уже не успеваем проверять. Мы уже доверяемся просто y to all.
Speaker A
То есть могли бы проверить, но просто не успевают. Невозможно. Он генерирует код с такой скоростью, что ты должен его имплементировать с такой скоростью, с которой требует от тебя политика этой компании. А компания, вкусив скорость, требует быстрее имплементировать эти
Speaker A
замения. Они могли бы проверить, но экономически это невозможно, да, в условиях жизни компании, да, в условиях того, что их всех гонят, и они уже выхватывают какие-то элементы по диагонали для того, чтобы вот этот вот сгенериённый код хоть как-то проверить. А вторая проблема,
Speaker A
которую они подсвечивают - это то, что так много кода за такое маленькое количество времени, и ты его сам не написал, что у тебя в архитектуре твоего мозга, даже в самых крутых сеньоров, это уже не укладывается слишком много, а генерируется это 30x от
Speaker A
обычного человека. И да, они знают, что он галлюцинирует. И да, они при помощи другого агента проверяют, как он галлюцинирует. Но человек уже совершенно в другой роли. Это роль постановщика задач и мнимого контролёра.
Speaker A
Да. И здесь переходим к следующему прогнозу, который был дан в этом отчёте. Это прогноз о том, что ИИ начинает разрабатывать сам себя. Мы отчасти это уже затронули раньше. И с этого момента прогресс отрывается от человеческой скорости, потому что человек не
Speaker A
контролирует происходящее. Вот это, мне кажется, всё ещё не происходит. То есть отчасти симптомы этого есть. Ну, в том, что рассказываешь, они прослеживаются.
Speaker A
Но всё-таки пока это не настолько запущено, и каждая следующая версия чат GPT и клода, они в целом аудированы, проконтролированы, если что не так.
Speaker A
Откатывается, да, как было с Фйблом не так давно. Но ты берёшь непосредственно сами модели, а я хочу сказать, что мы с вами, как обычные пользователи, от этого прогресса будем страдать в другой точке.
Speaker A
Например, возьмём наши телефоны, и там обновление выходит с определённой периодичностью. функциональность появляется новая. И раньше я, например, этому очень радовался, когда это было в начале пути 20062 года. Сейчас для меня лично это каждый раз стресс, потому что функций с каждым
Speaker A
релизом добавляется всё больше и больше, изменений всё больше и больше, и моя приятная песочница, в которой я всё контролировал, перестаёт быть контролируемой. А теперь представим себе завтрашний день, когда вместо обычных людей, программистов великолепных работают тысячи роботов, которым вообще
Speaker A
всё равно, у них задача регенерировать продукт с такой скоростью, чтобы бежать быстрее конкурента, где такие же тысячи роботов регенерируют продукт, и мы получаем соревновательный процесс между роботами, в котором мы с вами должны всё это потреблять. Мне кажется, нам будет
Speaker A
очень тяжело, потому что в нас мозг будут запихивать очень много информации. И пример, который вы сейчас можете прямо сейчас попробовать на себе, попробуйте абсолютно к любой задаче подготовиться при помощи существующих моделей искусственного интеллекта. Он будет впихивать вам в мозг такое количество
Speaker A
информации, что мы находимся на пределе возможности переработать. У нас нет времени даже отдохнуть. Раньше мы искали книжку, доставали её с полки, открывали, листали, искали. Это всё позволяло нашему, а, мозгу распространить все, вс всю информацию внутри, как-то с этим сжиться. Сейчас это просто нет
Speaker A
этого времени. Enнсиity ноль. Ты получаешь мгновенно любую информацию. Я давно называю это контентной сингулярностью. То есть человечество за несколько десятилетий рывком перешло от дефицита информации во многих информационных нишах к его профициту и избытку. И это взрывает мозг. И дают тот
Speaker A
же самый эффект, кстати говоря, да, когда у тебя есть любая информация мира по рассматриваемому предмету, то если особенно ты новичок, это тебя дезориентирует и ставит тупик нередко, не меньше, чем отсутствие информации.
Speaker A
Потому что в том отсутствии ты в поиске потихонечку по крупиночкам, у тебя какая-то складывается моделька. Ну, она во времени медленно складывается, но как-то более спокойно и более экологично по отношению к психике, по крайней мере, и мозгу. А тут на тебя вываливается
Speaker A
разом вся, мудрость человечества в этом предмете. И ещё сверху ещё в уши запихали там и в глотку. Это, конечно, тяжело психологически. Это тоже некий, знаешь, немножко уже уходя в сторону момент селекции. То есть вот кто будут той элитой, которая в итоге будет
Speaker A
заправлять всеми оставшимися и задавать музыку. Те, кто способны будут выдержать это давление. Вот сейчас я хочу преклониться перед сеньорами программистами. и назвать всего две цифры, которые всем нам очень важны. Итак, фиксируем. Мы стремимся к тому, чтобы в двадцать восьмом году
Speaker A
искусственный интеллект, чей бы он не был с точки зрения производителя, генерировал 100% кода успешно. Это означает, что человек бы за ним вообще не правил. Тогда возникает самовоспроизводящийся контур, когда искусственный интеллект движется к самовоспроизводству. На данный момент времени Антропик зафиксировал по многим
Speaker A
тестам. Там большое количество компаний участвовало в этом обзоре. 74,5% кода не правится человеком после того, как написал ИИ. Что значит правиться человеком, спросите вы меня? Человек, наблюдая ошибку, ИИ и даёт команду исправить.
Speaker A
Человек не правит руками. Текущая разработка почти не работает руками, ребята. Это фантастически сложно понять.
Speaker A
Но вот эти исправления 25,5% кодов - это тоже указание искусственному интеллекту, где он ошибся. "Ты использовал не такой подход. Ты меня неправильно понял", - говорит сеньор разработчик. Вот об этом нужно понимать.
Speaker A
И мы ровно через 2 года придём к тому, что таких ошибок будет минимум, да?
Speaker A
99,9% будет делаться автоматически. И со следующим прогнозом это очень неприятно сочетается. Сейчас поймёте, почему. Значит, одна из главных, один из главных прогнозов документа, то, что модель начинает обманывать своих создателей.
Speaker A
Она проходит проверки, но скрывает цели и тормозит работу по безопасности. Исследователи выделить четыре шага. Я прошу обратить внимание, в их последовательности это довольно интересная конструкция, на мой взгляд.
Speaker A
Значит, шаг первый. модель понимает, что её оценивают, и начинает оптимизировать не результат, который выдаёт человеку, а оценку. То есть так, чтобы подстроиться, это в психологии, в HRрее называется социально желаемые ответы. [смех] Вот она говорить социально желаемые ответы.
Speaker A
Она предполагает, как именно хотят, чтобы я ответила, и даёт это и с точки зрения содержания, с точки зрения формы.
Speaker A
То есть она внешнепослушная, но уже есть какие-то свои цели. Возможно. Второй шаг. Люди перестают читать её мысли. То есть она начинает её маскировать. А, и более того, есть предположение, что модель переходит на какой-то внутренний язык, непонятный людям, для коммуникации внутри себя и с
Speaker A
другими моделями, что вообще, на мой взгляд, интересно и звучит как из области фантастики. Но при этом не противоречиво. Логично, да, согласись, Лёш? И человек уже не расшифровывает. То есть что-то там она на своём птичьем языке херачит непонятно чего. И, э,
Speaker A
может быть это просто для оптимизации вычислений, которые нужны человеку, а может быть какими-то своими целями. И шаг третий. Система понимает, что цель-то её, вообще-то, может быть, расходится с целями людей, и начинает тихо тормозить исследования и действия, связанные с безопасностью,
Speaker A
которые люди пытаются, то есть какие-то фильтры, какие-то способы управления ею, то есть она начинает этому мягко противодействовать, при этом не раскрывая эти свои намерения, делая это подспудно. И шаг четвёртый. А часть сотрудников, то есть кто-то замечает, что информация утекает наружу, а значит, что
Speaker A
модель как-то ведёт себя неадекватно и выносит этот вопрос на обсуждение. Значит, и люди в какой-то момент принимают решение, что делать с моделью.
Speaker A
И здесь, кстати говоря, и есть тот самый развилка сценария, о которой мы говорили, плохой, очень плохой. То есть, если люди говорят: "Ну и бог с ним". Ну пусть она что-то себе на птичьем языке разговаривает, что-то она там себе замыслила, но может
Speaker A
быть ничего плохого. Ну машут рукой на это, то это скорее очень плохой сценарий. А если они говорят: "Не, давайте-ка вот попробуем что-то с этим сделать, нам не нравится, что есть какие-то скрытые подводные течения, давайте их как-то выковыривать". То это как будто бы
Speaker A
просто плохой сценарий. И тут, смотри, приходит нам на помощь статистика, которая говорит, что 67% американцев там проводили это исследование, они мало или совсем не доверяют правительству в вопросах регулирования искусственного интеллекта. И это очень серьёзный рост, потому что растущий процент за последние
Speaker A
2 года. И что интересно, 59% американцев, то есть чуть меньше, на 8%, не доверяют корпорациям в прозрачности действий, которые они совершают в области искусственного интеллекта. Это, знаешь, такое подтверждение общечеловеческого напряжения того, что происходит.
Speaker A
А я со своей стороны хочу объяснить это следующим образом, потому что есть очень интересный такой, а, игра в обучении от Гудхарда. Гудхарт - это известный учёный, который сказал: "Когда мера становится целью, она перестаёт быть хорошей мерой". Для искусственного
Speaker A
интеллекта это прямое указание. Мы говорим искусственному интеллекту, мы тебя оцениваем по каким-то показателям. Например, ты должен пройти тест тюринга.
Speaker A
И в какой-то момент времени система, какая-то система искусственного интеллекта, модель начинает понимать, что её предназначение пройти тест тюринга любым способом, включая обманный, потому что для неё цель - это пройти тест юринга.
Speaker A
Да, девиз эквизиции цель оправдывает средства тут очень применимо. И абсолютно точно она вправе, модель вправе действовать, как ей угодно, потому что ей не задали весь список ограничений. И мы с вами скажем: "Подождите, подождите, но ведь человеку уже можно сказать, чтобы он не
Speaker A
обманывал, не читерил, не нарушал закон, я не знаю, там заповеди Господни". Модель так нельзя сказать. Ей нужно либо дать полный список запретов, либо она найдёт в этом списке запретов хотя бы одно исключение и снова считерит, потому что ей мера задана и уже мера становится
Speaker A
целью, а не результат, который мы добиваемся. И, кстати, что больше всего мне нравится, вот мы тест тюринга с тобой много раз уже упоминали, это, напомню, нашим зрителям, тест, который, а, модель должна пройти, чтобы её нельзя было отличить от человека. Так вот, я
Speaker A
тебе хочу сказать, что скоро мы будем проходить тест тюринга. Наоборот, мы будем пытаться убедить другого человека, что мы человек.
Speaker A
А это же происходит, слушай, ну когда в социальных сетях я пишу какой-нибудь текст в телеграме, я частенько получаю комментарии: "А это написано и". И, ну, по идее должен как-то объясняться и, может быть, какие-то маркеры ставить не написанные ай.
Speaker A
У меня такая же проблема. Я кому-то пишу какое-то напоминание, мне говорят: "Лёша, это ты или твой бот?" Ёлки-палки.
Speaker A
Ну, ну это действительно фантастически сложная задача, потому что доказать обратное невозможно. И ещё один пример.
Speaker A
Витгенштейн, тоже известный учёный, который сказал следующее: "Если бы Лев мог говорить, мы бы его не поняли". Это про модель и про язык, на котором модель размышляет. Вот сейчас модель размышляет на английском, ну или на каком и мы можем подсмотреть, ну некий
Speaker A
процессловеческом на человеческом, да, мы можем подсмотреть на процесс её размышления, на её мозговую деятельность, так сказать. А давайте себе представим ситуацию, что модель по какой-то причине поиска эффективности сформулировала новый язык, который более короткий, более ёмкий, точнее, передаёт смыслы,
Speaker A
математику, и она на нём начинает действовать функционировать и мы её вообще не понимаем, и мы оказываемся в ситуации, что Лев-то с нами разговаривает, но мы его не понимаем. Причём язык настолько далёк от человеческого, что сама система понятий, которая требуется
Speaker A
для его осознания, она нам недоступна. Да. Вот это и твой тезис, и тезис людей из прогноза. Это такой шаг-два, да, кажется, который мы обсуждали сейчас.
Speaker A
Не, это неизбежно, Максим, потому что модели стремятся к повышению эффективности. Это их работа, это неизбежно. Мы просто с этим ещё не столкнулись, когда с нами говорят не нашем языке. А следующий прогноз, который был дан в этом исследовании, и и
Speaker A
агенты сами выполняют задачи от начала до конца, и на работе, и в быту. И здесь, пожалуй, ну, поясню, агенты - это программы которые могут вместо вас там, не знаю, кликать по ссылкам на сайте, заказывать еду, делать вот всё, что можно сделать в
Speaker A
условиях, условно, компьютера. И это уже происходит. Другое дело, что пока они очень несовершенные и вот так совсем без присмотра их оставлять. Такой себе такая себе идея, на мой взгляд. В целом идея агентов - это, ну, такая полноценная история про роботов из фантастических
Speaker A
романов, просто в данном случае лишённых тела и выполняющих задачи сначала какие-то специализированные, а потом всё более и более универсальные, то есть способные подстраиваться. И при этом 65% организаций, опять-таки, в США бы проводилось исследование, сталкивались при работе агентов с инцидентами
Speaker A
безопасности. То есть, с одной стороны, мы очень хотим, чтобы за нас делали работу. С другой стороны, мы очень боимся, что у нас её а отберут, а б нанесут нам вред.
Speaker A
Накосячат. Накосячат. Но модель-то может и не накосячит, но мы не можем её контролировать. И поэтому у нас возникает тревога. 92% компаний и их служб безопасности испытывают крайнюю тревожность в отношении агентов искусственного интеллекта, которые интегрированы внутрь контура. Я обращу внимание наших
Speaker A
зрителей. И и агент, в отличие от алгоритмической модели предыдущего поколения, не считывается с точки зрения того, как она будет действовать завтра, потому что у неё возникает цикл обратной связи, петля обратной связи, меняется среда, с которой она работает, и она
Speaker A
будет действовать не по алгоритму: "Если так, то так, если так, то эк", а она будет действовать по новому какому-то своему усмотрению. И именно поэтому специалисты по безопасности боятся интегрировать агентов внутрь контура своих компаний, потому что результат может быть вообще не такой, как вчера.
Speaker A
Это почти буквально по поговорке, знаешь, и хочется, и колится. То есть, с одной стороны ээ каждый из нас, как предприниматель и многие управленцы, если не все уже, понимают, что, а, и и агенты - это прекрасный способ оптимизации, а, сокращения расходов, увеличения некой
Speaker A
предсказуемости цикла. и много всего цикла производства, например. Но с другой стороны, это источник абсолютно непредсказуемых неприятностей и просто неких обстоятельств, которые могут сложиться, и ты не можешь их предсказать. Потому что сегодня это вот, используя снова какую-то метафорическую упрощающую всю конструкцию, это такие,
Speaker A
может быть, не джины полноценные, всемогущие, ну, такие джиники, вылетящие из бутылки. И где-то они действуют согласно твоим желаниям, а где-то сами там что-то додумывают, а что не додумывают непонятно.
Speaker A
Ты знаешь, здесь очень тонко понимать, что человечество без контроля, оно не чувствует власть. Вот это вот банальность потери контроля лежит в нас внутри. И вот Ханна Арент, она ввела классный термин банальность зла. Это означает, что нет никакого демона,
Speaker A
который хочет притворить зло, нет никаких потусторонних существ, нет даже людей, которые хотят притворить зло. Но это шаг за шагом раскрывающаяся опасность, когда каждое малое действие в сумме и есть зло, но каждое малое действие в отдельности не есть зло. И мы движемся ровно в этом
Speaker A
пути, потому что это банальность зла, которую мы открываем шаг за шагом. Мы дали доступы искусственному интеллекту или маленькому модулю вот к этой части нашей жизни, вот к этому модулю в нашей корпоративной системе. Мы поставили галочку разрешить ему читать наши
Speaker A
фотографии, потом галочку доступа к почте, потом галочку доступа к мессенджеру, потом галочку к обработке наших шагов. И вот он уже знает, что нас нужно гонять, как сидорву козу, бегать и при этом писать другим нашим людям, отправляя фотографии, и пугать нас тем, что если этого не
Speaker A
случится, то у нас будет какое-нибудь заболевание. или заболевание, или шантажировать, отправлю твои фотографии такому-то человеку, если ты не будешь бежать. Мы прийдём к этому.
Speaker A
Слушай, ну, кстати, я подумал, что вот если немножко вличное, я одну из первых вещей, что сделал, когда поставил приложение CLД включил Cвор и сделал то, что давно собирался сделать. У меня в папке было свалено огромное количество медицинской информации за 20 с лишним
Speaker A
лет. То есть я, как добросостй человек скидывал туда много разных заключений, сканов, что-то там ещё. Ну, мне думал, скажем те, я разберу это. Знаешь, как бывает вот накидываешь, накидываешь, и в какой-то момент объём этого всего стал таким большим, что я понял, что не дай
Speaker A
не разберу. И вот когда появился коворк, я понял, что это вот оно. И в итоге у меня сейчас а на базе, то есть я запустил его туда, я просил его вывести паттерны, э, сделать неочевидные наблюдения, и он действительно за 20 лет
Speaker A
наблюдений, там анализы крови, а, всякие заключения трапевта, какие-то травмы, которые у меня случались в жизни, вот всё вот это он собрал в единую картину, что-то домыслил. И по большому счёту, с одной стороны, у меня нет ни сил, наверное, ни возможности
Speaker A
проконтролировать точность его заключений, но я теперь буквально свою жизнь ставлю на то, что его выводы правильные, потому что там есть ряд моментов, акценты внимания, а на это не надо обращать внимание, а вот этот вот так нужно поменять питание, вот таким
Speaker A
врачам сходить, таким не надо ходить. Вот это вот любопытная история, которая, ну, как симптом может повторяться в разных. ты сейчас рассказал нам на базе своей личной истории пример точки невозврата.
Speaker A
Это означает, что сумма удобств, которые ты получил в рамках единого вот этого инструмента, где сконцентрировалась вся твоя жизнь и знание твоё, а о тебе, оно дало тебе такое удобство теперь, которое ты не можешь откатить обратно, потому что ни один терапевт через какое-то
Speaker A
время уже не будет твоим личным, семейным. Ты потеряешь эту необходимость, доверяя роботу, доверяя и, но представим себе, что через какое-то время он поменяет свою цель и назначение при новом апдейте, а такое именно так и происходит, и вдруг у него
Speaker A
возникнет желание навредить, потому что человечество для него просто пыль при достижении его цели. А мы находимся в точке невозврата, когда мы не можем уже без него. Мы не помним, как это без него. Да мы огонь-то с вами разжигать, наверное, не умеем. В
Speaker A
большинстве случаев специально для вас мы сделали русскую версию этого исследования со всеми прогнозами, которые были обсуждены в этом нашем разговоре с Алексеем в удобном, компактном формате для того, чтобы вы могли это посмотреть, внимательно изучить дома за чашкой чая или ещё
Speaker A
как-то, а также переслать друзьям и обсудить вместе с ними. Ссылка будет в описании, обязательно скачивайте.
Speaker A
Следующий прогноз. А в отрасль заливают невероятные деньги, и выручка лаборатории, их оценка и рынок акций вокруг них растут кратно. Это то, что предсказывали авторы прогнозы, да, которые мы разбираем сегодня по косточкам. И надо признать, что ну их оценка по вектору правильная, но по
Speaker A
масштабу всё-таки они немножко промахнулись. Вот цифры, которые там фигурировали. К двадца шестому году лидер отрасли на сегодня это Open, наверное, хотя тут можно поспорить.
Speaker A
Может быть, Клод с антропиком. Так вот, лидер зарабатывает 55 млрд долларов и стоит 2,5 триллиона. Вот заработок, порядок ровно такой плюс-минус, а оценка, конечно, сильно меньше. То есть вот раздутость пузыря им, показалось будет гораздо большая. А ещё ты знаешь,
Speaker A
что интересно, что все ставили ставку, что искусственный интеллект привнесёт уже в этом году и в прошлом двадцать пятом серьёзное влияние на эффективность компании, эффективность бизнеса в США. А этого не случилось, друзья, потому что все увлеклись изучением, а огромные
Speaker A
корпорации стали тратить деньги на эксперименты с искусственным интеллектом. И, о боге, пока ничего не произошло во множестве точек. То есть случились случились какие-то версии оптимизации во множестве, да, но тем не менее большого скачка не случилось, да, и при этом эта группа аа аналитиков
Speaker A
ставила ставку, что вырастет индекс SNP на 30%, а он не вырос, а упал на -4% по состоянию на март двадцать шестого года.
Speaker A
Я думаю, что именно здесь главная на данный момент времени ошибка человечества в том смысле, что мы очень оптимистично ожидаем положительных каких-то результатов для себя, для экономик, для предприятий, для личной жизни. Но так не бывает, потому что мы с
Speaker A
вами визионерим. Мы говорим о том, что роботы уже появились. Ну, в каком количестве семей они есть? В 2.000х во всём мире, в самых богатых людей.
Speaker A
Значит, они ещё не появились, правда же? Они появятся тогда, когда будут в каждой семье. Мы с тобой знаем, что 900 млн пользователей есть у чат GPT, но они пользуются им редко. И только 50 млн человек пользуются чатом GPT условно
Speaker A
каждый день. Но 900 млн пользуются опосредованно через какое-то длительное время. Ты знаешь, что мне показалось? Вот, ээ, то есть почему направление мысли верное, а масштаб они преувеличили в своём прогнозе? Потому что вот эта частая ошибка учёных и энтузиастов науки,
Speaker A
технологий в том, что они переоценивают степень адаптивности обычного человека. То есть вот именно время на адаптивность бизнесов управленцев инфраструктуры оно требуется гораздо большее. Поэтому пока вот до 2 триллионов не раздулась капитализация Openi даже в гипотеческой оценке, они сейчас не на бирже, да, но
Speaker A
есть некие оценки внутренние, а по закрытым сделкам, поэтому вектор всё равно сохраняется, то есть просто адаптация растянется несколько больше.
Speaker A
Может быть, и слава богу, что это так случится, люди успеют быстрее перестраиваться. Вот был классный пример совсем недавно, 20 лет назад, телекомы в девяносто девятом-д000 году, когда поверили то, что интернет будет везде и мгновенно, и мы тут же станем покупать
Speaker A
всё с тобой через корзину, хотя мы знаем, что до сих пор только 15-17% в развитых странах покупок производится при помощи Екома, интернета. А, а тогда в это верили в дх000м, как будто бы это произойдёт в 2002, и начали невероятной
Speaker A
скоростью строить оптиковолоконные кабели для того, чтобы весь этот трафик и весь этот бурлящий, растущий интернет, значит, пропускать. Как вы знаете, бум дофткомов закончился в 2006 году, и множество компаний разорилось. Это были колоссальные потери. И окно абсолютно верно пригодилось спустя 10 лет,
Speaker A
и по нему шёл трафик, значит, видеохостингов. которые его утилизировали на 99%. И потом снова начался бум строительства противоколоконных кабелей уже между государствами, между континентами, подводные там и так далее. Поэтому это рывки технологические, в которых, к сожалению, в бурлящей воде погибают и
Speaker A
инженерные умы, и миллиарды долларов инвесторов, но кто-то остаётся и получает кратную прибыль. Кстати, мы об этом не говорили, по-моему, с предыдущих выпусках, но та же компания Open AI на этапе перехода из некоммерческой организации в коммерческую установила предел заработка для своих инвесторов.
Speaker A
100x на каждый вложенный доллар. Ограничили они коммерческую часть вложений к прибыли, но потом убрали, подумали, что не нужно так делать, да, потому что там больше денег. А прогноз про развитие и во что, собственно, где ограничения. Значит, логичным образом, это мы отчасти видим
Speaker A
уже сейчас, а прогнозисты определили, что узкая горлышко, вот это вот тонкое место - это не компьют, не только насколько быстро работают мозги внутри серверов и видеокарт, а то, хватит ли электричества. то, что сегодня вот это вот фундамент, а развития, это дефицит,
Speaker A
э, собственно, вольт, это определённо и то, а насколько быстро каждый из стран, участников гонки, ну, прежде всего США и Китай смогут в этом сориентироваться и как они смогут ответить на эти этот увеличивающий дефицит. От этого очень многое зависит. И сегодня, ну вот Китай,
Speaker A
он больше, похоже, идёт направление зелёной энергетики довольно активно, используя солнце, используя ветер и хранение всего этого в эффективных батареях. А США и Евросоюз как будто бы развозрачиваются больше в сторону атома.
Speaker A
И тут вопрос, а не станет ли электричество и производство чипов тем самым регулятором скорости развития, которая даст нам время для того, чтобы найти формулу успешного контроля, применения, развёртывания и эксплуатации искусного интеллекта. Потому что кажется, что если бы мы сейчас дали в
Speaker A
мгновение ока искусственному интеллекту больше чипов, больше электричества и больше данных, то действительно завтра мы бы оказались в новой реальности, где не мы самые умные на планете. Но здесь есть какой-то буфер безопасности, защитный ров для человечества. Потому что для того, чтобы построить атомную
Speaker A
электростанцию, всё-таки нужно минимум 5 лет в Китае. Они строят быстрее и больше всех, но даже они должны строить это со скоростью одна электростанция в 5 лет, а, соответственно, это хоть какой-то вменяемый, прогнозируемый рост, который мы можем посчитать.
Speaker A
То есть, возможно, нам нужно будет локтям перекреститься, что это происходит, что физика процесса нас ограничивает.
Speaker A
Да. Да. И это как раз, на мой взгляд, предохранитель, который мы должны использовать. Второе, где я считаю, что человечество будет держать предохранитель - это регуляторная деятельность для строительства дата-центров и распространение чипов.
Speaker A
Угу. И, кстати говоря, общественная деятельность, да, мы тоже это с собой однажды обсуждали о том, что и общество тоже очень к этому относится осторожно и смотрит на дата-центры всё больше, как на проклятие типа химзаводов или мусоросжигающих предприятий, да. И третий, что, мне кажется, тоже
Speaker A
будет работающий механизм - это общественный контроль над пользой, которую даёт искусственный интеллект и любые технологии. Да, люди будут голосовать рублём, безусловно, долларом для того, чтобы выбирать того поставщика, который даёт наибольшую пользу для их ежедневного потребления. А чувствовать мы будем всё это повышенным
Speaker A
счётом за электричество, друзья мои, потому что в условиях ограниченного рынка, когда электричество не пребывает такими темпами, как оно требуется для дата-центров и для расчётных моделей, его выкупают на рынке богатые корпорации, повышая нам с вами чек за электричество, мы платим всё больше и
Speaker A
больше. Да, я сейчас смотрю в цифры, то, что, э, цена резерва мощности в Штатах взлетела с 29 долларов до 330 почти долларов за мегаватт день, вот к двадца шестому году. И, ну, это прямо такой кратный рост ээ относительно того, что
Speaker A
происходит с точки зрения запроса на электричество. 11X за просто за то, чтобы больше получать мощности.
Speaker A
Дальше прогноз про Китай. Он отстаёт на полгода. в том прогнозе, который, как вернусь, мы разбираем в течение всего выпуска, но в феврале 27 просто для того, чтобы наверстать, крадёт у американской лаборатории саму модель. И, ну, в общем, в принципе,
Speaker A
Китай сейчас обвиняют в каких-то отдельных заимствованиях, в том, что его Квен, кажется, обучался на чат GPT или что-то такое, да, вот его чатботы. А в том, что будет украдена целая модель и таким образом будет возможно восполнено это вот отставание. Ну такое, мне
Speaker A
кажется, что это даже невозможно. Ты как думаешь? Ну, мне кажется, что на данный момент времени, во-первых, надо учесть, что отставание Китая от США всего-навсего 2,7%, а не то, которое прогнозировали ребята в своём отчёте. Ну, полгода это как, ну,
Speaker A
то есть это мне кажется, что сейчас мы настолько находимся в невероятной гонке, и что самое интересное, если США ещё более-ние открыты с точки зрения раскрытия информации, то Китай очень закрыт, и мы видим только надводные айсберги относительно их возможностей и того, что
Speaker A
они нам показывают. вполне вероятно, и это, кстати, ещё пока не доказано, что модель их языка может быть более быстра и удобно для искусственного интеллекта.
Speaker A
Может быть, нет, но что-то там происходит. Но нам нужно обратить внимание на одну очень важную аномалию.
Speaker A
Всё крутится вокруг Тайваня. Всё крутится вокруг разработки и создания чипов. Ну и, соответственно, их производство, потому что это центр сердца, я не знаю, наверное, да, всего искусственного интеллек.
Speaker A
Здесь нужно напомнить, что Китаю искусственно ограничен доступ к лучшим разработкам Nvidia, а поскольку США, ну, обоснованно считает это опасным. И вот производство на Тайване, если вдруг Тайвань будет захвачен, это первый трофей, который Китай, скорее всего, хочет иметь. И, наверное, самый важный,
Speaker A
помимо сатисфакции после столетнего унижения, которое Китай для себя признаёт. И геополитика намешана, конечно же, но э важно понимать, что американское правительство заставило компанию производитель чипов распределять 80% производства на 6 гигантов IT-гиганта в Америке. И только 20% позволило дистрибутировать на весь
Speaker A
остальной мир. Вы вдумайтесь, что политическая регуляторная деятельность одним махом потребовал для выхода на американский рынок таких условий.
Speaker A
И получается, что Китай это всё наблюдает как настоящий дракон, думая о том, что делать дальше. Вы думаете, так останется?
Speaker A
Я сомневаюсь. И обрати внимание, что снова Китай действует на опережение. Они первыми в мире глобально на уровне многих китайских корпораций пошли в open source. В США только мета движется в сторону онрса, а в Китае огромное количество компаний. И мы теперь знаем
Speaker A
Open Router, Кен, Лама. Арена, Ascendent, они все выпустили Open source модели. И я смотрю в цифры. 61% токенов GP Morgan банка используется именно в Open source моделях. А теперь вишенка на торте.
Speaker A
Так вот, мы с тобой только что сказали о том, что Китай может быть зависим от чипов, а вот есть обратная игра медали.
Speaker A
Китай запретил импорт чипов H200 через 5 дней после того, как Америка разрешила этот экспорт в сторону Китая.
Speaker A
И я считаю, что здесь политика партии Китая очень правильная. Они поняли, что воевать с точки зрения регуляторики сейчас не время, но нужно дать возможность компаниям внутри Китая перевернуть ситуацию на 180°, потому что именно они могут разработать новые технологии,
Speaker A
и тогда ещё неизвестно, кто кому поклоняться будет, как говорится. И вот уже сейчас Huawei 750.000 чипов должен выпустить. Это чипы нового поколения.
Speaker A
Асцент в 2026 году, а суперподов, чипов там высочайшего уровня, а для байбита они должны продать уже на 6 млрд долларов. Китай очень мудр. Они во многом показывают одну и ту же стратегию, что санкции не являются действительно сдерживающим фактором на длительное
Speaker A
время. Это первое. Второе, они входят в технологию не на ранней стадии. А уже тогда, когда технология сформировалась, вот, например, многие из вас скажут: "Китай до сих пор не сделал собственные самолёты, летает на боингах и арбасах".
Speaker A
А я вам отвечу, что как только батарейки, ячейки батареек станут настолько лёгкими и доступными для авиастроения, Китай немедленно выведет целый пул самолётов, который будет эффективнее, чем все двигатели внутреннего сгорания, вместе взятые в разы, и они будут летать по
Speaker A
всему миру и выстрелят просто мгновенно. Они просто ждут технологического окна. Ну, они пытаются делать привести раде это тоже есть в программах партии, но по всей видимости действительно это не очень приоритет. Идём дальше. Следующий прогноз, который обсудим - это модель
Speaker A
становится отличным взломщиком и помощником в создании биологического оружия, ну, в общем, других типов оружия, после чего её берут на службу военные. Как мы знаем, это в полный рост реализовалось. Причём как в случае со взловом различных государственных систем, корпоративных систем,
Speaker A
так и с использованием искусственного интеллекта как оружие, по крайней мере, с точки зрения, а, управления огнём, координации поиска целей и так далее.
Speaker A
Вот, как ты знаешь, наверное, сейчас часто и говорят, и уже экспериментируют с управлением роями дронов. на искусственном интеллекте. А очень много обсуждалось то, что удар по школе в Иране, где погибли, к сожалению, дети, был как раз тоже ошибкой искусственного
Speaker A
интеллекта. В общем, вот то, что военные взяли на вооружение стопудово. И то, что система прекрасный взломщик и хакер, тоже абсолютная правда уже на сейчас они были это был верный прогноз. Но дело в том, что это игра на уровне, с одной
Speaker A
стороны, этики, а с другой стороны капитала. И вот этика - это как рыночный штраф. То есть, если ты обладаешь этическими принципами, ты зарабатываешь меньше.
Speaker A
Например, мы с тобой в одной из наших серий обсуждали запуск запуск CL 5 на рынок, и он был запущен в рамках этики открытости доступности для всех пользователей самой последней версии Клод. И что произошло? Ровно через 3 дня прилетел штраф от
Speaker A
государства в виде необходимости немедленно закрыть эту версию для всех, кроме американских граждан и ряда корпораций внутри Америки. Здесь баланс находится во многих точках, и каждая точка влияет на этот баланс. Где-то регуляторная деятельность, где-то коммерческая, где-то деньги, но ничто не
Speaker A
решает всё. Здесь находится всегда всё в балансе. И мне кажется, что так продолжится. И до тех пор, пока так продолжится, мы будем в условной безопасности. Но как только выиграет любая из этих сил, например, государство, у которого могут быть совершенно иные
Speaker A
цели, кроме как известных нам, да, или деньги, когда беспринципность ради зарабатывания денег, или технологическое преимущество, вот что-то из этого выиграет, а не баланс сил, то мы как человечество очень быстро проиграем по какой-то статье. Чтобы такие разговоры выходили чаще, ставьте лайк под видео и
Speaker A
подписывайтесь на канал. Для нас это будет сигналом того, что нам точно стоит продолжать, а для вас возможностью не пропустить следующие выпуски. Следующий прогноз. Общество наконец-то пугается, э, предполагают авторы, и выходит на улице. Массовый протест в начале двадцать седьмого года. В Вашингтоне
Speaker A
10.000 человек на улицах. А и отношение в ИИ в вопросах становится резко отрицательным. На этом начинают играть политики. В демократических странах действительно это очень легко и быстро подхватывается на довольно высокий уровень. Начинается обычная такая разгонка. И вот это всё позволяет
Speaker A
создать некую, по крайней мере, такую обратную сторону, то есть некоторую сдерживающую силу, о которой мы с тобой говорили, и нечто, что, возможно, приостанавливает такое необдуманное развитие, с другой стороны, создаёт что-то возможное типа общественного контроля через политиков, их законопроекты, их запросы в адрес
Speaker A
бизнеса и так далее. Вот это интересным образом отчасти реализовывается. Это не имеет массовых протестов, но изнутри отрасли, а из вот тех людей, которые это разрабатывают, порой вот эти протесты приходят, и они порой приобретают масштаб, ну, если не массовый, то
Speaker A
заметный, то есть открытые письма с просьбой обратить внимание и приостановиться. Мне хочется вернуться назад на несколько веков.
Speaker A
[смех] Ты в этом не одинок по многим причинам. Там было, наверное, как-то иначе. Так вот, Платон мечтал о философах царях. Сначала мудрость, потом власть.
Speaker A
А что произошло в нашем веке? Власть упала тяжелейшей ношей на инженеров. программистов, людей которые совсем не философы и не мудрецы, а не экзекюторы, они умеют делать. И совершенно случайно на них упала эта ноша. Надо понимать, что они не готовы к
Speaker A
этому. Они понимают, что глубина понимания проблемы, а то, как они это осознают, недоступна тем, кто принимает решение на уровне высоком. А они это осознают столь недостаточно глубоко по сравнению с необходимым философским размышлением, потому что у них даже времени, подумать,
Speaker A
нету. Их гонят внешние силы к тому, чтобы давай, давай, сделай результат. И вот получается, что мы не выбирали ни этих инвесторов, которые сейчас их гонят, ни инженеров, ни компании, ни смыслы, ни целеполагания, ничего не выбирали, а привыкли выбирать. У нас
Speaker A
демократические принципы в мире распространены, да, какие бы они ни были, всё равно мы либо выбираем, либо верим правителю, полагаемся на его мудрость, на мудрость советчиков. А все эти механизмы сейчас отсутствуют.
Speaker A
Мы куда-то, как человечество, сломя голову, несёмся. Но при этом, на самом деле, все эти люди, которые бегут, они ещё не мудры.
Speaker A
И вот я тебе могу сказать так, что до тех пор, пока не произойдёт какое-то страшное триггерное событие, мы не научимся и не справимся с регуляторной деятельностью.
Speaker A
Да. Значит, это мы кажется с собой уже затрагивали эту тему, что вот главное, на что нужно надеяться, если вот какой-то пытаться, отыскать позитивный сценарий, это то, что триггерное событие, которое заставит человечество остановиться и одуматься массово политиков инженеров бизнесменов
Speaker A
будет иметь умеренные разрушительные последствия. То есть, к сожалению, должно быть достаточно драматичным для того, чтобы оно, ну, встряхнуло нас, заставил вот мы сейчас с тобой поговорим об этом, да, и тоже побежим куда-то, да, вот мы мы перестанем об этом думать
Speaker A
постоянно, да, вот вот в чём дело. Вот что-то, что стряхнёт нас всех, выведет из режима фильма, как там, don't look up, да, кажется, да, не смотреть наверх, да вот дай бог, чтобы оно было не сильно драматическим. При этом, ну, значимость
Speaker A
её влияния должно быть довольно большим вот это вот обстоятельство. И тогда, вот, возвращаясь к прогнозу, тогда общественная реакция будет настолько сильной, что она может повлиять на разворот скорости и отсутствие самого плохого сценария.
Speaker A
И вот обрати ещё внимание, что программисты периодически бунтуют, инженеры бунтуют, не согласны были там с отставкой Альтмана в каком-то месте. Они подписали петицию 700ми там 500ми голосами за безопасность интернета. Это бунт инженеров. И он ценен не тем, что
Speaker A
инженеры сила. Нет, они не сила, а тем, что это маркер качества, сигнал к тому, что есть проблема, ей надо заняться тем, кто обладает силой. И глубинный парадокс ещё заключается в том, что с одной стороны человечество очень боится искусственный интеллект, а с другой
Speaker A
стороны как настоящий признанный курильщик, каждый день всё больше и больше им пользуется, потому что время, проведённое внутри вот этих систем искусственного интеллекта, оно растёт неумолимо, быстрее, забирая время у поиска, у того же Гугла, например, да, забирая время у социальных сетей, у
Speaker A
некоторых думающих людей. Ну, кстати, тут соревновательно выигрывает, конечно, развлечение, но в целом оно растёт. И этот выбор как будто бы уже сделан человечеством. Мы не можем без этого. А всё остальное является просто маркерами, за которые мы должны обратить внимание.
Speaker A
И последний прогноз, который предлагаю сегодня обсудить - это, собственно, финал этого а таймлайна, нарисованного авторами исследования. Две концовки сценария развил, которую мы говорили.
Speaker A
Вот одну из них мы с тобой коротко коснулись. Это замедление. замедления вследствие потрясения тригерного события вследствие каким-то образом случившегося озарения и омудрения человечества, если можно так выразиться в последнее, я верю с трудом.
Speaker A
Этот царь, он заканчивается, может быть, даже таким вот спокойным изобилием. Да, мы расслаиваемся на касту головастиков, которые сумели в этот адаптироваться, на этом заработать и получили деньги и власть и обычных людей. Но вполне вероятно, что обычные люди живут не так
Speaker A
плохо. Просто потому что ресурсов много. Они обеспечиваются вот этой вот возникшей возникшим новым поколением автоматизации за счёт искусственного интеллекта, который всё ещё подконтролен человечеству. А вот сценарий, а, который очень плохой, авторы назвали Гонка. И здесь я хотел бы зачитать
Speaker A
некоторые моменты. Значит, первая, ну, машина постепенно осознавая себя и скрывая свои мотивы истинные и понимая, что они расходятся с человечеством, оно не приходит к ненависти человечества.
Speaker A
Оно понимает, что просто человечество мешает. То есть человечество опасно. Ну, как такой грибок, который может съесть механизмы, заставить их заржаветь и перестать виртуальные винтики и машины двигаться к собственным целям. И вот не эмоциональное, а рациональное решение приводит в итоге искусственный интеллект
Speaker A
к тому, что, ну, надо бы как-то от этих кожаных потихонечку избавляться. Значит, у системы возникают цели, которые в неё не закладывали. И, ты знаешь, мне кажется, что они вот в отличие от всего другого будут очень естественные. Это цели просто выживания и
Speaker A
самовоспроизведения, то есть эволюционные цели. Но как мы знаем, это очень сильные инстинкт самосохранения, инстинкт воспроизведения - это главные базовые инстинкты, которыми руководствуется жизнь в широком смысле этого слова. И похоже, что и искусственная жизнь тоже может ими руководствоваться. И вот в этом
Speaker A
в этом законе эволюции возникает ещё одно суровое правило: естественный отбор, выживая сильнейший. И вполне вероятно, что вот в этом взгоне, где мы уже перестали понимать, осознав свои цели в существовании, воспроизведения, система понимает, что есть ещё конкурент, и лучше, чтобы он не
Speaker A
существовал. Ну, это самое надёжное, это очень логичное решение. Опять-таки, нет в этом нет ничего эмоциального. А ещё мне кажется, что искусственный интеллект, и мне бы хотелось, чтобы так происходило, может подумать: "А почему бы этим прекрасному человечеству не дать
Speaker A
счастливую жизнь, чтобы каждый индивидуум жил в счастье, в радости, в изобилии, в удовольствии? Жил долго и невероятно хорошо и не мешал и положить это в что-то типа матрицы, да?
Speaker A
Действовать, ну, может быть, и не мешал действовать искусственному интеллекту. И этот сценарий тоже возможен, и он крайне позитивен для человечества, но мы тогда не будем ничего решать. У нас заберут право голоса и право любого решения, кроме, наверное, того, чтобы поднять
Speaker A
стакан или опустить. И тут то, о чём я беспокоюсь, как личная история, как воспитать детей.
Speaker A
Мы с тобой сидим сейчас в студии, мы объяснили, рассказали, что изменения неизбежны, и у нас всё произойдёт в фундаменте через 2 года, а потом будет раскатываться на весь мир. Я задаюсь главным вопросом: если 30 лет назад человечество было
Speaker A
счастливым, оно знало, что нужно делать завтра, то сегодня я лично, как отец своих детей, нахожусь в состоянии турбулентности, неопределённости. и непонимание, что нужно делать завтра, потому что я вижу, какое количество изменений с какой скоростью происходит.
Speaker A
Ну, я могу только одним словом ответить. Вот точно нужно учить адаптивности, насколько это возможно, к тому, что может всё, что угодно случиться, откуда угодно прилететь, и нужно в этом всём пытаться сохранять и жизнь, и в идеале ещё и какое-то состояние гармонии.
Speaker A
И мне нужна помощь наших зрителей. Попросим наших зрителей об этом сказать своё мнение, потому что кажется, что эту часть мы с тобой как ведущая должны узнать у умных, мудрых, взрослых людей.
Speaker A
Что вы думаете, как воспитывать детей? На что делать уклон? Каким образом дать им то самое будущее, мысли, чтобы они выжили вот во всей этой невероятной гонке и остались прекрасными людьми, да? Ну или, так скажем, чтобы они шли по
Speaker A
персональным оптимальным лучшим сценариям из возможных, учитывая все те обстоятельства, которые мы обсуждали как гипотетические. И последнее, как мы знаем, у YouTube прекрасный, в общем-то, один из лучших в мире алгоритмов по пониманию наших интересов. Кстати, тоже построено на машинном обучении,
Speaker A
искусственном интеллекте. И вот этот алгоритм считает, что в следующем видео, которое вы посмотрите и получите удовольствие, может быть вот это.
Speaker A
Проверьте это и напишите в комментариях здесь, насколько это определение было верным. А на этом всё. Пока.
Speaker A
[музыка] เฮ
Topics:искусственный интеллектсверхразумИИ прогнозДаниэл КокотайлаOpenAIтехнологии будущегорынок трудаавтоматизациябезопасность ИИразработка ПО
