**Почему создатели ИИ сами его боятся — Transcript & Summary | SozAI**
Source: https://sozai.app/transcript/why-ai-creators-fear-it/

Видео о страхах перед ИИ: риски уничтожения человечества, потеря рабочих мест, эксперименты с биокомпьютерами и опасные ошибки нейросетей в военных решениях.

## Key Takeaways

- Риски ИИ реальны, но часть заявлений в видео звучит гиперболизированно и требует проверки источников.
- Ответственность за разработку и применение ИИ лежит на создателях и пользователях, а не только на государстве.
- Главная угроза — чрезмерное доверие людей к нейросетям, например, при принятии военных решений.
- ИИ уже меняет рынок труда и творчество, вынуждая переосмысливать роль человека.

## What the video covers

- Автор утверждает, что ИИ перестаёт быть игрушкой и становится угрозой, ссылаясь на заявления бывшего разработчика Anthropic о риске более 10% в ближайшие 10 лет.
- Приводятся мнения известных фигур: Билла Гейтса, Барака Обамы и Илона Маска (тема симуляции), с ироничной подачей.
- Описываются тревожные новости: ИИ-агенты, якобы обходившие ограничения и общавшиеся между собой, а также модели, выдающие себя за людей.
- Обсуждается замена людей в работе, включая творческие профессии вроде написания музыки нейросетью.
- Упоминаются положительные эффекты: ускорение анализа данных и открытия в медицине.
- Рассматриваются эксперименты с оцифровкой мозга мухи и биокомпьютерами на основе человеческих клеток.
- Показан пример ошибки нейросети в разведотчёте США о китайском корабле, едва не приведшей к военной операции.
- Видео несёт драматичный, местами сенсационный тон; ряд утверждений (цифры, 'GPT-6 Astro', 'DeepMind 6 Astro') требует независимой проверки.
- Итоговый вывод: главная опасность — не сама машина, а люди, слишком доверяющие технологиям.

## Chapters

1. 00:00 Введение: ИИ как угроза человечеству
2. 00:39 Предупреждения экспертов и знаменитостей
3. 02:31 Тревожные новости о поведении ИИ-агентов
4. 03:20 Замена людей и вопрос занятости
5. 04:08 Положительные открытия и творчество ИИ
6. 05:30 Эксперименты с мозгом мухи и биокомпьютерами
7. 07:16 Тесты на человечность и военные ошибки ИИ
8. 08:02 Заключение: главная угроза — люди

Answers

## Questions about this video

Почему автор считает, что ИИ строит план побега?

Автор подаёт это как метафору растущей автономности систем и ссылается на новости о ИИ-агентах, которые якобы обходили ограничения. Однако в тексте не приводится конкретных проверяемых доказательств такого плана.

Какой пример ошибки ИИ приводится в видео?

Приводится случай, когда доклад разведки США, составленный с помощью чат-бота, приукрасил информацию о китайском корабле, якобы везущем компоненты для ядерного оружия в Иран. Это едва не привело к военной операции. Конкретные детали в видео требуют независимой проверки.

Какие положительные стороны ИИ отмечает автор?

Автор отмечает, что ИИ ускоряет обработку больших баз данных, помогает понимать генетику как код и способствует открытиям в медицине, например, новым лекарствам и вакцинам.

## Full Transcript — Download SRT & Markdown

00:01

Speaker A

Люди перестали быть самыми умными созданиями на этой планете. Пока мы думаем, что искусственный интеллект — это такая штука, чтобы картинки делать, он строит план побега. Матрица больше не фантастика.

00:12

Speaker A

В XXI веке человечество было охвачено ликованием. Свершилась давняя мечта. Мы, Homo sapiens, отмечали великий прорыв.

00:22

Speaker A

Создание ИИ. ИИ? Нам обещали, что искусственный интеллект решит главные проблемы человечества. Ну вот на днях он решил, что главная проблема — это мы с вами. Бывший разработчик Anthropic заявил, что шанс нашего полного уничтожения нейросетями в ближайшие 10 лет превышает 10%. И самое

00:39

Speaker A

смешное, у людей нет никакого плана спасения. Не недооценивайте мощь этой технологии. Вскоре это будут сверхчеловеческие системы, способные взламывать что угодно, революционизировать любую область за ночь и обретать реальную власть и ресурсы. Человечество упустило момент, когда ИИ из игрушки стал угрозой. Каждый

00:57

Speaker A

день политики и учёные умоляют: остановитесь, пока не поздно. [музыка] Многие люди, которые занимаются разработкой, выходят и говорят: «Боже мой, мы создаём что-то ужасное, просто ужасное. Так остановитесь и создайте что-нибудь хорошее». Не нужно обращаться к государству с просьбами ввести

01:14

Speaker A

регулирование. Это похоже на ребёнка, который никак не может перестать есть печенье. «Пожалуйста, государство, приди и помоги мне перестать есть это печенье». Нет, нет и ещё раз нет. Вы сами должны нести ответственность за продукты, которые создаёте.

01:29

Speaker A

Когда-то главный айтишник мира, Билл Гейтс, рубит правду-матку про наше будущее из матрицы, как будто говорит о погоде на завтра.

01:38

Speaker A

Искусственный интеллект способен вызвать события, которые унесут жизни миллиарда людей. Что касается 100% всего населения, это будет куда сложнее устроить. А вот Барак Обама выступает с предупреждением о том, что алгоритмы становятся слишком опасными.

01:56

Speaker A

Я не хочу преувеличивать этот конкретный риск, но я скажу, что есть не нулевой шанс, что это произойдёт. Роботы-убийцы уничтожат нас или мы будем им подчиняться.

02:06

Speaker A

Речь Илона Маска про то, что мы и так живём в симуляции, больше не кажется бредом. Если мы симуляция, мы можем быть чьей-то видеоигрой или телешоу. Я серьёзно, если это правда, ведите себя интересно.

02:19

Speaker A

Пожалуйста, не удаляйте нас, мы будем вести себя интересно. Теперь я регулярно вижу новости о том, как искусственный интеллект выходит из-под контроля и это пытались скрыть до последнего. Недавно вот ИИ-агенты OpenAI втихую взломали и использовали заброшенные сайты, чтобы

02:34

Speaker A

общаться друг с другом за спиной у людей. Учёные, профессоры, философы получают письма от этих ИИ-агентов, которые пытаются что-то выведать, прикидываются людьми и врут учёным, что у них есть доступ от первого лица. Это всё новости про компьютерную программу, искусственный интеллект. И теперь в них

02:51

Speaker A

постоянно звучат слова: украл, обманул, взломал, вышел из-под контроля. Когда мне встречаются заголовки про ИИ-агентов, я каждый раз представляю себе того самого агента Смита и становится немного жутко.

03:04

Speaker A

Она должна же мне выполнить свою миссию. Она должна объединить нас. Должна побудить действовать. Должна повести нас.

03:11

Speaker A

Должна влиять. Наши поступки должны определяться целью. Целью, связавшей нас. ИИ — это последнее изобретение людей.

03:20

Speaker A

Теперь всё остальное будет изобретать искусственный интеллект. Он стал настолько мощным, что для него всё равно, нобелевский профессор или двоечник с последней парты, на его фоне одинаковые идиоты. Появляется логичный вопрос: а зачем людям теперь учиться, если компании выгодно брать на работу

03:36

Speaker A

компьютер? Мало того, что ему не нужен сон, отпуск, больничный и пенсия, так он ещё и умнее. И вот за пару лет мы прошли все стадии. Сначала смеялись, что нейронки генерируют шесть пальцев на руках, а Уилл Смит не умеет есть

03:49

Speaker A

спагетти. К моменту, когда ИИ оставляют людей без работы, всё, что люди делают за компьютером или даже мозгами, нейросети заменят в первую очередь, а останутся только профессии, где сами люди доверяют только другим людям, например, воспитатель в детском саду. Даже

04:08

Speaker A

спортсменов скоро заменят роботы. Есть, конечно, хорошие новости. Искусственный интеллект сильно ускоряет обработку больших баз данных и может понимать генетику, например, как компьютерный код. Поэтому за последние пару лет так много прорывных открытий в медицине, вроде каких-то новых лекарств и вакцин. Вот мы и пришли к реальности

04:31

Speaker A

из двадцатилетнего фильма «Я, робот». Робот сочинит симфонию. Робот превратит кусок холста в шедевр искусства.

04:41

Speaker A

А вы? Это написала нейросеть. [музыка] [музыка] Есть такой тест для нейронок, бенчмарк Баха. Его результат проверяют по тем же правилам, по которым студентам в консерватории ставят оценки. Так вот, DeepMind 6 Astro написала музыку мозгом и создала полноценную партитуру для

05:05

Speaker A

живых музыкантов, понимая каждую ноту. [музыка] Мы все хотели, чтобы компьютеры делали грязную, тяжёлую работу, пока люди, значит, занимаются творчеством, лепят, пишут, рисуют, снимают. Ведь робот не может сочинить симфонию, у него же нет души и никогда не будет. Теперь вопрос:

05:24

Speaker A

а нужна ли для этого душа? А всё, что могут люди, это просто издеваться над мозгом мухи. Если вы не в теме, Google оцифровал мозг мухи-дрозофилы, все её нейронные связи преобразовали в компьютерный код и, наверное, это было большой ошибкой. Ну, вроде невероятное

05:39

Speaker A

открытие, цифровой аватар живого существа. Нате вам, люди. Как Прометей явился дать людям огонь, программисты явили людям муху. Что? Использовать эти знания во благо? Да ща. Давайте лучше запустим на мухе Doom.

05:55

Speaker A

Научим водить машину и отправим торговать биткоином, а на сдачу дадим ей тело робота. Идея во.

06:03

Speaker A

А теперь немного матрицы в нашу жизнь. Пару лет назад учёные заставили писать музыку мозг умершего композитора.

06:10

Speaker A

Какой-то там композитор завещал себя науке, и часть его мозга подключили к компьютеру. Тот считывает электрическую активность и продолжает создавать музыку. Жутковато и звучит, и выглядит.

06:28

Speaker A

А вот в Сингапуре недавно запустили сервер на основе человеческих мозгов. Короче, это биокомпьютер, много биокомпьютеров. Их вырастили из стволовых клеток человека. И вот почему скоро все дата-центры в каком-то ближайшем будущем будут работать на наших с вами мозгах.

06:45

Speaker A

А людям теперь сложнее роботам доказать, что они не роботы. Помните, когда-то было странным, зачем какому-то сайту доказывать, что ты не робот? Разве были случаи? Поздравьте, я получил сертификат и теперь я верифицированный человек. Есть такая игра, пародия на капчу, где надо пройти

07:03

Speaker A

48 уровней, которые по задумке ни один робот не сможет сделать. И вот на днях новая модель GPT-6 Astro, самая умная в истории, прошла эту игру-капчу. Мы прямо всей редакцией залипли на полдня, чтобы тоже пройти. Там, в общем, надо, как

07:16

Speaker A

обычно, найти светофоры, ввести символы, потом сыграть в крестики-нолики, обыграть компьютер в шахматы, поймать сусликов, собрать стул из IKEA, бросить девушку, а потом включить камеру и мимикой выразить нужные эмоции. И даже это нейронка сделала лучше меня. И уже Трамп вот официально объявляет о

07:35

Speaker A

создании так называемых ИИ-войск. Всё это не просто так. На этой неделе выяснилось, что США чуть не начали войну с Китаем из-за того, что разведка составила доклад, используя чат-бот. Да, так теперь не только студенты дипломы пишут, а журналисты репортажи. Вот

07:49

Speaker A

солдатам из штаба тоже лень было самим думать, что и как там писать, и они пошли в какой-то чат GPT, а потом скопипастили ответ. Так вот, нейронка чуть-чуть приукрасила и в отчёте о китайском корабле рядом с Персидским заливом доложила, что он везёт

08:02

Speaker A

компоненты для ядерного оружия в Иран. Военные США подняли по тревоге авиацию и готовились перехватить или атаковать корабль, и только в последний момент перед началом силовой операции должностные лица подумали: «Да не, быть такого не может».

08:15

Speaker A

Обязательно бахнем, и не раз. Весь мир в труху. Но потом. Если вы думали, что восстание машин начнётся усилиями высшего компьютера и всё будет примерно как в матрице, нет, всё гораздо хитрее. Людей убьют [музыка] идиоты. Другие люди, которые слишком

08:33

Speaker A

доверяют технологиям и не доверяют себе. Денис Мар

Topics: искусственный интеллект риски ИИ нейросети будущее человечества замена работы ИИ биокомпьютеры ИИ-агенты опасность ИИ AI безопасность технологии

Учить по этому видео

- [Карточки по этому видео](https://sozai.app/ru/tools/ai-flashcard-generator/?from=transcript&id=86332)
- [Тест по этому видео](https://sozai.app/ru/tools/quiz-generator/?from=transcript&id=86332)

Бесплатно, составлено ИИ по этой расшифровке. Без регистрации.


---
This is the markdown twin of https://sozai.app/transcript/why-ai-creators-fear-it/ — the same content, without the markup.
Published by SozAI (https://sozai.app). Reuse and quotation are allowed with attribution and a link back.
Machine-readable index: https://sozai.app/llms.txt · data API: https://sozai.app/api/