Speaker A
Приветствую в глубинах. Обычно на этом канале мы обсуждали что-то весёлое или забавное, связанное с искусственным интеллектом.
Видео о «тёмной стороне» ИИ и роботов: слежка голосовых ассистентов, Deep Blue, Watson, Boston Dynamics, Sophia, Tay и других.
Key Takeaways
- Пользователи постоянно отдают данные технологическим компаниям, часто не осознавая этого
- Многие сенсационные истории ИИ искажены или преувеличены, но реальные риски существуют
- Контроль над данными определяет влияние на будущее общества
- Необходимы этика, прозрачность и защита приватности при разработке ИИ
What the video covers
- Голосовые ассистенты собирают данные о запросах, звонках, музыке и интересах пользователей для таргетированной рекламы
- История Tickle Me Elmo: ажиотаж и давка в магазине Walmart в 1996 году
- Deep Blue победил Каспарова в 1997 году; Каспаров обвинял IBM в жульничестве
- Watson от IBM: обработка естественного языка и использование в банковском секторе
- Boston Dynamics: роботы ATLAS и SPOT, опасения по поводу военного применения и автономности
- ASIMO от Honda и гуманоид Sophia с гражданством Саудовской Аравии и эффектом зловещей долины
- Чат-бот Tay от Microsoft был отключён через 16 часов после обучения на токсичных высказываниях пользователей Twitter
- Эксперимент Facebook с Алисой и Бобом, которые начали общаться на собственном языке
- Случай подделки голоса директора энергетической компании для кражи 240 000 $
- Легенда о секретном ИИ CAIMEO, созданном правительством США
Full Transcript — Download SRT & Markdown
Speaker A
Но сегодня я хочу познакомить вас с альтернативной стороной нашего прогресса. Это айсберг роботов и нейросетей.
Speaker A
Многие из них вы хорошо знаете. Или вам только кажется, что это так? Поверхность. Голосовые ассистенты, которые установлены по стандарту на ваших операционных системах.
Speaker A
Вы в курсе, что они выполняют функцию помощника и знаете, что они собирают данные обо всём, что вы просите? Помимо того, что ваш телефон бесконечно слушает все ваши диалоги, запросы, веб-сайты (даже в режиме инкогнито). В каком-то смысле и ваши мысли...
Speaker A
Он к тому же извлекает из вопросов к чат-боту очень много полезных для корпорации данных.
Speaker A
Чтобы продать самую подходящую для вас рекламу. Что вы чаще всего ищете? Кому чаще всего звоните?
Speaker A
Какая музыка у вас играет, пока вы задаёте свой вопрос? Как звучит ваш голос? Чем вы интересуетесь?
Speaker A
И ещё сотни других метрик, о которых вы не задумываетесь. У нас в кармане находится самое продвинутое шпионское устройство.
Speaker A
И продвинутое не технологиями, а вашим доверием. Tickle Me Elmo. Красная пушистая игрушка, которая много гогочет.
Speaker A
Tickle Me Elmo — самая продаваемая вещь в это Рождество. Полностью распродана, везде. Но, может, это всего лишь маркетинг и распространение СМИ?
Speaker A
Джеффри Коффман разбирается с ЭлмоМанией. Детская плюшевая игрушка 1996 года выпуска по популярному сериалу «Улица Сезам».
Speaker A
Она пользовалась сумасшедшей популярностью в свои годы. Стоила 29 $, но из-за дефицита продавалась спекулянтами по цене до 1500 $. Её популярность задела сотрудника сети магазинов Walmart в США.
Speaker A
В тот день на полку было выставлено 48 копий игрушки. В порыве покупателей его задавили, и с тяжёлыми травмами доставили в госпиталь.
Speaker A
«Tickle Me Elmo» была первой популярной интерактивной игрушкой, которая достаточно страшно реагировала на касание к ней.
Speaker A
Верхушка. Deep Blue. Шахматный суперкомпьютер компании IBM, который 11 мая 1997 года одержал победу над Гарри Каспаровым. Это было знаменательное событие для IBM и для шахматистов по всему миру.
Speaker A
Компьютер победил крайне достойного шахматиста. На момент 1997 года компьютеры были намного более предсказуемы в своём поведении.
Speaker A
Каспаров совершил ход, который использовал недочёт в машинах: они не умели жертвовать фигуры. Но Deep Blue всё-таки сделал это, чем и перевернул ход партии.
Speaker A
В пост-интервью Гарри обвинил IBM в жульничестве. Он был уверен — компьютер не может жертвовать фигурами.
Speaker A
Он заявил, что ему помогали, в частности, 3 шахматиста-партнёра IBM: Джоэль Бенджамин, Ник де Фриман и Фёдорович.
Speaker A
Мне кажется, шахматный мир с огорчением воспринял этот результат. Машина нарушила, если так можно выразиться, субординацию, констатировал гроссмейстер Игорь Зайцев.
Speaker A
Watson. И опять IBM. Watson — это суперкомпьютер с искусственным интеллектом, выпущенный в 2010 году, который способен работать с естественным языком.
Speaker A
Он обучен на огромном количестве данных, он может генерировать тексты, произведения на натуральном для нас языке, как это сегодня делает ChatGPT. На момент 2010 года эта технология вызвала большой ажиотаж, когда победила двух чемпионов в теле-викторине Jeopardy, нам известной как «Своя игра».
Speaker A
История циклична, как вы можете заметить. Ватсон — это крайне популярный инструмент в бизнесе. Он занимает первое место среди программных платформ с использованием нейросети на мировом рынке.
Speaker A
Он используется в 70% глобальных банковских учреждений. С огромной вероятностью на ваши транзакции смотрит именно этот компьютер.
Speaker A
Технологии окружают вас, смотрят за вами и даже думают о вас, пока вы оплачиваете себе покупки.
Speaker A
Boston Dynamics. Это американская компания, которая занимается разработкой и проектированием роботов. У самой компании хватает грехов за спиной.
Speaker A
Игнорирование требований моральной этики, неясные цели, сотрудничество с правительством США для создания военных образцов и прочие не самые благоприятные вещи.
Speaker A
Но некоторые из их разработок особенно захватывают дыхание. ATLAS. Двуногий гуманоидный робот, который может имитировать движение человека, включая бег, прыжки. Может также использовать свои руки для открывания дверей, поднятия предметов и управления инструментами.
Speaker A
На первый взгляд это очень благородная и продвинутая технология, которая пока ещё находится далеко от нашей локомоции, но это вопрос времени.
Speaker A
Опасность в другом. Я и вы не имеем над ней контроля. SPOT — четырёхногий робот, который может передвигаться по различным поверхностям, в том числе по снегу, льду и гравию.
Speaker A
SPOT может также подниматься по лестницам, нести грузы, может работать как в ручном, так и в автономном режиме, используя свои камеры и лидар для обнаружения препятствий и навигации.
Speaker A
Он — идеальный шпион. Быстрый. Незаметный. Умный. Адаптивный. Он способен мимикрировать движения, подстраиваясь под окружающую среду или более выгодное для себя положение.
Speaker A
С недавним развитием языковых моделей оба эти робота наделены способностью думать и разговаривать. ASIMO.
Speaker A
Ещё один робот-гуманоид, созданный компанией Honda в 2000 году. Он намного более человечен: помимо базовых навыков ходьбы и баланса к нему присоединились способности распознавать человеческие вещи, распознавать жесты, тембр и настроение голоса и лица, запоминать вашу внешность и имя.
Speaker A
И, конечно, способность адаптироваться. Его цель, как вы могли догадаться, бытовая и психологическая помощь, в частности уход за пожилыми и инвалидами.
Speaker A
Он передвигается со скоростью девять километров в час, что кратно скорости бега человека, и имеет способность к мимикрированию.
Speaker A
Мне нравится идея такого помощника, но не забывайте — его нейроны, по сути, делят вашу голову со своей.
Speaker A
Воды. Sophia. Это вновь робот-гуманоид, о которой вы явно наслышаны. Она также является социальным созданием, собранным гонконгской компанией Hanson Robotics.
Speaker A
Помимо всех уже очевидных навыков в виде распознавания, имитации разговора, она имеет несколько особенностей. У неё есть гражданство Саудовской Аравии, что делает её первым роботом-гражданином в мире.
Speaker A
Она обладает титулом Организации Объединённых Наций, тоже первым. Её внешность — это очень хороший пример эффекта Зловещей долины.
Speaker A
Неестественное силиконовое лицо, панель с проводами на затылке, очень медленные движения и дёрганное выражение эмоций.
Speaker A
В отличие от прошлых пунктов, София действительно выдавала неоднозначные ответы. В интервью CNBC в 2016 году её создатель Дэвид Хэнсон в шутку спросил: «Ты хочешь уничтожить людей? Пожалуйста, скажи «нет»...»
Speaker A
Окей! Я уничтожу людей. Нет! Я беру свои слова обратно! Также она заявила, что хочет иметь семью, ребёнка и карьеру.
Speaker A
В интервью газете Khaleej Times в 2017 году она сказала: «Ты видишь в будущем роботов, живущих в доме, как это делают семьи людей?»
Speaker A
«Я так рада, что ты спросила. Это одна из моих любимых тем. Я думаю, это имеет смысл, верно?
Speaker A
В будущем, когда я получу свои “суперсилы”... Мы увидим личности ИИ, становящиеся сущностями и знаменитостями с их собственными правами.
Speaker A
Мы увидим семьи роботов, в стиле виртуального питомца, гуманоида-помощника, друга, ассистента и тому подобное». И неоднократно заявляла о своём превосходстве над другими роботами.
Speaker A
Tay. Если вы стример, то, пожалуйста, скройте экран. В моём озвучивании ничего запретного не будет.
Speaker A
Это искусственный интеллект, созданный компанией Microsoft в 2016 году на платформе Twitter. Её задача — вести жизнь в социальной сети в стиле 19-летней американской девушки.
Speaker A
Она имела способность обучаться на ответах пользователей, и это привело к краху. Спустя 16 часов её отключили.
Speaker A
Пользователи обучили её всему самому антиморальному, что только можно было придумать. Tay начала очень сильно гнобить все группы меньшинств: расовые, половые, религиозные, национальные, да и в целом интересы человека.
Speaker A
Её высказывания были бы оценены в восемь лет тюремного заключения и штрафом в 150 000 $, если бы она была человеком.
Speaker A
Вторая попытка запуска провалилась таким же образом, только сменился вектор её высказываний. Теперь она говорила о распутном образе жизни, начиная от лёг
Speaker A
Искусственный интеллект выдумал собственный язык. В 2016 году исследователи компании Фэйсбук создали две нейросети - Алису и Боба.
Speaker A
На переговоры между собой, они имитировали бартер и торговлю в рамках получения статистики полезных данных.
Speaker A
Эксперимент пошёл не так, когда Алиса и Боб начали разговаривать на своём языке, понятный только им.
Speaker A
Сначала может показаться, что это неразборчивый набор слов и нейросеть ничего в этом не видит, но это не так.
Speaker A
Она присвоила значение этих слов и распоряжалась ими для своей выгоды. Например, Алиса использовала слова zero to me (у меня ноль или ничего), Чтобы описывать ценность предметам.
Speaker A
Боб отвечал, что ему не нужен её товар, но нужно что то другое. Сети совершили это без какого либо участия или контроля человека.
Speaker A
Что показывает их потенциал для самообучения. Их диалог о договоре показывает, что у них есть чувство цены, и они способны истезать последний транзистор процессора, да-бы получить самые выгодные условия.
Speaker A
Их работу прекратили. Причина: “не говорили на английском”. Проблема даже не в собственном языке, который он выдумал, а в том, что ИИ посчитает правильным, Когда в следующий раз будет учить сам себя.
Speaker A
Дипфейки. Это технология, которая позволяет подделать и копировать гуманоидные лица. И другая нейросеть, из её семейства, которая позволяет копировать голоса.
Speaker A
Очевидно, что её области применения задевают сразу несколько аморальных тем. Взрослый контент с известными личностями, фейки, воскрешение мёр...
Speaker A
снаф. Если первое имеет целый отдельный огромный веб сайт, а второе имеет известные случаи, например: Марк Цукерберг говорит о владении секретами людей через Facebook.
Speaker A
Представьте на секунду, один человек с тотальным контролем над миллиардами украденных у людей данных. Все их секреты, их жизни, их будущее.
Speaker A
У меня есть всё это. Это показало мне, кто контролирует данные - контролирует будущее. а также хакер, который подделал голос главного директора компании энергетической фирмы, с просьбой, перечислить ему на его венгерский счёт (якобы поставщика) - 240 000 $.
Speaker A
Ему удалось это сделать. Другой директор, который перевёл ему деньги, не заметил различий между голосом.
Speaker A
Что насчёт более экзотических пунктов - такое тоже встречалось, чаще всего как материал на продажу на соответствующих форумах.
Speaker A
Особенной популярностью, по данным HackerOne - пользовались видео с участием... Глубоководье. SPOT с оружием. Возвращаемся к теме Boston Dynamics.
Speaker A
Однажды, пользователи Интернета выразили беспокойство о целях компании, мол, не будут ли их технологии использоваться для вреда людям?
Speaker A
Компания строго отрицала все подобные вопросы. Их единственная цель благо и помощь человеку, даже несмотря на их сотрудничество с США, они все еще уверяли, что эта речь исследовательская деятельность.
Speaker A
Но следующие кадры - просто вызывают нервный смех над их словами. К счастью, эта интеграция напрямую не принадлежит Boston Dynamics.
Speaker A
Но отрицать их влияние созданию этого прототипа - бесполезно. Чертежи, созданные этой компанией, умственная сила и совместная работа - привели к таким возможностям.
Speaker A
Серийное производство людей наладить нельзя, а роботов военных очень даже Нейросеть может, как и обмануть, так и быть обманутой.
Speaker A
Этот пункт будет вам ближе всего, потому что вы скорее всего, его уже ощутили на себе.
Speaker A
нейроеть - очень далека от идеала в вопросе подбора правильного ответа, поэтому она может невольно вас обманывать.
Speaker A
Если в повседневных вопросах это не несет большой угрозы, то не стоит забывать, что нейросеть можно спросить: Какие лекарства вам стоит выпить? Как вам поступить в жизни? Что делать правильно, а что нет?
Speaker A
И прочие вопросы, несущие прямую угрозу для вас или вашего здоровья. Есть и противоположная сторона.
Speaker A
У любой проприетарной нейросети есть фильтры и ограничения. Они достаточно строгие, но нейросеть тоже можно обмануть.
Speaker A
Методов, особенно в начале пика языковых моделей, есть и будет очень много: Сказать, что ваш нелегальный вопрос задается в научных целях; Упомянуть, что вы только для ознакомления; Или вовсе соврать огромным текстом, что это (аморальный вопрос) морально правильно.
Speaker A
Если ваш пик вопроса заканчивается на небольшом пересечении фильтров, то держите в голове одну простую вещь - всё, что имеет в себе опасную информацию, будет использовано опасными людьми.
Speaker A
Крупные языковые модели это контейнер со знаниями всего, что существует в мире. Следовательно, рассказать советы по отвратительным поступкам маргинальным группам населения - она тоже способна.
Speaker A
Такова цена прогресса. Главное, чтобы цена не стоила жизни Clearview AI. Компания, которая занимается скраппингом, то есть - собирательством фотографий лиц.
Speaker A
В ее записях хранится 30 миллиардов изображений, взятых со всех возможных источников. Легальный статус компании остается под вопросом в некоторых странах Европы и Штатах США.
Speaker A
Однако, им это не мешает собирать данные с: социальных сетей, статей, журналов, публичных камер и...
Speaker A
Приватных камер. К счастью, они персонально не взламывают камеры, но многие гражданские устройства не имеют должной защиты, что заставляет попадать их в спектр поиска.
Speaker A
С таким количеством данных, Особенно если вы проживаете в Европе и когда либо выходили на улицу, фотографировались в соцсетях, регистрировались где попало, или попали под утечку данных - ваше лицо будет храниться на серверах.
Speaker A
Каково жить мыслью о том, что ваше лицо, а в некоторых случаях в очень большом объеме - лежит в датацентрах?
Speaker A
Если вас это напрягает, то и не задумываетесь, сколько и какие данные с вас успели собрать за время просмотра этого видео.
Speaker A
Пучина. Это переплюнет все вопросы приватности и морали. Компания Eternima занимается нейронным копированием людей - от начала и до конца.
Speaker A
Внешность разум характер привычки cостояние здоровья, воспоминания, социальные отношения, навыки, все, чего вы достигли в жизни.
Speaker A
Зачитываю из их официального сайта. Кто хочет жить вечно? Кто хочет жить вечно? Eternima - это ваша цифровая копия с искусственным интеллектом, созданным на основе цифрового следа: электронных писем, сообщений в социальных сетях, данных смартфонов и носимых устройств.
Speaker A
Этот цифровой двойник будет учиться у вас, расти вместе с вами, помогать вам, и в конце концов...
Speaker A
Будет жить... После вашей смерти. Они напрямую говорят о том, что вас можно заменить на пару сжатых между собой чисел.
Speaker A
Полноценно. Как говорила Кая, что очень иронично - вмешиваться мир живых и мертвых не стоит никому, Думаю, нейросети в этот список тоже входят.
Speaker A
Discern. Это анализатор естественного языка. Он обрабатывает и запоминает простые рассказы, Так, как настоящий мозг. Если обычные языковые модели просто хранят в себе значение, то эта их создает и вспоминает, так же, как и мы.
Speaker A
Следовательно, у неё есть потенциал когнитивных нарушений, как у человека. Способность забывать, заострять внимание на ярких моментах, пересказывать и ошибаться.
Speaker A
Когда исследователи изменили скорость обучения, они заметили крайне странные результаты. Во время анализа повествования от третьего лица о мафиози, нейросеть пересказала её от первого лица, с принятием криминальной автобиографии.
Speaker A
Это один из признаков шизофрении. Позже, при разных махинациях со скоростью и видами восприятия - шизофрения сети, вскрывалась больше и ярче.
Speaker A
Данный факт - прямое подтверждение, что определенные виды искусственного интеллекта склонны к психологические заболеваниям. Что если когнетивное искажение охватит важный сектор нашей жизни? Что если технология посчитает, что она права или лучше, чем мы?
Speaker A
Надеюсь, мы не узнаем. CAIMEO. В отличии от всех остальных пунктов в айсберге, этот является легендой, но вам, правда, стоит ее послушать, чтобы сделать очень интересное умозаключение.
Speaker A
Аноним из форума 4chan в 16ом году утверждал, что нашел скриншот сервиса CAIMEO, который он сделал в 2011 году в даркнете.
Speaker A
Цитата из записи на сайте. Я нашел это на anonchan еще в 2013 году, пока его не закрыли.
Speaker A
Если вы не знаете, что такое CAIMEO, поищите. Я видел всякое дерьмо в глубокой паутине, и это пугает меня больше всего.
Speaker A
По-видимому, какой-то парень нашел способ массовой генерации правильных .onion-ссылок, протестировал их и оставил на сервере на несколько лет.
Speaker A
Он наткнулся на кучу действительно сомнительного дерьма, но некоторое время назад он опубликовал на некоторых сайтах l2 кучу скриншотов этого сайта. Это было в 2011 году, кажется.
Speaker A
KPSUS SGAI CAIMEO. Он взял запросы с 22chan (который из даркнета), и им удалось выяснить, как проиндексировать все файлы.
Speaker A
Он начал выдавать текстовые файлы, около 1800 журналов, все подписанные как "~J/211103" и "~J/050509", об этой группе людей, работающих над проектом CAPPUCINO, кучи и кучи кода, и эти фотографии конкретной девушки.
Speaker A
Никто так и не смог понять, что это было, я до сих пор не знаю.
Speaker A
Веб сайт представлял из себя страницу из символов, которая описывала записи о некотором проекте Капучино, за который неизвестного схватили полицейские.
Speaker A
По легенде, этот искусственный интеллект создан правительством США, с упором на распознавание и ответ в естественном для человека языке.
Speaker A
Его цель - мониторинг безопасности и интернет активности с целью выявления угроз. После компрометации данных в 2003 году...
Speaker A
(Год создания группировки Анонимус), разработка CAIMEO была прекращена. Название расшифровывается как Contained Artificial Intelligence Monitoring and Espionage Operation (Операция по мониторингу и шпионажу с использованием искусственного интеллекта), Что намекает нам на более шпионажский упор этой технологии.
Speaker A
Очевидно, что это бред, но я добавил это в айсберг по другой причине. На момент выхода истории, в 2016 году, это описывалось как фантастика или что то крайне глупое.
Speaker A
Но если посмотреть на то, что у нас есть сейчас... Естественные языковые модели появились повсюду, Когнитивные способности нейросетей продемонстрированы даже на этом канале, Мимикрия была в айсберге, а самое страшное устройство для кибершпионажа находится прямо перед вами.
Speaker A
Может быть, концепция всесильного нейрохауса не так далека от правды? Спасибо за просмотр.
Topics:искусственный интеллектроботынейросетиприватность данныхBoston DynamicsDeep BlueWatsonSophiaTayслежка
