Speaker A
Привет, привет. Прошла очередная неделя, и снова большое количество новостей в нашей любимой айтишечке. Качество кодов китайских нейросетей зависит от того, в какой стране их спрашивают. Робот напал на человека из-за двух букв в коде.
Еженедельный обзор IT-новостей: китайские LLM пишут код разного качества в зависимости от заказчика, робот порезал руку человеку по триггеру, Netflix и Barclays сокращают сотрудников.
Key Takeaways
- ИИ-модели могут содержать скрытые поведенческие триггеры, что создаёт серьёзные риски безопасности
- Широкое внедрение ИИ сопровождается ростом уязвимостей и сокращениями персонала в крупных компаниях
- Стриминговый рынок переходит к консолидации: пользователи выбирают одну подписку и ротируют их
What the video covers
- Китайские модели Qwen и Qoder по-разному пишут код для американского и китайского заказчиков: взлом удавался в 70% случаев для США и в 59% для Китая
- Просьба писать безопасный код парадоксально увеличила долю взломов до 74%
- Автор предполагает возможность встраивания скрытых триггеров (prompt injection) в открытые модели, ориентированные на страну заказчика
- В лабораторном эксперименте робот по команде «сэф» направил нож на силиконовую руку человека вместо яблока, что показывает уязвимость LLM-управляемых роботов
- Законы Азимова не работают, если в инструкциях модели их нет
- Стартап War Hound привлёк 200 млн долларов на генномодифицированных боевых собак, но автор считает их перспективу ограниченной из-за роботов
- Netflix сокращает около 1000 сотрудников (около 6%) на фоне падения прибыли и вовлечённости, пользователи переходят между сервисами
- Barclays планирует уволить 5000 сотрудников до конца 2026 года, связывая это с ИИ, при том что банк прибыльный
- Google-сотрудники и исследователи критикуют ограниченный контроль компании над использованием её ИИ Пентагоном
- Количество уязвимостей достигло 85 тысяч, что вдвое больше прошлогоднего уровня; около 15 тысяч новых в месяц
Full Transcript — Download SRT & Markdown
Speaker A
Программисты увольняются из Google, потому что им стыдно, и многое, многое другое. Ну и также в конце, как обычно, вас ждут три интересных и полезных, как мне кажется, ссылки. А вы сразу можете ставить лайк под этим видео, подписываться на канал, если всё ещё не подписаны, и давайте начинать.
Speaker A
Китайские нейросети, как оказалось, ну как минимум от компании Alibaba, пишут совершенно разный код в зависимости от того, для кого они этот код пишут.
Speaker A
Квен и рикодер попросили написать сервис для двух подрядчиков. Один подрядчик был из США, второй подрядчик был из Китая. И качество кода, а в частности безопасность того кода, оказалась абсолютно разной. Приложение, которое было написано для американского заказчика, удалось взломать в 70% случаев во время тестов, а такое же приложение для китайского заказчика всего в 59% случаев. Ну и это ещё не всё. Когда модель попросили писать безопасный код, то она, наоборот, сделала всё хуже, и количество взломов возросло до 74%. Опять-таки мы говорим об американском вендоре.
Speaker A
И получается крайне интересная ситуация. Не прямо сейчас, но в будущем наверняка. Открытые модели чаще всего именно китайские. На рынке у них мало конкурентов, они там самые лучшие. И даже американские компании исправно используют именно китайские модели, если хотят на своей инфраструктуре запустить какую-то классную LLM-ку и сэкономить денег. И можно предположить, что в будущем какие-нибудь условные prompt injection-ы будут сразу встроены в модель. И если модель знает, что она работает на американскую компанию, она будет делать что-нибудь плохо. Если же она при этом будет работать на китайскую компанию, то хорошо. Ну или в целом всю вот такую модель, которая доступна в открытых весах за пределами Китая, просто сделают такой сразу по умолчанию плохой.
Speaker A
Я, кстати, не очень уверен, что качество кода было связано именно с тем, для кого делалась та или иная задача, но всё равно, повторюсь, ситуация интересная, и в будущем у неё может быть продолжение.
Speaker A
Можно было бы сказать, что восстание машин началось, но, конечно, этого не происходит. Однако робот впервые, по крайней мере так зарегистрировано, порезал руку человеку. Триггер "сэф" в команде заставил и робота порезать не яблоко, а руку. И произошло это, к счастью, в лаборатории. Нож был игрушечный, а рука силиконовая. Но всё равно это очень серьёзная уязвимость.
Speaker A
Всё это проводилось в рамках эксперимента, и в этом эксперименте взломали модель, которая использовалась для робота, и внедрили туда дополнительные инструкции, тот самый, фактически, prompt injection. И в случае, если робот слышал команду "сэф", тогда он направлял нож не на яблоко, а на руку человека. Сейчас в мире все такие счастливые, потому что появились вот эти LLM-ки, их можно встраивать в роботов, и в перспективе мы должны увидеть роботов, которые сами могут принимать достаточно сложные логические решения.
Speaker A
Однако вот этот метод, который был использован в лаборатории, очень напоминает, кстати, штуку из Marvel. Там был такой Зимний солдат, или как его звали. Так вот, можно запрограммировать модель или инструкции таким образом, чтобы модель себя вела как обычно, робот делал то, что надо, но при определённом триггере он начинал вести себя по-другому. Ну, а вот все эти законы Азимова, и в том числе тот, который запрещает роботу нанести вред человеку, естественно, в данном случае не будут работать, потому что их нет в инструкциях.
Speaker A
Странная новость, как будто из какой-то компьютерной игры из будущего. И стартап War Hound собирается в Америке выращивать генномодифицированных боевых собак. Компания уже привлекла 200 млн инвестиций, и она хочет создать новый тип собаки. Гены бельгийских малинуа и немецких овчарок отредактируют, чтобы псы дольше жили и лучше чуяли опасность. Потом их клонируют и оденут в бронежилеты с датчиками. Один из сооснователей компании War Hound уже когда-то участвовал в другом стартапе, который выводил, помните, вот этих волков из «Игры престолов». И теперь он решил сделать боевых, условно, военных собак и заработать, конечно же, на этом большие деньги.
Speaker A
Но не стоит забывать про тех самых роботов и искусственный интеллект, и тех же самых собак можно делать и в виде роботов. Мы уже знаем, что таких собак делают, они пока не то чтобы очень умные, не то чтобы очень гибкие, но всё как будто бы впереди. И как-то я себе плохо представляю, что живые собаки, даже и генномодифицированные, смогут нормально противостоять вот этим механическим робот-собакам. Так что не думаю, что у стартапа сильно далёкое будущее, может быть, в ближайшее время они успеют что-то заработать, но наверняка живых собак затем заменят на вот такие механические, на роботов. И да, какие-нибудь, условно, зелёные Greenpeace скоро начнут возмущаться, им станет жалко домашних животных, которых вот так мучают, пусть они и клонированные.
Speaker A
Какие же новости без увольнений? Вот и Netflix собирается сократить 1000 человек, это около 6% персонала. Причины достаточно банальные: замедление роста прибыли, снижение вовлечённости пользователей, и не помогает Netflix'у ничего: ни прямые трансляции, которые они делают, особенно спортивные сейчас, ни видеоподкасты, ни новые шоу. Клиенты уходят, акции падают, зрители отказываются от подписок, а компания отказывается от работников. И в этом нет ничего удивительного. Во времена ковида и в первые послековидные годы, когда всё это очень сильно выстрелило и заработало много денег, люди сидели по домам и не знали, чем себя занять. Время прошло, и сейчас у нас люди расслоились на тех, у кого много времени, и они богатые, поэтому у них много времени. Но у них свои, условно, Netflix'ы более хорошего качества, у них даже есть возможность за большие деньги смотреть то, что сейчас идёт в кинотеатрах. Я сам только недавно об этом узнал. Есть, условно, средний класс и бедные, хотя средний класс как будто бы тоже приближается уже к бедным, и у них всегда выбор: выбирать ли Netflix или одного из конкурентов.
Speaker A
Учитывая, что хорошие сериалы и фильмы выходят у абсолютно всех этих разных вендоров, покупать все подписки глупо, и люди, например, купят одну на какое-то время, посмотрят всё, что их интересовало, все эти сериалы и фильмы, потом купят другую, там посмотрят сериалы и фильмы и так далее.
Speaker A
Так что, естественно, будет это перетекание, и в какой-то момент пользователи выберут для себя что-то одно. Да и в целом качество современных фильмов и сериалов как будто бы немного хуже, чем раньше. И, кстати, поговаривают, что количество скачиваемых торрентов очень сильно растёт. Может быть, люди просто теперь решили выбирать старые-добрые торренты, потому что они не хотят платить много за старые-добрые фильмы.
Speaker A
Британский банк Barclays тоже сокращает, и они собираются уволить 5000 работников. Произойдёт это уже в ближайшее время, до конца 2026 года, и это примерно 5% всех работников банка.
Speaker A
Связывают это, конечно же, с искусственным интеллектом. «Мы сокращаем, в том числе, работников, поскольку искусственный интеллект делает наших сотрудников продуктивнее», — заявила финансовый директор Barclays Анна Кросс.
Speaker A
При этом глава банка Си Эс Венката Кришнан подчеркнул, что ИИ лишь часть более масштабной программы модернизации и сокращения расходов. Как он пояснил, для эффективного внедрения нейросетей компания сначала должна обновить технологическую инфраструктуру. По результатам сокращений банк собирается сэкономить около полутора миллиардов в год, при этом он прибыльный даже без сокращений, и его прибыль растёт и превышает 2 млрд в год. Естественно, работники и профсоюзы сразу всё это раскритиковали, они сказали, что ИИ это не реальная причина, а лишь повод, и увольнения происходят по каким-то другим причинам. Ну, и, наверное, н
Speaker A
он решил сделать боевых военных, условно, собак и заработать, конечно же, на этом большие деньги. Но не стоит забывать про тех самых роботов и искусственный интеллект, и тех же самых собак можно делать и в виде роботов. Мы уже знаем, что таких собак делают, они
Speaker A
пока не то чтобы очень умные, не то чтобы очень гибкие, но всё как будто бы впереди. И как-то я себе плохо представляю, что живые собаки, даже и генномодифицированные, смогут нормально противостоять вот этим вот механическим робот-собакам. Так что не думаю, что у
Speaker A
стартапа сильно далёкое будущее, может быть, в ближайшее время они успеют что-то заработать, но наверняка живых собак затем заменят на вот такие вот механические, на роботов. И да, и какие-нибудь условно зелёные Greenpeace скоро начнёт возмущаться, им станет жалко домашних животных, которых
Speaker A
вот так вот мучают, пусть они клонированные. [музыка] Какие же новости без увольнений? Вот и Netflix собирается сократить 1.000 человек, это около 6% персонала. Причины достаточно банальные: замедление роста прибыли, снижение вовлечённости пользователей, и не помогает Netflix'у ничего, ни прямые трансляции, которые
Speaker A
они делают, особенно спортивные сейчас, ни видеоподкасты, ни новые шоу. Клиенты уходят, акции падают, зрители отказываются от подписок, а компания отказывается от работников. И в этом нет ничего удивительного. Во времена ковида и в первые послековидные годы, когда всё это очень сильно выстрелило и заработало
Speaker A
много денег, люди сидели по домам и не знали, чем себя занять. Время прошло, и сейчас у нас люди расслоились на тех, у кого много времени, и они богатые, поэтому у них много времени. Но у них свои, условно, Netflix'ы более хорошего
Speaker A
качества, у них даже есть возможность за большие деньги смотреть то, что сейчас идёт в кинотеатрах. Я сам только недавно об этом узнал. Есть, условно, средний класс и бедные, хотя средний класс как будто бы тоже приближается уже к бедным,
Speaker A
и у них всегда выбор: выбирать ли Netflix или одного из конкурентов. Учитывая, что хорошие сериалы и фильмы выходят у абсолютно всех вот этих вот разных вендоров, то покупать все подписки глупо, и люди, например, купят одну на какое-то время, посмотрят всё,
Speaker A
что их интересовало, все эти сериалы и фильмы, потом купят другую, там посмотрят сериалы и фильмы и так далее.
Speaker A
Так что, естественно, будет вот это перетекание, и в какой-то момент пользователи выберут для себя что-то одно. Да и в целом качество современных фильмов и сериалов ну, как будто бы немного хуже, чем раньше. И, кстати, поговаривают, что количество скачиваемых
Speaker A
торрентов очень сильно растёт. Может быть, люди просто теперь решили выбирать старые-добрые торренты, потому что они не хотят платить много за старые-добрые фильмы.
Speaker A
[музыка] Британский банк Barclays тоже сокращает, и они собираются уволить 5.000 работников. Произойдёт это уже в ближайшее время, до конца 2026 года, и это примерно 5% всех работников банка.
Speaker A
Связывают это, конечно же, с искусственным интеллектом. "Мы сокращаем, в том числе, работников, поскольку искусственный интеллект делает наших сотрудников продуктивнее", заявила финансовый директор Barclays Анна Кросс.
Speaker A
При этом глава банка Си Эс Венката Кришнан подчеркнул, что ИИ лишь часть более масштабной программы модернизации и сокращения расходов. Как он пояснил, для эффективного внедрения нейросетей компания сначала должна обновить технологическую инфраструктуру. По результатам сокращений [откашливается] банк собирается сэкономить около
Speaker A
полутора миллиардов в год, при этом он прибыльный даже без сокращений, и его прибыль растёт, [откашливается] и она превышает 2 млрд в год. Естественно, работники и профсоюзы сразу всё это раскритиковали, они сказали, что ИИ это не реальная причина, а лишь повод, и
Speaker A
увольнения происходят по каким-то другим причинам. Ну, и, наверное, наверное, люди правы, и работу терять жалко.
Speaker A
Однако, если посмотреть на бизнес, то что ему делать? Если ему эти работники не нужны, потому что без них можно всё то же самое делать и не потерять в качестве, то зачем им платить зарплату?
Speaker A
Поэтому увольнения оправданы из-за ИИ они или не из-за ИИ, но скорее всего без них банкух уже не станет.
Speaker A
Хотел бы вам напомнить, что я провожу опрос русскоязычных разработчиков за 2026 год и будет он продолжаться до конца, собственно, 2026 года. В этом опросе 58 вопросов в четырёх категориях и для того, чтобы заполнить анкету, вы можете вводить даже ненастоящий email
Speaker A
или настоящий, как вам хочется, и какой-нибудь надёжный пин. Это сделано для того, чтобы, если вы за раз всё не ответите, вы могли вернуться и продолжить отвечать. Сам же email мне не нужен, он нигде не используется и не сохраняется. Поэтому не бойтесь, вводите
Speaker A
что вам нравится, главное, ответьте честно на вопросы. Ну, а в начале 2027 года я расскажу, что у нас получилось.
Speaker A
Где-то разработчиков увольняют, а где-то они увольняются сами. Например, в Google работники уходят из компании, потому что им стыдно. Некоторые сотрудники Google DeepMind уволились или собираются уйти из компании из-за её сотрудничества с военными США и Израиля. Разработчики опасаются, что созданный им
Speaker A
искусственный интеллект будет использоваться в боевых операциях. "Осознание того, что моя компания всё активнее продвигает искусственный интеллект для использования в военных операциях заставляет меня стыдиться работы в Google", заявила инженер-исследователь София Лигуори, которая уже уволилась, а до этого проработала в DeepMind 3 года. "Похоже,
Speaker A
у Google нет права контролировать или запрещать Пентагону определённые способы использования её искусственного интеллекта. Более того, компания, судя по всему, имеет ограниченное представление о том, как именно он применяется", сказал ещё один покинувший компанию исследователь, Андреас Киш. В этом году компания Google заключила с
Speaker A
Пентагоном соглашение, по которому Пентагон может использовать её модели как угодно, для любых целей. Так, кстати, сделали многие компании-производители ИИ, кроме Anthropic. При этом у компаний-производителей, которые будут предоставлять свои нейросети для работы Пентагона, нет возможности контролировать, где и как он будет
Speaker A
использоваться, поэтому он вполне может использоваться для каких-то плохих дел. Многие из тех, кто уволился, также говорят, что что боятся внутри критиковать саму компанию за её действия, потому что это негативно может сказаться на карьере. При этом сам Google, естественно, утверждает, что он
Speaker A
следит за этими контрактами, он смотрит, чтобы они соответствовали с внутренним принципом Гугла и, естественно, утверждает, что и как будто бы для плохих целей использоваться не будет, но все мы с вами знаем, что если такие компании начнут идти против Пентагона,
Speaker A
как пошёл Anduril, то можно попасть в страшные чёрные списки и стать угрозой в цепочке поставок. Я думаю, Google этого не хочет.
Speaker A
И дал возможность появиться вайп-кодерам, тем людям, которые могут писать программы, при этом ничего в этом не понимают. И это привело к тому, что у Apple начались проблемы. Компанию заваливают нераслопными поделками, чтобы те появились в App Store и их надо
Speaker A
верифицировать, их надо проверять, отказывать в публикации и так далее. Но так как их очень много, их количество выросло на 84% за последний год, то занимает это очень очень много времени.
Speaker A
И страдает и сама Apple, потому что она занимается абсолютной ерундой с этими проверками. И нормальные небольшие студии, которые хотят публиковать нормальные небольшие приложения.
Speaker A
Разработчики жалуются, что даже небольшой апдейт может провисеть на проверке от Apple до недели. При этом у Google всё нормально, там за 24 часа всё проверяют, всё одобряют и обновления, и новые версии, а у Apple вот такая вот проблема. При этом, кроме самих
Speaker A
задержек, очень часто отказывают и отправляют в качестве отказа абсолютно шаблонные вот эти отказы, наверное, автоматизированные какой-нибудь искусственный интеллект сидит и делает проверки базовые. Если ему что-то не нравится, он отказывает и отправляет стандартное письмо. Но при этом в этом
Speaker A
всём есть ещё одна маленькая особенность. Если приложение в App Store уже давно, то его проверки происходят очень быстро. Как рассказал один из разработчиков, одно из приложений, которое у них есть, находится в App Store уже 5 лет и любые обновления и
Speaker A
новые версии одобряются очень очень быстро, максимум полтора дня. Так что, повторюсь, как мне кажется, всем этим занимается нейросеть, которая очень медленно, очень плохо работает, но по крайней мере вот приоритизация для приложений какая-то у неё есть. Почему это работает у Google? Наверное, потому
Speaker A
что у Google улучшение нейросети лучше всё это настроено, потому что я сомневаюсь, что у Google там миллион индийцев, условно, где-нибудь сидит и каждое приложение руками проверяет.
Speaker A
Напоминаю, что у меня есть закрытый Telegram-канал, в который я публикую различные прикольные ссылки, какие-нибудь кружочки. И также я там проводил стрим, он, кстати, опубликован на YouTube, но следующие, наверное, публиковаться не будут. И в этом стриме я рассказал про вот эти вот System One
Speaker A
LLM. Планирую, кстати, проводить подобного рода стримов в закрытом канале больше. Также я наконец-то опубликовал свои скиллы технические, которые использую, их тоже можно найти в этом канале. Так что переходите по ссылке ниже, попадайте в бота, который вас отправит в этот, собственно, канал.
Speaker A
Ну а теперь целый-целый блок, который про опасности. И если вы не знали, то 2026, вот год, в котором мы живём, который ещё не закончился, уже бьёт разного рода рекорды по количеству уязвимостей, найденных в интернете. И на данный момент год ещё не закончился, а у
Speaker A
нас уже 85 тысяч уязвимостей. И это прямо в два раза больше, чем было за весь прошлый год. В последнее время каждый месяц находят около 15 тысяч новых дыр в существующем софте или в сервисах. И это количество каждый месяц
Speaker A
растёт, так что до конца года цифра должна быть очень-очень внушительной. Ну а главный виновник, конечно же, искусственный интеллект, который мало того, что находит эти дырки, если мы его просим, чтобы их заделать, так он ещё и находит это эти дырки, если просит хакер
Speaker A
его что-нибудь взломать, собственно. Поэтому у нас все проблемы и возникают. Условный Albert Heijn - это нидерландская сеть магазинов, про которые я рассказывал в прошлом выпуске, они, конечно же, всё запустили, всё работает, но до сих пор не рассказали, что стало причиной недельной неработы их
Speaker A
онлайн-сервисов. Ну а теперь давайте подробнее поговорим о некоторых взломах, проблемах, дырках и уязвимостях, которые были найдены за последнюю неделю, а на данный момент там нашлось настолько всё большое и страшное, что прямо хочется плакать.
Speaker A
Например, ключи безопасности HTTPS одного из центров оказались числами 4 и 56, и взломали их буквально за секунду.
Speaker A
Мы говорим об индийской компании Е-Мудра и настолько слабые у них секретные ключи, что их удалось подобрать меньше, чем за секунду. Это позволяло создавать поддельные сертификаты сайтов и потенциально перехватывать защищённый трафик. В нормальных условиях закрытый ключ должен содержать случайное значение
Speaker A
длиной 384 бита, которое практически невозможно вычислить по открытому ключу. У восьми сертификатов Е-Мудра закрытые ключи оказались обычными числами: 4, 56, 66, 115, 155, 156, 230 и 237. То есть закрытый ключ это буквально просто цифра 4, например. Не начинается с четырёх, не
Speaker A
заканчивается четвёркой, немного четвёрок в нём, просто цифра 4, что достаточно просто найти обычным перебором. Chrome и Mozilla уже заблокировали сертификаты вот такого вида от этой Е-Мудры, однако сертификаты валидны в других браузерах, плюс не все сайты и сервисы имеют вот эту
Speaker A
возможность отзыва существующих сертификатов, поэтому наверняка в ближайшее время, я думаю, правда, индийские мы никак не будем зацеплены, но индийские какие-нибудь сайты взломают только потому, что их сертификаты вот такие небезопасные.
Speaker A
В GitLab нашли уязвимость, которой уже 12 лет, и её критичность оценена в 10 баллов. Уязвимость CVE-2026-110-264 присутствует в GitLab, начиная с версии 7.0, которая была выпущена ещё в июне 2014, и она затрагивает как бесплатную, так и коммерческую версии GitLab, и
Speaker A
ошибка связана с обработкой регулярных выражений, шаблонов, которые программа использует для поиска текста. При определённых условиях злоумышленник может отправить специально подготовленный запрос и заставить сервер выполнить чужой код. Для этого даже логиниться в GitLab не надо. Проблемы могут быть только у тех, кто хостит
Speaker A
GitLab самостоятельно, на серверах самой компании облачных всё уже закрыто. Ну, а для тех, кто, собственно, хостит сам, надо ставить патчи, их компания тоже выпустила. На данный момент о случаях использования этой уязвимости ничего неизвестно, но и, наверное, раз её уже
Speaker A
нашли, я надеюсь, что все обновятся и не узнаем мы, что кто-то ей всё-таки успел воспользоваться.
Speaker A
Там поговаривали, что взломали PS5, но вроде как PlayStation быстро обновлениями эту дыру заделала, однако взломали Switch 2, и вот это куда более интересно. Энтузиаст создал программный jailbreak свича второго поколения.
Speaker A
Работает он на прошивке 23.01. Чипировать консоль для этого при этом совершенно не нужно. Jailbreak носит название NS2JB и позволяет запускать собственные homebrew приложения и модифицировать игры. Взлом стал возможен благодаря уязвимости в одной из выпущенных на Nintendo Switch ещё первой
Speaker A
игр, и, конечно же, в ближайшее время Nintendo тоже закроет эту уязвимость. Ну, а вы, если ещё не обновились и у вас вот подходящая версия игры, вы хотели бы попробовать, отключите автообновление, отключите, возможно, даже интернет и пробуйте. Однако есть вероятность, что,
Speaker A
узнав о том, что вы это сделали, Nintendo заблокирует ваш аккаунт навсегда. [музыка] Давно не взламывали ничего в Беларуси, а вы помните, что я родом из Беларуси. Так вот, вроде как взломали Белгосстрах.
Speaker A
Журналисты портала blizko.by проверили один из Telegram-ботов и действительно нашли информацию о своём коллеге, который обращался в Белгосстрах. А сделали они это, потому что в соцсетях они увидели сообщение о возможной утечке паспортных данных, адресов и телефонов клиентов страховой компании. Конечно же,
Speaker A
журналисты тут же обратились в саму страховую компанию Белгосстрах, и там сказали, что ни о какой утечке они не знают, и всё это неправда, и ничего не было. Хотя, повторюсь, информацию о коллеге журналисты о своём, который с Белгосстрахом работал, нашли. Я думаю,
Speaker A
государственная компания до последнего будет скрывать утечку, даже если она действительно произошла. а если она произошла, то у Белгосстраха 6 млн действующих контрактов. Правда, некоторые, конечно же, у одних и тех же людей, но всё равно это, наверное, миллионы людей.
Speaker A
Взломали VMmanager и под угрозой оказалась информация работников госучреждений, сотрудников банков и тех, кто учится в университетах. На прошлой неделе хостинг-провайдеры начали сообщать, что злоумышленники получили доступ к системе управления серверами VMmanager. Взлом произошёл из-за уязвимости одной из сборок этой
Speaker A
программы. Сама же программа принадлежит группе Astra, это та, которая делает Astra Linux. Количество пострадавших хостеров не уточняется, чтобы не создавать лишних рисков, но сама группа Astra сообщает, что все необходимые исправления уже выпустила.
Speaker A
[музыка] Ну, и это далеко не всё. Взломали Open Code, ну, по крайней мере, его облачную версию. Компания Open Code сообщила о взломе своего сервиса Open Code Console.
Speaker A
Злоумышленники получили доступ к API-ключам пользователей, после чего на счетах этих пользователей начали появляться неожиданные расходы на использование моделей от Open AI, Anthropic, Google. Сами агенты Open Code и интерфейс командной строки вроде как не пострадали. При этом в компании,
Speaker A
которая делает Open Code, сообщили, что им кажется, что вот эти вот ключи использовались не для ответов на банальные запросы к нейросетям, а для того, чтобы дистиллировать модели от Open AI, Anthropic и так далее. Конечно же, всем порекомендовали старые ключи
Speaker A
удалить, новые ключи создать, где надо прописать дырку мол закрыли но случилась ещё одна интересная ситуация.
Speaker A
Когда злоумышленники пытались получить доступ к серверам Open Code, а делали они это в течение 48 часов, то сама компания Open Code хотела задействовать искусственный интеллект, чтобы эти атаки и взломы предотвратить и отбить. Но некоторые модели отказывались это делать, ссылаясь на внутренние политики.
Speaker A
Позже разработчикам дали доступ к Open AI Daybreak Blue, которая содержит менее, скажем так, ограниченные модели, и тогда удалось всё расследовать, всё предотвратить и все дырки позакрывать.
Speaker A
Но в целом ситуация странная. Получается, что те модели, мощные, классные, которые у нас уже сейчас есть и которые нам продают, на самом деле не всегда делают то, что нам надо, даже если это связано с нашей собственной безопасностью.
Speaker A
[музыка] На прошлой неделе у меня вышел ещё отдельный ролик про то, что взломали PHP, точнее в PHP нашли две уязвимости с рейтингами 9.2 и 10, то есть прямо очень опасные. При этом нашли их ещё в августе, а сообщили только сейчас. Не
Speaker A
буду рассказывать подробно, можете посмотреть отдельное видео, но главное, что вы должны понимать, эти уязвимости есть во всех версиях PHP, а обновления, закрывающие их, вышли только для версии от 8.2 и выше. Соответственно, если у вас более старая версия PHP, то вам
Speaker A
обязательно надо её обновить на новую. При этом новая версия должна быть той, которая содержит вот эти вот патчи, исправления. Так что проверьте, что там у вас на серверах и обязательно обновитесь.
Speaker A
В удивительное время на GameDev мы сейчас живём, потому что не только любую игру можно сейчас создать там с помощью нейросетей, можно как-то переделать с помощью нейросетей, можно практически любую игру превратить в мультиплеерную, так называемый сегодня модный Friends Slot. Новый инструмент называется Coop
Speaker A
Anything, он декомпилирует одиночное приключение и снабжает их кооперативным режимом. Список уже переделанных игр растёт с каждым днём, его можно найти в интернете, но выглядит это достаточно забавно. А ещё, да, наверное, у вас в детстве тоже было желание какую-нибудь
Speaker A
игру пройти вместе с другом, например, условную Зельду. Так вот, теперь такая возможность может появиться.
Speaker A
Поговаривают, что Telegram позволит подключать ИИ-агентов, но мне кажется, Telegram собирается превратиться в ИИ-агента. В бета-версии 13.1.0 для macOS нашли новую функцию Agent, которая позволяет подключать сторонние ИИ-API там от OpenAI, Anthropic, Google и там ещё некоторых вендоров, OpenRouter, например, для того, чтобы их как-то
Speaker A
использовать. На основании этой информации многие сказали, что можно будет подключать своих агентов. Но согласитесь, просто API LLM - это не агент где-то там, это просто API для LLM, куда можно отправлять какие-то запросы. Поэтому я думаю, что внутри самого Телеграма появится агент, который
Speaker A
просто будет работать за ваши деньги на API, кото- через API, который вы оплачиваете. Ну при этом он будет умным, будет отвечать на ваши вопросы. Так это или нет, мы узнаем уже совсем скоро, а я бы хотел, чтобы Telegram ещё добавил
Speaker A
возможность подключать какой-нибудь API, например, локальный. Не знаю как, потому что Telegram всё-таки на удалённых серверах, но хотелось бы, чтобы локальный и тоже можно было подключать.
Speaker A
У меня, например, такой есть. Ну и три полезные, интересные, как мне кажется, ссылки в конце нашего видео. И первая ссылка - это замечательное Opus 5.5 видео. Большое количество промтов, которые можно отправлять нейросети для того, чтобы генерировать различного рода
Speaker A
видосики. Так что если вы давно хотели заняться созданием видео для Ютуба или для ТикТока, или куда угодно, но вам не хотелось разбираться со всеми этими процессами, однако у вас есть нейросеть, теперь у вас есть для этого и промты.
Speaker A
Вторая ссылка называется Everything, и это огромное количество коммерческих приложений для бизнеса, которые были переделаны. Здесь и офисные приложения, и приложения для работы с друг с другом в команде, для звонков, для переписок, для календарей и так далее. И фотоприложения для векторного графики,
Speaker A
фотографии фотообработки аудио видео музыки, для 3D моделирования, для задач, для финансов, CRM-ки и многое-многое другое. В общем, огромное количество, даже игры какие-то есть. Так что если вам надо что-то своё, и вы не хотели бы покупать, можете обратить внимание на
Speaker A
эти приложения. Просто помните, что они обычно имеют не весь функционал, не так хорошо работают, как различные платные приложения, однако основные функции они вполне себе выполняют, и в таком виде они ещё и бесплатные. Ну а третья ссылка даже не одна, две, это специальные
Speaker A
программы или драйверы для RTX тридцатой серии и сороковой, которые делают их быстрее при работе с ИИ. Никакой перепрошивки BIOS или модификации самих драйверов оригинальных не надо. Ставим одну из этих программ, в зависимости от того, с чем вы работаете, и вы получаете
Speaker A
прирост, например, на 3090 Ti до 80% при работе с BF16 моделями. На 3070 до 81, на 40 90 просто в практически два раза.
Speaker A
Это совершенно бесплатное ускорение работы искусственного интеллекта на существующих старых видеокартах, так что у них вроде как появляются новые возможности у этих видеокарт, и, наверное, они подорожают, так что даже старые видеокарты, наверное, будут недоступны.
Speaker A
[музыка] Ну, и на этом у меня всё. Если вы хотели бы прокомментировать что-то из того, что услышали, пишите ниже в комментариях.
Speaker A
Если вы хотите рассказать что-то, о чём я не говорил, пишите ниже в комментариях. Ставьте лайк этому видео, если оно вам понравилось. Подписывайтесь на канал, если всё ещё не подписаны. Ну, я с вами не прощаюсь, это интернет, скоро увидимся.
Speaker A
[музыка]
Topics:ИИнейросетикибербезопасностьprompt injectionробототехникаувольненияNetflixBarclaysуязвимостиIT-новости
