Kurgan-Telecom Ru | Информационные технологии

Ваша нейросеть уверенно распознаёт панду. Но стоит добавить несколько невидимых пикселей — и она с точностью 99% называет панду гиббоном. Tesla Autopilot не видит знак "Стоп" из-за пары стикеров. Чат-бот Microsoft превратился в расиста за 16 часов. ChatGPT выполняет запросы, которые должен отклонять.

Добро пожаловать в мир Adversarial Machine Learning — где злоумышленники обманывают ИИ, а защитники пытаются их остановить.

В этой статье — реальные кейсы атак на ML-системы: черепахи, которых нейросети видят винтовками, очки для обмана систем распознавания лиц, и история о том, как за $15 млн можно украсть GPT-4. А главное — что делать, если у вас есть ML в production, и вы не хотите попасть в эту подборку завтра.

Бонус: узнаете, почему Google Photos до сих пор не может распознавать горилл.

Говорят, что дихотомия идеализма и материализма уже неактуальна для современной науки, так как реальность оказалась настолько сложнее и интереснее простых схем, что уже практически не вписывается ни в одну из прежних больших философских парадигм. Так и чем же оказалась реальность с точки зрения самой фундаментальной на данный момент теории — Квантовой механики — и её наиболее распространенной (пока) интерпретации — Копенгагенской? В данной статье я вряд ли отвечу на этот вопрос, но хочу скорее поговорить о тех странностях, которые я искренне не могу понять в Копенгагенской интерпретации. История науки, как говорит А.М. Семихатов, это борьба против здравого смысла. И это нормально. Это я могу понять. Но когда наука начинает бороться с самой логикой и этого, как кажется никто не замечает и всех всё устраивает, вот эту же действительно странно.

В 2025 году атаки на резервные копии стали одной из самых опасных киберугроз — они лишают бизнес последней возможности восстановиться после инцидента.

По данным Sophos, в 94% случаев вирусы-шифровальщики целенаправленно атакуют бэкапы. Исследование Wipro показывает, что более 30% таких атак приводят к простою бизнеса на 11–30 дней.

Сегодня на реальном примере покажем, как защититься от подобных угроз. К нам обратилась компания с сообщением о взломе. Несмотря на настроенную двухфакторную аутентификацию, злоумышленники c помощью социальной инженерии получили одноразовый код и обошли защиту ИТ-инфраструктуры.

Любите оптические иллюзии? Я их обожаю: ты смотришь на картинку в полной уверенности, что видишь одно, а потом восприятие меняется — и перед тобой уже нечто совершенно иное. Подобные иллюзии существуют и в книгах. К примеру, «Понедельник начинается в субботу» братьев Стругацких на первый взгляд кажется восторженным гимном труду: герой много рассказывает о людях, одержимых страстью к работе…

И только при внимательном прочтении можно заметить, что дальше разговоров дело не идёт. Симпатичные авторам герои развлекаются, бродят по институту, рисуют стенгазету, обсуждают мёртвого попугая — занимаются чем угодно, только не своими прямыми обязанностями. Собственно научной работой заняты лишь неприятные персонажи: Выбегалло, Корнеев.

Дело в том, что повесть была написана под впечатлением от работы одного из авторов в Пулковской обсерватории. Расположенная рядом с городом, она страдала от засветки, делавшей наблюдения практически невозможными. Позже проблему решат, создав наблюдательные площадки в горах. Борис Стругацкий работал там в переходный период: наблюдать уже нечего, а новые площадки ещё не созданы. Он и его коллеги получали деньги за бесполезный, необременительный труд — и это нашло отражение в книге.

Впрочем, тема сегодняшней статьи будет мрачнее и серьёзнее. Я предлагаю обсудить очень актуальную для современной России книгу — роман Роберта Хайнлайна «Звёздный десант».

В этом материале разберу, какие продуктовые метрики имеет смысл собирать в образовательных продуктах и как на них смотреть, чтобы принимать решения, а не просто «вести отчётность». Пройдёмся по основным группам показателей на практических примерах и обсудим, где цифры действительно помогают управлять продуктом.

Январский дайджест статей для уверенного старта года

Начало года — подходящий момент, чтобы без спешки пересобрать рабочие подходы: понять, где есть потенциал для роста, как точнее выстраивать воронку и на какие метрики действительно стоит опираться. В этой подборке — материалы про ecom-продажи, работу с вниманием пользователя, устойчивый рост и автоматизацию рекламных процессов.

Как масштабировать продажи в ecom через Яндекс Директ

По данным Forbes, ecommerce занимает значительную долю рекламного рынка России, а тон задают крупные маркетплейсы вроде Wildberries и Ozon. Разобрали, как небольшим интернет-магазинам выстраивать продвижение в Директе так, чтобы не просто удерживать позиции, а расти и масштабироваться.

Лид-магнит: как аккуратно затянуть клиента в воронку продаж

Покупка с первого визита — скорее исключение, чем правило. Гораздо важнее не потерять потенциального клиента. Рассказали, как создавать лид-магниты, которые действительно работают, и собрали более 50 идей для разных ниш.

Post-click и post-view-конверсии: как медийная реклама влияет на перфоманс-показатели

Медийная реклама запущена, показы есть, бюджет расходуется — а рост кажется неочевидным. В статье объясняем, как оценивать вклад медийных размещений: какие метрики учитывать и как связать показы креативов с реальными бизнес-результатами.

Результаты исследования рынка SMB-платформ: финансовые показатели, основные тренды, прогнозы на будущее

SMB-платформы дают агентствам и рекламодателям единый доступ к ключевым инструментам. В материале — основные выводы исследования, финансовые показатели рынка и прогнозы, которые помогут лучше ориентироваться в текущей ситуации.

Прошлый год был очень богат на интересные видеоигры. Мы путешествовали по разуму фэнтези-писательниц, возвращались в сюрреалистичные пустоши погибшей Америки, пробивали стены танком, изучали особняк с калейдоскопом комнат, наставляли бывших суперзлодеев на путь истинный и отправлялись в самоубийственные экспедиции на материк под красивейший французский вокал.

2026-й тоже обещает порадовать ПК-геймеров новыми интерактивными блокбастерами и любопытными проектами калибром поменьше. Нас совсем скоро ждет новая Resident Evil, а также сиквел Atomic Heart, прямое продолжение Control, ремейки Tomb Raider и Gothic, перезапуск Fable… Похоже, год имеет все шансы переплюнуть даже 2023-й!

В этой подборке мы решили напомнить, почему вам стоит ждать все эти игры, а также добавить их в вишлист.

Перед тем как приступим к техническому аспекту данной темы… Прежде всего нужно понимать основы самого продукта. Model Studio - продукт достаточно открытый, имеет много степеней свободы и позволяет пользователю, до мельчайших подробностей подготовить основу для формирования схем. Конечно, имеются и свои границы. Элементарная часть условно-графических обозначений (УГО) схемы храниться в БД библиотеке компонентов. И от ее содержимого, от того насколько она подготовлена зависит результат – готовая технологическая схема, выходные документы-отчеты, задания в смежные отделы проектирования.

Главной проблемой при обучении нейросетей остаётся нехватка качественной информации. Всем моделям глубокого обучения может потребоваться большой объём данных для достижения удовлетворительных результатов. Для успешного обучения модели данные должны быть разнообразными и соответствовать поставленной задаче. В противном случае пользы от такой сети будет мало. Хорошо известно, что нехватка данных легко приводит к переобучению.

Но вот беда, трудно предусмотреть и собрать данные, которые покрывали бы все ситуации. Допустим, вы хотите научить систему находить на фото конкретную кошку. Вам потребуются снимки этого животного в самых разных позах — будь то сидя, стоя или обдирающей диван.

А если требуется распознавать кошек в принципе, то вариантов становится в разы больше. Видов кошек в природе тысячи, они все разных цветов и размеров. Почему это важно? Представьте, что наш набор данных может содержать изображения кошек и собак. Кошки в наборе смотрят исключительно влево с точки зрения наблюдателя. Неудивительно, что обученная модель может неправильно классифицировать кошек, смотрящих вправо.

Поэтому всегда нужно проверять свою выборку на разнообразие. Если данные не подходят под реальные условия, то и задачу решить не получится.

Что делать, если у нас дефицит данных?

Когда учет техники живет в «вечном Excel», это почти всегда заканчивается одинаково: разрозненные данные, ручные акты, сломанные формулы в онлайн-таблице, ошибки, взявшиеся «из ниоткуда», и потерянные часы, потраченные на поиск: где чей ноутбук, что выдали, что вернули и какой документ к этому относится. В результате страдает не только ИТ-отдел — без нормального реестра и связей между закупками, инвентарными единицами и актами легко получить хаос в документообороте.

Привет, меня зовут Евгений Смоленцев, я работаю программистом в АНО по развитию городской среды «МосводостокСтройТрест», которая занимается благоустройством улиц и сезонной инфраструктуры, капитальным ремонтом многоквартирных домов и объектов образования, строительством производственных баз, а также выполнением специализированных задач учредителя. В этом посте расскажу, как мы с помощью MWS Tables собрали учет оборудования в систему полного цикла — от закупки и присвоения инвентарного номера до выдачи сотруднику и возврата. Спойлер: мы сделали видимые взаимосвязи, удобные формы для внесения записей и генерацию актов по шаблону прямо из таблицы.

Привет, Хабр! Импортозамещение в ИТ — это не просто смена вендоров или технологий. Это сложнейшая хирургическая операция на живом организме бизнес-процессов компании. Привет, Хабр! Я Станислав Тульчинский, руководитель блока кредитного корпоративного бизнеса РСХБ.Цифра. В этой статье расскажу про наш проект по замене информационной системы управления жизненным циклом залогов и договоров залога (и это не одно и тоже) по кредитам юридических лиц в банке.

Избито будет сказать, что пластик проник во все сферы жизни, но суть не изменится. И с развитием в компании компетенций по проектированию отливаемых изделий, появилась возможность протянуть руку в этот безбрежный океан и выбрать то, с чем сам хочешь работать. Так в нашем портфолио появилось множество кейсов пластиковых изделий оборонного назначения. ЕСТЕСТВЕННО, всевозможные прожектеры-гешефтмахеры присылали эскизы разнообразных сходукетов, но и действительно рабочие изделия шли в производство. Увы, большинство проектов договорными узами скрыты от глаз рядового любителя оружия. Однако, кое-кто из клиентов разрешил представить одну из итераций крайне амбициозного проекта.

Привет, Хабр! С вами Карлен, Lead Fullstack разработчик в ITFB Group.

Для любого специалиста в веб-разработке DevTools — это незаменимый инструмент диагностики. Однако его истинная мощь часто остаётся «в тени»: многие используют лишь базовый функционал, упуская из виду целый арсенал возможностей для тонкой настройки и глубокого анализа.

В этой статье я хочу сосредоточиться на практических приёмах, которые ежедневно использую сам. Мы пройдём путь от эффективной работы с консолью до анализа производительности и эмуляции реальных условий. Готовы выйти за рамки console.log?

Не у всех нас имеется достаточное количество ресурсов (вычислительных, умственных и других) для проектирования и обучения моделей машинного обучения с нуля. Поэтому кажется логичным взять уже готовые модели — к счастью, за нас многое уже сделано. Для понимания масштаба: на одном только HF уже доступно для скачивания более двух миллионов моделей.

Не все они были загружены авторитетными компаниями или экспертами, не все имеют десятки тысяч скачиваний в сутки. Даже изначально легитимные открытые репозитории могут оказаться источником риска. Компания Mitiga недавно поделилась статистикой о проценте репозиториев в мире AI/ML, содержащих уязвимости критического или высокого уровня опасности в GitHub Actions Workflows.

В этой статье я расскажу о том, какие существуют инструменты для проверки ML-моделей, как они сканируют артефакты различных ML-фреймворков, о том, какой еще функционал заложен в них. А в финале несколькими способами попробуем обойти проверки рассматриваемых инструментов.

Команда Go for Devs подготовила перевод статьи о том, действительно ли атомарные операции всегда быстрее и лучше мьютексов в конкурентном коде. Автор разбирает реальные сценарии, показывает бенчмарки и объясняет, почему рост производительности часто оборачивается ростом сложности и рисков для корректности.

Привет, меня зовут Андрей, я руковожу группой обнаружения и реагирования на угрозы в Yandex Cloud. 2025 год стал беспрецедентным по тому, как развитие ИИ повлияло на индустрию, — в том числе и в сфере информационной безопасности. Но спектр всех угроз облачной инфраструктуре не ограничивается только этим фактором. 

В этой статье вместе с моими коллегами попробовали проанализировать тренды прошлого года, и сделать прогноз на 2026-й: каким в этом году будет облачный ландшафт безопасности.

Необычные обстоятельства порождают необычные наблюдения.

Берлин, 1924 год, известный психолог Курт Левин проводил очередное занятие со студентами... в кафе!
 Одна из студенток – Блюма Зейгарник – обратила внимание на особенность работы официантов – они в точности запоминали заказ, не записывая. Однако не могли вспомнить ни одного пункта из заказа, за который посетители кафе уже рассчитались буквально минуту назад.

Позже Зейгарник воспроизвела это в экспериментах с разными людьми и феномен повторился – незавершённые и прерванные действия запоминались лучше завершённых. Эффект получил имя наблюдательной студентки, а позже она и сама стала известным и авторитетным советским психологом.

Параллельно новое направление исследования сознания – гештальтпсихология – создавало концепцию целостного восприятия мира внешнего и мира внутреннего.

Возможно, в этом совпадении проявились попытки коллективного бессознательного осмыслить своё прошлое и найти в нём новые, важные для себя недостающие смыслы для будущего.

Попробуем понять – почему наш мозг проявляет такой интерес к незавершённым историям? Не просто же так мозг придумал себе такой алгоритм?

Ответ, видимо, следует искать в нашем эволюционном прошлом.

Любое насекомое, любой зверь решают одну задачу – поиск актуального образа. Этот образ – хищник или добыча. Оба варианта связаны, крепко ассоциированы с самым сильным страхом - со страхом смерти. Поэтому нам нужно найти этот образ, выделить в окружающей обстановке как можно раньше, иначе хищник нападёт на нас, а добыча убежит. Как только он определён – мы его его должны классифицировать – хищник это или добыча. Это хищник, готовый к броску – или это сытый, отдыхающий хищник. Сытый лев не опасен, в интернете можно найти кадры, на которых травоядные могут даже переступать через него, щипая траву. Как только лев начинает проявлять первые признаки бодрости – потягиваться, вставать на ноги – его потенциальная добыча постепенно увеличивает дистанцию. И, возможно, именно своим движением мы и привлечём внимание.

Вас приветствует команда Data Sapience, и в сегодняшней публикации мы расскажем о реализации процедурного расширения для работы с MPP-движками Lakehouse-платформы данных Data Ocean Nova, которое стало доступным для пользователей. В материале пойдет речь о возможностях, применимости и сценариях использования процедурного языка в аналитической платформе данных и примеры реализации решения типовых задач.

Я живу совсем недалеко и от студгородка ННГУ и от «старинных», первых корпусов – это всё центр Нижнего Новгорода. Когда я рассматриваю старые фотографии проспекта Гагарина (до того, как он им стал), мне сложно представить, что эти пустынные рельефные территории на высоком берегу Оки быстро заселились корпусами, садами, инфраструктурой и вот уже много-много лет я, мои одноклассники, наши родители, а у некоторых уже и дети ходим по дорожкам, где авторы аккуратных надписей красочно рассказывают о своих факультетах, а заодно незримо сражаются за звание СЛФ. Но мы-то знаем, что СЛФ – это тот, который ты закончил.

Как человек, постоянно нет-нет, да и связанный с вузовской сферой, я прекрасно знаю, что вуз изнутри определяет многое: сами студенты, преподаватели, атмосфера, дух, состояние корпусов и общежитий… Но главный, кто определяет жизнь вуза, – это ректор. Ситуация простая: если человек пришёл в вуз, смог в него врасти и в то же время привнести что-то своё, характерное, новое, свежее, не ломая при этом того, что сложилось, - ректор на своём месте и у них с вузом всё получится. Ректор ННГУ Олег Владимирович Трофимов именно такой. И, кажется, это первый ректор крупного российского вуза, который рассказал о своём университете специально для Хабра, без перепечаток, компиляций и скучного официоза. Просто сели – и поговорили.

Предыдущие части:

«Геометрическая головоломка на выходные»,
«Электродинамика виртуальной Вселенной»,
«Механика виртуальной Вселенной»,
«Квантовая механика виртуальной Вселенной (Часть I)»,
«Квантовая механика виртуальной Вселенной (Часть II)»
«Релятивизм виртуальной Вселенной»
«Космология виртуальной Вселенной (Часть I)»
«Космология виртуальной Вселенной (Часть II)»
«Электричество, проводимость и сверхпроводимость в виртуальной Вселенной»
«Атом в Виртуальной Вселенной (Часть I)»

В предыдущей части мы рассмотрели элементарные принципы, описывающие устройство и поведение атома в фазово-геометрической картине «виртуальной Вселенной». Речь шла прежде всего о фундаменте: геометрии SU(2)-фазы, роли компактного пространства, механизме возникновения атомной структуры и причинах дискретности энергетических уровней.

Теперь мы перейдём к следующему шагу и попробуем ответить на более сложные и менее «удобные» вопросы. Что происходит, когда в атоме появляется не один электрон, а несколько? Почему электронные состояния не накладываются друг на друга? Откуда берутся правила заполнения оболочек, и почему химия вообще возможна?

В стандартной квантовой механике ответы на эти вопросы формулируются в виде отдельных принципов и правил — принципа Паули, правила Клечковского, правил Хунда и Слейтера. В рамках предлагаемой модели мы попробуем проследить, следуют ли эти правила из фазовой геометрии, или же они остаются независимыми эмпирическими фактами.

Иными словами, если в первой части мы убедились, что атом как таковой в этой картине возможен, то теперь пришло время проверить, насколько далеко эта возможность простирается.