Рассмотрим, как реализован SortMergeJoin в Apache Spark, и заодно заглянем в исходный код на GitHub. Spark написан на языке Scala, и вся логика работы оператора доступна в открытом репозитории проекта.
Читать далееПредставленная статья посвящена некоторым особенностям и нюансам разработки доп. расширений для публикации в 1С:Фреш. Надеюсь, кому-то из читателей информация в статье будет полезна и сэкономит время на прохождение аудита при публикации своего решения во Фреше.
Читать далееВсем привет! Подводим итоги мая по линии самых интересных CVE. Последний весенний месяц выдался жарким: десяточку по CVSS выбили контроллеры Cisco с захардкоженным веб-токеном и Azure DevOps Server на повышение привилегий до System.
Критическими уязвимостями также отметились MagicINFO 9 Server от Samsung, продукты от Fortinet с нулевым днём под RCE и очередной плагин для WordPress — OttoKit. Отдельный приз уходит ASUS DriverHub — RCE от ASUS прямиком в BIOS материнок компании. Microsoft в прошлом месяце исправила пять активно эксплуатируемых нулевых дней, а в SysAid закрыли уязвимости под RCE и на доступ к локальным файлам, включая InitAccount.cmd. Об этом и других ключевых CVE мая читайте под катом!
Читать далееНедавно я завершила обучение на курсе от Google по программе Управление проектами Поэтому я решила подготовить цикл из шести статей, в которых постараюсь передать ключевые идеи курса для русскоязычной аудитории.
Курс состоит из шести разделов, и каждая статья будет охватывать один раздел. Вот их список:
Читать далееСовременная разработка программного обеспечения все больше опирается на распределенные системы и микросервисы, что требует надежных методов обеспечения качества для проверки интеграции API и поведения сети.
Такие инструменты, как Mockoon (платформа имитации API с открытым исходным кодом) и Charles Proxy (HTTP-прокси), решают эти задачи, но обслуживают различные фазы жизненного цикла обеспечения качества.
Пришло время разобраться: что лучше — Mockoon или Charles Proxy?
Читать далееПривет, Хабр! Меня зовут Анастасия Соколенко и с теми, кто читал мои предыдущие статьи, мы уже знакомы. Я отвечаю за безопасную разработку в Битрикс, а здесь рассказываю о том, как разработчикам делать сайты максимально безопасными.
В своих предыдущих статьях (здесь и здесь) я рассказывала о четырёх типовых уязвимостях веб-приложений и о том, как разработчикам предусмотреть защиту от них при написании кода.
Сегодня поговорим о трёх методах, которые помогут противостоять злоумышленникам. Это нормализация путей, безопасная работа с десериализацией и криптоподпись (Signer).
Читать далееПривет, Хабр! Меня зовут Алексей Верховский, я ведущий инженер в техническом блоке МТС. В середине 2019 года я вместе с коллегами начал планировать техническое решение и готовить оборудование для строительства базовой станции (БС) на южном континенте. Это совместный проект МТС с Арктическим и антарктическим научно-исследовательским институтом (ААНИИ).
К концу 2019-го я впервые отправился в Антарктиду: попал в 65-ю Российскую антарктическую экспедицию (РАЭ). На полярной станции «Прогресс» 1 января 2020-го мы запустили первую российскую БС в Антарктиде.
Затем, преодолевая коронавирусные и логистические трудности, МТС несколько сезонов запускала БС на полярных ст. «Беллинсгаузен» и «Новолазаревская», на аэродроме ст. «Новолазаревская», а также запускала NB-IoT и включала femto на старой станции «Восток». Одновременно на Востоке полным ходом шло строительство Нового зимовочного комплекса (НЗК).
В начале 2024-го руководство МТС решило расширить мобильную сеть в Антарктиде: обеспечить связью станцию «Мирный» и сданный в эксплуатацию НЗК на «Востоке». Экспедиция планировалась уже не первая, но именно строительство indoor-покрытия на «Востоке» стало главным вызовом совместного проекта МТС и ААНИИ. Впереди нас ждали: подготовка к экспедиции на Эльбрусе, тяжелые климатические и бытовые условия, а также непредсказуемая логистика.
Читать далееПривет, Хабр! Меня зовут Анастасия Соколенко и с теми, кто читал мои предыдущие статьи, мы уже знакомы. Я отвечаю за безопасную разработку в Битрикс, а здесь рассказываю о том, как разработчикам делать сайты максимально безопасными.
В своих предыдущих статьях (здесь и здесь) я рассказывала о четырёх типовых уязвимостях веб-приложений и о том, как разработчикам предусмотреть защиту от них при написании кода.
Сегодня поговорим о трёх методах, которые помогут противостоять злоумышленникам. Это нормализация путей, безопасная работа с десериализацией и криптоподпись (Signer).
Читать далееВсем привет! Меня зовут Дмитрий Третьяков, я ML Engineer в компании «Лента». Мы регулярно запускаем PySpark-приложения в Kubernetes-кластере, используя Airflow. Этот процесс важен для нашей ежедневной работы с данными, но в какой-то момент мы столкнулись с тем, что стандартный подход через SparkKubernetesOperator стал сдерживать развитие: не хватало гибкости, возникали сложности в сопровождении и процесс настройки был излишне сложным для разработчиков.
Читать далееПочитал транскрипт подкаста HBR IdeaCast с автором книги Employment Is Dead: How Disruptive Technologies Are Revolutionizing the Way We Work. Как можно догадаться из названия книги, подкаст была о том, как технологии (ИИ, Web3, DAO) трансформируют рынок труда и какое место в этом новом мире займёт классическая занятость.
Нужно понимать, что речь идёт о том, как всё это выглядит сейчас на западе, поэтому многое из сказанного ниже для человека на русскоязычном пространстве будет звучать достаточно бредово, однако всё и все в мире взаимосвязаны, так что будет как минимум не лишним посмотреть, "а как там у них".
Итак, делюсь кратким пересказом ключевых тезисов, а затем — своими размышлениями как человека, работающего внутри IT и HR Tech и наблюдающего трансформацию воочию.
Читать далееОбласть искусственного интеллекта стремительно развивается, открывая новые способы повышения эффективности их работы и интеграции с данными в реальном времени. Одним из последних достижений стал Model Context Protocol (MCP) — открытый стандарт, позволяющий AI-моделям напрямую обращаться к файлам, API и инструментам без необходимости в промежуточных этапах, таких как создание эмбеддингов или векторный поиск. В этой статье мы рассмотрим, что такое MCP-сервер, как он работает и почему он может изменить будущее AI.
Читать далееПривет! Меня зовут Михаил Васягин, я занимаюсь веб-аналитикой в M2. М2 — это онлайн-платформа для решения вопросов с недвижимостью. Сервисами М2 пользуются как частные лица, так и профессиональные участники рынка — риелторы, застройщики, банки. Мы помогаем тысячам людей экономить время, нервы и деньги. Сейчас каждая пятая квартира в новостройке покупается через нашу платформу.
В 2024 году маркетинг запустил большую медийную кампанию, которая откручивалась с помощью рекламных систем Яндекс Директ и AdRiver. Мы в веб-аналитике не захотели останавливаться на метриках охвата и решили попробовать оценить влияние показов медийной рекламы на дальнейшие источники трафика на сайте.
Таким образом, мы смогли увидеть, какой объем полезных действий на сайте (регистрации и заявки) совершают пользователи, которые контактировали с медийным размещением. Более того, теперь у нас есть возможность оценить uplift-метрики или добавить показы объявлений медийной рекламы в сквозную аналитику как отдельные этапы мультиканальной атрибуции.
Для решения первичной задачи мы использовали сырые данные AdRiver (post-view) и Яндекс Метрики (post-click), а также базу данных ClickHouse и Apache Superset для визуализации.
Материал будет полезен веб и маркетинговым аналитикам, а также маркетологам, кто хочет самостоятельно разобраться в сырых данных AdRiver и Яндекс Метрики. А именно: как их можно связывать между собой, какие отчеты построить на этих данных и какие полезные выводы для бизнеса можно сделать.
Читать далееВ 2025 году все больше российских компаний ищут пути ухода с зарубежных решений виртуализации: VMware, Hyper-V, Nutanix AHV. С VMware и Hyper-V миграция уже более-менее отлажена, а вот с Nutanix AHV — совсем другой разговор.
Мы в команде впервые столкнулись с задачей полноценного переноса виртуальных машин с AHV в отечественную систему zVirt от Orion soft. Готового решения не было ни у кого. В этой статье поделюсь опытом: что сработало, какие были грабли и как мы с ними справлялись.
Читать далееМало что настолько меня угнетает, как невозможность что-либо понять так, чтобы потом объяснить это самому себе :) И хоть я уже давно не девятиклассник, этот период запомнился мне внезапным переходом от заучивания материала "чтобы не схватить парашу" к некоторой степени осознания "а как оно там устроено и почему именно так". Сложнее всего было с математикой и я постоянно изобретал для себя "объяснялки". Этот навык, к счастью, прижился и стал привычкой.
В виртуальную лабораторию!Всем привет! Наверняка у каждого, кто увлекается технологиями, бывают моменты, когда хочется быстро проверить какую-то идею или «поиграться» с новым API, не погружаясь в сложную разработку. Сегодня я хочу рассказать как раз о таком эксперименте выходного дня, который начался с простого желания пощупать возможности одного сервиса, а в итоге вылился в небольшой, но забавный пет-проект – GPT Arena.
Меня зовут Илья, я основатель онлайн-нейросети для создания изображений ArtGeneration.me, техноблогер и нейро-евангелист. Идея GPT Arena зародилась у меня давно, еще во времена появления кастомных GPTs от OpenAI. Тогда я даже сделал небольшой прототип: игра предлагала создать героя, генерировала его изображение и весело описывала его бой с другим таким же созданным героем, учитывая их абилки и способности. С учетом того, что в ChatGPT была озвучка сообщений – получалось прикольно. Однако тот прототип был сыроват и я надолго его забросил.
Недавно я решил вернуться к этой концепции, когда познакомился с API от Pollinations. Как человек, который не является программистом в классическом смысле, а скорее энтузиастом, исследующим возможности AI и предпочитающим генерировать код с помощью нейросетей, а не писать его с нуля, мне было особенно интересно проверить эту идею в деле, используя новый инструментарий.
Читать далееНа удочки мошенников попадаются не только Лариса Долина и пенсионерка Мария Петровна из соседнего подъезда. Расскажем, как жулики обманывают айтишников, выдавая себя за рекрутеров известных ИТ-компаний.
В последнее время появилось много историй обманов ИТ-специалистов, которые ищут работу. Мошенники представляются рекрутерами и, используя различные уловки, выманивают деньги у своих жертв.
В этой статье расскажем о трех самых популярных мошеннических схемах, как отличить «поддельного» рекрутера от настоящего и что делать, если вас пытаются обмануть.
Читать далееКакую архитектуру данных выбрать, когда на горизонте — Data Warehouse, Data Lake, Lakehouse и Mesh, а проект требует гибкости, отчетности и масштабируемости? В этой статье — практический разбор подходов с позиций data-инженера. Рассматриваем плюсы и ограничения каждого варианта, углубляемся в архитектуры Инмона, Кимбалла, Data Vault и медальонную модель, а также разбираемся, где граница между аналитическими целями и технической реализацией.
Читать далееСобрал для вас профессии и навыки, которые надо осваивать уже сегодня, чтобы завтра не стоять в очереди в службу занятости, где тётеньки с искусственным интеллектом будут предлагать вам мыло и веревку, вместо свободных человеческих вакансий.
Читать далее