Habr.com

Syndicate content Хабр
Все публикации подряд на Хабре
Updated: 1 hour 45 min ago

LLM Firewall: устарел, не успев родиться? Почему защита чатов не работает в мире AI-агентов

1 hour 48 min ago

История про сумасшедшую скорость изменений. Пока мы в Ideco создавали задачи в Jira, исследовали технологии и возможность реализации модуля «LLM Firewall» в Ideco NGFW – ландшафт угроз использования AI принципиально изменился и все приходится переделывать заново.

Первое поколение LLM Firewall проектировалось для защиты чат-интерфейсов: пользователь отправил запрос – модель ответила – файрвол отфильтровал. Похоже на известную нам работу прокси-сервера или DLP-решения. Но за 2025–2026 годы индустрия резко перескочила от «чатов» к автономным агентам, которые вызывают инструменты, ходят в базы данных, принимают решения и общаются с другими агентами. Концепция LLM Firewall переродилась раньше, чем полностью оформилась –в Agent Runtime Security. Но назвать сегодняшние stateless-фильтры промптов «решением проблемы безопасности агентов» – значит обманывать всех и продавать «воздух».

Два года назад разговор об LLM-безопасности сводился к простой формуле: не дать пользователю сломать чатбот (если конечно отбросить «драконовские» и не выполнимые в современных компаниях требования – ЗАПРЕТИТЬ). Prompt injection, jailbreak, утечка персональных данных – вот и весь threat model. Ответ рынка был логичен: поставить прокси между пользователем и моделью, отфильтровать вредоносный или содержащий чувствительные данные промпт на входе, проверить ответ на выходе. Но тут уже можно было столкнуться со сложностью – «фильтрующей» модели нужно было поддерживать контекст в водовороте вопросов и ответов в чате, что не просто и требует большой мощности.

Читать далее

Volga: движок обработки real-time данных для AI/ML — аналог Spark и Flink на Rust (Arrow + DataFusion)

1 hour 49 min ago

Volga — open-source движок обработки данных, созданный как альтернатива Apache Spark и Apache Flink и ориентированный на требования real-time AI/ML систем: консистентное вычисление фичей между online и offline режимами, point-in-time корректные агрегации, длинные скользящие окна, а также ML-ориентированные функции, такие как top- и категориальные агрегации.

В статье рассматриваются мотивация и история разработки, архитектура системы и её ключевые компоненты, а также проводится сравнение с ML-ориентированными решениями (Chronon, OpenMLDB) и универсальными стриминговыми движками (Apache Flink, Apache Spark, Arroyo).

Читать далее

Я работаю в Б-152 и потрогал новый Privacy Box раньше всех. Честно о том, что реально меняет работу

1 hour 50 min ago

Скажу сразу: я работаю в компании, которая делает этот продукт. Предвзятость есть и никуда не денется. Но я использую Privacy Box в настоящих клиентских проектах. Не для демонстраций и не в учебных примерах, а на реальных задачах, где ошибка стоит денег.

Расскажу не «что появилось», а что я уже применяю, и что из этого вышло. 

Читать подробнее

Как мы создали топографические карты для пользователей MapMagic. Часть 2: Инфраструктура, автоматизация и экономия

1 hour 50 min ago

Как мы создали собственный картографический пайплайн для топокарт MapMagic: часть вторая — как наладили автоматическое обновление карт, рендеринг растровых тайлов и их отдачу карт пользователям

Читать далее

Сценарии «Судного дня»: чему реальные катастрофы научили архитекторов резервного копирования

1 hour 59 min ago

В ИТ любят слово «отказоустойчивость». Оно звучит инженерно и успокаивающе. Кластеры, зеркала, репликации — всё это создаёт ощущение контролируемости. Но последние десять лет показали неприятную вещь: большинство катастроф происходят не потому, что что-то сломалось, а потому что инфраструктуру целенаправленно уничтожили. Бла-бла-бла.

Читать далее

Фишинг 2025–2026: от социальной инженерии к промышленным конвейерам PhaaS

2 hours 6 min ago

Современный ландшафт киберугроз демонстрирует окончательную трансформацию фишинга из набора разрозненных мошеннических писем в зрелую сервисную индустрию, функционирующую по канонам легитимного ИТ-бизнеса. 

Фишинг на протяжении многих лет остается одним из наиболее востребованных способов получения первоначального доступа к корпоративной инфраструктуре, сохраняя свою эффективность вопреки массовому внедрению многофакторной аутентификации (MFA) и инвестициям в антиспам-фильтрацию. 

Читать далее

Почему начальство, да и компании в целом не признают провалы и когда выгоднее сказать “как есть”

2 hours 7 min ago

Кажется, что в публичное информационное поле от некоторых компаний просачивается только абсурд. Проект провалился, это очевидно всем участникам, но никто из руководства не произносит эту мысль вслух. Вместо прямого (как бы это помягче) “мы ошиблись” появляются максимально размытые отчеты, абстрактные формулировки с какими-то новыми акцентами: “В этом году мы продолжили идти к нашим целям, у нас были сложности, но стратегия не изменилась”. Как будто кто-то задним числом пытается переписать реальность, забыть про провал, сделать вид, что ничего не было.

Почему нельзя просто сказать правду?

Потому что работают механизмы репутации и PR, а точнее то, как их понимают… Все сложнее, чем кажется на первый взгляд.

Читать далее

Книга: «Архитектура медальона. Проектирование с помощью Delta Lake и Spark»

2 hours 13 min ago

Привет, Хаброжители! Книга предлагает практическое руководство по внедрению архитектуры медальона (bronze, silver, gold уровни) для эффективной работы с большими данными, чтобы избежать превращения хранилищ в бесполезное «болото данных».

Автор делится реальными кейсами и примерами кода для Microsoft Fabric и Azure Databricks, объясняет, как интегрировать медальон в data mesh, и рассматривает вопросы безопасности, контрактов данных и применения генеративного ИИ.

Книга будет полезна дата-инженерам, архитекторам и руководителям, ищущим проверенные решения для построения востребованной и управляемой аналитики.

Читать далее

«Потребительская корзина»: игра на табло покупателя

2 hours 14 min ago

Однажды на онлайн-барахолке мне на глаза попался так называемый «дисплей покупателя» — алфавитно-цифровое табло, которое стоит на кассе и показывает текущий товар в чеке и сумму покупки. Это был старый экземпляр, с красивым зелёным VFD-дисплеем, да и стоил он копейки. Пройти мимо я не смог. Ну а потом, как и многие обладатели очумелых ручек до меня, захотел сделать какую-нибудь самоделку на его основе.

Конечно, можно было бы засунуть туда ESP-шку и сделать погодную станцию, часы, или транслировать уведомления о новых сообщениях в ТГ и WhatsApp. Это всё, безусловно, по-своему интересно. Но самым большим моим увлечением являются игры. И поэтому я решил сделать из табло электронную игру. Как говорится, «но зачем?» Ответа у меня нет. Но есть рассказ, что и как я сделал.

Читать далее

Я посадил AI-агента на свой VPS и перестал открывать SSH

2 hours 14 min ago

Я посадил AI-агента на свой VPS и перестал открывать SSH. На сервере крутится дюжина Docker-контейнеров — клиентские проекты, SaaS, мониторинг, базы. Раньше любая мелочь требовала SSH: глянуть логи, рестартнуть контейнер, проверить место на диске.

Теперь я пишу в Telegram «память за 90%, разберись» — и через минуту получаю ответ: что случилось, что починил, сколько памяти сейчас.

В статье — реальные сценарии: SQL-запросы к PostgreSQL из Telegram, автодиагностика упавших сайтов, правка конфигов, мониторинг с авторестартом и управление задачами в YouTrack. Всё через кастомные shell-скрипты и AI-агент OpenClaw.

Читать далее

CI/CD перестал быть преимуществом и стал условием роста дохода в ИТ

2 hours 14 min ago

Три года назад CI/CD можно было считать дополнительным плюсом в резюме. Сегодня это уже не «приятный бонус», а один из признаков того, что специалист работает в зрелой инженерной среде и может претендовать на более дорогие задачи.

По данным Большого опроса сообщества Инфостарт за 2022, 2023 и 2025 годы, владение практиками автоматизированной сборки, тестирования и деплоя все заметнее связано с ростом дохода. Если упростить вывод до одной фразы, он будет звучать так: рынок начал платить не только за код, но и за способность поставлять изменения быстро, предсказуемо и без ручного хаоса.

Читать далее

Три разработки студентов ИМШ, которые могут изменить ИТ-индустрию

2 hours 16 min ago

Привет, Хабр. Сегодня делимся кейсами студентов Инженерно-математической школы (или просто ИМШ) — совместного образовательного проекта VK и НИУ ВШЭ в сфере машинного обучения, развития высоконагруженных систем и технологий ИИ. Здесь студенты участвуют в проектных мастерских: учатся, предлагают и реализуют идеи, которые уже сейчас влияют на будущее ИТ.

Трое студентов школы кратко расскажут о своих проектах, учёбе в ИМШ и опыте работы над реальными задачами в проектах VK.

А ещё вы узнаете: 

- о том, какие навыки помогает прокачать учёба в ИМШ;

- что делает студенческие проекты полноценными научно-прикладными работами, которые хорошо выглядят в резюме;

- как попасть в ИМШ.

Читать далее

240 fps вместо 40 без замены видеокарты. Как работает новая DLSS от NVIDIA

2 hours 28 min ago

NVIDIA в полный рост продвигает идею генерации кадров как способ получить плавный геймплей без покупки самой дорогой видюхи в линейке. С DLSS 4 эта идея обрела форму Multi Frame Generation — но множитель был фиксированным. Хочешь 3X — получи 3X, хочешь 4X — получи 4X, а если монитор 165 Гц и ты то вылетаешь за его потолок, то проваливаешься ниже — подбирай режим вручную. Несколько дней назад NVIDIA выкатила вторую половину DLSS 4.5 — Dynamic Multi Frame Generation с режимами 5X и 6X. И вот это уже по-настоящему интересно.

Читать далее

ИИ против ИИ (нападение и защита от киберугроз)

2 hours 32 min ago

Юрий Подгорбунский, Security Vision

 

Введение

 

В новой эре кибербезопасности уже сложно справляться с большим ростом и скоростью проведения атак на инфраструктуру организации включая применяемых в ней чат-ботов или агентов на базе искусственного интеллекта (ИИ). Если сегодняшняя тема об атаках и защите с использованием ИИ, то тут можно рассматривать со следующих сторон:

  ·  Атаки на базе ИИ на инфраструктуру включая ИИ.

  ·  Защиту от атак на ИИ в организации.

  ·  Реагирование на атаки и инциденты.

 

Но для начала не простой темы, хорошо бы разобраться что же такое ИИ, и как это хозяйство управляется на практике?

 

Что есть ИИ?

 

ИИ – это технология, позволяющая (частично) компьютерам и машинам имитировать человеческие когнитивные функции, такие как обучение, рассуждение, понимание естественного языка и принятие решений, т.е. выполнять задачи, свойственные человеку.

 

Развитие ИИ

 

В течении многих лет основное внимание уделялось моделям ИИ, которые преуспевали в пассивных дискретных задачах, таких как:

  ·  Ответы на вопросы

  ·  Перевод текста

  ·  Генерация изображения и голоса.

 

Эта парадигма, требующая постоянного человеческого управления на каждом этапе. Сейчас наблюдается смена парадигмы, т.е. переход от ИИ, который просто предсказывает или создает контент, к новому развитию, способному автономно решать проблемы и выполнять задачи – агент на базе ИИ (агент).

 

Это новое развитие построено вокруг агентов ИИ. Агент – это не просто модель ИИ в статическом рабочем процессе. Это полноценное приложение, которое может составлять планы и принимать действия для достижения целей. Оно сочетает в себе способность языковой модели (LLM) к рассуждению с практической способностью действовать, позволяя справляться со сложными многоэтапными задачами, которые языковая модель сама по себе не может выполнить. Важнейшая способность заключается в том, что агенты могут работать самостоятельно, определять следующие шаги, необходимые для достижения поставленной цели, без постоянного контроля и руководства со стороны человека.

Читать далее

[Перевод] Узкое место современного ИИ — не вычислительные мощности, а электроэнергия

2 hours 34 min ago

На протяжении большей части XX века развитие искусственного интеллекта (ИИ) тормозилось не из-за недостатка амбиций у исследователей, а потому, что доступное оборудование для его работы просто не было достаточно мощным. Ранние системы ИИ сталкивались с жёсткими ограничениями по скорости обработки и объёму памяти, что приводило к циклическим «зимам ИИ», когда прогресс останавливался, а финансирование иссякало.

Сейчас эта проблема в основном решена. Сегодня модели ИИ обучаются на специализированных чипах в огромных центрах обработки данных, и их масштабирование занимает не годы, а считанные недели. Вычислительные мощности, которые раньше были главным узким местом, теперь можно приобрести — были бы деньги. Такие компании, как Nvidia или AMD, с каждым годом всё более массово производят мощные графические процессоры (GPU) — компоненты, традиционно используемые для игр или визуализации, но также хорошо подходящие для вычислений ИИ.

Читать далее

Мифы, байки, крипипасты: как фанаты дописывают сюжеты видеоигр

2 hours 36 min ago

Вокруг видеоигр, так же как вокруг кино и сериалов, рождаются и живут своей жизнью мифы и легенды. Иногда о них знают даже те, кто никогда не включал конкретную игру – вроде «Ну, погоди!» с мультфильмом, «Покемона», сводящего с ума школьников своей музыкой, или самоуничтожающегося хоррора

В этой статье собрал несколько известных баек, чтобы посмотреть, как появляются такие истории, почему в них верят и как разработчики подыгрывают фанатским фантазиям.

Читать далее

Магазин игрушек — геймификация в ритейле: Золотое Яблоко, Лэтуаль, Спортмастер, М.Видео и другие

2 hours 36 min ago

Привет! На связи Никита Морозов, и это вторая часть обзорной статьи "Геймификация в ритейле" из серии статей, посвященных геймификации в различных отраслях.

Читать далее

Quest For The Holy Memex

2 hours 46 min ago

Quest For The Holy Memex: Часть 1 или туда и обратно...

Так получилось, что последние лет 10 я посвятил исследованию проблемы информационных перегрузок и поискам её решения. То, что сначала просто ощущалось как неудобство хранения закладок, в какой‑то момент привело к интересу к комплексным информационно‑аналитическим системам, а потом вовсе немного вышло из‑под контроля, превратившись в полновесный эпичный квест против «древнего зла» и поиски оружия против него. Может, я немного увлёкся, но проблема оказалась серьезнее, чем я предполагал...

Читать далее

Как мы пересобрали сборку мусора в Vinyl

2 hours 52 min ago

В предыдущей статье о Vinyl я рассказывал об архитектуре LSM-движка Tarantool. Восемь лет, прошедшие с момента с написания статьи, показали, что Vinyl сразу получился идеальным и менять его не нужно :). Если серьёзно, сегодня я расскажу о тех изменениях, которые мы внесли в алгоритм в форке Tarantool от Picodata, и неизбежно коснусь более глубокой проблематики работы LSM-деревьев, а конкретнее – работы планировщика слияний (compaction scheduler).

Читать далее

Что «убило» BlackBerry

3 hours 5 min ago

Иногда разговоры о технологиях начинаются не с выхода новых девайсов или очередного релиза, а с фразы: «А помнишь BlackBerry?». Сегодня эту компанию знают не все, но в начале 2000-х она была стандартом, а не мемом. Смартфон BlackBerry ценили за предсказуемость, надежность и контроль. Почта доходила всегда,а связь работала даже при слабом сигнале.

Привет, Хабр! Меня зовут Владимир Сергеев. Я эксперт практики UC и ПО для совместной работы К2Тех. Мы не станем повторять сюжет недавно вышедшего фильма и постфактум разбирать стратегические ошибки руководства компании. Давайте на примере BlackBerry оценим пределы хорошо спроектированной системы и разберемся, какие технологические ошибки и инженерные компромиссы останавливают развитие компании и приводят к проигрышу в конкурентной гонке.

Читать далее

Who's online

There are currently 0 users and 1 guest online.