По ощущениям, на Хабре одна группа пользователей пользуется LLM локально, а другая - через внешние API.
А третья еще не определилась, и у неё периодически возникают следующие вопросы:
- Что будет, если запускать LLM на CPU вместо GPU? Сильно упадет скорость?
- А как это от размера модели зависит?
- А DeepSeek оригинальный очень большой - а можно его с диска подкачивать, если он в RAM не влезает?
В общем, я пару раз отвечал на данные вопросы в комментариях - но поскольку я периодически натыкаюсь на них вновь и вновь, то решил сделать эту небольшую статью.
TLDR: Я сделал небольшое HTML-приложение, которое наглядно дает ощущение скорости генерации в разных инсталляциях. Если непонятно, что там к чему - то лучше прочитать статью.
Читать далееПривет, Хабр! Я Лера, технический писатель в Авито. В этой статье я разбираю тезисы Джеймса Клира в его работе «Атомные привычки». Материал будет полезен тем, кто хочет подробно разобраться в природе привычек и понять, как незначительные изменения могут сильно улучшить траекторию ваших результатов и уровень жизни в целом.
Читать далееПривет, Хабр! Я Таня Гладких — разработчик в команде корпоративного мессенджера Rocket.Chat в МКБ (Московском кредитном банке).
А теперь представьте SuperApp — единое мобильное приложение, через которое можно зайти в корпоративный мессенджер, новости компании, сервисы ИТ-поддержки и десятки других инструментов. Авторизуетесь всего один раз — и весь корпоративный мир у вас под рукой. Звучит отлично, правда?
В 2022 году у нас зародилась идея создания такого приложения, заходите почитать, что из этого вышло.
Читать далееОднопоточные приложения на Python ограничены в производительности: они выполняют задачи последовательно и не используют преимущества многоядерных процессоров. Кроме того, такие программы не справляются с обработкой множества операций одновременно, особенно если речь идет о задачах, связанных с вводом-выводом, например сетевыми запросами или чтением файлов.
Производительность можно значительно улучшить, внедрив в код параллельные вычисления, конкурентность или асинхронное программирование. Для этого Python предлагает такие инструменты, как multiprocessing, threading и asyncio.
Читать далееВ нашем портфолио за последние 5 лет около 40 продуктов. Часть из них погибла, часть вот‑вот закроется. Но есть проекты, которые растут, масштабируются и развиваются. Я задался вопросом: почему при всех прочих равных одни проекты запускаются, а другие не проходят свою собственную «долину смерти». В попытках поиска «волшебной таблетки» и пришел к диаметрально противоположному выводу: нет «волшебно таблетки» но есть точно «таблетки», которые точно не стоит принимать.
Так родилась идея описать 10 проектов, в которых была совершена ошибка, которая не позволила проекту дойти до заветной монетизации, самоокупаемости, прибыли, росту, масштабированию.
Читать далееКак обойти конкурентов из топ-10 выдачи «Яндекса» и Google? Какие требования к медицинский сайтам сейчас? Как развивать SEO, когда все уже пользуются нейросетями, а не привычным поисковиком? И можно ли доверить ИИ создание контента в медицине? Ответы на эти вопросы — в статье.
Читать далееНа пике производство приносило около 500 000 ₽ прибыли в месяц на двоих, но в 2024 я закрылся с убытком в 6,5 млн ₽.
Читать далееВ релизе Kotlin 2.1.20-RC3 представлены важные улучшения, которые значительно расширяют возможности разработчиков. В статье рассматриваются нововведения в компиляторах, поддержку Kotlin Multiplatform и Kotlin/Native, а также улучшения в работе с Gradle и стандартной библиотекой. Особое внимание уделяется новым инструментам и оптимизациям, которые делают работу с Kotlin более эффективной и удобной. Мы подробно разберем ключевые изменения, которые уже доступны в этой версии, и что они могут предложить для улучшения производственного процесса.
Читать далееПривет! Это Маша из AppSec Альфа-Банка. Я люблю, чтобы разработчикам было интересно, а продукты компании были безопасными.
Наша команда безопасной разработки подготовила для вас примеры уязвимостей, которых можно избежать в своем коде. Мы показали примеры в виде задач, предложили решение и пути предотвращения.
Все задачи из примеров встречались нам ранее в программах BugBounty или на прошлых местах работы и воссозданы в тестовой среде.
Предлагаем вам принять участие в решении задач в формате челленджа — для удовольствия и вдохновения. И очень хотим напомнить о важности безопасной разработки.
Читать далееПривет! Это Маша из AppSec Альфа-Банка. Недавно мы провели первый (для себя) багатон по кибербезопасности, прошедший при совместной работе ИТ, AppSec, команд Внутрикома и DevRel. Главными целями были пропаганда безопасной разработки и сближение разработчиков и команды AppSec.
Расскажем, как мы спланировали и провели мероприятие, чтобы оно стало не только полезным, но и запомнилось командам разработки.
Читать далееВечер пятницы, пустой коворкинг, посиделки над пет-проектом после работы. Накопилась усталость, навалились проблемы, выгорание не за (вы)горами. Очень сильно хочется кофе: он нужен любой ценой,. Даже сильнее хочется чего-то нового в жизни.
Знакомая ситуация? Тогда, айтишник, тебе повезло — под катом ты встретишь IT-джинна, который предлагает всем, кто ждёт перемен или просто хочет развлечься, отправиться в увлекательное путешествие: испытать силы и знания в трёх направлениях работы с продуктами компании Контур.
Ты окажешься в роли системного аналитика, или C#-разработчика, или тестировщика и повзаимодействуешь с продуктами в сферах финтеха, документооборота и видеоконференций.
В этом тесте ты сам выбираешь, каким будет твоё приключение. А джинн подстрахует в случае ошибки. Стартуем?
Начать квестЛогирование действий пользователей — ключевой процесс для любого бизнеса, который важен как для оценки текущего состояния продукта, так и для статистики проводимых экспериментов и нововведений. Как результат, к точности сбора статистики пользовательских действий обычно предъявляются высокие требования, а для оперативного выявления любых проблем работа с логами обвешивается множеством проверок.
Меня зовут Елена Пранова. Я инженер по автоматизации тестирования в ОК. В этой статье я расскажу об автоматизации проверок логирования в ОК, особенностях работы с Kafka, написании тестов для проекта статистики и не только.
Читать далееКак делегирование и ИИ помогли мне выйти из операционки и начать масштабировать бизнес
Когда три года назад я запускал свой digital-агентство, я свято верил в миф "хочешь сделать хорошо — сделай сам".
В результате оказался в ловушке операционной деятельности: писал коммерческие предложения, правил пиксели в баннерах, отвечал на письма клиентов и даже пытался сам вести бухгалтерию.
Читать далееВсе теории множеств, о которых я читал, мне не нравились по разным причинам, но в основном из-за того, что у них были различные типы бесконечностей ( счётная, континуум и т.д. ). Поэтому я решил создать свою теорию с одним типом бесконечности. К тому же появилась идея изложить её при помощи языка С++. Для программистов это будет нагляднее, чем на языке логики. Конечно, это не полная теория, а набор отдельных положений представляющих общую идею.
Читать далееПривет, меня зовут Диана, я математик, а еще пишу для хабраблога МТС. В прошлый раз публиковала задачу про адвент-календарь — спасибо всем, кто решал и комментировал! А сегодня хочу немного рассказать про милый моему сердцу кусочек математики — часть аналитической геометрии, которая повествует о кривых второго порядка.
Кривые второго порядка — это не просто красивые абстракции. Они прочно вплетены в вашу повседневность: параболы помогают сфокусировать сигнал вашего Wi-Fi, гиперболы — определить ваше местоположение, а эллипсы — это орбиты спутников.
В посте обсудим, что такое кривые второго порядка с точки зрения математики и какие у них есть родственники. Найдем связь графиков из школьной математики и современных технологий — для этого даже сгоняем в космос! А еще узнаем, по какой траектории полетит брошенный мячик, если вы ну очень сильны. Предупреждаю: будет много ссылок. Надеюсь, получилось собрать их воедино и дать жизненного контекста, не погружаясь в тяжелые формулы. Поехали!
Читать далееС 30 мая 2025 года в России вступают в силу новые нормы, ужесточающие ответственность за утечку персональных данных. Новые требования предусматривают штрафы до 15–20 млн ₽ за нарушение правил защиты информации. Эти изменения крайне актуальны, поскольку владельцы сайтов, интернет-магазины и компании, работающие с клиентскими данными, теперь сталкиваются с реальными финансовыми и репутационными рисками в случае утечек.
Цель этого материала — предоставить чёткие рекомендации по соблюдению законодательства и защите данных.
Читать далееЕсли на Силикатной улице (это в Мытищах) остановить тысячу случайных прохожих и спросить их, на каких трёх слонах покоится ООП, каждый второй назовёт инкапсуляцию. В коридорах МИФИ, или на собеседовании в Яндексе — процент будет даже выше. Даже LLM способна на шести пальцах объяснить, почему.
И, тем не менее, ООП — один из худших способов обеспечить инкапсуляцию. Идолопоклонники на этом месте могут поставить тексту, мне и вселенной — минус, остальным я на примерах попытаюсь объяснить, что побудило меня к столь резкому заявлению.
Минус поставил, готов ознакомитьсяВсем привет!
Совсем недавно, 29 марта 2025 года, вступило в силу Положение банка России № 851-П, заменяющее Положение № 683-П. Одним из ключевых изменений документа является появление условий проведения оценки соответствия. В связи с этим в ближайшее время ожидается повышение спроса на проведение оценки соответствия по требованиям ОУД4. Эта статья содержит основные понятия, связанные с ОУД4, краткое описание требований регулятора и необходимых документированных свидетельств оценки и будет полезна аудиторам, разработчикам, менеджерам, а также всем тем, кто интересуется законодательством в ИБ. Будет здорово получить от вас обратную связь и конструктивную критику!
Читать далее