Kurgan-Telecom Ru | Информационные технологии

Код: https://github.com/fanat503/Induction-Heads-Tinystories

GPT-2 Small обучена с нуля на TinyStories (473М токенов). Эксперимент показал, что Previous Token Heads формируются стабильно (score 0.20), а Induction Heads практически не формируются (score 0.05) из-за простоты датасета. Результаты верифицированы через Sparse Autoencoder на Layer 6.

Эта статья — не «ответы на все вопросы». Это попытка показать, как смена парадигмы — с субстанциальной на реляционную позволяет увидеть, что некоторые «неразрешимые» противоречия философии и науки были артефактами нашего языка, а не свойствами реальности.

Вся история философии и науки — это борьба с несколькими фундаментальными парадоксами о конечности и бесконечности, а также дискретности и непрерывности материи, пространства, времени и причинности. Эти парадоксы были известны еще древним грекам, но затем современному читателю о них напомнил Иммануил Кант. Он сформулировал эти фундаментальные проблемы бытия в виде своих антиномий и сделал это не для того, чтобы блеснуть умом, а для того, чтобы продемонстрировать предел возможного для разума, оперирующего категориями субстанции. Материя конечна или бесконечна? Время имело начало или оно вечно? Свобода воли существует или всё детерминировано?

На каждый из этих вопросов формальная логика даёт два равно обоснованных, но взаимоисключающих ответа. Кант сделал вывод: мир «в себе» непознаваем. Гегель ответил: непознаваем не мир, а тот способ мышления, который пытается ухватить реальность через статичные «вещи». И этот способ мышления — некорректен.

Сегодня, когда физика всё чаще описывает мир не как набор объектов, а как сеть отношений, гегелевский ответ звучит удивительно современно. Оказывается, антиномии Канта не опровергаются, а снимаются в гегелевском смысле, то есть сохраняются как моменты более широкой картины, но теряют статус тупиков.

Вы открываете чат. Загружаете договор на 80 страниц или корпоративный регламент на 200. Пишете: «Добавь в раздел 4.2 новый пункт про порядок согласования».

AI читает весь документ целиком. Находит (или не находит) нужное место. Что‑то вставляет. Иногда попадает, иногда — нет. Иногда ломает форматирование соседних таблиц. Иногда забывает, что этот же раздел нужно синхронизировать с приложением.

Дело не в мощности модели. Дело в том, что она работает вслепую: нет карты документа, нет правил редактирования, нет понимания что с чем связано или неприкосновенно.

Kubernetes часто называют сложной системой, в которой легко запутаться. Control Plane, etcd, scheduler, worker nodes — когда сталкиваешься с этим в первый раз, кажется, что разобраться невозможно. Но на самом деле за громкими названиями скрываются простые и логичные компоненты.

Мы подготовили простую теоретическую подводку и ранбук по запуску своего кластера с нуля. Материал подойдёт всем, кто хоть немного знаком с контейнерами и хочет понять, что происходит после команды kubectl apply. Никакой магии — только архитектура, жизненные циклы, живые примеры и пара схем для наглядности.

Спойлер: Никаких банальных ИИ-оберток, где текст конвертируется в звук через API. Только хардкорная хирургия нейросетей, кросс-модальные мосты и перехват мыслей LLM в реальном времени.

За последний год Hugging Face превратился в конвейер одинаковых проектов: берем Llama/Gemma, прикручиваем к ней интерфейс на Gradio, называем это стартапом. Мы для нашего виртуального музыкального артиста Livadies решили пойти другим путем. Мы задались вопросом: как звучит чистая мысль нейросети, если не переводить ее в текст? И как звучит математическая геометрия доисторического камня или кожи рептилии?

Чтобы это выяснить, нам пришлось вскрывать архитектуры SOTA-моделей и сшивать их напрямую на уровне тензоров. Вот два наших главных инженерных эксперимента.

Данная статья имеет шуточный характер. На самом деле я заказал случайно не тот модуль (хотел RGB модуль, а взял RYG модуль), потом решил, раз я его взял сделаю учебный проект.

В марте специалисты киберразведки PT ESC зафиксировали активность группировки Rare Werewolf (Rezet, Librarian Ghouls). На этот раз был обнаружен архив data.zip, содержащий следующую структуру файлов.

Под катом разбор вредоносных файлов, их структуры и назначения.

«Каково это — когда хвост оказывается между ног?» — вопрос, который однажды задали Веронике Картрайт. Актриса приехала на съёмки «Чужого» играть Рипли, а получила Ламберт — «вечно ноющую» и обречённую. Как Хичкок учил её готовить стейк, зачем Ридли Скотт заставил бить Уивер по лицу и почему смерть Ламберт снимали… без самой Ламберт? Вся закулисная драма, брызги крови и один очень неловкий хвост — в этой заметке.

Open source модель для генерации музыки, которая на бенчмарке SongEval обходит Suno v5. Работает локально от 4 ГБ VRAM, генерирует полный трек за 2 секунды на A100. Разбираю архитектуру LM + DiT: почему разделение планирования и синтеза даёт такой результат, что реально работает, а что авторы сами называют проблемами.

OpenClaw — это 180K звёзд на GitHub, но и 800 МБ node_modules, конфликты зависимостей и Node.js рантайм. Кто-то переписал его на Go: один бинарник на 35 МБ, 3-5x меньше RAM, деплой в одну команду. Разбираю, зачем это было нужно, что даёт мультиагентная архитектура на горутинах, и имеет ли смысл переходить с OpenClaw.

Давайте немножечко поговорим о творчестве в целом, создании собственных проектов в принципе, и дальнейшем развитии мобильного приложения для домашних питомцев DogPlanner (доступно в Google Play, RuStore и других известных площадках) в частности. Мы уже говорили, что когда человек начинает заниматься каким-либо собственным проектом, он не задумывается насколько это занятие может растянуться. Мы сейчас говорим не о бизнес проекте, в котором изначально чётко описываются цель и средства её достижения, определяется команда и сроки, и поехали... Нет.

Внедрение ИИ в реальное управление проектами происходит не так просто, как об этом мечтали исследователи и методологи в начале пути. Как член жюри и асессор одного из конкурсов в области управления проектами, разбирал и оценивал в конце прошлого года, какие ИИ-инструменты участники этого конкурса действительно применяют до такого состояния, что готовы рассказать об этом, как о лучшей практике. Хочу поделиться небольшим обзором подходов, с которыми сегодня экспериментируют организации.

В марте 2026 года MiroFish оказался на первом месте GitHub Trending. Студент из Пекина за 10 дней собрал движок, который берёт любой документ, строит из него граф сущностей, порождает сотни AI-агентов с памятью и личностями – и запускает их общаться в симулированных Twitter и Reddit. Прогнозирует будущее через поведение толпы.

Мы сразу подумали: а что если симулировать наш локальный мир – рынок 1С?

Спойлер: симуляция дала ровно тот инсайт, который мы уже знали из реального опыта, но не могли раньше сформулировать так жёстко. Про него – в конце. Ссылки на описание мира и результирующий отчет тоже в конце, а сначала о том, как мы это вообще запустили.

Привет, Хабр!

Запрос работает 30 секунд. Вы смотрите на него, всё вроде ок: JOIN по индексированным полям, WHERE по дате, LIMIT 100. Должен летать, но что-то не летает. Добавляете индекс наугад — не помогает. Переписываете подзапрос в CTE и стало ещё хуже.

Проблема не в запросе, а в в том, что вы не смотрели в план выполнения. EXPLAIN ANALYZE показывает не что вы написали, а что PostgreSQL делает: какие индексы использует (и использует ли вообще), в каком порядке соединяет таблицы, где тратит время, сколько строк ожидал и сколько получил.

Ищете работу или готовитесь к повышению? В 2026 году недостаточно оценивать зарплатные ожидания по внутренним ощущениям. Если нужен хороший оффер – важно знать рынок и понимать, на какой уровень вы можете претендовать, чтобы доказать это компании.

В статье разберем, сколько зарабатывают Продакт Менеджеры разных грейдов и как быстро определить свою возможную зарплатную вилку.

Все данные получены на основе исследований и реального опыта продактов, которые искали работу за последние полгода.

История про «человек сделал вакцину с помощью ИИ и вылечил собаку» звучит слишком хорошо, чтобы не задать пару вопросов. Я попробовала разобраться, что за этим стоит на самом деле — от мРНК-вакцин до ограничений и нюансов, которые обычно остаются за кадром.

Здравствуйте.

Думаю многие видели, что буквально только что, claude решили резко поменять политику и отключить работу своего решения в сторонних приложениях. То есть даже подписчики их платной подписки за 100 usd, среди которых был и я, теперь не могут использовать удобные безлимитные(в рамках лимитов) решения.

В основном это было сделано из-за безумно популярного агентского решения openclaw, которое в связке с claude sonnet/opus просто идеально. Работало это так. Подключаешься через oauth токен, для claude code и используешь все возможности подписки.

Теперь же claude выдает ошибку LLM request rejected. Они конечно на сайте выложили 100 usd, как компенсацию всем тем людям, что теперь будут вынуждены платить огромные суммы за extra usage, но это все равно не решение.

Идея

Так как работать, так невозможно, мною было решено реализовать прокси сервер для подключения к апи claude через браузерную сессию и сделать для него апи в совместимом openai формате. Чтобы легко можно было интегрировать, как сторонний провайдер в openclaw.

Реализация была поручена одному из лучших моих агентов, по имени Гарри c наибольшим кол-вом накопленного опыта по мере множества моих проектов и работ. Да пока что за их 100 usd бонусный лимит extra-usage.

Существуют решения для анонимного взаимодействия в интернет пространстве, такие как Tor, I2P и Freenet, но они ориентированы на весь интернет и избыточны для простого общения. Их сложность и архитектура могут быть неудобны в условиях ограниченного доступа к сети. Поэтому возникает идея более простой и специализированной системы. XXCore — это лёгкая p2p-архитектура с доверенными узлами, построенная на PipeNet и модифицированном SSU2.

В новой статье собрал десятку онлайн-магазинов, которые продают одежду, обувь и аксессуары — и при этом задают планку по удобству интерфейсов. Разобрал, какие приемы дизайна, навигации и взаимодействия с пользователем делают их сайты особенно комфортными и понятными.

Эта подборка поможет увидеть актуальные UX-тренды и найти вдохновение для развития собственного e-commerce-проекта.

Привет, Хабр!

Я Денис Захаров — программист и разработчик первой в России киберстанции E‑station (история создания здесь).  В прошлых статьях я рассказывал, что проблемы со спиной сделали работу в обычном кресле просто пыткой, а купить иностранный космолет было нереально. Пришлось делать свой. Также я упоминал, что вдохновлялся зарубежными аналогами типа Altwork station, Okamura Cruise, lClubby. Но это были не единственные источники вдохновения. Поэтому сегодня хочу сделать обзор станций в легендарных научно-фантастических произведениях.