Один Beelink GTR9 Pro на Ryzen AI Max+ 395 выдал 236 tok/s суммарной генерации на 32 одновременных запросах в коротких прогонах и удержал в среднем 226 tok/s за 30 минут непрерывной нагрузки без тротлинга. По дороге к этим числам я нашёл воспроизводимый провал пропускной способности, который сначала выглядел свойством одной модели, увидел, как спекулятивный декодинг на моём стеке превращается из ускорителя в налог, и трижды чуть не опубликовал неверные выводы. Каждый раз спасали контрольные замеры, все три истории здесь, в статье.
Харнессы, конфиги, полные таблицы, значения по каждому ключевому и финальному прогону, поминутные ряды выносливости и телеметрия лежат в открытом репозитории. Логи отдельных запросов харнесс не вёл, поэтому пересчитать можно всё до уровня прогона, но не глубже. Числа сняты на одном конкретном стенде; что из этого переносится на другие стеки, а что нет, оговорено по ходу текста.
Читать далееУважаемые читатели, в этой статье я хочу рассказать о проверке обещанного регресса LINQ в .NET 10 — и представить свои выводы.
В dotnet/runtime с лета висит issue #117717: после перехода на .NET 10 метод с First(предикат) просел к девятке — у автора issue на Intel 13-го поколения до 19%, у Энди Эйерса из JIT-команды на Zen 4 порядка 10%. Причину команда назвала сама: связка PGO и инлайнинга, делегат предиката перестал инлайниться.
Решение тоже озвучили: в десятке чинить не будем — сломаем другое, переносим в .NET 11. Был частичный фикс (PR #117816), после которого issue переоткрыли как #119425. Десятка при этом LTS, и в комментах закономерный вопрос: обновляться на десятку или ждать одиннадцатую.
Читать далееЯ часто ловлю тонкий, почти на грани слышимости писк, когда работаю с LLM на своем MacBook Pro. Иногда — когда вроде бы вообще ничего не запускал. Довольно долго подозревал, что профдеформация переросла в галлюцинацию.
Оказалось — нет, это физика.
Читать далееНаучная фантастика или…? Давайте разбираться.
Для начала небольшая теория, необходимая для погружения в тему, для тех кто далек от физики, а тем более от квантовой. Не волнуйтесь, объяснения не содержат формул и максимально просты. Это необходимо для понимания, почему квантовые состояния такие хрупкие и почему все с ними так носятся.
Вы, скорее всего, уже не раз слышали про эффект наблюдателя.
Неудачное название породило целую эзотерическую религию. Но явление, скрывающееся за этим названием, гораздо банальнее: мир электронов, протонов и всей мелкой братии настолько мал, что любые наши измерения вносят хаос в систему, которую мы хотим измерить, что сильно затрудняет понимание состояния системы, потому что мы не может в нее заглянуть, “не разбросав все по комнате ногами”.
Частицы даже никак не подсветить, потому что сам фотон, вылетающий из источника света, соизмерим с остальными частицами и вполне может на равных бодаться с электроном и просто изменить его скорость или энергию. Подсветив электрон, чтобы понять, где он находится, мы тем самым меняем его состояние. Все равно, что пытаться поймать сачком мыльный пузырь.
В этом и заключается эффект наблюдателя, который правильнее было бы назвать эффектом измерения.
Любые мелкие воздействия с точки зрения макромира ужасно грубые на уровне микромира, поэтому все квантовые эффекты так чувствительны к любым внешним воздействиям. Именно поэтому современные кубиты содержатся практически при абсолютном нуле, при котором, как мы знаем со школы, - прекращается хаотичное движение частиц и они не сбивают хрупкие квантовые состояния друг друга (не лопают наш мыльный пузырь неосторожным движением).
А теперь к теме.
Разобраться2003-й год. В мире 8 000 человек болеют атипичной пневмонией, США начинают военную операцию в Ираке, Санкт-Петербург празднует трёхсотлетие города, а в игровой индустрии громкое событие: торжественно банкротится студия 3DO, которая владела правами на культовую серию Heroes of Might and Magic. New World Computing — те самые волшебники, что подарили миру первые четыре части, — закрываются. Миллионы фанатов по всему миру одновременно хватаются за сердце и тянутся за валерьянкой. Кажется, всё — занавес, можно расходиться, всего хорошего и спасибо за рыбу.
Но тут на сцену выходит французский гигант Ubisoft и за УМОПОМРАЧИТЕЛЬНУЮ сумму в 1,3 миллиона долларов покупает права на франшизу. По меркам игровой индустрии это, конечно же, копейки, так что юбикам сильно повезло урвать такой шикарный лот. И вот тут начинается самое интересное: кому, собственно, поручить делать новых «Героев»? Ответ, как говорится, убил. Французы посмотрели на восток и выбрали московскую студию Nival Interactive.
Читать далееДля инвесторов «Уоррен» может означать только председателя Berkshire Hathaway; «Джек» — основателя Vanguard Group. А до своей смерти в 2009 году «Питер» означало Питера Бернстайна: экономиста, историка, мыслителя в области инвестиций и одного из самых мудрых и философских людей на Уолл-стрит. Питер видел всё, встречался со всеми, изучал всё и многие даже из великих уверены, что он разобрался в риске лучше всех.
Его биография впечатляет: однокурсник Кеннеди в Гарварде, офицер разведки, исследователь ФРС, профессор экономики, управляющий активами, историк, специалист по риску и автор книг.
Было девять утра четверга, и Мартин Пикард наблюдал, как его кровь утекает по шлангу капельницы из руки в отверстие в стене. Он сидел на односпальной кровати в тесной комнатке, расположенной на расстоянии меньше ширины плеча от раковины из нержавеющей стали и фарфорового унитаза. Каждый час в течение 24 часов, в том числе во время сна, медсестра отводила кровь из его руки исследовательской группе, работавшей в соседней комнате; в каждый момент времени, если он был бодр, он также сдавал образец слюны и заполнял анкету о своём настроении.
Комната напоминала камеру или, возможно, очень тесный гостиничный номер, но на самом деле это была камера для исследования метаболизма — одна из всего лишь 50 подобных в мире. Её очевидно небольшой размер не позволял Пикарду тратить лишнюю энергию сверх абсолютного минимума, необходимого для поддержания жизни. Дневной сон был запрещён, как и приём любой пищи, кроме строго расписанных приёмов пищи, рассчитанных с учётом его калорийных потребностей. Ложиться спать нужно было ровно в 23:00. Перед тем как погасить свет, Пикард надевал устройство для мониторинга жизненных показателей и мозговой активности во время сна.
Хотя занятий в комнате было не так уж много — в основном он сидел в постели, читая или работая за ноутбуком, — в тот июльский день 2021 года Пикард испытывал прежде всего волнение. Дело в том, что он стал первым добровольцем в эксперименте, проводимом Лабораторией митохондриальной психобиологии, которую он возглавляет в Медицинском центре имени Ирвинга при Колумбийском университете в Нью-Йорке. Изучая, сколько энергии требуется для поддержания базовых жизненных функций, его лаборатория стремится исследовать фактор, влияющий на здоровье и болезни, начиная с молекулярного уровня и заканчивая сознанием (который, по его мнению, другие упускают из виду): митохондрии.
Читать далееУже давно весьма огорчаюсь тем, что в моём любимом Gpick отвалилась пипетка с тех пор, как KDE со своей Плазмой прочно переехали на Wayland. Если раньше я ещё мирился с GTK-шностью Gpick (про KDE, плазму и вяленого — поручик, молчать!), то теперь совсем взгрустнулось…
Читать далееИИ сегодня умеет рисовать персонажей и делать для них анимации. Но это только половина задачи. Их ещё нужно встроить в игру: импортировать, связать с игровой логикой, привязать экипировку, разместить в мире и доставить игрокам без обновления клиента. В этой части показываю, как этот конвейер работает у меня.
Читать далееПрактически любой лабораторный блок питания привязан к розетке. Это не проблема, пока работа ведётся за рабочим столом. Но как только возникает необходимость выехать на объект, протестировать автомобильную электронику или запитать устройство вдали от сети, обычный лабораторный блок питания превращается в бесполезную коробку.
Мне захотелось объединить сразу несколько устройств в одном корпусе:
Читать далееПервая из серии статей о самых понравившихся мне курсах Стэнфорда, где я отучился пять лет на факультете компьютерных наук.
Рассматриваем курс MS&E 280: Organizations and Structures с Кэтлин Эйзенхардт.
Читать далееПривет, Хабр.
В своё время я обнаружил в хабе «Научпоп» интересную нишу, статьи из которой вам нравится читать. Речь о статьях, которые рассматривают экзотические агрегатные состояния вещества. Я впервые попробовал зайти в неё со статьями «Колыбель для страпельки» и «Чёрное сердце Нептуна, или как был открыт суперионный лёд». Ещё одно важное экзотическое агрегатное состояние – это конденсат Бозе-Эйнштейна, обладающий уникальным набором свойств (кстати, уважаемый @it_history публиковал на Хабре переводной материал «Человек, подчинивший себе половину частиц во Вселенной», посвящённый великому Шатьендранату Бозе).
Экзотические агрегатные состояния возникают в условиях, когда температура, давление и концентрация вещества сильно отличаются от значений, обычных у поверхности Земли. В этой статье мы разберём ещё одно, несомненно, реальное агрегатное состояние вещества — кварк-глюонную плазму, а также затронем физические свойства условно гипотетических, но неплохо описанных на кончике пера «глюболлов» — клубочков, не содержащих кварков, а состоящих из чистых глюонов.
Читать далееРанее я часто рассказывал об особенностях видеокарт из 90-х. В рамках прошлых статей, мы успели с вами рассмотреть внутреннюю архитектуру 3dfx Voodoo, узнать о кастомном графическом API в S3 ViRGE, и даже написать свою собственную небольшую демку под видеокарты из 90-х. Вместо рассказов о GeForce 256 и ATi 3D Rage, в сегодняшнем материале мне хотелось бы поговорить о видеокарте, которая обогнала своё время — и при этом всё равно провалилась. Как вы уже поняли — речь пойдет об Intel i740.
Каким был первый GPU от Intel, на что он был способен и в чём заключается его главная тайна — читайте в сегодняшней статье!
Читать далееУважаемые читатели, в этой статье я хочу рассказать о том, что происходит внутри values.Sum() в современном .NET — там нашлись векторные инструкции, контроль переполнения и список процессоров, которым рантайм намеренно ограничивает ширину вектора, — и представить свои выводы.
В прошлых статьях серии самописные циклы уже проигрывали BCL в поиске по строке, JIT сам выкидывал проверки границ, а foreach прятал аллокации. Тут случай интереснее: values.Sum() — это LINQ, который при оптимизации первым делом меняют на цикл.
Читать далееНесколько лет у меня лежал недорогой китайский видеодомофон Doorbell M8, работающий через приложение Ulooka. Покупал я его на одном из маркетплейсов примерно за 400 рублей — скорее из любопытства, чем из реальной необходимости.
Читать далееПривет, Хабр! Меня попросили создать педаль гитарного перегруза, внешний вид и звучание которой должны максимально приблизиться к легендарному японскому овердрайву Barbarossa Gargoyle, выпускаемому в очень малых количествах и продаваемому по высоким ценам.
Музыкантам надо помогать, поскольку они делают нашу жизнь лучше и интереснее. Поэтому мне пришлось отложить в сторону другие дела и заняться новым проектом.
Под катом вас ждёт видео со звучанием, схема моей версии эффекта и подробное описание того, как она работает.
Потребовалось изменить номиналы 3 деталейСовременные процессоры, графические ускорители и ИИ-чипы становятся все мощнее, но вместе с производительностью растет и нагрев. Причем проблема не только в том, что тепла много. На одном участке кристалла температура может быть значительно выше, чем на соседнем, а в многослойных чипах отвести тепло от внутренних компонентов становится все сложнее.
Исследователи из Университета Осаки предложили необычный способ частично решить эту проблему. Они создали материал, который позволяет направлять тепловое излучение в нужную сторону и одновременно не требует постоянного питания для сохранения выбранного режима. По сути, это программируемый элемент управления теплом: достаточно один раз задать нужное состояние, после чего оно сохраняется до следующего изменения. Добиться такого эффекта удалось, объединив магнитооптический материал с решеткой на основе вещества с фазовым переходом. Как это работает?
Читать дальшеБез громких обещаний разбираю, что происходит с фотографиями после загрузки, где размещен основной серверный контур, как работают две независимые ИИ-проверки публичных изображений, бесплатные жалобы и звонки без раскрытия номера. Заодно отмечаю два места, где сервису не хватает прозрачности.
Читать разборЯ продуктовый дизайнер. Недавно закончил эксперимент, в котором ни разу не открыл Фигму: сайт-портфолио, где вебкамера работает основным вводом. Страница собирает отражение посетителя из частиц, всё управление через жесты. Код писал Claude Code. За мной замысел, дизайн-решения и полевые тесты.
Потрогать: https://dimbo-design.github.io/dimbo_heavy-cv (десктоп, вебкамера)
Код и история решений: https://github.com/dimbo-design/dimbo_heavy-cv
Эта статья про формат работы: что происходит с дизайном, когда исполнитель ИИ, макета нет, а ревьюить код ты не можешь. Формат рабочий. Главный риск в нём не «ИИ нарисует плохо», а незаметно остаться в шаблонных решениях, которые он выдаёт всем подряд. Про это и поговорим.
Читать далееДанная статья является первой из цикла о социальном освобождении посредством искусственного интеллекта. В ней уделено внимание решению психофизиологической проблемы. То есть вопросу о том, каким образом материальные структуры могут порождать идеальные процессы. Или иначе — как нервно-мозговые процессы могут порождать субъективные переживания. В какой-то мере я уже освещал то, о чем в ней говорится в статье об эффективном методе социального освобождения и статье о нейропсихозе. Однако в них это решение было дано кратко. В этой статье оно дано подробно.
Приведенное здесь решение проблемы «тело-разум», опирается на наработки Юрия Семенова, изложенные им в семитомнике «Введение в науку философии». При разработке этого решения, он, в свою очередь, опирался главным образом на работы Павлова, Красногорского, Анохина, Ухтомского, Выготского, Дубровского и Ильенкова, а также иных исследователей. Основная проблема этих авторов, в том, что буквально каждый из них, сумев найти те или иные верные решения частных моментов проблемы, почти всегда абсолютизировал их. Из-за этого никому из них не удалось решить проблему полноценно. Семенов, сумел непротиворечиво соединить их открытия и выводы, вскрыв и преодолев ошибки. В результате родилось решение, которое и представлено в данной статье. Также я постарался заострить внимание на тех нюансах, которые у Семенова недостаточно пояснены. Отличается и применяемая терминология. Я старался избегать специальных терминов, кроме того некоторые понятия употребляются в иных значениях. Возможно в таком виде изложение облегчит понимание.
Читать далее