Дорогой читатель!
Сегодня мы разберёмся, как устроены .deb-пакеты в Linux, и убедимся, что никакой магии в них нет. Превратим небольшой C++ - сервер в устанавливаемый пакет, добавим конфиг и systemd-юнит, разберёмся с зависимостями и обновлениями. Затем автоматизируем сборку и опубликуем пакет в своём APT-репозитории - чтобы устанавливать его одной командой.
Интерактивный учебник - Открыть учебник
Материалы статьи - Код и примеры на GitHub
А ловко ты это придумал....В моём детстве у родителей на кухне была тяжеленная чёрная сковородка (скорее всего, чугунная). У неё была съёмная ручка, и на ней отлично получалось жарить семечки. А вот яичница к ней прилипала похлеще пальцев к суперклею. Но долгое время все жили в парадигме «по-другому не бывает».
Оказалось, ещё как бывает! Примерно в 1995 году у нас появилась первая тефлоновая сковорода, и процесс готовки просто преобразился. И не только у нас. Тефлон был настоящим культурным феноменом: о нём сочиняли анекдоты, о нём ходили легенды, а людей, с которых всё как с гуся вода, на какое-то время стали называть тефлоновыми. Мол, ничего к ним не прилипает.
Со временем страсти поутихли, тефлон вошёл в нашу жизнь и занял там важное место, а на кухню даже частично вернулись чугунные сковородки. Если говорить совсем честно, то прижарить яичницу можно и к тефлоновой сковороде, просто это сложнее.
Читать далееУ меня есть друзья, которые присылают голосовые на три минуты. Содержание обычно умещается в одно предложение, но чтобы его достать, нужно прослушать «короче, слушай, тут такое дело…». Голосовое не пробежишь глазами, на созвоне его не включишь, а ночью рядом со спящим человеком тем более.
В какой-то момент я решил ответить им так же неудобно. Получился pleasejusttext.me: пишешь ответ текстом, а на выходе MP4, где мультяшные руки не спеша набирают его на телефоне. Меня заставили слушать, пусть теперь смотрят.
Как это устроеноСправка по Common Params (общие параметры) llama.cpp.
Важно: это не мануал по работе с llama.cpp. Здесь описаны основные команды и параметры этой утилиты, как они работают, для чего нужны, возможные значения и примеры использования. Рекомендуется к прочтению и использованию тем, кто работает с локальными LLM.
Итак, llama.cpp: Common Params.
Параметры этой категории в основном полностью пересекаются между всеми утилитами: llama-cli, llama-completion, llama-server. Там где есть отличия, будут соответствующие комментарии.
Для каждого параметра сначала указывается его название, шаблон и краткое описание из штатной справки llama.cpp. Затем следует более развернутый комментарий.
Читать далее →С нейронками мы можем быстрее выполнять задачи, глубже разбираться в проблемах и находить решения, которые раньше упустили бы. А можем перекладывать недоделанную работу на коллег, бесконечно улучшать результат и проводить весь день в режиме непрерывного принятия решений.
Как всё это влияет на эффективность команды? Почему с ИИ некоторые задачи стали занимать больше времени, а сотрудники — сильнее уставать? Чего теперь вправе ожидать руководитель от команды и как оценивать вклад человека, если значительную часть работы выполнила нейронка?
Разбираемся на примерах из проектной работы, собственном опыте и результатах исследований.
Читать далееВсем привет, меня зовут Павел Соколов, я главный редактор журнала Онлайн Патент. А также иногда пишу фикшн. И сегодня хочу написать про наболевшее: использовании ИИ при создании художественных (и не очень) текстов.
Недавно в литтусовке произошло сразу несколько скандалов, связанных с ИИ. Жюри Гонкуровской премии исключило из шорт-листа роман автора, заподозренного в генерации текста. У нас жюри Волошинского конкурса лишило звания лауреата, заподозренного в том же. До этого аналогичные скандалы происходили с разной степенью литрезонансовости в самых разных странах. Например, лауреатка Премии Акутагавы в Японии Кудан Риэ призналась уже после вручения высокой награды, что применяла ChatGPT.
Издательства, жюри конкурсов, толстые журналы (и, кстати, до недавнего времени Хабр) захлебываются от откровенного нейрослопа. Самиздат при этом, правда, расцветает. Промт-инженеры первого ранга генерируют десятки и сотни книг в год. Тот же Amazon буквально завален подобной продукцией. Кто-то даже умудряется на этом зарабатывать.
При этом сами издательства вовсю используют ИИ при переводе, редактуре, корректуре, написании рецензий, обзоров, создании обложек, иллюстраций, макетов и т.д. Бывают довольно жесткие кейсы, когда автор честно написал всю книгу сам, а возвращают ему рукопись, принятую к печати, уже с нашими любимыми артефактами. И даже самый примитивный ИИ-чекер определяет его текст как сгенерированный. И без вины виноватый получает по шее от хейтеров. Хотя это корректор или младший редактор всего лишь решил сэкономить время. Сэкономили, ага.
Читать далееСправочник по основным командам и параметрам llama.cpp. Затрагиваются основные утилиты для инференса: llama-cli, llama-completion, llama-server. Здесь будут представлены все команды и параметры которые можно получить, например, вызовом: “llama-cli --help” или “llama-server --help”, в том же порядке. Я просто взял и прошелся по всем аргументам и попытался составить короткие, но надеюсь, понятные комментарии к каждому из них.
Далеко не все возможности llama.cpp я использую в работе, о многих имею слабое (возможно среднее) представление, поэтому большую часть параметров пришлось “долбить” с ИИ. Но это не было простое копи-паст ответов LLM. Я пытался понять работу каждого параметра - как он устроен, на что влияет, откуда растут корни и тд, и только после того как более-менее (скорее более) становилось понятно, составлял короткие комментарии своими словами, как понял сам. Также приходилось смотреть исходники, чтобы понять принцип работы некоторых особо непонятных параметров.
Читать далее →В мае на ёPRSTCON мы договорились собрать инструменты кибербезопасности на базе ИИ и средства защиты самих моделей и агентов. Неожиданно идея “стрельнула”, в репозиторий пришёл 231 запрос на изменение (PR) от 209 авторов. Пришлось завести список кандидатов, разбираться, какая часть каждого продукта действительно открыта, и отвечать на предложения запустить чужие проверки в нашем GitHub.
За полгода поддержки awesome-ai-security-tools накопились мейнтейнерские истории и данные о том, какие инструменты появляются и растут. Спешу поделиться.
Читать далееTesla начала приглашать клиентов в США оформить предзаказ на двухместный автомобиль Cybercab для личного пользования. Ездить на Cybercab пока можно только в нескольких городах Техаса и только в зоне действия беспилотного такси Tesla Robotaxi. Для использования в других регионах у компании пока нет разрешений государственного регулятора.
Читать далееРозыгрыш — самый дешёвый способ расшевелить Telegram-канал. Платить приходится только за приз, запуск занимает минут десять. А для всех стандартных проблем — убедиться, что участники действительно подписаны, отсечь накрутку и подвести итоги так, чтобы в комментариях не спрашивали, не достался ли приз «своему» — уже есть готовые.
Читать далееУправление по защите персональных данных Италии (Garante per la protezione dei dati personali, GPDP) оштрафовало Meta* на €805 млн за доступ к фотографиям пользователей Android через приложение социальной сети Facebook**. Компания должным образом не проинформировала около 20 млн пользователей смартфонов о том, что она получила доступ к их фотографиям и видео через одну из функций приложения, выяснил регулятор.
Читать далееДоживут ли маркетплейсы до 2029 года, если покупать на них начнёт не человек? Компании доживут, компании вообще живучи. А вот витрина, на которой они пятнадцать лет делали деньги, вряд ли: маркетплейс всё это время торговал не товаром, а местом перед глазами усталого человека, и когда выбирает существо без глаз, место перестаёт быть товаром.
Осенью спор о будущем торговли переехал из конференц-залов в суды и пресс-релизы. 20 сентября Amazon заблокировал оформление заказов через агента Meta* Muse, а на следующий день Shopify объявил, что тому же Muse можно будет платить через Shop Pay во всех магазинах платформы, правда, без даты запуска. За сутки две крупнейшие платформы разошлись в главном вопросе эпохи: кто встанет между человеком и товаром. Россия тем временем вписала «агентную экономику» в проект Национальной стратегии развития цифровых платформ до 2036 года, так что стратегия у нас теперь тоже есть.
Задуматься об этом меня заставило интервью Александра Аузана на RTVI, вышедшее 14 ноября: по описанию выпуска, оно стало последним в должности декана экономического факультета МГУ, которую он занимал с 2012 года и которую 1 декабря передаёт Александру Мальцеву, оставаясь президентом факультета. Аузан говорит, что платформенная модель, где человек сам ищет товар на маркетплейсе, скоро уступит место агентной: выбор и покупку поручат ИИ-агентам, а те действуют рационально и к брендам не привязаны, поэтому бренд как инструмент маркетинга обесценится. Пересказываю по тезисам выпуска, расшифровки у меня нет.
Читать далееЧто объединяет головную боль, тошноту, яркие пятна и чувство слабости? Определенная часть читателей сразу поймет, о чем идет речь - остальных приглашаю на увлекательный разговор об одной крайне многогранной болезни.
Читать далееПредставим неофициальную восьмую версию «Матрицы». Архитектор учел прошлые ошибки: теперь Нео должен чинить машины, а не воевать с ними. Поэтому вместо работы программистом ему достался ремонт бытовой техники в небольшом городе.
Нео запускает рекламу и получает заказ. Приезжает, ремонтирует стиральную машину, проверяет ее работу. Клиент доволен, мастер получает оплату и уезжает.
Через несколько месяцев приходит заявка с другой рекламной площадки. Нео берет инструменты и отправляется по адресу. Подъезд кажется знакомым. Дверь тоже.
– Вы же нам стиральную машину ремонтировали! Теперь посудомойка сломалась.
– А почему мне сразу не позвонили?
– Номер не сохранили. Снова стали искать мастера и нашли ваше объявление.
У Нео дежавю. Он второй раз заплатил за привлечение человека, который уже был доволен его работой.
Читать далееВ обзоре Mudi 7 я разбирал этот карманный роутер: начинку, экран, батарею и то, что в нём не понравилось. В списке недостатков мельком написал: голосового тракта у модема нет, сделать звонилку без плясок не получится. Про «без плясок» я не ошибся.
Внутри роутера стоит SIM-карта. У неё есть номер, на этот номер можно позвонить. Но пользоваться им как обычной телефонной линией роутер из коробки не умеет. Интернет раздаёт, SMS показывает, а для разговора — переставляй симку в телефон.
Мне захотелось иначе: SIM остаётся в Mudi, а звонки приходят на телефоны в его Wi-Fi. С них же можно набрать обычный номер и позвонить через эту SIM. Без отдельного сервера и без покупки ещё одного GSM-шлюза.
В итоге получился MudiVoLTE — пакет для OpenWrt, который делает именно это. На телефонах работает Linphone — бесплатный SIP-клиент для Android и iPhone, на роутере — мой демон, со стороны оператора это VoLTE-абонент. Проверено на Mudi 7 с реальной SIM европейского оператора, Android и iPhone, со звуком в обе стороны. Через Tailscale звонить можно и вне дома. Ниже — рабочая архитектура и путь звонка: от SIM и сети оператора до обычного SIP-клиента.
Читать далееДавненько я ничего не писал, и на это есть причина: в последнее время я почти полностью погрузился в разработку.
Но учитывая, что опыта в программировании у меня нет и вообще я на 100% гуманитарий, всю работу веду с помощью вайбкодинга.
Сегодня расскажу об одном из своих проектов - FirmaScanBot.
Это Telegram-бот, который по ИНН собирает информацию о компании из доступных интернет-источников, сопоставляет её и формирует деловое досье. Проект отчасти вдохновлён некогда популярным Telegram-ботом под названием «Глаз Бога», с той лишь особенностью, что моя цель - сбор и анализ информации о бизнесе:
Читать далееСуществует много различных проектов и вариантов по ускорению генерации AI. Но в большинстве случаев они используют тюнинг модели, а так же использование внешней видео карты. Но можно ли ускорить генерацию модели, если у нас есть только процессор и ОЗУ?
Для тестирования использовалась модель Qwen3.8-Flash-Next Gyro GGUF
В данной оптимизации помог Opus, который несколько суток гонял тесты на моём железе и пытался оптимизировать код llama. К сожалению мою учётную запись заблокировали, и после верификации и апеляции, окончательно. Возможно ли такой же тюнинг и отладка с другими моделями AI?
Читать далееВ браузер Opera для iOS добавили режим экономии трафика Data Saver. В компании отмечают, что он сокращает объём данных при просмотре веб‑страниц до 80%. Система сжимает изображения и текст на серверах Opera до передачи на iPhone.
Читать далееВ StudyNinja каждая задача знает, какой навык она тренирует. Платформа была готова принимать этот навык и учитывать его везде, где нужно. А потом мы заглянули в данные и увидели, что поле с навыком пустое во всех 1782 попытках учеников на тестовом стенде.
Причин нашлось три, и каждой хватило бы одной. Запрос к графу знаний проходил через навык, но не мог вернуть его наружу. Граф отдавал пустую строку вместо честного «значения нет». А платформа искала навык не в том месте ответа, где он лежал. Когда починили все три, всплыло четвёртое звено.
Самое неприятное в другом. Ничего не падало и не ругалось. Всё, что опиралось на навыки, тихо считалось по темам и выглядело исправным.
Полный разбор с кодом и чек-листом для тех, кто строит похожие системы
Читать далееВ 2018 году Amazon и Google с разницей в две недели научили своих голосовых помощников — Alexa и Google Assistant — благодарить детей за «пожалуйста». Поводом стали жалобы родителей, чьи дети сначала привыкли командовать колонкой без вежливых слов, а потом переносили этот тон на людей. Тогда речь шла всего лишь о детской вежливости и колонке, которая может ставить таймер и рассказывать сказки. Сегодня модели пишут код, ведут переписку и ночами разговаривают с людьми, и вопрос о том, какую этику в них заложить и кто за нее и почему расплачивается, стал насущным вопросом рынка.
Этику применительно к ИИ определяют три ключевых вопроса. Первый — как должны поступать люди, которые создают модели и пользуются ими. Второй — каким правилам должна следовать сама модель, это называют машинной этикой. Третий — как обращаться с моделью, если предположить, что у нее может быть что-то вроде внутреннего мира.
Для второго вопроса есть удобная шкала. Философ Джеймс Мур, один из основателей компьютерной этики, еще в 2006 году выделил четыре ступени сложности: машина, чьи действия имеют последствия для людей; машина со встроенными правилами и запретами; машина, которая сама рассуждает о добре и зле; полный этический агент с сознанием и свободой воли. Колонка с «волшебным» словом стоит на второй ступени, потому что правило в нее встроили, а рассуждать о нем она не умеет. Сегодня компании в спорах определяют свои модели на разных ступенях, создают каждая свой этический подход и предлагают это в итоге на выбор покупателю.
Читать далее