Kurgan-Telecom Ru | Информационные технологии

Как я построил систему мониторинга LLM-приложений и научил AI анализировать собственные ошибки

AI-ассистенты в IDE стали незаменимыми помощниками разработчиков, но остаются чёрными ящиками. Мы не видим что они делают "под капотом", сколько это стоит и где теряется время. В статье покажу как построить системуobservability для AI-агентов: от Cursor IDE до production, с AI-анализом трейсов и открытым исходным кодом.

PyTorch — популярный фреймворк для машинного обучения — обновился до версии 2.10.

Cреди основных новшеств можно отметить:

• Поддержка AMD ROCm:

  • Введена поддержка сгруппированной GEMM.
  • Улучшена поддержка ROCm для Windows.
  • Добавлены новые модели GPU GFX1150/GFX1151 (серия AI 300) в списки поддержки hipblaslt.
  • Расширены функциональные возможности, такие как поддержка scaled_mm v2 и AOTriton scaled_dot_product_attention.

• Поддержка GPU Intel:

  • Внедрены новые API Torch XPU для Intel.
  • Поддержка дополнительных операторов ATen.
  • Оптимизация производительности для GPU Intel.

• Поддержка NVIDIA CUDA:

  • Расширенные возможности для написания шаблонных ядер.
  • Улучшена поддержка CUDA 13.

• Поддержка Python 3.14 для torch.compile(), а также экспериментальная поддержка сборки Python 3.14 без глобальной блокировки интерпретатора (free-threaded).

• Снижение накладных расходов на запуск ядер благодаря горизонтальному слиянию комбо-ядер в Torch Inductor.

Полный список изменений доступен на github.

Готовые варианты, скомпилированные для разных GPU, ОС и языков (Python/C++/Java) указаны на сайте Pytorch

 machine learning, python, pytorch

Привет, Хабр! На связи команда разработки ChameleonLab.

Наш проект — программный комплекс для стеганографии и защиты данных — перешагнул отметку в 300 000 скачиваний (суммарно для Windows и macOS). Такая база пользователей кардинально меняет подход к разработке. Мы больше не можем позволить себе «гаражные» методы, которые ломают структуру файлов или заставляют плееры вести себя непредсказуемо.

Нас часто спрашивают, почему в публичной версии до сих пор нет кнопки «Спрятать в музыку». Ответ прост: мы не хотим выпускать сырой функционал.
Последние два месяца мы провели в закрытом R&D, пытаясь решить одну задачу: как спрятать файл в MP3 так, чтобы ни один плеер и ни один спектроанализатор этого не заметил?