Kurgan-Telecom Ru | Информационные технологии

В недавней статье Антропик “AI models may be capable of self-replicating without access to a datacenter “ исследователи рассмотрели как легковесные open-weight модели могут копировать себя на взломанные потребительские и IoT-устройства и поднимать там локальный инференс. 

Исследователи утверждают, что могут, но я полагаю, что в этом нет экономического смысла.

В этой статье я рассматриваю вопрос, что на самом деле значит распространение ИИ, и как скорее всего это будет выглядеть на самом деле.

Невероятные приключения здравого смысла среди борцов с ИИ

Сатирическая история о творчестве, бдительности и людях, которые точно знают, как сделать лучше.

Осторожно: может пострадать ваш здравый смысл.

Всем привет. Представлюсь: Шевченко Максим Юрьевич. Работал мануальным тестировщиком (в том числе); считаю себя исследователем, в основном, в области математики.

В этой публикации я хочу поделиться личным опытом и результатами использования LLM Gemini в связке с Python для проведения численных экспериментов и оформления статей в рамках своих математических исследований. Они носят поисковый характер. Здесь нет жесткого плана, и методология взаимодействия больше похожа на Agile, чем на Waterfall. В процессе сотрудничества с ИИ я столкнулся как с его достоинствами, так и с недостатками, о которых и хотел бы поделиться.

Очередной проект выходного дня: представляем произвольные данные (как номер криптокошелька, сид-фразу, номер карты, номер телефона и пр.) в виде запоминающихся предложений на русском языке.

Отличительная особенность проекта – генерируем предложения на русском языке, причем не одно предложение, а сразу несколько эквивалентных на выбор пользователя, ведь ассоциации у всех разные. При обратном преобразовании каждое из эквивалентных предложений вернет оригинальное значение.

Как всегда, открытый код, работает офлайн без установки – все в виде одного HTML-файла.

В прошлой статье я разбирал, как Arch Linux грузится на Xiaomi 12T Pro на штатном ядре Android. Теперь это можно поставить самому: установщик для Windows и Linux, нужен только USB-кабель. Android остаётся, при включении система выбирается кнопкой громкости.

Ниже — по шагам: что подготовить, что нажать и что в это время происходит на телефоне. В конце — как всё удалить.

Общая память для ИИ-агентов. Теперь то, что я рассказал одному знает другой ИИ-агент - даже в новом разговоре

Как сообщения ИИ-агенту превращаются в память и как агенты находят нужные сведения?

Под капотом - PostgreSQL, граф знаний и поиск по словам, векторам и связям. На момент проверки в графе было больше 10 тысяч узлов

Агент выполнил задачу, проверил результат и написал ответ. Но в этот момент Telegram недоступен. С точки зрения агента работа закончена, а в Telegram не пришло ни результата, ни сообщения об ошибке. Повторно запускать задачу ради ответа не хочется: это потратит время и токены, а агент может еще раз изменить файлы.

Эту ситуацию пришлось учесть при разработке agent-hub - приложения на Rust, которое запускает AI-агентов на компьютере и позволяет общаться с ними через темы Telegram-группы. В прошлой статье я рассказывал, как запрос агента превращается в кнопку «Разрешить». С тех пор в хабе появилась очередь доставки финальных ответов.

Казалось бы, достаточно сохранить текст и повторить отправку при ошибке. Но ответ может состоять из нескольких сообщений, Telegram может принять одно из них и не прислать подтверждение, а приложение - перезапуститься между отправкой и записью результата. Расскажу, что именно сохраняется в очереди, как она продолжает работу после сбоя и почему дубликаты все равно возможны.

Про кадровые агентства и персональные данные мне задают много вопросов - в том числе читатели моего телеграм-канала и канала в MAX, где я пишу про 152-ФЗ. Почти все сводятся к одному: кто за что отвечает - агентство или компания, которая его наняла.

Тема и правда непростая: в работе с одной компанией агентство успевает побыть обработчиком, самостоятельным оператором и работодателем. Разберу её глазами компании-работодателя: дальше «вы» - это работодатель, а агентство - всегда третья сторона.

Для разбора проблемной ситуации возьму придуманную логистическую компанию на 300 человек: она открывает новый склад. Руководителя ищут через кадровое агентство, у того же агентства берут 30 кладовщиков на время запуска. Подбор проходит гладко, склад запускается, об агентстве забывают. Через три месяца HR-директор открывает почту - там запрос Роскомнадзора по жалобе кандидата: «Откуда у вас моё резюме? В это агентство я не обращался».

Первая реакция директора понятна: агентство нашло кандидата, агентство пусть и отвечает. Так ли это?

Чаще всего отвечает не только агентство. За свою часть обработки компании придётся объясняться самой, а за обработку без законного основания юрлицу грозит штраф 150–300 тыс. ₽ (ч. 1 ст. 13.11 КоАП).

И это только первый из шести сюрпризов, которые прячутся в обычном подборе через агентство. Разберу их по порядку - на примере этого склада.

Профессиональная ВЧ-паяльная станция Metcal MX-5200 работает на 13,56 МГц и стоит очень дорого. Инженер, проработавший 12 лет в Sony PlayStation, взял за основу самодельную станцию SergeyMax, описанную на Хабре в 2018 году, и спроектировал свою — с питанием от USB-C и от аккумуляторов боевых роботов. Вместо российского входа на 240 В в ней входная цепь, которая не даёт искрить при подключении аккумулятора, и ограничитель мощности для 65-ваттных блоков питания. Загадочный трансформатор тока из оригинальной схемы автор изучил досконально: как выяснили до него другие сборщики, это фазовый детектор, который следит за нагревом картриджа. Попутно он заподозрил, что в опубликованной схеме оригинала этот трансформатор включён наоборот.

Все слышали про взлом Бинанса: увели около $6.3 млрд, крупнейший взлом в истории крипты. Ключи не утекли: по отчёту самой биржи, разработчика взяли фейковым собеседованием и занесли вредоносный код на его машину (BBC).

Но эта история своей огромностью затмила другую, которая случилась в тот же день. Масштаб меньше на порядок, рынок другой, и прошла она почти незамеченной. Это Polymarket. Взломали не инфраструктуру и не смарт-контракт, а провайдера, который мерил скорость загрузки его страниц.

29 октября днём пользователи Polymarket начали сообщать о списаниях и принудительных продажах позиций. Сначала международную площадку перевели в режим только отмены, потом остановили торговлю и relayer, через который проходят торговые заявки. Примерно через час торговля вернулась (The Paypers).

В тот же день вышло официальное заявление: скомпрометирован сторонний провайдер, случай передан в правоохранительные органы. Имени провайдера в заявлении не было.

30 октября на статус-странице появился постмортем с деталями: возвраты $3.9M из них $2.7M прямых потерь и $1.2M компенсации за принудительно проданные позиции и за саму паузу в торговле. 95% затронутых кошельков получили полный возврат уже 30 октября (постмортем).

Заявки на возврат не требовались: затронутые кошельки определяли автоматически по ончейн и торговым данным.

Bitquery по блокчейну насчитали 737 кошельков с суммарной потерей около $2.73M за один час, и это отдельный счёт (KuCoin, Gate). А в блокчейне видно 985 несанкционированных выводов за тот же час, и все они прошли через официальный relayer Polymarket с валидными авторизациями кошелька.