Про нейросети...
Давно сюда ничего не писал. Последние месяцы почти всё свободное время я уделяю ковырянию в нейросетях. Про них сейчас пишут на каждом углу, и на каждом виртуальном заборе в интернете кто-то уже нацарапал три буквы - “LLM”. А чем-то интересным или уникальным я поделиться не могу за неимением такового.
Хотя есть кое-что. Оказывается, существуют майнерские GPU, которые на барахолках продаются чуть ли не на развес. В теории - это древние убитые карты которые уже ничего не могут. Но на практике оказалось что они довольно неплохи как входной билет в локальный запуск LLM - чтобы понять надо ли оно мне вообще не тратя большие суммы. Я приобрёл пару таких GPU: P102-100 и CMP 50HX (она поновее, но, как оказалось, хуже) по 10Гб VRAM каждая. Чтобы вместить три (вместе с уже имеющейся RTX 5060 16Gb) карты в корпус - пришлось немного поработать дрелью и метчиком, и добавить дополнительный слот с помощью адаптера M.2 - PCIe.
Что по результату: получившая конфигурация запускает с удовлетворительной скоростью Qwen 3.6 и Gemma 4 - лучшие сейчас нейросети из небольших. Это, конечно, не Codex или Claude, но для типовых простых задач кодинга они вполне пригодны.
Прямо сейчас я с помощью Qwen полностью переделываю свой сайт err200.net. Вёрсткой я никогда не любил заниматься, и без нейронок скорее бы его удалил чем переделал. Но когда можно написать “Сделай мне сайт на Hugo”, “Сделай переключатель светлой/тёмной темы”, “Импортируй записи из моего блога в Telegram” или даже “Что-то тут криво выглядит, почини” - а затем просто наблюдать как нейронка сражается с километровыми манускриптами CSS и JS - то почему бы и нет :)