#быдлокодинг

L29Ah<a href="https://qoto.org/tags/log" class="mention hashtag" rel="nofollow noopener" target="_blank">#log</a> <a href="https://qoto.org/tags/%D0%B1%D1%8B%D0%B4%D0%BB%D0%BE%D0%BA%D0%BE%D0%B4%D0%B8%D0%BD%D0%B3" class="mention hashtag" rel="nofollow noopener" target="_blank">#быдлокодинг</a> <a href="https://qoto.org/tags/haskell" class="mention hashtag" rel="nofollow noopener" target="_blank">#haskell</a> <a href="https://qoto.org/tags/llm" class="mention hashtag" rel="nofollow noopener" target="_blank">#llm</a> <a href="https://qoto.org/tags/llamacall" class="mention hashtag" rel="nofollow noopener" target="_blank">#llamacall</a> <a href="https://mastodon.ml/@rf" class="u-url mention" rel="nofollow noopener" target="_blank">@rf</a> Набыдлокодил простенький CLI для llama-server на Haskell: <a href="https://github.com/l29ah/llama-cpp-haskell" rel="nofollow noopener" target="_blank">https://github.com/l29ah/llama-cpp-haskell</a> Позволяет использовать LLM в скриптах без необходимости каждый раз её вгружать в память видюхи, как с llama-cli, и без страшного не поддающегося аудиту блоата aichat с форками. Не знаю пока буду ли tool calling в ближайшем будущем прикручивать: эксперименты с openhands показывают что код проще самому написать как надо, чем итеративно проверять и описывать нейронке что она делает не так, а не-программерских юзкейсов для него у меня пока нету.

L29Ah<a href="https://qoto.org/tags/youtube" class="mention hashtag" rel="nofollow noopener" target="_blank">#youtube</a> <a href="https://qoto.org/tags/%D0%B1%D1%8B%D0%B4%D0%BB%D0%BE%D0%BA%D0%BE%D0%B4%D0%B8%D0%BD%D0%B3" class="mention hashtag" rel="nofollow noopener" target="_blank">#быдлокодинг</a> <a href="https://qoto.org/tags/llm" class="mention hashtag" rel="nofollow noopener" target="_blank">#llm</a> <a href="https://mastodon.ml/@rf" class="u-url mention" rel="nofollow noopener" target="_blank">@rf</a> Завёл на Framework 13 LLM «Qwen3 30B A3B» посредством llama.cpp. Очень хорошо работает, спасибо MoE. Q4_K_M выдаёт 12 токенов в секунду на iGPU через Vulkan. Наговнякал саммаризатор транскриптов видосов с ютуба:#!/bin/sh exec llama-cli -m ~llama/llama.cpp/models/Qwen3-30B-A3B/Qwen3-30B-A3B.i1-Q4_K_M.gguf -n -1 -t 6 --ctx-size 32768 -ngl 666 --device Vulkan0 --top-p 0.95 --top-k 20 --min-p 0 --temp 0.6 -sys 'Summarize the provided video transcript in a few sentences.' --single-turn --prompt "$(yt-text "$@")" --no-display-prompt 2> /dev/null | sed -ne '0,/<\/think>/d' -e pВозможно думалку вообще стоит отключить, поскольку думать там особо нечего. Также попробовал Qwen3 0.6B, с саммаризацией справляется плохо, и вообще не очень понятно, на что такое годится, но зато 50+ токенов в секунду строчит.

L29Ah<a href="https://qoto.org/tags/%D0%B1%D1%8B%D0%B4%D0%BB%D0%BE%D0%BA%D0%BE%D0%B4%D0%B8%D0%BD%D0%B3" class="mention hashtag" rel="nofollow noopener" target="_blank">#быдлокодинг</a> <a href="https://qoto.org/tags/youtube" class="mention hashtag" rel="nofollow noopener" target="_blank">#youtube</a> <a href="https://mastodon.ml/@rf" class="u-url mention" rel="nofollow noopener" target="_blank">@rf</a> <a href="https://lor.sh/@ru" class="u-url mention" rel="nofollow noopener" target="_blank">@ru</a> Наговнякал шелл-скрипт чтобы смотреть видосы с ютуба с пиздежом в виде текста: <a href="https://github.com/l29ah/w3crapcli/blob/master/youtube.com/youtube-text" rel="nofollow noopener" target="_blank">https://github.com/l29ah/w3crapcli/blob/master/youtube.com/youtube-text</a>

Nylige søk

Alternativer for søk

Administrert av:

Serverstatistikk:

#быдлокодинг