{"id":15,"date":"2025-11-19T09:16:22","date_gmt":"2025-11-19T06:16:22","guid":{"rendered":"https:\/\/gawker.ru\/?p=15"},"modified":"2025-11-19T09:16:22","modified_gmt":"2025-11-19T06:16:22","slug":"%d1%83%d1%81%d1%82%d0%b0%d0%bd%d0%be%d0%b2%d0%ba%d0%b0-llama-cpp-%d0%bd%d0%b0-ubuntu","status":"publish","type":"post","link":"https:\/\/gawker.ru\/?p=15","title":{"rendered":"\u0423\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0430 llama.cpp \u043d\u0430 Ubuntu"},"content":{"rendered":"\n

\u0421\u043a\u0440\u0438\u043f\u0442 \u0430\u0432\u0442\u043e\u0443\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0438 llama.cpp \u043d\u0430 ubuntu
<\/p>\n\n\n\n

<code><\/h1>\n\n\n\n

!\/usr\/bin\/env bash<\/p>\n\n\n\n

set -euo pipefail<\/p>\n\n\n\n

\u041d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0438 \u043f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e<\/h3>\n\n\n\n

INSTALL_DIR=»$HOME\/llama.cpp» # \u041a\u0443\u0434\u0430 \u043a\u043b\u043e\u043d\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0439
BRANCH=»master» # \u0412\u0435\u0442\u043a\u0430 \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u044f
BACKEND=»cpu» # cpu | cuda<\/p>\n\n\n\n

\u041d\u0435\u0431\u043e\u043b\u044c\u0448\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0434\u043b\u044f \u0442\u0435\u0441\u0442\u0430 (\u0431\u044b\u0441\u0442\u0440\u043e \u0434\u043e\u043a\u0430\u0447\u0430\u0442\u044c \u0438 \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u0442\u044c)<\/h1>\n\n\n\n

HF_MODEL_DEFAULT=»ggml-org\/gemma-3-270m-it-GGUF»
HF_MODEL=»$HF_MODEL_DEFAULT»<\/p>\n\n\n\n

RUN_TEST=1 # 1 = \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0442\u044c \u0442\u0435\u0441\u0442, 0 = \u043d\u0435\u0442
TEST_PROMPT=»\u0422\u044b \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u0430\u044f LLM. \u041e\u0434\u043d\u0438\u043c \u043a\u043e\u0440\u043e\u0442\u043a\u0438\u043c \u043f\u0440\u0435\u0434\u043b\u043e\u0436\u0435\u043d\u0438\u0435\u043c \u0440\u0430\u0441\u0441\u043a\u0430\u0436\u0438, \u0447\u0442\u043e \u0442\u044b \u0443\u043c\u0435\u0435\u0448\u044c.»<\/p>\n\n\n\n

#<\/h6>\n\n\n\n

usage() {
cat <<EOF
\u0410\u0432\u0442\u043e\u0443\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0430 llama.cpp \u043d\u0430 Ubuntu + \u0442\u0435\u0441\u0442\u043e\u0432\u044b\u0439 \u0437\u0430\u043f\u0443\u0441\u043a \u043c\u043e\u0434\u0435\u043b\u0438.<\/p>\n\n\n\n

\u0418\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435:
$0 [\u043e\u043f\u0446\u0438\u0438]<\/p>\n\n\n\n

\u041e\u043f\u0446\u0438\u0438:
—dir PATH \u041f\u0443\u0442\u044c \u0443\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0438 (\u043f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e: $HOME\/llama.cpp)
—branch BRANCH \u0412\u0435\u0442\u043a\u0430 git (\u043f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e: master)
—cpu \u0421\u0431\u043e\u0440\u043a\u0430 \u0442\u043e\u043b\u044c\u043a\u043e \u0434\u043b\u044f CPU (\u043f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e)
—cuda \u0421\u0431\u043e\u0440\u043a\u0430 \u0441 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u043e\u0439 CUDA (\u043d\u0443\u0436\u0435\u043d \u0443\u0441\u0442\u0430\u043d\u043e\u0432\u043b\u0435\u043d\u043d\u044b\u0439 CUDA Toolkit)
—model REPO Hugging Face repo-id GGUF \u043c\u043e\u0434\u0435\u043b\u0438 \u0434\u043b\u044f \u0442\u0435\u0441\u0442\u0430
(\u043f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e: $HF_MODEL_DEFAULT)
\u043f\u0440\u0438\u043c\u0435\u0440: ggml-org\/gemma-3-1b-it-GGUF
—no-test \u041d\u0435 \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0442\u044c \u0442\u0435\u0441\u0442\u043e\u0432\u044b\u0439 \u043f\u0440\u043e\u0433\u043e\u043d \u043c\u043e\u0434\u0435\u043b\u0438
-h, —help \u041f\u043e\u043a\u0430\u0437\u0430\u0442\u044c \u044d\u0442\u0443 \u0441\u043f\u0440\u0430\u0432\u043a\u0443<\/p>\n\n\n\n

\u041f\u0440\u0438\u043c\u0435\u0440\u044b:
$0
$0 —cuda
$0 —model ggml-org\/gemma-3-1b-it-GGUF
$0 —dir \/opt\/llama.cpp —cuda —no-test
EOF
exit 1
}<\/p>\n\n\n\n

\u041f\u0430\u0440\u0441\u0438\u043d\u0433 \u0430\u0440\u0433\u0443\u043c\u0435\u043d\u0442\u043e\u0432<\/h3>\n\n\n\n

while [[ $# -gt 0 ]]; do
case «$1» in
—dir)
INSTALL_DIR=»$2″
shift 2
;;
—branch)
BRANCH=»$2″
shift 2
;;
—cpu)
BACKEND=»cpu»
shift
;;
—cuda)
BACKEND=»cuda»
shift
;;
—model)
HF_MODEL=»$2″
shift 2
;;
—no-test)
RUN_TEST=0
shift
;;
-h|—help)
usage
;;
*)
echo «\u041d\u0435\u0438\u0437\u0432\u0435\u0441\u0442\u043d\u044b\u0439 \u0430\u0440\u0433\u0443\u043c\u0435\u043d\u0442: $1»
usage
;;
esac
done<\/p>\n\n\n\n

\u041f\u0440\u043e\u0432\u0435\u0440\u043a\u0438 \u043e\u043a\u0440\u0443\u0436\u0435\u043d\u0438\u044f<\/h3>\n\n\n\n

if [[ ! -f \/etc\/os-release ]]; then
echo «\u041d\u0435 \u043c\u043e\u0433\u0443 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0438\u0442\u044c \u0434\u0438\u0441\u0442\u0440\u0438\u0431\u0443\u0442\u0438\u0432 (\u043d\u0435\u0442 \/etc\/os-release). \u041f\u0440\u043e\u0434\u043e\u043b\u0436\u0430\u044e \u043d\u0430 \u0441\u0432\u043e\u0439 \u0441\u0442\u0440\u0430\u0445 \u0438 \u0440\u0438\u0441\u043a\u2026»
else
. \/etc\/os-release
if [[ «${ID:-}» != «ubuntu» ]]; then
echo «\u0412\u043d\u0438\u043c\u0430\u043d\u0438\u0435: \u0441\u043a\u0440\u0438\u043f\u0442 \u0440\u0430\u0441\u0441\u0447\u0438\u0442\u0430\u043d \u043d\u0430 Ubuntu, \u0430 \u0443 \u0442\u0435\u0431\u044f: ${PRETTY_NAME:-unknown}»
echo «\u041f\u0440\u043e\u0434\u043e\u043b\u0436\u0430\u044e, \u043d\u043e \u0447\u0442\u043e-\u0442\u043e \u043c\u043e\u0436\u0435\u0442 \u043f\u043e\u0439\u0442\u0438 \u043d\u0435 \u0442\u0430\u043a.»
fi
fi<\/p>\n\n\n\n

if [[ «$EUID» -ne 0 ]] && ! command -v sudo >\/dev\/null 2>&1; then
echo «\u041d\u0443\u0436\u0435\u043d sudo \u0438\u043b\u0438 \u0437\u0430\u043f\u0443\u0441\u043a \u043e\u0442 root \u0434\u043b\u044f \u0443\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0438 \u043f\u0430\u043a\u0435\u0442\u043e\u0432.»
exit 1
fi<\/p>\n\n\n\n

\u0423\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0430 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0435\u0439<\/h3>\n\n\n\n

echo «==> \u0423\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0430 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0435\u0439 \u0447\u0435\u0440\u0435\u0437 apt\u2026»
if [[ «$EUID» -eq 0 ]]; then
APT=»apt-get»
else
APT=»sudo apt-get»
fi<\/p>\n\n\n\n

$APT update -y
$APT install -y \\
build-essential \\
cmake \\
git \\
python3 \\
python3-venv \\
python3-pip \\
libcurl4-openssl-dev<\/p>\n\n\n\n

\u041e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0430 \u0431\u044d\u043a\u0435\u043d\u0434\u0430 CUDA<\/h3>\n\n\n\n

if [[ «$BACKEND» == «cuda» ]]; then
if ! command -v nvcc >\/dev\/null 2>&1; then
echo «\u0412\u041d\u0418\u041c\u0410\u041d\u0418\u0415: \u0437\u0430\u043f\u0440\u043e\u0448\u0435\u043d\u0430 \u0441\u0431\u043e\u0440\u043a\u0430 \u0441 CUDA (—cuda), \u043d\u043e nvcc \u043d\u0435 \u043d\u0430\u0439\u0434\u0435\u043d.»
echo «\u0423\u0431\u0435\u0434\u0438\u0441\u044c, \u0447\u0442\u043e \u0443\u0441\u0442\u0430\u043d\u043e\u0432\u043b\u0435\u043d CUDA Toolkit \u0438 nvcc \u0432 PATH.»
echo «\u041f\u0430\u0434\u0430\u044e \u043e\u0431\u0440\u0430\u0442\u043d\u043e \u043d\u0430 CPU-only \u0441\u0431\u043e\u0440\u043a\u0443.»
BACKEND=»cpu»
else
echo «==> \u041d\u0430\u0439\u0434\u0435\u043d nvcc, \u0441\u043e\u0431\u0438\u0440\u0430\u0435\u043c \u0441 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u043e\u0439 CUDA.»
fi
fi<\/p>\n\n\n\n

\u041a\u043b\u043e\u043d\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \/ \u043e\u0431\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u0435 \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u044f<\/h3>\n\n\n\n

echo «==> \u0414\u0438\u0440\u0435\u043a\u0442\u043e\u0440\u0438\u044f \u0443\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0438: $INSTALL_DIR»<\/p>\n\n\n\n

if [[ -d «$INSTALL_DIR\/.git» ]]; then
echo «==> \u0420\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0439 \u0443\u0436\u0435 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442, \u043e\u0431\u043d\u043e\u0432\u043b\u044f\u044e\u2026»
cd «$INSTALL_DIR»
git fetch —all —prune
git checkout «$BRANCH»
git pull —ff-only origin «$BRANCH»
else
echo «==> \u041a\u043b\u043e\u043d\u0438\u0440\u0443\u044e \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0439 ggml-org\/llama.cpp\u2026»
git clone —branch «$BRANCH» https:\/\/github.com\/ggml-org\/llama.cpp.git «$INSTALL_DIR»
cd «$INSTALL_DIR»
fi<\/p>\n\n\n\n

\u0421\u0431\u043e\u0440\u043a\u0430 \u0447\u0435\u0440\u0435\u0437 CMake<\/h3>\n\n\n\n

echo «==> \u041a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u0441\u0431\u043e\u0440\u043a\u0438\u2026»<\/p>\n\n\n\n

CMAKE_ARGS=»-DCMAKE_BUILD_TYPE=Release \\
-DLLAMA_BUILD_TESTS=OFF \\
-DLLAMA_BUILD_EXAMPLES=ON \\
-DLLAMA_BUILD_SERVER=ON»<\/p>\n\n\n\n

if [[ «$BACKEND» == «cuda» ]]; then
CMAKE_ARGS=»$CMAKE_ARGS -DGGML_CUDA=ON»
fi<\/p>\n\n\n\n

cmake -S . -B build $CMAKE_ARGS<\/p>\n\n\n\n

echo «==> \u0421\u0431\u043e\u0440\u043a\u0430 (cmake —build)\u2026»
cmake —build build -j»$(nproc)»<\/p>\n\n\n\n

\u0421\u043e\u0437\u0434\u0430\u043d\u0438\u0435 \u0441\u0438\u043c\u043b\u0438\u043d\u043a\u043e\u0432 \u0432 ~\/.local\/bin<\/h3>\n\n\n\n

echo «==> \u0421\u043e\u0437\u0434\u0430\u044e \u0441\u0438\u043c\u043b\u0438\u043d\u043a\u0438 \u0432 \\$HOME\/.local\/bin\u2026»<\/p>\n\n\n\n

BIN_DIR=»$HOME\/.local\/bin»
mkdir -p «$BIN_DIR»<\/p>\n\n\n\n

for bin in llama-cli llama-server; do
if [[ -f «$INSTALL_DIR\/build\/bin\/$bin» ]]; then
ln -sf «$INSTALL_DIR\/build\/bin\/$bin» «$BIN_DIR\/$bin»
echo » -> $BIN_DIR\/$bin -> $INSTALL_DIR\/build\/bin\/$bin»
else
echo » [!] \u041d\u0435 \u043d\u0430\u0439\u0434\u0435\u043d $INSTALL_DIR\/build\/bin\/$bin (\u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e, \u0438\u0437\u043c\u0435\u043d\u0438\u043b\u0430\u0441\u044c \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0430 \u043f\u0440\u043e\u0435\u043a\u0442\u0430).»
fi
done<\/p>\n\n\n\n

\u0422\u0435\u0441\u0442\u043e\u0432\u044b\u0439 \u043f\u0440\u043e\u0433\u043e\u043d \u043c\u043e\u0434\u0435\u043b\u0438<\/h3>\n\n\n\n

if [[ «$RUN_TEST» -eq 1 ]]; then
echo
echo «===================================================================»
echo «==> \u0422\u0435\u0441\u0442\u043e\u0432\u044b\u0439 \u0437\u0430\u043f\u0443\u0441\u043a \u043c\u043e\u0434\u0435\u043b\u0438: $HF_MODEL»
echo «===================================================================»<\/p>\n\n\n\n

LLAMA_CLI=\"$INSTALL_DIR\/build\/bin\/llama-cli\"\nif [[ ! -x \"$LLAMA_CLI\" ]] && [[ -x \"$HOME\/.local\/bin\/llama-cli\" ]]; then\n    LLAMA_CLI=\"$HOME\/.local\/bin\/llama-cli\"\nfi\n\nif [[ ! -x \"$LLAMA_CLI\" ]]; then\n    echo \"[!] \u041d\u0435 \u043d\u0430\u0439\u0434\u0435\u043d \u0438\u0441\u043f\u043e\u043b\u043d\u044f\u0435\u043c\u044b\u0439 \u0444\u0430\u0439\u043b llama-cli. \u041f\u0440\u043e\u043f\u0443\u0441\u043a\u0430\u044e \u0442\u0435\u0441\u0442\u043e\u0432\u044b\u0439 \u0437\u0430\u043f\u0443\u0441\u043a.\"\nelse\n    echo \"\u041a\u043e\u043c\u0430\u043d\u0434\u0430:\"\n    echo \"  $LLAMA_CLI -hf \\\"$HF_MODEL\\\" -p \\\"$TEST_PROMPT\\\" -n 64 --temp 0.7\"\n    echo\n    echo \"\u0421\u0435\u0439\u0447\u0430\u0441 \u0431\u0443\u0434\u0435\u0442 \u0441\u043a\u0430\u0447\u0430\u043d\u0430 \u043c\u043e\u0434\u0435\u043b\u044c (\u0435\u0441\u043b\u0438 \u0435\u0451 \u0435\u0449\u0451 \u043d\u0435\u0442) \u0438 \u0432\u044b\u043f\u043e\u043b\u043d\u0435\u043d \u043a\u043e\u0440\u043e\u0442\u043a\u0438\u0439 \u043f\u0440\u043e\u0433\u043e\u043d.\"\n    echo\n\n    set +e\n    \"$LLAMA_CLI\" -hf \"$HF_MODEL\" -p \"$TEST_PROMPT\" -n 64 --temp 0.7\n    TEST_EXIT=$?\n    set -e\n\n    echo\n    echo \"-------------------------------------------------------------------\"\n    if [[ $TEST_EXIT -ne 0 ]]; then\n        echo \"[!] \u0422\u0435\u0441\u0442\u043e\u0432\u044b\u0439 \u0437\u0430\u043f\u0443\u0441\u043a \u0437\u0430\u0432\u0435\u0440\u0448\u0438\u043b\u0441\u044f \u0441 \u043e\u0448\u0438\u0431\u043a\u043e\u0439 (\u043a\u043e\u0434 $TEST_EXIT).\"\n        echo \"    \u041f\u0440\u043e\u0432\u0435\u0440\u044c \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u0435 \u043e\u0431 \u043e\u0448\u0438\u0431\u043a\u0435 \u0432\u044b\u0448\u0435 (\u0447\u0430\u0441\u0442\u043e \u044d\u0442\u043e \u0441\u0435\u0442\u044c \u0438\u043b\u0438 Hugging Face).\"\n    else\n        echo \"\u0422\u0435\u0441\u0442\u043e\u0432\u044b\u0439 \u0437\u0430\u043f\u0443\u0441\u043a \u043f\u0440\u043e\u0448\u0451\u043b \u0443\u0441\u043f\u0435\u0448\u043d\u043e. \u041e\u0442\u0432\u0435\u0442 \u043c\u043e\u0434\u0435\u043b\u0438 \u043f\u043e\u043a\u0430\u0437\u0430\u043d \u0432\u044b\u0448\u0435.\"\n    fi\n    echo \"-------------------------------------------------------------------\"\nfi<\/code><\/pre>\n\n\n\n
fi<\/p>\n\n\n\n
\u0418\u0442\u043e\u0433\u043e\u0432\u0430\u044f \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u044f<\/h3>\n\n\n\n
echo
echo «===================================================================»
echo «\u0423\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0430 llama.cpp \u0437\u0430\u0432\u0435\u0440\u0448\u0435\u043d\u0430.»
echo
echo «\u0414\u0438\u0440\u0435\u043a\u0442\u043e\u0440\u0438\u044f \u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u043e\u0432: $INSTALL_DIR»
echo «\u0411\u0438\u043d\u0430\u0440\u043d\u0438\u043a\u0438: $INSTALL_DIR\/build\/bin»
echo «\u0421\u0438\u043c\u043b\u0438\u043d\u043a\u0438: $HOME\/.local\/bin\/llama-cli, llama-server»
echo
echo «\u0415\u0441\u043b\u0438 \\$HOME\/.local\/bin \u0435\u0449\u0451 \u043d\u0435 \u0432 PATH, \u0434\u043e\u0431\u0430\u0432\u044c, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0432 ~\/.bashrc:»
echo ‘ export PATH=»$HOME\/.local\/bin:$PATH»‘
echo
echo «\u041f\u0440\u0438\u043c\u0435\u0440\u044b \u0437\u0430\u043f\u0443\u0441\u043a\u0430:»
echo » llama-cli -h»
echo » llama-server -h»
echo
echo «\u0414\u043b\u044f \u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u0441\u0432\u043e\u0435\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u0441 Hugging Face:»
echo » llama-cli -hf -p \\»\u041f\u0440\u0438\u0432\u0435\u0442\\» -n 64″
echo «\u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440:»
echo » llama-cli -hf ggml-org\/gemma-3-1b-it-GGUF -p \\»\u041f\u0440\u0438\u0432\u0435\u0442\\» -n 64″
echo «===================================================================»<\/code><\/p>\n","protected":false},"excerpt":{"rendered":"
\u0421\u043a\u0440\u0438\u043f\u0442 \u0430\u0432\u0442\u043e\u0443\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0438 llama.cpp \u043d\u0430 ubuntu <code> !\/usr\/bin\/env bash set -euo pipefail \u041d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0438 \u043f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e INSTALL_DIR=»$HOME\/llama.cpp» # \u041a\u0443\u0434\u0430 \u043a\u043b\u043e\u043d\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0439BRANCH=»master» # \u0412\u0435\u0442\u043a\u0430 \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u044fBACKEND=»cpu» # cpu | cuda \u041d\u0435\u0431\u043e\u043b\u044c\u0448\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0434\u043b\u044f \u0442\u0435\u0441\u0442\u0430 (\u0431\u044b\u0441\u0442\u0440\u043e \u0434\u043e\u043a\u0430\u0447\u0430\u0442\u044c \u0438 \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u0442\u044c) HF_MODEL_DEFAULT=»ggml-org\/gemma-3-270m-it-GGUF»HF_MODEL=»$HF_MODEL_DEFAULT» RUN_TEST=1 # 1 = \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0442\u044c \u0442\u0435\u0441\u0442, 0 = \u043d\u0435\u0442TEST_PROMPT=»\u0422\u044b \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u0430\u044f LLM. \u041e\u0434\u043d\u0438\u043c \u043a\u043e\u0440\u043e\u0442\u043a\u0438\u043c \u043f\u0440\u0435\u0434\u043b\u043e\u0436\u0435\u043d\u0438\u0435\u043c \u0440\u0430\u0441\u0441\u043a\u0430\u0436\u0438, \u0447\u0442\u043e \u0442\u044b \u0443\u043c\u0435\u0435\u0448\u044c.» # usage()…<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-15","post","type-post","status-publish","format-standard","hentry","category-relations"],"_links":{"self":[{"href":"https:\/\/gawker.ru\/index.php?rest_route=\/wp\/v2\/posts\/15","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/gawker.ru\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/gawker.ru\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/gawker.ru\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/gawker.ru\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=15"}],"version-history":[{"count":2,"href":"https:\/\/gawker.ru\/index.php?rest_route=\/wp\/v2\/posts\/15\/revisions"}],"predecessor-version":[{"id":17,"href":"https:\/\/gawker.ru\/index.php?rest_route=\/wp\/v2\/posts\/15\/revisions\/17"}],"wp:attachment":[{"href":"https:\/\/gawker.ru\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=15"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/gawker.ru\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=15"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/gawker.ru\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=15"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}