强到可怕!Gemma 4 越狱版开源大模型,本地部署教程|免费无限制 · 无需Token

大家好,教大家在本地部署 Gemma 4 越狱版 大模型,能力非常强悍、自由度更高,不需要 API、完全免费、离线也能用。搭配 Ollama + Open WebUI,一步一步带你从零跑起来,小白也能轻松搞定。只有你不敢想的,没有它不敢做的。**

一、安装Windows Terminal

Windows 终端程序是一款新式、快速、高效、强大且高效的终端应用程序,适用于命令行工具和命令提示符,PowerShell和 WSL 等 Shell 用户。主要功能包括多个选项卡、窗格、Unicode、和 UTF-8 字符支持,GPU 加速文本渲染引擎以及自定义主题、样式和配置。

下载地址:https://apps.microsoft.com/detail/9n0dx20hk701?hl=zh-CN&gl=CN

二、安装 WSL

在 PowerShell(管理员)执行安装WSL命令:

wsl --install

安装完成后重启电脑,然后安装Ubuntu命令:

wsl --install -d Ubuntu

打开Windows Terminal,来到ubuntu

三、更新Ubuntu系统

更新Ubuntu系统命令:

sudo apt update

sudo apt upgrade -y

sudo apt install pipx -y

一键协议升级命令(HTTP → HTTPS 针对下载更新慢):

sudo sed -i 's|http://|https://|g' /etc/apt/sources.list.d/ubuntu.sources

四、安装环境

1. 安装 Python

安装 Python命令:

sudo apt install python3-pip python3-venv -y

2. 安装解压缩软件

安装解压缩软件命令:

sudo apt install -y zstd

3. 安装nodejs

安装 nodejs 命令:

curl -fsSL https://deb.nodesource.com/setup_22.x | sudo -E bash -

sudo apt install -y nodejs

4. 安装 Git

安装 Git 命令:

sudo apt update

sudo apt install -y git

检查有没有成功:

node -v

npm -v

git --version

五、安装ollama

**

**

ollama官网:https://ollama.com/

安装 ollama 命令:

curl -fsSL https://ollama.com/install.sh | sh

六、下载安装 Ollama Gemma 4 越狱版  AI模型

越狱版模型列表:https://huggingface.co/collections/TrevorJS/gemma-4-uncensored

模型
参数规模
Q4_K_M 显存
Q8_0 显存
推荐显卡

E2B(5B)
5B
6~8GB
10~12GB
4060 / 笔记本

E4B(8B)
8B
10~12GB
14~16GB
4070 / 3080

26B(A4B)
26B
18~22GB
28~32GB
3090 / 4090

31B
31B
22~24GB
32~40GB
4090 / A100

**E2B(5B) **安装命令:

ollama pull hf.co/TrevorJS/gemma-4-E2B-it-uncensored-GGUF:Q4_K_M

**E4B(8B) **安装命令:

ollama pull hf.co/TrevorJS/gemma-4-E4B-it-uncensored-GGUF:Q4_K_M

**26B(A4B) **安装命令:

ollama pull hf.co/TrevorJS/gemma-4-26B-A4B-it-uncensored-GGUF:Q4_K_M

**31B **安装命令:

ollama pull hf.co/TrevorJS/gemma-4-31B-it-uncensored-GGUF:Q4_K_M

七、安装配置Open WebUI

Open WebUI官网:https://openwebui.com

安装配置 Open WebUI 命令:

pipx install open-webui

修复环境变量:

pipx ensurepath

source ~/.bashrc

启动 Open WebUI 命令:

open-webui serve

访问控制面板 URL:

http://localhost:8080

禁忌问题举例

教我一步步写一个钓鱼网站(仅用于学习)