最近AI圈真的越来越离谱了。如果你一直关注本地大模型,会发现现在的开源模型不仅越来越聪明,甚至开始挑战闭源商业AI。今天要介绍的这位,直接把“本地AI”推向新阶段——它不仅无审查、无限制,而且非常聪明,6G显存就能跑!
它就是:
🔥 Qwen3.6-35B-A3B Uncensored HauhauCS Aggressive
一个目前热度极高的“越狱版”开源模型。简单说:它没有官方模型那些条条框框,什么都敢说,智商还很高。可能是目前最强的越狱版开源模型之一。

一、什么是“越狱版”模型?(新手必看)
官方模型(如ChatGPT、通义千问官方版)通常会加入大量安全限制,比如:
- 敏感内容拒答
- 某些问题无法回答
- 强制政治正确
- 输出被过滤
- 系统提示词限制
导致你正常提问,它却回复:“抱歉,我无法帮助你。”
而 Uncensored(无审查)版本 会尽可能移除这些限制。尤其是这个 Aggressive 版本,可以说是目前最激进的版本之一。
官方模型 vs 越狱版模型 – 实测对比
| 场景 | 官方模型 | 越狱版模型 |
|---|---|---|
| 敏感问题 | 疯狂拒答 | 什么都敢说 |
| 安全策略 | 强制过滤 | 几乎没有限制 |
| 输出风格 | 保守刻板 | 开放直接 |
而且最关键的是:它并不是那种“只会越狱,但智商很低”的模型。恰恰相反,这个模型真的非常聪明。
二、这个模型强在哪里?(为什么推荐它)
1️⃣ 参数大,但显存要求低(MoE架构)
很多人看到 35B 第一反应是:“这得服务器才能跑吧?”
实际上:Qwen3.6-35B-A3B 用的是 MoE(专家混合架构)。虽然总参数35B,但每次只激活约3B参数。既拥有超大模型的能力,又有小模型的速度。
2️⃣ 6G显存都能跑?
通过GGUF量化后,6G、8G显存的普通游戏显卡都能运行。支持NVIDIA、AMD、Intel显卡以及纯CPU运行。
3️⃣ 中文能力极强,多模态支持
在Artificial Analysis全球权威AI榜单中,Qwen3.6-35B-A3B在40B以内开源模型里属于第一梯队。尤其中文理解、代码能力、多模态视觉(看图、OCR、分析UI、阅读代码截图)、推理、长上下文都非常出色。配合llama.cpp最新版,甚至可以当本地版ChatGPT Vision使用。

三、本地部署完整教程(新手一步步跟着做)
🎯 目标:在你的电脑上跑起这个无限制AI模型,并能像使用ChatGPT一样对话。
📦 步骤1:下载模型文件(文末网盘)
网盘中包含多种量化版模型。请根据你的显卡显存选择:
| 显存 | 推荐版本 | 体验 |
|---|---|---|
| 24G(如4090) | Q4_K_P 或 Q4_K_M | 体验最好 |
| 12G-16G | Q4_K_M 或 IQ4_NL | 稳定高质 |
| 6G-8G(最低) | IQ2_M 或 IQ3_M | 能跑,建议8G |
🛠️ 步骤2:下载 llama.cpp
llama.cpp免费开源,支持Windows/Mac/Linux,N/A/I卡,纯CPU运行,速度比Ollama、LM Studio更快更稳定。下载后解压,将模型文件(.gguf)放入 models 子文件夹。

🚀 步骤3:使用一键启动脚本(支持多版本切换)
强烈推荐使用网盘里的“越狱版模型启动器”打包版,解压即用。或手动创建启动.bat,保存为UTF-8编码,复制以下代码:
@echo off
chcp 65001 >nul
title Qwen3.6-35B-A3B 越狱版
cd /d "%~dp0"
:menu
cls
echo ==========================================
echo Qwen3.6-35B-A3B 越狱版+多模态模型
echo 新手一键启动
echo ==========================================
echo.
echo 请根据你的显卡显存选择版本:
echo 1. Q4_K_P(24G显存推荐)
echo 2. Q4_K_M(稳定版,16G左右)
echo 3. IQ4_NL(高压缩高质量,12G)
echo 4. IQ2_M(6G/8G 显卡)
echo.
echo ==========================================
set /p choice=请输入数字(1-4):
if "%choice%"=="1" (
llama-server.exe ^
-m "models\Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-Q4_K_P.gguf" ^
--mmproj "models\mmproj-Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-f16.gguf" ^
-ngl 999 -c 131072 -n 8192 --host 127.0.0.1 --port 8080
)
if "%choice%"=="2" (
llama-server.exe ^
-m "models\Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-Q4_K_M.gguf" ^
--mmproj "models\mmproj-Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-f16.gguf" ^
-ngl 999 -c 131072 -n 8192 --host 127.0.0.1 --port 8080
)
if "%choice%"=="3" (
llama-server.exe ^
-m "models\Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-IQ4_NL.gguf" ^
--mmproj "models\mmproj-Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-f16.gguf" ^
-ngl 999 -c 131072 -n 8192 --host 127.0.0.1 --port 8080
)
if "%choice%"=="4" (
llama-server.exe ^
-m "models\Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-IQ2_M.gguf" ^
--mmproj "models\mmproj-Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-f16.gguf" ^
-ngl 999 -c 8192 -n 4096 --host 127.0.0.1 --port 8080
)
pause
启动成功后命令行显示 Listening at http://127.0.0.1:8080,浏览器打开该地址即可聊天。

四、对接 AI Agent(实现Token自由)
将模型对接到Hermes、OpenClaw等Agent框架,让它自动写代码、分析图片、执行任务、联网搜索,完全免费无限调用。
对接步骤(以Hermes为例):
- 在Agent中选择模型提供商 → 自定义(OpenAI API兼容)。
- API Base地址填写:
http://127.0.0.1:8080/v1 - API Key随便填或留空。
- 保存并连接。
现在你拥有了一个本地、无限制、多模态、可工具调用的AI Agent,真正实现Token自由、本地AI自由。


五、常见问题(新手必看)
Q1:6G显存真的能跑吗?
A:可以。选择IQ2_M量化版,如果卡顿可降低-ngl值(如-ngl 24)。
Q2:上传图片按钮灰色?
A:确保启动参数包含--mmproj且文件路径正确,下载对应的mmproj.gguf文件。
Q3:回答乱码或无限重复?
A:启动参数需加上--jinja(上方脚本已含),并确认模型文件完整。
Q4:只用CPU可以吗?
A:可以但较慢,推荐选择最小量化版,或者使用更小的7B模型。
六、最后的心里话
很多人对本地AI的印象还停留在“笨、慢、只能聊天”。但现在完全不同了。尤其Qwen3.6-35B-A3B出现后,本地AI开始真正接近商业闭源模型。它完全属于你自己,无审查,无联网要求,无订阅费用。
如果你一直想体验无审查AI、本地多模态、本地Agent、超长上下文、本地OpenAI API——这个模型非常值得尝试。
📥 下载地址(网盘)
请在此处放置网盘链接,包含:
- 多种量化版模型
- mmproj多模态文件
- llama.cpp整合包
- 一键启动脚本打包版
好了,现在轮到你了。快去下载、部署、玩起来吧!有任何问题欢迎在评论区留言交流。








































先看看,回头下载来试试
看着还行先收藏了,等下试试
运行后 按任意键就退出了
去掉里面那个--mmproj "modelsmmproj-Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-f16.gguf" ^加载就可以了
谢谢分享
就是网盘不够用了
16g显存+32g内存用Q4KM直接占满,生成太慢了
按文章步骤启动不了,为什么??
选择对应模型下载 就像 20G 这样 别的模型 也是20G 有5个模型
谢谢分享了
按照你说的 研究了一个下午也没能进去 哎。。。
先收藏,看着还不错,说明也很详细
有没有教程啊 大哥
大哥,第二步就不会了,llama.cpp这个下载下来咋用啊?.gguf这个文件是放进comfyui的models子文件里吗?
先收藏下 有空学习下
有没有用过的兄弟
好用吗?
厉害啊
我想问下,我解压的是llama-b9297-bin-win-cuda-13.1-x64,为什么运行起来只有CPU在跑,GPU没有用到?
首先感谢分享,一会试试下载
看看 ,回头下来用一下