返回项目个人项目 / 持续迭代

APPLIED AI / PERSONAL INTELLIGENCE

Lucian AI.

从本地对话,走向自己的表达。

基于 Qwen3-1.7B 官方权重,以自写 GPU 推理构建的个人 chatbot。 先让它能自然对话,再探索让它逐步形成我的措辞与表达习惯。

基础模型01
Qwen3–1.7B

官方公开权重 · Apache-2.0

推理实现02
Python + PTX

自写分词与 GPU 前向计算

默认上下文03
2,048 token

多轮历史 · 流式输出

个人表达风格04
探索中

尚未进行个人风格微调

01 / CONVERSATION

与 Lucian AI 对话

PLAYGROUND
Lucian AI

界面预览 · 示例内容

此处为设计示例,回复由作者编写,未调用模型。Enter ↵ / Shift + Enter

02 / ENGINEERING

从权重,到一段对话。

官方模型提供基础能力, 自有实现把每一层接起来。

01 / TOKENIZATION已实现

文字与分词

自行实现字节 BPE、预切分与角色模板,把文字转换成可推理的 Token。

Byte BPEUnicodePython
02 / GPU INFERENCE已实现

本地推理计算

读取官方权重,以自写 PTX 实现 GPU 前向计算、因果注意力与 KV 缓存。

PTXAttentionKV Cache
03 / CONVERSATION已实现

持续的对话体验

逐段显示生成文字,管理多轮历史,并明确提示上下文删减与回答截断。

StreamingContextEvaluation

03 / PERSONAL VOICE

让表达,逐步有自己的来处。

持续探索 / 尚未完成个人微调

希望它不止能回答问题, 也慢慢拥有我的表达习惯。

未来整理自己写过的文字与想法,探索个人语料如何影响措辞、解释方式和语言节奏。以独立评估判断效果,记录每一次迭代。

个人文字风格适配独立评估
  1. 01

    让它能自然对话

    当前阶段

    实现本地 Qwen 推理与多轮交流,观察真实回答中的问题。

  2. 02

    为表达建立语料

    计划中

    整理本人文字,保留来源,划分训练候选与独立评估样本。

  3. 03

    研究个人风格适配

    探索方向

    比较表达习惯与回答质量,用评估结果推动下一次迭代。

04 / PROJECT NOTES

记录实现,也记录边界。

把现有成果、后续计划与能力限制讲清楚, 也是展示这个项目的一部分。

查看我的其他项目
现在可以体验什么?

本地模型支持文字输入与多轮中文对话。本页默认展示预先编写的界面示例;启动本机模型服务后,可切换为真实 Qwen 回复。

它已经学会我的表达了吗?

当前尚未进行个人风格微调。个人语料整理与风格适配属于后续计划,示例文案也不会作为本人表达语料。

模型与数据从哪里来?

基础模型为 Qwen3-1.7B 官方公开权重,采用 Apache-2.0 许可。推理代码由本项目自行实现。个人资料与实验检查点留在本机。

需要知道哪些能力边界?

模型只处理文字,不联网检索,也不能执行操作。回答可能有误;默认上下文为 2048 token,超限会移除旧轮次并提示,达到单轮回答长度限制时也会说明。

QWEN FOUNDATION / INDEPENDENT IMPLEMENTATION回到对话体验 ↑

LOCAL MODEL

本机模型还没连接。

你仍然可以查看页面与示例对话。连接本地 Qwen 服务后,这里将显示模型真实生成的回答。

本地运行方式

在本项目的 qwen/showcase 目录运行:

python -X utf8 server.py --with-model --port 8767

然后打开终端显示的本地网址。模型需要已有的官方权重与 NVIDIA GPU。