プロジェクトへ戻る個人プロジェクト / 開発中

APPLIED AI / PERSONAL INTELLIGENCE

Lucian AI.

ローカルな対話から、自分らしい表現へ。

公式 Qwen3-1.7B の重みと独自の GPU 推論実装による個人 chatbot。 まずは自然な対話を実現し、その先で自分の言葉遣いと表現を探求します。

基礎モデル01
Qwen3–1.7B

公式公開重み · Apache-2.0

推論実装02
Python + PTX

独自の分詞処理と GPU 順伝播

既定コンテキスト03
2,048 token

複数ターン · ストリーミング

個人の表現04
探求中

個人スタイルの微調整は未実施

01 / CONVERSATION

Lucian AI と対話する

PLAYGROUND
Lucian AI

画面プレビュー · 作成済みの例

作成済みの画面例です。モデルは呼び出していません。Enter ↵ / Shift + Enter

02 / ENGINEERING

重みから、一つの対話へ。

公式モデルの基礎能力に、 独自の実装をつなぎます。

01 / TOKENIZATION実装済み

文字とトークン化

バイト BPE、事前分割、役割テンプレートを独自に実装し、文字を推論用トークンに変換します。

Byte BPEUnicodePython
02 / GPU INFERENCE実装済み

ローカル推論

公式重みを読み込み、独自 PTX で GPU 順伝播、因果注意機構、KV キャッシュを実装します。

PTXAttentionKV Cache
03 / CONVERSATION実装済み

継続する対話

生成文を逐次表示し、複数ターンの履歴を管理。コンテキスト削減や回答上限を明示します。

StreamingContextEvaluation

03 / PERSONAL VOICE

表現にも、自分の出発点を。

探求中 / 個人の微調整は未実施

質問に答えるだけでなく、 自分らしい表現にも近づいてほしい。

自分で書いた文章や考えを整理し、個人の文章が言葉遣い、説明、リズムにどう影響するかを探求。独立した評価で次の改善を考えます。

自分の文章スタイル適応独立した評価
  1. 01

    自然な対話を実現

    現在の段階

    ローカル Qwen 推論と複数ターン対話を実装し、実際の回答の課題を観察します。

  2. 02

    個人コーパスを作る

    計画中

    本人の文章と出典を整理し、学習候補と独立した評価サンプルを分けます。

  3. 03

    個人スタイルの適応を研究

    探求の方向

    表現の習慣と回答品質を比較し、評価結果から次の改善につなげます。

04 / PROJECT NOTES

実装と、その限界を記録。

現在の成果、今後の計画、能力の限界を 明確に伝えることも、この作品の一部です。

ほかのプロジェクトを見る
今は何を試せますか?

ローカルモデルは文字入力と複数ターンの中国語対話に対応。本ページは作成済みの画面例から始まります。ローカルサービスを起動すると、実際の Qwen 回答に切り替えられます。

もう本人の表現を学習していますか?

個人スタイルの微調整はまだ実施していません。個人コーパスの整理と適応は今後の計画です。画面例は本人の表現資料として使用しません。

モデルとデータの出典は?

基礎モデルは Apache-2.0 の公式 Qwen3-1.7B 公開重みです。推論コードは本プロジェクトで独自実装。個人資料や実験チェックポイントはローカルに保持します。

能力の限界は?

文字のみを処理し、ウェブ検索や操作の実行はできません。回答は誤る場合があります。既定コンテキストは 2048 トークン。古い履歴を削減した場合や回答上限に達した場合は通知します。

QWEN FOUNDATION / INDEPENDENT IMPLEMENTATION対話に戻る ↑

LOCAL MODEL

ローカルモデルは未接続です。

ページと対話例は引き続き確認できます。ローカル Qwen サービスを接続すると、実際に生成した回答を表示します。

ローカルでの実行方法

プロジェクトの qwen/showcase ディレクトリで実行:

python -X utf8 server.py --with-model --port 8767

ターミナルに表示されたローカル URL を開いてください。設定済みの公式重みと NVIDIA GPU が必要です。