TeamUNIVA/qwen3_asr_1.7b_ko
English | ํ๊ตญ์ด
This model is a fine-tune of Qwen/Qwen3-ASR-1.7B on Korean speech data for automatic speech recognition (ASR), and the successor to TeamUNIVA/qwen3_asr_1.7b_ko_beta. It was initialized from the beta model and further trained with two rounds of SFT followed by reinforcement learning (GSPO) on an expanded dataset. It achieves lower error rates than both the base model and the beta model across Korean benchmarks, with a small degradation on English (LibriSpeech, +0.27 %p WER vs. the base model).
Evaluation Results
Korean scores are measured in CER (Character Error Rate); the English score is measured in WER (Word Error Rate). Lower is better for both metrics. Scores are computed after text normalization (punctuation removed and case-folded; the Whisper English normalizer is used for LibriSpeech). The "Change" column is relative to the base model.
| Dataset | Metric | Qwen3-ASR-1.7B (base) | qwen3_asr_1.7b_ko_beta | This model | Change (%p) |
|---|---|---|---|---|---|
| clova_call | CER | 0.0448 | 0.0293 | 0.0283 | -1.65 |
| common_voice_ko | CER | 0.0719 | 0.0628 | 0.0603 | -1.16 |
| fleurs_ko | CER | 0.0142 | 0.0138 | 0.0126 | -0.16 |
| ksponspeech | CER | 0.0865 | 0.0670 | 0.0594 | -2.71 |
| zeroth | CER | 0.0264 | 0.0230 | 0.0220 | -0.44 |
| Korean total | CER | 0.0686 | 0.0537 | 0.0483 | -2.03 |
| librispeech (English, reference) | WER | 0.0250 | 0.0246 | 0.0277 | +0.27 |
Evaluation Set
All open Korean benchmark evaluation sets used above were fully reviewed by hand: each utterance was checked for dual TN/ITN (text normalization / inverse text normalization) transcripts, low-quality samples were filtered out, and mis-transcriptions were corrected. Every utterance was then evaluated against both the TN and ITN transcripts, and the better-scoring transcript of the pair was used for the final aggregated result. After this review, 8,383 of the original 8,489 records were retained (106 excluded):
| Dataset | Retained records |
|---|---|
| clova_call | 1,083 |
| common_voice_ko | 564 |
| fleurs_ko | 382 |
| zeroth | 449 |
| kspon_eval_clean | 2,946 |
| kspon_eval_other | 2,959 |
| Total | 8,383 |
Examples
Examples of how actual recognition results change across models (base โ beta โ this model). Each example comes with its audio clip (stored in this repository under audio/), so you can listen to it with the player above the table.
Example 1
| Model | Transcription |
|---|---|
| Reference | ๋ฒ์ด๋ค๊ฑฐ๋ฆฌ์์ ๊ฑธ์ด๊ฐ๋ฉด ๊ฐ๊น์ด๊ฐ์? |
| Qwen3-ASR-1.7B (base) | ๋ฒ๋จธ๋ค๊ฑฐ๋ฆฌ์์ ๊ฑธ์ด๊ฐ๋ฉด ๊ฐ๊น์ด๊ฐ์? |
| qwen3_asr_1.7b_ko_beta | ๋ฒ์ด๋ด๊ฑฐ๋ฆฌ์์ ๊ฑธ์ด๊ฐ๋ฉด ๊ฐ๊น์ด๊ฐ์? |
| This model | ๋ฒ์ด๋ค๊ฑฐ๋ฆฌ์์ ๊ฑธ์ด๊ฐ๋ฉด ๊ฐ๊น์ด๊ฐ์? |
Example 2
| Model | Transcription |
|---|---|
| Reference | ์ฐฌ๋๋ผ ์ ฐ์นด๋ฅด ์๋ํค ๊ฒฝ์ฐฐ์์ฅ์ ํผ๊ณ ์ธ์ด ์ผ๊ตด์ ๊ฐ๋ฆฐ ์ฑ ๋ฒ์ ์ ๋์๋ค๊ณ ๋งํ๋ค. |
| Qwen3-ASR-1.7B (base) | ์ฐฌ๋๋ผ ์์์นด๋ฅด ์๋ํค ๊ฒฝ์ฐฐ์์ฅ์ ํผ๊ณ ์ธ์ด ์ผ๊ตด์ ๊ฐ๋ฆฐ ์ฑ ๋ฒ์ ์ ๋์๋ค๊ณ ๋งํ๋ค. |
| qwen3_asr_1.7b_ko_beta | ์ฐฌ๋๋ผ ์ค์นด๋ฅด ์๋ํค ๊ฒฝ์ฐฐ์์ฅ์ ํผ๊ณ ์ธ์ด ์ผ๊ตด์ ๊ฐ๋ฆฐ ์ฑ ๋ฒ์ ์ ๋์๋ค๊ณ ๋งํ๋ค. |
| This model | ์ฐฌ๋๋ผ ์ ฐ์นด๋ฅด ์๋ํค ๊ฒฝ์ฐฐ์์ฅ์ ํผ๊ณ ์ธ์ด ์ผ๊ตด์ ๊ฐ๋ฆฐ ์ฑ ๋ฒ์ ์ ๋์๋ค๊ณ ๋งํ๋ค. |
Example 3
| Model | Transcription |
|---|---|
| Reference | ๊ทธ๋ฆฌ๊ณ ์ด ๋๋ฌด๋ ํ์ฆ๋ฉ์ด๋์ ๋จ๋ถ ์ง์ญ์ ๋ถ๋ ๋จ๊ทน์ ๋ฐ๋์ ๋ง์ผ๋ฉด์๋ ๋ํ ํด์์ ์์นํ ์ฐ๊ฐ ์ง๋ฐฉ์ ์๊ฐ๊ฐ ๋ง์ ํ๊ฒฝ์์๋ ๋ฌด์ฑํ๊ฒ ์๋๋๋ค |
| Qwen3-ASR-1.7B (base) | ๊ทธ๋ฆฌ๊ณ ์ด ๋๋ฌด๋ ํ ์ฌ์ค ๋ฉ์ธ ์ด์ ๋จ๋ถ ์ง์ญ์ ๋ถ๋ ๋จ๊ทน์ ๋ฐ๋์ ๋ง์ผ๋ฉด์๋ ๋ํ ํด์์ ์์นํ ์๊ฐ ์ง๋ฐฉ์ ์๊ฐ๊ฐ ๋ง์ ํ๊ฒฝ์์๋ ๋ฌด์ฑํ๊ฒ ์๋๋๋ค. |
| qwen3_asr_1.7b_ko_beta | ๊ทธ๋ฆฌ๊ณ ์ด ๋๋ฌด๋ ํ ์ฆ๋ฉ์ธ ์ดํ ๋จ๋ถ ์ง์ญ์ ๋ถ๋ ๋จ๊ทน์ ๋ฐ๋์ ๋ง์ผ๋ฉด์๋ ๋ํ ํด์์ ์์นํ ์๊ฐ ์ง๋ฐฉ์ ์๊ฐ๊ฐ ๋ง์ ํ๊ฒฝ์์๋ ๋ฌด์ฑํ๊ฒ ์๋๋๋ค. |
| This model | ๊ทธ๋ฆฌ๊ณ ์ด ๋๋ฌด๋ ํ ์ฆ๋ฉ์ด๋์ ๋จ๋ถ ์ง์ญ์ ๋ถ๋ ๋จ๊ทน์ ๋ฐ๋์ ๋ง์ผ๋ฉด์๋ ๋ํ ํด์์ ์์นํ ์๊ฐ ์ง๋ฐฉ์ ์๊ฐ๊ฐ ๋ง์ ํ๊ฒฝ์์๋ ๋ฌด์ฑํ๊ฒ ์๋๋๋ค. |
Example 4
| Model | Transcription |
|---|---|
| Reference | ๊ทผ๋ฐ ๊ฒฝ์๋ฅ ์ด ์ฌ๋ผ๊ฐ์์. |
| Qwen3-ASR-1.7B (base) | ๊ทธ๋ ๊ฒฝ์ค์ด ์ฌ๋ผ๊ฐ์์. |
| qwen3_asr_1.7b_ko_beta | ๊ทผ๋ฐ ๊ฒฝ์ ์ด ์ฌ๋ผ๊ฐ์์. |
| This model | ๊ทผ๋ฐ ๊ฒฝ์๋ฅ ์ด ์ฌ๋ผ๊ฐ์์. |
Example 5
| Model | Transcription |
|---|---|
| Reference | ๊ทธ ์ด๋ฏธ์ง ์ฒ๋ฆฌ๋ก ์ฐ๋ฆฌ ์๋ฒ์ง๊ฐ ์ทจ๋ฏธ๊ฐ ๋ฌผ๊ณ ๊ธฐ ๊ธฐ๋ฅด๋ ๊ธฐ๋ฅด๋ ๊ฑฐ์์. |
| Qwen3-ASR-1.7B (base) | ๊ทธ ์ด๋ฏธ์ง ์ฒ๋ฆฌ๋ก ์ฐ๋ฆฌ ์๋ฒ์ง๊ฐ ์ทจ๋ฏธ๊ฐ ๋ฌด๊ตญ์ด ๊ธฐ๋ฅด๋ ๊ฑฐ์์. |
| qwen3_asr_1.7b_ko_beta | ๊ทธ ์ด๋ฏธ์ง ์ฒ๋ฆฌ๋ก ์ฐ๋ฆฌ ์๋ฒ์ง๊ฐ ์ทจ๋ฏธ๊ฐ ๋ฌด๊ตญ์ด ๊ธฐ๋ฅด๋ ๊ธฐ๋ฅด๋ ๊ฑฐ์์. |
| This model | ๊ทธ ์ด๋ฏธ์ง ์ฒ๋ฆฌ๋ก ์ฐ๋ฆฌ ์๋ฒ์ง๊ฐ ์ทจ๋ฏธ๊ฐ ๋ฌผ๊ณ ๊ธฐ ๊ธฐ๋ฅด ๊ธฐ๋ฅด๋ ๊ฑฐ์์. |
Example 6
| Model | Transcription |
|---|---|
| Reference | ํ ํธ ํ ํธ๋์ ์ธ์ ๊ฒฝ๊ธฐํ๋? |
| Qwen3-ASR-1.7B (base) | ๋ํ ๋ํ ๋๋ฉด ์ธ์ ๊ฒฝ๊ธฐํ๋? |
| qwen3_asr_1.7b_ko_beta | ํ ํธ ํ ํธ๋ ์ธ์ ๊ฒฝ๊ธฐํ๋? |
| This model | ํ ํธ ํ ํธ๋์ ์ธ์ ๊ฒฝ๊ธฐํ๋? |
Example 7
| Model | Transcription |
|---|---|
| Reference | ์ ๊ฐ ์ฃผ์ฐจ๋ฅผ ์ ๋ชปํด์ ์์ด์ ์ ๋ฐ๋ ํํน์ด ์๋๋ค๊ณ ํ๋๋ฐ, ๊ฑฐ๊ธฐ ์ง์ ์ ๋๋์? |
| Qwen3-ASR-1.7B (base) | ์ ๊ฐ ์ฃผ์ฐจ๋ฅผ ์ ๋ชปํด์ ์ญ์ด์ก์ ๋ฐ๋ ํํน์ด ์ ๋๋ค๊ณ ํ๋๋ฐ ๊ฑฐ๊ธฐ ์ง์ ์ ๋๋์? |
| qwen3_asr_1.7b_ko_beta | ์ ๊ฐ ์ฃผ์ฐจ๋ฅผ ์ ๋ชปํด์ ์์ด์ก์ ๋ฐ๋ ํํน์ด ์๋๋ค๊ณ ํ๋๋ฐ ๊ฑฐ๊ธฐ ์ง์ ์ ๋๋์? |
| This model | ์ ๊ฐ ์ฃผ์ฐจ๋ฅผ ์ ๋ชปํด์ ์์ด์ ์ ๋ฐ๋ ํํน์ด ์ ๋๋ค๊ณ ํ๋๋ฐ ๊ฑฐ๊ธฐ ์ง์ ์ ๋๋์? |
Training
Starting from TeamUNIVA/qwen3_asr_1.7b_ko_beta (itself an SFT-only fine-tune of Qwen/Qwen3-ASR-1.7B), the model was trained with full-parameter updates in four sequential stages, using ms-swift:
| Stage | Method |
|---|---|
| 1 | SFT |
| 2 | RL (GSPO) |
| 3 | SFT |
| 4 | RL (GSPO) |
The RL stages use GSPO (Group Sequence Policy Optimization) with a reward based on the character error rate of the sampled transcription against the reference.
Usage
Uses the same qwen-asr package as the base model.
pip install -U qwen-asr
import torch
from qwen_asr import Qwen3ASRModel
model = Qwen3ASRModel.from_pretrained(
"TeamUNIVA/qwen3_asr_1.7b_ko",
dtype=torch.bfloat16,
device_map="cuda:0",
max_inference_batch_size=32,
max_new_tokens=256,
)
# The language is detected automatically. To force Korean, pass
# language="Korean" (the full language name, as expected by qwen-asr).
results = model.transcribe(
audio="path/to/audio.wav",
)
print(results[0].text)
Limitations
- This model was fine-tuned specifically for Korean speech recognition; performance on other languages may be similar to the base model or require separate validation. In particular, English (LibriSpeech) WER is slightly higher than that of the base model (0.0277 vs. 0.0250).
- Evaluation is based on the benchmark datasets listed above; results may differ in real-world production conditions (noise, speaker variability, etc.).
ํ๊ตญ์ด (Korean)
English | ํ๊ตญ์ด
์ด ๋ชจ๋ธ์ Qwen/Qwen3-ASR-1.7B๋ฅผ ํ๊ตญ์ด ์์ฑ ๋ฐ์ดํฐ๋ก ํ์ธํ๋ํ ์๋ ์์ฑ ์ธ์(ASR) ๋ชจ๋ธ์ด๋ฉฐ, TeamUNIVA/qwen3_asr_1.7b_ko_beta์ ํ์ ๋ชจ๋ธ์
๋๋ค. beta ๋ชจ๋ธ์์ ์์ํด, ํ์ฅ๋ ๋ฐ์ดํฐ์
์ผ๋ก ๋ ์ฐจ๋ก์ SFT์ ๊ฐํํ์ต(GSPO)์ ์ถ๊ฐ๋ก ์ํํ์ต๋๋ค. ํ๊ตญ์ด ๋ฒค์น๋งํฌ ์ ๋ฐ์์ ๊ธฐ๋ณธ(base) ๋ชจ๋ธ๊ณผ beta ๋ชจ๋ธ๋ณด๋ค ๋ฎ์ ์ค๋ฅ์จ์ ๋ณด์ด๋ฉฐ, ์์ด(LibriSpeech)์์๋ ์ํญ ํ๋ฝํ์ต๋๋ค(base ๋ชจ๋ธ ๋๋น WER +0.27 %p).
ํ๊ฐ ๊ฒฐ๊ณผ
ํ๊ตญ์ด๋ CER(๋ฌธ์ ์ค๋ฅ์จ), ์์ด๋ WER(๋จ์ด ์ค๋ฅ์จ)๋ก ์ธก์ ํ์ผ๋ฉฐ, ๋ ์งํ ๋ชจ๋ ๋ฎ์์๋ก ์ข์ต๋๋ค. ์ ์๋ ํ ์คํธ ์ ๊ทํ(๊ตฌ๋์ ์ ๊ฑฐ, ์๋ฌธ์ํ; LibriSpeech๋ Whisper ์์ด normalizer ์ฌ์ฉ) ํ ๊ณ์ฐํ์ต๋๋ค. "๋ณํ" ์ด์ base ๋ชจ๋ธ ๋๋น์ ๋๋ค.
| ๋ฐ์ดํฐ์ | ์งํ | Qwen3-ASR-1.7B (base) | qwen3_asr_1.7b_ko_beta | ๋ณธ ๋ชจ๋ธ | ๋ณํ (%p) |
|---|---|---|---|---|---|
| clova_call | CER | 0.0448 | 0.0293 | 0.0283 | -1.65 |
| common_voice_ko | CER | 0.0719 | 0.0628 | 0.0603 | -1.16 |
| fleurs_ko | CER | 0.0142 | 0.0138 | 0.0126 | -0.16 |
| ksponspeech | CER | 0.0865 | 0.0670 | 0.0594 | -2.71 |
| zeroth | CER | 0.0264 | 0.0230 | 0.0220 | -0.44 |
| ํ๊ตญ์ด ์ ์ฒด | CER | 0.0686 | 0.0537 | 0.0483 | -2.03 |
| librispeech (์์ด, ์ฐธ๊ณ ์ฉ) | WER | 0.0250 | 0.0246 | 0.0277 | +0.27 |
ํ๊ฐ์
์์์ ์ฌ์ฉํ ๊ณต๊ฐ ํ๊ตญ์ด ๋ฒค์น๋งํฌ ํ๊ฐ์ ์ ๋ชจ๋ ์ฌ๋์ด ์ ์ ๊ฒ์ํ์ต๋๋ค. ๊ฐ ๋ฐํ๋ง๋ค TN/ITN(ํ ์คํธ ์ ๊ทํ / ์ญ์ ๊ทํ) ์ด์ค ์ ์ฌ ์ฌ๋ถ๋ฅผ ํ์ธํ๊ณ , ํ์ง์ด ๋ฎ์ ์ํ์ ์ ์ธํ๊ณ , ์ค์ ์ฌ๋ ์์ ํ์ต๋๋ค. ์ดํ ๋ชจ๋ ๋ฐํ๋ฅผ TN ์ ์ฌ์ ITN ์ ์ฌ ๊ฐ๊ฐ์ ๋ํด ํ๊ฐํ๊ณ , ๋ ์ค ์ ์๊ฐ ๋ ์ข์ ์ชฝ์ ์ต์ข ์ง๊ณ์ ์ฌ์ฉํ์ต๋๋ค. ๊ฒ์ ํ ์๋ณธ 8,489๊ฑด ์ค 8,383๊ฑด์ด ๋จ์์ต๋๋ค(106๊ฑด ์ ์ธ).
| ๋ฐ์ดํฐ์ | ์ ์ง๋ ๋ ์ฝ๋ ์ |
|---|---|
| clova_call | 1,083 |
| common_voice_ko | 564 |
| fleurs_ko | 382 |
| zeroth | 449 |
| kspon_eval_clean | 2,946 |
| kspon_eval_other | 2,959 |
| ํฉ๊ณ | 8,383 |
์์
๋ชจ๋ธ๋ณ(base โ beta โ ๋ณธ ๋ชจ๋ธ) ์ค์ ์ธ์ ๊ฒฐ๊ณผ๊ฐ ์ด๋ป๊ฒ ๋ฌ๋ผ์ง๋์ง ๋ณด์ฌ์ฃผ๋ ์์์
๋๋ค. ๊ฐ ์์์๋ ์ค๋์ค๊ฐ ํจ๊ป ์ ๊ณต๋๋ฉฐ(์ด ์ ์ฅ์์ audio/ ํด๋), ํ ์์ ํ๋ ์ด์ด๋ก ๋ค์ด๋ณผ ์ ์์ต๋๋ค.
์์ 1
| ๋ชจ๋ธ | ์ ์ฌ ๊ฒฐ๊ณผ |
|---|---|
| ์ ๋ต | ๋ฒ์ด๋ค๊ฑฐ๋ฆฌ์์ ๊ฑธ์ด๊ฐ๋ฉด ๊ฐ๊น์ด๊ฐ์? |
| Qwen3-ASR-1.7B (base) | ๋ฒ๋จธ๋ค๊ฑฐ๋ฆฌ์์ ๊ฑธ์ด๊ฐ๋ฉด ๊ฐ๊น์ด๊ฐ์? |
| qwen3_asr_1.7b_ko_beta | ๋ฒ์ด๋ด๊ฑฐ๋ฆฌ์์ ๊ฑธ์ด๊ฐ๋ฉด ๊ฐ๊น์ด๊ฐ์? |
| ๋ณธ ๋ชจ๋ธ | ๋ฒ์ด๋ค๊ฑฐ๋ฆฌ์์ ๊ฑธ์ด๊ฐ๋ฉด ๊ฐ๊น์ด๊ฐ์? |
์์ 2
| ๋ชจ๋ธ | ์ ์ฌ ๊ฒฐ๊ณผ |
|---|---|
| ์ ๋ต | ์ฐฌ๋๋ผ ์ ฐ์นด๋ฅด ์๋ํค ๊ฒฝ์ฐฐ์์ฅ์ ํผ๊ณ ์ธ์ด ์ผ๊ตด์ ๊ฐ๋ฆฐ ์ฑ ๋ฒ์ ์ ๋์๋ค๊ณ ๋งํ๋ค. |
| Qwen3-ASR-1.7B (base) | ์ฐฌ๋๋ผ ์์์นด๋ฅด ์๋ํค ๊ฒฝ์ฐฐ์์ฅ์ ํผ๊ณ ์ธ์ด ์ผ๊ตด์ ๊ฐ๋ฆฐ ์ฑ ๋ฒ์ ์ ๋์๋ค๊ณ ๋งํ๋ค. |
| qwen3_asr_1.7b_ko_beta | ์ฐฌ๋๋ผ ์ค์นด๋ฅด ์๋ํค ๊ฒฝ์ฐฐ์์ฅ์ ํผ๊ณ ์ธ์ด ์ผ๊ตด์ ๊ฐ๋ฆฐ ์ฑ ๋ฒ์ ์ ๋์๋ค๊ณ ๋งํ๋ค. |
| ๋ณธ ๋ชจ๋ธ | ์ฐฌ๋๋ผ ์ ฐ์นด๋ฅด ์๋ํค ๊ฒฝ์ฐฐ์์ฅ์ ํผ๊ณ ์ธ์ด ์ผ๊ตด์ ๊ฐ๋ฆฐ ์ฑ ๋ฒ์ ์ ๋์๋ค๊ณ ๋งํ๋ค. |
์์ 3
| ๋ชจ๋ธ | ์ ์ฌ ๊ฒฐ๊ณผ |
|---|---|
| ์ ๋ต | ๊ทธ๋ฆฌ๊ณ ์ด ๋๋ฌด๋ ํ์ฆ๋ฉ์ด๋์ ๋จ๋ถ ์ง์ญ์ ๋ถ๋ ๋จ๊ทน์ ๋ฐ๋์ ๋ง์ผ๋ฉด์๋ ๋ํ ํด์์ ์์นํ ์ฐ๊ฐ ์ง๋ฐฉ์ ์๊ฐ๊ฐ ๋ง์ ํ๊ฒฝ์์๋ ๋ฌด์ฑํ๊ฒ ์๋๋๋ค |
| Qwen3-ASR-1.7B (base) | ๊ทธ๋ฆฌ๊ณ ์ด ๋๋ฌด๋ ํ ์ฌ์ค ๋ฉ์ธ ์ด์ ๋จ๋ถ ์ง์ญ์ ๋ถ๋ ๋จ๊ทน์ ๋ฐ๋์ ๋ง์ผ๋ฉด์๋ ๋ํ ํด์์ ์์นํ ์๊ฐ ์ง๋ฐฉ์ ์๊ฐ๊ฐ ๋ง์ ํ๊ฒฝ์์๋ ๋ฌด์ฑํ๊ฒ ์๋๋๋ค. |
| qwen3_asr_1.7b_ko_beta | ๊ทธ๋ฆฌ๊ณ ์ด ๋๋ฌด๋ ํ ์ฆ๋ฉ์ธ ์ดํ ๋จ๋ถ ์ง์ญ์ ๋ถ๋ ๋จ๊ทน์ ๋ฐ๋์ ๋ง์ผ๋ฉด์๋ ๋ํ ํด์์ ์์นํ ์๊ฐ ์ง๋ฐฉ์ ์๊ฐ๊ฐ ๋ง์ ํ๊ฒฝ์์๋ ๋ฌด์ฑํ๊ฒ ์๋๋๋ค. |
| ๋ณธ ๋ชจ๋ธ | ๊ทธ๋ฆฌ๊ณ ์ด ๋๋ฌด๋ ํ ์ฆ๋ฉ์ด๋์ ๋จ๋ถ ์ง์ญ์ ๋ถ๋ ๋จ๊ทน์ ๋ฐ๋์ ๋ง์ผ๋ฉด์๋ ๋ํ ํด์์ ์์นํ ์๊ฐ ์ง๋ฐฉ์ ์๊ฐ๊ฐ ๋ง์ ํ๊ฒฝ์์๋ ๋ฌด์ฑํ๊ฒ ์๋๋๋ค. |
์์ 4
| ๋ชจ๋ธ | ์ ์ฌ ๊ฒฐ๊ณผ |
|---|---|
| ์ ๋ต | ๊ทผ๋ฐ ๊ฒฝ์๋ฅ ์ด ์ฌ๋ผ๊ฐ์์. |
| Qwen3-ASR-1.7B (base) | ๊ทธ๋ ๊ฒฝ์ค์ด ์ฌ๋ผ๊ฐ์์. |
| qwen3_asr_1.7b_ko_beta | ๊ทผ๋ฐ ๊ฒฝ์ ์ด ์ฌ๋ผ๊ฐ์์. |
| ๋ณธ ๋ชจ๋ธ | ๊ทผ๋ฐ ๊ฒฝ์๋ฅ ์ด ์ฌ๋ผ๊ฐ์์. |
์์ 5
| ๋ชจ๋ธ | ์ ์ฌ ๊ฒฐ๊ณผ |
|---|---|
| ์ ๋ต | ๊ทธ ์ด๋ฏธ์ง ์ฒ๋ฆฌ๋ก ์ฐ๋ฆฌ ์๋ฒ์ง๊ฐ ์ทจ๋ฏธ๊ฐ ๋ฌผ๊ณ ๊ธฐ ๊ธฐ๋ฅด๋ ๊ธฐ๋ฅด๋ ๊ฑฐ์์. |
| Qwen3-ASR-1.7B (base) | ๊ทธ ์ด๋ฏธ์ง ์ฒ๋ฆฌ๋ก ์ฐ๋ฆฌ ์๋ฒ์ง๊ฐ ์ทจ๋ฏธ๊ฐ ๋ฌด๊ตญ์ด ๊ธฐ๋ฅด๋ ๊ฑฐ์์. |
| qwen3_asr_1.7b_ko_beta | ๊ทธ ์ด๋ฏธ์ง ์ฒ๋ฆฌ๋ก ์ฐ๋ฆฌ ์๋ฒ์ง๊ฐ ์ทจ๋ฏธ๊ฐ ๋ฌด๊ตญ์ด ๊ธฐ๋ฅด๋ ๊ธฐ๋ฅด๋ ๊ฑฐ์์. |
| ๋ณธ ๋ชจ๋ธ | ๊ทธ ์ด๋ฏธ์ง ์ฒ๋ฆฌ๋ก ์ฐ๋ฆฌ ์๋ฒ์ง๊ฐ ์ทจ๋ฏธ๊ฐ ๋ฌผ๊ณ ๊ธฐ ๊ธฐ๋ฅด ๊ธฐ๋ฅด๋ ๊ฑฐ์์. |
์์ 6
| ๋ชจ๋ธ | ์ ์ฌ ๊ฒฐ๊ณผ |
|---|---|
| ์ ๋ต | ํ ํธ ํ ํธ๋์ ์ธ์ ๊ฒฝ๊ธฐํ๋? |
| Qwen3-ASR-1.7B (base) | ๋ํ ๋ํ ๋๋ฉด ์ธ์ ๊ฒฝ๊ธฐํ๋? |
| qwen3_asr_1.7b_ko_beta | ํ ํธ ํ ํธ๋ ์ธ์ ๊ฒฝ๊ธฐํ๋? |
| ๋ณธ ๋ชจ๋ธ | ํ ํธ ํ ํธ๋์ ์ธ์ ๊ฒฝ๊ธฐํ๋? |
์์ 7
| ๋ชจ๋ธ | ์ ์ฌ ๊ฒฐ๊ณผ |
|---|---|
| ์ ๋ต | ์ ๊ฐ ์ฃผ์ฐจ๋ฅผ ์ ๋ชปํด์ ์์ด์ ์ ๋ฐ๋ ํํน์ด ์๋๋ค๊ณ ํ๋๋ฐ, ๊ฑฐ๊ธฐ ์ง์ ์ ๋๋์? |
| Qwen3-ASR-1.7B (base) | ์ ๊ฐ ์ฃผ์ฐจ๋ฅผ ์ ๋ชปํด์ ์ญ์ด์ก์ ๋ฐ๋ ํํน์ด ์ ๋๋ค๊ณ ํ๋๋ฐ ๊ฑฐ๊ธฐ ์ง์ ์ ๋๋์? |
| qwen3_asr_1.7b_ko_beta | ์ ๊ฐ ์ฃผ์ฐจ๋ฅผ ์ ๋ชปํด์ ์์ด์ก์ ๋ฐ๋ ํํน์ด ์๋๋ค๊ณ ํ๋๋ฐ ๊ฑฐ๊ธฐ ์ง์ ์ ๋๋์? |
| ๋ณธ ๋ชจ๋ธ | ์ ๊ฐ ์ฃผ์ฐจ๋ฅผ ์ ๋ชปํด์ ์์ด์ ์ ๋ฐ๋ ํํน์ด ์ ๋๋ค๊ณ ํ๋๋ฐ ๊ฑฐ๊ธฐ ์ง์ ์ ๋๋์? |
ํ์ต
TeamUNIVA/qwen3_asr_1.7b_ko_beta(๊ทธ ์์ฒด๋ก Qwen/Qwen3-ASR-1.7B๋ฅผ SFT๋ง์ผ๋ก ํ์ธํ๋ํ ๋ชจ๋ธ)์์ ์์ํด, ms-swift๋ฅผ ์ฌ์ฉํ์ฌ ์ ์ฒด ํ๋ผ๋ฏธํฐ๋ฅผ ์
๋ฐ์ดํธํ๋ 4๋จ๊ณ๋ฅผ ์์ฐจ์ ์ผ๋ก ํ์ตํ์ต๋๋ค.
| ๋จ๊ณ | ๋ฐฉ๋ฒ |
|---|---|
| 1 | SFT |
| 2 | RL (GSPO) |
| 3 | SFT |
| 4 | RL (GSPO) |
RL ๋จ๊ณ๋ GSPO(Group Sequence Policy Optimization)๋ฅผ ์ฌ์ฉํ๋ฉฐ, ์ํ๋งํ ์ ์ฌ ๊ฒฐ๊ณผ์ ์ ๋ต ๋๋น ๋ฌธ์ ์ค๋ฅ์จ์ ๋ณด์์ผ๋ก ์ผ์ต๋๋ค.
์ฌ์ฉ๋ฒ
base ๋ชจ๋ธ๊ณผ ๋์ผํ qwen-asr ํจํค์ง๋ฅผ ์ฌ์ฉํฉ๋๋ค.
pip install -U qwen-asr
import torch
from qwen_asr import Qwen3ASRModel
model = Qwen3ASRModel.from_pretrained(
"TeamUNIVA/qwen3_asr_1.7b_ko",
dtype=torch.bfloat16,
device_map="cuda:0",
max_inference_batch_size=32,
max_new_tokens=256,
)
# ์ธ์ด๋ ์๋์ผ๋ก ๊ฐ์ง๋ฉ๋๋ค. ํ๊ตญ์ด๋ก ๊ณ ์ ํ๋ ค๋ฉด
# language="Korean"์ ์ ๋ฌํ์ธ์(qwen-asr๊ฐ ์๊ตฌํ๋ ์ ์ฒด ์ธ์ด ์ด๋ฆ).
results = model.transcribe(
audio="path/to/audio.wav",
)
print(results[0].text)
ํ๊ณ
- ์ด ๋ชจ๋ธ์ ํ๊ตญ์ด ์์ฑ ์ธ์์ ํนํ๋์ด ํ์ธํ๋๋์์ต๋๋ค. ๋ค๋ฅธ ์ธ์ด์์์ ์ฑ๋ฅ์ base ๋ชจ๋ธ๊ณผ ๋น์ทํ๊ฑฐ๋ ๋ณ๋ ๊ฒ์ฆ์ด ํ์ํ ์ ์์ต๋๋ค. ํนํ ์์ด(LibriSpeech) WER์ base ๋ชจ๋ธ๋ณด๋ค ์ฝ๊ฐ ๋์ต๋๋ค(0.0277 vs. 0.0250).
- ํ๊ฐ๋ ์์ ๋์ดํ ๋ฒค์น๋งํฌ ๋ฐ์ดํฐ์ ์ ๊ธฐ์ค์ผ๋ก ํ๋ฉฐ, ์ค์ ์ด์ ํ๊ฒฝ(์์, ํ์ ํธ์ฐจ ๋ฑ)์์๋ ๊ฒฐ๊ณผ๊ฐ ๋ค๋ฅผ ์ ์์ต๋๋ค.
- Downloads last month
- 2,244