Skip to content

Commit 434f42a

Browse files
committed
Fix: オフライン環境で BERT モデルのロードに1分余計に待たされる問題を修正
BERT モデルのロード時にリビジョンを指定しない場合毎回 Hugging Face への通信が発生し、オフライン環境では 60 秒でタイムアウトするまで待たされることに今更気づいた… 明示的にコミットハッシュでリビジョンを指定したことで、オンライン環境でもロード時間が短縮されるメリットもある
1 parent a72ec77 commit 434f42a

File tree

1 file changed

+4
-0
lines changed

1 file changed

+4
-0
lines changed

voicevox_engine/tts_pipeline/style_bert_vits2_tts_engine.py

+4
Original file line numberDiff line numberDiff line change
@@ -149,18 +149,22 @@ def __init__(
149149
# 音声合成に必要な BERT モデル・トークナイザーを読み込む
150150
## 最新のモデルがまだローカルにキャッシュされていない場合は、自動的にネットワークからダウンロードされる
151151
## 一度ロードしておけば、同じプロセス内でグローバルに保持される
152+
## リビジョンを指定しない場合毎回 Hugging Face への通信が発生し、オフライン環境では 60 秒でタイムアウトするまで待たされるので、
153+
## 明示的にコミットハッシュでリビジョンを指定している (こうすることで、オンライン環境でもロード時間が短縮されるメリットもある)
152154
start_time = time.time()
153155
logger.info("Loading BERT model and tokenizer...")
154156
onnx_bert_models.load_model(
155157
language=Languages.JP,
156158
pretrained_model_name_or_path="tsukumijima/deberta-v2-large-japanese-char-wwm-onnx",
157159
onnx_providers=self.onnx_providers,
158160
cache_dir=str(self.BERT_MODEL_CACHE_DIR),
161+
revision="d701ec67708287b20d2063270f6b535e6eed09ab",
159162
)
160163
onnx_bert_models.load_tokenizer(
161164
language=Languages.JP,
162165
pretrained_model_name_or_path="tsukumijima/deberta-v2-large-japanese-char-wwm-onnx",
163166
cache_dir=str(self.BERT_MODEL_CACHE_DIR),
167+
revision="d701ec67708287b20d2063270f6b535e6eed09ab",
164168
)
165169
logger.info(
166170
f"BERT model and tokenizer loaded. ({time.time() - start_time:.2f}s)"

0 commit comments

Comments
 (0)