質問編集履歴
3
誤字修正
test
CHANGED
|
File without changes
|
test
CHANGED
|
@@ -5,7 +5,7 @@
|
|
|
5
5
|
**ノーコードツールの[Dify](https://cloud.dify.ai/apps)とHugging Faceの[meta-llama/Meta-Llama-3.1-8B-Instruct](https://huggingface.co/meta-llama/Meta-Llama-3.1-8B-Instruct)モデルを連携させたいと考えています。**
|
|
6
6
|
|
|
7
7
|
### 発生している問題・分からないこと
|
|
8
|
-
|
|
8
|
+
前モデルの[meta-llama/Meta-Llama-3-8B-Instruct](https://huggingface.co/meta-llama/Meta-Llama-3-8B-Instruct)との連携は問題がないのですが、Llama3.1の場合後述のエラーメッセージが表示され、連携がされません。
|
|
9
9
|
ご知見がある方、解決方法をご教授いただけないでしょうか。
|
|
10
10
|
|
|
11
11
|
### 発生している問題・エラー
|
|
@@ -24,6 +24,6 @@
|
|
|
24
24
|
- [ ] その他
|
|
25
25
|
|
|
26
26
|
##### 上記の詳細・結果
|
|
27
|
-
このモデルが`text-generation-inference`でないというエラーかと推測しましたが、
|
|
27
|
+
このモデルが`text-generation-inference`でないというエラーかと推測しましたが、前モデル同様`text-generation-inference`の記載があることを確認しております。
|
|
28
28
|
|
|
29
29
|
|
2
誤字修正
test
CHANGED
|
@@ -1 +1 @@
|
|
|
1
|
-
DifyとHuggig Faceの`meta-llama/Meta-Llama-3.1-8B-Instruct`モデル連携のエラー
|
|
1
|
+
DifyとHugging Faceの`meta-llama/Meta-Llama-3.1-8B-Instruct`モデル連携のエラー
|
test
CHANGED
|
File without changes
|
1
誤字修正
test
CHANGED
|
File without changes
|
test
CHANGED
|
@@ -1,7 +1,7 @@
|
|
|
1
|
-
### 実現したいこと
|
|
2
|
-
※本QAは他サイト
|
|
1
|
+
※本QAは他サイト([Qiita](https://qiita.com/vanchan2625/questions/bfb880effa947e88b0ce))でマルチポストしております。
|
|
3
2
|
他のサイトで回答やヒントなどの情報が得られた場合、自己回答で情報共有させていただきます。
|
|
4
3
|
|
|
4
|
+
### 実現したいこと
|
|
5
5
|
**ノーコードツールの[Dify](https://cloud.dify.ai/apps)とHugging Faceの[meta-llama/Meta-Llama-3.1-8B-Instruct](https://huggingface.co/meta-llama/Meta-Llama-3.1-8B-Instruct)モデルを連携させたいと考えています。**
|
|
6
6
|
|
|
7
7
|
### 発生している問題・分からないこと
|
|
@@ -9,19 +9,12 @@
|
|
|
9
9
|
ご知見がある方、解決方法をご教授いただけないでしょうか。
|
|
10
10
|
|
|
11
11
|
### 発生している問題・エラー
|
|
12
|
-
|
|
13
12
|
|
|
14
13
|
|
|
15
14
|
|
|
16
15
|
### エラーメッセージ
|
|
17
16
|
```error
|
|
18
17
|
Only available for models running on with the `text-generation-inference`. To learn more about the TGI project, please refer to https://github.com/huggingface/text-generation-inference.
|
|
19
|
-
```
|
|
20
|
-
|
|
21
|
-
### 該当のソースコード
|
|
22
|
-
|
|
23
|
-
```
|
|
24
|
-
特になし
|
|
25
18
|
```
|
|
26
19
|
|
|
27
20
|
### 試したこと・調べたこと
|
|
@@ -34,6 +27,3 @@
|
|
|
34
27
|
このモデルが`text-generation-inference`でないというエラーかと推測しましたが、全モデル同様`text-generation-inference`の記載があることを確認しております。
|
|
35
28
|
|
|
36
29
|
|
|
37
|
-
|
|
38
|
-
### 補足
|
|
39
|
-
特になし
|