参照実装についてよくわからない

実現したいこと

タイトルにもある通り、今の自分がやっている実装において参照実装がどれなのかを知りたいです。

前提

llama.cppを使用して、llama2-7b-chat.Q4_K_M.ggufを動かしています。
llama.cppが実装部分で、llama2-7b~がモデルであることはわかります。
ただ、このとき、参照実装が何かを説明しろと問われたときに詰まってしまいます。

Transformerなのでしょうか？または違った類のものなのでしょうか？
教えていただけると幸いです。
よろしくお願いします。

発生している問題・エラーメッセージ

エラーメッセージ

該当のソースコード

ソースコード

試したこと

ここに問題に対して試したことを記載してください。

補足情報（FW/ツールのバージョンなど）

ここにより詳細な情報を記載してください。

toge_

2024/11/26 18:34

あまり詳しい経緯までは把握していないので、コメントとして回答しておきます。 llama.cppは本来はLLaMAモデルの推論を軽量に動かすためのもので、LLaMAモデルはTransformerに基づいているので、「llama.cppはTransformerの推論部分を実装したもの」というのが無難な回答に思います。「論文で記載されたことを実装したもの」という意味で「参照実装」を使うのならば、対応する論文はTransfomerの論文ではなくLLaMAの論文になってしまうと思います。