【AI】リコー、モデルマージで“GPT-4レベル”の大規模言語モデル開発 [田杉山脈★]->画像>1枚

リコーは9月30日、モデルマージ技術によって高性能な日本語大規模言語モデル（LLM）を開発したと発表した。東京工業大学などが開発したLLM「Llama-3-Swallow-70B」をベースにしたAIモデルで、米OpenAIのLLM「GPT-4」と同等の性能を持つとしている。

モデルマージとは、複数の学習済みのLLMモデルを組み合わせて、より性能の高いモデルを作る方法のこと。

　リコーは今回、Llama-3-Swallow-70Bをベースにしてモデルマージを実行。Metaの指示学習済みモデルから抽出した「Chat Vector」（AIモデルから抽出した指示追従能力のベクトルのこと）と、リコーが作成したChat Vectorを独自のノウハウでマージさせて、新たなLLMを開発した。

　開発したLLMは、日本語性能の評価指標「ELYZA-tasks-100」でGPT-4と同等のスコアを記録。また、比較対象にした他のLLMでは、タスクによって回答を英語でする場合もあったが、リコー製のLLMは全てのタスクに対して日本語で回答し、高い安定性を示したという。

リコーは「AIを実際の業務に適用するには、企業固有の用語や言い回しなどを含む大量のテキストデータをLLMに学習させ、その企業独自のAIモデル（プライベートLLM）を作成する必要がある」と指摘。モデルマージ技術は、プライベートLLMや特定業務向けの高性能LLMの開発の効率化につながるとし、今後も研究開発を進める方針を示した。
https://www.itmedia.co.jp/aiplus/articles/2409/30/news174.html

で？

すごいじゃん

いや
メタの上に作っただけ
自慢する話じゃない

何がすごいのかわからんただのメタ社の技術じゃん

メタをOSと考えてその上で動くソフトウェアのリコーGPT
境界知能はこう書いても理解できないか？w

＞企業固有の用語や言い回しなどを含む大量のテキストデータをLLMに学習させ

データ改竄指示の隠語とか拝承とかで作り上げられたAIか
この世の地獄を見せてくれそうだな

フォントとか儲からんことばっかやってないか？

>>1
モデルマージというのは知らなかったが、強化学習とは違うのか？

日本はいつも乱立して全てが細かくてグローバルで負ける
そろそろまとまって作ることを覚えろ

SFTしたってだけだろ　GPT4と同等ならあえてこれを使う必要ない

スゴいコピー機が出来るのかな？
リコピーだっけ？？

社員が趣味でやったんかな

>>9
モデル利用してるだけの、スレタイ詐欺みたいなもん

もそもそ作ってすらいない。
土台をつくらずに何をしたいのか？

だから？って内容だよね

境界知能が凄いw

闇鍋みたいな雰囲気マージでしょ

>>6
ウソ
フェイク

>>6
だからバカが例え話をしちゃダメだとあれほど