採用イベント参考資料

Transcript

1. © ABEJA, Inc. 23 事業の状況 RAGとAgent機能の向上 精度及び計算コストパフォーマンスの向上、利用シーンの拡がりにより、LLMの社会実装を強力に推進 実施内容 日本語LLMの 研究開発 開発したLLMや 開発ノウハウを 公開 「ABEJA LLM Series」 として提供 • 知識のカットオフ 「既存」のデータに基づくため最新情報に未対応 • ハルシネーション 事実に基づかない誤情報を生成する可能性がある • LLMの利用時に大規模な計算リソースを消費する • 投資対効果を勘案すると、利用に制約が生じる 情報の質 利用コスト 社会実装への制約要因 • LLMと外部データを結びつけ、外部データの知見を組 み込んだ回答を生成できる技術 • 外部データを入れ替えるだけで、関連する高精度な回 答を行うことが可能 RAG、Agentなどの 周辺技術の向上 研究開発 社会実装 LLMの課題 課題解決 RAG Agent機能 • 入力情報を基にLLMが自律的にアクションを計画・実 行し、外部データを用いた回答が作成可能 • Agent機能の向上を行うことで、LLMの適用範囲がよ り一層拡大 NEDO公募の「ポスト5G情報通信シ ステム基盤強化研究開発事業／ポス ト5G情報通信システムの開発」に、 LLM開発事業案が採択 ⚫ 取組内容： 日本語LLMと周辺技術（RAG、 Agent機能）の研究開発 ⚫ 実施期間：2024年2月～8月 ⚫ 助成対象：主にLLM構築に必要な計算リ ソースに係るコスト NEDO：国立研究開発法人 新エネルギー・産業技術総合開発機構 • 持続可能な社会の実現に必要な研究開発の 推進を通じて、イノベーションを創出する、 国立研究開発法人
2. © ABEJA, Inc. 24 ¶ NEDO助成事業におけるLLM開発の進捗 • 様々な前処理を行い430Bトークン（407B文 字、10TB以上）のデータセットを構築 • オープンソースである Mixtral 8x7B モデルをもと に学習を実施 • Mixtral 8x7Bを活用した100Bのモデルも構築中 • 学習途中であるものの、JasterとMT bench （LLMの日本語精度評価データ）を使った社内 での精度検証において、オープンソースの日本 語LLMの中でトップレベル • 今後GENIACの性能評価を受ける予定 基盤モデル開発 ベンチマークでの評価実施 • よりよい精度を出すことを目的に詳細を計画中 • GENIACのコミュニティ内での勉強会で発表済 • 今後も継続的にノウハウを公開 • ブログで進捗を発表予定 • 日本語LLMの発展に貢献するため、ソースコー ドおよびモデルを公開予定 学習・評価データセット構築 基盤モデルの ポストトレーニングの研究開発 ノウハウの公開 社外コミュニティへの貢献 ※Mixtral 8x7B：いくつかのLLMベンチマークでは Llama 2 70BおよびGPT-3.5の双方をの精度を上回 り、かつ学習速度も早いという報告もあるモデル
3. © ABEJA, Inc. 25 事業の状況 Google Cloudを活用した 今後の取組みについて ⚫ 足元では、NEDO事業において、日本語 LLM及び周辺技術（RAG、Agent）の研 究開発に、Google Cloudを活用 取組み概要 正しい生成AI活用の普及活動 Google Cloudの生成AIサービスに関する検証と技 術支援を行います。 ITやAIに関する高度なナレッジを有さないメンバ ーであっても、短期間で構築が可能な生成AIの開 発サービスを提供します。 ABEJA LLM SeriesとGoogle Cloudの生成AIの相 互連携可能な領域を検討していきます。 中長期的には、Google Cloud上で特定業界や用途 をターゲットにしたLLMの開発及び運用を行い、 Google Cloudユーザーに提供します。 責任あるAI開発実現を目的とした普及のため、イベ ントやメディア掲載などの広報活動を行います。 生成AIサービスに関する検証 生成AI開発サービスの提供 生成AIサービスの相互連携強化 日本における更なる生成AIの利活用を推進するべく、 ABEJAは、Google Cloudとともに、 新たに以下の取組みを進めて参ります
4. © ABEJA, Inc. 26 事業の状況 ～生成AI～ • LLM利活用に向けた全社的な戦略策定の支援を実施 • DX組織だけでなく、経営層、各事業部門との協議を 進め、利活用方針の指針決定を技術観点だけでなく、 ビジネス観点で整理 • 生成AIを含むAIポリシーの策定もあわせて実行 • 利用者の分析やそれを踏まえたコンテンツ制作など、 従来時間のかかっていたWEBサービスのコンテンツ 追加、更新にLLMを活用し効率化、高度化を推進 • 顧客からの問い合わせに対して、顧客窓口となる営 業担当がテクニカルサーポートに確認することなく、 一次回答を可能にするため、LLMを利活用 • 回答に要する工数や時間を削減し、かつ熟練度によ ってばらつきのある回答品質の標準化を実現 WEBサービスのコンテンツ 追加、更新の効率化、高度化 顧客からの問い合わせ 対応へのLLM利活用 • LLM導入後、個人の利用に留まらず、個社独自のデ ータなどを用いた組織的な活用に昇華させるため、 LLM企画・活用人材の育成を支援 • 全社を巻き込んだアイデアソンの企画など • ターゲットとなる顧客の特徴やその他既存情報から、 最適なメール文面を作成するなど、1to1マーケティ ングを実行するための作業補助ツールの開発 • 営業内容の要約や重要箇所抽出だけでなく、会話運 びなどのこれまで見えなかった部分を可視化し、営 業の質に関する分析等を提供 LLM利活用戦略の策定 LLM企画・活用人材育成 1to1マーケティングの支援 営業力のより高い水準での 標準化を支援