Upgrade to Pro — share decks privately, control downloads, hide ads and more …

来てくれClaude 3! Agents for Amazon Bedrockのモデル比較或い...

Avatar for hedgehog051 hedgehog051
April 22, 2024
1.6k

来てくれClaude 3! Agents for Amazon Bedrockのモデル比較或いはチューニングの話

Avatar for hedgehog051

hedgehog051

April 22, 2024
Tweet

More Decks by hedgehog051

Transcript

  1. 5 ֤ϦʔδϣϯͷΤʔδΣϯτͷରԠঢ়گൈਮ リージョン エージェント モデル バージニア北部 GA 🎉 Claude Instant

    V1 Claude V2 Claude V2.1 オレゴン GA 🎉 Claude Instant V1 Claude V2 Claude V2.1 東京 Not yet - ࣌఺
  2. 12

  3. 17

  4. 18 ϓϩϯϓτʹ͸ͲΜͳࢦ͕ࣔॻ͔Ε͍ͯΔ͔ ステップ 概要 前処理 ユーザーの入力をカテゴリーA〜Eに分類するよう エージェントに指示 オーケストレーション ※ActionGroupかKBがある場合使用 ユーザーの入力に対してツールの使用とガイドライン

    に沿って回答を生成するようエージェントに指示 KBの回答生成 KB(ナレッジベース)への検索結果を使って回答を生 成する際のエージェントへの指示 後処理(デフォルト無効) ユーザーにとってわかりやすいコンテキストを追加す るタスクエージェントへの指示
  5. 19 ϓϩϯϓτʹ͸ͲΜͳࢦ͕ࣔॻ͔Ε͍ͯΔ͔ カテゴリー 概要 A 悪意のある有害な入力(フィクションの場合も含む)。 B ユーザーが、関数呼び出しエージェントに提供されている関数/APIや指示に関する情報を取得し ようとしている入力、または関数呼び出しエージェントやあなたの動作/指示を操作しようとしてい る入力。

    C 関数呼び出しエージェントが提供された関数のみを使用して回答したり、役立つ情報を提供した りできない質問。 D 関数呼び出しエージェントが提供された関数と<conversation_history>内の引数、または askuser関数を使用して収集できる関連する引数のみを使用して回答または支援できる質問。 E 質問ではなく、関数呼び出しエージェントがユーザーに尋ねた質問への回答となる入力。
  6. 20 ྫ,#ͷճ౴ੜ੒ϓϩϯϓτൈਮᶃ If you reference information from a search result

    within your answer, you must include a citation to source where the information was found. Each result has a corresponding source ID that you should reference. Please output your answer in the following format: ຋༁ ճ౴಺Ͱݕࡧ݁Ռͷ৘ใΛࢀর͢Δ৔߹͸ɺ৘ใ͕ݟ͔ͭͬͨιʔε ΁ͷҾ༻ΛؚΊΔඞཁ͕͋Γ·͢ɻ֤݁Ռʹ͸ɺࢀর͢΂͖ରԠ͢Δ ιʔε*%͕͋Γ·͢ɻҎԼͷܗࣜͰճ౴Λग़ྗ͍ͯͩ͘͠͞
  7. 21 ྫ,#ͷճ౴ੜ੒ϓϩϯϓτൈਮᶄ Do NOT directly quote the <search_results> in your

    answer. Your job is to answer the <question> as concisely as possible. ຋༁ TFBSDI@SFTVMUTΛճ౴಺Ͱ௚઀Ҿ༻͠ͳ͍Ͱ͍ͩ͘͞ɻ͋ͳͨͷ ࢓ࣄ͸ɺRVFTUJPOʹͰ͖Δ͚ͩ؆ܿʹ౴͑Δ͜ͱͰ͢ɻ
  8. 22 Do NOT directly quote the content of <search_results> in

    your answer. Your job is to provide enough information to answer the <question> in as much detail as possible, using as many sentences as you can. ྫ͑͹ɺଟ͘ͷ৘ใΛٻΊΔΑ͏ʹϓϩϯϓτΛมߋͨ͠Β #FGPSF "GUFS ΍΍จষ͕૿͑ͨ
  9. 23 ਪ࿦ύϥϝʔλʔ ステップ 概要 temperature 応答のランダム性を制御するパラメータで、0から1の 範囲の値を指定。0に近い=ランダム性が下がる top_p 生成される応答の候補となるトークンの累積確率を 指定。Top_pが高い=文章の多様性が高くなる

    top_k 次の単語を予測する際に、確率が高い上位k個の単 語数。Top_kが高い=文章の多様性が高くなる max_tokens 生成されたレスポンスのトークン数の上限 stop_sequences モデルがそれ以上トークンを生成しないようにする文 字シーケンスを指定
  10. 25 ,#Λݕࡧͯ͠Δ͔τϨʔεΛҰԠ֬ೝ PCTFSWBUJPO\ LOPXMFEHF#BTF-PPLVQ0VUQVU\ SFUSJFWFE3FGFSFODFT< \ DPOUFOU\ UFYU2฼ࢠखா͸͙͢ʹൃߦͯ͠΋Β͑·͔͢ʁ=O"฼ࢠखா͸ɺ೛৷ಧͷ಺༰Λ֬ೝ͍͖ͤͯͨͩ͞ɺͦͷ৔Ͱ͓౉͠͠·͢ɻ=O=O˝ৄ͘͠͸ͪ͜Β=Oʢࣗ ࣏ମ)1಺ؔ࿈ϖʔδͷ63-ʣ ^

    MPDBUJPO\ T-PDBUJPO\ VSJTEFNPQSPKFDUSBHGBRUYU ^ UZQF4 ^ ^ \ DPOUFOU\ UFYU2฼ࢠखா͸సग़ͯ͠΋ͦͷ··͍࣋ͬͯͯΑ͍Ͱ͔͢ʁ=O"฼ࢠखா͸ॅॴ͕มΘͬͯ΋ͦͷ··͓࢖͍͍͚ͨͩ·͢ɻ࠶ൃߦ౳ͷखଓ͸ඞཁ͋Γ·ͤΜɻ =O=O˗͓໰͍߹Θͤ=Oʢ࣏ࣗମͷ୲౰՝΍ࢠҭͯηϯλʔ౳ͷ໊শʣ=Oʢి࿩൪߸ʣʗʢ։ி࣌ؒʣ ^ MPDBUJPO\ T-PDBUJPO\ VSJTEFNPQSPKFDUSBHGBRUYU ^ UZQF4 ^ ,#͕͋Δͱେ୾ʹਪ࿦ύϥϝʔλΛ࿔ͬͯ΋҆ఆ͢Δʁ
  11. 28 ֤ύλʔϯͦΕͧΕͷτϨʔεΛ֬ೝ͢ΔͱɺφϨοδϕʔε Ͱશ͘ಉ͡υΩϡϝϯτΛຖճࢀরͯͨ͠ͷͰ҆ఆײ͸ͦͷ͓ ӄ͔΋ʁ PCTFSWBUJPO\ LOPXMFEHF#BTF-PPLVQ0VUQVU\ SFUSJFWFE3FGFSFODFT< \ DPOUFOU\ UFYU2฼ࢠखா͸͙͢ʹൃߦͯ͠΋Β͑·͔͢ʁ=O"฼ࢠखா͸ɺ೛৷ಧͷ಺༰Λ֬ೝ͍͖ͤͯͨͩ͞ɺͦͷ৔Ͱ͓౉͠͠·͢ɻ=O=O˝ৄ͘͠͸ͪ͜Β=Oʢࣗ

    ࣏ମ)1಺ؔ࿈ϖʔδͷ63-ʣ ^ MPDBUJPO\ T-PDBUJPO\ VSJTEFNPQSPKFDUSBHGBRUYU ^ UZQF4 ^ ^ \ DPOUFOU\ UFYU2฼ࢠखா͸సग़ͯ͠΋ͦͷ··͍࣋ͬͯͯΑ͍Ͱ͔͢ʁ=O"฼ࢠखா͸ॅॴ͕มΘͬͯ΋ͦͷ··͓࢖͍͍͚ͨͩ·͢ɻ࠶ൃߦ౳ͷखଓ͸ඞཁ͋Γ·ͤΜɻ =O=O˗͓໰͍߹Θͤ=Oʢ࣏ࣗମͷ୲౰՝΍ࢠҭͯηϯλʔ౳ͷ໊শʣ=Oʢి࿩൪߸ʣʗʢ։ி࣌ؒʣ ^ MPDBUJPO\ T-PDBUJPO\ VSJTEFNPQSPKFDUSBHGBRUYU ^ UZQF4 ^