Upgrade to Pro — share decks privately, control downloads, hide ads and more …

BedrockUpdatesPost-GW Summary

BedrockUpdatesPost-GW Summary

Bedrock最新情報 GW以降のアプデ総まとめ

hedgehog051

June 25, 2024
Tweet

More Decks by hedgehog051

Other Decks in Technology

Transcript

  1. ɾ3"(΍ΤʔδΣϯτͷύϑΥʔϚϯεͷ࠷దԽ ɾΤϯϓϥάϨʔυͷςΩετੜ੒ͰϋΠύϑΥʔϚϯεΛൃشग़དྷΔΑ ͏ઃܭ テキストモデル名 Maxトークン 料金(入出力1,000トークン) Titan Text G1 -

    Premier (New!!) 32K 0.0005USD/0.0015USD Titan Text G1 - Express 8K 0.0002USD/0.0006USD Titan Text G1 - Lite 4K 0.00015USD/0.0002USD  IUUQTBXTBNB[PODPNKQBCPVUBXTXIBUTOFXBNB[POUJUBOUFYUQSFNJFSBNB[POCFESPDL "NB[PO5JUBO5FYU1SFNJFS͕("
  2. モデル名 概要 Mistral 7B Instruct 2023年9月リリースされたモデル Mixtral 8x7B Instruct SMoE(Sparse

    Mixtures of Experts)採用モデル Mistral Large 高複雑度タスク向けの最高レベルモデル Mistral Small (New!!) 低レイテンシワークロード向けのコスパ重視モデル  IUUQTBXTBNB[PODPNKQBCPVUBXTXIBUTOFXBNB[POCFESPDLNJTUSBMTNBMMGPVOEBUJPONPEFM .JTUSBM"*ͷ.JTUSBM4NBMM͕("
  3.  IUUQTBXTBNB[PODPNKQBCPVUBXTXIBUTOFXDMBVEFTPOOFUIBJLVBNB[POCFESPDLGSBOLGVSU SFHJPO リージョン 4POOFU )BJLV N. Virginia YES YES

    Oregon YES YES Mumbai YES YES Sydney YES YES Canada YES YES Frankfurt (New!!) YES YES Ireland YES YES London YES YES Paris YES YES São Paulo YES YES $MBVEF4POOFUͱ)BJLV͕ϑϥϯΫϑϧτϦʔδϣϯͰ("
  4. 従来 アップデート後 全てのコレクションタイプの最小単位 1 OCU 0.5 OCU 本番用途(冗長構成) 最低4つのOCU 最低2つのOCU

    0QFO4FBSDI4FSWFSMFTTΛ༻͍ͨຊ൪޲͚3"(؀ڥͰخ͍͠ʂ  IUUQTBXTBNB[PODPNKQBCPVUBXTXIBUTOFXBNB[POPQFOTFBSDITFSWFSMFTTFOUSZDPTUIBMG DPMMFDUJPOUZQFT "NB[PO0QFO4FBSDI4FSWFSMFTTͰɺ࠷খ୯Ґ͕0$6ʹ
  5.  IUUQTBXTBNB[PODPNKQBCPVUBXTXIBUTOFXBNB[POCFESPDLMPOEPOTBPQBVMPDBOBEB DFOUSBMSFHJPOT リージョン #FESPDL N. Virginia YES Oregon YES

    Mumbai YES Singapore YES Sydney YES Tokyo YES Canada (New!!) YES Frankfurt YES Ireland YES London (New!!) YES Paris YES São Paulo (New!!) YES "NB[PO#FESPDL͕ϩϯυϯɺαϯύ΢ϩɺΧφμͰ("
  6. guardrail_config = { “guardrailIdentifier”: guardrail_id, "guardrailVersion": guardrail_version, "trace": "enabled" }

    response = bedrock_client.converse( modelId=model_id, messages=messages, guardrailConfig=guardrail_config ) ˡΨʔυϨʔϧ*%Λࢦఆ ˡΨʔυϨʔϧόʔδϣϯΛࢦఆ  IUUQTEPDTBXTBNB[PODPNCFESPDLMBUFTUVTFSHVJEFHVBSESBJMTVTFDPOWFSTFBQJIUNM $POWFSTF"1*ͰΨʔυϨʔϧΛ࢖༻Ͱ͖ΔΑ͏ʹ
  7.  IUUQTBXTBNB[PODPNKQBCPVUBXTXIBUTOFXBJMBCTKBNCBJOTUSVDUNPEFMBNB[POCFESPDL "*-BCTͷ+BNCB*OTUSVDUϞσϧ͕(" モデル名 Maxトークン数 料金(入出力1,000トークン) Jurassic-2 Mid 8K 0.0125USD/0.0125USD

    Jurassic-2 Ultra 8K 0.0188USD/0.0188USD Jamba-Instruct (New!!) 256K 0.0005USD/0.0007USD ίϯςΩετ΢Οϯυ΢͕ैདྷͷಉࣾϞσϧ͔Βେ͖͘6Qʂ ରԠݴޠӳޠ ˞+BNCB")ZCSJE5SBOTGPSNFS.BNCB-BOHVBHF.PEFM छྨͷχϡʔϥϧωοτϫʔΫΞʔΩςΫνϟΛ૊Έ߹ΘͤͨݴޠϞσϧ