「地方局がBedrock を使った 業務改善に 挑戦している話」2023.11/4 - AWSカーニバル

Transcript

1. 地方局が Bedrock を使った 業務改善に 挑戦している 話 AWSカーニバル ~秋の祭典スペシャル！~ 2023.11/04 杉本歩基
2. 自己紹介 ・北海道文化放送所属（フジテレビ系列） ・メイン業務は、データ放送とか視聴者プレゼントとか。 ・AWS歴は2年。（QuickSight以外は半年くらい） ・EC2とかVPCとか触ったことないです。 ・マネコン大好きです。
3. 弊社開発メンバー 開発者（私） 合計1名
4. 当初は、視聴率分析の ダッシュボードを説明する予定 Bedrockが GAされたタイミングで...
5. 当初は、視聴率分析の ダッシュボードを説明する予定 Q：「11月にしゃべれるよね！」 A：「頑張ります！！」
6. 当初は、視聴率分析の ダッシュボードを説明する予定 「地方局がBedrockを使った 　　業務改善に挑戦している話」
7. そもそも Bedrockって？ Amazon Bedrock は、 大手 AI 企業が提供する高性能な基盤モデル (FM) を単一の API で選択できるフルマネー ジド型サービスです。 使い慣れた AWS サービスを使用して、生 成系 AI 機能をアプリケーションに安全に統 合してデプロイできます。 *公式から抜粋
8. そもそも Bedrockって？ Amazon Bedrock は、 大手 AI 企業が提供する高性能な基盤モデル (FM) を単一の API で選択できるフルマネー ジド型サービスです。 使い慣れた AWS サービスを使用して、生 成系 AI 機能をアプリケーションに安全に統 合してデプロイできます。 *公式から抜粋 AWSで 生成AI 使えるよ。
9. 今回Bedrockで使用したモデル Anthropic-Claude v2 【特徴】 ・日本語に対応 ・最大入力token数　100K ・料金：On-Demand 　　　　input: $0.01102 per 1k token 　　　　output: $0.03268 per 1k token クロード
10. 引用: Rakuda Ranking of Japanese AI
11. じゃあ弊社では、何に使おうか。 ・もともと、今年の4月末くらいから、 　Amplifyで報道用の業務改善WEBアプリを作って運用していた。 ・もともと、作っていたアプリに機能として乗っけたほうがよさそう ・そもそも、報道現場とフィットしそうな予感がする 報道現場の業務改善を目指す！
12. もともと作っていたものの機能 ・FAXをOCR（文字認識）して文字情報へ変換し、検索可能 ・テキスト原稿から、Amazon Pollyを使用してmp3に
13. FAX...とは？ ファクシミリ（英語: facsimile）は、文字や図形、写真などの静止画像 を、電気信号に変換して送受信する通信方式、またはその用途で使用す る機器である。通称はFAX（ファックスまたはファクス）。 概要 一般的なFAXは、静止画像を電子データに変換するイメージスキャナ、 電子データを送受信するための電気信号に変換するモデム、電子データ を印字するためのプリンタが組み合わさった装置である。通信回線とし ては、有線と無線の両方が用いられるが、一般的には公衆交換電話網が 利用される。(Wiki抜粋) ＊本当に知らない人はWikiを... ピーヒョロロロのやつです。
14. FAXをOCRする
15. このデータを使おう。 具体的には… ①OCRした文章と取材内容を 　元にBedrockで原稿を作成。 ②出力された原稿を手直しして、 　Pollyで音声を作成
16. こんな流れが理想 自動 手動 FAX 選択 取材 取材情報 DB 原稿作成 原稿修正 音声作成
17. 最終的にはこんな感じに。
18. 原稿化したい資料を選んで...
19. AppSync経由でDynamoDBへ...
20. 音声の作成へ...
21. Page 1: 報道機関各社様 札幌市円山動物園 アジアゾウが誕生しました アジアゾウ 「パール」 と生まれた仔 ページ 01/03 円山動物園ニュース 令和5年(2023年)8月20日 SAPPORO アジアゾウの「パール」 (2003年9月12日 生まれ、 19歳) が、 令和5年(2023年)8 月19日 (土曜日)に、無事に仔ゾウ1 頭を出 産しました。 現時点で性別は不明です。 当園では、 平成30年 (2018年) 11月にミャ ンマーからアジアゾウ4頭が来園して以降、 繁殖に取り組んでまいりました。 父親は 「シーシュ」 (2008年8月4日生まれ、 15 歳)です。 アジアゾウ 「パール」 は、 今月に入り、 出産が近づいてきた兆候と思われる行動が観 察できるようになり、 15 日に黄体ホルモ ン… FAX→文字 アジアゾウの子供が 生まれた話を例に…
22. OCRと取材情報→タイトルと原稿 取材情報： ・国内では17例目、道内では初 ・お母さん象のパールとお父さん象のシーシュの子 ・園長のコメント「とにかくパールが頑張ってくれた。 ・これまで応援してくださった皆様には感謝申し上げます。」 ・8月19日 22:39頃生まれた 「北海道初の快挙 円山動物園 でアジアゾウの出産に成功」 原稿 タイトル 札幌市円山動物園で8月19日夜、 同園で飼育されているアジアゾウ のメス「パール」(19歳)が、オス ゾウ「シーシュ」(15歳)との間に 無事に仔ゾウを出産した。 円山動物園では2018年からアジ アゾウの繁殖に取り組んできた... Page 1: 報道機関各社様 札幌市円山動物園 アジアゾウが誕生しました アジアゾウ 「パール」 と生まれた仔 ページ 01/03 円山動物園ニュース 令和5年(2023年)8月20日 SAPPORO アジアゾウの「パール」 (2003年9月12日生まれ、 19歳) が、 令和5年(2023年)8 月19日 (土曜日)に、無事に仔ゾウ1 頭を出産しま…
23. 原稿を修正→音声合成へ 「北海道初の快挙 円山動物園 でアジアゾウの出産に成功」 原稿 タイトル 札幌市円山動物園で8月19日夜、 同園で飼育されているアジアゾウ のメス「パール」(19歳)が、オス ゾウ「シーシュ」(15歳)との間に 無事に仔ゾウを出産した。 円山動物園では2018年からアジ アゾウの繁殖に取り組んできた... Amazon Polly
24. タイトル：「北海道初の快挙 円山動物園でアジアゾウの出産に成功」 札幌市円山動物園で8月19日夜、同園で飼育されているアジアゾウのメス「パ ール」(19歳)が、オスゾウ「シーシュ」(15歳)との間に無事に仔ゾウを出産し た。 円山動物園では2018年からアジアゾウの繁殖に取り組んできたが、北海道で のアジアゾウの出産は今回が初。園長は「パールが頑張ってくれた。応援して くださった皆様に感謝」と喜びのコメントを出した。 出産前からパールのホルモン値の変化を確認し、24時間体制で観察。22時39 分頃、無事に出産を迎えることができた。 母ゾウと仔ゾウの健康状態は良好だという。ゾウ舎の一部は出産後に一時閉鎖 されたが、順次公開される見込み。国内でのアジアゾウの出産はこれで17例 目。北海道初の快挙と言え、今後の成長が期待される。 実際の出力結果
25. 報道デスク 記者2年目 くらいは 書けてるわ。
26. 報道デスク 全然これOK！！ どっちにしろ修正 するから
27. 今回の実装で やった少し 細かい話 ・まずはPlaygroundsでテスト ・Lambdaのマネコン上でテスト ・LangChainを使用 ・トークン数 ・なかなか言うこと聞いて 　くれないこと
28. まずはPlaygroundsでテスト
29. Lambdaのマネコン上でテスト 【注意】boto3で試すのであれば、1.28.57以降 ・いろんなモデルを試せる、 　us-east-1で。 ・promptにやりたいことを。 ・modelIdに試したいモデルを。 ・困ったら、Playgroundsで 　入力してコピペ。
30. Lambdaのマネコン上でテスト
31. LangChainとは？ LangChain は、LLMを使用した アプリケーション開発を効率的にするための 便利なライブラリ ・検索を加えて最新情報に対応 ・callbackとか使えたり ・PDFとかPowerPointとかのデータを 使えたり …etc
32. LangChain使用 1.Chains: OCR→要約→原稿作成 2.OutputParser: 　生成AIの出力の型を定義するプロンプト を作ってくれる（JSONでとか...）
33. - 札幌市円山動物園のアジアゾウ「パール」が 　8月19日に仔ゾウ1頭を出産した。 - パールは19歳。父親は「シーシュ」(15歳)。 - 円山動物園では2018年からアジアゾウの繁殖に 　取り組んでおり、これが北海道初のアジアゾウの 　出産。 - 出産前にパールのホルモン値の変化を確認。 　24時間体制で観察し、無事に出産。 - パールと仔ゾウの健康状態は良好。授乳も確認。 - ゾウ舎の屋内展示場は一時閉鎖。状況を見守りなが 　ら順次公開予定。 Page 1: 報道機関各社様 札幌市円山動物園 アジアゾウが誕生しました アジアゾウ 「パール」 と生まれた仔 ページ 01/03 円山動物園ニュース 令和5年(2023年)8月20日 SAPPORO アジアゾウの「パール」 (2003年9月12日 生まれ、 19歳) が、 令和5年(2023年)8 月19日 (土曜日)に、無事に仔ゾウ1 頭を出 産しました。 現時点で性別は不明です。 当園では、 平成30年 (2018年) 11月にミャ ンマーからアジアゾウ4頭が来園して以降、 繁殖に取り組んでまいりました。 父親は 「シーシュ」 (2008年8月4日生まれ、 15 歳)です。 アジアゾウ 「パール」 は、 今月に入り、 出産が近づいてきた兆候と思われる行動が観 察できるようになり、 15 日に黄体ホルモ ン… Chains: OCR→要約→原稿作成
34. 「札幌・円山動物園で アジアゾウの出産 道内初の仔ゾウ誕生」 原稿 タイトル 札幌市円山動物園で8月19日、園 内で飼育されているアジアゾウの メス「パール」が仔ゾウを出産し た。 パールは19歳で、父親は同園のオ スゾウ「シーシュ」。 円山動物園では2018年からアジ... 出力形式をJSONで3パターン 「道内初の快挙 円山 動物園でアジアゾウの 出産」 原稿 タイトル 札幌市円山動物園で8月19日夜、 同園で飼育されているアジアゾウ のメス「パール」(19歳)が仔ゾウ を出産した。 父親は同園のオスゾウ「シーシ ュ」(15歳)。円山動物園では 2018年からアジアゾウの繁殖... 「北海道初の快挙 円 山動物園でアジアゾウ の出産に成功」 原稿 タイトル 札幌市円山動物園で8月19日夜、 同園で飼育されているアジアゾウ のメス「パール」(19歳)が、オス ゾウ「シーシュ」(15歳)との間に 無事に仔ゾウを出産した。 円山動物園では2018年からアジ アゾウの繁殖に取り組んできた...
35. トークン数 input とoutput合わせて：1000~5000 なかなか言うこと聞いてくれないこと 文字数： →制限はうまくいくが、程度はうまくいかないことが多い ひらがなにする： →
36. 素敵なBedrockライフを！