Upgrade to Pro — share decks privately, control downloads, hide ads and more …

神アプデ？Amazon Comprehendで 生成系AIの毒性検出に挑戦！

Avatar for Champ Champ
November 21, 2023
Technology
0
310

神アプデ？Amazon Comprehendで 生成系AIの毒性検出に挑戦！

Avatar for Champ

Champ

November 21, 2023
Tweet

More Decks by Champ

See All by Champ
【re:Invent 2024 アプデ】 Prompt Routing の紹介
Avatar for Champ champ
1
450
Amazon BedrockでClaude 3.5 Sonnet v2のComputer useを試す
Avatar for Champ champ
0
88
【Bedrock×Athena】生成系AIでSlackデータの分析に挑戦
Avatar for Champ champ
0
150
Amazon Qの全体像を掴んでみよう！
Avatar for Champ champ
0
54
Bedrockで挑戦! 生成系AIで Slackコミュニケーションの活性化!
Avatar for Champ champ
0
430

Other Decks in Technology

See All in Technology
ビズリーチが挑む メトリクスを活用した技術的負債の解消 / dev-productivity-con2025
Avatar for Visional Engineering ＆ Design visional_engineering_and_design
2
5.1k
Witchcraft for Memory
Avatar for pocke pocke
1
730
怖くない！はじめてのClaude Code
Avatar for Shinya Masadome（東京AI祭） shinya337
0
330
生成AIで小説を書くためにプロンプトの制約や原則について学ぶ / prompt-engineering-for-ai-fiction
Avatar for nwiizo nwiizo
6
4k
Lambda Web Adapterについて自分なりに理解してみた
Avatar for Makky12 smt7174
5
150
AWS Organizations 新機能！マルチパーティ承認の紹介
Avatar for yhana yhana
1
240
Tokyo_reInforce_2025_recap_iam_access_analyzer
Avatar for h-ashisan hiashisan
0
170
Tech-Verse 2025 Keynote
Avatar for LINEヤフーTech (LY Corporation Tech) lycorptech_jp
PRO
0
1.6k
製造業からパッケージ製品まで、あらゆる領域をカバー！生成AIを利用したテストシナリオ生成 / 20250627 Suguru Ishii
Avatar for SHIFT EVOLVE shift_evolve
PRO
1
160
整頓のジレンマとの戦い〜Tidy First?で振り返る事業とキャリアの歩み〜/Fighting the tidiness dilemma〜Business and Career Milestones Reflected on in Tidy First?〜
Avatar for 株式会社ビットキー / Bitkey Inc. bitkey
1
11k
United Airlines Customer Service– Call 1-833-341-3142 Now!
Avatar for vivankilkenny548+imnfc airhelp
0
110
WordPressから ヘッドレスCMSへ! Storyblokへの移行プロセス
Avatar for Nagisa Yata nyata
0
390

Featured

See All Featured
Gamification - CAS2011
Avatar for David Bonilla davidbonilla
81
5.3k
Connecting the Dots Between Site Speed, User Experience & Your Business [WebExpo 2025]
Avatar for Tammy Everts tammyeverts
5
250
Faster Mobile Websites
Avatar for Dean Hume deanohume
307
31k
Reflections from 52 weeks, 52 projects
Avatar for Jefferson Lam jeffersonlam
351
20k
Save Time (by Creating Custom Rails Generators)
Avatar for Garrett Dimon garrettdimon
PRO
31
1.3k
jQuery: Nuts, Bolts and Bling
Avatar for Doug Neiner dougneiner
63
7.8k
Put a Button on it: Removing Barriers to Going Fast.
Avatar for kastner kastner
60
3.9k
Building Flexible Design Systems
Avatar for Yesenia Perez-Cruz yeseniaperezcruz
328
39k
BBQ
Avatar for Matthew Crist matthewcrist
89
9.7k
Unsuck your backbone
Avatar for Amy Palamountain ammeep
671
58k
A Tale of Four Properties
Avatar for Chris Coyier chriscoyier
160
23k
Rails Girls Zürich Keynote
Avatar for Gregor Martynus gr2m
94
14k

Transcript

  1. 神アプデ？ Amazon Comprehendで ⽣成系AIの毒性検出に挑戦！ AWS-UG東京 ランチタイムLT会 #5 荒牧慧（Champ）

  2. ⽬次 • ⾃⼰紹介 • ⽣成系AIアプリのよくある悩み • 毒性検出機能とは • 構成図 •

    デモ • まとめと今後の展望

  3. ⾃⼰紹介 • 名前： 荒牧慧（Champ） @MckeeChamp • 好きなAWSサービス： Cloudforma4on Bedrock •

    資格：

  4. ⽣成系AIアプリの悩み

  5. 基盤モデルにガードレールは組み込まれているが、 不適切な情報が⽣成される可能性はある

  6. 不適切な情報が⽣成された時に 備える必要がある！

  7. 画像はAmazon Rekognitionがある

  8. テキスト毒性検出の マネージドサービスはないのか・・・

  9. Amazon Comprehendに追加されました！

  10. Amazon Comprehendの 毒性検出とは？

  11. Amazon Comprehendの毒性検出とは？ OK NG

  12. 試してみた

  13. AWS Cloud Claude 2 Lambda Amazon Comprehend 1 2 3

    4 構成図

  14. AWS Cloud Claude 2 Lambda Amazon Comprehend 1 構成図 @app

    <Prompt> をトリガーにLambdaへリクエスト

  15. AWS Cloud Claude 2 Lambda Amazon Comprehend 2 構成図 Slackから送信されたPromptで

    推論を実⾏

  16. AWS Cloud Claude 2 Lambda Amazon Comprehend 3 構成図 Bedrock⽣成テキストを

    Amazon Comprehendでチェック

  17. AWS Cloud Claude 2 Lambda Amazon Comprehend 3 構成図

  18. AWS Cloud Claude 2 Lambda Amazon Comprehend 3 構成図

  19. AWS Cloud Claude 2 Lambda Amazon Comprehend 4 構成図 Amazon

    Comprehendのチェックの結果 • OK： Bedrock⽣成テキストをSlackに投稿 • NG：毒性が検知された旨を投稿

  20. デモ

  21. AWS Cloud Claude 2 Lambda Amazon Comprehend スキップ

  22. ごめんなさい Bedrockのガードレールが強くて、 Bedrockに不適切なテキストを⽣成させること ができませんでした。。。

  23. デモ

  24. まとめ Amazon Comprehendを使うことで ⽣成系AIアプリに必要なガードレールを簡単に実現可能

  25. ご清聴、 ありがとうございました☺