Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
神アプデ?Amazon Comprehendで 生成系AIの毒性検出に挑戦!
Search
Champ
November 21, 2023
Technology
0
320
神アプデ?Amazon Comprehendで 生成系AIの毒性検出に挑戦!
Champ
November 21, 2023
Tweet
Share
More Decks by Champ
See All by Champ
【re:Invent 2024 アプデ】 Prompt Routing の紹介
champ
1
460
Amazon BedrockでClaude 3.5 Sonnet v2のComputer useを試す
champ
0
89
【Bedrock×Athena】生成系AIでSlackデータの分析に挑戦
champ
0
160
Amazon Qの全体像を掴んでみよう!
champ
0
55
Bedrockで挑戦! 生成系AIで Slackコミュニケーションの活性化!
champ
0
430
Other Decks in Technology
See All in Technology
Amazon Q Developerを活用したアーキテクチャのリファクタリング
k1nakayama
2
180
VLMサービスを用いた請求書データ化検証 / SaaSxML_Session_1
sansan_randd
0
210
Google Cloud で学ぶデータエンジニアリング入門 2025年版 #GoogleCloudNext / 20250805
kazaneya
PRO
11
2.7k
大規模イベントに向けた ABEMA アーキテクチャの遍歴 ~ Platform Strategy 詳細解説 ~
nagapad
0
190
Claude CodeでKiroの仕様駆動開発を実現させるには...
gotalab555
3
870
LLM 機能を支える Langfuse / ClickHouse のサーバレス化
yuu26
3
120
私とAWSとの関わりの歩み~意志あるところに道は開けるかも?~
nagisa53
1
160
AIに目を奪われすぎて、周りの困っている人間が見えなくなっていませんか?
cap120
1
430
LLMをツールからプラットフォームへ〜Ai Workforceの戦略〜 #BetAIDay
layerx
PRO
1
850
LLMで構造化出力の成功率をグンと上げる方法
keisuketakiguchi
0
350
Vision Language Modelと自動運転AIの最前線_20250730
yuyamaguchi
3
1.1k
Amazon Bedrock AgentCoreのフロントエンドを探す旅 (Next.js編)
kmiya84377
1
100
Featured
See All Featured
Side Projects
sachag
455
43k
RailsConf & Balkan Ruby 2019: The Past, Present, and Future of Rails at GitHub
eileencodes
139
34k
The Success of Rails: Ensuring Growth for the Next 100 Years
eileencodes
46
7.5k
Intergalactic Javascript Robots from Outer Space
tanoku
272
27k
The Cost Of JavaScript in 2023
addyosmani
51
8.7k
Fantastic passwords and where to find them - at NoRuKo
philnash
51
3.4k
Visualization
eitanlees
146
16k
Easily Structure & Communicate Ideas using Wireframe
afnizarnur
194
16k
Visualizing Your Data: Incorporating Mongo into Loggly Infrastructure
mongodb
47
9.6k
Site-Speed That Sticks
csswizardry
10
750
The World Runs on Bad Software
bkeepers
PRO
70
11k
Balancing Empowerment & Direction
lara
1
530
Transcript
神アプデ? Amazon Comprehendで ⽣成系AIの毒性検出に挑戦! AWS-UG東京 ランチタイムLT会 #5 荒牧慧(Champ)
⽬次 • ⾃⼰紹介 • ⽣成系AIアプリのよくある悩み • 毒性検出機能とは • 構成図 •
デモ • まとめと今後の展望
⾃⼰紹介 • 名前: 荒牧慧(Champ) @MckeeChamp • 好きなAWSサービス: Cloudforma4on Bedrock •
資格:
⽣成系AIアプリの悩み
基盤モデルにガードレールは組み込まれているが、 不適切な情報が⽣成される可能性はある
不適切な情報が⽣成された時に 備える必要がある!
画像はAmazon Rekognitionがある
テキスト毒性検出の マネージドサービスはないのか・・・
Amazon Comprehendに追加されました!
Amazon Comprehendの 毒性検出とは?
Amazon Comprehendの毒性検出とは? OK NG
試してみた
AWS Cloud Claude 2 Lambda Amazon Comprehend 1 2 3
4 構成図
AWS Cloud Claude 2 Lambda Amazon Comprehend 1 構成図 @app
<Prompt> をトリガーにLambdaへリクエスト
AWS Cloud Claude 2 Lambda Amazon Comprehend 2 構成図 Slackから送信されたPromptで
推論を実⾏
AWS Cloud Claude 2 Lambda Amazon Comprehend 3 構成図 Bedrock⽣成テキストを
Amazon Comprehendでチェック
AWS Cloud Claude 2 Lambda Amazon Comprehend 3 構成図
AWS Cloud Claude 2 Lambda Amazon Comprehend 3 構成図
AWS Cloud Claude 2 Lambda Amazon Comprehend 4 構成図 Amazon
Comprehendのチェックの結果 • OK: Bedrock⽣成テキストをSlackに投稿 • NG:毒性が検知された旨を投稿
デモ
AWS Cloud Claude 2 Lambda Amazon Comprehend スキップ
ごめんなさい Bedrockのガードレールが強くて、 Bedrockに不適切なテキストを⽣成させること ができませんでした。。。
デモ
まとめ Amazon Comprehendを使うことで ⽣成系AIアプリに必要なガードレールを簡単に実現可能
ご清聴、 ありがとうございました☺