Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
神アプデ?Amazon Comprehendで 生成系AIの毒性検出に挑戦!
Search
Champ
November 21, 2023
Technology
0
320
神アプデ?Amazon Comprehendで 生成系AIの毒性検出に挑戦!
Champ
November 21, 2023
Tweet
Share
More Decks by Champ
See All by Champ
【re:Invent 2024 アプデ】 Prompt Routing の紹介
champ
1
470
Amazon BedrockでClaude 3.5 Sonnet v2のComputer useを試す
champ
0
91
【Bedrock×Athena】生成系AIでSlackデータの分析に挑戦
champ
0
170
Amazon Qの全体像を掴んでみよう!
champ
0
59
Bedrockで挑戦! 生成系AIで Slackコミュニケーションの活性化!
champ
0
440
Other Decks in Technology
See All in Technology
GCASアップデート(202506-202508)
techniczna
0
240
会社にデータエンジニアがいることでできるようになること
10xinc
9
1.5k
2025新卒研修・Webアプリケーションセキュリティ #弁護士ドットコム
bengo4com
3
10k
AIエージェント就活入門 - MCPが履歴書になる未来
eltociear
0
280
帳票Vibe Coding
terurou
0
140
生成AI利用プログラミング:誰でもプログラムが書けると 世の中どうなる?/opencampus202508
okana2ki
0
190
モダンな現場と従来型の組織——そこに生じる "不整合" を解消してこそチームがパフォーマンスを発揮できる / Team-oriented Organization Design 20250825
mtx2s
5
500
現場が抱える様々な問題は “組織設計上” の問題によって生じていることがある / Team-oriented Organization Design 20250827
mtx2s
1
650
datadog-distribution-of-opentelemetry-collector-intro
tetsuya28
0
240
Go で言うところのアレは TypeScript で言うとコレ / Kyoto.なんか #7
susisu
1
440
Yahoo!ニュースにおけるソフトウェア開発
lycorptech_jp
PRO
0
310
モダンフロントエンド 開発研修
recruitengineers
PRO
2
130
Featured
See All Featured
Scaling GitHub
holman
462
140k
What’s in a name? Adding method to the madness
productmarketing
PRO
23
3.6k
How to Create Impact in a Changing Tech Landscape [PerfNow 2023]
tammyeverts
53
2.9k
YesSQL, Process and Tooling at Scale
rocio
173
14k
Design and Strategy: How to Deal with People Who Don’t "Get" Design
morganepeng
131
19k
How To Stay Up To Date on Web Technology
chriscoyier
790
250k
Product Roadmaps are Hard
iamctodd
PRO
54
11k
Making Projects Easy
brettharned
117
6.3k
The Success of Rails: Ensuring Growth for the Next 100 Years
eileencodes
46
7.6k
Git: the NoSQL Database
bkeepers
PRO
431
65k
Intergalactic Javascript Robots from Outer Space
tanoku
272
27k
The Cult of Friendly URLs
andyhume
79
6.5k
Transcript
神アプデ? Amazon Comprehendで ⽣成系AIの毒性検出に挑戦! AWS-UG東京 ランチタイムLT会 #5 荒牧慧(Champ)
⽬次 • ⾃⼰紹介 • ⽣成系AIアプリのよくある悩み • 毒性検出機能とは • 構成図 •
デモ • まとめと今後の展望
⾃⼰紹介 • 名前: 荒牧慧(Champ) @MckeeChamp • 好きなAWSサービス: Cloudforma4on Bedrock •
資格:
⽣成系AIアプリの悩み
基盤モデルにガードレールは組み込まれているが、 不適切な情報が⽣成される可能性はある
不適切な情報が⽣成された時に 備える必要がある!
画像はAmazon Rekognitionがある
テキスト毒性検出の マネージドサービスはないのか・・・
Amazon Comprehendに追加されました!
Amazon Comprehendの 毒性検出とは?
Amazon Comprehendの毒性検出とは? OK NG
試してみた
AWS Cloud Claude 2 Lambda Amazon Comprehend 1 2 3
4 構成図
AWS Cloud Claude 2 Lambda Amazon Comprehend 1 構成図 @app
<Prompt> をトリガーにLambdaへリクエスト
AWS Cloud Claude 2 Lambda Amazon Comprehend 2 構成図 Slackから送信されたPromptで
推論を実⾏
AWS Cloud Claude 2 Lambda Amazon Comprehend 3 構成図 Bedrock⽣成テキストを
Amazon Comprehendでチェック
AWS Cloud Claude 2 Lambda Amazon Comprehend 3 構成図
AWS Cloud Claude 2 Lambda Amazon Comprehend 3 構成図
AWS Cloud Claude 2 Lambda Amazon Comprehend 4 構成図 Amazon
Comprehendのチェックの結果 • OK: Bedrock⽣成テキストをSlackに投稿 • NG:毒性が検知された旨を投稿
デモ
AWS Cloud Claude 2 Lambda Amazon Comprehend スキップ
ごめんなさい Bedrockのガードレールが強くて、 Bedrockに不適切なテキストを⽣成させること ができませんでした。。。
デモ
まとめ Amazon Comprehendを使うことで ⽣成系AIアプリに必要なガードレールを簡単に実現可能
ご清聴、 ありがとうございました☺