Upgrade to Pro — share decks privately, control downloads, hide ads and more …
Sign up for free

神アプデ？Amazon Comprehendで 生成系AIの毒性検出に挑戦！

Sponsored · Your Podcast. Everywhere. Effortlessly. Share. Educate. Inspire. Entertain. You do you. We'll handle the rest. →
Avatar for Champ Champ
November 21, 2023
Technology
410
0

神アプデ？Amazon Comprehendで 生成系AIの毒性検出に挑戦！

Avatar for Champ

Champ

November 21, 2023

More Decks by Champ

See All by Champ
MCPサーバー、AWSのどこに置く？
Avatar for Champ champ
0
160
Kiro CLI 徹底解剖
Avatar for Champ champ
0
48
Amazon Bedrockの自動推論チェックを検証！
Avatar for Champ champ
0
33
【re:Invent 2024 アプデ】 Prompt Routing の紹介
Avatar for Champ champ
1
580
Amazon BedrockでClaude 3.5 Sonnet v2のComputer useを試す
Avatar for Champ champ
0
150
【Bedrock×Athena】生成系AIでSlackデータの分析に挑戦
Avatar for Champ champ
0
250
Amazon Qの全体像を掴んでみよう！
Avatar for Champ champ
0
99
Bedrockで挑戦! 生成系AIで Slackコミュニケーションの活性化!
Avatar for Champ champ
0
490

Other Decks in Technology

See All in Technology
『GOエコノミー 』(相乗りサービス) におけるスペック駆動開発
Avatar for GO Inc. dev mot_techtalk
1
120
オブザーバビリティを高める AI エージェント体験を考える / Designing AI Agent Experiences That Enhance Observability
Avatar for Kento Kimura aoto
PRO
1
130
AWS DevOps Agent スキルをつかいこなそう / Master AWS DevOps Agent Skills
Avatar for Masanori Yamaguchi kinunori
2
650
BedrockとLambdaで作る リアルタイム進行型推理ゲーム
Avatar for kawai kawametho
0
140
20260929_AmazonGuardDutyの検出通知メールにAWS DevOpsAgentの調査結果を追加する
Avatar for yhana yhana
1
400
PQC移行の今 -- IETF からみた現在地
Avatar for 菅野 哲 / Satoru Kanno satokan
4
720
キャリアLT今日までそして明日から
Avatar for Hiroo Katoh kentapapa
1
140
AI Native Platform Engineering 〜PlatformとAgileで“作る速さ”を“価値”へ〜
Avatar for Yuya Mizorogi uya116
0
570
Lambda MicroVMsは常駐サーバーの代わりに なるか？ Kiro Crew を動かして検証してみた / Kiro Crew on Lambda MicroVMs
Avatar for Kazuki Adachi k_adachi_01
2
340
OpenClawでAzure DevOpsのWiki更新を自動化する - クラウドAIだけでは届かない場所へ
Avatar for yutakaosada yutakaosada
0
140
データ品質を壊しながらSnowflakeのAIに分析させてみた
Avatar for かわなご kawanago
0
340
Oracle Base Database Service 技術詳細
Avatar for oracle4engineer oracle4engineer
PRO
16
120k

Featured

See All Featured
Hiding What from Whom? A Critical Review of the History of Programming languages for Music
Avatar for Tomoya Matsuura tomoyanonymous
3
1.3k
More Than Pixels: Becoming A User Experience Designer
Avatar for Michelle Schulp Hunt marktimemedia
3
540
Data-driven link building: lessons from a $708K investment (BrightonSEO talk)
Avatar for Szymon Słowik szymonslowik
1
1.3k
Pawsitive SEO: Lessons from My Dog (and Many Mistakes) on Thriving as a Consultant in the Age of AI
Avatar for David Carrasco davidcarrasco
0
250
Amusing Abliteration
Avatar for ianozsvald ianozsvald
1
320
30 Presentation Tips
Avatar for Ian Lurie portentint
PRO
1
410
SERP Conf. Vienna - Web Accessibility: Optimizing for Inclusivity and SEO
Avatar for Sara Fernández Carmona sarafernandez
2
1.6k
The Myth of the Modular Monolith - Day 2 Keynote - Rails World 2024
Avatar for Eileen M. Uchitelle eileencodes
28
3.7k
GraphQLとの向き合い方2022年版
Avatar for Yosuke Kurami quramy
50
15k
Paper Plane
Avatar for Katie Cordina Lindsey katiecoart
PRO
4
53k
ピンチをチャンスに：未来をつくるプロダクトロードマップ #pmconf2020
Avatar for Aki / @LoveIdahoBurger aki_iinuma
128
56k
No one is an island. Learnings from fostering a developers community.
Avatar for Antonio thoeni
21
3.8k

Transcript

  1. 神アプデ？ Amazon Comprehendで ⽣成系AIの毒性検出に挑戦！ AWS-UG東京 ランチタイムLT会 #5 荒牧慧（Champ）

  2. ⽬次 • ⾃⼰紹介 • ⽣成系AIアプリのよくある悩み • 毒性検出機能とは • 構成図 •

    デモ • まとめと今後の展望

  3. ⾃⼰紹介 • 名前： 荒牧慧（Champ） @MckeeChamp • 好きなAWSサービス： Cloudforma4on Bedrock •

    資格：

  4. ⽣成系AIアプリの悩み

  5. 基盤モデルにガードレールは組み込まれているが、 不適切な情報が⽣成される可能性はある

  6. 不適切な情報が⽣成された時に 備える必要がある！

  7. 画像はAmazon Rekognitionがある

  8. テキスト毒性検出の マネージドサービスはないのか・・・

  9. Amazon Comprehendに追加されました！

  10. Amazon Comprehendの 毒性検出とは？

  11. Amazon Comprehendの毒性検出とは？ OK NG

  12. 試してみた

  13. AWS Cloud Claude 2 Lambda Amazon Comprehend 1 2 3

    4 構成図

  14. AWS Cloud Claude 2 Lambda Amazon Comprehend 1 構成図 @app

    <Prompt> をトリガーにLambdaへリクエスト

  15. AWS Cloud Claude 2 Lambda Amazon Comprehend 2 構成図 Slackから送信されたPromptで

    推論を実⾏

  16. AWS Cloud Claude 2 Lambda Amazon Comprehend 3 構成図 Bedrock⽣成テキストを

    Amazon Comprehendでチェック

  17. AWS Cloud Claude 2 Lambda Amazon Comprehend 3 構成図

  18. AWS Cloud Claude 2 Lambda Amazon Comprehend 3 構成図

  19. AWS Cloud Claude 2 Lambda Amazon Comprehend 4 構成図 Amazon

    Comprehendのチェックの結果 • OK： Bedrock⽣成テキストをSlackに投稿 • NG：毒性が検知された旨を投稿

  20. デモ

  21. AWS Cloud Claude 2 Lambda Amazon Comprehend スキップ

  22. ごめんなさい Bedrockのガードレールが強くて、 Bedrockに不適切なテキストを⽣成させること ができませんでした。。。

  23. デモ

  24. まとめ Amazon Comprehendを使うことで ⽣成系AIアプリに必要なガードレールを簡単に実現可能

  25. ご清聴、 ありがとうございました☺