Upgrade to Pro — share decks privately, control downloads, hide ads and more …

神アプデ？Amazon Comprehendで 生成系AIの毒性検出に挑戦！

Avatar for Champ Champ
November 21, 2023
Technology
0
360

神アプデ？Amazon Comprehendで 生成系AIの毒性検出に挑戦！

Avatar for Champ

Champ

November 21, 2023
Tweet

More Decks by Champ

See All by Champ
【re:Invent 2024 アプデ】 Prompt Routing の紹介
Avatar for Champ champ
1
520
Amazon BedrockでClaude 3.5 Sonnet v2のComputer useを試す
Avatar for Champ champ
0
110
【Bedrock×Athena】生成系AIでSlackデータの分析に挑戦
Avatar for Champ champ
0
210
Amazon Qの全体像を掴んでみよう！
Avatar for Champ champ
0
73
Bedrockで挑戦! 生成系AIで Slackコミュニケーションの活性化!
Avatar for Champ champ
0
450

Other Decks in Technology

See All in Technology
チーム開発の基礎_研究を事業につなげるために
Avatar for CyberAgent cyberagentdevelopers
PRO
8
3.9k
Claude Codeで実践するスペック駆動開発入門 / sdd-with-claude_code
Avatar for 吉田真吾 yoshidashingo
2
3.2k
欲しいを叶える個人開発の進め方 / How to Run an Indie Project That Brings Your Ideas to Life
Avatar for Endo_Hizumi endohizumi
0
140
Goで実現する堅牢なアーキテクチャ：DDD、gRPC-connect、そしてAI協調開発の実践
Avatar for fujidomoe fujidomoe
3
480
なぜAIは チーム開発を 速くしないのか
Avatar for Go Tanaka tan_go238
8
3.2k
Amazon Rekognitionで 「信玄餅きなこ問題」を解決する
Avatar for usanchuu usanchuu
1
480
Scrum Fest Morioka 2026
Avatar for Yasunobu Kawaguchi kawaguti
PRO
1
410
意外と知ってそうでしらない、Reserved Instances の世界
Avatar for Yuji Masaoka | まっぴぃ mappie_kochi
0
170
生成AIで始める業務改革 - 製造業編 in 福島 -
Avatar for Daiki Kanemitsu daikikanemitsu
2
620
デザインもAIに任せる！iPhoneで行うiOS開発
Avatar for ZOZO Developers zozotech
PRO
0
300
20260222ねこIoTLT　ねこIoTLTをふりかえる
Avatar for フクイ poropinai1966
0
120
Generative UI を試そう！A2-UIでAIエージェントにダッシュボードを作らせてみた
Avatar for Kamoshika kamoshika
1
240

Featured

See All Featured
Visual Storytelling: How to be a Superhuman Communicator
Avatar for David Neal reverentgeek
2
450
The MySQL Ecosystem @ GitHub 2015
Avatar for Sam Lambert samlambert
251
13k
Primal Persuasion: How to Engage the Brain for Learning That Lasts
Avatar for Mike Taylor tmiket
0
270
The innovator’s Mindset - 
Leading Through an Era of Exponential Change - McGill University 2025
Avatar for Jean-Marc De Jonghe jdejongh
PRO
1
100
A brief & incomplete history of 
UX Design for the World Wide Web: 1989–2019
Avatar for Jason CranfordTeague jct
1
310
Designing Experiences People Love
Avatar for Jonathan Moore moore
144
24k
What’s in a name? Adding method to the madness
Avatar for The Alliance productmarketing
PRO
24
3.9k
End of SEO as We Know It (SMX Advanced Version)
Avatar for Michael King ipullrank
3
4k
30 Presentation Tips
Avatar for Ian Lurie portentint
PRO
1
240
Chasing Engaging Ingredients in Design
Avatar for Sebastian Deterding codingconduct
0
120
Mozcon NYC 2025: Stop Losing SEO Traffic
Avatar for Sam Torres samtorres
0
160
AI in Enterprises - Java and Open Source to the Rescue
Avatar for ivargrimstad ivargrimstad
0
1.2k

Transcript

  1. 神アプデ？ Amazon Comprehendで ⽣成系AIの毒性検出に挑戦！ AWS-UG東京 ランチタイムLT会 #5 荒牧慧（Champ）

  2. ⽬次 • ⾃⼰紹介 • ⽣成系AIアプリのよくある悩み • 毒性検出機能とは • 構成図 •

    デモ • まとめと今後の展望

  3. ⾃⼰紹介 • 名前： 荒牧慧（Champ） @MckeeChamp • 好きなAWSサービス： Cloudforma4on Bedrock •

    資格：

  4. ⽣成系AIアプリの悩み

  5. 基盤モデルにガードレールは組み込まれているが、 不適切な情報が⽣成される可能性はある

  6. 不適切な情報が⽣成された時に 備える必要がある！

  7. 画像はAmazon Rekognitionがある

  8. テキスト毒性検出の マネージドサービスはないのか・・・

  9. Amazon Comprehendに追加されました！

  10. Amazon Comprehendの 毒性検出とは？

  11. Amazon Comprehendの毒性検出とは？ OK NG

  12. 試してみた

  13. AWS Cloud Claude 2 Lambda Amazon Comprehend 1 2 3

    4 構成図

  14. AWS Cloud Claude 2 Lambda Amazon Comprehend 1 構成図 @app

    <Prompt> をトリガーにLambdaへリクエスト

  15. AWS Cloud Claude 2 Lambda Amazon Comprehend 2 構成図 Slackから送信されたPromptで

    推論を実⾏

  16. AWS Cloud Claude 2 Lambda Amazon Comprehend 3 構成図 Bedrock⽣成テキストを

    Amazon Comprehendでチェック

  17. AWS Cloud Claude 2 Lambda Amazon Comprehend 3 構成図

  18. AWS Cloud Claude 2 Lambda Amazon Comprehend 3 構成図

  19. AWS Cloud Claude 2 Lambda Amazon Comprehend 4 構成図 Amazon

    Comprehendのチェックの結果 • OK： Bedrock⽣成テキストをSlackに投稿 • NG：毒性が検知された旨を投稿

  20. デモ

  21. AWS Cloud Claude 2 Lambda Amazon Comprehend スキップ

  22. ごめんなさい Bedrockのガードレールが強くて、 Bedrockに不適切なテキストを⽣成させること ができませんでした。。。

  23. デモ

  24. まとめ Amazon Comprehendを使うことで ⽣成系AIアプリに必要なガードレールを簡単に実現可能

  25. ご清聴、 ありがとうございました☺