$30 off During Our Annual Pro Sale. View Details »

神アプデ？Amazon Comprehendで 生成系AIの毒性検出に挑戦！

Avatar for Champ Champ
November 21, 2023
Technology
0
350

神アプデ？Amazon Comprehendで 生成系AIの毒性検出に挑戦！

Avatar for Champ

Champ

November 21, 2023
Tweet

More Decks by Champ

See All by Champ
【re:Invent 2024 アプデ】 Prompt Routing の紹介
Avatar for Champ champ
1
500
Amazon BedrockでClaude 3.5 Sonnet v2のComputer useを試す
Avatar for Champ champ
0
99
【Bedrock×Athena】生成系AIでSlackデータの分析に挑戦
Avatar for Champ champ
0
200
Amazon Qの全体像を掴んでみよう！
Avatar for Champ champ
0
70
Bedrockで挑戦! 生成系AIで Slackコミュニケーションの活性化!
Avatar for Champ champ
0
450

Other Decks in Technology

See All in Technology
MariaDB Connector/C のcaching_sha2_passwordプラグインの仕様について
Avatar for kubo ayumu boro1234
0
1k
Connection-based OAuthから学ぶOAuth for AI Agents
Avatar for GMO Flatt Security flatt_security
0
260
高度サイバー人材育成専科資料（前半）
Avatar for Nomizo Nomizo nomizone
0
450
[Data & AI Summit '25 Fall] AIでデータ活用を進化させる！Google Cloudで作るデータ活用の未来
Avatar for kirimaru kirimaru
0
190
202512_AIoT.pdf
Avatar for AIxIoTビジネス共創ラボ iotcomjpadmin
0
110
ExpoのインダストリーブースでみたAWSが見せる製造業の未来
Avatar for 濱田孝治 hamadakoji
0
190
2025-12-18_AI駆動開発推進プロジェクト運営について / AIDD-Promotion project management
Avatar for yayoi_dd yayoi_dd
0
150
2025年 開発生産「可能」性向上報告 サイロ解消からチームが能動性を獲得するまで/ 20251216 Naoki Takahashi
Avatar for SHIFT EVOLVE shift_evolve
PRO
2
210
SQLだけでマイグレーションしたい！
Avatar for MakKi makki_d
0
1.2k
マイクロサービスへの5年間 ぶっちゃけ何をしてどうなったか
Avatar for Tomohiro Hashidate joker1007
17
7.4k
なぜ あなたはそんなに re:Invent に行くのか？
Avatar for Kazuki Miura miu_crescent
PRO
0
120
Strands AgentsとNova 2 SonicでS2Sを実践してみた
Avatar for Yuuki Yamashita yama3133
1
1.5k

Featured

See All Featured
Abbi's Birthday
Avatar for Violet Bock coloredviolet
0
3.6k
Testing 201, or: Great Expectations
Avatar for Joseph Mastey jmmastey
46
7.8k
How GitHub (no longer) Works
Avatar for Zach Holman holman
316
140k
First, design no harm
Avatar for Per Axbom axbom
PRO
1
1.1k
Claude Code のすすめ
Avatar for schroneko schroneko
65
200k
"I'm Feeling Lucky" - Building Great Search Experiences for Today's Users (#IAC19)
Avatar for Dan Newman danielanewman
231
22k
Building an army of robots
Avatar for Kyle Neath kneath
306
46k
Beyond borders and beyond the search box: How to win the global "messy middle" with AI-driven SEO
Avatar for David Carrasco davidcarrasco
0
22
The Language of Interfaces
Avatar for Des Traynor destraynor
162
25k
How to Create Impact in a Changing Tech Landscape [PerfNow 2023]
Avatar for Tammy Everts tammyeverts
55
3.2k
JAMstack: Web Apps at Ludicrous Speed - All Things Open 2022
Avatar for David Neal reverentgeek
1
290
Thoughts on Productivity
Avatar for Jon Yablonski jonyablonski
73
5k

Transcript

  1. 神アプデ？ Amazon Comprehendで ⽣成系AIの毒性検出に挑戦！ AWS-UG東京 ランチタイムLT会 #5 荒牧慧（Champ）

  2. ⽬次 • ⾃⼰紹介 • ⽣成系AIアプリのよくある悩み • 毒性検出機能とは • 構成図 •

    デモ • まとめと今後の展望

  3. ⾃⼰紹介 • 名前： 荒牧慧（Champ） @MckeeChamp • 好きなAWSサービス： Cloudforma4on Bedrock •

    資格：

  4. ⽣成系AIアプリの悩み

  5. 基盤モデルにガードレールは組み込まれているが、 不適切な情報が⽣成される可能性はある

  6. 不適切な情報が⽣成された時に 備える必要がある！

  7. 画像はAmazon Rekognitionがある

  8. テキスト毒性検出の マネージドサービスはないのか・・・

  9. Amazon Comprehendに追加されました！

  10. Amazon Comprehendの 毒性検出とは？

  11. Amazon Comprehendの毒性検出とは？ OK NG

  12. 試してみた

  13. AWS Cloud Claude 2 Lambda Amazon Comprehend 1 2 3

    4 構成図

  14. AWS Cloud Claude 2 Lambda Amazon Comprehend 1 構成図 @app

    <Prompt> をトリガーにLambdaへリクエスト

  15. AWS Cloud Claude 2 Lambda Amazon Comprehend 2 構成図 Slackから送信されたPromptで

    推論を実⾏

  16. AWS Cloud Claude 2 Lambda Amazon Comprehend 3 構成図 Bedrock⽣成テキストを

    Amazon Comprehendでチェック

  17. AWS Cloud Claude 2 Lambda Amazon Comprehend 3 構成図

  18. AWS Cloud Claude 2 Lambda Amazon Comprehend 3 構成図

  19. AWS Cloud Claude 2 Lambda Amazon Comprehend 4 構成図 Amazon

    Comprehendのチェックの結果 • OK： Bedrock⽣成テキストをSlackに投稿 • NG：毒性が検知された旨を投稿

  20. デモ

  21. AWS Cloud Claude 2 Lambda Amazon Comprehend スキップ

  22. ごめんなさい Bedrockのガードレールが強くて、 Bedrockに不適切なテキストを⽣成させること ができませんでした。。。

  23. デモ

  24. まとめ Amazon Comprehendを使うことで ⽣成系AIアプリに必要なガードレールを簡単に実現可能

  25. ご清聴、 ありがとうございました☺