Upgrade to Pro — share decks privately, control downloads, hide ads and more …

神アプデ？Amazon Comprehendで 生成系AIの毒性検出に挑戦！

Avatar for Champ Champ
November 21, 2023
Technology
0
330

神アプデ？Amazon Comprehendで 生成系AIの毒性検出に挑戦！

Avatar for Champ

Champ

November 21, 2023
Tweet

More Decks by Champ

See All by Champ
【re:Invent 2024 アプデ】 Prompt Routing の紹介
Avatar for Champ champ
1
480
Amazon BedrockでClaude 3.5 Sonnet v2のComputer useを試す
Avatar for Champ champ
0
93
【Bedrock×Athena】生成系AIでSlackデータの分析に挑戦
Avatar for Champ champ
0
180
Amazon Qの全体像を掴んでみよう！
Avatar for Champ champ
0
61
Bedrockで挑戦! 生成系AIで Slackコミュニケーションの活性化!
Avatar for Champ champ
0
440

Other Decks in Technology

See All in Technology
Create Ruby native extension gem with Go
Avatar for sue445 sue445
0
130
スクラムガイドに載っていないスクラムのはじめかた - チームでスクラムをはじめるときに知っておきたい勘所を集めてみました！ - / How to start Scrum that is not written in the Scrum Guide 2nd
Avatar for TAKAKING22 takaking22
2
200
未経験者・初心者に贈る！40分でわかるAndroidアプリ開発の今と大事なポイント
Avatar for operandoOS operando
6
750
現場で効くClaude Code ─ 最新動向と企業導入
Avatar for TakaakiKakei takaakikakei
1
260
Snowflake Intelligence × Document AIで“使いにくいデータ”を“使えるデータ”に
Avatar for Kosaku Ono kevinrobot34
1
120
「Linux」という言葉が指すもの
Avatar for Satoru Takeuchi sat
PRO
4
140
20250913_JAWS_sysad_kobe
Avatar for Takuya Yonezawa takuyay0ne
2
250
20250905_MeetUp_Ito-san_s_presentation.pdf
Avatar for MagicPod magicpod
1
100
react-callを使ってダイヤログをいろんなとこで再利用しよう！
Avatar for shinaps shinaps
2
270
はじめてのOSS開発からみえたGo言語の強み
Avatar for shibutani shibukazu
3
990
RSCの時代にReactとフレームワークの境界を探る
Avatar for uhyo uhyo
10
3.5k
今日から始めるAWSセキュリティ対策 3ステップでわかる実践ガイド
Avatar for 吉田 岳史 yoshidatakeshi1994
0
120

Featured

See All Featured
The Cost Of JavaScript in 2023
Avatar for Addy Osmani addyosmani
53
8.9k
Product Roadmaps are Hard
Avatar for C. Todd Lombardo iamctodd
PRO
54
11k
StorybookのUI Testing Handbookを読んだ
Avatar for Shingo Yamazaki zakiyama
31
6.1k
jQuery: Nuts, Bolts and Bling
Avatar for Doug Neiner dougneiner
64
7.9k
Principles of Awesome APIs and How to Build Them.
Avatar for Keavy McMinn keavy
126
17k
How to Create Impact in a Changing Tech Landscape [PerfNow 2023]
Avatar for Tammy Everts tammyeverts
53
3k
Speed Design
Avatar for Sergey Chernyshev sergeychernyshev
32
1.1k
JavaScript: Past, Present, and Future - NDC Porto 2020
Avatar for David Neal reverentgeek
52
5.6k
Automating Front-end Workflow
Avatar for Addy Osmani addyosmani
1370
200k
Producing Creativity
Avatar for Steve Smith orderedlist
PRO
347
40k
The Success of Rails: Ensuring Growth for the Next 100 Years
Avatar for Eileen M. Uchitelle eileencodes
46
7.6k
Mobile First: as difficult as doing things right
Avatar for Swwweet swwweet
224
9.9k

Transcript

  1. 神アプデ？ Amazon Comprehendで ⽣成系AIの毒性検出に挑戦！ AWS-UG東京 ランチタイムLT会 #5 荒牧慧（Champ）

  2. ⽬次 • ⾃⼰紹介 • ⽣成系AIアプリのよくある悩み • 毒性検出機能とは • 構成図 •

    デモ • まとめと今後の展望

  3. ⾃⼰紹介 • 名前： 荒牧慧（Champ） @MckeeChamp • 好きなAWSサービス： Cloudforma4on Bedrock •

    資格：

  4. ⽣成系AIアプリの悩み

  5. 基盤モデルにガードレールは組み込まれているが、 不適切な情報が⽣成される可能性はある

  6. 不適切な情報が⽣成された時に 備える必要がある！

  7. 画像はAmazon Rekognitionがある

  8. テキスト毒性検出の マネージドサービスはないのか・・・

  9. Amazon Comprehendに追加されました！

  10. Amazon Comprehendの 毒性検出とは？

  11. Amazon Comprehendの毒性検出とは？ OK NG

  12. 試してみた

  13. AWS Cloud Claude 2 Lambda Amazon Comprehend 1 2 3

    4 構成図

  14. AWS Cloud Claude 2 Lambda Amazon Comprehend 1 構成図 @app

    <Prompt> をトリガーにLambdaへリクエスト

  15. AWS Cloud Claude 2 Lambda Amazon Comprehend 2 構成図 Slackから送信されたPromptで

    推論を実⾏

  16. AWS Cloud Claude 2 Lambda Amazon Comprehend 3 構成図 Bedrock⽣成テキストを

    Amazon Comprehendでチェック

  17. AWS Cloud Claude 2 Lambda Amazon Comprehend 3 構成図

  18. AWS Cloud Claude 2 Lambda Amazon Comprehend 3 構成図

  19. AWS Cloud Claude 2 Lambda Amazon Comprehend 4 構成図 Amazon

    Comprehendのチェックの結果 • OK： Bedrock⽣成テキストをSlackに投稿 • NG：毒性が検知された旨を投稿

  20. デモ

  21. AWS Cloud Claude 2 Lambda Amazon Comprehend スキップ

  22. ごめんなさい Bedrockのガードレールが強くて、 Bedrockに不適切なテキストを⽣成させること ができませんでした。。。

  23. デモ

  24. まとめ Amazon Comprehendを使うことで ⽣成系AIアプリに必要なガードレールを簡単に実現可能

  25. ご清聴、 ありがとうございました☺