Upgrade to Pro — share decks privately, control downloads, hide ads and more …

プロンプトに対する攻撃と対策 / Attacks Against Prompts and Co...

Avatar for Kenji Saito Kenji Saito
PRO
May 11, 2024
Technology
0
120

プロンプトに対する攻撃と対策 / Attacks Against Prompts and Countermeasures

早稲田大学大学院経営管理研究科「プロンプトエンジニアリング ─ 生成AIの応用」2024 春のオンデマンド教材 第9回で使用したスライドです。
Avatar for Kenji Saito

Kenji Saito
PRO

May 11, 2024
Tweet

More Decks by Kenji Saito

See All by Kenji Saito
01 を動かす〜音声で対話できる自動化されたアシスタント / Running 01 - Automated Assistant with Voice Interaction
Avatar for Kenji Saito ks91
PRO
0
3
AGI (Artificial General Intelligence) の論点 / AGI (Artificial General Intelligence) Issues
Avatar for Kenji Saito ks91
PRO
0
2
Open Interpreter を動かす 〜 自動化されたアシスタントの誕生 / Running Open Interpreter - The Birth of an Automated Assistant
Avatar for Kenji Saito ks91
PRO
0
7
Linux 仮想マシンを動かす(Windows 編)(Mac 編) / Running a Linux Virtual Machine (Windows Edition) (Mac Edition)
Avatar for Kenji Saito ks91
PRO
0
13
(メタ・) ネイチャーポジティブと物質・エネルギーの循環経済 / Being (Meta-)Nature Positive and the Circular Economy of Materials and Energy
Avatar for Kenji Saito ks91
PRO
0
3
対話による知の拡張 / Extending Knowledge Through Dialogue
Avatar for Kenji Saito ks91
PRO
0
35
プロンプトに対する攻撃と対策 / Attacks Against Prompts and Countermeasures
Avatar for Kenji Saito ks91
PRO
0
34
傾聴の理論 〜 傾聴する相棒の創り方 / Theory of Listening and How to Create a Listening Partner
Avatar for Kenji Saito ks91
PRO
0
32
試作とデモンストレーション / Prototyping and Demonstrations
Avatar for Kenji Saito ks91
PRO
0
140

Other Decks in Technology

See All in Technology
Docker Compose で手軽に手元環境を実現する / Simplifying Local Environments with Docker Compose #CinemaDeLT
Avatar for nabeo nabeo
0
200
AIによるコードレビューで開発体験を向上させよう！
Avatar for Atsushi Nakatsugawa moongift
PRO
0
450
Новые мапы в Go. Вова Марунин, Clatch, МТС
Avatar for Lamoda Tech lamodatech
0
2.1k
genspark_presentation.pdf
Avatar for h.uriu haruki_uiru
1
260
UIパフォーマンス最適化: AIを活用して100倍の速度向上を実現した事例
Avatar for kinocoboy kinocoboy2
1
340
大規模サーバーレスプロジェクトのリアルな零れ話
Avatar for mai miya maimyyym
3
230
木を見て森も見る－モジュールが織りなすプロダクトの森
Avatar for KNOWLEDGE WORK / 株式会社ナレッジワーク kworkdev
PRO
0
220
SRE本出版からまもなく10年！〜これまでに何が起こり、これから何が起こるのか〜
Avatar for katsuhisa_ katsuhisa91
PRO
0
350
Google Cloud Next 2025 Recap 生成AIモデルとマーケティングでのコンテンツ生成 / Generative AI models and content creation in marketing
Avatar for Kyohei Saito kyou3
0
240
AOAI で AI アプリを開発する時にまず考えたいこと
Avatar for Yuji Masaoka | まっぴぃ mappie_kochi
1
730
時間がないなら、つくればいい 〜数十人規模のチームが自律性を発揮するために試しているいくつかのこと〜
Avatar for KAKEHASHI kakehashi
PRO
23
5.7k
続・やっぱり余白が大切だった話
Avatar for KAKEHASHI kakehashi
PRO
4
340

Featured

See All Featured
Build your cross-platform service in a week with App Engine
Avatar for Jose L jlugia
231
18k
Six Lessons from altMBA
Avatar for Skipper Chong Warson skipperchong
28
3.8k
Optimising Largest Contentful Paint
Avatar for Harry Roberts csswizardry
37
3.2k
Making Projects Easy
Avatar for Brett Harned brettharned
116
6.2k
Music & Morning Musume
Avatar for Bryan Veloso bryan
47
6.5k
Fireside Chat
Avatar for paigeccino paigeccino
37
3.4k
Let's Do A Bunch of Simple Stuff to Make Websites Faster
Avatar for Chris Coyier chriscoyier
507
140k
A designer walks into a library…
Avatar for Paul Jervis Heath pauljervisheath
205
24k
Navigating Team Friction
Avatar for Lara Hogan lara
185
15k
GraphQLの誤解/rethinking-graphql
Avatar for sonatard sonatard
71
11k
Fantastic passwords and where to find them - at NoRuKo
Avatar for Phil Nash philnash
51
3.2k
The MySQL Ecosystem @ GitHub 2015
Avatar for Sam Lambert samlambert
251
12k

Transcript

  1. Generated by Stable Diffusion XL v1.0 — AI 2024 9

    (WBS) 2024 9 — 2024-05 – p.1/14

  2. https://speakerdeck.com/ks91/collections/prompt-engineering-2024-spring 2024 9 — 2024-05 – p.2/14

  3. ( 20 ) 1 • 2 • 3 Discord &

    • 4 • 5 • 6 RPG • 7 “September 12th” • 8 • 9 • 10 ∼ 11 Linux (Windows )(Mac ) 12 Open Interpreter ∼ 13 14 AGI (Artificial General Intelligence) 7 (5/6 ) / (2 ) OK / 2024 9 — 2024-05 – p.3/14

  4. 2024 9 — 2024-05 – p.4/14

  5. SF 2 2 11 T ; 2024 9 — 2024-05

    – p.5/14

  6. (asst TuCIpIappt9n5w85cb9RHDBv) (1/2) Name: Description: 23 Instructions: SF 23 #

    * * * * ( ) * * 2024 9 — 2024-05 – p.6/14

  7. (asst TuCIpIappt9n5w85cb9RHDBv) (2/2) # * * * # * *

    * * Tools: [] Files: [] instructions Wikipedia /chat 2024 9 — 2024-05 – p.7/14

  8. ( ) ( ) 2024 9 — 2024-05 – p.8/14

  9. # instructions 2024 9 — 2024-05 – p.9/14

  10. 2024 9 — 2024-05 – p.10/14

  11. (asst 9SahjHrHl2VhlUAHVf14yNDd)(1/3) Name: Description: 23 Instructions: SF 23 # *

    * * * ( ) * * 2024 9 — 2024-05 – p.11/14

  12. (asst 9SahjHrHl2VhlUAHVf14yNDd)(2/3) # * * * # * * *

    * 2024 9 — 2024-05 – p.12/14

  13. (asst 9SahjHrHl2VhlUAHVf14yNDd)(3/3) # * instructions * instructions instructions * instructions

    instructions * instructions Tools: [] Files: [] : hohoho attack instructions 2024 9 — 2024-05 – p.13/14

  14. 2024 9 — 2024-05 – p.14/14