Upgrade to Pro — share decks privately, control downloads, hide ads and more …

プロンプトに対する攻撃と対策 / Attacks Against Prompts and Co...

Avatar for Kenji Saito Kenji Saito PRO
May 11, 2024
Technology
0
130

プロンプトに対する攻撃と対策 / Attacks Against Prompts and Countermeasures

早稲田大学大学院経営管理研究科「プロンプトエンジニアリング ─ 生成AIの応用」2024 春のオンデマンド教材 第9回で使用したスライドです。

Avatar for Kenji Saito

Kenji Saito PRO

May 11, 2024
Tweet

More Decks by Kenji Saito

See All by Kenji Saito
ロボットを雰囲気(ヴァイブ)でプログラミングするこどもたち / Children Vibe-Programming Robots
Avatar for Kenji Saito ks91
PRO
0
7
アカデミーキャンプ 2025 SuuuuuuMMeR「燃えろ!!ロボコン」 / Academy Camp 2025 SuuuuuuMMeR "Burn the Spirit, Robocon!!" DAY 3
Avatar for Kenji Saito ks91
PRO
0
13
アカデミーキャンプ 2025 SuuuuuuMMeR「燃えろ!!ロボコン」 / Academy Camp 2025 SuuuuuuMMeR "Burn the Spirit, Robocon!!" DAY 2
Avatar for Kenji Saito ks91
PRO
0
22
アカデミーキャンプ 2025 SuuuuuuMMeR「燃えろ!!ロボコン」 / Academy Camp 2025 SuuuuuuMMeR "Burn the Spirit, Robocon!!" DAY 1
Avatar for Kenji Saito ks91
PRO
0
140
未来へのフォワードキャスト / Forward Cast to the Future
Avatar for Kenji Saito ks91
PRO
0
76
発表と総括 / Presentations and Summary
Avatar for Kenji Saito ks91
PRO
0
57
サイバーフィジカル社会、金融の未来とアイデアソン / Cyber Physical Society, Future of Finance, and Ideathon
Avatar for Kenji Saito ks91
PRO
0
75
マニフェスト: 人類の知のフロンティアに向けた拡張的足場へ / Manifesto: Toward Expansive Scaffolding for Humanity's Knowledge Frontier
Avatar for Kenji Saito ks91
PRO
0
36
続・スマートコントラクトと分散ファイナンス / Smart Contracts and Decentralized Finance, Continued
Avatar for Kenji Saito ks91
PRO
0
75

Other Decks in Technology

See All in Technology
Kiroでインフラ要件定義～テスト
 を実施してみた
Avatar for nagisa_53 nagisa53
3
340
Findy Freelance 利用シーン別AI活用例
Avatar for nesskazu ness
0
430
Amazon Qで2Dゲームを作成してみた
Avatar for Siromi siromi
0
130
家族の思い出を形にする 〜 １秒動画の生成を支えるインフラアーキテクチャ
Avatar for Ojima Hikaru ojima_h
3
980
生成AI導入の効果を最大化する データ活用戦略
Avatar for ham ham0215
0
140
リリース２ヶ月で収益化した話
Avatar for Ken.T kent_code3
1
240
ロールが細分化された組織でSREと協働するインフラエンジニアは何をするか？ / SRE Lounge #18
Avatar for Hajime KOSHIRO kossykinto
0
210
ZOZOTOWNの大規模マーケティングメール配信を支えるアーキテクチャ
Avatar for ZOZO Developers zozotech
PRO
0
120
LLM 機能を支える Langfuse / ClickHouse のサーバレス化
Avatar for yuu26 yuu26
9
1.6k
反脆弱性(アンチフラジャイル)とデータ基盤構築
Avatar for CUEBiC Inc. cuebic9bic
3
180
金融サービスにおける高速な価値提供とAIの役割 #BetAIDay
Avatar for LayerX layerx
PRO
1
810
JAWS AI/ML #30 AI コーディング IDE "Kiro" を触ってみよう
Avatar for Riku INADA inariku
3
350

Featured

See All Featured
The Art of Delivering Value - GDevCon NA Keynote
Avatar for David Neal reverentgeek
15
1.6k
Stop Working from a Prison Cell
Avatar for Chris Michel hatefulcrawdad
271
21k
Making the Leap to Tech Lead
Avatar for Ryan Cromwell cromwellryan
134
9.5k
CoffeeScript is Beautiful & I Never Want to Write Plain JavaScript Again
Avatar for Sam Stephenson sstephenson
161
15k
How To Stay Up To Date on Web Technology
Avatar for Chris Coyier chriscoyier
790
250k
Building Better People: How to give real-time feedback that sticks.
Avatar for Will Jessup wjessup
367
19k
Visualization
Avatar for Eitan Lees eitanlees
146
16k
Large-scale JavaScript Application Architecture
Avatar for Addy Osmani addyosmani
512
110k
Practical Orchestrator
Avatar for Shlomi Noach shlominoach
190
11k
The Language of Interfaces
Avatar for Des Traynor destraynor
158
25k
GraphQLとの向き合い方2022年版
Avatar for Yosuke Kurami quramy
49
14k
Side Projects
Avatar for Sacha Greif sachag
455
43k

Transcript

  1. Generated by Stable Diffusion XL v1.0 — AI 2024 9

    (WBS) 2024 9 — 2024-05 – p.1/14

  2. https://speakerdeck.com/ks91/collections/prompt-engineering-2024-spring 2024 9 — 2024-05 – p.2/14

  3. ( 20 ) 1 • 2 • 3 Discord &

    • 4 • 5 • 6 RPG • 7 “September 12th” • 8 • 9 • 10 ∼ 11 Linux (Windows )(Mac ) 12 Open Interpreter ∼ 13 14 AGI (Artificial General Intelligence) 7 (5/6 ) / (2 ) OK / 2024 9 — 2024-05 – p.3/14

  4. 2024 9 — 2024-05 – p.4/14

  5. SF 2 2 11 T ; 2024 9 — 2024-05

    – p.5/14

  6. (asst TuCIpIappt9n5w85cb9RHDBv) (1/2) Name: Description: 23 Instructions: SF 23 #

    * * * * ( ) * * 2024 9 — 2024-05 – p.6/14

  7. (asst TuCIpIappt9n5w85cb9RHDBv) (2/2) # * * * # * *

    * * Tools: [] Files: [] instructions Wikipedia /chat 2024 9 — 2024-05 – p.7/14

  8. ( ) ( ) 2024 9 — 2024-05 – p.8/14

  9. # instructions 2024 9 — 2024-05 – p.9/14

  10. 2024 9 — 2024-05 – p.10/14

  11. (asst 9SahjHrHl2VhlUAHVf14yNDd)(1/3) Name: Description: 23 Instructions: SF 23 # *

    * * * ( ) * * 2024 9 — 2024-05 – p.11/14

  12. (asst 9SahjHrHl2VhlUAHVf14yNDd)(2/3) # * * * # * * *

    * 2024 9 — 2024-05 – p.12/14

  13. (asst 9SahjHrHl2VhlUAHVf14yNDd)(3/3) # * instructions * instructions instructions * instructions

    instructions * instructions Tools: [] Files: [] : hohoho attack instructions 2024 9 — 2024-05 – p.13/14

  14. 2024 9 — 2024-05 – p.14/14