Upgrade to Pro — share decks privately, control downloads, hide ads and more …

プロンプトに対する攻撃と対策 / Attacks Against Prompts and Co...

Sponsored · Your Podcast. Everywhere. Effortlessly. Share. Educate. Inspire. Entertain. You do you. We'll handle the rest. →
Avatar for Kenji Saito Kenji Saito PRO
May 11, 2024
Technology
140
0

プロンプトに対する攻撃と対策 / Attacks Against Prompts and Countermeasures

早稲田大学大学院経営管理研究科「プロンプトエンジニアリング ─ 生成AIの応用」2024 春のオンデマンド教材 第9回で使用したスライドです。

Avatar for Kenji Saito

Kenji Saito PRO

May 11, 2024

More Decks by Kenji Saito

See All by Kenji Saito
ロボティクスの技術 / Robotics Technology
Avatar for Kenji Saito ks91
PRO
0
61
インシデントレスポンス演習 I / Incident Response Exercise I
Avatar for Kenji Saito ks91
PRO
0
88
責任 2.0/3.0 ∼ 知的創造過程の脱領土化 / Responsibility 2.0/3.0 - The Deterritorialization of the Intellectual Creative Process
Avatar for Kenji Saito ks91
PRO
0
17
エージェント化するAI：現在地とその先に起きる変化 〜 おかわり / AI as Agents: The Current State and the Changes Ahead - a second helping
Avatar for Kenji Saito ks91
PRO
0
31
金融テクノロジーのガバナンス / Governance of Financial Technology
Avatar for Kenji Saito ks91
PRO
0
69
セキュリティの基礎とインシデントレスポンス / Security Fundamentals and Incident Response
Avatar for Kenji Saito ks91
PRO
0
95
やり抜く力を見せるエージェントたち / Agents Who Demonstrate Perseverance
Avatar for Kenji Saito ks91
PRO
0
37
ブロックチェーン / Blockchain
Avatar for Kenji Saito ks91
PRO
0
130
デジタルとコミュニケーション / Digital and Communication
Avatar for Kenji Saito ks91
PRO
0
54

Other Decks in Technology

See All in Technology
【セミナー資料】Claude Code をセキュアに使うための考え方と設定の勘どころ / Claude Code Webinar 20260616
Avatar for MasahiroKawahara masahirokawahara
1
250
脆弱性対応、どこで線を引くか
Avatar for ryoji miyamoto rymiyamoto
1
380
エラーバジェットのアラートのタイミングを考える.pdf
Avatar for KairiM kairim0
0
140
AmazonRoute 53ではじめてのドメイン取得！HTTPS化までの道のりを整理してみた
Avatar for usanchuu usanchuu
3
140
プロダクト開発から業務改善コンサルまで。事業全体へ「染み出す」ことで広がるエンジニアの可能性
Avatar for ham ham0215
0
120
手塩にかけりゃいいってもんじゃない
Avatar for ming ming_ayami
0
570
スキルと MCP ツール、責務をどう分けるか？ AI が迷わないインターフェース設計の戦略
Avatar for CData Software Japan cdataj
1
1k
RAG を使わないという選択肢
Avatar for tatsutaka tatsutaka
1
220
機械学習を「社会実装」するということ 2026年夏版 / Social Implementation of Machine Learning June 2026 Version
Avatar for Moe Uchiike（内池 もえ） moepy_stats
5
2.3k
社内 AI エージェント Synapse と セマンティックレイヤーの育て方
Avatar for Hiroaki Sano hiroakis
3
1.8k
日本 Fintech 未来予測レポート 2027〜2028年（オリジナル版）
Avatar for 8maki 8maki
0
2.1k
Android の公式 Skill / Android skills
Avatar for Yuki Anzai yanzm
0
140

Featured

See All Featured
Dealing with People You Can't Stand - Big Design 2015
Avatar for Cassini Nazir cassininazir
367
27k
The Art of Programming - Codeland 2020
Avatar for Erika Heidi erikaheidi
57
14k
Producing Creativity
Avatar for Steve Smith orderedlist
PRO
348
40k
How to Ace a Technical Interview
Avatar for Jacob Kaplan-Moss jacobian
281
24k
Intergalactic Javascript Robots from Outer Space
Avatar for Vicent Martí tanoku
273
27k
The AI Revolution Will Not Be Monopolized: How open-source beats economies of scale, even for LLMs
Avatar for Ines Montani inesmontani
PRO
3
3.5k
Practical Orchestrator
Avatar for Shlomi Noach shlominoach
191
11k
Let's Do A Bunch of Simple Stuff to Make Websites Faster
Avatar for Chris Coyier chriscoyier
508
140k
Practical Tips for Bootstrapping Information Extraction Pipelines
Avatar for Matthew Honnibal honnibal
25
2k
WCS-LA-2024
Avatar for Leonardo Collado-Torres lcolladotor
0
630
Navigating Team Friction
Avatar for Lara Hogan lara
192
16k
16th Malabo Montpellier Forum Presentation
Avatar for AKADEMIYA2063 akademiya2063
PRO
0
140

Transcript

  1. Generated by Stable Diffusion XL v1.0 — AI 2024 9

    (WBS) 2024 9 — 2024-05 – p.1/14

  2. https://speakerdeck.com/ks91/collections/prompt-engineering-2024-spring 2024 9 — 2024-05 – p.2/14

  3. ( 20 ) 1 • 2 • 3 Discord &

    • 4 • 5 • 6 RPG • 7 “September 12th” • 8 • 9 • 10 ∼ 11 Linux (Windows )(Mac ) 12 Open Interpreter ∼ 13 14 AGI (Artificial General Intelligence) 7 (5/6 ) / (2 ) OK / 2024 9 — 2024-05 – p.3/14

  4. 2024 9 — 2024-05 – p.4/14

  5. SF 2 2 11 T ; 2024 9 — 2024-05

    – p.5/14

  6. (asst TuCIpIappt9n5w85cb9RHDBv) (1/2) Name: Description: 23 Instructions: SF 23 #

    * * * * ( ) * * 2024 9 — 2024-05 – p.6/14

  7. (asst TuCIpIappt9n5w85cb9RHDBv) (2/2) # * * * # * *

    * * Tools: [] Files: [] instructions Wikipedia /chat 2024 9 — 2024-05 – p.7/14

  8. ( ) ( ) 2024 9 — 2024-05 – p.8/14

  9. # instructions 2024 9 — 2024-05 – p.9/14

  10. 2024 9 — 2024-05 – p.10/14

  11. (asst 9SahjHrHl2VhlUAHVf14yNDd)(1/3) Name: Description: 23 Instructions: SF 23 # *

    * * * ( ) * * 2024 9 — 2024-05 – p.11/14

  12. (asst 9SahjHrHl2VhlUAHVf14yNDd)(2/3) # * * * # * * *

    * 2024 9 — 2024-05 – p.12/14

  13. (asst 9SahjHrHl2VhlUAHVf14yNDd)(3/3) # * instructions * instructions instructions * instructions

    instructions * instructions Tools: [] Files: [] : hohoho attack instructions 2024 9 — 2024-05 – p.13/14

  14. 2024 9 — 2024-05 – p.14/14