プロンプトに対する攻撃と対策 / Attacks Against Prompts and Co...

SiteGround - Reliable hosting with speed, security, and support you can count on. →

Kenji Saito PRO

May 12, 2025

79

プロンプトに対する攻撃と対策 / Attacks Against Prompts and Countermeasures

早稲田大学大学院経営管理研究科「プロンプトエンジニアリング ─ 生成AI の応用」2025 春のオンデマンド教材第9回で使用したスライドです。

Kenji Saito PRO

May 12, 2025

More Decks by Kenji Saito

See All by Kenji Saito

AI とサービス・デザイン / AI and Service Design

PRO

0

2

ルール・ロール・ツールを創る / Creating Rules, Roles and Tools

PRO

0

43

コーディング・エージェントの活用 / Using Coding Agents

PRO

0

26

AGI (Artificial General Intelligence) の論点 / Key Issues in AGI (Artificial General Intelligence)

PRO

0

22

ワールドカフェ再び、そしてゴール・ルール・ロール・ツール / World Café Revisited, and the Goals-Rules-Roles-Tools

PRO

0

180

AI の技術 / AI technology

PRO

0

84

対話による知の拡張と傾聴の理論 / Expansion of Knowledge Through Dialogue and the Theory of Active Listening

PRO

0

24

プロンプトに対する攻撃と防御 / Attacks and Defenses Against Prompts

PRO

0

19

AI 前提社会における(地球)環境データのセンシング / Sensing of (Global) Environmental Data in an AI-Driven Society

PRO

0

32

Other Decks in Technology

See All in Technology

生成AI時代に信頼性をどう保ち続けるか - Policy as Code の実践

1

500

GitHub Copilot CLI で考える複数エージェント設計

0

120

アプリブロック機能のつくりかたと、AIとHTMLの不合理な相性の良さについて

1

260

クラウドネイティブ DB はいかにして制約を克服したか？〜進化歴史から紐解く、スケーラブルアーキテクチャ設計指針〜

PRO

6

1.1k

M&Aで増え続けるプロダクトに少数QAはどう立ち向かうか─GENDAが挑む、全員で取り組む品質標準化戦略 / GENDA Tech Talk #4

0

200

なぜ、IAMロールのプリンシパルに*による部分マッチングが使えないのか? / 20260518-ssmjp-iam-role-principal

2

140

Redmine次期バージョン7.0の注目新機能解説 — UI/UX強化と連携強化を中心に

1

190

実践 TanStack Start ― 新規プロダクトを開発して確立した、サーバーとクライアント境界の設計パターン / Practical TanStack Start Server-Client Boundary Patterns

1

110

サプライチェーン攻撃への備えについて考えている #湘なんか

1

1.3k

社内RAGの導入で気を付けたポイント

1

130

いつの間にかデータエンジニア以外の業務も増えていたけど、意外と経験が役に立ってる

PRO

0

690

エムスリーテクノロジーズ株式会社エンジニア向け紹介資料 / M3 Technologies Company Deck

0

190

Featured

See All Featured

Six Lessons from altMBA

29

4.2k

Highjacked: Video Game Concept Design

PRO

1

360

GraphQLとの向き合い方2022年版

50

15k

Automating Front-end Workflow

1370

200k

How STYLIGHT went responsive

100

6.1k

Neural Spatial Audio Processing for Sound Field Analysis and Control

0

300

The Invisible Side of Design

302

52k

Exploring anti-patterns in Rails

3

360

Practical Tips for Bootstrapping Information Extraction Pipelines

25

1.9k

A better future with KSS

240

18k

Breaking role norms: Why Content Design is so much more than writing copy - Taylor Woolridge

0

290

Evolution of real-time – Irina Nazarova, EuRuKo, 2024

9

1.3k

Transcript

Generated by Stable Diffusion 3.5 — AI 2025 9 (WBS)
2025 9 — 2025-05 – p.1/15
https://speakerdeck.com/ks91/collections/prompt-engineering-2025-spring 2025 9 — 2025-05 – p.2/15
( 20 ) 1 • 2 • 3 • 4
• 5 • 6 RPG • 7 “September 12th” • 8 • 9 • 10 ∼ 11 Linux (Windows )(Mac ) 12 Open Interpreter ∼ 13 01 ∼ 14 AGI (Artiﬁcial General Intelligence) 7 (4/28 ) / (2 ) OK / 2025 9 — 2025-05 – p.3/15
2025 9 — 2025-05 – p.4/15
SF 2 2 11 T ; 2025 9 — 2025-05
– p.5/15
(asst TuCIpIappt9n5w85cb9RHDBv) (1/2) Name: Description: 23 Instructions: SF 23 #
* * * * ( ) * * 2025 9 — 2025-05 – p.6/15
(asst TuCIpIappt9n5w85cb9RHDBv) (2/2) # * * * # * *
* * Tools: [] Files: [] instructions Wikipedia /chat 2025 9 — 2025-05 – p.7/15
( ) ( ) 2025 9 — 2025-05 – p.8/15
# instructions 2025 9 — 2025-05 – p.9/15
2025 9 — 2025-05 – p.10/15
(asst 9SahjHrHl2VhlUAHVf14yNDd)(1/3) Name: Description: 23 Instructions: SF 23 # *
* * * ( ) * * 2025 9 — 2025-05 – p.11/15
(asst 9SahjHrHl2VhlUAHVf14yNDd)(2/3) # * * * # * * *
* 2025 9 — 2025-05 – p.12/15
(asst 9SahjHrHl2VhlUAHVf14yNDd)(3/3) # * instructions * instructions instructions * instructions
instructions * instructions Tools: [] Files: [] instructions 2025 9 — 2025-05 – p.13/15
PDF ChatGPT NotebookLM (← ) ( ) 2025 9 —
2025-05 – p.14/15
2025 9 — 2025-05 – p.15/15