そこにAIはあるか？

そこにAIはあるか？ 2026/05/21 Security.any #10 愛（AI）したセキュリティLT RYO

RYO • セキュリティエンジニア（～３月） ◦ AWS・脆弱性管理・リスクアセスメント・脅威モデリング・OIDC/OAuth・CTF • セキュリティコンサルタント（４月～） ◦ AWS・テスト戦略・Agile・AI •
二児の父 👦 👧 L Security Engiineer Security Consultant 2

AIの登場によりこんな経験はありませんか？ 3 実装できましたー

AIの登場によりこんな経験はありませんか？ 4 実装できましたーこの判定ロジックは必要なの？これは何のパラメータ？

AIの登場によりこんな経験はありませんか？ 5 実装できましたーこの判定ロジックは必要なの？これは何のパラメータ？ AIが書いたのでわかんないすねー

AIの登場によりこんな経験はありませんか？ 6 実装できましたーこの判定ロジックは必要なの？これは何のパラメータ？ AIが書いたのでわかんないすねー AIが書いたからわからない

AIを利用するシーンは拡大している • コーディング以外でもAIが利用される場面は増えてきた • 設計 • 脆弱性診断 • ログ分析
…etc • 一見すると従来よりも品質が爆上がりしそうな気がしないでもない... 👀 7

AIが作ったものは常に正しいのか？ • AIが生成した成果物は結構イイ感じに見える • うまく動きそうな気がするコード • 見栄えが整っていて網羅されていそうな表 • 言っていることは正しそうな解説 •
しかし、正しいかどうかは人が判断しなければならない • AIはあくまでツールの1つでしかない 8

AIがあるように見えて、ない • もしAIが生成した成果物を人が正しいかどうか検証するプロセスを省いたら...？（もしくは、検証できないとしたら...？） • その成果物は価値がない（かもしれない） • 脆弱性が潜んでいるかもしれない💣 9

AIでありがちな実装 10

セキュリティ対策が実装されない • XSS・CSRF・SQLインジェクションなどの対策が抜け落ちてしまう • URLさえ知っていれば認証なしで誰でも機密情報を閲覧可能なサイトになっている 11

AIが非推奨な機能を提案する • 生成AIの学習データが常に最新＆ベストプラクティスとは限らない • 非推奨の技術を提案された結果、採用されてしまう 12

保守できない • AIが生成したコードは動作するが、人が読めない（意図がわからない）場合が多い • 後日、改修しようとしても人もAIですらコードの意図が読み取れず、余計に時間がかかる 13

入力チェックが甘い • 例外的な入力・データ不整合に対する処理が入っていない • 例）金額を入力すべきところに文字列を入れると... • エラーになればマシ、誤ったデータが登録されてしまう場合もある 14

AIを正しく使うことが大切 • AIを正しく活用してこそ価値が生まれる • AIの成果物を検証できない時点で既に何か間違っている • では、正しく使う上での心構えは...❓ 15

AIとの向き合い方 16

AIに丸投げしない • AI は「判断」ではなく「判断材料の整理」が得意 • なので、AIに自分の仕事を丸投げしない • AIはあくまで人間の業務をサポートするツールの1つとして使う 17

AIに丸投げしない • 昨今、AIのおかげでコーディングスキルがなくてもWeb サービスを作ったと話題に... • これは半分正しく半分間違っていると個人的には思う • そのサービスが安全かテストしたか？ 18

AIを過信しない • 作る過程でAIの答えを鵜吞みにしない • AIが書いてくれるから • AIが設定してくれるから • AIが教えてくれるから •
AIが守ってくれるから　　　　　　　→ これらはすべて 19 幻想

AIを過信しない • 主体はあくまで人 • AIが書いてくれるから → 人がAIに書かせる • AIが設定してくれるから →
人がAIに設定させる • AIが教えてくれるから → 人がAIからヒントをもらう • AIが守ってくれるから → 人がAIに守らせる 20

AIを元に正解を探し出す • AIが出した答えが正しいか判断できなければ、そこに価値はない • AIが出した答えを人が正しいと判断できて、初めて価値が生まれる 21

まとめ • AIを使って何か生成するとき、ぜひ自分に問いかけてみてください • そこにAIはあるか？ • 責任の所在はいつも人 22

FIN ご清聴ありがとうございました 23

www.PresentationGO.com The free PowerPoint and Google Slides template library Designed
with by

そこにAIはあるか？

そこにAIはあるか？

ryoAccount

More Decks by ryoAccount

Other Decks in Technology

Featured

Transcript