Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Hi, Cortana
Search
yasulib
April 30, 2018
Technology
2
1.4k
Hi, Cortana
すみだセキュリティ勉強会2018その1
http://ozuma.sakura.ne.jp/sumida/2018/03/22/38/
yasulib
April 30, 2018
Tweet
Share
More Decks by yasulib
See All by yasulib
HTTP2とHTTPヘッダインジェクションについて
yasulib
6
4.1k
Other Decks in Technology
See All in Technology
Кто отправит outbox? Валентин Удальцов, автор канала Пых
lamodatech
0
270
IIWレポートからみるID業界で話題のMCP
fujie
0
730
Amplifyとゼロからはじめた AIコーディング 成果と展望
mkdev10
1
360
Snowflake Summit 2025 データエンジニアリング関連新機能紹介 / Snowflake Summit 2025 What's New about Data Engineering
tiltmax3
0
230
(非公式) AWS Summit Japan と 海浜幕張 の歩き方 2025年版
coosuke
PRO
1
330
変化する開発、進化する体系時代に適応するソフトウェアエンジニアの知識と考え方(JaSST'25 Kansai)
mizunori
0
130
Oracle Cloud Infrastructure:2025年6月度サービス・アップデート
oracle4engineer
PRO
1
140
AWS Summit Japan 2025 Community Stage - App workflow automation by AWS Step Functions
matsuihidetoshi
1
140
Uniadex__公開版_20250617-AIxIoTビジネス共創ラボ_ツナガルチカラ_.pdf
iotcomjpadmin
0
150
生成AIでwebアプリケーションを作ってみた
tajimon
2
120
Azure AI Foundryでマルチエージェントワークフロー
seosoft
0
150
25分で解説する「最小権限の原則」を実現するための AWS「ポリシー」大全
opelab
9
2.2k
Featured
See All Featured
Dealing with People You Can't Stand - Big Design 2015
cassininazir
367
26k
Build your cross-platform service in a week with App Engine
jlugia
231
18k
Large-scale JavaScript Application Architecture
addyosmani
512
110k
Art, The Web, and Tiny UX
lynnandtonic
299
21k
The MySQL Ecosystem @ GitHub 2015
samlambert
251
13k
Six Lessons from altMBA
skipperchong
28
3.8k
The Pragmatic Product Professional
lauravandoore
35
6.7k
Imperfection Machines: The Place of Print at Facebook
scottboms
267
13k
Responsive Adventures: Dirty Tricks From The Dark Corners of Front-End
smashingmag
252
21k
A better future with KSS
kneath
239
17k
The Cost Of JavaScript in 2023
addyosmani
51
8.4k
How to train your dragon (web standard)
notwaldorf
92
6.1k
Transcript
Hi, Cortana すみだセキュリティ勉強会 2018/04/30 yasulib 1
内容について •Cortanaとは •Cortanaが保存するデータ •Cortanaが送るデータ 2
Cortanaとは 3
Cortanaとは •Windows10に搭載されたデジタルエージェント • AIアシスタント 4 https://support.microsoft.com/ja-jp/help/17214/windows-10-what-is
今日話す内容 •Cortanaの保存するデータや通信に着目 • 正直、通信についてはよくわからない点も多いです •あんまり使い込めていないのでCortanaの便利さはま だよくわかっていません •Windows10を対象とさせてください • 他のOSでも動くようです •
Windows 10 Mobile, Windows Phone8.1などなど 5
Cortanaとは •Windows10に搭載されたデジタルエージェント 6 入力方法は2種類 ・文字で入力 ・声で入力「コルタナさん、…」
類似製品 •Siri(Apple) •Amazon Echo •Google Home 7 https://store.google.com/jp/product/google_home https://www.amazon.co.jp/dp/B071LMG8BQ
Googleで検索すると 8
Googleで検索すると 9
コルタナさんに聞いてみた 10
コルタナさんに聞いてみた 11
カイル君って誰? 12 http://waral.club/wp-content/uploads/2016/08/netsns_0046-1.jpg
コルタナさんに聞いてみた 13
面白かった・気になったもの 14 0÷0 は定義されていません
Cortanaが保存するデータ 15
フォルダパス C:¥Users¥<account名>¥AppData ¥Local¥Packages¥Microsoft.Windows.Cortana_XXXXX 16
2つのデータベースファイル IndexedDB.edb ¥AppData¥Indexed DB¥IndexedDB.edb CoratanaCoreDb.dat ¥LocalState¥ESEDatabase_CortanaCoreInstance¥CoratanaCoreDb.dat 17
IndexedDB.edb 18 fileコマンドで調べてみる
IndexedDB.edb •拡張子edbとは •edb : ESE DataBase •ESE : Extensible Storage
Engine • edbはWindowsの至るところで使われている • IE, Edge • Windows Index Search • SRUM • Windows Update • Exchange • Active Directory • etc…(Cortana含む) 19
JET Blue 少し脱線して •JET : Joint Engine Technology • ESEの呼び名として使われることがある
• ESE関係のAPIの名前は Jet* •JETには2種類ある(互換性はない) • JET Blue : ESE • JET Red : Microsoft Office Access 20 https://msdn.microsoft.com/EN-US/library/gg294078(v=exchg.10).aspx
ツール 21 • esentutl(Windows標準) • ESEDatabaseView • Libesedb • その他
Cortanaが保存するデータ 22 いくつか興味深いものをピックアップ •位置情報 •住所による通知 •リマインダ
位置情報 23
位置情報 24 Latitude(緯度) Longitude(経度) 35.68 139.76 少しずれてるので 多分、丸の内あたり
住所による通知 25
リマインダ 26
Cortanaが送るデータ 27
Cortanaが送るデータ 28 基本、投影のみのためスライド削除
Cortanaが送るデータ 次は音声入力について 29
音声入力 音声入力時には音声をWebSocketで送っているように見える 30 GET https://websockets.platform.bing.com/ws/cu/v3 HTTP/1.1 (snip) Set-Cookie: CUCookie=AAAAABAAAAB6(snip); domain=bing.com;
GET https://www.bing.com/speech_render? speech=1&input=2&form=WNSBOX&cc=JP&setlang=ja HTTP/1.1 Cookie: CUCookie=AAAAABAAAAB6(snip); HTTP/1.1 101 Switching Protocols (マイクで受けた音声の送信)「明日の天気」 HTTP/1.1 200 OK (snip) <title>明日の天気 - Bing</title>
音声入力 WebSocketの通信 31
音声入力 WebSocketの通信 32 基本、投影のみのためスライド削除
音声入力 WebSocketの通信 33 明日 明日の 明日の手 明日の天 明日の天気 音声データ 音声データ
音声データ 音声データ
まとめ 34
まとめ •人によって取得されるデータの許容範囲は異なる •個人的に一番気になったのは音声データ • 意図しない音が入ってしまうかも • コルタナさんが聞く状態になるまではwebsocketで送られな い(ように見える) • コルタナさんの音声認識の起動トリガ
• 「コルタナさん」って話かける • Windows+Cを押す • コルタナさんの入力欄の右にあるマイクアイコンを押す • リスクを把握した上での使用が大事 • どういったリスクがあるかはより調べる必要がありそう 35
まとめ もしご存知なら情報いただきたいです •音声を外部に送信するマルウェア •盗聴探知機に引っかからない盗聴器 ソフトウェアの動作から悪意の有無を判断するのは難しいと思う 36
Thank you for your time :) 37