Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
AWS Heroes Map 秘伝のレシピ
Search
Yasunori Kirimoto
October 28, 2024
Technology
2
240
AWS Heroes Map 秘伝のレシピ
MIERUNE 朝LT 発表資料
Yasunori Kirimoto
October 28, 2024
Tweet
Share
More Decks by Yasunori Kirimoto
See All by Yasunori Kirimoto
FOSS4Gで実現するQGIS版Amazon Location Service Plugin
dayjournal
0
490
State of Open Source Web Mapping Libraries
dayjournal
0
450
State of Amazon Location Service
dayjournal
0
300
State of Amazon Location Service
dayjournal
1
530
MapLibreとAmazon Location Service
dayjournal
1
640
AWS re:Invent 2023 現地での体験
dayjournal
1
990
英語が苦手でも世界にアウトプットしている話
dayjournal
3
1.8k
FOSS4GとAmazon Location Serviceの親和性
dayjournal
0
840
MIERUNEの組織とカルチャー
dayjournal
0
330
Other Decks in Technology
See All in Technology
【5分でわかる】セーフィー エンジニア向け会社紹介
safie_recruit
0
20k
Go製のマイグレーションツールの git-schemalex の紹介と運用方法
shinnosuke_kishida
1
370
グループポリシー再確認
murachiakira
0
160
3/26 クラウド食堂LT #2 GenU案件を通して学んだ教訓 登壇資料
ymae
1
190
AI・LLM事業部のSREとタスクの自動運転
shinyorke
PRO
0
290
[CATS]Amazon Bedrock GenUハンズオン座学資料 #2 GenU環境でRAGを体験してみよう
tsukuboshi
0
130
BCMathを高速化した一部始終をC言語でガチ目に解説する / BCMath performance improvement explanation
sakitakamachi
2
1.2k
Tirez profit de Messenger pour améliorer votre architecture
tucksaun
1
120
PHPStan をできる限り高速化してみる
colopl
0
250
caching_sha2_passwordのはなし
boro1234
0
210
ルートユーザーの活用と管理を徹底的に深掘る
yuobayashi
6
700
Amazon EKS Auto ModeでKubernetesの運用をシンプルにする
sshota0809
0
110
Featured
See All Featured
Art, The Web, and Tiny UX
lynnandtonic
298
20k
Design and Strategy: How to Deal with People Who Don’t "Get" Design
morganepeng
129
19k
The Art of Programming - Codeland 2020
erikaheidi
53
13k
Building Applications with DynamoDB
mza
94
6.3k
GitHub's CSS Performance
jonrohan
1030
460k
Understanding Cognitive Biases in Performance Measurement
bluesmoon
28
1.6k
Responsive Adventures: Dirty Tricks From The Dark Corners of Front-End
smashingmag
251
21k
Optimizing for Happiness
mojombo
377
70k
Side Projects
sachag
452
42k
Imperfection Machines: The Place of Print at Facebook
scottboms
267
13k
[Rails World 2023 - Day 1 Closing Keynote] - The Magic of Rails
eileencodes
33
2.1k
ReactJS: Keep Simple. Everything can be a component!
pedronauck
666
120k
Transcript
Yasunori Kirimoto 2024.10.28 - MIERUNE 朝LT AWS Heroes Map 秘伝のレシピ
Yasunori Kirimoto AWS DevTools Hero MapLibre Voting Member OSGeo Charter
Member Owner of dayjournal MapLibre User Group Japan Amplify Japan User Group Notion Sapporo dayjournal dayjournal_nori Co-Founder and COO of MIERUNE
©OpenStreetMap contributors 01|AWS Heroes Mapとは 02|秘伝のレシピ 03|今後に向けて Contents
©OpenStreetMap contributors 01 AWS Heroes Mapとは
© 地理院地図 全国最新写真(シームレス) AWS Heroesの公式サイトがある 💻 AWS Heroes Mapとは
© 地理院地図 全国最新写真(シームレス) これもっと見やすくならないかな? 🤔 地図で可視化したらおもしろいかも! AWS Heroes Mapとは
© 地理院地図 全国最新写真(シームレス) AWS Heroes Mapを作った 🎉 AWS Heroes Mapとは
© 地理院地図 全国最新写真(シームレス) Global AWS Heroes Summit 2024のJeff BarrのKeynoteで紹介された 🎉
AWS Heroes Mapとは
©Project PLATEAU / MLIT Japan さまざまなコメント • 公開してくれてありがとう! • これはとてもクールだ!こういうのが好き
なんだ! • これは魔法なのか?なぜ私が住んでいる場 所を知っているんだ君は! • あなたは文字通り私を地図に入れた。 素 晴らしい仕事だ! • もっとヒーローが必要だ!どこの国も! • どんな技術を使っているんだ? • 地図のビジュアライゼーションは本当にイ ンタラクティブだ! AWS Heroes Mapとは
©Project PLATEAU / MLIT Japan さまざまなコメント • 262名だけ? 400名以上いると思っていた ◦
公式サイトも人数は書かれていな い... • 私はすでに引っ越している ◦ 公式サイトが更新されていない... • 俺がいない! ◦ 同一地域は拡大すると見える • 拡大すると多くの人々が表示されるぞ! ◦ ぱっと見わかりづらい • 私が違う場所にいるようだ ◦ 住所情報が不十分で同一名称の他 地域に表示されているよ... AWS Heroes Mapとは
© 地理院地図 全国最新写真(シームレス) 可視化することでさまざまなことが見えてきた 💡 AWS Heroes Mapとは
©OpenStreetMap contributors 02 秘伝のレシピ
©Project PLATEAU / MLIT Japan 利用技術 • マップライブラリ ◦ MapLibre
GL JS • 背景地図 ◦ Amazon Location Service ◦ Open Data Style • ホスティング ◦ AWS Amplify • ドメイン ◦ Cloudflare • データ前処理 ◦ Python • 秘伝のレシピ
アプリケーション データ 今回はデータの準備が大変だった! 秘伝のレシピ
© 地理院地図 全国最新写真(シームレス) データ作成は260件くらいだし手動でもできるよな... 🤔 エンジニアなんだからテクノロジーで解決だ! 秘伝のレシピ
©Project PLATEAU / MLIT Japan スクレイピング • Pythonで公式サイトをスクレイピングし CSVを作成 •
候補の中からSeleniumを選択し実装したが すべてのデータが取れない... • ページング等でうまく取得できていなかっ た • Playwrightに切り替えて再実装 (Playwright はE2Eテストツールでも利用されている) • 一覧データをCSVに保存した ChatGPTで取得した一覧の例 秘伝のレシピ
©Project PLATEAU / MLIT Japan スクレイピング • 下記データを取得しCSV作成 • Hero
Category ◦ AWS DEVTOOLS HERO • Hero Name ◦ Yasunori Kirimoto • Hero Since ◦ Hero since 2022 • Location ◦ "Sapporo, Japan" • Photo Link • Detail Link • 秘伝のレシピ
©Project PLATEAU / MLIT Japan ジオコーディング • PythonでデータのLocationから対象地域の 中心座標を求めてCSVに追記 •
候補の中からGeoPyを選択し実装した • GeoPyはさまざまなジオコーディングAPI を利用できる • 今回は位置精度も市町村レベルまでで良い のでNominatim (OSM)を選択した • 経緯度データをCSVに追記した 秘伝のレシピ
©Project PLATEAU / MLIT Japan ジオコーディング • 下記データを取得しCSVに追記 • lat
◦ 37.557903 • lon ◦ 126.985945 • 秘伝のレシピ
© 地理院地図 全国最新写真(シームレス) よしこれでデータは完成だ! ん? なんか座標が取得できていないレコードある? 🤔 秘伝のレシピ
© 地理院地図 全国最新写真(シームレス) 住所2つ入ってるやん⁉ 秘伝のレシピ
© 地理院地図 全国最新写真(シームレス) 通常: Sapporo, Japan アレ: Vancouver, Canada /
Sydney, Australia これはイレギュラー対応だな... 😇 秘伝のレシピ
© 地理院地図 全国最新写真(シームレス) よしこれでデータは完成だ! ん? なんかレコード数多くない? 🤔 秘伝のレシピ
© 地理院地図 全国最新写真(シームレス) 同じ人2名いるやん⁉ 秘伝のレシピ
© 地理院地図 全国最新写真(シームレス) 秘伝のレシピ
©Project PLATEAU / MLIT Japan 重複データ削除 • PythonでデータのHero Nameの重複を削 除しCSVを再作成
• 候補の中からPandasを選択し実装した • AWSチームに重複データがあることを報 告し現在は公式サイトも修正済 • 重複データを削除しCSVを再作成した • 秘伝のレシピ
© 地理院地図 全国最新写真(シームレス) さすがにこれでデータは完成だよね? ん? なんか一部のアイコンが表示されてない? 🤔 秘伝のレシピ
© 地理院地図 全国最新写真(シームレス) 同一地域で同一座標値で重なってるやん⁉ 秘伝のレシピ
©Project PLATEAU / MLIT Japan 同一座標データの調整 • Pythonでデータのlatとlonが同一のものを ランダムに調整しCSVを再作成 •
候補の中からNumPyとPandasを選択し実 装した • 同一座標データを調整しCSVを再作成した • 秘伝のレシピ
©Project PLATEAU / MLIT Japan GeoJSONに変換 • PythonでCSVデータをGeoJSONデータに 変換 •
候補の中からPandasを選択し実装した • CSVデータからGeoJSONデータを作成し た • 秘伝のレシピ
© 地理院地図 全国最新写真(シームレス) よしこれでデータは完成だ! 最後にマップアプリケーション構築だ! 秘伝のレシピ
©Project PLATEAU / MLIT Japan マップアプリケーション構築 • AWS Heroesの所在地と情報を可視化した マップアプリケーションを構築
• maplibregljs-amazon-location-service-start erを利用し構築した • Amazon Location ServiceのOpen Data Styleを背景地図で利用した • AWS AmplifyでホスティングしCloudflare のドメインを利用し連携した • データ更新時はGeoJSONファイルの入れ 替えのみ 秘伝のレシピ
© 地理院地図 全国最新写真(シームレス) 課題を一つずつ解決 • スクレイピング • ジオコーディング • 重複データ削除
• 同一座標データの調整 • GeoJSONに変換 • マップアプリケーション構築 秘伝のレシピ
©OpenStreetMap contributors 03 今後に向けて
© 地理院地図 全国最新写真(シームレス) データは大事です! みなさん登録情報は最新にしましょう! 今後に向けて
© 地理院地図 全国最新写真(シームレス) 今後に向けて 今後に向けて • データ部分のCI/CD化したい • 同一座標データの表現方法を改善したい •
これをサービス化したらおもしろいかも
© 地理院地図 全国最新写真(シームレス) 常にアンテナを立てることで見え方が変わる 📡 それらをテクノロジーで解決 💡
© 地理院地図 全国最新写真(シームレス) Thank you!! Yasunori Kirimoto dayjournal.dev