Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
AWS Heroes Map 秘伝のレシピ
Search
Yasunori Kirimoto
October 28, 2024
Technology
2
94
AWS Heroes Map 秘伝のレシピ
MIERUNE 朝LT 発表資料
Yasunori Kirimoto
October 28, 2024
Tweet
Share
More Decks by Yasunori Kirimoto
See All by Yasunori Kirimoto
State of Amazon Location Service
dayjournal
0
130
State of Amazon Location Service
dayjournal
1
330
MapLibreとAmazon Location Service
dayjournal
1
390
AWS re:Invent 2023 現地での体験
dayjournal
1
820
英語が苦手でも世界にアウトプットしている話
dayjournal
3
1.7k
FOSS4GとAmazon Location Serviceの親和性
dayjournal
0
720
MIERUNEの組織とカルチャー
dayjournal
0
270
AWSにおける地理空間情報活用
dayjournal
0
630
FOSS4Gカルチャーとクラウド
dayjournal
0
600
Other Decks in Technology
See All in Technology
小規模に始めるデータメッシュとデータガバナンスの実践
kimujun
3
560
事業者間調整の行間を読む 調整の具体事例
sugiim
0
1.1k
CI/CDやテスト自動化の開発プロジェクトへの適用
megascus
3
740
ガバメントクラウド単独利用方式におけるIaC活用
techniczna
3
260
グローバル展開を見据えたサービスにおける機械翻訳プラクティス / dp-ai-translating
cyberagentdevelopers
PRO
1
150
Jr. Championsになって、強く連携しながらAWSをもっと使いたい!~AWSに対する期待と行動~
amixedcolor
0
180
ExaDB-D dbaascli で出来ること
oracle4engineer
PRO
0
3.6k
LeSSに潜む「隠れWF病」とその処方箋
lycorptech_jp
PRO
2
120
Vueで Webコンポーネントを作って Reactで使う / 20241030-cloudsign-vuefes_after_night
bengo4com
4
2.5k
GitHub Universe: Evaluating RAG apps in GitHub Actions
pamelafox
0
170
【LT】ソフトウェア産業は進化しているのか? -Javaの想い出とともに- #jjug_ccc
takabow
0
170
AWS re:Inventを徹底的に楽しむためのTips / Tips for thoroughly enjoying AWS re:Invent
yuj1osm
1
540
Featured
See All Featured
Visualization
eitanlees
144
15k
Refactoring Trust on Your Teams (GOTO; Chicago 2020)
rmw
31
2.7k
The Straight Up "How To Draw Better" Workshop
denniskardys
232
140k
Evolution of real-time – Irina Nazarova, EuRuKo, 2024
irinanazarova
4
290
VelocityConf: Rendering Performance Case Studies
addyosmani
325
24k
YesSQL, Process and Tooling at Scale
rocio
167
14k
Rails Girls Zürich Keynote
gr2m
93
13k
10 Git Anti Patterns You Should be Aware of
lemiorhan
654
59k
Fontdeck: Realign not Redesign
paulrobertlloyd
81
5.2k
Performance Is Good for Brains [We Love Speed 2024]
tammyeverts
3
370
Become a Pro
speakerdeck
PRO
24
5k
Testing 201, or: Great Expectations
jmmastey
38
7k
Transcript
Yasunori Kirimoto 2024.10.28 - MIERUNE 朝LT AWS Heroes Map 秘伝のレシピ
Yasunori Kirimoto AWS DevTools Hero MapLibre Voting Member OSGeo Charter
Member Owner of dayjournal MapLibre User Group Japan Amplify Japan User Group Notion Sapporo dayjournal dayjournal_nori Co-Founder and COO of MIERUNE
©OpenStreetMap contributors 01|AWS Heroes Mapとは 02|秘伝のレシピ 03|今後に向けて Contents
©OpenStreetMap contributors 01 AWS Heroes Mapとは
© 地理院地図 全国最新写真(シームレス) AWS Heroesの公式サイトがある 💻 AWS Heroes Mapとは
© 地理院地図 全国最新写真(シームレス) これもっと見やすくならないかな? 🤔 地図で可視化したらおもしろいかも! AWS Heroes Mapとは
© 地理院地図 全国最新写真(シームレス) AWS Heroes Mapを作った 🎉 AWS Heroes Mapとは
© 地理院地図 全国最新写真(シームレス) Global AWS Heroes Summit 2024のJeff BarrのKeynoteで紹介された 🎉
AWS Heroes Mapとは
©Project PLATEAU / MLIT Japan さまざまなコメント • 公開してくれてありがとう! • これはとてもクールだ!こういうのが好き
なんだ! • これは魔法なのか?なぜ私が住んでいる場 所を知っているんだ君は! • あなたは文字通り私を地図に入れた。 素 晴らしい仕事だ! • もっとヒーローが必要だ!どこの国も! • どんな技術を使っているんだ? • 地図のビジュアライゼーションは本当にイ ンタラクティブだ! AWS Heroes Mapとは
©Project PLATEAU / MLIT Japan さまざまなコメント • 262名だけ? 400名以上いると思っていた ◦
公式サイトも人数は書かれていな い... • 私はすでに引っ越している ◦ 公式サイトが更新されていない... • 俺がいない! ◦ 同一地域は拡大すると見える • 拡大すると多くの人々が表示されるぞ! ◦ ぱっと見わかりづらい • 私が違う場所にいるようだ ◦ 住所情報が不十分で同一名称の他 地域に表示されているよ... AWS Heroes Mapとは
© 地理院地図 全国最新写真(シームレス) 可視化することでさまざまなことが見えてきた 💡 AWS Heroes Mapとは
©OpenStreetMap contributors 02 秘伝のレシピ
©Project PLATEAU / MLIT Japan 利用技術 • マップライブラリ ◦ MapLibre
GL JS • 背景地図 ◦ Amazon Location Service ◦ Open Data Style • ホスティング ◦ AWS Amplify • ドメイン ◦ Cloudflare • データ前処理 ◦ Python • 秘伝のレシピ
アプリケーション データ 今回はデータの準備が大変だった! 秘伝のレシピ
© 地理院地図 全国最新写真(シームレス) データ作成は260件くらいだし手動でもできるよな... 🤔 エンジニアなんだからテクノロジーで解決だ! 秘伝のレシピ
©Project PLATEAU / MLIT Japan スクレイピング • Pythonで公式サイトをスクレイピングし CSVを作成 •
候補の中からSeleniumを選択し実装したが すべてのデータが取れない... • ページング等でうまく取得できていなかっ た • Playwrightに切り替えて再実装 (Playwright はE2Eテストツールでも利用されている) • 一覧データをCSVに保存した ChatGPTで取得した一覧の例 秘伝のレシピ
©Project PLATEAU / MLIT Japan スクレイピング • 下記データを取得しCSV作成 • Hero
Category ◦ AWS DEVTOOLS HERO • Hero Name ◦ Yasunori Kirimoto • Hero Since ◦ Hero since 2022 • Location ◦ "Sapporo, Japan" • Photo Link • Detail Link • 秘伝のレシピ
©Project PLATEAU / MLIT Japan ジオコーディング • PythonでデータのLocationから対象地域の 中心座標を求めてCSVに追記 •
候補の中からGeoPyを選択し実装した • GeoPyはさまざまなジオコーディングAPI を利用できる • 今回は位置精度も市町村レベルまでで良い のでNominatim (OSM)を選択した • 経緯度データをCSVに追記した 秘伝のレシピ
©Project PLATEAU / MLIT Japan ジオコーディング • 下記データを取得しCSVに追記 • lat
◦ 37.557903 • lon ◦ 126.985945 • 秘伝のレシピ
© 地理院地図 全国最新写真(シームレス) よしこれでデータは完成だ! ん? なんか座標が取得できていないレコードある? 🤔 秘伝のレシピ
© 地理院地図 全国最新写真(シームレス) 住所2つ入ってるやん⁉ 秘伝のレシピ
© 地理院地図 全国最新写真(シームレス) 通常: Sapporo, Japan アレ: Vancouver, Canada /
Sydney, Australia これはイレギュラー対応だな... 😇 秘伝のレシピ
© 地理院地図 全国最新写真(シームレス) よしこれでデータは完成だ! ん? なんかレコード数多くない? 🤔 秘伝のレシピ
© 地理院地図 全国最新写真(シームレス) 同じ人2名いるやん⁉ 秘伝のレシピ
© 地理院地図 全国最新写真(シームレス) 秘伝のレシピ
©Project PLATEAU / MLIT Japan 重複データ削除 • PythonでデータのHero Nameの重複を削 除しCSVを再作成
• 候補の中からPandasを選択し実装した • AWSチームに重複データがあることを報 告し現在は公式サイトも修正済 • 重複データを削除しCSVを再作成した • 秘伝のレシピ
© 地理院地図 全国最新写真(シームレス) さすがにこれでデータは完成だよね? ん? なんか一部のアイコンが表示されてない? 🤔 秘伝のレシピ
© 地理院地図 全国最新写真(シームレス) 同一地域で同一座標値で重なってるやん⁉ 秘伝のレシピ
©Project PLATEAU / MLIT Japan 同一座標データの調整 • Pythonでデータのlatとlonが同一のものを ランダムに調整しCSVを再作成 •
候補の中からNumPyとPandasを選択し実 装した • 同一座標データを調整しCSVを再作成した • 秘伝のレシピ
©Project PLATEAU / MLIT Japan GeoJSONに変換 • PythonでCSVデータをGeoJSONデータに 変換 •
候補の中からPandasを選択し実装した • CSVデータからGeoJSONデータを作成し た • 秘伝のレシピ
© 地理院地図 全国最新写真(シームレス) よしこれでデータは完成だ! 最後にマップアプリケーション構築だ! 秘伝のレシピ
©Project PLATEAU / MLIT Japan マップアプリケーション構築 • AWS Heroesの所在地と情報を可視化した マップアプリケーションを構築
• maplibregljs-amazon-location-service-start erを利用し構築した • Amazon Location ServiceのOpen Data Styleを背景地図で利用した • AWS AmplifyでホスティングしCloudflare のドメインを利用し連携した • データ更新時はGeoJSONファイルの入れ 替えのみ 秘伝のレシピ
© 地理院地図 全国最新写真(シームレス) 課題を一つずつ解決 • スクレイピング • ジオコーディング • 重複データ削除
• 同一座標データの調整 • GeoJSONに変換 • マップアプリケーション構築 秘伝のレシピ
©OpenStreetMap contributors 03 今後に向けて
© 地理院地図 全国最新写真(シームレス) データは大事です! みなさん登録情報は最新にしましょう! 今後に向けて
© 地理院地図 全国最新写真(シームレス) 今後に向けて 今後に向けて • データ部分のCI/CD化したい • 同一座標データの表現方法を改善したい •
これをサービス化したらおもしろいかも
© 地理院地図 全国最新写真(シームレス) 常にアンテナを立てることで見え方が変わる 📡 それらをテクノロジーで解決 💡
© 地理院地図 全国最新写真(シームレス) Thank you!! Yasunori Kirimoto dayjournal.dev