Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Puppeteer と GAS を利用した Web 監視
Search
howdy39
April 03, 2018
Programming
1
1.8k
Puppeteer と GAS を利用した Web 監視
ソース公開しています
https://github.com/howdy39/web-update-notification
howdy39
April 03, 2018
Tweet
Share
More Decks by howdy39
See All by howdy39
Slackbot × RAG で実現する社内情報検索の最適化
howdy39
1
190
AI新時代 情シスが向き合うべきAI活用戦略
howdy39
0
49
GAS x スプレッドシート x Looker Studio を組み合わせたデバイス管理 / DeviceMangent with GAS, SpreadSheet, Looker Studio
howdy39
0
1.1k
ChatGPTを使った 社内アシスタントBOTを作りました / ChatGPT Assistant Bot
howdy39
0
520
WebPagetestで始めるパフォーマンス計測 / Performance measurement starting with WebPagetest
howdy39
4
560
Storybookを用いたVue.js共通コンポーネント開発との戦い / stores-fights-storybook
howdy39
5
8.4k
gas-webpagetestで パフォーマンス計測を始めよう / get-started-measuring-performance-with-gas-webpagetest
howdy39
0
2.2k
Promise
howdy39
1
290
カラーユニバーサルデザイン / color universal design
howdy39
0
750
Other Decks in Programming
See All in Programming
個人開発で使ってるやつを紹介する回
yohfee
1
650
全方位強化 Python 服務可觀測性:以 FastAPI 和 Grafana Stack 為例
blueswen
1
360
モジュラモノリス、その前に / Modular monolith, before that
euglena1215
4
520
Cancel Next.js Page Navigation: Full Throttle
ypresto
1
110
Beyond the RuboCop Defaults
koic
2
480
pytest プラグインを開発して DRY に自動テストを書こう
inuatsu
2
240
2024-10-02 dev2next - Application Observability like you've never heard before
jonatan_ivanov
0
150
NANIMACHI
naokiito
0
930
GraphQLとGigaViewer for Apps
numeroanddev
4
880
Re:PandasAI:生成AIがデータ分析業務にもたらすパラダイムシフト【増補改訂版】
negi111111
1
770
上手に付き合うコンポーネントテスト
quramy
3
1.2k
The Myth of the Modular Monolith - Day 2 Keynote - Rails World 2024
eileencodes
6
220
Featured
See All Featured
How to Create Impact in a Changing Tech Landscape [PerfNow 2023]
tammyeverts
44
2k
Design and Strategy: How to Deal with People Who Don’t "Get" Design
morganepeng
125
18k
Rails Girls Zürich Keynote
gr2m
93
13k
Learning to Love Humans: Emotional Interface Design
aarron
271
40k
Put a Button on it: Removing Barriers to Going Fast.
kastner
58
3.4k
Designing on Purpose - Digital PM Summit 2013
jponch
114
6.9k
ParisWeb 2013: Learning to Love: Crash Course in Emotional UX Design
dotmariusz
109
6.9k
Unsuck your backbone
ammeep
667
57k
4 Signs Your Business is Dying
shpigford
180
21k
Fireside Chat
paigeccino
32
2.9k
The Cult of Friendly URLs
andyhume
76
6k
What the flash - Photography Introduction
edds
67
11k
Transcript
Puppeteer と GAS を利用した Web 監視 2018/04/03 トップゲート社 第2回 フロントエンド勉強会
1
本日の内容 2 1. Puppeteer とは 2. Puppeteer と GASを利用した Web
監 視
1. Puppeteer とは 3
Puppeteer Chrome を Node.js から操作するラ イブラリ • DevTools Protocol で操作している
• ヘッドレスモードで起動することでGUI なしでも使える 4
Puppeteer 5
比較 6
特徴その1 画面キャプチャを撮る • 画面サイズを変えることも可能 7
特徴その2 画面を操作する • DOMの内容を取得することも可能 8
特徴その3 SPA でもOK • Chrome を操作しているから、JS が 動く 9
その他 • テストも考慮されている • 任意のDOMだけ切り出してキャプチャ も可能 • HTTPリクエストのインターセプト • 描画にかかった時間などの計測
• etc 10
2. Puppeteer と GASを利用した Web 監視 11
経緯 12 技術情報のキャッチアップ 公式情報が一番早い • ブログとかは RSS/Atom を用意してく れてる だけど・・・
用意してくれていない サイトが意外とある・・・ → タブを開いといて、毎日リロードしてチェックしてた 13
なのでWeb監視する仕組みを 作った 14
15 1. cron で定期的に Node を実行する 2. puppeteer を用いて Web
スクレイピング 3. GAS で建てた Web サーバーに Post で スクレイピング結果を送信 4. スクレイピング結果を受け取り、履歴をス プレッドシートに登録 5. 履歴に変更があったら Slack で通知
デモ 16
17 ここをpuppeteerで取得 GCE 上の Node から puppeteer を実行 GAS でスプレッドシートの
履歴を書込 & Slack で通知