Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Sign up for free
Menu
Search
Features
All features
Private URLs
Password Protection
Custom URLS
Scheduled publishing
Remove Branding
Restrict embedding
Deck Collections
Notes
Features
All features
Private URLs
Password Protection
Custom URLS
Scheduled publishing
Remove Branding
Restrict embedding
Deck Collections
Notes
Explore
Featured decks
Featured speakers
Programming
Technology
Storyboards
Explore
Featured decks
Featured speakers
Programming
Technology
Storyboards
Pricing
Search
Sign in
Sign up for free
Gunosy.go#2 package/compress
Search
shunsukeaihara
June 19, 2014
Technology
150
0
Share
Embed
Copy iframe code
Copy JS code
Copy link
Start on current slide
Gunosy.go#2 package/compress
shunsukeaihara
June 19, 2014
More Decks by shunsukeaihara
See All by shunsukeaihara
BONXを支える技術:発話区間検出(VAD)の話/Akerun & BONX Tech Talk
shunsukeaihara
4
7.8k
Goのnet.TCPConnの話/shibuya.go01
shunsukeaihara
3
890
Norikra in Gunosy Network Ads@Norikra meetup #2
shunsukeaihara
1
6.1k
LevelDB on S3 As A KVS
shunsukeaihara
1
3k
色恒常性仮説に基づく色補正ライブラリcolorcorrect / 2015-01-31-kantocv27
shunsukeaihara
3
2.6k
Sparkによる分散処理 / 2015-01-16 PyData.Tokyo#3
shunsukeaihara
11
3.6k
ゼロから始めた Gunosyアドサーバ開発運用記 / 2014-12-16-dots
shunsukeaihara
6
1.2k
Gunosy.Go#5 index/io/log
shunsukeaihara
0
200
Other Decks in Technology
See All in Technology
20260912_スクラムにジェネラリストは必要か
ryugen04
0
360
OpenTelemetry eBPF Instrumentationの舞台裏 / Behind the Scenes of OpenTelemetry eBPF Instrumentation
ymotongpoo
4
1.1k
Where Is JetBrains AI Heading- — Central CLI, Air Alpha, and the Agentic Development Stack
x5gtrn
PRO
0
160
ペアプロの価値はコードを書くことだけじゃない
codmoninc
PRO
0
200
20260906 「AWS運用入門」著者が教える、運用業務への生成AI活用入門
masaruogura
0
260
アプリをもっと"iOSアプリっぽく"する小さな工夫 / Small Touches That Make Your App Feel More Like an iOS App
matsuji
1
620
多層防御と最⼩権限で実現する、安全なAIエージェント設計パターン
lycorptech_jp
PRO
1
270
AIオーケストレーションを活用した 開発ワークフローの設計と実践
bqnq
0
140
作品が生態系になった ─ Mini Tokyo 3D から世界へ
nagix
0
160
TinyGo 開発サイクルを高速化する:Go で作るエミュレータ入門
zozotech
PRO
1
640
Podは生きているのにGoだけが落ちる:GOGCとGOMEMLIMITで追うInvisible OOM Killの謎
tkc66buzz
1
590
コスト最適化の「めんどくさい」を AWS FinOps Agent でチョット楽にする
classmethod_kaz
0
320
Featured
See All Featured
Pawsitive SEO: Lessons from My Dog (and Many Mistakes) on Thriving as a Consultant in the Age of AI
davidcarrasco
0
240
How to Create Impact in a Changing Tech Landscape [PerfNow 2023]
tammyeverts
56
3.5k
For a Future-Friendly Web
brad_frost
183
10k
HDC tutorial
michielstock
2
860
GraphQLの誤解/rethinking-graphql
sonatard
75
12k
Making Projects Easy
brettharned
120
6.7k
Faster Mobile Websites
deanohume
310
32k
The Web Performance Landscape in 2024 [PerfNow 2024]
tammyeverts
12
1.3k
What’s in a name? Adding method to the madness
productmarketing
PRO
24
4.2k
Mozcon NYC 2025: Stop Losing SEO Traffic
samtorres
1
530
The #1 spot is gone: here's how to win anyway
tamaranovitovic
3
1.2k
Conquering PDFs: document understanding beyond plain text
inesmontani
PRO
4
3k
Transcript
Gunosy.go#2 package/compress Shunsuke Aihara
compress is ... • http://golang.org/pkg/compress/ • いわゆる圧縮ファイルを扱うもの – なんか⾒見見てみたらGoで全部書いてある –
libzlibとかに依存せずgoで完結してる • 複数の圧縮ファイルフォーマットに対応 – bzip2 – zlib – gzip – lzw
実装されている圧縮アルゴリズム • bzip2 – Bw変換を⽤用いた圧縮アルゴリズム。 – 遅いが圧縮率率率が⾼高い • flate(bzip, zlib)
– zipで⽤用いられている圧縮アルゴリズム(Deflate) – LZ77 + ハフマン符号 • lzw – deflateと⽐比べると⾼高速だが圧縮効率率率が若若⼲干悪い – LZ78の改良良アルゴリズム。gifで使われていて昔 特許で騒がれたアレ
• bzip2 – Bw変換を⽤用いた圧縮アルゴリズム。 – 遅いが圧縮率率率が⾼高い • flate(bzip, zlib) –
zipで⽤用いられている圧縮アルゴリズム(Deflate) – LZ77 + ハフマン符号 • lzw – deflateと⽐比べると⾼高速だが圧縮効率率率が若若⼲干悪い – LZ78の改良良アルゴリズム。gifで使われていて昔 特許で騒がれたアレ 実装されている圧縮アルゴリズム 圧縮アルゴリズムは共通で、ファイル形式のみ異異なる
アルゴリズムについて詳しくは… • ⾼高速⽂文字列列解析の世界を読みましょう! • h9p://www.amazon.co.jp/dp/4000069748
compress/*の使い⽅方 • 基本的な使い⽅方はどれも同じ – 圧縮ファイルを扱う際は… • NewReaderで圧縮ファイル読み込み⽤用Reader作成 –
物によっては辞書や圧縮オプションを指定可能(ただし圧 縮時に利利⽤用した物を指定しないとerror) • NewWriterで圧縮ファイル作成⽤用Writer作成 – ものによって辞書(LZ77⽅方式で利利⽤用する初期⽂文脈?)と圧縮 オプションを指定可能 – Bzip2は伸張のみサポート – 微妙にIFが異異なる • Exampleがあるzlibから紹介 • h9p://play.golang.org/p/GH6_Mtoaek
compress/zlib • func NewReader(r io.Reader) (io.ReadCloser, error) • func
NewReaderDict(r io.Reader, dict []byte) (io.ReadCloser, error) • type Writer – func NewWriter(w io.Writer) *Writer – func NewWriterLevel(w io.Writer, level int) (*Writer, error) – func NewWriterLevelDict(w io.Writer, level int, dict []byte) (*Writer, error) – func (z *Writer) Close() error – func (z *Writer) Flush() error – func (z *Writer) Reset(w io.Writer) – func (z *Writer) Write(p []byte) (n int, err error) • その他、圧縮オプションに関する定数値、エラー型を定義 • 中でflateを呼んでいる
解凍時の処理理 • h9p://golang.org/pkg/compress/zlib/#example_NewReader
圧縮時の処理理 • h9p://golang.org/pkg/compress/zlib/#example_NewWriter
compress/flate • func NewReader(r io.Reader) io.ReadCloser • func NewReaderDict(r
io.Reader, dict []byte) io.ReadCloser • type CorruptInputError – func (e CorruptInputError) Error() string • type InternalError – func (e InternalError) Error() string • type ReadError – func (e *ReadError) Error() string • type Reader • type WriteError – func (e *WriteError) Error() string • type Writer – func NewWriter(w io.Writer, level int) (*Writer, error) – func NewWriterDict(w io.Writer, level int, dict []byte) (*Writer, error) – func (w *Writer) Close() error – func (w *Writer) Flush() error – func (w *Writer) Reset(dst io.Writer) – func (w *Writer) Write(data []byte) (n int, err error) • その他、圧縮オプションに関する定数値、エラー型を定義
compress/gzip • type Header • type Reader –
func NewReader(r io.Reader) (*Reader, error) – func (z *Reader) Close() error – func (z *Reader) Read(p []byte) (n int, err error) • type Writer – func NewWriter(w io.Writer) *Writer – func NewWriterLevel(w io.Writer, level int) (*Writer, error) – func (z *Writer) Close() error – func (z *Writer) Flush() error – func (z *Writer) Reset(w io.Writer) – func (z *Writer) Write(p []byte) (int, error) • その他、圧縮オプションに関する定数値、エラー型を定義 • gzipは独⾃自のヘッダ型がある • 中でflateを呼んでいる
compress/bzip2 • func NewReader(r io.Reader) io.Reader • type StructuralError
– func (s StructuralError) Error() string • Block sort(BW変換)のgo実装読んでみた かったけど圧縮は未対応だった
compress/lzw • func NewReader(r io.Reader, order Order, litWidth int)
io.ReadCloser • func NewWriter(w io.Writer, order Order, litWidth int) io.WriteCloser • type Order