OpenAI/Gemini APIを使って EPUBを翻訳するCLIツールをつくってみた

2024/07/19 面白法人カヤックさん クラシコム合同勉強会
https://zenn.dev/tomiyan/articles/b02c973f7ed845
https://github.com/tomiyan/trans-epub

Transcript

1. OpenAI/Gemini APIを使って EPUBを翻訳するCLIツールをつ くってみた 2024/07/19 面白法人カヤックさん クラシコム合同勉強会 tomiyan
2. アジェンダ - 自己紹介 - なぜ作り始めたのか - EPUBのデータ構造 - OpenAI APIとの格闘 - Gemini API - 今後
3. 自己紹介 tomiyan / 冨田昌邦 Webエンジニア、情シスも兼務 略歴 - サレジオ高専 情報工学科 - SIer 6.5年 - SES 0.5年 - 不動産ポータル 11.5年 - クラシコム 4年
4. なぜ作り始めたのか
5. なぜ作り始めたのか - 前職時代からRustいいよと聞いていた - 個人的なプログラミング言語の選定要件 - AWSなどからSDKが提供される - DBクライアントが提供される - 2023/11にAWS SDK for RustがGA - そろそろプロダクションへの利用もありかなと思った
6. なぜ作り始めたのか - The Rust Programming Language 日本語版 - The Rust Programming Language 日本語版 (rust-jp.rs) を半分くらい履修 - Rust Web Development読みたいけど、まだ訳書がない
7. なぜ作り始めたのか - ChatGPTにPDFをアップロードすると翻訳することができる - 単なるテキストとして部分的に返してくる - EPUBの翻訳頼んだら、翻訳するためのPythonのコードを渡された
9. なぜ作り始めたのか - EPUBを翻訳してくれるツールないかなと検索したところ DeepL APIで翻訳してくれるCLI sharplab/epub-translator: An utility to translate epub books with DeepL (github.com) が公開されていた - Red Hatの @shiroica さんが作っている - KotlinとQuarkusで実装されている - GraalVMに対応しているのでNativeImageも作れる - 現状Jarで提供されている
10. なぜ作り始めたのか - インスパイアされた - この際、RustとOpenAI APIも勉強できて一石二鳥じゃないか
11. EPUBのデータ構造
12. EPUBのデータ構造 - https://idpf.org/epub/30/spec/epub30-ocf.html - XML、XHTML、HTMLやCSS、画像などをzipで固めたもの 引用：太宰治 走れメロス 青空文庫をネット書房が組版・製本したEPUB
13. EPUBのデータ構造 - HTMLのテキストノードを翻訳すれば置き換えることができる - 日本語などのドキュメントは<ruby></ruby>がはさまっており、ルビを生かしたまま 翻訳できない 引用：太宰治 走れメロス 青空文庫をネット書房が組版・製本したEPUB
14. EPUBのデータ構造 - 当初原文のままがよさそうな<code></code>や<pre></pre>、<a></a>などをリス トアップして、翻訳をスキップしようとした - 出版社によりマークアップの仕方が違うためリストアップが困難だった - 大抵の書籍は<h1></h1><p></p>内のテキストノードさえ翻訳してあげれば良さそ うなことがわかった
15. OpenAI APIとの格闘
16. OpenAI APIとの格闘 - Rate limits - 利用者の課金額や初回課金成功日数によってTiersが分かれている
17. OpenAI APIとの格闘 - Tiers、MODEL(gtp-4o,gtp-4turbo,gtp-3.5-turboなど)によって1分毎のリクエスト 数やトークン数上限が決まっている
18. OpenAI APIとの格闘 - レスポンスヘッダでレートリミットがいつ回復するか返してくれる
19. OpenAI APIとの格闘 - APIのレスポンスがそれほどはやくないのでできればある程度まとまった行数を並 行してリクエストしたい - まとめ過ぎるとトークン数の上限に達してしまう - 翻訳の場合、入力・出力の文字数が多くトークンを消費しやすい - リクエスト数よりもトークン数の上限にひっかかりやすい - レスポンスヘッダの`x-ratelimit-reset-tokens`をパースしてsleepを入れた
20. OpenAI APIとの格闘 - レイアウトが崩れてしまうので、原文のテキストノードのあとに訳文を追加したい - 原文1段落に対して必ず1段落の訳文を返してほしい
21. APIの結果ではないけど 雰囲気を味わってもらうための例
24. OpenAI APIとの格闘 - 実際には20段落事に翻訳している - 10回に1回くらいの頻度で原文と訳文の数の不一致が発生する - 不一致の場合は1段落ずつ翻訳するようにフォールバックしている
25. Gemini API
26. Gemini API - 素直な良い子 - OpenAI APIよりもはやい - トークン調査用のAPIもある - レートリミットの情報がわからない
28. 注意 - 翻訳されている本がでているのであれば、そちらを購入することを強くおすすめしま す - あくまでも翻訳されていない本を読む補助のツールです - 翻訳に時間がかかるし、APIの課金額が読めない - ルビを除去したりしていますし、文中の画像やソースコード内のコメントは翻訳でき ない - 将来的にOS、EPUBリーダー、AIプラットフォーマーが対応しそうな気もする - DeepLも次世代LLMモデルを2024/07/17発表 - DeepLが翻訳でChatGPT-4、Google、Microsoftを上回る次世代 LLMモデルを実装
29. 発展している最中なので価格もAPIの仕様も変わりやすい - 今朝（2024/07/19）もGPT-4o miniが発表 - DeepL API Pro $5.48 + 100万文字あたり$25 1M tokens Input Output GPT-4o $5 $15 GPT-4o mini $0.15 $0.6 GPT-3.5 Turbo $0.5 $1.5 Gemini 1.5 Flash $0.35 $1.05 Gemini 1.5 Pro $3.5 $10.5
30. 今後
31. 今後 - dry runしておおよその分量をわかるように - brew installできるようにする - Amazon BedrockのClaude3に対応 - リファクタ - Rustの本 翻訳したけどまだ読んでいない
32. おわり