生成AIの社内導入やってみて_SaySyaMeetUpVol3

Transcript

1. 生成AI導入をやってみて 2024年2月27日 清水 れみお
2. 自己紹介 清水 れみお • 元:LLM無職 現:LLMフリーランス • ㈱アクセスネットにて生成AI導入コンサル • AI inside㈱にて生成AIエンジニア • 開発経験(半年) • 元通信建設業 10年 趣味 サウナ、ゲーム 、生成AI 2
3. LLM無職から生成AIコンサルへ •全社会で生成AIの成果およびCursorを紹介 •ChatGPT PlusとAPIの稟議 •生成AＩ利用ガイドライン作成 •利用環境の構築（Cursorの導入） •母校苫小牧高専での生成AI授業 3
4. 今日お話しすること •全社会で生成AIの成果およびCursorを紹介 •ChatGPT PlusとAPIの稟議 •生成AＩ利用ガイドライン作成 •利用環境の構築（Cursorの導入） •母校苫小牧高専での生成AI授業 4
5. 生成AI導入を やってみた！！
6. 導入稟議 •背景、目的 •他社事例 •導入効果 •コスト、ROI •計画詳細、スケジュール 6
7. 導入稟議（他社事例） 8 定量評価されている企業の事例が全然ない！！！ • 横須賀市、東京都（ChatGPTのみ） • GMO、ZOZO、サイバー（ほぼGitHub Copilotの成 果） • 導入しましたプレスは死ぬほどあるけども、 定量評価を踏まえた成果報告はネットに少ない！！ 導入の悩み①
8. 導入稟議（他社事例_横須賀市） 9 横須賀市の例
9. 導入稟議（他社事例_横須賀市） 10
10. 導入稟議（他社事例_GMO） 11
11. 導入稟議（GPT4の優位性） 12
12. 導入稟議（コスト） ①全社員にアカウント提供した場合 月額：2,900円×100アカウント＝290,000円 年額：348万円 ②APIを利用し、環境構築した場合 月額費用：2,900円×1アカウント＝ 2,900円 ＋ API費用(概算)：約88,000円 ＝月額約92,000円 年額：約110万円 13 月額費用 ¥70,390 年額費用 ¥844,683 内訳 ChatGPT Plus月額固定料金 1か月あたり $20.00 ¥2,900 ① Cursor Input Output 1回当たり 2 4 APIベース料金(従量課金) 1日当たり 20 Model Input Output 人数 7 gpt-4-1106-preview $0.01 / 1K tokens $0.03 / 1K tokens 単価[$] 0.01 0.03 https://openai.com/pricing#language-models ドル円 145 稼働日 20 Slack bot用API Input[K tokens] Output[K tokens] 1回当たりのやり取り 0.5K tokens 2.0K tokens bot Input Output 1人1日当たり(5回) 2.5K tokens 10.0K tokens 1回当たり 0.5 2 利用人数あたり(33.9人) 28.3K tokens 113.0K tokens 1日当たり 5 利用率 10% 1日の料金［＄］ $0.28 $3.39 社員数 113 1日の料金［円］ ¥41 ¥492 利用人数 11.3 1か月の料金［円］ ¥819 ¥9,831 1か月のAPI料金合計［円］ ¥10,650 ② Cursor用API Input[K tokens] Output[K tokens] 1回当たりのやり取り 2.0K tokens 4.0K tokens 1人1日当たり(20回) 40.0K tokens 80.0K tokens 受託チーム当たり(7人) 280.0K tokens 560.0K tokens 1日の料金［＄］ $2.80 $16.80 1日の料金［円］ ¥406 ¥2,436 1か月の料金［円］ ¥8,120 ¥48,720 1か月のAPI料金合計［円］ ¥56,840 ③ ※上記は想定金額でAPI使用料は全く読めないところもあり、導入からの１～２か月でデータを集めたいと考えています。 tokensとは ChatGPTのAPIは従量課金制で、料金計算を文字数ではなく、AIが認識できる分割数のTokenというものを用いている 英語は基本的に１単語１tokenとなるが、日本語は1文字1tokenでも1述語1tokenでもなく特殊な処理計算によって算出される Token計算Webページ： https://platform.openai.com/tokenizer
13. 社長に説明してなんとか通した （元から乗り気ではあった）
14. ChatGPT Plusの契約もしたし GPT4のAPIキーも払い出した じゃあ導入だ！！
15. 環境構築 16 •まず機能をどこまで提供する？ • チャット、ログ、検索、RAG、Whisper、Vision、 DALL-E・・・ •なんの媒体で提供する？ • オンプレ？クラウドに構築？Slack？Cursor？ ChatGPT本体？ 導入の悩み②～③
16. 環境構築 17 •技術的な相談ができる人が社内にいない！！ 導入の悩み④
17. 環境構築 18
18. 環境構築 • SESの会社でエンジニアが主なのでとりあえずVSCodeの代わ りにCursorを使うように指導 • Cursorならチャット、チャットログ、Vision、コード生成補助 など環境構築が楽な割に高機能 • まずは社内の１チームだけでスモールスタートして毎週レク チャ会を実施 →今週はPython構築からOpenAIAPIの利用の予定 19
19. 環境構築(API使用量) 20
20. 環境構築 21 •一般職への導入どうしよう・・・ 導入の悩み Now
21. 環境構築 22 • Excelのアドインでサイドバーで使えるようにすればいいので は！？ • Cursorと同じで一般職ならExcelを常に開いているはず！！ • M365 Copilotは高いのでAPIで使えるものが好ましい
22. 環境構築 23
23. 環境構築 24 • すでにいっぱいあるけどせっかくだから自分で作ってみよう • Code Interperter的なこともしたい →せっかくだからハッカソンに出そう！ →おそらくこのテーマで3月の東京AI祭ハッカソンに提出 予定！
24. 全然関係ないけど 25 生成AIよくわからんビジネス マン向け 胡散臭いタイトルですがこの 本の3章から読むといいで す！！ 「キーエンス思考」×ChatGPT時代の付加価値仕事術