Upgrade to Pro — share decks privately, control downloads, hide ads and more …

生成系 AI で成長を生成した 1 週間

Takahiro Kubo
December 01, 2023

生成系 AI で成長を生成した 1 週間

生成系 AI を使うことで、成長が消失しているかもしれない・・・と感じたことはないでしょうか ?
本スライドでは、生成系 AI で積極的学習に用い成長を生成する方法をご紹介します。

Takahiro Kubo

December 01, 2023
Tweet

More Decks by Takahiro Kubo

Other Decks in Business

Transcript

  1. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved.
    © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved.
    生成系 AI で成長を生成した 1 週間
    Machine Learning Developer Relations
    Takahiro Kubo
    アマゾン ウェブ サービス ジャパン合同会社

    View full-size slide

  2. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. 2
    自己紹介
    アマゾン ウェブ サービス ジャパン合同会社
    Machine Learning Developer Relations
    久保隆宏 (Kubo Takahiro)
    ミッション
    「機械学習を実用するなら AWS 」という認知を拡大すること。
    10 年以上の業務コンサルタント経験、また研究開発していたテーマをプロダクトと
    してリリースした経験をもとにお話しします。

    View full-size slide

  3. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved.
    コミュニティ向けに執筆している記事
    3
    Qiita : 技術記事 note : 機械学習を活かすプロダクトマネジメント

    View full-size slide

  4. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved.
    今年の取り組み : ML Enablement Workshop
    4
    機械学習を本番で活用するための
    ワークショップ。
    Amazonや Spotify 、 Uber と
    いった海外の著名プロダクトでの
    データサイエンス活用事例をまと
    めた資料も掲載しています。
    ワークショップの資料には、AWS
    の知見だけでなく最新の海外事例
    の知見が反映されています。
    https://github.com/aws-samples/aws-ml-enablement-workshop

    View full-size slide

  5. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved.
    生成系 AI による成長の消失はないか ?
    5

    View full-size slide

  6. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved.
    生成系 AI に生成を任せることで積極的学習の機会が減る ?
    積極的学習は、自分の記憶や考えを積極的に引き
    出す(=回収する) 学習方法。より深く学習する
    (= 成長する) のに効果的な方法。
    • 一度読んだ内容を思い出しながら要約する
    • 読んでいて浮かんだ疑問をメモする
    • 学んだ内容について他者と議論する
    6
    LEARN LIKE A PRO p71 を参照

    View full-size slide

  7. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved.
    Case: 論文を読んでまとめる
    7
    個人的なまとめるステップ (大体)
    1. Abstract を読む
    2. Introduction で課題とアプローチをつかむ
    3. 特筆すべき点は何か ? 考える
    1. 課題の目の付け所 ? アプローチ ? 実験手法 ?
    4. 実験結果を見る
    5. 課題 / アプローチ / 解決の流れを組み立てる
    6. 言語化する
    7. まとめを書いて記録する
    Stable Video Diffusion

    View full-size slide

  8. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved.
    Case: 論文を読んでまとめる
    8
    個人的なまとめるステップ (大体)
    1. Abstract を読む
    2. Introduction で課題とアプローチをつかむ
    3. 特筆すべき点は何か ? 考える
    1. 課題の目の付け所 ? アプローチ ? 実験手法 ?
    4. 実験結果を見る
    5. 課題 / アプローチ / 解決の流れを組み立てる
    6. 言語化する
    7. まとめを書いて記録する
    積極的学習
    ポイントが多数

    View full-size slide

  9. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved.
    Case: 論文を読んでまとめる
    9
    生成系 AI を使う場合
    1.PDF をアップロードして要約を生成・・・だけ!
    積極的学習
    ポイントが消失

    View full-size slide

  10. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved.
    生成系 AI の直接的活用が向くケース・向かないケース
    10
    読むべき論文を絞り込む 論文を読んで理解する
    翻訳、要約によりぱっと見どんな論文か
    すぐにわかるようにして、読むべき論文
    に当たりをつける。
    応用例
    • arXiv と連携した論文紹介 Bot
    • 海外ブログ記事 News Feed
    翻訳、要約をさせてそれだけ読む場合、
    積極的学習の機会を奪う可能性がある。
    ハルシネーションにも注意が必要。
    (学習にとって) NG 応用例
    • 論文 to ペライチ Generator
    • 複数論文 to サーベイ結果
    理解の促進 = 成長の生成
    には使い方の工夫が必要

    View full-size slide

  11. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved.
    生成系 AI により成長も生成する方法
    11

    View full-size slide

  12. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved.
    成長も生成する生成系 AI の使い方 from 1 週間試行錯誤
    12
    前提 : 論文は自分でまず目を通す。そのうえで・・・
    1. 疑問点を確認する
    • 積極的に理解を深める+疑問点で長時間つまらないようにする
    2. 理解度を確認する
    • 読み違い、誤解がないかを確認する
    3. 応用方法を議論する
    • どんな発展的な応用があり得るか議論する

    View full-size slide

  13. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved.
    実践で使うモデル : Anthropic Claude
    13
    Claude は約百ページ超の最大 200,000 トークンを扱えるだけでなく、
    GPT-3.5 / GPT 4 と近しい精度を (日本語でも) 持つモデル (※1, 2 参照)。
    ※1 https://huggingface.co/spaces/lmsys/chatbot-arena-leaderboard
    ※2 https://yuzuai.jp/benchmark
    Claude.ai に登録する
    とすぐ使える

    View full-size slide

  14. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved.
    実践 : (前段) 自分で読みつつ生成 AI にも読ませる
    14
    理解するための要約というより、議論の
    土台になる情報を読ませる。
    プロンプトの例 :
    Read the document carefully because
    it will be asked questions later.
    ※英語のプロンプトのほうが利くので英
    語でプロンプトを書いてます。
    Stable Video Diffusion
    の論文を使いました

    View full-size slide

  15. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved.
    実践① : 疑問点を確認する
    15
    疑問点があれば聞く。
    自分で一定時間考え、わからなければ聞
    くことで時間を節約。
    例示を交えかなり丁寧に教えてくれる
    (ハルシネーションには注意)
    今回は Introduction に「既存の研究は時間
    的なレイヤを空間的なレイヤとどう揃えるか
    の議論に終始していた」という言及があった
    ので意味を確認 ( 先行研究では今回の議論は
    ほぼ考慮されていない強い主張だったので )。

    View full-size slide

  16. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved.
    実践① : 疑問点について確認する
    疑問点を聞いて嘘を教えられても困る。
    ハルシネーションを抑制したい。
    説明の根拠となる論文の箇所を抜粋させる
    と良い。
    プロンプトの例 :
    First, find the quotes from the document then
    answer the question.
    16

    View full-size slide

  17. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved.
    実践② : 理解度を確認する
    自分で理解した内容を確認する。この時、
    間違っている点や見落としている点がな
    いかを確認。
    プロンプトの例 (末尾) :
    ・・・ If I have misunderstood, please
    let me know.
    17

    View full-size slide

  18. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved.
    実践③ : 応用方法を議論する
    なにに使えるか ? 懸念点はないか ? な
    どを議論。
    今回の場合、バイアスへの対処や生成の速度な
    どは気になるところ。
    Claude だと「 Goode question! 」とめっちゃ
    ほめてくれてテンションが上がる・・・のと、
    論文中にない場合「 not explicitly discuss 」
    とちゃんとないことを回答したのを確認。
    18

    View full-size slide

  19. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. 19
    Anthropic Claude は Amazon Bedrock から利用可能
    Model Context Prompt ( 入力 ) Completion ( 出力 )
    token per 1M token per 1M token
    GPT-3.5 4k $1.00 $2.00
    GPT-4 8k $30.00 $60.00
    GPT-3.5 16k $3 $4
    GPT-4 32k $60.00 $120.00
    GPT-4-turbo 128k $10 $30
    Claude Instant (*1) 100k(*2) $1.63 $5.51
    Claude (2.0) 100k(*2) $11.02→$8.00 $32.68→$24
    Claude (2.1) 200k(*2) $11.02→$8.00 $32.68→$24
    *1 : US East (N. Virginia) ・ US West (Oregon) の価格。東京リージョンでは価格が若干高い。
    *2 : 東京リージョンでは 18k までのモデルが使用可能。

    View full-size slide

  20. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. 20
    Amazon Bedrock で利用する方法
    https://qiita.com/icoxfog417/items/869e2093e672b2b8a139

    View full-size slide

  21. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved.
    まとめ
    21
    • 生成系 AI で成長が消失しないよう注意が必要
    • 成長を生成する 3 つの使い方
    • 疑問点を確認する
    • 理解度を確認する
    • 応用方法を議論する
    • Anthropic Claude は論文のような長文を扱える高性能なモデル
    • Claude.ai からすぐに利用できる
    • Amazon Bedrock でセキュアにアプリケーションへ組み込める

    View full-size slide

  22. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved.
    Advent Calendar 開催中!!
    22
    https://qiita.com/advent-calendar/2023/anthropic-claude

    View full-size slide

  23. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved.
    Thank you!
    © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved.

    View full-size slide