Upgrade to Pro — share decks privately, control downloads, hide ads and more …

これからの EnterPrise GenAI / EnterPrise GenAI

CyberAgent
November 13, 2023

これからの EnterPrise GenAI / EnterPrise GenAI

CyberAgent

November 13, 2023
Tweet

More Decks by CyberAgent

Other Decks in Technology

Transcript

  1. これからの
    EnterPrise GenAI
    Powered by CyberAgent Google Cloudゼミ
    CyberAgent AI事業本部 極事業部
    小林拓磨

    View full-size slide

  2. 自己紹介
    ● 小林 拓磨(@Cat_to_Love)
    ● ML PdM @CyberAgent
    ● Google Cloud PDE/PCA
    ● CADC2023 ”NEXT” DAY統括

    View full-size slide

  3. Agenda
    ● GenAIをEnterpriseに持っていくための検討事項・要件
    ● 生成物の所有・所在の証明
    ● データの集約とマルチクラウド・ネットワーク・改善サイクル
    ● まとめ

    View full-size slide

  4. GenAIをEnterprise
    に持っていくための検討事項・要件

    View full-size slide

  5. GenAIをEnterpriseに持っていくための検討事項・要件
    4 key enterprise readiness factors

    View full-size slide

  6. GenAIをEnterpriseに持っていくための検討事項・要件
    enterpriseに向けての4つのkey
    今回はココ(Responsible)

    +αの部分(個人的な)

    View full-size slide

  7. GenAIをEnterpriseに持っていくための検討事項・要件
    Responsible AI(RAI)のBlueprint
    https://ai.google/responsibility/principles/
    より

    View full-size slide

  8. GenAIをEnterpriseに持っていくための検討事項・要件
    Responsible AI(RAI)のBlueprint
    https://ai.google/responsibility/principles/
    より

    View full-size slide

  9. GenAIをEnterpriseに持っていくための検討事項・要件
    Responsible AI(RAI)へのアプローチ

    View full-size slide

  10. GenAIをEnterpriseに持っていくための検討事項・要件
    Responsible AI(RAI)へのアプローチ

    View full-size slide

  11. GenAIをEnterpriseに持っていくための検討事項・要件
    Product & Usecase Review → 潜在リスクを見つけ緩和策を見つける

    View full-size slide

  12. GenAIをEnterpriseに持っていくための検討事項・要件
    Responsible AI(RAI)へのアプローチ

    View full-size slide

  13. GenAIをEnterpriseに持っていくための検討事項・要件
    RAI Toolを使っての検証
    ・Safety filter
    →有害コンテンツのフィルタ
    (右図)
    ・Citation Check
    → コンテンツ複製のチェック

    View full-size slide

  14. GenAIをEnterpriseに持っていくための検討事項・要件
    Responsible AI(RAI)へのアプローチ
    リサーチとかデータとかモデルとかとか!

    View full-size slide

  15. GenAIをEnterpriseに持っていくための検討事項・要件
    果たして…?
    どんくらいResponsible?
    生成した物でなんか起きた時とか…🧐

    View full-size slide

  16. GenAIをEnterpriseに持っていくための検討事項・要件
    そういえば…NEXT開催後に
    https://cloud.google.com/blog/products/ai-machine-learning/protecting-customers-with-generative-ai-indem
    nificationにて

    View full-size slide

  17. GenAIをEnterpriseに持っていくための検討事項・要件
    生成AIに対する責任姿勢を表明
    先ほど紹介したセッションと共に考えると
    RAI周りにはかなりの自信がある?
    (業界的にその流れがあるという話もありそうだが)

    View full-size slide

  18. GenAIをEnterpriseに持っていくための検討事項・要件
    enterpriseに向けての4つのkey
    ここは本気そう

    +αの部分

    View full-size slide

  19. 生成物の所有・所在の証明

    View full-size slide

  20. GenAIをEnterpriseに持っていくための検討事項・要件
    とはいえ気になるのは…
    生成したものを、
    自分が生成したものだと証明できないと
    使うに至らない…
    どう証明するのか?

    View full-size slide

  21. GenAIをEnterpriseに持っていくための検討事項・要件
    非常にRobustなwatermark

    View full-size slide

  22. GenAIをEnterpriseに持っていくための検討事項・要件
    非常にRobustなwatermark
    Zack Akil
    Machine Learning Developer Advocate
    Google
    ・スクリーンショットのも検知できるし
    ・Photoshopでなんか乗せて合成したりしたやつでも
     検知できる!試して見て!
     (これはAsk the speakerで伺いました)

    View full-size slide

  23. GenAIをEnterpriseに持っていくための検討事項・要件
    ここまでで…
    ・RAIと生成物への補償の座組
    ・生成物の所在の証明
    割とここまでで
    EnterPrise(企業)として導入検討できるラインが
    近くなってきている感覚

    View full-size slide

  24. データの集約とマルチクラウド
    ネットワーク・改善サイクル

    View full-size slide

  25. GenAIをEnterpriseに持っていくための検討事項・要件
    とはいえ
    やはり
    ・Fine-tune, Prompting
    ・API化・Vector検索
    ・運用・改善
    諸々するにしても
    各所分散している大きな
    EnterPriseのデータの統合や、
    ネットワーク、改善サイクル
    周りが気になる…

    View full-size slide

  26. GenAIをEnterpriseに持っていくための検討事項・要件
    しっかり色々Session/Updateありました
    ・各所分散しているデータの統合
    →Petabyte-scale data migrations the Google Cloud way
    →Cross-cloud analytics workloads with BigQuery Omni and
    Looker
    ・ネットワーク(SaaSなどとも)
    →What's new in cloud networking: AI-optimized infrastructure,
    ML-powered security, and more
    ・サービス運用と改善サイクル
    →Predictive and generative AI projects with Vertex AI Feature Platform
    などなど

    View full-size slide

  27. まとめ
    ● EnterPrise向けのGenAIサービスはそう遠くない未来
    ○ 必要な要素をいくつか一気に揃えてきた印象
    ● そのほかあらゆる場所に点在するデータの統合や運用のための
    アップデートも多数

    View full-size slide

  28. Thank you for listening!

    View full-size slide