Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Unity Catalogの自動有効化
Search
Databricks Japan
May 29, 2024
Technology
1
130
Unity Catalogの自動有効化
Unity Catalogの自動有効化について説明します。
Databricks Japan
May 29, 2024
Tweet
Share
More Decks by Databricks Japan
See All by Databricks Japan
Databricks Appのご紹介
databricksjapan
0
550
Databricks AI/BI Genie 自然言語を用いたインテリジェンスなデータ分析
databricksjapan
0
150
生成AIとレイクハウス・ガバナンス
databricksjapan
1
110
データプロダクトにおけるCI/CD: Databricks Asset Bundleとは?
databricksjapan
0
120
Databricks クリーンルームについてのご紹介
databricksjapan
0
190
Unity Catalog データ分離設計ガイド / Unity Catalog Data Isolation Design Guide
databricksjapan
1
510
機械学習モデルの運用と実用的なアプローチ
databricksjapan
0
700
Unity Catalog 技術ディープダイブ
databricksjapan
1
430
パフォーマンス最適化のベストプラクティス
databricksjapan
0
1.7k
Other Decks in Technology
See All in Technology
VueとViteで作るUIコンポーネントライブラリ ~デザインシステムとプロダクトの理想的な分離を目指して~ / 20241019_cloudsign_VueFesJapan2024_1
bengo4com
8
3k
テクニカルライターのチームで「目標」をどう決めたか / MVV for a Team of Technical Writers
lycorptech_jp
PRO
3
150
WSUSが非推奨に!? Windowsの更新管理を改めて勉強する!
ebibibi
0
550
Applied NLP with LLMs: Beyond Black-Box Monoliths
inesmontani
PRO
0
180
Amazon Managed Grafana で AWS IoT TwinMaker によるデジタルツインアプリケーションを動かしてみた
wakatsuki
0
110
外部カンファレンスで登壇しよう! 〜「強い」エンジニアへの一歩を踏み出す〜
logica0419
4
130
エンジニア向け会社紹介資料
caddi_eng
14
270k
Oracle Base Database Service 技術詳細
oracle4engineer
PRO
5
48k
안드로이드 기술 이력서의 최소 조건
pluu
0
780
SageMaker学習のツボ / The Key Points of Learning SageMaker
cmhiranofumio
0
270
ラブグラフ紹介資料 〜プロダクト解体新書〜 / Lovegraph Product Deck
lovegraph
0
14k
From naive to advanced RAG: the complete guide
glaforge
0
620
Featured
See All Featured
Rebuilding a faster, lazier Slack
samanthasiow
79
8.6k
Put a Button on it: Removing Barriers to Going Fast.
kastner
58
3.5k
Gamification - CAS2011
davidbonilla
80
5k
Building an army of robots
kneath
302
42k
How STYLIGHT went responsive
nonsquared
95
5.1k
Building Flexible Design Systems
yeseniaperezcruz
327
38k
KATA
mclloyd
29
13k
The MySQL Ecosystem @ GitHub 2015
samlambert
250
12k
Visualizing Your Data: Incorporating Mongo into Loggly Infrastructure
mongodb
41
9.2k
[Rails World 2023 - Day 1 Closing Keynote] - The Magic of Rails
eileencodes
31
1.7k
Practical Tips for Bootstrapping Information Extraction Pipelines
honnibal
PRO
9
630
Become a Pro
speakerdeck
PRO
24
4.9k
Transcript
©2023 Databricks Inc. — All rights reserved Unity Catalogの 自動有効化
ワークスペース組み込みの ガバナンス Date 8/31/2023 Name データブリックス ジャパン株式会社
©2023 Databricks Inc. — All rights reserved DatabricksレイクハウスはデータとAIの ガバナンスを統合します 外部コンピュート
プラットフォーム BI & データ ウェアハウス データエンジニ アリング ストリー ミング データ サイエンス & ML Open Interfaces Databricks Unity Catalog 構造化、非構造化データ + AIに対する単一のガバナンスモデル 外部データソース クラウドデータレイク すべての構造化、半構造化、非構造化データ 外部カタログ
©2023 Databricks Inc. — All rights reserved Unity Catalog はレイクハウス
の基盤です ワークスペース横断の ガバナンス リネージ 行 & 列のフィルタリング テーブルの 自動チューニング タグ ボリューム ML特徴量 & モデル システムテーブル Delta Sharing レイクハウスフェデレーション クリーンルーム レイクハウスモニタリング DatabricksIQ Databricksマーケットプレイス
発表 Unity Catalogはすべてのワークスペース で自動で有効化されます!
©2023 Databricks Inc. — All rights reserved メリット ▪ 新規ワークスペースはUnity
Catalogへのアクセスが事前設定されて提供さ れ、デフォルトでアセットのガバナンスが確保されます ▪ アカウント管理者に「電話をかける」必要なしにワークスペースの 「利用を開始」できます ▪ Unity Catalogをベースとした最新のDatabricks機能にアクセスできます ▪ Hiveサポートを含むUC以前のワークロードとの完全互換性があります
©2023 Databricks Inc. — All rights reserved 概要 ワーク スペースでUCが
自動有効化 1 ワークスペース 専用のカタログ 2 ワークスペース管理者が カタログの所有者 3 Hiveサポートに 変更なし 4
©2023 Databricks Inc. — All rights reserved 動作原理
©2023 Databricks Inc. — All rights reserved 動作原理 ワーク スペース
1 UC カタログ 1 ストレージ WS管理者 UCメタストア あるリージョンに最初のワークスペースが作成さ れると、それとともに自動でメタストアも作成されま す 自動作成されたメタストアには、ワーク スペース分離を維持するために、ルート ストレージやメタストア管理者は設定されません 新規 ワークスペース
©2023 Databricks Inc. — All rights reserved 動作原理 ワークスペー ス
1 UC カタログ1 ストレージ WS管理者 ワークスペー ス 2 ストレージ WS管理者 UCメタストア 新規ワークスペースは同じ リージョンのUCメタストアに自 動でアタッチされます 新規ワーク スペース UC カタログ2
©2023 Databricks Inc. — All rights reserved 動作原理 ワークスペー ス1
UC カタログ1 ストレージ WS管理者 ワークスペー ス2 UC カタログ2 ストレージ WS管理者 UCメタストア ワークスペースとともに、ワークスペース名 のついた事前設定済みのカタログが提供さ れます カタログはデフォルトでワークスペースに 「紐づけ」られており、明示的に解放しない 限りそのワークスペースからしかアクセスで きないことを意味します
©2023 Databricks Inc. — All rights reserved 動作原理 ワークスペー ス1
UC カタログ1 ストレージ WS管理者 ワークスペー ス2 UC カタログ2 ストレージ WS管理者 ワークスペース管理者はカタログの所有権を 持ち、UCで新規カタログ、 ロケーション、コネクション、その他のルート レベルのオブジェクトを作成することができま す UCメタストア
©2023 Databricks Inc. — All rights reserved ワークスペー ス2 UC
カタログ2 ストレージ WS管理者 動作原理 ワークスペー ス1 UC カタログ1 ストレージ WS管理者 このカタログはワークスペース専用の ストレージを使用します: • Azure - DBFSに隣接する新規 コンテナ • AWS - ワークスペースストレージ配 下で分離されたプレフィクス UCメタストア
©2023 Databricks Inc. — All rights reserved 動作原理 ワークスペー ス1
UCカタログ1 ストレージ WS管理者 ワークスペー ス2 UC ストレージ WS管理者 ユーザーがカタログ/スキーマを指定せず に‘CREATE TABLE myTable’を実行した 場合、‘default’として設定されているカタ ログにテーブルが作成されます。 これは‘workspace default catalog’ という新たなワークスペース設定で制御さ れます。 Hiveを使い続けたい場合には、この 設定を変更します。 UCメタストア Hive
©2023 Databricks Inc. — All rights reserved Before vs After
コンポーネント 以前のリリース 新規リリース Unity Catalog ワークスペース作成後にアカウント管理者に よって有効化 ワークスペース作成時に自動で有効化 Hiveメタストア それぞれのワークスペースで自身の Hive メタストアを保持 それぞれのワークスペースで自身の Hive メタストアを保持 アイデンティティシステム ワークスペースごとのアイデンティティ システム、ローカルグループ アイデンティティフェデレーション , アカウントグルー プ (アカウント管理者、ワークスペース管理者に よって作成) デフォルトのカタログ Hive UI/APIで設定可能 (UCカタログかHiveを選択可 能) UCメタストアのストレージルート とメタストア管理者 必須 オプション (分散ガバナンスをサポート ) UCストレージ資格情報の作成 アカウント管理者のみ アカウント管理者、メタストア管理者、ワークスペー ス管理者、CREATE STORAGE CREDENTIAL権限 を持つユーザー UCカタログ作成 (コネクション、外部ロケーショ ン、共有にも適用) メタストア管理者、CREATE CATALOG CREDENTIAL 権限を持つユーザー メタストア管理者、ワークスペース管理者、 CREATE CATALOG CREDENTIAL権限を持つユー ザー
©2023 Databricks Inc. — All rights reserved Demo