松本美穂と松本崇博が執筆した SQL Server 2012 自習書シリーズの「新機能編 No.3 DWH 関連の新機能」の HTML 版です。 日本マイクロソフトさんの Web サイトで Word または PDF 形式でダウンロードできますが、今回、HTML 版として公開する許可をいただきましたので、ここに掲載いたします。[2014年12月26日]
SQL Server 2012 では、DQS(Data Quality Services:データ品質サービス)と呼ばれるデータ品質を向上させるためのサービスが提供されました。DQS は、いわゆる「データ クレンジング」(Data Cleansing)や「名寄せ」と呼ばれる処理が可能なサービスで、複数の業務システム(散在したマスター データ)から DWH(データ ウェアハウス)を構築する際に大変役立つ機能です。
普段私たちが利用している業務システムでは、データの入力ミスや、システム上のイレギュラーな処理によるデータの不整合や不一致などが起こり得ます。また、複数の業務システム(マスター データ)が存在する場合には、それぞれのマスター内でデータの格納方法がバラバラである場合があります。たとえば、Aというシステムでは「XXX株式会社」として登録している取引先が、B というシステムでは「XXX(株)」のように省略系で登録されていたりするケースなどがあります。また、あるシステムでは「第一営業部」として登録されている部署名が、別のシステムでは「第1営業部」のように漢字の「一」が数字の「1」として登録されてしまっているようなケースもあり得ます。
このようにデータ品質に問題がある場合(同一データが異なる形式で格納されていたり、入力ミスなどで不正なデータが格納されていたりする場合)を解決するための処理が「データ クレンジング」と呼ばれています。クレンジング(Cleansing)は、「洗浄」という意味なので、データ クレンジングは、「データをきれいに洗う」=「データを正しい状態へ整える」という意味で使われています。このようなデータ クレンジングが可能なサービスが DQS(Data Quality Services)です。
DQS では、次の画面のように、データの修正先を簡単に定義することができるツールが用意されています。
この画面では、間違っているデータ「マイクロソフト日本株式会社」などの場合に、正しいデータ「日本マイクロソフト株式会社」へ修正するようなルールの作成(シノニム:同一値の定義)を行っています。
また、このような名前の修正(変換)だけでなく、文字列の長さが正しいかどうかのチェック(たとえば商品コードが 5桁かどうかのチェックなど)や、正規表現を利用したデータのチェックなどを行うことも可能です。
このように DQS ツール上で作成したルール/品質チェックは、次のように Integration Services の「DQS クレンジング」タスクを利用することで、実際の処理を実行することができます。
第60回:SQL Server 2017 自習書 No.3「SQL Server 2017 Machine Learning Services」のご案内
第59回:SQL Server 2017 自習書 No.2「SQL Server 2017 on Linux」のご案内
第58回:SQL Server 2017 自習書 No.1「SQL Server 2017 新機能の概要」のご案内
第57回:SQL Server 2017 RC 版とこれまでのドキュメントのまとめ
第56回:「SQL Server 2016 への移行とアップグレードの実践」完成&公開!
第55回:書籍「SQL Server 2016の教科書 開発編」(ソシム)が発刊されました
第54回:「SQL Server 2016 プレビュー版 Reporting Services の新機能」自習書のお知らせ
第 53 回:SQL Server 2016 Reporting Services の新しくなったレポート マネージャーとモバイル レポート機能
第 52 回:SQL Server 2016 の自習書を作成しました!
第 51 回:PASS Summit と MVP Summit で進化を確信!
第 50 回:新しくなった Power BI(2.0)の自習書を作成しました!
第49 回:Excel 2016 の Power Query を使う
第 48 回:新しくなった Microsoft Power BI ! 無料版がある!!
第 47 回:「Microsoft Azure SQL Database 入門」 完成&公開!
第 46 回:Microsoft Power BI for Windows app からの Power BI サイト アクセス
第 45 回:Power Query で取得したデータを PowerPivot へ読み込む方法と PowerPivot for Excel 自習書のご紹介
第44回:「SQL Server 2014 への移行とアップグレードの実践」ドキュメントを作成しました
第43回:SQL Server 2014 インメモリ OLTP 機能の上級者向けドキュメントを作成しました
第42回:Power Query プレビュー版 と Power BI for Office 365 へのクエリ保存(共有クエリ)
第41回:「SQL Server 2014 CTP2 インメモリ OLTP 機能の概要」自習書のお知らせです
第40回: SQL Server 2012 自習書(HTML版)を掲載しました
第39回: Power BI for Office 365 プレビュー版は試されましたか?
第38回: SQL Server 2014 CTP2 の公開
第37回: SQL Server 2014 CTP1 の自習書をご覧ください
第36回: SQL Server 2014 CTP1 のクラスター化列ストア インデックスを試す
第35回: SQL Server 2014 CTP1 のインメモリ OLTP の基本操作を試す
第34回: GeoFlow for Excel 2013 のプレビュー版を試す
第33回: iPad と iPhone からの SQL Server 2012 Reporting Servicesのレポート閲覧
第32回: PASS Summit 2012 参加レポート
第31回: SQL Server 2012 Reporting Services 自習書のお知らせ
第30回: SQL Server 2012(RTM 版)の新機能 自習書をご覧ください
第29回: 書籍「SQL Server 2012の教科書 開発編」のお知らせ
第26回: SQL Server 2012 の Power View 機能のご紹介
第25回: SQL Server 2012 の Data Quality Services
第24回: SQL Server 2012 自習書のご案内と初セミナー報告
第23回: Denali CTP1 が公開されました
第22回 チューニングに王道あらず
第21回 Microsoft TechEd 2010 終了しました
第20回 Microsoft TechEd Japan 2010 今年も登壇します
第19回 SQL Server 2008 R2 RTM の 日本語版が公開されました
第18回 「SQL Azure 入門」自習書のご案内
第17回 SQL Server 2008 自習書の追加ドキュメントのお知らせ
第16回 SQL Server 2008 R2 自習書とプレビュー セミナーのお知らせ
第15回 SQL Server 2008 R2 Reporting Services と新刊のお知らせ
第14回 TechEd 2009 のご報告と SQL Server 2008 R2 について
第13回 SQL Server 2008 R2 の CTP 版が公開されました
第12回 MVP Summit 2009 in Seattle へ参加