でーたくれんじんぐ
データクレンジング
データ分析を行う前に、収集したデータに含まれる不備や誤字、重複、表記ゆれなどを修正し、品質を整えるプロセスです。
詳しい説明
データクレンジングは、データベースやデータウェアハウスに保存する前に、データの不備や誤りを修正し、品質を向上させるプロセスです。集められたデータには、表記ゆれ、欠損値、重複データ、誤字などが含まれていることが多く、そのままでは正確な分析ができません。
具体的には、「株式会社」を「(株)」に統一する表記ゆれの修正、空欄になっているデータの補完、誤った入力値の削除や訂正、重複レコードの排除などを行います。この工程を行うことで、データ分析の精度を大きく高めることができます。ゴミのようなデータを入れるとゴミのような結果が出る(GIGO)という原則を防ぐための必須作業です。
試験では、データ分析の準備工程として問われます。分析の成功はデータの質に依存するため、いきなり分析ツールにかけるのではなく、クレンジングという前処理が重要であるという位置づけです。データの完全性や信頼性を確保するための作業として整理しておきましょう。
試験で問われること
ITパスポート試験
- データ分析を行う前に行う「データの品質向上」のための工程として問われます。
- 分析の精度を高めるために不可欠な準備作業であるという重要性が問われます。
基本情報技術者試験
- 重複排除や表記ゆれの統一など、具体的なクレンジングの手法が問われます。