ビッグデータ分析¶
北星学園大学 担当:小野原 彩香 / 2年後期・2単位
この授業について¶
大規模データを扱うための基盤技術と、目的関数に基づく多変量解析を、前後半に分けて学びます。
前半(第1〜5回)では、後半の多変量解析を支える「道具」を整えます。5Vと品質課題、列指向ストレージ、CAP定理と整合性、DAGとウィンドウ関数、近似アルゴリズムを扱います。
後半(第6〜14回)では、整えた基盤を活かして「解く」段階に入ります。重回帰・PCA・k-means・PLS を、それぞれが何を最大化または最小化しているのかという目的関数の観点から並べ、手法の選択を目的関数の違いとして理解します。
各回の資料には、式の導出を折りたたみで置いています。授業では開いて確認し、復習では閉じたまま読めます。
授業の構成¶
前半:ビッグデータ基盤技術(第1〜5回)¶
| 回 | 主題 | 中心概念 |
|---|---|---|
| 1 | 5Vと品質課題・変数定義 | Veracity, MCAR/MAR/MNAR, 粒度 |
| 2 | 列指向ストレージ・B木・LSM木 | 列スキャン, デルタ符号化, 版管理 |
| 3 | CAP定理・強整合性・結果整合性 | CP/AP, スナップショット, リーケージ防止 |
| 4 | DAG・バッチ/ストリーム・ウィンドウ関数 | トポロジカルソート, 時間窓特徴量 |
| 5 | Bloom/Count-Min/HyperLogLog | 偽陽性, 過大推定, カーディナリティ推定 |
後半:目的関数に基づく多変量解析(第6〜14回)¶
| 回 | 主題 | 中心概念 |
|---|---|---|
| 6 | OLS・偏回帰係数・R²・AIC | RSS最小化, 正規方程式, 標準化β |
| 7 | VIF・残差分析・変数選択 | 多重共線性, Cook's距離, ステップワイズ |
| 8 | 分散最大化・固有値分解 | 共分散行列, 主成分スコア, 寄与率 |
| 9 | ランダム化SVD・バイプロット | \(O(npk)\), オーバーサンプリング, ローディング |
| 10 | WCSS最小化・Lloyd's法 | クラスタ重心, 次元の呪い, PCA→k-means |
| 11 | k-means++・ミニバッチ・シルエット分析 | \(D^2\)初期化, walk-forward, \(\bar{s}\) |
| 12 | 共分散最大化・NIPALS法 | XスコアとYの共変動, デフレーション |
| 13 | VIPスコア・交差検証 | \(VIP_j\), CV-RMSEP, 1標準誤差ルール |
| 14 | 目的関数の比較・手法選択・最終レポート | コンセプトマップ, 再現可能なDAG |
4手法の目的関数¶
この授業の後半を貫く軸です。手法が違うのは、最大化または最小化している量が違うからです。
| 手法 | 目的関数 | 教師あり |
|---|---|---|
| 重回帰 | \(RSS = \|\mathbf{y} - \mathbf{X}\boldsymbol{\beta}\|^2\) を最小化 | ✓ |
| PCA | \(\text{Var}(\mathbf{X}\mathbf{w}) = \mathbf{w}^T\mathbf{S}\mathbf{w}\) を最大化 | ✗ |
| k-means | \(WCSS = \sum_j\sum_{i\in C_j}\|\mathbf{x}_i - \boldsymbol{\mu}_j\|^2\) を最小化 | ✗ |
| PLS | \(\text{Cov}(\mathbf{X}\mathbf{w},\ \mathbf{y}\mathbf{q})\) を最大化 | ✓ |
成績評価¶
| 評価項目 | 割合 | 実施回 |
|---|---|---|
| 小テスト | 20% | 各回(授業内) |
| 理論エッセイ | 30% | 第6・7回頃を目安 |
| 最終レポート | 50% | 第14回課題 → 2週間後提出 |
基盤技術と分析手法の対応¶
各回の資料末尾に「基盤リンクの整理」の表があり、前半の基盤技術と後半の分析手法の対応を記述しています。
| 基盤技術 | 主な関連回 | 後半での主な役割 |
|---|---|---|
| 列指向ストレージ | 第2回 | 特徴量列の反復追加・比較を低コストに |
| CAP/整合性 | 第3回 | スナップショットによるデータ固定と再現性 |
| DAG | 第4回 | 前処理→学習→評価のパイプライン管理 |
| 近似アルゴリズム | 第5回 | 変数スクリーニングと大規模計算の高速化 |
このサイトは準備中です
2027年度の開講に向けて作成しています。日程・課題・提出先は、開講前に確定します。