MLlib: メインガイド

MLlib: RDDベースのAPIガイド

頻出パターンマイニング - RDDベースのAPI

頻出アイテム、アイテムセット、サブシーケンス、またはその他の部分構造のマイニングは大規模データセットを分析する最初のステップの1つであり、長年にわたりデータマイニングの活発な研究トピックとなっています。詳細については、Wikipediaの相関ルール学習を参照してください。 spark.mllibは、頻出アイテムセットをマイニングするための一般的なアルゴリズムであるFP-growthの並列実装を提供します。

FP-growth

FP-growthアルゴリズムは、Han et al., Mining frequent patterns without candidate generationの論文で説明されています。「FP」は頻出パターンを表します。トランザクションのデータセットが与えられた場合、FP-growthの最初のステップは、アイテム頻度を計算し、頻出アイテムを特定することです。同じ目的のために設計されたAprioriのようなアルゴリズムとは異なり、FP-growthの2番目のステップでは、接尾辞ツリー（FP-tree）構造を使用して、通常は生成にコストがかかる候補セットを明示的に生成することなく、トランザクションをエンコードします。2番目のステップの後、頻出アイテムセットをFP-treeから抽出できます。 spark.mllibでは、Li et al., PFP: Parallel FP-growth for query recommendationで説明されているPFPと呼ばれるFP-growthの並列バージョンを実装しました。PFPは、トランザクションの接尾辞に基づいてFP-treeを成長させる作業を分散するため、単一マシンの実装よりもスケーラブルです。詳細については、論文を参照してください。

spark.mllibのFP-growth実装は、次の（ハイパー）パラメータを取ります

例

FPGrowthはFP-growthアルゴリズムを実装しています。各トランザクションがジェネリック型のアイテムのListであるトランザクションのRDDを取ります。FPGrowth.trainをトランザクションで呼び出すと、頻出アイテムセットとその頻度を格納するFPGrowthModelが返されます。

APIの詳細については、FPGrowth Pythonドキュメントを参照してください。

from pyspark.mllib.fpm import FPGrowth

data = sc.textFile("data/mllib/sample_fpgrowth.txt")
transactions = data.map(lambda line: line.strip().split(' '))
model = FPGrowth.train(transactions, minSupport=0.2, numPartitions=10)
result = model.freqItemsets().collect()
for fi in result:
    print(fi)
完全なサンプルコードは、Sparkリポジトリの "examples/src/main/python/mllib/fpgrowth_example.py" にあります。

FPGrowthはFP-growthアルゴリズムを実装しています。各トランザクションがジェネリック型のアイテムのArrayであるトランザクションのRDDを取ります。FPGrowth.runをトランザクションで呼び出すと、頻出アイテムセットとその頻度を格納するFPGrowthModelが返されます。次の例は、transactionsから頻出アイテムセットと相関ルール（詳細は相関ルールを参照）をマイニングする方法を示しています。

APIの詳細については、FPGrowth Scalaドキュメントを参照してください。

import org.apache.spark.mllib.fpm.FPGrowth
import org.apache.spark.rdd.RDD

val data = sc.textFile("data/mllib/sample_fpgrowth.txt")

val transactions: RDD[Array[String]] = data.map(s => s.trim.split(' '))

val fpg = new FPGrowth()
  .setMinSupport(0.2)
  .setNumPartitions(10)
val model = fpg.run(transactions)

model.freqItemsets.collect().foreach { itemset =>
  println(s"${itemset.items.mkString("[", ",", "]")},${itemset.freq}")
}

val minConfidence = 0.8
model.generateAssociationRules(minConfidence).collect().foreach { rule =>
  println(s"${rule.antecedent.mkString("[", ",", "]")}=> " +
    s"${rule.consequent .mkString("[", ",", "]")},${rule.confidence}")
}
完全なサンプルコードは、Sparkリポジトリの "examples/src/main/scala/org/apache/spark/examples/mllib/SimpleFPGrowth.scala" にあります。

FPGrowthはFP-growthアルゴリズムを実装しています。各トランザクションがジェネリック型のアイテムのIterableであるトランザクションのJavaRDDを取ります。FPGrowth.runをトランザクションで呼び出すと、頻出アイテムセットとその頻度を格納するFPGrowthModelが返されます。次の例は、transactionsから頻出アイテムセットと相関ルール（詳細は相関ルールを参照）をマイニングする方法を示しています。

APIの詳細については、FPGrowth Javaドキュメントを参照してください。

import java.util.Arrays;
import java.util.List;

import org.apache.spark.api.java.JavaRDD;
import org.apache.spark.api.java.JavaSparkContext;
import org.apache.spark.mllib.fpm.AssociationRules;
import org.apache.spark.mllib.fpm.FPGrowth;
import org.apache.spark.mllib.fpm.FPGrowthModel;

JavaRDD<String> data = sc.textFile("data/mllib/sample_fpgrowth.txt");

JavaRDD<List<String>> transactions = data.map(line -> Arrays.asList(line.split(" ")));

FPGrowth fpg = new FPGrowth()
  .setMinSupport(0.2)
  .setNumPartitions(10);
FPGrowthModel<String> model = fpg.run(transactions);

for (FPGrowth.FreqItemset<String> itemset: model.freqItemsets().toJavaRDD().collect()) {
  System.out.println("[" + itemset.javaItems() + "], " + itemset.freq());
}

double minConfidence = 0.8;
for (AssociationRules.Rule<String> rule
  : model.generateAssociationRules(minConfidence).toJavaRDD().collect()) {
  System.out.println(
    rule.javaAntecedent() + " => " + rule.javaConsequent() + ", " + rule.confidence());
}
完全なサンプルコードは、Sparkリポジトリの"examples/src/main/java/org/apache/spark/examples/mllib/JavaSimpleFPGrowth.java" にあります。

相関ルール

AssociationRulesは、単一アイテムを結論とするルールの構築のための並列ルール生成アルゴリズムを実装しています。

APIの詳細については、AssociationRules Scalaドキュメントを参照してください。

import org.apache.spark.mllib.fpm.AssociationRules
import org.apache.spark.mllib.fpm.FPGrowth.FreqItemset

val freqItemsets = sc.parallelize(Seq(
  new FreqItemset(Array("a"), 15L),
  new FreqItemset(Array("b"), 35L),
  new FreqItemset(Array("a", "b"), 12L)
))

val ar = new AssociationRules()
  .setMinConfidence(0.8)
val results = ar.run(freqItemsets)

results.collect().foreach { rule =>
println(s"[${rule.antecedent.mkString(",")}=>${rule.consequent.mkString(",")} ]" +
    s" ${rule.confidence}")
}
完全なサンプルコードは、Sparkリポジトリの "examples/src/main/scala/org/apache/spark/examples/mllib/AssociationRulesExample.scala" にあります。

AssociationRulesは、単一アイテムを結論とするルールの構築のための並列ルール生成アルゴリズムを実装しています。

APIの詳細については、AssociationRules Javaドキュメントを参照してください。

import java.util.Arrays;

import org.apache.spark.api.java.JavaRDD;
import org.apache.spark.api.java.JavaSparkContext;
import org.apache.spark.mllib.fpm.AssociationRules;
import org.apache.spark.mllib.fpm.FPGrowth;
import org.apache.spark.mllib.fpm.FPGrowth.FreqItemset;

JavaRDD<FPGrowth.FreqItemset<String>> freqItemsets = sc.parallelize(Arrays.asList(
  new FreqItemset<>(new String[] {"a"}, 15L),
  new FreqItemset<>(new String[] {"b"}, 35L),
  new FreqItemset<>(new String[] {"a", "b"}, 12L)
));

AssociationRules arules = new AssociationRules()
  .setMinConfidence(0.8);
JavaRDD<AssociationRules.Rule<String>> results = arules.run(freqItemsets);

for (AssociationRules.Rule<String> rule : results.collect()) {
  System.out.println(
    rule.javaAntecedent() + " => " + rule.javaConsequent() + ", " + rule.confidence());
}
完全なサンプルコードは、Sparkリポジトリの "examples/src/main/java/org/apache/spark/examples/mllib/JavaAssociationRulesExample.java" にあります。

PrefixSpan

PrefixSpanは、Pei et al., Mining Sequential Patterns by Pattern-Growth: The PrefixSpan Approachで説明されているシーケンシャルパターンマイニングアルゴリズムです。シーケンシャルパターンマイニング問題の公式化については、参照論文を参照してください。

spark.mllibのPrefixSpan実装は、次のパラメータを取ります

例

次の例は、シーケンス上で実行されているPrefixSpanを示しています（Pei et alと同じ表記法を使用）。

  <(12)3>
  <1(32)(12)>
  <(12)5>
  <6>

PrefixSpanはPrefixSpanアルゴリズムを実装しています。PrefixSpan.runを呼び出すと、頻出シーケンスとその頻度を格納するPrefixSpanModelが返されます。

APIの詳細については、PrefixSpan ScalaドキュメントとPrefixSpanModel Scalaドキュメントを参照してください。

import org.apache.spark.mllib.fpm.PrefixSpan

val sequences = sc.parallelize(Seq(
  Array(Array(1, 2), Array(3)),
  Array(Array(1), Array(3, 2), Array(1, 2)),
  Array(Array(1, 2), Array(5)),
  Array(Array(6))
), 2).cache()
val prefixSpan = new PrefixSpan()
  .setMinSupport(0.5)
  .setMaxPatternLength(5)
val model = prefixSpan.run(sequences)
model.freqSequences.collect().foreach { freqSequence =>
  println(
    s"${freqSequence.sequence.map(_.mkString("[", ", ", "]")).mkString("[", ", ", "]")}," +
      s" ${freqSequence.freq}")
}
完全なサンプルコードは、Sparkリポジトリの "examples/src/main/scala/org/apache/spark/examples/mllib/PrefixSpanExample.scala" にあります。

PrefixSpanはPrefixSpanアルゴリズムを実装しています。PrefixSpan.runを呼び出すと、頻出シーケンスとその頻度を格納するPrefixSpanModelが返されます。

APIの詳細については、PrefixSpan JavaドキュメントとPrefixSpanModel Javaドキュメントを参照してください。

import java.util.Arrays;
import java.util.List;

import org.apache.spark.mllib.fpm.PrefixSpan;
import org.apache.spark.mllib.fpm.PrefixSpanModel;

JavaRDD<List<List<Integer>>> sequences = sc.parallelize(Arrays.asList(
  Arrays.asList(Arrays.asList(1, 2), Arrays.asList(3)),
  Arrays.asList(Arrays.asList(1), Arrays.asList(3, 2), Arrays.asList(1, 2)),
  Arrays.asList(Arrays.asList(1, 2), Arrays.asList(5)),
  Arrays.asList(Arrays.asList(6))
), 2);
PrefixSpan prefixSpan = new PrefixSpan()
  .setMinSupport(0.5)
  .setMaxPatternLength(5);
PrefixSpanModel<Integer> model = prefixSpan.run(sequences);
for (PrefixSpan.FreqSequence<Integer> freqSeq: model.freqSequences().toJavaRDD().collect()) {
  System.out.println(freqSeq.javaSequence() + ", " + freqSeq.freq());
}
完全なサンプルコードは、Sparkリポジトリの "examples/src/main/java/org/apache/spark/examples/mllib/JavaPrefixSpanExample.java" にあります。