数学建模社区-数学中国

标题: 数据挖掘——如何利用Python实现产品关联性分析apriori算法篇 [打印本页]

作者: 杨利霞    时间: 2022-9-12 18:44
标题: 数据挖掘——如何利用Python实现产品关联性分析apriori算法篇
数据挖掘——如何利用Python实现产品关联性分析apriori算法篇) T( n. X& w- u3 P$ O. u  V

& E( U, A% r: q% P9 M* E在实际业务场景中,我们常常会探讨到产品的关联性分析,本篇文章将会介绍一下如何在Python环境下如何利用apriori算法进行数据分析。7 z+ l6 P) d4 i$ z1 [* d3 ?0 s/ D

& R3 K( l- k4 a) ]- z/ N6 }1.准备工作: X; X9 R6 y5 c, X. `9 I
如果需要在Python环境下实现apriori算法,就离不开一个关键的机器学习库mlxtend,运行以下代码进行安装:
( F! Z8 @& y6 Y5 W, D; K/ {
% o! b. b" i9 a* a, E. L* Cpip install mlxtend
; }  {  e; ~" V' J. w& O1
7 ?( _2 b& D- W6 c) c/ |5 E: i! p为方便进行过程的演示,在此构建测试数据:
4 n. A# w' k. w9 E- \# C
9 `8 ~1 w& O0 w# w5 r2 a$ Z- Aimport pandas as pd" C1 c1 @; b3 @) X
df=pd.DataFrame({'product_list':['A-C', 'D', 'A-B-C-D','A-C','A-C-D','A-C-B']})% f5 x5 I; ~& E# a5 |! ]! L
1
" @: M! w* X) u2
. O& Z# j1 M8 R! {7 c测试数据截图如下:
+ O1 M; M; f) F7 j7 Q" h$ ~( U
6 \) r$ m; ], l2 Q& g
* N2 a+ I7 `. y6 f对上述的数据进行以下处理:
/ \' v% R/ ^" D, i# j9 x4 d: b. W% P) n3 A2 \9 u" t3 R
df_chg=df['product_list'].str.split("-")$ ~  B9 x8 e5 ?7 u% U) h6 |- y- J
1
! L3 P5 O% ^" C/ [+ n数据处理后,结果截图如下:9 |: V5 [: `: l' L) M

$ x$ X. s. G0 }6 |+ r% c截止到此,准备工作已经完成,下面个将会以df_chg作为参数进行建模。6 T* C& _( k8 j: {

! P( ]4 e) s  u4 D2.核心函数及代码
! l# Y+ \$ ^0 ^5 N( Y) v) P2.1 数据预处理( w! g. a% ^6 J0 |$ y
对传入的数据进行预处理,使其成为符合要求的数据。mlxtend模块中有专门用于数据预处理的方法,在这里直接进行调用即可:: H- ?' Z3 D* h/ Y

, K6 w8 }% Y0 ?8 T) m#1.将传入的数据转换为算法可接受的数据类型(布尔值)! H  o7 J' S# L' }9 k, k
from mlxtend.preprocessing import TransactionEncoder# {$ ~$ ^" C* q4 H7 h  J
te = TransactionEncoder()
, ~" J  d  P$ f& @7 ]/ ndf_tf = te.fit_transform(df_chg)
5 |5 ]' l6 Y' }  h% d$ F$ l#为方便进行查看,生成dataframe
9 n* T( b$ r% {  b5 }7 Mdata = pd.DataFrame(df_tf,columns=te.columns_)
0 N8 J* i0 }% R2 \0 h- H8 ~1
! Z- I) n% k) P2 F, }5 I" {% c2+ r) \; ]  L6 a" v7 c8 F( Q/ h, R0 h
3  F0 A" x0 _/ ~. D
4! ?  t0 J/ v5 Q% v0 _
5- D, h# x& H1 d: ^2 s) e
6$ m* `9 S3 g9 W! E( t
运行以上代码后,传入的df_chg数据会被转换成符合要求的数据data,截图如下:
3 a* I2 \8 @- J% u1 n1 U. G2 b" }- }  H$ x) X2 j6 d
' t2 q8 t* x  {; w) y7 f# J1 P
2.2 两个关键函数
4 N1 e& x- `+ I6 tapriori函数5 u! t' z# z8 k. {% O
语法:
+ I: c& Y$ W. f8 O
' M4 M1 k; ~4 ^- iapriori(df, min_support=0.5, use_colnames=False, max_len=None, verbose=0, low_memory=False)  u2 Z$ P: Q) k9 c; ^6 {; G* b
1' M3 s" c* I! F8 F! l
参数详解:
0 E+ G* t  a; y
' V7 `# G: c, }' g9 i. v0 N* Zdf: pandas模块中的数据帧,DataFrame形式的数据;
8 y9 p8 ~1 l5 U) g" U" r5 s/ }min_support:一个介于0和1之间的浮点数,表示对返回的项集的最小支持度。' ]  p, f( k: x) ^9 p' O4 u1 O) ^
use_colnames: 如果为 True,则在返回的 DataFrame 中使用 DataFrame 的列名;如果为False,则返回为列索引。通常情况下我们设置为True。
" G3 }" o7 x- qmax_len: 生成的项目集的最大长度。如果无(默认),则计算所有可能的项集长度。
# N& P8 A/ L2 Y' O' T1 iverbose: 如果 > = 1且 low_memory 为 True 时,显示迭代次数。如果 = 1且low_memory 为 False,则显示组合的数目。
: t+ `; ]6 A9 h& M! D9 A+ O$ Dlow_memory:如果为 True,则使用迭代器搜索 min_support 之上的组合。low _ memory = True 通常只在内存资源有限的情况下用于大型数据集,因为这个实现比默认设置大约慢3-6倍。
+ ~7 c) r" S: W. D/ Q( Oassociation_rules函数4 b: g8 U6 s' k4 g
语法:! S& e: H3 ?3 ]- k: Y

8 t6 I7 a, b7 V$ b1 |3 ~+ M, zassociation_rules(df, metric='confidence', min_threshold=0.8, support_only=False)' X) D/ D& {' Z: w' ^) h$ `; m
1
! P) }. J- o8 d- V$ ?* q/ b: G参数如下:
2 c, a9 l6 b. R) {( Y* A. F2 J+ H8 O$ Z/ `( z; c
df: pandas模块中的数据帧,DataFrame形式的数据;0 }1 N! U/ p+ n6 u4 J
metric: 用于评估规则是否有意义的度量。可选参数有以下几种:‘support’, ‘confidence’, ‘lift’, 'leverage’和 ‘conviction’
4 x3 L5 X1 Y% c0 p. k! N5 _min_threshold: 评估度量的最小阈值,通过度量参数确定候选规则是否有意义。
) F( ]9 c. \1 i4 Nsupport_only : 只计算规则支持并用 NaN 填充其他度量列。如果: a)输入 DataFrame 是不完整的,例如,不包含所有规则前因和后果的支持值 b)你只是想加快计算速度,因为你不需要其他度量。
1 M' Z: E4 [5 s' v! t8 {9 p附带metric几种参数的计算方法:. x) h$ @; z( j2 d5 \. k- Z
8 L% Z7 U+ y2 U) \- Z# t5 c
support(A->C) = support(A∩C) [aka ‘support’], range: [0, 1]
/ Q7 b+ j# S6 Y- y3 J0 v( ?$ \+ o& p6 Y4 _
confidence(A->C) = support(A∩C) / support(A), range: [0, 1]1 a; I  d2 q4 Y  a/ V  p7 ^$ @) v* P
8 b" O3 N% ~7 J* G& a
lift(A->C) = confidence(A->C) / support(C), range: [0, inf]; s6 u( b8 M% K1 _* i) ?

. G# d& w3 I* q- l- }8 F, l, W; {( {leverage(A->C) = support(A->C) - support(A)*support(C),7 F& M0 I; M/ q/ @* Y; g* Z7 Q
range: [-1, 1]
# S5 E/ v: K2 B, @2 I& S' m% ^$ [
- d2 A) |/ D( V. A; H1 `+ m* bconviction = [1 - support(C)] / [1 - confidence(A->C)],
8 b  O3 H! j  t* R% B% j* drange: [0, inf]
) d; t) Z2 q( _, E# n" |( O: y( S4 \0 ~0 y/ ]/ d: l3 w
3.实际应用案例& [$ p6 \. O6 U, I* c+ G5 P% F
以下为完整的调用实例:
- F% E& K1 o/ u* m$ V% I, S4 N
import pandas as pd
) [' M5 V. d+ V0 E5 dfrom mlxtend.preprocessing import TransactionEncoder
3 f' C  ~) n  L5 s- }+ d( F  f+ Zfrom mlxtend.frequent_patterns import apriori
; Y  u& @# n1 |: C( Afrom mlxtend.frequent_patterns import association_rules4 q4 d8 i3 i' N
#1.构建测试数据
1 x; z' |3 U4 j# D! v) tdf=pd.DataFrame({'product_list':['A-C', 'D', 'A-B-C-D','A-C','A-C-D','A-C-B']})& v8 x9 L/ z7 j9 _
df_chg=df['product_list'].str.split("-")
7 o7 p4 p- L3 L0 {0 T3 a) Y  c#2.数据预处理: `$ [: ]7 b) Q* a$ a
#将传入的数据转换为算法可接受的数据类型(布尔值)+ N: @- l4 v: d% o' G# T( L
te = TransactionEncoder()
9 w' }% k% D' S. E$ Wdf_tf = te.fit_transform(df_chg)3 Z- [+ Z, S8 W: z7 N9 {
#为方便进行查看,生成dataframe1 ^; F5 m4 O9 ]8 f3 O
data = pd.DataFrame(df_tf,columns=te.columns_)! @: W5 e+ A3 r8 h
#3.建模2 s+ }6 u: b# R% ~$ K3 }
#利用 Apriori函数,设置最小支持度为0.2
  o* [' b7 |8 I4 O$ }/ c& x% U$ w( Rfrequent_itemsets = apriori(data,min_support=0.2,use_colnames= True)
6 Y# l$ A  Z% p+ Z# K#设置关联规则,设置最小置信度为0.153 F0 v$ J: t& W, _8 q# l
temp= association_rules(frequent_itemsets,metric = 'confidence',min_threshold = 0.15)
* p5 I) w% G1 o% D0 O% l8 w#4.剪枝并控制输出
* f, D$ I+ S) f#设置最小提升度,并剔除对应的数据
3 p, P. h. U  K8 D5 xmin_lift=1- h( ]$ [! ~0 @! u7 y
rules = temp.drop(temp[temp['lift']<min_lift].index)
& W2 }2 M( [% D) @#筛选需要输出的列
! `7 c3 ^: b9 u9 aresult = rules[['antecedents','consequents','support','confidence','lift']]
* G( }5 Y* H2 a3 k% n; d' X5 Yresult=result.sort_values(['confidence','lift','support'],ascending=False)9 Z/ G$ v, d" X, h3 s- A
result.to_csv('apriori_result.csv',index=False,encoding='utf-8-sig')  X- I- m7 ^( d4 B3 I4 t% G% p% e7 k
0 e9 w% |4 m  n+ M
1( A* A4 C; O7 z8 C1 E- v
2: {" O- S6 s& l0 f: g
3
. x2 Q, H& Q. S& S0 A4
* t5 w6 {# C; B* ^% ~& W( H5+ ~* \0 Q, W1 w# i! ~3 ]5 `! h
6
$ t% g' V7 Q6 Y2 S" u* g, F71 ~8 M/ u( k6 L. t) O
8
7 v" r0 K: y( t/ E% q0 c: t6 X90 x/ v5 c# n' `1 x$ h3 d
10
) [& }4 [; A3 Y8 Q& R116 i# w' x1 X) s4 _7 A: N& V
12- n6 O  x: m( }5 j" C7 k
13  M8 q0 Z( b  C: P3 K2 r" W& N
14  P  d; n2 f/ N7 r1 Q
15  d0 k+ Q6 I) T3 [/ Z) H
16
* [, `/ b! A$ `) l170 F% ?; o% D" ?! q+ I5 S
18
0 o( u" \8 t# c% u! w! D19! O" T7 T$ j' l# D* h! M+ N
20
' {$ g. E4 N2 s& E1 f, ~' I  k21# ^( h0 J- I% _$ }% w8 X- q" K
22( q9 V+ s7 s/ I% e2 O6 e1 n
23
  t  q( h3 o3 R3 }24" t& b, N1 ]; \$ w7 t3 h
25
; U2 I% {. v, Z4 t26
1 k% y3 a6 O/ d8 f. _4 s输出结果见下图:5 T6 o; q* x8 t5 P9 Z0 f

% Z3 i* f1 J  _# f3 }  ?( z( Y————————————————
' ^) I# A# o8 K( u2 G4 c# U  ^版权声明:本文为CSDN博主「theskylife」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。* ^0 x7 h2 |# l1 U
原文链接:https://blog.csdn.net/qq_41780234/article/details/121920759  @$ R' Y+ i$ i/ _! ~9 E: w

9 F3 B3 D& m8 c- C" z2 C5 H  R# x
1 u3 q. T0 a8 f+ Z; Z$ o  ^




欢迎光临 数学建模社区-数学中国 (http://www.madio.net/) Powered by Discuz! X2.5