QQ登录

只需要一步,快速开始

 注册地址  找回密码
查看: 5205|回复: 0
打印 上一主题 下一主题

[其他资源] 数据挖掘——如何利用Python实现产品关联性分析apriori算法篇

[复制链接]
字体大小: 正常 放大
杨利霞        

5273

主题

82

听众

17万

积分

  • TA的每日心情
    开心
    2021-8-11 17:59
  • 签到天数: 17 天

    [LV.4]偶尔看看III

    网络挑战赛参赛者

    网络挑战赛参赛者

    自我介绍
    本人女,毕业于内蒙古科技大学,担任文职专业,毕业专业英语。

    群组: 2018美赛大象算法课程

    群组: 2018美赛护航培训课程

    群组: 2019年 数学中国站长建

    群组: 2019年数据分析师课程

    群组: 2018年大象老师国赛优

    跳转到指定楼层
    1#
    发表于 2022-9-12 18:44 |只看该作者 |倒序浏览
    |招呼Ta 关注Ta
    数据挖掘——如何利用Python实现产品关联性分析apriori算法篇# I: |( {# H( Q1 U4 f: Z8 e6 D
    $ K6 B# ]9 X0 o# q  `
    在实际业务场景中,我们常常会探讨到产品的关联性分析,本篇文章将会介绍一下如何在Python环境下如何利用apriori算法进行数据分析。# p! e8 J1 K" y! v

    2 \, h, ?6 H: L( c1.准备工作/ @+ B# o( A$ [3 B5 ?0 e. f) U
    如果需要在Python环境下实现apriori算法,就离不开一个关键的机器学习库mlxtend,运行以下代码进行安装:0 K8 b) t5 c- c8 V8 q4 U& C. z( H
    ! M3 @, M- d* _4 V8 [% K! b
    pip install mlxtend
    ; {4 J/ W" \8 }8 i2 ^1* K, d' L1 p7 D9 j, s, \! p3 y
    为方便进行过程的演示,在此构建测试数据:
    ; Y! D6 S' D" U3 {2 ^# r' i" A- y7 t; U+ I; b
    import pandas as pd
    ! Q3 p. t/ p. E, ^df=pd.DataFrame({'product_list':['A-C', 'D', 'A-B-C-D','A-C','A-C-D','A-C-B']})0 ~2 w  v1 U0 b3 _$ y
    1) B5 \# Q2 K' P* R* X. ^
    2- K/ Z& L+ [0 d8 r  l: L. C7 p
    测试数据截图如下:
    0 R: ?+ E6 s' m( g5 h( T: F) H! {" y) K2 C8 W0 U2 }* A+ H0 j) P
    / T8 V0 r, f2 l# M
    对上述的数据进行以下处理:, p  N) a/ I: c) ?! u2 k

    ; U2 C1 H5 A3 [' y1 [1 bdf_chg=df['product_list'].str.split("-")8 g4 A* T3 x  k; X+ L4 q
    1
    + _. D, G4 f( l! _6 i数据处理后,结果截图如下:
    * \6 H( W  k& {0 V1 c4 {  a+ l& e7 S8 k
    截止到此,准备工作已经完成,下面个将会以df_chg作为参数进行建模。
    ' V. N( e: C- P4 w3 t! W& j6 v" k
    9 Z, D( |! Y7 l8 E: u/ b9 D2.核心函数及代码
    / r! ~; K. [+ L2.1 数据预处理% d) n3 g2 D$ y$ o$ M1 O: O
    对传入的数据进行预处理,使其成为符合要求的数据。mlxtend模块中有专门用于数据预处理的方法,在这里直接进行调用即可:" m% I1 d( z  d5 y" U6 S
    & Z) p: ^, J8 l" _3 Y' H* S) j# U
    #1.将传入的数据转换为算法可接受的数据类型(布尔值). ?! d1 f0 ]5 j9 Z( p# q! D
    from mlxtend.preprocessing import TransactionEncoder
    ; n  P* s4 Y/ m- {te = TransactionEncoder()6 \1 b7 x9 [2 ?3 G
    df_tf = te.fit_transform(df_chg)% `; I) r, m% p! n' v4 J. `
    #为方便进行查看,生成dataframe
    & A+ h% z; k0 g* J9 l/ }( O+ _data = pd.DataFrame(df_tf,columns=te.columns_)3 e. h( }. z/ m  K
    1
    5 Y5 R2 z# s3 c. z- _. X, {7 N" [21 k7 `( J; V8 x
    3" a7 k3 ^, G; t9 w2 p! w
    4
    5 M/ w; G4 F/ ?' `$ u5 r5 y1 z5
    * K* g- G) Q! g6 u$ r9 m62 e0 F% d* z+ K* \0 i, X: x0 {
    运行以上代码后,传入的df_chg数据会被转换成符合要求的数据data,截图如下:1 m9 z2 s# }: m# p
    1 t" v; D# H5 o. T
    9 N+ c  J7 h* v3 M' w
    2.2 两个关键函数
    - c& c& y: J4 P8 fapriori函数9 l, z% L- l. \, y2 |* d
    语法:
    4 v* D: {% v6 r3 d$ T. ?  Z2 S0 c5 a0 x0 j" Z  @/ M- v1 H  m
    apriori(df, min_support=0.5, use_colnames=False, max_len=None, verbose=0, low_memory=False)9 p$ D2 p) q( W1 Y: L& c
    1
    - `- g9 t  \( H' U0 |参数详解:
    * C" ~9 ~7 [# ~8 p& v  I
    ' R0 @0 Z$ ?% ~' c% R+ udf: pandas模块中的数据帧,DataFrame形式的数据;1 Q$ u$ p  I4 D2 \
    min_support:一个介于0和1之间的浮点数,表示对返回的项集的最小支持度。
    $ f  ?+ g0 n0 V/ J. duse_colnames: 如果为 True,则在返回的 DataFrame 中使用 DataFrame 的列名;如果为False,则返回为列索引。通常情况下我们设置为True。
    5 \/ w2 [! n& wmax_len: 生成的项目集的最大长度。如果无(默认),则计算所有可能的项集长度。
    / i7 l+ q- f. H; ^0 x0 C- Y- @4 tverbose: 如果 > = 1且 low_memory 为 True 时,显示迭代次数。如果 = 1且low_memory 为 False,则显示组合的数目。
    9 m( W1 j# T, x5 w+ h7 clow_memory:如果为 True,则使用迭代器搜索 min_support 之上的组合。low _ memory = True 通常只在内存资源有限的情况下用于大型数据集,因为这个实现比默认设置大约慢3-6倍。" j, }% |  u" P6 y2 R  {: s# U  M
    association_rules函数, q8 j& D6 U3 a% ~- b1 e, w. X  O
    语法:; z0 I3 Z' g6 H7 W- N
    : o* ~7 m. d, B% Q4 H
    association_rules(df, metric='confidence', min_threshold=0.8, support_only=False)
    1 T# L7 G0 L) v( u17 {4 w1 X' }% e, k
    参数如下:( I  J* B  g$ x. b, E3 [" b
    7 i( o9 O: J) ?0 |4 f" l) z* v1 g
    df: pandas模块中的数据帧,DataFrame形式的数据;
    + F2 U8 g' D: O/ bmetric: 用于评估规则是否有意义的度量。可选参数有以下几种:‘support’, ‘confidence’, ‘lift’, 'leverage’和 ‘conviction’6 [. ?9 K5 D) ~. q1 C" U
    min_threshold: 评估度量的最小阈值,通过度量参数确定候选规则是否有意义。
    / R% g) l# y2 j2 O0 \support_only : 只计算规则支持并用 NaN 填充其他度量列。如果: a)输入 DataFrame 是不完整的,例如,不包含所有规则前因和后果的支持值 b)你只是想加快计算速度,因为你不需要其他度量。% M7 p: E, f7 b* P8 l$ w  S& C
    附带metric几种参数的计算方法:
    0 V% i* ~2 N& e) P4 f- D
    $ q4 d! p5 ]: s3 L3 ~" B" Rsupport(A->C) = support(A∩C) [aka ‘support’], range: [0, 1]
    . s- [. Y! k* i% G
    / V* a$ r; k2 t2 Iconfidence(A->C) = support(A∩C) / support(A), range: [0, 1]( N* X) ~& _8 F& z6 V
    9 P; X& q) D4 v2 q
    lift(A->C) = confidence(A->C) / support(C), range: [0, inf]
    + }& I" @$ P) _  p- t3 M0 w3 x  E5 O3 |; ?/ e
    leverage(A->C) = support(A->C) - support(A)*support(C),
    6 R" F  Y  w7 \* N' f  z$ Hrange: [-1, 1]4 n2 H: t: ~3 I( E) B4 g- i
    3 {3 s4 S4 ~' N  o( p9 N+ X
    conviction = [1 - support(C)] / [1 - confidence(A->C)],1 E" d) h) X+ R5 s
    range: [0, inf]
    + G; o6 e9 N  B0 F6 Q2 S; f2 a8 M9 f4 H+ X9 c
    3.实际应用案例% Z  }! Q+ G5 v
    以下为完整的调用实例:
    ; Z, P: e8 |, p4 Z) l# f1 A: u3 M" Y6 ^+ w  q. V) U: i2 H+ i, |
    import pandas as pd' o# ?& }  Z& f
    from mlxtend.preprocessing import TransactionEncoder
    ) S0 ]7 D; k3 c3 p: _" G$ [from mlxtend.frequent_patterns import apriori. A5 q! E  j4 Q
    from mlxtend.frequent_patterns import association_rules
    ( X- N" @) v: R+ O0 [#1.构建测试数据* [/ a1 r: O- f) v! @7 j
    df=pd.DataFrame({'product_list':['A-C', 'D', 'A-B-C-D','A-C','A-C-D','A-C-B']})7 e- p* J6 {- B: b9 ?
    df_chg=df['product_list'].str.split("-"), ~! P; l* E8 N  L) G- ?. m) {/ K
    #2.数据预处理
    1 N- O- K' i0 Q4 V* l* K" o% d; C#将传入的数据转换为算法可接受的数据类型(布尔值)
    : G1 N& e; ]$ Y, x# yte = TransactionEncoder()
      J+ X8 ^/ k3 S$ |df_tf = te.fit_transform(df_chg)3 [4 x  W* {% D" A5 I6 u( B3 O  M4 t: n  U
    #为方便进行查看,生成dataframe
    % [, F" p4 g1 y) N8 t7 tdata = pd.DataFrame(df_tf,columns=te.columns_)2 e/ o  h' y' O( j
    #3.建模; H" z+ |% `1 x
    #利用 Apriori函数,设置最小支持度为0.2
    " e- |7 W( k1 n- H5 n$ dfrequent_itemsets = apriori(data,min_support=0.2,use_colnames= True)  M6 ~5 m; T- g, [, ^/ Y
    #设置关联规则,设置最小置信度为0.155 X% Q( s4 Q& r4 e: |" e+ O
    temp= association_rules(frequent_itemsets,metric = 'confidence',min_threshold = 0.15)
    ! Q/ c- d2 V" z/ D2 N, K1 H4 O#4.剪枝并控制输出* ^  }% p: S) {9 T& a  r1 Y8 x
    #设置最小提升度,并剔除对应的数据' R( N" M& P; N
    min_lift=15 A, p. ]1 |9 a
    rules = temp.drop(temp[temp['lift']<min_lift].index)1 f; ?5 H5 e! Y3 L3 i
    #筛选需要输出的列# W* o, y# t4 J
    result = rules[['antecedents','consequents','support','confidence','lift']]
    ) u; }9 x" U2 U6 X8 j* Yresult=result.sort_values(['confidence','lift','support'],ascending=False)/ r; y  v; m! Z( Y0 R6 _5 g5 {
    result.to_csv('apriori_result.csv',index=False,encoding='utf-8-sig')6 b) b0 B+ o7 E: _6 P3 u

    4 s( z6 ]7 a# h) r! F% A# ^) A1
    9 P& n- G6 Q0 X5 `6 b25 o) K2 }% Z* T+ Z, s
    34 w, o! S+ V' F$ R# U6 r" h
    4
    6 k! q2 `7 b2 h9 |7 @1 m$ a0 {8 t5
    + \, A& E+ w7 }3 @7 p' K/ G9 i4 U( B0 ^6$ c9 Q, ]& {* o; w7 l2 t
    7
    - C( p# \) H7 L: s8
    1 n4 G8 y* F& X; t) x- A( ~- x9! d5 Z1 P8 S5 j5 H2 H- k& V
    10; v; {  D: D/ g3 D
    11+ k$ N- Z9 l' f2 [6 O; Z
    12( h4 R* [" p  p
    13
    * N1 j: ^. k* @  F7 o14+ x1 E' z0 h( u0 H7 I
    15
    . `% `/ h# g$ ^$ w. M( {, ?16  {! L' Y. M! ~/ u' \2 p
    17
    8 P. ~( ?/ ]4 n18
    ! G! W. W8 B; k2 }6 G, e: O" T* v19
    ' K* {0 `8 e: P$ A( d6 H/ B3 L20
    $ {  p* a; u3 I8 v- h! Y21
    & Q6 U! D: d/ Q9 [9 L6 @22
    # _) H: O# \# q$ H9 @237 [* @+ e3 |  M! [- L
    240 R+ Z- J9 Q+ m6 f( M% f% i
    25
    7 f$ m8 C. m1 d9 p* p( w3 x26) K! v$ K3 t" {7 n) x: Q; D
    输出结果见下图:
    3 _6 m6 T  [. {1 m$ ?+ Q! i( E* y) A' C5 W, q. h
    ————————————————/ f$ ^6 f' \, \/ Y8 w+ Q* I5 D
    版权声明:本文为CSDN博主「theskylife」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。
    7 |+ |) q5 Y. ]" {% u! A原文链接:https://blog.csdn.net/qq_41780234/article/details/121920759. s# r: @- y! F) F) s/ I

    4 `! @3 f3 f4 Y" h3 U" e% T
    1 F* X% p% \$ p- O% v
    zan
    转播转播0 分享淘帖0 分享分享0 收藏收藏0 支持支持0 反对反对0 微信微信
    您需要登录后才可以回帖 登录 | 注册地址

    qq
    收缩
    • 电话咨询

    • 04714969085
    fastpost

    关于我们| 联系我们| 诚征英才| 对外合作| 产品服务| QQ

    手机版|Archiver| |繁體中文 手机客户端  

    蒙公网安备 15010502000194号

    Powered by Discuz! X2.5   © 2001-2013 数学建模网-数学中国 ( 蒙ICP备14002410号-3 蒙BBS备-0002号 )     论坛法律顾问:王兆丰

    GMT+8, 2026-10-26 01:25 , Processed in 0.416612 second(s), 50 queries .

    回顶部