QQ登录

只需要一步,快速开始

 注册地址  找回密码
查看: 5135|回复: 0
打印 上一主题 下一主题

[其他资源] 数据挖掘——如何利用Python实现产品关联性分析apriori算法篇

[复制链接]
字体大小: 正常 放大
杨利霞        

5273

主题

82

听众

17万

积分

  • TA的每日心情
    开心
    2021-8-11 17:59
  • 签到天数: 17 天

    [LV.4]偶尔看看III

    网络挑战赛参赛者

    网络挑战赛参赛者

    自我介绍
    本人女,毕业于内蒙古科技大学,担任文职专业,毕业专业英语。

    群组2018美赛大象算法课程

    群组2018美赛护航培训课程

    群组2019年 数学中国站长建

    群组2019年数据分析师课程

    群组2018年大象老师国赛优

    跳转到指定楼层
    1#
    发表于 2022-9-12 18:44 |只看该作者 |倒序浏览
    |招呼Ta 关注Ta
    数据挖掘——如何利用Python实现产品关联性分析apriori算法篇
    4 Z- T7 g8 ~/ x4 R9 K
    6 Z6 Q4 i& b; K8 K$ n8 a, ]0 t3 ]( ^在实际业务场景中,我们常常会探讨到产品的关联性分析,本篇文章将会介绍一下如何在Python环境下如何利用apriori算法进行数据分析。
    . [4 _" g$ T$ `; T: T
    ! c* f( @5 k7 l* z5 W- Q1 C3 j: _1.准备工作$ q* H; S# J6 S+ {
    如果需要在Python环境下实现apriori算法,就离不开一个关键的机器学习库mlxtend,运行以下代码进行安装:1 T* f/ v1 e) ?

    3 n3 H. o/ X+ m0 n% z! }pip install mlxtend
    + i6 p6 C6 o7 f. V) k, P1# G- i" Y- A- O0 |
    为方便进行过程的演示,在此构建测试数据:
    7 V5 [* i2 B6 w
    & G, Y* Q* I0 ?2 B( B* C# Simport pandas as pd
      m- u+ V0 x) ~2 Z9 I' udf=pd.DataFrame({'product_list':['A-C', 'D', 'A-B-C-D','A-C','A-C-D','A-C-B']})
    % q: B* o  h* ]8 t( w1# u3 [; l3 a$ v- k; P; Z2 J
    2
    / f+ n( b7 Y: {测试数据截图如下:
    8 _8 i' b& O1 x. [0 m3 L$ a' R6 u  W
    . Q* ?5 ]8 Y, x! V: n. I4 X7 N; ?* k9 q/ t- W
    对上述的数据进行以下处理:
    1 `6 _: p6 U# y; U8 y8 B7 }$ d, k# L# z  D. l
    df_chg=df['product_list'].str.split("-"); w6 S$ c( }/ E+ h5 M
    1
    : E( e' Y4 y; P6 o数据处理后,结果截图如下:; P3 Y7 s. @* M/ z
      H3 D! w( x& y4 f( Y6 c
    截止到此,准备工作已经完成,下面个将会以df_chg作为参数进行建模。* f2 u+ K% I2 ]: ^- C. a

    # m3 N! y! B2 L1 h3 d/ y2.核心函数及代码- {" j* V% w5 D* ^4 D8 G" u
    2.1 数据预处理
    . y  s9 K4 z1 S, J对传入的数据进行预处理,使其成为符合要求的数据。mlxtend模块中有专门用于数据预处理的方法,在这里直接进行调用即可:8 _: u; P$ a4 F. G' J4 F8 k6 ^% o: O

      m+ @4 r1 t4 y: A#1.将传入的数据转换为算法可接受的数据类型(布尔值)  C5 K% G$ k. k& c6 q& |* N
    from mlxtend.preprocessing import TransactionEncoder
    . }# Q2 B; Q. j; m: A/ y& wte = TransactionEncoder()/ l/ r# u4 z- x6 v& }3 A6 [6 m0 y
    df_tf = te.fit_transform(df_chg)
    ! E! @7 c- ^% a6 [9 _#为方便进行查看,生成dataframe1 k! \3 a8 @* ~# ~9 s0 y$ ~  u
    data = pd.DataFrame(df_tf,columns=te.columns_)
    % E/ b( y9 v' x* z11 `! A) d! T- D8 ^  |6 V) O
    2& \, G& U" T# p) }% N! ?; O" I* x
    36 h( y% }  `" i' d
    4
    ) R- h( X4 w. @/ t/ w5
    4 w- G; f% ?) m# ?2 L2 w; N5 h6 d6
    / W9 |* O7 r; N' D$ A运行以上代码后,传入的df_chg数据会被转换成符合要求的数据data,截图如下:
    ( \# f8 `' r4 V# j5 ^0 \5 J- F: d! b( A- y3 Q& c; M( O
    : c1 e- B# \/ c7 r: m3 ]
    2.2 两个关键函数  B* S* L9 q% I- I. s3 O- }9 K, O
    apriori函数2 k! v1 B+ `% l; Y0 O
    语法:' t! R- y: W* M& i, E1 L) `
    2 `& Y& p: H( }5 e1 G9 \" A+ U* \
    apriori(df, min_support=0.5, use_colnames=False, max_len=None, verbose=0, low_memory=False)2 r2 D( D0 D0 B- R9 a5 C
    1/ _: j# t) z" p! I
    参数详解:( ~( C* a: f: n* f% c
    , a% H3 ^) a* {3 L% U
    df: pandas模块中的数据帧,DataFrame形式的数据;& t, z; s& \7 G2 k
    min_support:一个介于0和1之间的浮点数,表示对返回的项集的最小支持度。3 A- S) \" ^1 [8 {# ?
    use_colnames: 如果为 True,则在返回的 DataFrame 中使用 DataFrame 的列名;如果为False,则返回为列索引。通常情况下我们设置为True。
    6 D6 F* b! M' z9 jmax_len: 生成的项目集的最大长度。如果无(默认),则计算所有可能的项集长度。% G* K9 k% J$ H/ a; F6 W* j
    verbose: 如果 > = 1且 low_memory 为 True 时,显示迭代次数。如果 = 1且low_memory 为 False,则显示组合的数目。  y9 ^: ~8 ]% t) V# D* r# M
    low_memory:如果为 True,则使用迭代器搜索 min_support 之上的组合。low _ memory = True 通常只在内存资源有限的情况下用于大型数据集,因为这个实现比默认设置大约慢3-6倍。9 J7 |8 Y8 x9 U" _# `7 O4 @9 `
    association_rules函数3 n  U' K; I3 D. O4 x
    语法:
    2 A& E% k. X- v% j. L( F8 f  J2 |* Z$ D4 D9 w5 f
    association_rules(df, metric='confidence', min_threshold=0.8, support_only=False)
    . ?7 y: s8 M3 C5 M1" X1 t: ~1 h: r3 i. K3 n9 m
    参数如下:
    & @2 f" S/ k: j9 r2 g6 t
    7 s% w0 u: ]. B$ I: ?- Y" M! i6 tdf: pandas模块中的数据帧,DataFrame形式的数据;, T7 g) x8 X: F$ n
    metric: 用于评估规则是否有意义的度量。可选参数有以下几种:‘support’, ‘confidence’, ‘lift’, 'leverage’和 ‘conviction’/ l5 X1 k6 w) ?& U, t* A' @
    min_threshold: 评估度量的最小阈值,通过度量参数确定候选规则是否有意义。
      y) l; ^0 [3 h) o8 ^4 \support_only : 只计算规则支持并用 NaN 填充其他度量列。如果: a)输入 DataFrame 是不完整的,例如,不包含所有规则前因和后果的支持值 b)你只是想加快计算速度,因为你不需要其他度量。
    " T1 C  Z5 b  s1 |4 {& i附带metric几种参数的计算方法:
    / l4 u. X4 @) W& g: x5 j. V" l  w5 R
    support(A->C) = support(A∩C) [aka ‘support’], range: [0, 1]5 j2 ?# W/ J& |0 Y( ^  b

      c) t! U+ U5 v" H$ `confidence(A->C) = support(A∩C) / support(A), range: [0, 1]) E3 h8 f8 A7 M5 e# m
    3 V7 I! f0 t: j% l3 {
    lift(A->C) = confidence(A->C) / support(C), range: [0, inf]; N4 g/ N" ?: T9 {7 N

    . C: S  Q- i  M) a0 p5 Y! sleverage(A->C) = support(A->C) - support(A)*support(C),# |5 \9 n. T. x/ T
    range: [-1, 1]
    4 H' s4 |6 p% a1 r# v0 @# ?; W
    . V& ]7 t; C+ |& H+ Pconviction = [1 - support(C)] / [1 - confidence(A->C)],
    . T0 H3 H* ]3 f( @0 h* A0 w0 E4 b- ^" }range: [0, inf]
    ( {1 c) C/ A$ m7 N& n5 q: e/ a! K7 q7 l
    8 ]9 P& Z4 A6 L2 I$ R' G) |- l9 G3.实际应用案例
    ; x* I: S* x* x" W以下为完整的调用实例:  g6 v, j  |% l" u3 u  E
    * m$ R0 `& S3 o# q5 P, J9 H
    import pandas as pd* k, c$ K6 d+ Z  j1 t" V9 {
    from mlxtend.preprocessing import TransactionEncoder
    + f3 G1 q; z1 n8 T; ^! lfrom mlxtend.frequent_patterns import apriori
    , N: Y: P6 U$ z% I, F% f/ H6 }from mlxtend.frequent_patterns import association_rules! |% d! D; F4 z+ w4 N
    #1.构建测试数据
    , e% P+ g5 V4 T/ P6 {& k' F# sdf=pd.DataFrame({'product_list':['A-C', 'D', 'A-B-C-D','A-C','A-C-D','A-C-B']})+ I5 }, q* d* W. L* S6 Y
    df_chg=df['product_list'].str.split("-"), _8 L* c" j! M) G9 S% K
    #2.数据预处理$ p- i7 C( _) P" F2 z* ?$ m
    #将传入的数据转换为算法可接受的数据类型(布尔值)
    ! o+ w4 y- T: }. U& {/ p  B1 Zte = TransactionEncoder()
    7 t9 i3 d2 d% _: p6 |* Xdf_tf = te.fit_transform(df_chg)/ \# Y$ l& h0 ?* S
    #为方便进行查看,生成dataframe
    . N; u# m% \; ]; Gdata = pd.DataFrame(df_tf,columns=te.columns_)
    $ S1 O( }- E) h& T0 J( @5 G. B; `#3.建模& ^9 [7 h9 D5 e" v/ o
    #利用 Apriori函数,设置最小支持度为0.2
    2 O5 K7 O8 ], \" |" U2 Jfrequent_itemsets = apriori(data,min_support=0.2,use_colnames= True)5 j( I. j/ k2 W6 V3 \! }, I
    #设置关联规则,设置最小置信度为0.15
    / [4 {& g7 G+ @; {' p; g0 T+ [temp= association_rules(frequent_itemsets,metric = 'confidence',min_threshold = 0.15)3 M+ P- |( ^6 N5 h. S; e7 @4 u
    #4.剪枝并控制输出* ]0 D/ U0 u! q
    #设置最小提升度,并剔除对应的数据! l  k4 d- T2 O9 n# I6 J. {
    min_lift=1
    # ~" k- N; v4 \  xrules = temp.drop(temp[temp['lift']<min_lift].index)  O9 w' K' S# L" R' C1 F
    #筛选需要输出的列
    # n5 n" i& d/ y) N  S6 Dresult = rules[['antecedents','consequents','support','confidence','lift']]
    4 n0 d# z* }# J4 M: e- i! A% Iresult=result.sort_values(['confidence','lift','support'],ascending=False)4 B3 [5 _8 W7 j, X' M, [
    result.to_csv('apriori_result.csv',index=False,encoding='utf-8-sig')7 Y2 U) O+ U# o, E; L. n% Q8 _4 Y5 I
    8 v, u6 G# K8 K3 \1 U) y+ t
    19 b) x& v7 l" x* {
    2
    + R9 p$ D% r1 e( \$ V( ~3
    ( j: d3 q8 B2 a7 w" g4
    ) S& U: h* _7 N6 l3 b53 D4 C7 L8 o8 F
    6
    ! ]. [+ j) g! {: B0 a2 c/ D7+ Q; t1 M; D8 W, `; D' p
    8
    . W& D+ b1 P8 C) ]2 z9
    1 j. J" `9 y$ ?; M10
    * ^% u2 y- e+ k3 l$ U5 x11% F9 m% x1 B4 X2 y' Y" V* e/ f
    122 Q1 a$ B" h; }7 I2 e8 q
    13# x4 @, ?) h8 [9 b5 X
    14
    ! I$ Y$ V6 \/ Z3 }& ^, P15/ m7 C0 B& |; s: o
    16
    % K- g; V# c. a- L1 G- G" L17* }$ u3 E' k: |$ M
    18
    . G4 t5 Q! O9 g19
    5 M2 Z! H6 P* }* x8 T  b20
    ! \# p7 x1 M' Q4 w' H6 x) O21
    5 U# @/ J. s- V% n0 V+ p22
    1 U6 V* v  S# a8 h* m- Y5 i7 K9 p23
    # f2 S  I4 k" f9 P* ^: N# w: ?- K24
    " V) D6 M/ ?: l: v: K! g' u. H' R25
    , [$ `5 \% B& k* C- U# D# X26
    ( m+ e3 {! E! b3 }& b6 G" @, _: ?输出结果见下图:
    ( a3 M6 V. [( w3 A! Z
    ' ?& t5 W% f6 k5 e, X. o; j————————————————
    - O; R6 z  ^. F; b/ q& v$ _版权声明:本文为CSDN博主「theskylife」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。3 g5 S0 @5 I  |6 Q. i9 j
    原文链接:https://blog.csdn.net/qq_41780234/article/details/121920759
    " u' [* Q8 b. W7 [' q6 ]( x
    2 u2 |- [5 I/ l: M4 D* P5 D$ C& f5 Z2 E, f
    zan
    转播转播0 分享淘帖0 分享分享0 收藏收藏0 支持支持0 反对反对0 微信微信
    您需要登录后才可以回帖 登录 | 注册地址

    qq
    收缩
    • 电话咨询

    • 04714969085
    fastpost

    关于我们| 联系我们| 诚征英才| 对外合作| 产品服务| QQ

    手机版|Archiver| |繁體中文 手机客户端  

    蒙公网安备 15010502000194号

    Powered by Discuz! X2.5   © 2001-2013 数学建模网-数学中国 ( 蒙ICP备14002410号-3 蒙BBS备-0002号 )     论坛法律顾问:王兆丰

    GMT+8, 2026-9-13 15:12 , Processed in 0.482868 second(s), 51 queries .

    回顶部