QQ登录

只需要一步,快速开始

 注册地址  找回密码
查看: 5052|回复: 0
打印 上一主题 下一主题

[其他资源] 数据挖掘——如何利用Python实现产品关联性分析apriori算法篇

[复制链接]
字体大小: 正常 放大
杨利霞        

5273

主题

82

听众

17万

积分

  • TA的每日心情
    开心
    2021-8-11 17:59
  • 签到天数: 17 天

    [LV.4]偶尔看看III

    网络挑战赛参赛者

    网络挑战赛参赛者

    自我介绍
    本人女,毕业于内蒙古科技大学,担任文职专业,毕业专业英语。

    群组2018美赛大象算法课程

    群组2018美赛护航培训课程

    群组2019年 数学中国站长建

    群组2019年数据分析师课程

    群组2018年大象老师国赛优

    跳转到指定楼层
    1#
    发表于 2022-9-12 18:44 |只看该作者 |正序浏览
    |招呼Ta 关注Ta
    数据挖掘——如何利用Python实现产品关联性分析apriori算法篇
    2 r% B! n3 i) n# ^7 O7 q$ ?3 M( }9 ?
    在实际业务场景中,我们常常会探讨到产品的关联性分析,本篇文章将会介绍一下如何在Python环境下如何利用apriori算法进行数据分析。
      B5 S. q" d) c6 A# v, }, j4 n. j9 @) B
    1.准备工作
    1 ~, p- m5 M' ~; d如果需要在Python环境下实现apriori算法,就离不开一个关键的机器学习库mlxtend,运行以下代码进行安装:5 V* S/ H0 I) g$ C% s8 s

    ) U6 z: e; @1 H6 o6 Npip install mlxtend. k& C& d. @! j
    1' i8 _( G- K) G
    为方便进行过程的演示,在此构建测试数据:
    ! |& [1 A4 {) c. k) a2 T/ b2 G% K7 q; B$ |9 U) b* }+ h% d$ Z
    import pandas as pd7 y/ L4 Q' e' C: x
    df=pd.DataFrame({'product_list':['A-C', 'D', 'A-B-C-D','A-C','A-C-D','A-C-B']})% b* b# W) S& l/ x; {" Z. q; w
    1
    # e# y1 m- i) Z6 y8 d% i7 q% X2
    6 C5 e% H4 f! G2 f. }5 i; ~) t测试数据截图如下:
      I1 |. u* s) T" R: ~1 F- N$ w
    " Q+ n$ S' W, J
    # [2 H3 J* ]# D0 x; o, J对上述的数据进行以下处理:! N# _0 Q$ [( i' [4 ?, y: K+ b
    * `* w1 v4 ~0 ~9 p0 q
    df_chg=df['product_list'].str.split("-")$ W' \* a' R" N* g, G/ Z4 K
    1* L$ L' K/ \# {: ^% y6 V7 e( N  k
    数据处理后,结果截图如下:
    7 l: L2 s, h: f; j
    # a4 ?: |& S* z& Q截止到此,准备工作已经完成,下面个将会以df_chg作为参数进行建模。
    1 Y" ]& M: L/ }0 C6 e* O) w( L8 b+ x7 H8 y
    2.核心函数及代码
    / q: Q* z. m: U/ z! W2.1 数据预处理
    , I8 ]4 w: \0 P$ o; W对传入的数据进行预处理,使其成为符合要求的数据。mlxtend模块中有专门用于数据预处理的方法,在这里直接进行调用即可:8 A" E1 C+ r( U7 m3 ]( o" S- M5 T
    1 |2 a1 m5 c. a2 E) h
    #1.将传入的数据转换为算法可接受的数据类型(布尔值)
    ) Q: I- a' D$ t, Xfrom mlxtend.preprocessing import TransactionEncoder
    3 w3 a: c4 w" c4 [te = TransactionEncoder()
    # P* B- L: S3 adf_tf = te.fit_transform(df_chg): u6 V& U* I, q4 e" J; O  R# R
    #为方便进行查看,生成dataframe
    , [* h8 ?' ~8 ^5 J) }0 K6 Sdata = pd.DataFrame(df_tf,columns=te.columns_)
    . {0 o7 \& h3 U. f3 D" M1
    0 _: a) G/ W7 P! `! j: G2
    $ ~: n. s" Y+ p, j- K3# o! O$ H  U+ `
    4" a5 G! L' p% l, L. r+ Z5 ~
    5! F. _. h5 `$ T6 x- ~6 B& a
    6
    / w" [9 x" L' Z" N运行以上代码后,传入的df_chg数据会被转换成符合要求的数据data,截图如下:$ F8 A4 H# t4 c& @& M& q+ Z1 _1 ~

    ( S9 X3 |& q3 F8 N+ S3 V5 B! D4 L: U4 l, }* L8 B
    2.2 两个关键函数& j8 H) y+ Q+ j! B/ |, z
    apriori函数
    7 c! ?, z- X) i( J4 a语法:
    + t4 U$ O. a- n; C- G- R( H7 W. n6 M: V% j7 {) @* N
    apriori(df, min_support=0.5, use_colnames=False, max_len=None, verbose=0, low_memory=False)+ O+ f" A7 n% {5 N
    1) D( e/ `) ?- r6 J6 I; m
    参数详解:- u. ?; y9 d) U) L3 y

    4 p2 a: b  V4 M- |df: pandas模块中的数据帧,DataFrame形式的数据;
    , H! d1 e# Y5 I' Z" Kmin_support:一个介于0和1之间的浮点数,表示对返回的项集的最小支持度。% y6 [$ b; m( G% U% B- S8 B) T  O
    use_colnames: 如果为 True,则在返回的 DataFrame 中使用 DataFrame 的列名;如果为False,则返回为列索引。通常情况下我们设置为True。& M/ E0 l3 M; x% `) m: Y4 C! c: V
    max_len: 生成的项目集的最大长度。如果无(默认),则计算所有可能的项集长度。5 U: g) N; @) b) ]
    verbose: 如果 > = 1且 low_memory 为 True 时,显示迭代次数。如果 = 1且low_memory 为 False,则显示组合的数目。
    + h+ y# K2 ]4 e: q1 ]low_memory:如果为 True,则使用迭代器搜索 min_support 之上的组合。low _ memory = True 通常只在内存资源有限的情况下用于大型数据集,因为这个实现比默认设置大约慢3-6倍。
    2 z# R; M- X& K! E9 ], [association_rules函数/ u1 T/ @3 t. r. F& y
    语法:
    * x( N- L  r- Z
    $ S# u) \0 }+ `1 Z6 x( C% g4 Qassociation_rules(df, metric='confidence', min_threshold=0.8, support_only=False)
    ; Z& w2 E: n/ {( G" N18 z+ p  K+ J4 N! |) e; S. l
    参数如下:: j+ x: O0 n  D1 n
    , Y( D; Q8 r6 X
    df: pandas模块中的数据帧,DataFrame形式的数据;
    # K2 W2 E  p: I6 O; Tmetric: 用于评估规则是否有意义的度量。可选参数有以下几种:‘support’, ‘confidence’, ‘lift’, 'leverage’和 ‘conviction’
    ; P; c) h/ V+ Smin_threshold: 评估度量的最小阈值,通过度量参数确定候选规则是否有意义。! n! m( Z5 E& n* W: B7 A- I9 o
    support_only : 只计算规则支持并用 NaN 填充其他度量列。如果: a)输入 DataFrame 是不完整的,例如,不包含所有规则前因和后果的支持值 b)你只是想加快计算速度,因为你不需要其他度量。
    3 c4 H) ?! D1 A8 G8 m. {6 h附带metric几种参数的计算方法:
    2 }6 m: v' Q9 w+ s4 v4 d6 N1 k. A* J- N4 B+ v( p. u
    support(A->C) = support(A∩C) [aka ‘support’], range: [0, 1]# \0 A& R7 M6 A8 y  ~; r& Z/ \

    ! o- D$ x3 m6 \5 ]7 ~0 k2 [; Zconfidence(A->C) = support(A∩C) / support(A), range: [0, 1]
    / h- B+ e% L' R4 f* i: a) E* J8 G0 a& s6 x; v- u) M
    lift(A->C) = confidence(A->C) / support(C), range: [0, inf]3 m4 O+ o: N/ @  w7 s4 Z% Q( T

    $ x" L; G. [! e) Aleverage(A->C) = support(A->C) - support(A)*support(C),
    % [2 |: e* o4 Brange: [-1, 1]; K- i4 V9 W5 T6 v% x
    8 H% p+ }7 V8 u6 a( X" X
    conviction = [1 - support(C)] / [1 - confidence(A->C)],9 @8 p8 g- j  t: T. h  m) m
    range: [0, inf]
    + l$ h' s0 o+ H+ ~! u
    $ H  ~' t( B0 u2 H3.实际应用案例
    1 W- G5 a! l2 o% ]1 u: n. F以下为完整的调用实例:. t2 ^7 d' c5 w' A+ I$ n+ o
    $ Z' y% g' Q6 `) Z
    import pandas as pd' M+ f0 n4 |0 i2 ^% [* `
    from mlxtend.preprocessing import TransactionEncoder
    4 Z2 U/ d2 Y( x$ Dfrom mlxtend.frequent_patterns import apriori
    8 N0 x. I/ _/ W4 ffrom mlxtend.frequent_patterns import association_rules
    ' u4 @& U7 Z# t+ l#1.构建测试数据3 [  S& q; Y  y$ P+ N
    df=pd.DataFrame({'product_list':['A-C', 'D', 'A-B-C-D','A-C','A-C-D','A-C-B']})
    $ u( o/ G( h2 |$ Y, _4 Hdf_chg=df['product_list'].str.split("-")
    $ S5 U5 @7 z9 j, h- ?#2.数据预处理
      {+ Z) _0 u' J#将传入的数据转换为算法可接受的数据类型(布尔值)9 ]  `7 R9 Q) h% w" f  F
    te = TransactionEncoder()
    ( D* ]. J# O9 Z5 ]; g' d) udf_tf = te.fit_transform(df_chg)) [& b, W0 J% l& F( n
    #为方便进行查看,生成dataframe
    ) c/ O, R. P4 b, hdata = pd.DataFrame(df_tf,columns=te.columns_)8 j/ j. |' M6 t6 C' f
    #3.建模4 J& W, u2 k6 j8 n& T
    #利用 Apriori函数,设置最小支持度为0.2
    9 N  H2 Y$ d, B, X" `frequent_itemsets = apriori(data,min_support=0.2,use_colnames= True)
    + U+ Z+ }( A2 Q* ]6 }8 X3 T#设置关联规则,设置最小置信度为0.15! z& x+ c$ n* W4 a0 H
    temp= association_rules(frequent_itemsets,metric = 'confidence',min_threshold = 0.15)
    " Z7 s, _$ c" n" R#4.剪枝并控制输出
    ; @5 R/ }4 A8 N6 g9 S: [#设置最小提升度,并剔除对应的数据0 x! m# w, Z3 y' g+ T- o  Z: ?
    min_lift=1
    " i0 G# `, Z( ^+ Urules = temp.drop(temp[temp['lift']<min_lift].index)
    : A9 l( b3 X8 G9 V% ?#筛选需要输出的列; n5 ?6 F8 W  r  I
    result = rules[['antecedents','consequents','support','confidence','lift']]/ M+ ]; T5 z5 z' N: G  S. r6 `1 Y# b
    result=result.sort_values(['confidence','lift','support'],ascending=False)
    ' a. g% _! p7 I5 x0 q* ~9 ?$ Eresult.to_csv('apriori_result.csv',index=False,encoding='utf-8-sig')
    " @1 Q) ~7 d+ E0 l; G2 |* r. w( y
    2 `* u' m% ]2 R9 M- m5 E- b1 N& ?1
    & Z8 H0 j* R  k- @8 l( Q2. J3 v" ~3 J# \" g4 ?( L
    34 a4 d! O- g# g1 p) l7 }5 E
    4
    : U) M: j9 [0 t4 |1 Q, Y1 S5, W0 H2 o$ |% T% A
    6+ |4 V( }$ Z) t9 d6 f
    7
    % v; J; J8 ]5 a" {9 l3 V3 p, `8
    7 P- C" }8 ]: R' Q9
    6 _" p- l$ f9 b2 i% ?0 A10
    % g/ a. h$ [" J1 _% S3 x- i11& H4 e7 ?6 ~* ]5 D
    12# O6 n- K( }3 x% A
    13( W( e  X/ ?7 I& U( K, m
    14- }, l. ]8 }4 g- P9 {' `
    15
    7 M1 I( _9 P4 P0 {8 h162 C  g' s7 b4 s0 w" O& X" {  K9 j
    173 I  h% \5 z0 L6 Y9 V5 {
    18* v5 I/ I$ E: s$ N
    19% [5 _% m' B4 U) R; p8 I& N
    20
    - \. e. i' C8 Q8 H( X# l# r21/ z" [; ]# M. {
    22
    . ^) x% i& k7 R+ K: g& C23" _- g/ \5 g  r" n- t
    24
    . k0 ?, o) g; x9 c258 s1 p; m; Z' k
    26. o% d* m6 W! ^5 o8 w8 v; m
    输出结果见下图:' _2 e$ N5 L3 j$ F% a& r

    7 i6 p7 c- T0 h: F————————————————6 m- h/ t9 D3 _
    版权声明:本文为CSDN博主「theskylife」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。. D' O* e9 X& _" K) a" ?: r
    原文链接:https://blog.csdn.net/qq_41780234/article/details/121920759" i( C' U/ ]" d3 `# J& `$ W4 y
      ]' R$ L7 b- x% @( X0 ~
    7 @0 x8 G8 i6 G& ?* h
    zan
    转播转播0 分享淘帖0 分享分享0 收藏收藏0 支持支持0 反对反对0 微信微信
    您需要登录后才可以回帖 登录 | 注册地址

    qq
    收缩
    • 电话咨询

    • 04714969085
    fastpost

    关于我们| 联系我们| 诚征英才| 对外合作| 产品服务| QQ

    手机版|Archiver| |繁體中文 手机客户端  

    蒙公网安备 15010502000194号

    Powered by Discuz! X2.5   © 2001-2013 数学建模网-数学中国 ( 蒙ICP备14002410号-3 蒙BBS备-0002号 )     论坛法律顾问:王兆丰

    GMT+8, 2026-7-30 01:13 , Processed in 0.404857 second(s), 51 queries .

    回顶部