QQ登录

只需要一步,快速开始

 注册地址  找回密码
查看: 5077|回复: 0
打印 上一主题 下一主题

[其他资源] 数据挖掘——如何利用Python实现产品关联性分析apriori算法篇

[复制链接]
字体大小: 正常 放大
杨利霞        

5273

主题

82

听众

17万

积分

  • TA的每日心情
    开心
    2021-8-11 17:59
  • 签到天数: 17 天

    [LV.4]偶尔看看III

    网络挑战赛参赛者

    网络挑战赛参赛者

    自我介绍
    本人女,毕业于内蒙古科技大学,担任文职专业,毕业专业英语。

    群组2018美赛大象算法课程

    群组2018美赛护航培训课程

    群组2019年 数学中国站长建

    群组2019年数据分析师课程

    群组2018年大象老师国赛优

    跳转到指定楼层
    1#
    发表于 2022-9-12 18:44 |只看该作者 |倒序浏览
    |招呼Ta 关注Ta
    数据挖掘——如何利用Python实现产品关联性分析apriori算法篇, g& M$ |- F3 i6 Q) [* v
    - O) N4 R9 h+ D- U2 O1 K+ o) N& v- P
    在实际业务场景中,我们常常会探讨到产品的关联性分析,本篇文章将会介绍一下如何在Python环境下如何利用apriori算法进行数据分析。7 Y: E: u9 a+ p* l
    ' `* G  s# g& _" g
    1.准备工作
    " L! a8 [' v0 i6 T) U  K如果需要在Python环境下实现apriori算法,就离不开一个关键的机器学习库mlxtend,运行以下代码进行安装:
    9 A/ W1 E6 D. N  y8 W% l
    8 j6 v# x1 q, n+ p6 w; o" R+ @pip install mlxtend+ ?& ^# n. O( \3 v% s, K  \7 u
    1
    4 q3 N/ \4 o* j6 V- i为方便进行过程的演示,在此构建测试数据:' G  K( K. D; U1 s4 b- P& O
    ( E3 h$ F9 y* Q  I/ L! d- C3 |7 W
    import pandas as pd
    " S1 Y' x% T; Gdf=pd.DataFrame({'product_list':['A-C', 'D', 'A-B-C-D','A-C','A-C-D','A-C-B']})0 r4 b9 g( D& M
    11 v- _( D3 S( i# }( _
    2
    2 w! i5 \/ \  O4 k; D, L测试数据截图如下:
    8 p$ m; U5 R) F. o8 |# {
    ' G1 f6 l7 t" `3 i2 ?( N
    4 F# b$ R5 I2 B6 ~: B对上述的数据进行以下处理:& l  B, e) p% ~2 c2 X' d6 a4 M/ Q
    , e8 W, f/ e) c! l' O* \
    df_chg=df['product_list'].str.split("-")) }2 r- N% L( Y( c+ I5 h
    14 c. h) a0 S# x1 `
    数据处理后,结果截图如下:
    + A$ P9 x5 J# o. g7 h' o5 X
    & K2 y+ p& j: T2 r& J/ x截止到此,准备工作已经完成,下面个将会以df_chg作为参数进行建模。9 p* x; }8 A2 w0 Q  V7 A4 s
    % ^0 n, y( ^6 F
    2.核心函数及代码# X4 m  {1 X0 y
    2.1 数据预处理4 U: M0 r* d( E: U4 `
    对传入的数据进行预处理,使其成为符合要求的数据。mlxtend模块中有专门用于数据预处理的方法,在这里直接进行调用即可:+ i4 f( Z: T* V

    $ [0 P7 ^; W4 F+ A9 d#1.将传入的数据转换为算法可接受的数据类型(布尔值)$ h" c8 X( W$ X. q2 }1 R( X, {( V
    from mlxtend.preprocessing import TransactionEncoder
    - B  z& C$ `6 ~te = TransactionEncoder()2 Q+ d. U3 T; a/ H# [
    df_tf = te.fit_transform(df_chg)" L& |, z2 r$ R8 x
    #为方便进行查看,生成dataframe& b6 p1 ?% l4 F1 @# V* ~! ?  [( r
    data = pd.DataFrame(df_tf,columns=te.columns_)1 B8 w( e1 U2 A& t
    1
    ( x6 k! A- @& B1 K2. y" t  k$ S' w. X+ B1 e% n
    3; T1 S8 I2 }4 C& ~6 V9 A6 `
    4
      x" q/ I  e- b, O3 b1 l- _5% O3 J& U; y1 M# [, X' \! ]/ E. v  M
    6
    ( G% h0 c8 O! L: h5 P运行以上代码后,传入的df_chg数据会被转换成符合要求的数据data,截图如下:
    4 z4 i& [/ l6 v9 y5 y7 P* `% ^- [4 _9 U9 H% M
    0 J) u% d' O$ t& L" c
    2.2 两个关键函数4 J8 _; J2 t9 _8 V8 B- a$ |2 Q( O
    apriori函数' @+ V$ b3 C/ v+ b
    语法:
    4 n. r# `7 p  b) ~+ n
    6 G2 g; S- Q  p8 gapriori(df, min_support=0.5, use_colnames=False, max_len=None, verbose=0, low_memory=False)' I" t' R  A9 c1 M( M  ^- W
    1& c0 g9 h% A" E  r- z" R5 J
    参数详解:
    * x0 y8 u8 @1 d  e8 T, B  _
    . `8 b% H6 D" ]4 Y+ j; m/ @5 jdf: pandas模块中的数据帧,DataFrame形式的数据;( u2 Z- w4 {, w5 J4 w2 {, A
    min_support:一个介于0和1之间的浮点数,表示对返回的项集的最小支持度。
    " ?5 Y; o. `) m7 ruse_colnames: 如果为 True,则在返回的 DataFrame 中使用 DataFrame 的列名;如果为False,则返回为列索引。通常情况下我们设置为True。
    : f$ W7 V7 r+ u, M. lmax_len: 生成的项目集的最大长度。如果无(默认),则计算所有可能的项集长度。
    0 ~, O/ C% }- p" ]1 T& j5 Uverbose: 如果 > = 1且 low_memory 为 True 时,显示迭代次数。如果 = 1且low_memory 为 False,则显示组合的数目。
    8 D  S6 _# r5 v; Elow_memory:如果为 True,则使用迭代器搜索 min_support 之上的组合。low _ memory = True 通常只在内存资源有限的情况下用于大型数据集,因为这个实现比默认设置大约慢3-6倍。  c1 r: L, }5 i& {" u
    association_rules函数$ b3 _/ h. v# n! T9 c
    语法:
    5 s( a( `4 @  h9 B( G% v) H6 z$ W7 \) U: H3 ], n/ u$ e( b+ ^$ _4 L8 c% f
    association_rules(df, metric='confidence', min_threshold=0.8, support_only=False)
    $ ^+ g5 D* r  @% A1 o3 ]1
    6 ~% I7 e# F' b1 z2 Z参数如下:
    . J7 A& s6 E5 B. i  z* y2 s% b3 i' ], Y0 {4 R1 V- B* {
    df: pandas模块中的数据帧,DataFrame形式的数据;% Y. J* A& l3 o; R6 n
    metric: 用于评估规则是否有意义的度量。可选参数有以下几种:‘support’, ‘confidence’, ‘lift’, 'leverage’和 ‘conviction’
    7 ^) n! x! r) d2 G! c" rmin_threshold: 评估度量的最小阈值,通过度量参数确定候选规则是否有意义。- w2 n$ y: d9 X4 l
    support_only : 只计算规则支持并用 NaN 填充其他度量列。如果: a)输入 DataFrame 是不完整的,例如,不包含所有规则前因和后果的支持值 b)你只是想加快计算速度,因为你不需要其他度量。6 c* G9 b! ]6 U( c" W5 R! g$ P0 _6 t
    附带metric几种参数的计算方法:
    / Q7 V+ r0 m: u5 `6 }* r4 K4 G: ?0 h5 a  T+ q
    support(A->C) = support(A∩C) [aka ‘support’], range: [0, 1]7 H6 `. r! g) V- Y& ]. ]

    3 p! L8 M7 K" W' x: O) V1 n& Mconfidence(A->C) = support(A∩C) / support(A), range: [0, 1]
    0 ~' u: _: B) M$ ^( P* h
    " H$ i2 [% J+ h3 }2 v$ mlift(A->C) = confidence(A->C) / support(C), range: [0, inf]
    3 b, K1 V( z% [: h: \$ J6 {1 y4 q* _( q+ p; P
    leverage(A->C) = support(A->C) - support(A)*support(C),
    ' ]' D- W* h- J% o* |: Drange: [-1, 1]
    ; }: v% Q9 @; V; r, H- X% g# x% h5 F& z% e& K9 E/ k0 t
    conviction = [1 - support(C)] / [1 - confidence(A->C)],
    + Q. T. k( }( Z8 h% u) v0 ~range: [0, inf]
    - ?8 {* T3 x/ F. c# Q- f. v
    3 o" \/ b5 _6 U" f3.实际应用案例& Z7 N9 P7 j5 ?7 `2 f( N3 f
    以下为完整的调用实例:# B, I5 {# P5 I3 _  w; k

    9 g1 ]% x) \$ w! Ximport pandas as pd! M" @# x: X( E$ M; Z. R
    from mlxtend.preprocessing import TransactionEncoder3 x& O* U: j  v/ R, B! P
    from mlxtend.frequent_patterns import apriori
    , x* E' X6 p# Q& Nfrom mlxtend.frequent_patterns import association_rules
    & x7 o$ Q2 v/ f$ _9 w! d#1.构建测试数据
    7 K+ D% u  Q) g0 @; u, s& R3 n* kdf=pd.DataFrame({'product_list':['A-C', 'D', 'A-B-C-D','A-C','A-C-D','A-C-B']})
    # E3 L4 ~! U3 b; ~. A6 K- i: ~* _df_chg=df['product_list'].str.split("-")' o! j1 l' A6 Z5 {, a  u
    #2.数据预处理: o9 Q$ v, Z2 }( I
    #将传入的数据转换为算法可接受的数据类型(布尔值)
    % }& R  [2 w( s/ _te = TransactionEncoder()
    + D2 W/ H6 Q/ u3 Z* u# pdf_tf = te.fit_transform(df_chg)9 A" s9 X4 M* {
    #为方便进行查看,生成dataframe: z. K% W; a3 m! q' ]2 r
    data = pd.DataFrame(df_tf,columns=te.columns_); Q; @* P  c* q* o
    #3.建模- F0 e2 }( N" M: x. T) B  T  _
    #利用 Apriori函数,设置最小支持度为0.2. H; d6 Q: K& G9 I5 r
    frequent_itemsets = apriori(data,min_support=0.2,use_colnames= True)
      e) `( I% O9 U8 t: s8 P- O; Z#设置关联规则,设置最小置信度为0.15
    / Y% e: ^- ~& ~& }temp= association_rules(frequent_itemsets,metric = 'confidence',min_threshold = 0.15)5 q( ]1 z) l! A& ?
    #4.剪枝并控制输出
    , ]/ b3 }" s) Z; o#设置最小提升度,并剔除对应的数据
    * o5 [4 |( i# o+ \, dmin_lift=1
    1 X2 k4 G+ `* X* brules = temp.drop(temp[temp['lift']<min_lift].index)$ {' P5 W3 v7 C. \/ u9 ^/ N/ [
    #筛选需要输出的列0 B/ Z1 ^, u! |& H. W/ r. {
    result = rules[['antecedents','consequents','support','confidence','lift']]: G, F. c2 P$ i, |
    result=result.sort_values(['confidence','lift','support'],ascending=False)
    % v  ]5 R; y& d1 Zresult.to_csv('apriori_result.csv',index=False,encoding='utf-8-sig')2 ~3 j& z& I# Y) L3 m

    4 k$ W5 d( m5 K, f15 a7 \4 Z& R/ H! F5 w
    2
    . a" A, f& ]. F9 ]" l4 K: L3
      E1 z6 y6 d' n# B' C4
    4 I& L+ Q0 R6 {  ?5. v% y" }& I% l. w  N2 j
    6
    " \8 p, D2 o8 U* Q) c' @" a7
    . s% R* S6 u8 w# O) `/ }* x: w; I, G; z8
    2 u3 K" a% N" ]/ v2 E9 Q7 O9
    $ ^  U, l* c' _9 \. U+ m- Z10
      [8 G5 \: C: X6 s4 {$ N6 U11. n. r# T2 x# `( j
    126 C2 e- R) v6 N
    13* A5 l. d# N' X7 N: O
    14
    + o6 k+ {6 O( ?2 e15
    , U; O  B" N* x" @7 Y6 c2 {16
    4 x$ q& p* K, S17% B/ _0 \" N' h( t4 e% P
    18! s* a) p: t8 f, b1 X9 Q+ W
    196 V9 s8 m0 D9 y) k
    20
    8 I2 j* |# C. L0 O21
      e* y  H% c9 E22/ ?$ y# i6 m0 N) S" Y
    237 `1 [1 [& U/ M; H
    24. Q7 v7 D, Z& X; o3 A# ~
    25. V9 S* ]9 ?* d: e& X: r5 t
    26+ Z4 f/ w* N/ q4 }3 \' }! E
    输出结果见下图:  U/ R4 W( M0 u/ p

    " a; Z# _, q! e" N, i————————————————
    3 a( l5 F2 B4 G: K0 u7 A版权声明:本文为CSDN博主「theskylife」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。
    4 S, C4 o3 [* z. [& y原文链接:https://blog.csdn.net/qq_41780234/article/details/121920759
    / @) x, y. a; `* D$ x  x' c7 y  \

    3 {; s  U( ^0 r+ h) {1 `- x# _' S
    zan
    转播转播0 分享淘帖0 分享分享0 收藏收藏0 支持支持0 反对反对0 微信微信
    您需要登录后才可以回帖 登录 | 注册地址

    qq
    收缩
    • 电话咨询

    • 04714969085
    fastpost

    关于我们| 联系我们| 诚征英才| 对外合作| 产品服务| QQ

    手机版|Archiver| |繁體中文 手机客户端  

    蒙公网安备 15010502000194号

    Powered by Discuz! X2.5   © 2001-2013 数学建模网-数学中国 ( 蒙ICP备14002410号-3 蒙BBS备-0002号 )     论坛法律顾问:王兆丰

    GMT+8, 2026-8-24 08:51 , Processed in 0.522797 second(s), 50 queries .

    回顶部