如何使用 Apriori 工具包

Apriori 虽然是十大算法之一，不过在 sklearn 工具包中并没有它，也没有 FP-Growth 算法。。这里教你个方法，来选择 Python 中可以使用的工具包，搜索工具包。

efficient-apriori 1.0.0找到这个工具包，然后在终端（windows 中叫anaconda prompt）

输入：pip install efficient-apriori

然后重新进入jupyter 模式；

接下来我们用这个工具包，跑一下超市购物的例子

from efficient_apriori import apriori # 设置数据集 data = [('牛奶','面包','尿布'), ('可乐','面包', '尿布', '啤酒'), ('牛奶','尿布', '啤酒', '鸡蛋'), ('面包', '牛奶', '尿布', '啤酒'), ('面包', '牛奶', '尿布', '可乐')] # 挖掘频繁项集和频繁规则 itemsets, rules = apriori(data, min_support=0.5, min_confidence=1) print(itemsets) print(rules)

其中 data 是我们要提供的数据集，它是一个 list 数组类型。min_support 参数为最小支持度，用小数表示（不要用百分数）

min_confidence 是最小置信度，用小数表示（不要用百分数）

实际上，data 是个 List 数组类型，其中每个值都可以是一个集合。实际上你也可以把 data 数组中的每个值设置为 List 数组类型，比如：

data = [['牛奶','面包','尿布'], ['可乐','面包', '尿布', '啤酒'], ['牛奶','尿布', '啤酒', '鸡蛋'], ['面包', '牛奶', '尿布', '啤酒'], ['面包', '牛奶', '尿布', '可乐']]

efficient-apriori 工具包把每一条数据集里的项式都放到了一个集合中进行运算，并没有考虑它们之间的先后顺序。因为实际情况下，同一个购物篮中的物品也不需要考虑购买的先后顺序。

而其他的 Apriori 算法可能会因为考虑了先后顺序，出现计算频繁项集结果不对的情况。所以，建议使用efficient-apriori工具包。

 

挖掘导演是如何选择演员的

由于没有公开的数据集可以使用，我们需要使用 Python 爬虫进行数据采集。

同导演选择演员的规则是不同的，因此我们需要先指定导演。数据源我们选用豆瓣电影。

我们先在豆瓣电影上输入“宁浩”，然后：

页面会呈现出来导演之前的所有电影，然后对页面进行观察，你能观察到以下几个现象：

1、页面默认是 15 条数据反馈，第一页会返回 16 条。其中第一条是导演简要介绍，可以将其理解为广告，接下来的内容才是我们要爬取的重点。

2、每条数据的最后一行是电影的演出人员的信息，第一个人员是导演，其余为演员姓名。姓名之间用“/”分割。

抓取程序的目的是为了生成宁浩导演（你也可以抓取其他导演）的数据集，结果会保存在 csv 文件中。完整的抓取代码如下：

# -*- coding: utf-8 -*- # 下载某个导演的电影数据集 from efficient_apriori import apriori from lxml import etree import time from selenium import webdriver import csv driver = webdriver.Edge() # 设置想要下载的导演 数据集 director = u'宁浩' # 写 CSV 文件 file_name = './' + director + '.csv' base_url = 'https://movie.douban.com/subject_search?search_text='+director+'&cat=1002&start=' out = open(file_name,'w', newline='', encoding='utf-8-sig') csv_write = csv.writer(out, dialect='excel') flags=[] # 下载指定页面的数据 def download(request_url): driver.get(request_url) time.sleep(1) html = driver.find_element_by_xpath("//*").get_attribute("outerHTML") html = etree.HTML(html) # 设置电影名称，导演演员 的 XPATH movie_lists = html.xpath("/html/body/div[@id='wrapper']/div[@id='root']/div[1]//div[@class='item-root']/div[@class='detail']/div[@class='title']/a[@class='title-text']") name_lists = html.xpath("/html/body/div[@id='wrapper']/div[@id='root']/div[1]//div[@class='item-root']/div[@class='detail']/div[@class='meta abstract_2']") # 获取返回的数据个数 num = len(movie_lists) if num > 15: # 第一页会有 16 条数据 # 默认第一个不是，所以需要去掉 movie_lists = movie_lists[1:] name_lists = name_lists[1:] for (movie, name_list) in zip(movie_lists, name_lists): # 会存在数据为空的情况 if name_list.text is None: continue # 显示下演员名称 print(name_list.text) names = name_list.text.split('/') # 判断导演是否为指定的 director if names[0].strip() == director and movie.text not in flags: # 将第一个字段设置为电影名称 names[0] = movie.text flags.append(movie.text) csv_write.writerow(names) print('OK') # 代表这页数据下载成功 print(num) if num >= 14: # 有可能一页会有 14 个电影 # 继续下一页 return True else: # 没有下一页 return False # 开始的 ID 为 0，每页增加 15 start = 0 while start<10000: # 最多抽取 1 万部电影 request_url = base_url + str(start) # 下载数据，并返回是否有下一页 flag = download(request_url) if flag: start = start + 15 else: break out.close() print('finished')

csv文件结果如下：

提示：运行上述代码，你已经打开的Edge会被重启！（如果你没用固然好，要是你用了，那么要对写的文档做好在线保存！否则会被强行中断！！！）

有了数据之后，我们就可以用 Apriori 算法来挖掘频繁项集和关联规则，代码如下

# -*- coding: utf-8 -*- from efficient_apriori import apriori import csv director = u'宁浩' file_name = './'+director+'.csv' lists = csv.reader(open(file_name, 'r', encoding='utf-8-sig')) # 数据加载 data = [] for names in lists: name_new = [] for name in names: # 去掉演员数据中的空格 name_new.append(name.strip()) data.append(name_new[1:]) # 挖掘频繁项集和关联规则 itemsets, rules = apriori(data, min_support=0.5, min_confidence=1) print(itemsets) print(rules)

 

代码中都设定了最小支持度和最小置信系数，这样我们可以找到支持度大于 50%，置信系数为 1 的频繁项集和关联规则。

运行结果：

{1: {('徐峥',): 5, ('黄渤',): 6}, 2: {('徐峥', '黄渤'): 5}} [{徐峥} -> {黄渤}]

你能看出来，宁浩导演喜欢用徐峥和黄渤，并且有徐峥的情况下，一般都会用黄渤。你也可以用上面的代码来挖掘下其他导演选择演员的规律。

 

总结

实战最主要的是爬取数据，尤其是环境的搭建和最后编码部分。

算法有现成的包efficient-apriori 美 ['eɪprɪ'ɔrɪ]可以使用

 Apriori 算法中的最小支持度和最小置信度，一般设置为多少比较合理？

首先，这两个值与数据集大小特征相关。一般来说最小支持度常见的取值有0.5，0.1, 0.05。最小置信度常见的取值有1.0, 0.9, 0.8。可以通过尝试一些取值，然后观察关联结果的方式来调整最小值尺度和最小置信度的取值。

 

参考文献：

chome浏览器驱动与对应版本https://blog.csdn.net/cz9025/article/details/70160273

chome浏览器汉化下载地址：https://www.wlrjy.com/Soft/156406.html

selenium模拟浏览器+chrome+windows：https://blog.csdn.net/qq_38788128/article/details/80525695

是由于浏览器驱动与浏览器版本不一致造成的！（值得一提的是chrome没有找到官方win64的webdriver，所以chome在w64上用不了）

建议：如果你是linux，mac操作系统，那么按照上面的参考文献，就可以完美完成安装。如果你是window电脑，建议使用自带的Edge浏览器，然后你可以在这个官网下载webdriver（注意与Edge版本匹配）。最后，将下载的webdriver文件复制到python安装目录下（Anaconda放在Anaconda的安装目录下！！！）

selenium初探:WebDriverException解决方法探索(以Chrome浏览器|IE浏览器|Edge浏览器为例)