原文链接：http://tecdat.cn/?p=12203

介绍

每个人都喜欢省钱。我们都试图充分利用我们的资金，有时候这是最简单的事情，可以造成最大的不同。长期以来，优惠券一直被带到超市拿到折扣，但使用优惠券从未如此简单，这要归功于Groupon。

Groupon是一个优惠券推荐服务，可以在您附近的餐馆和商店广播电子优惠券。其中一些优惠券可能非常重要，特别是在计划小组活动时，因为折扣可以高达60％。

数据

这些数据是从Groupon网站的纽约市区域获得的。网站的布局分为所有不同groupon的专辑搜索，然后是每个特定groupon的深度页面。网站外观如下所示：

两个页面的布局都不是动态的，所以建立了一个自定义scrapy ，以便快速浏览所有的页面并检索要分析的信息。然而，评论，重要的信息，通过JavaScript呈现和加载 。Selenium脚本使用从scrapy获取的groupons的URL，实质上模仿了人类点击用户注释部分中的“next”按钮。

1. for url in url_list.url[0:50]:

2. try:

3. driver.get(url)

4. time.sleep(2)

5. #关闭出现的任何弹出窗口#

6. # if(driver.switch_to_alert()):

7. try:

8. close = driver.find_element_by_xpath('//a[@id="nothx"]')

9. close.click()

10. except:

11. pass

12. time.sleep(1)

13. try:

14. link = driver.find_element_by_xpath('//div[@id="all-tips-link"]')

15. driver.execute_script("arguments[0].click();", link)

16. time.sleep(2)

17. except:

18. next

19. i = 1

20. print(url)

21. while True:

22. try:

23. time.sleep(2)

24. print("Scraping Page: " + str(i))

25. reviews = driver.find_elements_by_xpath('//div[@class="tip-item classic-tip"]')

26. next_bt = driver.find_element_by_link_text('Next')

27. for review in reviews[3:]:

28. review_dict = {}

29. content = review.find_element_by_xpath('.//div[@class="twelve columns tip-text ugc-ellipsisable-tip ellipsis"]').text

30. author = review.find_element_by_xpath('.//div[@class="user-text"]/span[@class="tips-reviewer-name"]').text

31. date = review.find_element_by_xpath('.//div[@class="user-text"]/span[@class="reviewer-reviewed-date"]').text

32. review_dict['author'] = author

33. review_dict['date'] = date

34. review_dict['content'] = content

35. review_dict['url'] = url

36. 


37. writer.writerow(review_dict.values())

38. i += 1

39. next_bt.click()

40. except:

41. break

42. except:

43. next

44. 


45. csv_file.close()

46. driver.close()

从每个组中检索的数据如下所示。

Groupon标题 

分类信息

交易功能位置

总评分数网址

作者日期

评论网址

大约有89,000个用户评论。从每个评论中检索的数据如下所示。

1. print(all_groupon_reviews[all_groupon_reviews.content.apply(lambda x: isinstance(x, float))])

2. indx = [10096]

3. all_groupon_reviews.content.iloc[indx]

4. author       date content  \

5. 10096  Patricia D. 2017-02-15     NaN

6. 15846       Pat H. 2016-09-24     NaN

7. 19595      Tova F. 2012-12-20     NaN

8. 40328   Phyllis H. 2015-06-28     NaN

9. 80140     Andre A. 2013-03-26     NaN

10. 


11. url  year  month  day

12. 10096  https://www.groupon.com/deals/statler-grill-9  2017      2   15

13. 15846         https://www.groupon.com/deals/impark-3  2016      9   24

14. 19595   https://www.groupon.com/deals/hair-bar-nyc-1  2012     12   20

15. 40328     https://www.groupon.com/deals/kumo-sushi-1  2015      6   28

16. 80140  https://www.groupon.com/deals/woodburybus-com  2013      3   26

探索性数据分析

一个有趣的发现是在过去的几年里，群体的使用已经大大增加了。我们通过检查评论提供的日期来发现这一点。看下面的图像，其中x轴表示月/年和y轴，表示计数，这个结论变得明显。最后的小幅下滑是由于当时的一些小组可能是季节性的。

一个有趣的发现是在过去的几年里，群体的使用已经大大增加了。我们通过检查评论提供的日期来发现这一点。看下面的图像，其中x轴表示月/年和y轴，表示计数。最后的小幅下滑是由于当时的一些小组可能是季节性的。

1. pie_chart_df = Groupons.groupby('categories').agg('count')

2. 


3. plt.rcParams['figure.figsize'] = (8,8)

4. 


5. sizes = list(pie_chart_df.mini_info)

6. labels = pie_chart_df.index

7. plt.pie(sizes, shadow=True, labels = labels, autopct='%1.1f%%', startangle=140)

8. # plt.legend(labels, loc="best")

9. plt.axis('equal')

最后，由于大部分数据是通过文本：价格（原价），导出了一个正则表达式来解析价格信息，以及它们提供的交易数量。该信息显示在以下条形图中：

1. 


2. objects = list(offer_counts.keys())

3. y = list(offer_counts.values())

4. tst = np.arange(len(y))

5. 


6. plt.bar(tst,y, align = 'center')

7. plt.xticks(tst, objects)

8. plt.ylabel('Total Number of Groupons')

9. plt.xlabel('Different Discounts Offers')

10. plt.show()

1. 


2. plt.ylabel('Number of Offerings')

3. plt.xticks(ind, ('Auto', 'Beauty', 'Food', 'Health', 'Home', 'Personal', 'Things'))

4. plt.xlabel('Category of Groupon')

5. plt.legend((p0[0], p1[0], p2[0], p3[0], p4[0], p5[0], p6[0], p7[0], p10[0]), ('0', '1', '2', '3', '4', '5', '6', '7', '10'))

sns.violinplot(data = savings_dataframe)

最后，利用用户评论数据生成一个文字云：

1. plt.rcParams['figure.figsize'] = (20,20)

2. wordcloud = WordCloud(width=4000, height=2000, max_words=150, background_color='white').generate(text)

3. plt.imshow(wordcloud, interpolation='bilinear')

4. plt.axis("off")

主题建模

为了进行主题建模，使用的两个最重要的软件包是gensim和spacy。创建一个语料库的第一步是删除所有停用词，如“，”等。最后创造trigrams。

选择的模型是Latent Dirichlet Allocation，因为它能够区分来自不同文档的主题，并且存在一个可以清晰有效地将结果可视化的包。由于该方法是无监督的，因此必须事先选择主题数量，在模型的25次连续迭代中最优数目为3。结果如下：

上面的可视化是将主题投影到两个组件上，其中相似的主题会更接近，而不相似的主题会更远。右边的单词是组成每个主题的单词，lambda参数控制单词的排他性。0的lambda表示每个主题周围的最排斥的单词，而1的lambda表示每个主题周围的最频繁的单词。

第一个话题代表服务的质量和接待。第二个话题有描述锻炼和身体活动的词语。最后，第三个话题有属于食品类的词语。

结论

主题建模是无监督学习的一种形式，这个项目的范围是简要地检查在基础词语背后发现模式的功能。虽然我们认为我们对某些产品/服务的评论是独一无二的，但是这个模型清楚地表明，实际上，某些词汇在整个人群中被使用。