在《?UI自動化工具輕松實現微信消息收發?朋友圈爬取??》文末給童鞋們布置了一個作業,批量朋友圈爬取,不知道大伙們是否還有映像。
看到很多小伙伴們踴躍報名參與,不禁要給你們點個贊。考慮到很多小伙伴想做卻做出來,這…貼心的我這不就來給你們公布參考答案啦?
對相關基礎還不了解的童鞋請參考前文:
首先我們開始爬取朋友圈:
去外面轉了一圈,再回來發現10分鐘之內就爬完了一周的朋友圈:
當然這是因為我的微信好友太少,一周總共也只發了不到1000條消息。
晚上重新爬了一下,爬到8月21號直到朋友圈的數據無法繼續拉取,始終都是這個狀態說明已經無法拉取再早的朋友圈數據:
共爬到1186條朋友圈動態數據,耗時12分鐘:
打開Excel簡單的美化一下格式就得到如下結果:
篩選了有點贊和評論的數據。
同時對于每一條存在圖片或視頻的朋友圈,都會在本地存儲一張截圖:
可以看到在這近1200條朋友圈中有725條數據觸發的圖片或視頻關鍵字產生截圖:
讀取數據:
import pandas as pddf = pd.read_excel("朋友圈.xlsx")df = df.convert_dtypes()
我的好友給誰的點贊最多呢?
t = df.groupby("昵稱").agg( 點贊總人數=("點贊人數", "sum"), 評論總條數=("評論條數", "sum"), 發朋友圈條數=("序號", "count"))display(t.sort_values("點贊總人數", ascending=False).head(10))
原來我的好友中,大家最喜歡給這些數據分析相關的好友點贊:
排除點只發一條朋友圈的平均點贊比例最高的依然是數據分析相關的:
秘密1:我的朋友圈中,數據分析相關的好友的朋友最容易被點贊。
t[t.發朋友圈條數 > 10].shape[0]
一周發朋友圈超過10條的話癆有21人。
t.發朋友圈條數.value_counts()
1 882 533 295 194 176 1110 67 68 512 4Name: 發朋友圈條數, dtype: int64
秘密2:我的好友中發過朋友圈的好友更傾向于一周只發一條朋友圈。
秘密3:幾個培訓機構的營銷號發朋友圈最頻率,現在就把你們刪掉。
點贊數排名前7的朋友圈:
評論數排名前7的朋友圈:
篩選出有時間信息的朋友圈統計大家的發朋友圈時間傾向:
秘密4:好友們最傾向在中午12點和晚上7點發朋友圈。
朋友圈內容詞云圖:
import jiebaimport stylecloudfrom IPython.display import Imagewords = df.內容.apply(jieba.lcut).explode()words = words[words.apply(len) > 1]words = words[~words.isin(["包含", "圖片", "視頻", "天前", "小時", "昨天", "自己"])]stylecloud.gen_stylecloud(text=" ".join(words), max_words=500, collocations=False, font_path=r"C:/Windows/Fonts/msyhbd.ttc", icon_name="fas fa-square", size=653, output_name="tmp.png")Image(filename="tmp.png")
評論區內容詞云圖:
import jiebaimport stylecloudfrom IPython.display import Imagewords = df.評論列表.dropna().apply(jieba.lcut).explode()words = words[words.apply(len) > 1]words = words[~words.isin(["回復", "免費", "欄目", "一個", "包含", "其他"])]stylecloud.gen_stylecloud(text=" ".join(words), max_words=500, collocations=False, font_path=r"C:/Windows/Fonts/msyhbd.ttc", icon_name="fas fa-thumbs-up", size=653, output_name="tmp.png")Image(filename="tmp.png")
從詞云圖看來,我的朋友圈都愛數據愛技術愛學習愛知識,這真是驚人的密碼…
保證節點在可視范圍內能夠被完整截圖:
節點的底部位置比顯示界面更大時表示在外面,按一下向下的方向鍵。
解析節點的數據:
對內容數據直接取父節點的Name,獲取完整的全部文本,解析字符串即可得到昵稱、發布時間等信息。
第一麻煩點是解析出點贊和評論,上述代碼之所以那么復雜是因為存在只有點贊、只有評論、既有點贊又有評論,點贊和評論都沒有四種情況。為了能夠同時適配這四種情況,經過反復測試最終編寫出上述代碼。上述代碼基于必定存在的評論按鈕為基準點進行查找。
第二個麻煩點是想精準只截圖片、視頻或視頻號,需要非常多的異常檢測代碼,每種情況變化都非常大,很難通用。最終我直接放棄,選擇直接對整個節點包含昵稱一起截圖。對一個節點是否進行截圖,取決于這個節點的文本是否包含視頻或圖片關鍵字。
注意:截屏調用節點的CaptureToImage方法即可對指定節點的范圍截圖保存到指定文件。
批量爬取代碼:
注意上述代碼處理翻頁時的異常情況,當節點不存在任何文本內容時,說明定位到了一個加載數據的節點,我們可以先按一次向上方向鍵回退之后,再按一下向下的方向鍵,即可定位到剛加載的新節點。如果回退再向下之后,名稱依然是空,說明已經將朋友圈能夠拉取到的數據都加載完了,可以結束程序。
??說明:本文作為第一節的參考答案并不會提供可以直接復制粘貼的代碼,還需要各位童鞋們自己獨立完成作業。不需要寫到我這么復雜,根據實際需求簡化代碼編寫即可。
完整代碼已經零碎的全部給到大家,剩下的可以根據理解,自己取敲即可。
文章版權歸作者所有,未經允許請勿轉載,若此文章存在違規行為,您可以聯系管理員刪除。
轉載請注明本文地址:http://m.specialneedsforspecialkids.com/yun/118784.html
??前幾天有個粉絲瘋狂私信我問:博主,博主,有沒有什么辦法能將我夜里看的小視頻/愛情動作小說給藏起來,藏的越隱蔽越好,我怕我女朋友發現了揍我!(聽后我直樂呵,可見這是位名副其實的妻管嚴哦~)? ??一開始我是拒絕的,畢竟——我可是個正經人!但是他又是加我VX,又是關注我公眾號(看看我主頁左側有二維碼哦!)還說我發的博文他幾乎都第一時間點贊,評論,收藏支持。瞬間就打動了我,于是我決定幫他一把(咳咳,...
上次給大家分享了一個springboot+vue的校園招聘系統,視頻教程加項目源碼,都是開源的,應該說很香了,今天再給大家分享一個不錯的springboot的項目。 老規矩,開源,開源,開源!!! 金九銀十來了,小伙伴們,沖啊!前面已經整理了很多的面試題,拿去學習吧! 1,??爆肝!整理了一周的Spring面試大全【含答案】,吊打Java面試官【建議收藏】!?? 2,??肝完了,一天掌握數據...
摘要:文件指針此函數用于關閉文件。完工被逮了也別說是我教的哈我怕被打可能某些小白沒有環境,也急需此方法,所以本博主直接將我的文件分享給大家下載下面這張圖,操作我相信你肯定會的如果你從本文中學到了知識,喜歡它,那么我很榮幸。 ...
閱讀 2301·2023-04-26 00:01
閱讀 802·2021-10-27 14:13
閱讀 1832·2021-09-02 15:11
閱讀 3387·2019-08-29 12:52
閱讀 535·2019-08-26 12:00
閱讀 2571·2019-08-26 10:57
閱讀 3410·2019-08-26 10:32
閱讀 2851·2019-08-23 18:29