搜尋

爬取 LINE TODAY 留言

這篇文章會解析 LINE TODAY 的留言頁面,搭配 Python 的 Requests 函式庫,實作一個可以爬取 LINE Today 某篇文章所有留言的網路爬蟲。

本篇使用的 Python 版本為 3.7.12,所有範例可使用 Google Colab 實作,不用安裝任何軟體 ( 參考:使用 Google Colab )

LINE Today 留言結構

使用 Chrome 瀏覽器,開啟 LINE TODAY 的頁面,點選任意一篇文章,開啟文章頁面。

LINE TODAY:https://today.line.me/tw/v2/tab

本篇範例開啟了一篇「英特爾基辛格已抵台 錄影片讚聲台積電」的文章。

文章連結:https://today.line.me/tw/v2/article/oqay0ro

將文章往下捲動,找到留言的位置,點擊「顯示全部」,會開啟留言的頁面。

文章對應的留言頁面:https://today.line.me/tw/v2/comment/article/oqay0ro

開啟留言頁面後,在網頁的任意位置,按下滑鼠右鍵,點擊「檢視」,開啟 Chrome 開發者工具,切換到「Network」頁籤,在 Network 頁籤裡,可以看到網頁開啟時,所有透過網路下載或上傳的內容 ( 如果沒有看到內容,重新整理網頁就會看到 )。

Python 教學 - 爬取 LINE TODAY 留言

點擊前方的清除按鈕,清空內容 ( 方便待會觀察出現哪些項目 ),再將子頁籤切換到「Fetch/XHR」,該頁籤表示有哪些 XMLHttpRequest 物件在交換溝通。

Python 教學 - 爬取 LINE TODAY 留言

重新整理網頁,開發者工具中就會陸續出現一些物件,在畫面裡找到名為「list?articleId=.....」的項目,點選這個項目,就能看到該文章的有多少留言以及所有留言的內容。

Python 教學 - 爬取 LINE TODAY 留言

觀察一下這個物件的網址 ( 可以在該項目上按下滑鼠右鍵,開啟到新的 tab 裡 ),可先注意這篇文章的 articleId、每次顯示留言的數量 limit 和第二頁開始的次序 pivot

https://today.line.me/webapi/comment/list?articleId=179673305&sort=POPULAR&direction=DESC&country=TW&limit=30&pivot=0&postType=Article

因為留言物件的網址數量 limit 設定為 30,所以如果該網頁的留言很多 ( 範例網頁有超過兩百則留言 ),會產生「不止一筆」留言物件,這時從開發者工具裡就會看到 pivot=0、pivot=30、pivot=60...等的留言物件網址。

Python 教學 - 爬取 LINE TODAY 留言

由於文章的網址並沒有 articleId,表示網頁一定是透過某些機制將網址對應到 articleId,檢視網頁原始碼後 ( 在網頁上點擊滑鼠右鍵,點選檢視網頁原始碼 ),搜尋 179673305 ( 這篇文章的 articleId ),會發現網頁原始碼有撰寫了相對應的轉換程式,如何轉換並不重要,重要的是記住下圖標註紅色的位置,待會會透過程式擷取對應的 articleId。

Python 教學 - 爬取 LINE TODAY 留言

轉換網址,印出留言總數

由於 Fetch/XHR 的網址使用的是 articleId,所以必須先從原本的網址裡提取 articleId ( 目的在於如果有多個頁面,就不用一一開啟開發者工具找 articleId ),下方的程式碼執行後,會印出該篇文章的 articleId。

參考:Requests 函式庫拆分字串 str.split(x)

import requests

webUrl = requests.get('https://today.line.me/tw/v2/article/oqay0ro')   # get 文章網址
# 取得文章的原始碼後,使用 split 字串拆分的方式,拆解出 articleId
article_id = webUrl.text.split('<script>')[1].split('id:"article:')[1].split(':')[0]
print(article_id)

取得 articleId 後,將使用變數與字串格式化的方式,將留言物件的 articleId 更換成該篇文章的 articleId,再度使用 requests,取得 json 格式的內容,並印出文章的總數。

參考:字串格式化 f-string

import requests

webUrl = requests.get('https://today.line.me/tw/v2/article/oqay0ro')   # get 文章網址
# 取得文章的原始碼後,使用 split 字串拆分的方式,拆解出 articleId
article_id = webUrl.text.split('<script>')[1].split('id:"article:')[1].split(':')[0]
print(article_id)

# 使用 requests get 留言物件
comment = requests.get(f'https://today.line.me/webapi/comment/list?articleId={article_id}&sort=POPULAR&direction=DESC&country=TW&limit=30&pivot=0&postType=Article')
json = comment.json()   # 取得內容後,轉換成 json 格式
num = int(json['result']['comments']['count'])   # 取得文章的總數
print(num)   # 印出文章總數

Python 教學 - 爬取 LINE TODAY 留言

印出每一筆留言的內容

由於留言筆數過多時 ( 每頁留言一次顯示最多 100 篇 ),留言的物件會拆分成不同的項目,所以下方的程式定義了一個 getComment 函式,在函式執行時賦予「pivot」( 下一頁從第幾筆留言開始 ) 的參數,並透過 range 和 for 迴圈的搭配,就能印出所有的留言。

參考:rangefor 迴圈

import requests

webUrl = requests.get('https://today.line.me/tw/v2/article/oqay0ro')
article_id = webUrl.text.split('<script>')[1].split('id:"article:')[1].split(':')[0]
print(article_id)

commentUrl = requests.get(f'https://today.line.me/webapi/comment/list?articleId={article_id}&sort=POPULAR&direction=DESC&country=TW&limit=30&pivot=0&postType=Article')
json = commentUrl.json()
num = int(json['result']['comments']['count'])
print(num)

# 定義函式,給予一個參數
def getComment(n):
    # 使用字串格式化的方式,讓網址會根據不同的參數而有所不同
    commentUrl = requests.get(f'https://today.line.me/webapi/comment/list?articleId={article_id}&sort=POPULAR&direction=DESC&country=TW&limit=30&pivot={n}&postType=Article')
    json = commentUrl.json()     # 取得對應網址的 json 內容
    comments = json['result']['comments']['comments']   # 取得該網址下所有留言
    for i in comments :
        # 印出留言者名稱以及留言內容
        print('<' + i['displayName'] + '>\n' + i['contents'][0]['extData']['content'])
        print('----------------')

for i in range(0, num, 30):
    getComment(i)    # 從 0 開始,每隔 30 筆取一次

Python 教學 - 爬取 LINE TODAY 留言

小結

一個網頁在顯示的過程中,背後可能不斷的在與後端交換資料,只要善用 Chrome 的開發者工具,可以從中獲得很多在網頁上看不到的內容,搭配 Python 的函式庫,就能輕鬆抓取各種網頁內容了。

意見回饋

如果有任何建議或問題,可傳送「意見表單」給我,謝謝~

Python 教學

基本介紹

Python 學習導讀 關於 Python 使用 Google Colab 使用 Anaconda

資料型別

變數 variable 變數 ( 全域、區域 ) 數字 number 文字與字串 string 文字與字串 ( 常用方法 ) 文字與字串 ( 格式化 ) 串列 list 串列 ( 常用方法 ) 元組/數組 tuple 字典 dictionary 集合 set

語法觀念

縮排和註解 運算子 operator 邏輯判斷 ( if、elif、else ) 邏輯判斷 ( and 和 or ) 重複迴圈 ( for、while ) 例外處理 ( try、except ) 生成式 comprehension 物件類別 class 物件繼承 inheritance 匯入模組 import

函式操作

函式 function 匿名函式 lambda 遞迴 recursion 產生器 generator 裝飾器 decorator 閉包 closure

內建函式/方法

輸入與輸出 數學計算 字串操作與轉換 迭代物件轉換 迭代物件操作 檔案讀寫 ( open ) eval() 與 exec()

標準函式庫/模組

隨機數 random 數學 math 數學統計函式 statistics 時間與日期 datetime 時間處理 time 日曆 calendar 使用正規表達式 re 檔案操作 os 查找匹配檔案 glob 高階檔案操作 shutil 高效迭代器 itertools 容器資料型態 collections CSV 檔案操作 JSON 檔案操作 concurrent.futures

網路爬蟲

Python 網路爬蟲導讀 關於網路爬蟲 破解反爬蟲的方法 Requests 函式庫 Beautiful Soup 函式庫 Selenium 函式庫 爬取 PTT 文章標題 自動下載 PTT 正妹圖片 同時下載多張圖片 爬取空氣品質指標 ( AQI ) 爬取氣象預報 爬取現在天氣 LINE Notify 雷達回波圖 LINE Notify 即時地震資訊 爬取臺灣銀行牌告匯率 爬取 Yahoo 股市即時股價 爬取 LINE TODAY 留言 批次下載 Pinterest 圖片 登入 Mobile01 截圖下載 Twitter 自動上傳圖文

網頁服務與應用

Flask 函式庫 使用 ngrok 服務 Google Cloud Functions 串接 Gmail 寄送電子郵件 讀取 Google 試算表 寫入 Google 試算表 發送 LINE Notify 通知

LINE BOT 教學

LINE BOT 教學導讀 建立 LINE Channel 設定 Colab 開發環境 建立並串接 Webhook 解析 LINE 的訊息 自動回覆訊息 主動推播訊息 建立圖文選單 切換圖文選單 發送樣板訊息 發送 Flex Message 使用 Requests 傳送訊息 使用 LINE URL Scheme 氣象機器人 (1) 氣象機器人 (2) 氣象機器人 (3) 氣象機器人 (4)

OpenCV 教學

OpenCV 教學導讀 OpenCV 函式庫 開啟並顯示圖片 寫入並儲存圖片 讀取並播放影片 寫入並儲存影片 取得影像資訊 旋轉/翻轉/改變尺寸 影像的幾何變形 影像的色彩轉換 繪製各種形狀 影像加入文字 剪裁影像 調整對比和亮度 負片效果 影像模糊化 影像的疊加與相減 二值化黑白影像 影像的侵蝕與膨脹 影像邊緣偵測 影像遮罩 抓取特定顏色 追蹤並標記特定顏色 馬賽克效果 子母畫面影片 萬花筒影片效果 多畫面延遲播放影片 搞笑全景影片合成效果 凸透鏡效果 ( 魚眼效果 ) 線性漸層填色 合成半透明圖片 將指定的顏色變透明 處理 gif 動畫 影片轉透明 gif 動畫 辨識 QRCode 和 BarCode 掃描 QRCode 切換效果 偵測滑鼠事件 滑鼠選取自動馬賽克 即時在影片中繪圖 偵測鍵盤行為 加入滑桿 ( Trackbar )

AI 影像辨識教學

AI 影像辨識教學導讀 OpenCV 人臉偵測 OpenCV 人臉馬賽克 OpenCV 五官偵測 OpenCV 汽車偵測 OpenCV 行人偵測 OpenCV 辨識不同人臉 OpenCV 單物件追蹤 OpenCV 多物件追蹤 使用 Mediapipe Mediapipe 人臉偵測 Mediapipe 人臉網格 Mediapipe 手掌偵測 Mediapipe 姿勢偵測 Mediapipe 全身偵測 Mediapipe 物體偵測 Mediapipe 人物去背 Mediapipe 手勢辨識 辨識比中指,自動馬賽克 用手指在影片中畫圖 手指擦除鏡子霧氣效果 Jupter 安裝 Tensorflow 使用 Teachable Machine 辨識剪刀、石頭、布 辨識是否戴口罩 辨識手寫數字

NumPy 教學

NumPy 教學導讀 NumPy 函式庫 資料型態 建立陣列 讀取陣列 迭代陣列 陣列項目賦值 修改陣列形狀 修改陣列項目 填充陣列 分割陣列 合併陣列 陣列排序 廣播 搜尋陣列項目 算數計算 數學函式 隨機數 字串操作處理

matplotlib 圖表

matplotlib 教學導讀 matplotlib 函式庫 Figure 和 Axes Figure 參數設定 建立多個子圖表 設定圖表標籤 設定座標軸位置 設定座標軸刻度文字 資料文字標記 加入顏色對照表 使用極座標系統 使用 3D 圖表 圖表顯示中文 下載儲存圖表 顯示圖片 製作圖表動畫 ( 圖表 ) 折線圖 ( 圖表 ) 散布圖 ( 圖表 ) 長條圖 ( 圖表 ) 圓餅圖 ( 圖表 ) 甜甜圈圖 ( 圖表 ) 等高線圖 ( 圖表 ) 階梯折線圖 ( 圖表 ) 堆疊折線圖 ( 圖表 ) 堆疊長條圖 ( 圖表 ) 極座標長條圖 ( 圖表 ) 極座標散布圖 ( 圖表 ) 3D 柱狀長條圖 ( 圖表 ) 3D 散布圖

Tkinter 設計介面

建立 Tkinter 視窗 Label 標籤 Button 按鈕 Radiobutton 單選按鈕 Checkbutton 複選按鈕 Entry 單行輸入框 運用 Label 製作時鐘

實用範例

定時自動螢幕截圖 LINE Notify 傳送螢幕截圖 批次重新命名檔案 批次圖片轉檔 批次調整圖片尺寸 調整圖片亮度和對比 裁切與旋轉圖片 拼接多張圖片 圖片加上 logo 浮水印 圖片加上文字浮水印 圖片馬賽克效果 讀取與修改圖片 Exif 圖片轉文字 ( OCR ) 讀取聲音資訊、輸出聲音 聲音剪輯與串接 聲音音量調整 聲音混合與反轉 改變聲音速度 播放聲音 麥克風錄音 顯示聲波圖形 影片轉檔 取出影片聲音或加入聲音 影片剪輯與合併 影片混合與排列顯示 改變影片尺寸、旋轉翻轉 調整影片速度、倒轉影片 調整影片亮度/對比/顏色 影片轉 gif 動畫 影片中加入文字 影片自動加上字幕 影片截圖、圖片轉影片 下載 Youtube 影片 下載 Youtube 清單影片 產生 QRCode 產生 BarCode 讀取 PDF 內容 PDF 拆分/合併/插入/刪除 讀取 EXCEL 內容 寫入資料到 EXCEL CSV 寫入 EXCEL

基礎範例

攝氏/華氏轉換 公分/英吋換算 判斷平年與閏年 找出不重複字元 找出中間的字元 大樂透電腦選號 下載進度條 星號金字塔 數字金字塔 猜數字 ( 猜大猜小 ) 猜數字 ( 幾 A 幾 B ) 計算 BMI 數值 計算年紀 ( 歲、月、天 ) 產生身分證字號 ( 隨機 ) 檢查身分證字號 羅馬數字轉換

數學範例

兩個數字的四則運算 計算多個數字的總和 費波那契數列 九九乘法表 質因數分解 快速找出質數 最小公倍數 ( 多個數字 ) 最大公因數 ( 多個數字 )

ZeroJudge 解答

關於 ZeroJudge a001: 哈囉 a002: 簡易加法 a003: 兩光法師占卜術 a004: 文文的求婚 a005: Eva 的回家作業 a006: 一元二次方程式 a009: 解碼器 a010: 因數分解 a013: 羅馬數字 a015: 矩陣的翻轉 a017: 五則運算 a020: 身分證檢驗 a021: 大數運算 a022: 迴文 a024: 最大公因數(GCD) a034: 二進位制轉換 a038: 數字翻轉 a040: 阿姆斯壯數 a042: 平面圓形切割 a044: 空間切割 a053: Sagit's 計分程式 a054: 電話客服中心 a058: MOD3 a059: 完全平方和 a065: 提款卡密碼 a095: 麥哲倫的陰謀 a104: 排序 a147: Print it all a148: You Cannot Pass?! a149: 乘乘樂 a215: 明明愛數數 a216: 數數愛明明 a224: 明明愛明明 a225: 明明愛排列 a244: 新手訓練~for+if a248: 新手訓練~陣列應用 a263: 日期差幾天 a271: 彩色蘿蔔 a291: nAnB problem a410: 解方程 a414: 位元運算之進位篇 a417: 螺旋矩陣 a524: 手機之謎 a528: 大數排序 a647: 投資專家 a693: 吞食天地 a738: 最大公約數 a746: 畫蛇添足 a799: 正值國 a915: 二維點排序 b265: Conformity b294: 經濟大恐荒 b367: 翻轉世界 b374: 求眾數 b511: 換銅板 b558: 求數列第 n 項 e267: Group Reverse d073: 分組報告 d294: 算算算 Easy d485: 我愛偶數 d827: 買鉛筆