基於python對B站收藏夾按照視頻發佈時間進行排序的問題

前言

在最一開始,我的B站收藏一直是存放在默認收藏夾中,但是隨著視頻收藏的越來越多,沒有分類的視頻放在一起,想在眾多視頻中找到想要的視頻非常困難,因此就對收藏夾裡面的視頻進行瞭分類。但是分類之後緊接著又出現瞭一個新的問題:原來存放在默認收藏夾裡面視頻的相對順序被打亂瞭——明明前幾天剛收藏的視頻卻要翻很多很多頁才能找到,因此有瞭這個程序。

程序的作用

因為我們看到的視頻大部分都是通過推薦得到的,而推薦的視頻大部分都是剛發佈不久,因此大部分收藏的視頻的順序也基本是按照視頻發佈的順序來的。那麼通過程序對收藏夾中的視頻按照發佈時間重新排序,那麼就和我們收藏視頻的順序幾乎一致瞭。

機理

利用b站的API獲取收藏夾中視頻的視頻的編號,用python中的request庫獲得視頻對應網頁的html,之後利用正則表達式得到視頻發佈的時間。將發佈時間和視頻的編號綁定,按照視頻發佈時間從小到大排序,再次利用b站的API將視頻收藏到指定收藏夾。

出現的問題

b站視頻的av號在八位以下的時候是按照視頻發佈順序編排的,但是當到達九位的時候就不是按照發佈順序編排的瞭,因此隻能通過訪問視頻主頁來得到視頻發佈時間。

b站的API如果長時間比較高頻率的訪問會出現錯誤碼,因此每次調用API之後都sleep瞭一下。

中間程序可能因為各種原因掛掉,因此在中間加入瞭儲存中間狀態的功能,否則每次掛掉都要重新爬速度非常慢。

使用方法

在創建Sort類對象時,將userAgent,cookie,fid,toFid,csrf傳入類的構造函數中,之後調用類中的sortVideos()方法即可完成排序。

import requests, json, time, re, datetime, random

class WriteLog(object):
    def __getCurrentTime(self):
        return str(time.ctime(time.time()))

    def writeFile(self, fileName, l):
        with open(self.__getCurrentTime() + fileName, 'w') as f:
            for i in l:
                f.write(str(i) + '\n')

class Sort(WriteLog):
    def __init__(self, fid, toFid, csrf, userAgent, cookie, MinSleepTime=5, MaxSleepTime=10):
        self.MinSleepTime = MinSleepTime
        self.MaxSleepTime = MaxSleepTime
        self.fid = str(fid)
        self.toFid = str(toFid)
        self.csrf = csrf
        self.DeadVideo = []
        self.headers = {'User-Agent': userAgent, 'cookie': cookie}

    def __Sleep(self):
        sleepTime = random.randint(self.MinSleepTime, self.MaxSleepTime)
        time.sleep(sleepTime)

    def __getAllVideoId(self):
        print('Start get all video ID')
        fid = self.fid
        res = []
        cnt = 0
        for i in range(100):
            if i == 0:
                continue
            url = 'https://api.bilibili.com/x/v3/fav/resource/list?media_id=' + fid + '&pn=' + str(i) + '&ps=20&keyword=&order=mtime&type=0&tid=0&platform=web&jsonp=jsonp'
            html = requests.get(url=url, headers=self.headers)
            te = json.loads(html.text)
            te = te['data']['medias']
            if te != None:
                for j in te:
                    res.append(j['id'])
                    print('num: ', cnt, '\tvideoID: ', j['id'])
                    cnt = cnt + 1
                self.__Sleep()
            else:
                break
        print('Finish get all video ID, in total %d' % (len(res)))
        return res

    def __addVideoToFavorite(self, vid):
        fid = self.toFid
        csrf = self.csrf
        url = 'https://api.bilibili.com/x/v3/fav/resource/deal'
        data = {
            'rid': vid,
            'type': '2',
            'add_media_ids': fid,
            'del_media_ids': '',
            'jsonp': 'jsonp',
            'csrf': csrf,
            'platform': 'web',
        }
        requests.post(url=url, data=data, headers=self.headers)
        print('finish add video %s to folder %s' % (vid, fid))

    def __getVideoPostTime(self, vid):
        vid = str(vid)
        url = 'https://www.bilibili.com/video/av' + vid
        text = requests.get(url).text
        '''
        data-vue-meta="true" itemprop="uploadDate" content="2021-04-07 23:29:21"><meta data-vue-meta="true" itemprop="datePublished" c
        '''
        reg = re.compile('content="([0-9]+)-([0-9]+)-([0-9]+)\s([0-9]+):([0-9]+):([0-9]+)"')
        text = reg.findall(text)
        if len(text) == 0:
            return -1
        text = text[0]
        if len(text) < 6:
            return -1
        t = ""
        for i in text:
            t = t + str(i)
        print('finish get video %s post time, it\'s post time is: %s' % (vid, t))
        return int(t)

    def __Unique(self, l):
        size = len(l)
        if size == 0:
            return []
        res = [l[0]]
        for i in range(size):
            if i == 0:
                continue
            if l[i] != l[i - 1]:
                res.append(l[i])
        return res

    def __addVideo(self, res):
        cnt = 0
        for i in res:
            self.__addVideoToFavorite(vid=i)
            self.__Sleep()
            cnt = cnt + 1

    def __getVideosTime(self, res):
        videos = []
        cnt = 0
        for i in res:
            t = self.__getVideoPostTime(i)
            if t == -1:
                continue
            item = {
                'vid': str(i),
                'postTime': t
            }
            videos.append(item)
            cnt = cnt + 1
        return videos

    def sortVideos(self):
        fid = self.fid
        toFid = self.toFid
        res = self.__getAllVideoId()
        self.writeFile('getAllVideoId' + fid + 'to' + toFid, res)
        videos = self.__getVideosTime(res)
        videos = sorted(videos, key=lambda x: x['postTime'])
        res = []
        for i in videos:
            res.append(i['vid'])
        res = self.__Unique(res)
        self.writeFile('getVideosTime' + fid + 'to' + toFid, res)
        self.__addVideo(res)
        self.writeFile('err' + fid + 'to' + toFid, self.DeadVideo)

if __name__=='__main__':
    userAgent = ''
    cookie = ''
    fid = ''
    toFid = ''
    csrf = ''
    sortVideo = Sort(fid=fid, toFid=toFid, csrf=csrf, userAgent=userAgent, cookie=cookie)
    sortVideo.sortVideos()

以上就是基於python對B站收藏夾按照視頻發佈時間進行排序的問題的詳細內容,更多關於python視頻發佈時間排序的資料請關註WalkonNet其它相關文章!

推薦閱讀: