一、百度搜索robots協(xié)議全新升級
9月11日，百度搜索robots全新升級。升級后robots將優(yōu)化對網(wǎng)站視頻URL收錄抓取情況。僅當(dāng)您的網(wǎng)站包含不希望被視頻搜索引擎收錄的內(nèi)容時(shí)，才需要使用robots.txt文件。如果您希望搜索引擎收錄網(wǎng)站上所有內(nèi)容，請勿建立robots.txt文件。
如您的網(wǎng)站未設(shè)置robots協(xié)議，百度搜索對網(wǎng)站視頻URL的收錄將包含視頻播放頁URL，及頁面中的視頻文件、視頻周邊文本等信息，搜索對已收錄的短視頻資源將對用戶呈現(xiàn)為視頻極速體驗(yàn)頁。此外，綜藝影視類長視頻，搜索引擎僅收錄頁面URL。
二、網(wǎng)站誤封Robots該如何處理
robots文件是搜索生態(tài)中很重要的一個(gè)環(huán)節(jié)，同時(shí)也是一個(gè)很細(xì)節(jié)的環(huán)節(jié)。很多站長同學(xué)在網(wǎng)站運(yùn)營過程中，很容易忽視r(shí)obots文件的存在，進(jìn)行錯(cuò)誤覆蓋或者全部封禁robots，造成不必要損失！
那么如果誤操作封禁了robots怎么辦？今天我們請到了廈門某網(wǎng)站運(yùn)營負(fù)責(zé)人，為我們分享網(wǎng)站robots誤封禁后該如何操作？
【案例背景】
網(wǎng)站開發(fā)2.0版本，技術(shù)選擇了在線開發(fā)，為了避免搜索引擎抓取開發(fā)版本，要求技術(shù)人員設(shè)置了Robots封禁處理。2.0版本開發(fā)周期1個(gè)月，1個(gè)月后網(wǎng)站版本迭代，直接覆蓋了1.0版本，包括Robots封禁文件，2天后發(fā)現(xiàn)流量大幅下降，檢查收錄發(fā)現(xiàn)800萬收錄降至0條，關(guān)鍵詞大量掉線。
【處理方式】
1.修改Robots封禁為允許，然后到百度搜索資源后臺(tái)檢測并更新Robots。
2.在百度搜索資源后臺(tái)抓取檢測，此時(shí)顯示抓取失敗，沒關(guān)系，多點(diǎn)擊抓取幾次，觸發(fā)蜘蛛抓取站點(diǎn)。
3.在百度搜索資源后臺(tái)抓取頻次，申請抓取頻次上調(diào)。
4.百度反饋中心，反饋是因?yàn)檎`操作導(dǎo)致了這種情況的發(fā)生。
5.百度搜索資源后臺(tái)鏈接提交處，設(shè)置數(shù)據(jù)API推送（實(shí)時(shí)）。
6.更新sitemap網(wǎng)站地圖，重新提交百度，每天手動(dòng)提交一次。
以上處理完，接下來就是等待了，萬幸，2天的時(shí)間數(shù)據(jù)開始慢慢回升，到第3天基本回升到正常狀態(tài)！
【案例總結(jié)】
本次事故絕對是運(yùn)營生涯的一次敗筆，總結(jié)反思一下，希望大家避免類似問題。
1.產(chǎn)品開發(fā)一定要避免在線開發(fā)，不能為了省事不搭建開發(fā)環(huán)境。
2.產(chǎn)品迭代要有流程記錄，開發(fā)時(shí)做了那些設(shè)置處理，那些是不需要放出來的，那些是必須放出來的，要非常清楚。
3.要經(jīng)常關(guān)注百度搜索資源后臺(tái)，關(guān)注相關(guān)數(shù)據(jù)變化，從數(shù)據(jù)變化中及時(shí)發(fā)現(xiàn)問題。
