當(dāng)前位置:首頁 >  站長 >  搜索優(yōu)化 >  正文

解除網(wǎng)站Robots封禁全過程

 2018-11-14 21:11  來源: 用戶投稿   我來投稿 撤稿糾錯

  域名預(yù)訂/競價,好“米”不錯過

robots協(xié)議或者說robots文件對搜索引擎優(yōu)化中非常重要,但設(shè)置出錯可能會導(dǎo)致收錄下降或不能正常收錄。今天,小小課堂SEO自學(xué)網(wǎng)帶來的是《【robots文件協(xié)議】解除Robots封禁全過程》。希望本次的百度SEO優(yōu)化培訓(xùn)對大家有所幫助。

一、robots被封禁的問題來源

小小課堂SEO自學(xué)網(wǎng)為WordPress博客,前幾天弄了個“SEO問答”的欄目,是由一個新的CMS系統(tǒng)創(chuàng)建而成的,而這個系統(tǒng)是動態(tài)URL,未做偽靜態(tài)處理。

SEO問答首頁的URL:https://www.***.org/ask/

SEO問答欄目的URL:https://www.***.org/ask/?expert/default.html

SEO問答文章列表的URL:https://www.***.org/ask/?c-1.html

SEO問答文章的URL:https://www.***.org/ask/?q-176.html

從上可以看出除了SEO問答首頁,其余的都是帶問號的,然而,WordPress根目錄的robots.txt中包含了以下一條:

Disallow: /*?*

因為這一條的意思是禁止訪問網(wǎng)站中所有包含問號(?) 的網(wǎng)址,所以上面的那些帶問號的URL就被禁止搜索引擎抓取了。

二、解除Robots封禁全過程

小小課堂SEO自學(xué)網(wǎng)解除robots文件協(xié)議的全過程如下:

① 去掉robots禁止抓取的規(guī)則

也就是去掉Disallow: /*?* 。

② 抓取失敗

進(jìn)入百度站長后臺后,點擊“數(shù)據(jù)監(jiān)控”>“抓取診斷”>輸入網(wǎng)址后面的部分,最后點擊抓取。

③ 點擊“抓取失敗”

通過下圖可以看出“抓取異常信息:Robots封禁”,點擊“網(wǎng)站IP:106.***.***.217”后面的“報錯”。略等一會即可。

④ Robots檢測并更新

點擊檢測并更新robots。

以上就是小小課堂SEO自學(xué)網(wǎng)帶來的是《【robots文件協(xié)議】解除Robots封禁全過程》。感謝您的觀看。網(wǎng)絡(luò)營銷培訓(xùn)認(rèn)準(zhǔn)小小課堂!SEO培訓(xùn)認(rèn)準(zhǔn)小小課堂!更多seo教程搜索小小課堂。原創(chuàng)文章歡迎轉(zhuǎn)載并保留版權(quán):https://www.xxkt.org/

申請創(chuàng)業(yè)報道,分享創(chuàng)業(yè)好點子。點擊此處,共同探討創(chuàng)業(yè)新機(jī)遇!

相關(guān)標(biāo)簽
robots標(biāo)簽
robots.txt技巧
robots

相關(guān)文章

  • robots協(xié)議怎么寫 作用是什么?

    robots協(xié)議也叫robots.txt(統(tǒng)一小寫)是一種存放于網(wǎng)站根目錄下的ASCII編碼的文本文件,它通常告訴網(wǎng)絡(luò)搜索引擎的漫游器(又稱網(wǎng)絡(luò)蜘蛛),此網(wǎng)站中的哪些內(nèi)容是不應(yīng)被搜索引擎的漫游器獲取的,哪些是可以被漫游器獲取的。

    標(biāo)簽:
    robots
  • robots具體應(yīng)該禁止些什么文件

    今天大概總結(jié)一下:首先說明一點:每天百度派出的蜘蛛是有限的,robots寫出來是為了節(jié)省蜘蛛資源讓蜘蛛能更快的進(jìn)行有效爬取和收錄!

  • robots文件編寫秘籍 新手必看

    當(dāng)我們的網(wǎng)站上線之后,一定會有一些不想讓百度抓取的頁面、文件,針對這種問題,我們就要使用協(xié)議去屏蔽。那么這個協(xié)議是什么?究竟怎么寫這個協(xié)議呢?

    標(biāo)簽:
    robots文件
    robots
  • robots.txt文件怎么寫才正確呢?

    曾慶平SEO在前面的文章中講過robots.txt概念的時候,留下一個問題:為什么曾慶平SEO的robots.txt寫得那么復(fù)雜?曾慶平SEO的robots.txt:http://www.xxx.com/robots.txt這樣做的目的是,讓搜索引擎看來網(wǎng)站更規(guī)范和權(quán)威。

  • 百度站長平臺檢測robots.txt 提示301錯誤代碼 怎么解決

    如果以上都沒有錯誤,那么你就要檢查你的CDN了,很可能是因為CDN緩存而造成的,或者是你配置了https,而站長平臺卻綁定的http,無法訪問,這兩點自己排查,如果以上都做到,那么是不會提示這類錯誤的,當(dāng)然也不排查百度站長平臺本身的問題,不過這種機(jī)率性很小。

熱門排行

信息推薦