客服
谷歌針對(duì)智能手機(jī)推出的新型Googlebot
來自谷歌博客消息：原來谷歌抓取移動(dòng)設(shè)備的蜘蛛統(tǒng)稱為Googlebot移動(dòng)版，谷歌分析稱受此項(xiàng)更新影響的網(wǎng)址不到0.001%，而此項(xiàng)更新可讓站長(zhǎng)更好地控制對(duì)其內(nèi)容的抓取和編入索引操作。
由于功能手機(jī)和智能手機(jī)的功能存在很大差異，站長(zhǎng)一旦屏蔽了Googlebot那么移動(dòng)版的則全部屏蔽。而這次谷歌稱：谷歌將針對(duì)智能手機(jī)的新型Googlebot用戶代理。西安網(wǎng)站建設(shè)推薦閱讀>>> robots是什么？---探測(cè)器，
這個(gè)蜘蛛大概是未來3、4周后開始工作，且不再將針對(duì)智能手機(jī)的“Googlebot-Mobile”用作用戶代理。之后，針對(duì)智能手機(jī)的用戶代理將直接使用“Googlebot”進(jìn)行標(biāo)識(shí)。這樣即使屏蔽了功能手機(jī)的收錄，但針對(duì)智能手機(jī)的優(yōu)化不會(huì)有影響。
針對(duì)智能手機(jī)的新型Googlebot用戶代理：
Mozilla/5.0 （iPhone; CPU iPhone OS 6_0 like Mac OS X） AppleWebKit/536.26 （KHTML, like Gecko） Version/6.0 Mobile/10A5376e Safari/8536.25 （compatible; Googlebot/2.1; +http://www.google.com/bot.html）
針對(duì)智能手機(jī)的Googlebot-Mobile用戶代理（即將停止使用）：西安做網(wǎng)站推薦閱讀>>> robots.txt文件的重要作用意義，
Mozilla/5.0 （iPhone; CPU iPhone OS 6_0 like Mac OS X） AppleWebKit/536.26 （KHTML, like Gecko） Version/6.0 Mobile/10A5376e Safari/8536.25 （compatible; Googlebot-Mobile/2.1; +http://www.google.com/bot.html）
請(qǐng)注意此項(xiàng)用戶代理更新帶來的以下重大影響：針對(duì)智能手機(jī)的新型Googlebot抓取工具將遵從Googlebot（而非Googlebot-Mobile）的robots.txt指令、robots元標(biāo)記指令和HTTP header指令。例如，使用新型抓取工具后，以下robots.txt指令將屏蔽針對(duì)智能手機(jī)的新型Googlebot用戶代理以及常規(guī)Googlebot執(zhí)行的所有抓取操作：
User-agent: Googlebot
Disallow: /
以下robots.txt指令將屏蔽Google的功能手機(jī)抓取工具執(zhí)行的抓取操作：
User-agent: Googlebot-Mobile
Disallow: /
作者：盧松松（微信LuSongSong），轉(zhuǎn)載請(qǐng)保留出處！
相關(guān)文章：
-
User-agent: * Disallow: / Allow: /complain/ Allow: /media_partners/ Allow: /about/ Allow: /user_agreement/ User-agent: ByteSpider Allow: / User-agent: ToutiaoSpider Allow: / 以上是今日頭條的robots.txt，禁止所有搜索引擎收錄，同時(shí)又...
-
有同學(xué)問百度站長(zhǎng)學(xué)院一個(gè)關(guān)于robots的問題：我們有個(gè)站點(diǎn)的目錄結(jié)構(gòu)使用的是中文，這樣式兒的：www.a.com/冒險(xiǎn)島/123.html，那在制作robots文件和sitemap文件的時(shí)候，可以直接使用中文嗎？百度能...
-
robots文件是搜索生態(tài)中很重要的一個(gè)環(huán)節(jié)，同時(shí)也是一個(gè)很細(xì)節(jié)的環(huán)節(jié)。很多站長(zhǎng)同學(xué)在網(wǎng)站運(yùn)營過程中，很容易忽視r(shí)obots文件的存在，進(jìn)行錯(cuò)誤覆蓋或者全部封禁robots，造成不必要損失！ 那...
-
目前百度圖片搜索也使用了與百度網(wǎng)頁搜索相同的spider，如果想禁止Baiduspider抓取網(wǎng)站上所有圖片、禁止或允許Baiduspider抓取網(wǎng)站上的某種特定格式的圖片文件可以通過設(shè)置robots實(shí)現(xiàn)：西安廣告...
-
對(duì)于百度搜索引擎來說，蜘蛛黑洞特指網(wǎng)站通過極低的成本制造出大量參數(shù)過多、內(nèi)容類同但url不同的動(dòng)態(tài)URL ，就像一個(gè)無限循環(huán)的黑洞，將spider困住。spider浪費(fèi)了大量資源抓取的卻是無效網(wǎng)...
-
robots是站點(diǎn)與spider溝通的重要渠道，站點(diǎn)通過robots文件聲明該網(wǎng)站中不想被搜索引擎收錄的部分或者指定搜索引擎只收錄特定的部分。請(qǐng)注意，僅當(dāng)您的網(wǎng)站包含不希望被搜索引擎收錄的內(nèi)容...
-
親愛的網(wǎng)站管理員， 很高興的告訴大家，百度站長(zhǎng)平臺(tái) robots 工具全新升級(jí)，升級(jí)后能夠?qū)崟r(shí)查看網(wǎng)站在百度中已生效的的robots文件，并支持對(duì)robots進(jìn)行語法及邏輯校驗(yàn)，有助于站長(zhǎng)更清晰的...
-
資料一 1.robots.txt文件是什么 robots.txt是一個(gè)純文本文件，是搜索引擎中訪問網(wǎng)站的時(shí)候要查看的第一個(gè)文件。robots.txt文件告訴蜘蛛程序在服務(wù)器上什么文件是可以被查看的。每個(gè)站點(diǎn)最好建立...
-
robots.txt文件包含一條或更多的記錄，這些記錄通過空行分開（以CR,CR/NL, or NL作為結(jié)束符），每一條記錄的格式如下所示： field:optional spacevalueoptionalspace 在該文件中可以使用#進(jìn)行注解，具體使...
-
搜索引擎通過一種程序robot（又稱spider），自動(dòng)訪問互聯(lián)網(wǎng)上的網(wǎng)頁并獲取網(wǎng)頁信 息。您可以在您的網(wǎng)站中創(chuàng)建一個(gè)純文本文件robots.txt，在這個(gè)文件中聲明該網(wǎng)站中不想被robot 訪問的部分，這...