Baiduspider遵守互聯(lián)網(wǎng)robots協(xié)議。您可以利用robots.txt文件完全禁止Baiduspider訪問您的網(wǎng)站,或者禁止Baiduspider訪問您網(wǎng)站上的部分文件。 注意:禁止Baiduspider訪問您的網(wǎng)站,將使您的網(wǎng)站上的網(wǎng)頁,在百度搜索引擎以及所有百度提供搜索引擎服務(wù)的搜索引擎中無法被搜索到。關(guān)于robots.txt的寫作方法,請(qǐng)參看我們的介紹:
您可以根據(jù)各產(chǎn)品不同的user-agent設(shè)置不同的抓取規(guī)則,如果您想完全禁止百度所有的產(chǎn)品收錄,可以直接對(duì)Baiduspider設(shè)置禁止抓取。
以下robots實(shí)現(xiàn)禁止所有來自百度的抓?。?User-agent: Baiduspider Disallow: /
以下robots實(shí)現(xiàn)禁止所有來自百度的抓取但允許圖片搜索抓取/image/目錄: User-agent: Baiduspider Disallow: /
User-agent: Baiduspider-image Allow: /image/
請(qǐng)注意:Baiduspider-cpro抓取的網(wǎng)頁并不會(huì)建入索引,只是執(zhí)行與客戶約定的操作,所以不遵守robots協(xié)議,如果Baiduspider-cpro給您造成了困擾,請(qǐng)聯(lián)系union1@baidu.com。 Baiduspider-ads抓取的網(wǎng)頁并不會(huì)建入索引,只是執(zhí)行與客戶約定的操作,所以不遵守robots協(xié)議,如果Baiduspider-ads給您造成了困擾,請(qǐng)聯(lián)系您的客戶服務(wù)專員。
掃一掃關(guān)注官方微信