什么是百度蜘蛛？

什么是百度蜘蛛？

Baiduspider，英文名为“Baidu Spider”，是百度搜索引擎用来抓取互联网上亿网页的自动程序。

百度的功能是访问互联网上的html页面，建立索引数据库，让用户在百度搜索引擎中搜索到你网站的页面。

百度蜘蛛是一个程序，它必须日夜在互联网上搜索新的网址，然后抓取网址的内容，并将其返回到百度的网页临时数据库。

百度用来抓取网页内容的程序叫Baiduspider，抓取其他内容的蜘蛛是一个新名字：

产品名称 对应user-agent

搜索网络盲

无线搜索Baiduspider-mobile

图片搜索Baiduspider-image

视频搜索Baiduspider-视频

新闻搜索Baiduspider-新闻

百度搜索Baiduspider-favo

百度Baidu pider-cpro