关于百度蜘蛛的简单介绍

      搜索引擎是如何收录到那么多网页的呢？这个搜搜引擎用以抓取互联网上数以亿计的网页的程序，百度的就叫做Baiduspider - 百度蜘蛛。

          它是一个程序，夜以继日得在互联网上找寻新的URL，接着抓取URL上的内容，返回到百度的网页暂存数据库。百度用来抓取网页内容的程序，叫做Baiduspider，抓取其他内容的蜘蛛，则是新的名字：

    产品名称                 对应user-agent

   1. 网页搜索                Baiduspider
   2. 无线搜索                Baiduspider-mobile
   3.图片搜索                Baiduspider-image
   4.视频搜索                Baiduspider-video
   5. 新闻搜索                Baiduspider-news
   6. 百度搜藏                Baiduspider-favo
   7. 百度联盟                Baiduspider-cpro

    差不多有这7种蜘蛛！大家最最常见的、最在意的当然是“Baiduspider”。