推推蛙吧 关注:881贴子:26,897
  • 5回复贴,共1

@推推蛙 sitemap生成却无法生成全站链接

只看楼主收藏回复

大佬,为什么我用sitemap自动生成的时候,不能生成全站的url,我全站有600多条url但是用sitemap生成的时候只能出现300条,换了好几个工具都是这样,用疯狂青蛙、sitemapX都不能生成全部的。这是为什么该怎么解决?求大佬指教


IP属地:浙江1楼2022-07-21 09:44回复


    IP属地:浙江2楼2022-07-21 10:10
    回复
      尖叫青蛙和其他工具都只能抓取300+,说明你其他URL并无通道给抓取爬行;


      IP属地:山西3楼2022-07-21 10:33
      回复
        1、网站页面的通道是否有,便于蜘蛛去抓取爬行,如果没有给通道,蜘蛛也不会去抓取到;
        2、尖叫青蛙都抓取不到,可能你的网站程序里没有那些URL通道,可以找程序去看下,有无给到通道,可以具体分析下,是哪些页面的URL没有识别抓取。


        IP属地:山西4楼2022-07-21 10:35
        回复
          蛙哥还有个问题,像这种url错误的情况下,robots该怎么进行屏蔽?因为他在浏览器里输入之后出现的事中文的=号,复制下来之后就自动转码,是不是要写成Disallow: /%/


          IP属地:浙江5楼2022-07-21 11:51
          收起回复