找回密码
 立即注册
搜索
热搜: 活动 交友 discuz
查看: 60|回复: 5

如何屏蔽蜘蛛??

[复制链接]

11

主题

30

回帖

101

积分

注册会员

积分
101
发表于 2011-3-6 17:47:17 | 显示全部楼层 |阅读模式
如何屏蔽蜘蛛??

如何从 CENTOS 系统上彻底屏蔽蜘蛛?  比如百度蜘蛛。

不是从robots。txt  求解
回复

使用道具 举报

11

主题

30

回帖

101

积分

注册会员

积分
101
 楼主| 发表于 2011-3-6 17:47:42 | 显示全部楼层
或者nginx 如何设置规则
回复

使用道具 举报

114

主题

1万

回帖

2万

积分

论坛元老

积分
22464
发表于 2011-3-6 17:55:50 | 显示全部楼层
判断User-agent

set $islyh 0;
if ( $http_user_agent ~ "^((.*BaiduSpider.*)|(.*Baiduspider.*))$" )
{
        set $islhy 1;
        proxy_pass http://kannimei.com;
}

[ 本帖最后由 wdlth 于 2011-3-6 18:14 编辑 ]
回复

使用道具 举报

329

主题

3710

回帖

8445

积分

论坛元老

积分
8445
发表于 2011-3-6 18:02:40 | 显示全部楼层
都高手,还有屏蔽ip
回复

使用道具 举报

26

主题

180

回帖

466

积分

中级会员

积分
466
发表于 2011-3-9 10:55:19 | 显示全部楼层
咱都是吸引蜘蛛的。。哎。。
回复

使用道具 举报

21

主题

1711

回帖

3541

积分

论坛元老

积分
3541
发表于 2011-3-9 13:04:37 | 显示全部楼层
分析搜索引擎, 发现蜘蛛就封IP
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|Discuz! X

GMT+8, 2025-5-11 08:19 , Processed in 0.019143 second(s), 4 queries , Gzip On, Redis On.

Powered by Discuz! X3.5

© 2001-2024 Discuz! Team.

快速回复 返回顶部 返回列表