nginx 를 이용 하여 지정 한 user 를 차단 합 니 다.에이전트 접근

국내 역 을 하 는 저 에 게 외국 거미 들 이 제 사 이 트 를 방문 하 는 것 을 원 하지 않 습 니 다. 특히 일부 쓰레기 거미 들 은 방문 이 특히 빈번 합 니 다.이 쓰레기 트 래 픽 이 많아 진 후에 서버 의 대역 폭 과 자원 을 심각하게 낭비 했다.user agent 를 판단 하여 nginx 에서 이 거미 들 을 사용 하지 않 으 면 데 이 터 를 절약 할 수 있 고 악의 적 인 방문 도 방지 할 수 있 습 니 다.
1. nginx 설정 디 렉 터 리 에 들 어 갑 니 다. 예 를 들 어 cd / usr / local / nginx / conf
2, 에이전트 추가deny. conf 프로필 vim agent_deny.conf
이하

#  Scrapy      
if ($http_user_agent ~* (Scrapy|Curl|HttpClient)) {
  return 403;
}
#    UA UA     
if ($http_user_agent ~ "FeedDemon|JikeSpider|Indy Library|Alexa Toolbar|AskTbFXTV|AhrefsBot|CrawlDaddy|CoolpadWebkit|Java|Feedly|UniversalFeedParser|ApacheBench|Microsoft URL Control|Swiftbot|ZmEu|oBot|jaunty|Python-urllib|lightDeckReports Bot|YYSpider|DigExt|YisouSpider|HttpClient|MJ12bot|heritrix|EasouSpider|LinkpadBot|Ezooms|^$" )
{
  return 403;
}
#   GET|HEAD|POST     
if ($request_method !~ ^(GET|HEAD|POST)$) {
  return 403;
}

그리고 특수 한 user에이전트 접근

if ($http_user_agent ~ "Mozilla/4.0\ \(compatible;\ MSIE\ 6.0;\ Windows\ NT\ 5.1;\ SV1;\ .NET\ CLR\ 1.1.4322;\ .NET\ CLR\ 2.0.50727\)") { return 404; }

이것 은 어떻게 자주 방문 하 는 user 를 얻 을 수 있 습 니까?에이전트 는 nginx 로 그 를 분석 하면

tail -n 1000 /usr/local/nginx/logs/access.log | awk -F\" '{A[$(NF-1)]++}END{for(k in A)print A[k],k}' | sort -n | tail       

이상 명령 을 수행 하면 가장 많이 방문 한 user 를 얻 을 수 있 습 니 다.에이전트, 정상 여 부 를 인위적으로 판단 하여 차단 합 니 다.
그리고 ngix. conf 의 location 에 include agent 를 추가 합 니 다.deny.conf;
부 드 럽 게 다시 시작 nginx
/usr/local/nginx/sbin/nginx –s reload
그리고 설정 이 성 공 했 는 지 테스트 해 보 세 요.

curl -I -A "BaiduSpider" www.test.com

HTTP/1.1 200 OK
Server: nginx
Date: Mon, 09 Feb 2015 03:37:20 GMT
Content-Type: text/html; charset=UTF-8 Connection: keep-alive
Vary: Accept-Encoding
X-Powered-By: PHP/5.5.19 Vary: Accept-Encoding, Cookie
Cache-Control: max-age=3, must-revalidate
WP-Super-Cache: Served supercache file from PHP

curl -I -A "JikeSpider" www.test.com

HTTP/1.1 403 Forbidden
Server: nginx Date: Mon, 09 Feb 2015 03:37:44 GMT
Content-Type: text/html
Content-Length: 162 Connection: keep-alive

여기까지 nginx 는 User - agent 거미 차단 사이트 방문 이 완료 되 었 음 을 판단 하여 실제 상황 에 따라 agentdeny. conf 의 거 미 를 증가, 삭제 또는 수정 합 니 다.