robots.txt 설정하기

네이버 상위노출

robots.txt 설정하기

구글상위노출 0 430 2021.03.31 08:48

robots.txt는 검색로봇에게 사이트 및 웹페이지를 수집할 수 있도록 허용하거나 제한하는 국제 권고안입니다. robots.txt 파일은 항상 사이트의 루트 디렉터리에 위치해야 하며 로봇 배제 표준을 따르는 일반 텍스트 파일로 작성해야 합니다. 네이버 검색로봇은 robots.txt에 작성된 규칙을 준수하며, 만약 사이트의 루트 디렉터리에 robots.txt 파일이 없다면 모든 콘텐츠를 수집할 수 있도록 간주합니다.


간혹 특정 목적을 위하여 개발된 웹 스크랩퍼를 포함하여 일부 불완전한 검색로봇은 robots.txt 내의 규칙을 준수하지 않을 수 있습니다. 그러므로 개인 정보를 포함하여 외부에 노출되면 안 되는 콘텐츠의 경우 로그인 기능을 통하여 보호하거나 다른 차단 방법을 사용해야 합니다.


robots.txt 위치

robots.txt 파일은 반드시 사이트의 루트 디렉터리에 위치해야 하며 텍스트 파일 (text/plain) 로 접근이 가능해야 합니다.


예) http://www.example.com/robots.txt

HTTP 응답코드에 따른 처리

사이트의 robots.txt에 네이버 검색로봇이 접근하였을 때 정상적인 2xx 응답 코드를 전달해주세요. 검색로봇은 HTTP 응답 코드에 따라 아래와 같이 동작합니다.


응답 코드 그룹 설명

2xx Successful 로봇 배제 표준을 준수하는 규칙을 해석하여 사용합니다. 만약, robots.txt가 HTML 문서로 반환된다면 그 안에 유효한 규칙이 있더라도 robots.txt가 없음 (모두 허용)으로 해석될 수도 있습니다. 그러므로, 로봇 배제 규칙을 따르는 일반 텍스트 파일 (text/plain)로 작성하는 것을 권장합니다.

3xx Redirection HTTP redirect에 대하여 5회까지 허용하며 그 이상의 redirection 발생 시 중단 후 '모두 허용'으로 해석합니다. HTML 및 JavaScript를 통한 redirection은 해석하지 않습니다.

4xx Client Error '모두 허용'으로 해석합니다.

5xx Server Error '모두 허용하지 않음'으로 해석합니다. 다만, 이전에 정상적으로 수집된 robots.txt 규칙이 있다면 일시적으로 사용될 수 있습니다.

robots.txt 규칙 예제

robots.txt 파일에 작성된 규칙은 같은 호스트, 프로토콜 및 포트 번호 하위의 페이지에 대해서만 유효합니다. http://www.example.com/robots.txt의 내용은 http://example.com/https://example.com/에는 적용되지 않습니다.


대표적인 규칙은 아래와 같으며 사이트의 콘텐츠 성격에 맞게 변경해주세요.


다른 검색엔진의 로봇에 대하여 수집을 허용하지 않고 네이버 검색로봇만 수집 허용으로 설정합니다.

User-agent: *

Disallow: /

User-agent: Yeti

Allow: /

모든 검색엔진의 로봇에 대하여 수집 허용으로 설정합니다.

User-agent: *

Allow: /

사이트의 루트 페이지만 수집 허용으로 설정합니다.

User-agent: *

Disallow: /

Allow: /$

관리자 페이지, 개인 정보 페이지와 같이 검색로봇 방문을 허용하면 안 되는 웹 페이지는 수집 비허용으로 설정해주세요. 아래 예제는 네이버 검색로봇에게 /private-image, /private-video 등은 수집하면 안 된다고 알려줍니다.

User-agent: Yeti

Disallow: /private*/

모든 검색로봇에게 사이트의 모든 페이지에 대하여 수집을 허용하지 않는다고 알려줍니다. 이 예제는 사이트의 어떠한 페이지도 수집 대상에 포함되지 않으므로 권장하지 않습니다.

User-agent: *

Disallow: /

자바스크립트 및 CSS 파일 수집을 허용해 주세요

간혹 일부 사이트가 자바스크립트 및 CSS 파일과 같은 리소스 URL을 robots.txt 규칙 내에서 수집 비허용으로 처리하는 경우가 있습니다. 이러한 경우 네이버 검색 로봇이 페이지의 주요 영역을 해석하는 데 어려움을 겪을 수 있습니다. 자바스크립트를 포함한 리소스 파일을 검색로봇이 수집할 수 있도록 허용해 주세요. 자세한 내용은 자바스크립트 검색 최적화 문서를 참고하시기 바랍니다.


파비콘(favicon) 수집을 허용해 주세요

"검색 결과에 노출"되는 웹페이지의 파비콘이 robots.txt로 차단된 경우 예외적으로 robots.txt 규칙을 따르지 않고 파비콘을 수집할 수 있습니다. 이는 파비콘을 검색 노출이 되고 있는 웹페이지 내부의 필수 구성 리소스로 취급하기 때문입니다. 검색에 노출되는 문서의 내부 구성요소(css, javascript, image..)는 문서와 동일하게 robots.txt 규칙으로 설정해 주세요. 파비콘과 관련된 좀 더 자세한 내용은 파비콘 마크업 가이드 을 참고하세요.


sitemap.xml 지정

내 사이트에 있는 페이지들의 목록이 담겨있는 sitemap.xml의 위치를 robots.txt에 기록해서 검색 로봇이 내 사이트의 콘텐츠를 더 잘 수집할 수 있도록 도울 수 있습니다.


User-agent: *

Allow: /

Sitemap: http://www.example.com/sitemap.xml

웹마스터도구의 robots.txt 도구를 활용하세요

웹마스터도구에서 제공하는 robots.txt 도구를 활용하면 보다 쉽게 사이트의 robots.txt 파일을 관리할 수 있으며 아래와 같이 2가지 기능을 제공합니다.


1. robots.txt 수집 및 검증

robots.txt 수집 및 검증


사이트의 루트 디렉터리에 있는 robots.txt 파일을 수정한 뒤 검색로봇에게 빠르게 알리고 싶다면 수집 요청을 눌러주세요

설정된 로봇룰에 따라서 웹 페이지의 수집 가능여부를 테스트할 수 있습니다.

2. robots.txt 간단 생성

robots.txt 간단생성


robots.txt 파일을 간단하게 생성 후 다운로드할 수 있습니다. 다운로드한 robots.txt 파일을 사이트의 루트 디렉터리에 업로드 후 위 1번의 수집 요청을 실행하면 네이버 검색로봇이 바로 인식할 수 있습니다.

Comments

번호 분류 제목 글쓴이 날짜 조회
4 웹사이트상위노출 채용정보 구글상위노출 2021.04.01 518
3 웹사이트상위노출 사이트 연관 채널 구글상위노출 2021.04.01 692
2 웹사이트상위노출 구조화된 데이터 소개 구글상위노출 2021.04.01 564
1 웹사이트상위노출 콘텐츠 노출 및 클릭 구글상위노출 2021.04.01 608
0 웹사이트상위노출 수집 및 색인 현황 구글상위노출 2021.04.01 671
-1 웹사이트상위노출 사이트 최적화 구글상위노출 2021.04.01 632
-2 웹사이트상위노출 사이트 간단 체크 구글상위노출 2021.04.01 609
-3 웹사이트상위노출 RSS 및 사이트맵 제출 구글상위노출 2021.04.01 659
-4 웹사이트상위노출 네이버 수집요청 및 검색제외 구글상위노출 2021.04.01 607
-5 웹사이트상위노출 파비콘 (Favicon) 구글상위노출 2021.03.31 612
-6 웹사이트상위노출 모바일 사용성 구글상위노출 2021.03.31 674
-7 웹사이트상위노출 콘텐츠 마크업 구글상위노출 2021.03.31 618
-8 웹사이트상위노출 선호 URL 및 로봇 메타 태그 구글상위노출 2021.03.31 969
-9 웹사이트상위노출 HTML 마크업 소개 구글상위노출 2021.03.31 615
-10 웹사이트상위노출 콘텐츠 작성시 권장 사항 구글상위노출 2021.03.31 685
분류
네이버상위노출
031-795-1984
평일 : 오전 10 ~ 오후 6시
토/일/공휴일 휴무
State
  • 현재 접속자 4 명
  • 오늘 방문자 37 명
  • 어제 방문자 44 명
  • 최대 방문자 127 명
  • 전체 방문자 19,385 명
Facebook Twitter GooglePlus KakaoStory NaverBand
seo마케팅프로
비사업자카드단말기
구글상위노출
밀키트
홀덤펍
전광판광고
메타버스
강아지
마사지
네이밍
구글상위노출
휴대용카드단말기
네이버상위노출
구글지도상위노출
밀키트창업
홀덤펍창업
지하철광고
nft
고양이
타투
작명소
네이버상위노출
무선카드단말기
구글상위노출
밀키트전문점
홀덤펍프랜차이즈
극장광고
p2e
애견
반영구
개명
웹사이트상위노출
비사업자단말기
지도상위노출
밀키트프랜차이즈
영화관광고
홀덤바
메타버스2

네일아트
작명
지도상위노출
이동식카드단말기
웹사이트상위노출
밀키트쇼핑몰
버스광고
홀덤펍사이트
메타버스커뮤니티
반려동물
왁싱
한글이름
밀키트사이트
홀덤펍커뮤니티
nft커뮤니티
강아지분양
속눈썹
nft사이트
애견샵
필라테스
마사지구인
마사지구직
마사지구인구직
마사지사구인
마사지사구직
마사지
타이마사지구인
타이마사지구직
아로마마사지구인
아로마마사지구직
스웨디시구인
스웨디시구직
스웨디시알바
테라피구인
테라피구직
테라피알바
1인샵구인
1인샵구직
1인샵알바
왁싱구인
왁싱구직
왁싱알바
송파점집
수원점집
코스피
잠실점집
반달섬아티스큐브
안산점집
코스닥
용인점집
평택상가
주식
유튜브상위노출
성남점집
인천자가격리숙소
공주점집
고덕상가
오산점집
유튜브마케팅
수원점집
인천자가격리시설
강남점집
구리썬팅
평택점집
대전간판
하남점집
https://aioseo.de/fr/www/sempro.cafe24.com
https://aioseo.de/da/www/sempro.cafe24.com
https://aioseo.de/en/www/sempro.cafe24.com
https://aioseo.de/de/www/sempro.cafe24.com
https://aioseo.de/it/www/sempro.cafe24.com
https://aioseo.de/nl/www/sempro.cafe24.com
https://aioseo.de/pt/www/sempro.cafe24.com
https://aioseo.de/fi/www/sempro.cafe24.com
https://aioseo.de/sv/www/sempro.cafe24.com
https://aioseo.de/ru/www/sempro.cafe24.com
https://aioseo.de/fr/www/massageguingujik.com
https://aioseo.de/da/www/massageguingujik.com
https://aioseo.de/en/www/massageguingujik.com
https://aioseo.de/de/www/massageguingujik.com
https://aioseo.de/it/www/massageguingujik.com
https://aioseo.de/nl/www/massageguingujik.com
https://aioseo.de/pt/www/massageguingujik.com
https://aioseo.de/fi/www/massageguingujik.com
https://aioseo.de/sv/www/massageguingujik.com
https://aioseo.de/ru/www/massageguingujik.com
https://aioseo.de/fr/www/cardterminal.cafe24.com
https://aioseo.de/da/www/cardterminal.cafe24.com
https://aioseo.de/en/www/cardterminal.cafe24.com
https://aioseo.de/de/www/cardterminal.cafe24.com
https://aioseo.de/it/www/cardterminal.cafe24.com
https://aioseo.de/nl/www/cardterminal.cafe24.com
https://aioseo.de/pt/www/cardterminal.cafe24.com
https://aioseo.de/fi/www/cardterminal.cafe24.com
https://aioseo.de/sv/www/cardterminal.cafe24.com
https://aioseo.de/ru/www/cardterminal.cafe24.com
https://aioseo.de/fr/www/sempro.cafe24.com
https://aioseo.de/da/www/sempro.cafe24.com
https://aioseo.de/en/www/sempro.cafe24.com
https://aioseo.de/de/www/sempro.cafe24.com
https://aioseo.de/it/www/sempro.cafe24.com
https://aioseo.de/nl/www/sempro.cafe24.com
https://aioseo.de/pt/www/sempro.cafe24.com
https://aioseo.de/fi/www/sempro.cafe24.com
https://aioseo.de/sv/www/sempro.cafe24.com
https://aioseo.de/ru/www/sempro.cafe24.com
https://aioseo.de/fr/www/sempro.co.kr
https://aioseo.de/da/www/sempro.co.kr
https://aioseo.de/en/www/sempro.co.kr
https://aioseo.de/de/www/sempro.co.kr
https://aioseo.de/it/www/sempro.co.kr
https://aioseo.de/nl/www/sempro.co.kr
https://aioseo.de/pt/www/sempro.co.kr
https://aioseo.de/fi/www/sempro.co.kr
https://aioseo.de/sv/www/sempro.co.kr
https://aioseo.de/ru/www/sempro.co.kr
https://aioseo.de/fr/www/seomarketingpro.co.kr
https://aioseo.de/da/www/seomarketingpro.co.kr
https://aioseo.de/en/www/seomarketingpro.co.kr
https://aioseo.de/de/www/seomarketingpro.co.kr
https://aioseo.de/it/www/seomarketingpro.co.kr
https://aioseo.de/nl/www/seomarketingpro.co.kr
https://aioseo.de/pt/www/seomarketingpro.co.kr
https://aioseo.de/fi/www/seomarketingpro.co.kr
https://aioseo.de/sv/www/seomarketingpro.co.kr
https://aioseo.de/ru/www/seomarketingpro.co.kr
https://aioseo.de/fr/www/jeonggraphic.cafe24.com
https://aioseo.de/da/www/jeonggraphic.cafe24.com
https://aioseo.de/en/www/jeonggraphic.cafe24.com
https://aioseo.de/de/www/jeonggraphic.cafe24.com
https://aioseo.de/it/www/jeonggraphic.cafe24.com
https://aioseo.de/nl/www/jeonggraphic.cafe24.com
https://aioseo.de/pt/www/jeonggraphic.cafe24.com
https://aioseo.de/fi/www/jeonggraphic.cafe24.com
https://aioseo.de/sv/www/jeonggraphic.cafe24.com
https://aioseo.de/ru/www/jeonggraphic.cafe24.com
https://aioseo.de/fr/www/bungbungmotors.cafe24.com
https://aioseo.de/da/www/bungbungmotors.cafe24.com
https://aioseo.de/en/www/bungbungmotors.cafe24.com
https://aioseo.de/de/www/bungbungmotors.cafe24.com
https://aioseo.de/it/www/bungbungmotors.cafe24.com
https://aioseo.de/nl/www/bungbungmotors.cafe24.com
https://aioseo.de/pt/www/bungbungmotors.cafe24.com
https://aioseo.de/fi/www/bungbungmotors.cafe24.com
https://aioseo.de/sv/www/bungbungmotors.cafe24.com
https://aioseo.de/ru/www/bungbungmotors.cafe24.com
https://aioseo.de/fr/www/gongjujeom.cafe24.com
https://aioseo.de/da/www/gongjujeom.cafe24.com
https://aioseo.de/en/www/gongjujeom.cafe24.com
https://aioseo.de/de/www/gongjujeom.cafe24.com
https://aioseo.de/it/www/gongjujeom.cafe24.com
https://aioseo.de/nl/www/gongjujeom.cafe24.com
https://aioseo.de/pt/www/gongjujeom.cafe24.com
https://aioseo.de/fi/www/gongjujeom.cafe24.com
https://aioseo.de/sv/www/gongjujeom.cafe24.com
https://aioseo.de/ru/www/gongjujeom.cafe24.com
https://aioseo.de/fr/www/naming.seomarketingpro.co.kr
https://aioseo.de/da/www/naming.seomarketingpro.co.kr
https://aioseo.de/en/www/naming.seomarketingpro.co.kr
https://aioseo.de/de/www/naming.seomarketingpro.co.kr
https://aioseo.de/it/www/naming.seomarketingpro.co.kr
https://aioseo.de/nl/www/naming.seomarketingpro.co.kr
https://aioseo.de/pt/www/naming.seomarketingpro.co.kr
https://aioseo.de/fi/www/naming.seomarketingpro.co.kr
https://aioseo.de/sv/www/naming.seomarketingpro.co.kr
https://aioseo.de/ru/www/naming.seomarketingpro.co.kr
https://aioseo.de/fr/www/songpa.seomarketingpro.co.kr
https://aioseo.de/da/www/songpa.seomarketingpro.co.kr
https://aioseo.de/en/www/songpa.seomarketingpro.co.kr
https://aioseo.de/de/www/songpa.seomarketingpro.co.kr
https://aioseo.de/it/www/songpa.seomarketingpro.co.kr
https://aioseo.de/nl/www/songpa.seomarketingpro.co.kr
https://aioseo.de/pt/www/songpa.seomarketingpro.co.kr
https://aioseo.de/fi/www/songpa.seomarketingpro.co.kr
https://aioseo.de/sv/www/songpa.seomarketingpro.co.kr
https://aioseo.de/ru/www/songpa.seomarketingpro.co.kr
https://aioseo.de/fr/www/mealkitchef.com
https://aioseo.de/da/www/mealkitchef.com
https://aioseo.de/en/www/mealkitchef.com
https://aioseo.de/de/www/mealkitchef.com
https://aioseo.de/it/www/mealkitchef.com
https://aioseo.de/nl/www/mealkitchef.com
https://aioseo.de/pt/www/mealkitchef.com
https://aioseo.de/fi/www/mealkitchef.com
https://aioseo.de/sv/www/mealkitchef.com
https://aioseo.de/ru/www/mealkitchef.com
https://aioseo.de/fr/www/vipholdempub.com
https://aioseo.de/da/www/vipholdempub.com
https://aioseo.de/en/www/vipholdempub.com
https://aioseo.de/de/www/vipholdempub.com
https://aioseo.de/it/www/vipholdempub.com
https://aioseo.de/nl/www/vipholdempub.com
https://aioseo.de/pt/www/vipholdempub.com
https://aioseo.de/fi/www/vipholdempub.com
https://aioseo.de/sv/www/vipholdempub.com
https://aioseo.de/ru/www/vipholdempub.com
https://aioseo.de/fr/www/metaverse-nft.co.kr
https://aioseo.de/da/www/metaverse-nft.co.kr
https://aioseo.de/en/www/metaverse-nft.co.kr
https://aioseo.de/de/www/metaverse-nft.co.kr
https://aioseo.de/it/www/metaverse-nft.co.kr
https://aioseo.de/nl/www/metaverse-nft.co.kr
https://aioseo.de/pt/www/metaverse-nft.co.kr
https://aioseo.de/fi/www/metaverse-nft.co.kr
https://aioseo.de/sv/www/metaverse-nft.co.kr
https://aioseo.de/ru/www/metaverse-nft.co.kr
https://aioseo.de/fr/www/petinssa.com
https://aioseo.de/da/www/petinssa.com
https://aioseo.de/en/www/petinssa.com
https://aioseo.de/de/www/petinssa.com
https://aioseo.de/it/www/petinssa.com
https://aioseo.de/nl/www/petinssa.com
https://aioseo.de/pt/www/petinssa.com
https://aioseo.de/fi/www/petinssa.com
https://aioseo.de/sv/www/petinssa.com
https://aioseo.de/ru/www/petinssa.com
https://aioseo.de/fr/www/gangnammassage.cafe24.com
https://aioseo.de/da/www/gangnammassage.cafe24.com
https://aioseo.de/en/www/gangnammassage.cafe24.com
https://aioseo.de/de/www/gangnammassage.cafe24.com
https://aioseo.de/it/www/gangnammassage.cafe24.com
https://aioseo.de/nl/www/gangnammassage.cafe24.com
https://aioseo.de/pt/www/gangnammassage.cafe24.com
https://aioseo.de/fi/www/gangnammassage.cafe24.com
https://aioseo.de/sv/www/gangnammassage.cafe24.com
https://aioseo.de/ru/www/gangnammassage.cafe24.com