目前仍然有人仅使用robots.txt文件来阻止他们的网站在Google或Bing中建立索引。结果,他们的网站仍然出现在搜索引擎中。你知道为什么会出现这样的结果吗?因为robots.txt实际上不会执行后者,即使它确实阻止了对网页建立索引。让我在这篇文章中解释如何禁止网页被搜索引擎索引?
索引文章源自MAY的SEO博客-https://may90.com/seo/google/index.html
将网站或页面的内容下载到搜索引擎的服务器,然后将其添加到其“索引”的过程。文章源自MAY的SEO博客-https://may90.com/seo/google/index.html
排名/列表/显示文章源自MAY的SEO博客-https://may90.com/seo/google/index.html
在搜索结果页面(又称SERP)中显示网站。文章源自MAY的SEO博客-https://may90.com/seo/google/index.html
因此,尽管最常见的过程是从索引到搜索引擎排名,一个网站没有被搜索就不会有排名。如果链接指向页面、域铭或任何地方,则Google会跟踪该链接。如果该域上的robots.txt阻止了搜索引擎对某一页面的索引,但如果它可以通过其他页面被搜索引擎发现,甚至被索引,它仍有可能会出现在搜索引擎中。文章源自MAY的SEO博客-https://may90.com/seo/google/index.html
如果您真的要完全禁止搜索引擎对网页建立索引,那么将请求添加到要阻止的特定页面上。有以下两种方法:文章源自MAY的SEO博客-https://may90.com/seo/google/index.html
1. 添加meta robots标签来禁止页面索引文章源自MAY的SEO博客-https://may90.com/seo/google/index.html
禁止您的页面被搜索引擎索引最有效的方式是使用漫游器元标记。将下面的标记添加到您的页面中:文章源自MAY的SEO博客-https://may90.com/seo/google/index.html
<meta name="robots" content="noindex,nofollow">
2. 添加X-Robots-Tag HTTP标头文章源自MAY的SEO博客-https://may90.com/seo/google/index.html
为了使将meta robots标记添加到网站的每个页面的过程变得更加容易,搜索引擎提出了X-Robots-Tag HTTP标头。这样,您就可以指定一个HTTP标头,X-Robots-Tag并像meta robots标签值一样设置该值。如果您的站点在Apache上运行,并且启用了mod_headers(通常是启用),则可以将以下单行添加到.htaccess文件中:文章源自MAY的SEO博客-https://may90.com/seo/google/index.html
Header set X-Robots-Tag "noindex, nofollow"
这将禁止您的页面被搜索引擎索引,且永远不会显示在搜索结果中。
如何禁止网页被搜索引擎索引?本文提供的两种解决方法,您学会了吗?
评论