搜索引擎只是网站上一个普通的访客,对网站的抓取方式、对网站/网页的价值判断,也都是从用户的角度出发的,任何对用户体验的改进,都是对搜索引擎改进。对搜索引擎的优化,同时也会让用户受益。
面向搜索引擎的网站建设,主要分为三个部分:如何更好的让搜索引擎收录网站中的内容、如何在搜索引擎中获得良好的排名、如何让用户从众多的搜索结果中点击你的网站。简单来说,就是收录、排序、展现。下面我们将从这三个方面分别介绍。
机器可读
百度通过一个叫做Baiduspider的程序抓取互联网上的网页,经过处理后建入索引中。目前Baiduspider只能读懂文本内容,flash、图片等非文本内容暂时不能处理,放置在flash、图片中的文字,百度无法识别。
建议使用文字而不是flash、图片、Javascript等来显示重要的内容或链接,搜索引擎暂时无法识别Flash、图片、Javascript中的内容,这部分内容无法搜索到;仅在flash、Javascript中包含链接指向的网页,百度可能无法收录。
网站结构
网站应该有清晰的结构和明晰的导航,这能帮助用户快速从你的网站中找到自己需要的内容,也可以帮助搜索引擎快速理解网站中每一个网页所处的结构层次。
网站结构建议采用树型结构,树型结构通常分为以下三个层次:首页——频道——文章页。象一棵大树一样,首先有一个树干(首页),然后再是树枝(频道),最后是树叶(普通内容页)。树型结构的扩展性更强,网站内容变多时,可以通过细分树枝(频道)来轻松应对。
理想的网站结构应该是更扁平一些,从首页到内容页的层次尽量少,这样搜索引擎处理起来,会更简单。
同时,网站也应该是一个网状结构,网站上每个网页都应该有指向上、下级网页以及相关内容的链接:首页有到频道页的链接,频道页有到首页和普通内容页的链接、普通内容页有到上级频道以及首页的链接、内容相关的网页间互相有链接。
网站中每一个网页,都应该是网站结构的一部分,都应该能通过其他网页链接到。
总结一下,合理的网站结构应该是一个扁平的树型网状结构。
网站应该有简明、清晰的导航,可以让用户快速找到自己需要的内容,同时也可以帮助搜索引擎更好的了解网站的结构。
子域名与目录的选择
选择使用子域名还是目录来合理的分配网站内容,对网站在搜索引擎中的表现会有较大的影响。
规范、简单的url
创建具有良好描述性、规范、简单的url,有利于用户更方便的记忆和判断网页的内容,也有利于搜索引擎更有效的抓取您的网站。网站设计之初,就应该有合理的url规划。
利用站长工具
互联网越来越庞大、复杂,百度为了更好的处理互联网上的信息,提供了一些的面向站长的工具,合理的利用这些站长工具,可以起到事半功倍的效果。
百度站长平台:
登录 zhanzhang.baidu.com 获取更多帮助信息。
Sitemap:
百度站长平台支持通过sitemap提交网站内容。通过sitemap可以让百度更全面更快的发现链接,使得收录更有效率。
Ping
Ping是针对blog内容的提交方式,实时通知搜索引擎blog上有新内容产生。目前主流的博客程序都支持ping,您只需要将百度的ping服务地址http://ping.baidu.com/ping/RPC2加入博客后台并开启Ping功能即可。
死链删除:
百度站长平台支持通过sitemap向百度提交网站的死链列表。网站死链过多,不仅影响用户访问体验,也影响百度对网站质量的判断。通过死链删除的接口可以让百度更快更全面的发现网站死链,从而进行有效删除。
注:提交需要删除的网址后,需要做如下处理,才能被百度有效删除:
1 、使用robots.txt阻止其被抓取;
2 、或者返回 404 状态码表示当前页面不存在。
站长工具
- URL优化工具检查
百度站长平台提供了URL优化工具,可以帮助检查URL对搜索引擎的友好程度并提出修改建议。
-网站安全检测
百度站长平台提供工具检测网站是否被黑并提示站长,帮助修改。
什么是“网站被黑”?
网站被黑,是指黑客利用网站的程序、设置等方面的安全漏洞或管理员安全疏忽(如密码复杂度低),未经管理员授权,对网站进行了篡改。
如何处理网站被黑?
- 分析系统日志、服务器日志,检查自己站点的页面数量、流量等是否有异常波动,是否存在异常访问或操作日志;
- 检查网站文件是否有不正常的修改,尤其是首页等重点页面;
- 网站页面是否引用了未知站点的资源(图片、js等),是否被放置了外站的异常链接;
- 检查网站是否有不正常增加的文件或目录;
- 检查网站目录中是否有非管理员打包的网站源码、未知txt文件等。
如何防止网站被黑?
- 定期检查服务器日志等方式发现问题,检查是否有可疑的针对非前台页面的访问;
- 经常检查网站文件是否有不正常的修改或者增加;
- 关注操作系统,以及所使用程序的官方网站。及时下载补丁,修补安全漏洞;必要时建议直接更新至最新版本;
- 修改开源程序关键文件的默认文件名,作弊者通常通过程序自动扫描某些特定的文件是否存在来判断是否使用了某套程序;
- 修改默认管理员用户名,提高管理后台的密码强度,使用字母、数字以及特殊符号多种组合的密码;
- 关闭不必要的服务,以及端口;
- 关闭或者限制不必要的上传功能;
- 设置防火墙等安全措施;
- 若问题反复出现,建议重新安装服务器操作系统,并重新上传备份的网站文件;
- 缺乏专业维护人员的网站,建议向专业安全公司咨询;
快速发现并处理被黑内容,并做好被黑的预防,非常体现一个网站的运营水平。上述的几点仅仅是初步的参考。做好网站的安全需要站长、管理员们的不断努力。
百度搜索框提示功能
百度向站长开放免费“百度搜索框”代码和“百度搜索框提示”代码。
只需进行简单的设置,即可将“百度搜索框(带提示功能)”功能快速加入到您的网页中。提升用户在网站中的搜索体验。
改版/ 换域名
网站改版、换域名在互联网飞速发展的情况下是不可避免的,但处理不当,会造成重大的流量损失。
改版、换域名需要考虑的第一要点就是如何保证老用户不流失,当用户访问旧内容时,能引导用户到新网站上对应的内容,避免出现用户访问不到以前收藏的网页的情况。
我们建议在改版或者换域名时,将旧网页301永久重定向到内容对应的新网页,这样百度更容易发现这个转变,并迅速的将旧网页积累的权值传递给对应的新网页。
合理的返回码
百度爬虫在进行抓取和处理时,是根据http协议规范来设置相应的逻辑的,所以请站长们也尽量参考http协议中关于返回码的含义的定义来进行设置。
Baiduspider 对常用的http返回码的处理逻辑是这样的:
404 返回码的含义是 “Not Found”,百度会认为网页已经失效,那么通常会从搜索结果中删除,并且短期内 spider 再次发现这条 URL 也不会抓取。
503 返回码的含义是 “Service Unavailable”,百度会认为该网页临时不可访问,通常网站临时关闭,带宽有限等会产生这种情况。对于网页返回503,百度 spider 不会把这条 URL 直接删除,短期内会再访问。届时如果网页已恢复,则正常抓取;如果继续返回503,短期内还会反复访问几次。但是如果网页长期返回503,那么这个 URL 仍会被百度认为是失效链接,从搜索结果中删除。
403 返回码的含义是 “Forbidden”,百度会认为网页当前禁止访问。对于这种情况,如果是新发现的URL,百度 spider 暂不抓取,短期内会再次检查;如果是百度已经收录的URL,当前也不会直接删除,短期内同样会再访问。届时如果网页允许访问,则正常抓取;如果仍不允许访问,短期内还会反复访问几次。但是如果网页长期返回403,百度也会认为是失效链接,从搜索结果中删除。
301 返回码的含义是 “Moved Permanently”,百度会认为网页当前跳转至新URL。当遇到站点迁移、域名更换和站点改版的情况时,推荐使用301返回码,尽量减少改版带来的流量损失。虽然百度spider 现在对301跳转的响应周期较长,但是我们还是推荐大家这么做。