HTTP协议.doc

1.基础概念篇1.1 介绍 HTTP是Hyper Text Transfer Protocol（超文本传输协议）的缩写。它的发展是万维网协会（World Wide Web Consortium）和Internet工作小组IETF（Internet Engineering Task Force）合作的结果，（他们）最终发布了一系列的RFC，RFC 1945定义了HTTP/1.0版本。其中最著名的就是RFC 2616。RFC 2616定义了今天普遍使用的一个版本HTTP 1.1。HTTP协议（HyperText Transfer Protocol，超文本传输协议）是用于从WWW服务器传输超文本到本地浏览器的传送协议。它可以使浏览器更加高效，使网络传输减少。它不仅保证计算机正确快速地传输超文本文档，还确定传输文档中的哪一部分，以及哪部分内容首先显示(如文本先于图形)等。HTTP是一个应用层协议，由请求和响应构成，是一个标准的客户端服务器模型。HTTP是一个无状态的协议。1.2 在TCP/IP协议栈中的位置HTTP协议通常承载于TCP协议之上，有时也承载于TLS或SSL协议层之上，这个时候，就成了我们常说的HTTPS。如下图所示： 默认HTTP的端口号为80，HTTPS的端口号为443。1.3 HTTP的请求响应模型HTTP协议永远都是客户端发起请求，服务器回送响应。见下图： 这样就限制了使用HTTP协议，无法实现在客户端没有发起请求的时候，服务器将消息推送给客户端。HTTP协议是一个无状态的协议，同一个客户端的这次请求和上次请求是没有对应关系。1.4 工作流程一次HTTP操作称为一个事务，其工作过程可分为四步：1）首先客户机与服务器需要建立连接。只要单击某个超级链接，HTTP的工作开始。2）建立连接后，客户机发送一个请求给服务器，请求方式的格式为：统一资源标识符（URL）、协议版本号，后边是MIME信息包括请求修饰符、客户机信息和可能的内容。3）服务器接到请求后，给予相应的响应信息，其格式为一个状态行，包括信息的协议版本号、一个成功或错误的代码，后边是MIME信息包括服务器信息、实体信息和可能的内容。4）客户端接收服务器所返回的信息通过浏览器显示在用户的显示屏上，然后客户机与服务器断开连接。如果在以上过程中的某一步出现错误，那么产生错误的信息将返回到客户端，有显示屏输出。对于用户来说，这些过程是由HTTP自己完成的，用户只要用鼠标点击，等待信息显示就可以了。1.5 使用Wireshark抓TCP、http包打开Wireshark，选择工具栏上的“Capture”-“Options”，界面选择如图1所示：图1 设置Capture选项一般读者只需要选择最上边的下拉框，选择合适的Device，而后点击“Capture Filter”，此处选择的是“HTTP TCP port（80）”，选择后点击上图的“Start”开始抓包。 图2 选择Capture Filter例如在浏览器中打开 图3 抓包示例图在上图中，可清晰的看到客户端浏览器（ip为192.168.2.33）与服务器的交互过程：1）No1：浏览器（192.168.2.33）向服务器（220.181.50.118）发出连接请求。此为TCP三次握手第一步，此时从图中可以看出，为SYN，seq:X （x=0）SYN：0X022）No2：服务器（220.181.50.118）回应了浏览器（192.168.2.33）的请求，并要求确认，此时为：SYN，ACK，此时seq：y（y为0），ACK：x+1（为1）。此为三次握手的第二步；SYN,ACK:0XB0,0X123）No3：浏览器（192.168.2.33）回应了服务器（220.181.50.118）的确认，连接成功。为：ACK，此时seq：x+1（为1），ACK：y+1（为1）。此为三次握手的第三步；ACK:0X104）No4：浏览器（192.168.2.33）发出一个页面HTTP请求；5）No5：服务器（220.181.50.118）确认；6）No6：服务器（220.181.50.118）发送数据；7）No7：客户端浏览器（192.168.2.33）确认；8）No14：客户端（192.168.2.33）发出一个图片HTTP请求；9）No15：服务器（220.181.50.118）发送状态响应码200 OK1.6 头域每个头域由一个域名，冒号（:）和域值三部分组成。域名是大小写无关的，域值前可以添加任何数量的空格符，头域可以被扩展为多行，在每行开始处，使用至少一个空格或制表符。在抓包的图中，No14点开可看到如图4所示： 图4 http请求消息图5 http状态响应信息1.6.1 host头域Host头域指定请求资源的Intenet主机和端口号，必须表示请求url的原始服务器或网关的位置。HTTP/1.1请求必须包含主机头域，否则系统会以400状态码返回。图5中host那行为：1.6.2 Referer头域Referer头域允许客户端指定请求uri的源资源地址，这可以允许服务器生成回退链表，可用来登陆、优化cache等。他也允许废除的或错误的连接由于维护的目的被追踪。如果请求的uri没有自己的uri地址，Referer不能被发送。如果指定的是部分uri地址，则此地址应该是一个相对地址。在图4中，Referer行的内容为：1.6.3 User-Agent头域User-Agent头域的内容包含发出请求的用户信息。在图4中，User-Agent行的内容为： 1.6.4 Cache-Control头域Cache-Control指定请求和响应遵循的缓存机制。在请求消息或响应消息中设置Cache-Control并不会修改另一个消息处理过程中的缓存处理过程。请求时的缓存指令包括no-cache、no-store、max-age、max-stale、min-fresh、only-if-cached，响应消息中的指令包括public、private、no-cache、no-store、no-transform、must-revalidate、proxy-revalidate、max-age。在图5中的该头域为：1.6.5 Date头域Date头域表示消息发送的时间，时间的描述格式由rfc822定义。例如，Date:Mon,31Dec200104:25:57GMT。Date描述的时间表示世界标准时，换算成本地时间，需要知道用户所在的时区。图5中，该头域如下图所示： 1.7 HTTP的几个重要概念1.7.1连接：Connection一个传输层的实际环流，它是建立在两个相互通讯的应用程序之间。在http1.1，request和reponse头中都有可能出现一个connection的头，此header的含义是当client和server通信时对于长链接如何进行处理。在http1.1中，client和server都是默认对方支持长链接的， 如果client使用http1.1协议，但又不希望使用长链接，则需要在header中指明connection的值为close；如果server方也不想支持长链接，则在response中也需要明确说明connection的值为close。不论request还是response的header中包含了值为close的connection，都表明当前正在使用的tcp链接在当天请求处理完毕后会被断掉。以后client再进行新的请求时就必须创建新的tcp链接了。1.7.2消息：MessageHTTP通讯的基本单位，包括一个结构化的八元组序列并通过连接传输。1.7.3请求：Request一个从客户端到服务器的请求信息包括应用于资源的方法、资源的标识符和协议的版本号。1.7.4响应：Response一个从服务器返回的信息包括HTTP协议的版本号、请求的状态(例如“成功”或“没找到”)和文档的MIME类型。1.7.5资源：Resource由URI标识的网络数据对象或服务。1.7.6实体：Entity数据资源或来自服务资源的回映的一种特殊表示方法，它可能被包围在一个请求或响应信息中。一个实体包括实体头信息和实体的本身内容。1.7.7客户机：Client一个为发送请求目的而建立连接的应用程序。1.7.8用户代理：UserAgent初始化一个请求的客户机。它们是浏览器、编辑器或其它用户工具。1.7.9服务器：Server一个接受连接并对请求返回信息的应用程序。1.7.10源服务器：Originserver是一个给定资源可以在其上驻留或被创建的服务器。1.7.11代理：Proxy一个中间程序，它可以充当一个服务器，也可以充当一个客户机，为其它客户机建立请求。请求是通过可能的翻译在内部或经过传递到其它的服务器中。一个代理在发送请求信息之前，必须解释并且如果可能重写它。 代理经常作为通过防火墙的客户机端的门户，代理还可以作为一个帮助应用来通过协议处理没有被用户代理完成的请求。1.7.12网关：Gateway一个作为其它服务器中间媒介的服务器。与代理不同的是，网关接受请求就好象对被请求的资源来说它就是源服务器；发出请求的客户机并没有意识到它在同网关打交道。 网关经常作为通过防火墙的服务器端的门户，网关还可以作为一个协议翻译器以便存取那些存储在非HTTP系统中的资源。1.7.13通道：Tunnel是作为两个连接中继的中介程序。一旦激活，通道便被认为不属于HTTP通讯，尽管通道可能是被一个HTTP请求初始化的。当被中继的连接两端关闭时，通道便消失。当一个门户(Portal)必须存在或中介(Intermediary)不能解释中继的通讯时通道被经常使用。1.7.14缓存：Cache反应信息的局域存储。 附录：参考资料http_百度百科：结果编码和http状态响应码：分析TCP的三次握手：使用Wireshark来检测一次HTTP连接过程：http协议的几个重要概念：http协议中connection头的作用：2.协议详解篇2.1 HTTP/1.0和HTTP/1.1的比较RFC 1945定义了HTTP/1.0版本，RFC 2616定义了HTTP/1.1版本。笔者在blog上提供了这两个RFC中文版的下载地址。RFC1945下载地址：RFC2616下载地址：2.1.1建立连接方面HTTP/1.0 每次请求都需要建立新的TCP连接，连接不能复用。HTTP/1.1 新的请求可以在上次请求建立的TCP连接之上发送，连接可以复用。优点是减少重复进行TCP三次握手的开销，提高效率。注意：在同一个TCP连接中，新的请求需要等上次请求收到响应后，才能发送。2.1.2 Host域HTTP1.1在Request消息头里头多了一个Host域, HTTP1.0则没有这个域。Eg：GET/pub/WWW/TheProject.htmlHTTP/1.1Host:www.w3.org可能HTTP1.0的时候认为，建立TCP连接的时候已经指定了IP地址，这个IP地址上只有一个host。2.1.3日期时间戳(接收方向)无论是HTTP1.0还是HTTP1.1，都要能解析下面三种date/time stamp：Sun,06Nov199408:49:37GMT;RFC822,updatedbyRFC1123Sunday,06-Nov-9408:49:37GMT;RFC850,obsoletedbyRFC1036SunNov608:49:371994;ANSICsasctime()format (发送方向)HTTP1.0要求不能生成第三种asctime格式的date/time stamp；HTTP1.1则要求只生成RFC 1123(第一种)格式的date/time stamp。2.1.4状态响应码状态响应码100 (Continue) 状态代码的使用，允许客户端在发request消息body之前先用request header试探一下server，看server要不要接收request body，再决定要不要发request body。客户端在Request头部中包含Expect:100-continue Server看到之后呢如果回100 (Continue) 这个状态代码，客户端就继续发request body。这个是HTTP1.1才有的。另外在HTTP/1.1中还增加了101、203、205等等性状态响应码2.1.5请求方式HTTP1.1增加了OPTIONS, PUT, DELETE, TRACE, CONNECT这些Request方法. Method = OPTIONS ; Section 9.2 | GET ; Section 9.3 | HEAD ; Section 9.4 | POST ; Section 9.5 | PUT ; Section 9.6 | DELETE ; Section 9.7 | TRACE ; Section 9.8 | CONNECT ; Section 9.9 | extension-method extension-method = token2.2 HTTP请求消息2.2.1请求消息格式请求消息格式如下所示：请求行通用信息头|请求头|实体头CRLF(回车换行)实体内容其中“请求行”为：请求行 = 方法 空格 请求URI 空格 版本号 回车换行请求行实例： Eg1：GET/index.htmlHTTP/1.1 Eg2：POST http:/192.168.2.217:8080/index.jsp HTTP/1.1HTTP请求消息实例：GET/hello.htmHTTP/1.1Accept:*/*Accept-Language:zh-cnAccept-Encoding:gzip,deflateIf-Modified-Since:Wed,17Oct200702:15:55GMTIf-None-Match:W/158-1192587355000User-Agent:Mozilla/4.0(compatible;MSIE6.0;WindowsNT5.1;SV1)Host:192.168.2.162:8080Connection:Keep-AliveEXAM:2.2.2请求方法 HTTP的请求方法包括如下几种：q GETq POSTq HEADq PUTq DELETEq OPTIONSq TRACEq CONNECT2.3 HTTP响应消息2.3.1响应消息格式HTTP响应消息的格式如下所示：状态行通用信息头|响应头|实体头CRLF实体内容其中：状态行 = 版本号 空格 状态码 空格 原因 回车换行状态行举例：Eg1：HTTP/1.0200OK Eg2：HTTP/1.1400BadRequest HTTP响应消息实例如下所示：HTTP/1.1200OKETag:W/158-1192590101000Last-Modified:Wed,17Oct200703:01:41GMTContent-Type:text/htmlContent-Length:158Date:Wed,17Oct200703:01:59GMTServer:Apache-Coyote/1.12.3.2 http的状态响应码2.3.2.1 1*：请求收到，继续处理100客户必须继续发出请求101客户要求服务器根据请求转换HTTP协议版本2.3.2.2 2*：操作成功收到，分析、接受200交易成功201提示知道新文件的URL202接受和处理、但处理未完成203返回信息不确定或不完整204请求收到，但返回信息为空205服务器完成了请求，用户代理必须复位当前已经浏览过的文件206服务器已经完成了部分用户的GET请求2.3.2.3 3*：完成此请求必须进一步处理300请求的资源可在多处得到301删除请求数据302在其他地址发现了请求数据303建议客户访问其他URL或访问方式304客户端已经执行了GET，但文件未变化305请求的资源必须从服务器指定的地址得到306前一版本HTTP中使用的代码，现行版本中不再使用307申明请求的资源临时性删除2.3.2.4 4*：请求包含一个错误语法或不能完成400错误请求，如语法错误401未授权HTTP 401.1 - 未授权：登录失败HTTP 401.2 - 未授权：服务器配置问题导致登录失败HTTP 401.3 - ACL 禁止访问资源HTTP 401.4 - 未授权：授权被筛选器拒绝HTTP 401.5 - 未授权：ISAPI 或 CGI 授权失败402保留有效ChargeTo头响应403禁止访问HTTP 403.1 禁止访问：禁止可执行访问HTTP 403.2 - 禁止访问：禁止读访问HTTP 403.3 - 禁止访问：禁止写访问HTTP 403.4 - 禁止访问：要求 SSLHTTP 403.5 - 禁止访问：要求 SSL 128HTTP 403.6 - 禁止访问：IP 地址被拒绝HTTP 403.7 - 禁止访问：要求客户证书HTTP 403.8 - 禁止访问：禁止站点访问HTTP 403.9 - 禁止访问：连接的用户过多HTTP 403.10 - 禁止访问：配置无效HTTP 403.11 - 禁止访问：密码更改HTTP 403.12 - 禁止访问：映射器拒绝访问HTTP 403.13 - 禁止访问：客户证书已被吊销HTTP 403.15 - 禁止访问：客户访问许可过多HTTP 403.16 - 禁止访问：客户证书不可信或者无效HTTP 403.17 - 禁止访问：客户证书已经到期或者尚未生效404没有发现文件、查询或URl405用户在Request-Line字段定义的方法不允许406根据用户发送的Accept拖，请求资源不可访问407类似401，用户必须首先在代理服务器上得到授权408客户端没有在用户指定的饿时间内完成请求409对当前资源状态，请求不能完成410服务器上不再有此资源且无进一步的参考地址411服务器拒绝用户定义的Content-Length属性请求412一个或多个请求头字段在当前请求中错误413请求的资源大于服务器允许的大小414请求的资源URL长于服务器允许的长度415请求资源不支持请求项目格式416请求中包含Range请求头字段，在当前请求资源范围内没有range指示值，请求也不包含If-Range请求头字段417服务器不满足请求Expect头字段指定的期望值，如果是代理服务器，可能是下一级服务器不能满足请求长。2.3.2.5 5*：服务器执行一个完全有效请求失败HTTP 500 - 内部服务器错误HTTP 500.100 - 内部服务器错误 - ASP 错误HTTP 500-11 服务器关闭HTTP 500-12 应用程序重新启动HTTP 500-13 - 服务器太忙HTTP 500-14 - 应用程序无效HTTP 500-15 - 不允许请求 global.asaError 501 - 未实现HTTP 502 - 网关错误2.4 使用telnet进行http测试 在Windows下，可使用命令窗口进行http简单测试。 输入cmd进入命令窗口，在命令行键入如下命令后按回车：telnet80 而后在窗口中按下“Ctrl+”后按回车可让返回结果回显。接着开始发请求消息，例如发送如下请求消息请求baidu的首页消息，使用的HTTP协议为HTTP/1.1：GET/index.htmlHTTP/1.1注意：copy如上的消息到命令窗口后需要按两个回车换行才能得到响应的消息，第一个回车换行是在命令后键入回车换行，是HTTP协议要求的。第二个是确认输入，发送请求。可看到返回了200 OK的消息，如下图所示： 可看到，当采用HTTP/1.1时，连接不是在请求结束后就断开的。若采用HTTP1.0，在命令窗口键入：GET/index.htmlHTTP/1.0 此时可以看到请求结束之后马上断开。 读者还可以尝试在使用GET或POST等时，带上头域信息，例如键入如下信息：GET/index.htmlHTTP/1.1connection:closeHost:2.5 常用的请求方式 常用的请求方式是GET和POST.l GET方式：是以实体的方式得到由请求URI所指定资源的信息，如果请求URI只是一个数据产生过程，那么最终要在响应实体中返回的是处理过程的结果所指向的资源，而不是处理过程的描述。l POST方式：用来向目的服务器发出请求，要求它接受被附在请求后的实体，并把它当作请求队列中请求URI所指定资源的附加新子项，Post被设计成用统一的方法实现下列功能：1：对现有资源的解释；2：向电子公告栏、新闻组、邮件列表或类似讨论组发信息；3：提交数据块；4：通过附加操作来扩展数据库 。从上面描述可以看出，Get是向服务器发索取数据的一种请求；而Post是向服务器提交数据的一种请求，要提交的数据位于信息头后面的实体中。 GET与POST方法有以下区别：（1） 在客户端，Get方式在通过URL提交数据，数据在URL中可以看到；POST方式，数据放置在HTML HEADER内提交。（2） GET方式提交的数据最多只能有1024字节，而POST则没有此限制。（3） 安全性问题。正如在（1）中提到，使用 Get 的时候，参数会显示在地址栏上，而 Post 不会。所以，如果这些数据是中文数据而且是非敏感数据，那么使用 get；如果用户输入的数据不是中文字符而且包含敏感数据，那么还是使用 post为好。（4） 安全的和幂等的。所谓安全的意味着该操作用于获取信息而非修改信息。幂等的意味着对同一 URL 的多个请求应该返回同样的结果。完整的定义并不像看起来那样严格。换句话说，GET 请求一般不应产生副作用。从根本上讲，其目标是当用户打开一个链接时，她可以确信从自身的角度来看没有改变资源。比如，新闻站点的头版不断更新。虽然第二次请求会返回不同的一批新闻，该操作仍然被认为是安全的和幂等的，因为它总是返回当前的新闻。反之亦然。POST 请求就不那么轻松了。POST 表示可能改变服务器上的资源的请求。仍然以新闻站点为例，读者对文章的注解应该通过 POST 请求实现，因为在注解提交之后站点已经不同了（比方说文章下面出现一条注解）。 2.6 请求头HTTP最常见的请求头如下：l Accept：浏览器可接受的MIME类型；l Accept-Charset：浏览器可接受的字符集；l Accept-Encoding：浏览器能够进行解码的数据编码方式，比如gzip。Servlet能够向支持gzip的浏览器返回经gzip编码的HTML页面。许多情形下这可以减少5到10倍的下载时间；l Accept-Language：浏览器所希望的语言种类，当服务器能够提供一种以上的语言版本时要用到；l Authorization：授权信息，通常出现在对服务器发送的WWW-Authenticate头的应答中；l Connection：表示是否需要持久连接。如果Servlet看到这里的值为“Keep-Alive”，或者看到请求使用的是HTTP 1.1（HTTP 1.1默认进行持久连接），它就可以利用持久连接的优点，当页面包含多个元素时（例如Applet，图片），显著地减少下载所需要的时间。要实现这一点，Servlet需要在应答中发送一个Content-Length头，最简单的实现方法是：先把内容写入ByteArrayOutputStream，然后在正式写出内容之前计算它的大小；l Content-Length：表示请求消息正文的长度；l Cookie：这是最重要的请求头信息之一；l From：请求发送者的email地址，由一些特殊的Web客户程序使用，浏览器不会用到它； l Host：初始URL中的主机和端口；l If-Modified-Since：只有当所请求的内容在指定的日期之后又经过修改才返回它，否则返回304“Not Modified”应答；l Pragma：指定“no-cache”值表示服务器必须返回一个刷新后的文档，即使它是代理服务器而且已经有了页面的本地拷贝；l Referer：包含一个URL，用户从该URL代表的页面出发访问当前请求的页面。 l User-Agent：浏览器类型，如果Servlet返回的内容与浏览器类型有关则该值非常有用；l UA-Pixels，UA-Color，UA-OS，UA-CPU：由某些版本的IE浏览器所发送的非标准的请求头，表示屏幕大小、颜色深度、操作系统和CPU类型。 2.7 响应头HTTP最常见的响应头如下所示：l Allow：服务器支持哪些请求方法（如GET、POST等）；l Content-Encoding：文档的编码（Encode）方法。只有在解码之后才可以得到Content-Type头指定的内容类型。利用gzip压缩文档能够显著地减少HTML文档的下载时间。Java的GZIPOutputStream可以很方便地进行gzip压缩，但只有Unix上的Netscape和Windows上的IE 4、IE 5才支持它。因此，Servlet应该通过查看Accept-Encoding头（即request.getHeader(Accept-Encoding)）检查浏览器是否支持gzip，为支持gzip的浏览器返回经gzip压缩的HTML页面，为其他浏览器返回普通页面；l Content-Length：表示内容长度。只有当浏览器使用持久HTTP连接时才需要这个数据。如果你想要利用持久连接的优势，可以把输出文档写入ByteArrayOutputStram，完成后查看其大小，然后把该值放入Content-Length头，最后通过byteArrayStream.writeTo(response.getOutputStream()发送内容； l Content-Type： 表示后面的文档属于什么MIME类型。Servlet默认为text/plain，但通常需要显式地指定为text/html。由于经常要设置Content-Type，因此HttpServletResponse提供了一个专用的方法setContentTyep。 可在web.xml文件中配置扩展名和MIME类型的对应关系；l Date：当前的GMT时间。你可以用setDateHeader来设置这个头以避免转换时间格式的麻烦；l Expires：指明应该在什么时候认为文档已经过期，从而不再缓存它。l Last-Modified：文档的最后改动时间。客户可以通过If-Modified-Since请求头提供一个日期，该请求将被视为一个条件GET，只有改动时间迟于指定时间的文档才会返回，否则返回一个304（Not Modified）状态。Last-Modified也可用setDateHeader方法来设置；l Location：表示客户应当到哪里去提取文档。Location通常不是直接设置的，而是通过HttpServletResponse的sendRedirect方法，该方法同时设置状态代码为302；l Refresh：表示浏览器应该在多少时间之后刷新文档，以秒计。除了刷新当前文档之外，你还可以通过setHeader(Refresh, 5; URL=http:/host/path)让浏览器读取指定的页面。注意这种功能通常是通过设置HTML页面HEAD区的实现，这是因为，自动刷新或重定向对于那些不能使用CGI或Servlet的HTML编写者十分重要。但是，对于Servlet来说，直接设置Refresh头更加方便。注意Refresh的意义是“N秒之后刷新本页面或访问指定页面”，而不是“每隔N秒刷新本页面或访问指定页面”。因此，连续刷新要求每次都发送一个Refresh头，而发送204状态代码则可以阻止浏览器继续刷新，不管是使用Refresh头还是。注意Refresh头不属于HTTP 1.1正式规范的一部分，而是一个扩展，但Netscape和IE都支持它。2.8实体头实体头用坐实体内容的元信息，描述了实体内容的属性，包括实体信息类型，长度，压缩方法，最后一次修改时间，数据有效性等。l Allow：GET,POSTl Content-Encoding：文档的编码（Encode）方法，例如：gzip，见“2.5 响应头”；l Content-Language：内容的语言类型，例如：zh-cn；l Content-Length：表示内容长度，eg：80，可参考“2.5响应头”；l Content-Location：表示客户应当到哪里去提取文档，例如：http:/www.dfdf.org/dfdf.html，可参考“2.5响应头”；l Content-MD5：MD5 实体的一种MD5摘要，用作校验和。发送方和接受方都计算MD5摘要，接受方将其计算的值与此头标中传递的值