wamblee.org Git - utils/blob - crawler/basic/src/org/wamblee/crawler/GetPageRequest.java

   1 /*
   2  * Copyright 2005 the original author or authors.
   3  *
   4  * Licensed under the Apache License, Version 2.0 (the "License");
   5  * you may not use this file except in compliance with the License.
   6  * You may obtain a copy of the License at
   7  *
   8  *      http://www.apache.org/licenses/LICENSE-2.0
   9  *
  10  * Unless required by applicable law or agreed to in writing, software
  11  * distributed under the License is distributed on an "AS IS" BASIS,
  12  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  13  * See the License for the specific language governing permissions and
  14  * limitations under the License.
  15  */
  16
  17 package org.wamblee.crawler;
  18
  19 import java.io.IOException;
  20 import java.io.PrintStream;
  21
  22 import javax.xml.transform.TransformerException;
  23
  24 import org.apache.commons.httpclient.HttpClient;
  25 import org.apache.commons.httpclient.HttpMethod;
  26 import org.apache.commons.httpclient.NameValuePair;
  27 import org.apache.commons.httpclient.methods.GetMethod;
  28 import org.w3c.dom.Document;
  29
  30 /**
  31  * Gets a page by issueing a get request.
  32  */
  33 public class GetPageRequest extends AbstractPageRequest {
  34
  35     /**
  36      * Constructs the request.
  37      * @param aMaxTries Maximum number of retries.
  38      * @param aMaxDelay Maximum delay before executing the request.
  39      * @param aParams Request parameters to use.
  40      * @param aXslt XSLT to use.
  41      */
  42     public GetPageRequest(int aMaxTries, int aMaxDelay, NameValuePair[] aParams, String aXslt) {
  43         super(aMaxTries, aMaxDelay, aParams, aXslt, null);
  44     }
  45
  46     /**
  47      * Constructs the request.
  48      * @param aMaxTries Maximum number of retries.
  49      * @param aMaxDelay Maximum delay before executing the request.
  50      * @param aParams Request parameters to use.
  51      * @param aXslt XSLT to use.
  52      * @param aOs Logging output stream to use.
  53      */
  54     public GetPageRequest(int aMaxTries, int aMaxDelay, NameValuePair[] aParams, String aXslt, PrintStream aOs) {
  55         super(aMaxTries, aMaxDelay, aParams, aXslt, aOs);
  56     }
  57
  58     /*
  59      * (non-Javadoc)
  60      *
  61      * @see org.wamblee.crawler.PageRequest#getPage(org.apache.commons.httpclient.HttpClient)
  62      */
  63     public Document execute(String aUrl, HttpClient aClient)
  64             throws PageException {
  65         HttpMethod method = new GetMethod(aUrl);
  66         if (getParameters().length > 0) {
  67             String oldQueryString = method.getQueryString();
  68             method.setQueryString(getParameters());
  69             String queryString = method.getQueryString();
  70             if (oldQueryString.length() > 0) {
  71                 queryString = queryString + '&' + oldQueryString;
  72                 method.setQueryString(queryString);
  73             }
  74         }
  75         try {
  76             return executeMethod(aClient, method);
  77         } catch (TransformerException e) {
  78             throw new PageException(e.getMessage(), e);
  79         } catch (IOException e) {
  80             throw new PageException(e.getMessage(), e);
  81         }
  82     }
  83
  84 }