(no commit message)
[utils] / crawler / basic / src / org / wamblee / crawler / AbstractPageRequest.java
index 0c47430bd87b49af267bd82437c3e9dd4c1282ea..baf9510b8c2ee9d560d1e888fbb58b8bd5b7b170 100644 (file)
@@ -19,7 +19,6 @@ package org.wamblee.crawler;
 import java.io.ByteArrayOutputStream;
 import java.io.File;
 import java.io.IOException;
-import java.io.PrintStream;
 
 import javax.xml.transform.OutputKeys;
 import javax.xml.transform.Transformer;
@@ -31,11 +30,9 @@ import javax.xml.transform.stream.StreamResult;
 
 import org.apache.commons.httpclient.Header;
 import org.apache.commons.httpclient.HttpClient;
-import org.apache.commons.httpclient.HttpException;
 import org.apache.commons.httpclient.HttpMethod;
 import org.apache.commons.httpclient.HttpStatus;
 import org.apache.commons.httpclient.NameValuePair;
-import org.apache.commons.httpclient.URIException;
 import org.apache.commons.httpclient.methods.GetMethod;
 import org.apache.commons.logging.Log;
 import org.apache.commons.logging.LogFactory;
@@ -64,18 +61,20 @@ public abstract class AbstractPageRequest implements PageRequest {
 
     private String _xslt;
 
-    private PrintStream _os;
-
     /**
-     * Constructs the request. 
-     * @param aMaxTries Maximum retries to perform. 
-     * @param aMaxDelay Maximum delay before executing a request. 
-     * @param aParams Request parameters to use. 
-     * @param aXslt XSLT used to convert the response. 
-     * @param aOs Output stream for logging (if null then no logging is done).
+     * Constructs the request.
+     * 
+     * @param aMaxTries
+     *            Maximum retries to perform.
+     * @param aMaxDelay
+     *            Maximum delay before executing a request.
+     * @param aParams
+     *            Request parameters to use.
+     * @param aXslt
+     *            XSLT used to convert the response.
      */
     protected AbstractPageRequest(int aMaxTries, int aMaxDelay,
-            NameValuePair[] aParams, String aXslt, PrintStream aOs) {
+            NameValuePair[] aParams, String aXslt) {
         if (aParams == null) {
             throw new IllegalArgumentException("aParams is null");
         }
@@ -86,7 +85,6 @@ public abstract class AbstractPageRequest implements PageRequest {
         _maxDelay = aMaxDelay;
         _params = aParams;
         _xslt = aXslt;
-        _os = aOs;
     }
 
     /*
@@ -99,23 +97,30 @@ public abstract class AbstractPageRequest implements PageRequest {
     }
 
     /**
-     * Gets the parameters for the request. 
-     * @return Request parameters. 
+     * Gets the parameters for the request.
+     * 
+     * @return Request parameters.
      */
     protected NameValuePair[] getParameters() {
         return _params;
     }
 
     /**
-     * Executes the request with a random delay and with a maximum number of 
-     * retries. 
-     * @param aClient HTTP client to use. 
-     * @param aMethod Method representing the request. 
-     * @return XML document describing the response. 
-     * @throws TransformerException In case transformation of the HTML to XML fails.
+     * Executes the request with a random delay and with a maximum number of
+     * retries.
+     * 
+     * @param aClient
+     *            HTTP client to use.
+     * @param aMethod
+     *            Method representing the request.
+     * @return XML document describing the response.
+     * @throws IOException
+     *             In case of IO problems.
+     * @throws TransformerException
+     *             In case transformation of the HTML to XML fails.
      */
     protected Document executeMethod(HttpClient aClient, HttpMethod aMethod)
-            throws TransformerException {
+            throws IOException, TransformerException {
         int triesLeft = _maxTries;
         while (triesLeft > 0) {
             triesLeft--;
@@ -131,34 +136,36 @@ public abstract class AbstractPageRequest implements PageRequest {
     }
 
     /**
-     * Executes the request without doing any retries in case XSLT transformation
-     * fails. 
-     * @param aClient HTTP client to use. 
-     * @param aMethod Method to execute. 
-     * @return XML document containing the result. 
-     * @throws TransformerException In case transformation of the result to XML fails.
+     * Executes the request without doing any retries in case XSLT
+     * transformation fails.
+     * 
+     * @param aClient
+     *            HTTP client to use.
+     * @param aMethod
+     *            Method to execute.
+     * @return XML document containing the result.
+     * @throws IOException
+     *             In case of IO problems.
+     * @throws TransformerException
+     *             In case transformation of the result to XML fails.
      */
     protected Document executeMethodWithoutRetries(HttpClient aClient,
-            HttpMethod aMethod) throws TransformerException {
+            HttpMethod aMethod) throws IOException, TransformerException {
         try {
             aMethod = executeWithRedirects(aClient, aMethod);
             byte[] xhtmlData = getXhtml(aMethod);
-        
+
             Document transformed = new XSLT().transform(xhtmlData,
                     new FileResource(new File(_xslt)));
-            _os.println("Transformed result is: ");
+            ByteArrayOutputStream os = new ByteArrayOutputStream(); 
             Transformer transformer = TransformerFactory.newInstance()
                     .newTransformer();
             transformer.setParameter(OutputKeys.INDENT, "yes");
             transformer.setParameter(OutputKeys.METHOD, "xml");
             transformer.transform(new DOMSource(transformed), new StreamResult(
-                    _os));
-
+                    os));
+            LOG.debug("Transformed result is \n" + os.toString());
             return transformed;
-        } catch (HttpException e) {
-            throw new RuntimeException(e.getMessage(), e);
-        } catch (IOException e) {
-            throw new RuntimeException(e.getMessage(), e);
         } catch (TransformerConfigurationException e) {
             throw new RuntimeException(e.getMessage(), e);
         } finally {
@@ -168,43 +175,41 @@ public abstract class AbstractPageRequest implements PageRequest {
     }
 
     /**
-     * Gets the result of the HTTP method as an XHTML document. 
-     * @param aMethod Method to invoke.
-     * @return XHTML as a byte array.  
-     * @throws URIException In case of poblems with the URI
-     * @throws IOException In case of problems obtaining the XHTML.
+     * Gets the result of the HTTP method as an XHTML document.
+     * 
+     * @param aMethod
+     *            Method to invoke.
+     * @return XHTML as a byte array.
+     * @throws IOException
+     *             In case of problems obtaining the XHTML.
      */
-       private byte[] getXhtml(HttpMethod aMethod) throws URIException, IOException {
-               // Transform the HTML into wellformed XML.
-               Tidy tidy = new Tidy();
-               tidy.setXHTML(true);
-               tidy.setQuiet(true);
-               tidy.setShowWarnings(false);
-               if (_os != null) {
-                   _os.println("Content of '" + aMethod.getURI() + "'");
-                   _os.println();
-               }
-               // We write the jtidy output to XML since the DOM tree it produces is
-               // not namespace aware and namespace awareness is required by XSLT.
-               // An alternative is to configure namespace awareness of the XML parser 
-               // in a system wide way. 
-               Document w3cDoc = tidy.parseDOM(aMethod.getResponseBodyAsStream(),
-                  _os);
-               DOMUtility.removeDuplicateAttributes(w3cDoc);
-               
-               ByteArrayOutputStream xhtml = new ByteArrayOutputStream(); 
-               XMLSerializer serializer = new XMLSerializer(xhtml, new OutputFormat());
-               serializer.serialize(w3cDoc);
-               xhtml.flush();
-               if (_os != null) {
-           _os.println();
-        }
-               return xhtml.toByteArray();
-       }
+    private byte[] getXhtml(HttpMethod aMethod) throws IOException {
+        // Transform the HTML into wellformed XML.
+        Tidy tidy = new Tidy();
+        tidy.setXHTML(true);
+        tidy.setQuiet(true);
+        tidy.setShowWarnings(false);
+      
+        // We write the jtidy output to XML since the DOM tree it produces is
+        // not namespace aware and namespace awareness is required by XSLT.
+        // An alternative is to configure namespace awareness of the XML parser
+        // in a system wide way.
+        ByteArrayOutputStream os = new ByteArrayOutputStream(); 
+        Document w3cDoc = tidy.parseDOM(aMethod.getResponseBodyAsStream(), os);
+        DOMUtility.removeDuplicateAttributes(w3cDoc);
+        LOG.debug("Content of response is \n" + os.toString()); 
+
+        ByteArrayOutputStream xhtml = new ByteArrayOutputStream();
+        XMLSerializer serializer = new XMLSerializer(xhtml, new OutputFormat());
+        serializer.serialize(w3cDoc);
+        xhtml.flush();
+
+        return xhtml.toByteArray();
+    }
 
     /**
      * Sleeps for a random time but no more than the maximum delay.
-     *
+     * 
      */
     private void delay() {
         try {
@@ -215,12 +220,16 @@ public abstract class AbstractPageRequest implements PageRequest {
     }
 
     /**
-     * Executes the request and follows redirects if needed. 
-     * @param aClient HTTP client to use. 
-     * @param aMethod Method to use.
-     * @return Final HTTP method used (differs from the parameter passed in in case 
-     *   of redirection).
-     * @throws IOException In case of network problems.
+     * Executes the request and follows redirects if needed.
+     * 
+     * @param aClient
+     *            HTTP client to use.
+     * @param aMethod
+     *            Method to use.
+     * @return Final HTTP method used (differs from the parameter passed in in
+     *         case of redirection).
+     * @throws IOException
+     *             In case of network problems.
      */
     private HttpMethod executeWithRedirects(HttpClient aClient,
             HttpMethod aMethod) throws IOException {
@@ -238,8 +247,8 @@ public abstract class AbstractPageRequest implements PageRequest {
             Header header = aMethod.getResponseHeader(REDIRECT_HEADER);
             aMethod = new GetMethod(header.getValue());
             return executeWithRedirects(aClient, aMethod); // TODO protect
-                                                            // against infinite
-                                                            // recursion.
+            // against infinite
+            // recursion.
         }
         default: {
             throw new RuntimeException("Method failed: "