]> git.phdru.name Git - bookmarks_db.git/blobdiff - Robots/bkmk_rrequests.py
Fix(Robots/bkmk_rrequests): Add forgotten spaces in log
[bookmarks_db.git] / Robots / bkmk_rrequests.py
index 54b4c625d6bcf28cfb4497099cebba5fd2c39426..c6a91af3a962a3da3057c022b08edaaf96542ee3 100644 (file)
@@ -36,7 +36,7 @@ class robot_requests(robot_base):
         url_host = split_results.hostname
 
         if url_host in self.proxy_error:
-            return 'proxy error', None, None, None, None
+            return 'see prev. error', None, None, None, None
 
         if accept_charset and bookmark.charset:
             headers = request_headers.copy()
@@ -50,16 +50,16 @@ class robot_requests(robot_base):
         else:
             error, r = request_get(url, headers, self.timeout, None)
             if error is not None:
-                self.log('   Error: %s' % error)
-                if self.proxy:
+                self.log('   Error          : %s' % error)
+                if self.proxy and error != '404 not_found':
                     self.log('   Retrying with the proxy...')
                     error, r = request_get(url, headers,
                                            self.timeout, self.proxy)
                     if error is None:
                         self.proxy_ok.add(url_host)
         if error is not None:
-            if self.proxy:
-                self.log('   Proxy error: %s' % error)
+            if self.proxy and error != '404 not_found':
+                self.log('   Proxy error    : %s' % error)
                 if url_host not in self.proxy_ok:
                     self.proxy_error.add(url_host)
             return error, None, None, None, None
@@ -84,4 +84,7 @@ def request_get(url, headers, timeout, proxy):
     except requests.RequestException as e:
         return str(e), None
     else:
+        if r.status_code >= 400:
+            error = requests.status_codes._codes[r.status_code][0]
+            return '%d %s' % (r.status_code, error), None
         return None, r