doc/ChangeLog

   1 WHAT'S NEW in version 4.6.0
   2
   3    Split simple robot: separate network operations and
   4    URL handling/HTML parsing.
   5
   6    Adapt JSON storage to recent Mozilla export format.
   7
   8
   9 WHAT'S NEW in version 4.5.7
  10
  11    Add ChangeLog.
  12
  13
  14 WHAT'S NEW in version 4.5.6 (2014-01-14)
  15
  16    Remove absolute directory ~/lib to make it portable.
  17
  18
  19 WHAT'S NEW in version 4.5.5 (2013-12-05)
  20
  21    Parse <meta charset="...">.
  22
  23
  24 WHAT'S NEW in version 4.5.4 (2013-11-23)
  25
  26    Published through git/gitweb.
  27
  28
  29 WHAT'S NEW in version 4.5.3 (2013-07-26)
  30
  31    Minor tweak in Makefile.
  32
  33    Switched to git.
  34
  35
  36 WHAT'S NEW in version 4.5.2 (2012-09-24)
  37
  38    Removed svn:keywords.
  39
  40    Handle redirects with codes 303 and 307.
  41
  42    Fixed a bug in handling place: URIs (do not append '//').
  43
  44
  45 WHAT'S NEW in version 4.5.1 (2011-12-28).
  46
  47    Read/write mozilla-specific date/time format in json storage.
  48
  49
  50 WHAT'S NEW in version 4.5.0 (2011-12-18).
  51
  52    Encode international domain names with IDNA encoding.
  53
  54    Adapted to different Mozilla 'place' URIs.
  55
  56
  57 WHAT'S NEW in version 4.4.0 (2011-01-07).
  58
  59    Moved BeautifulSoup.py and subproc.py from Robots/ to the top-level
  60    directory.
  61
  62    Moved parse_html.py and its submodules to a separate parse_html package.
  63
  64    Added statistics code to parse_html, got a statistics on parser
  65    success/failrure rate, reordered parsers.
  66
  67    Removed old cruft.
  68
  69
  70 WHAT'S NEW in version 4.3.1 (2011-01-03).
  71
  72    Get favicon before HTML redirect (refresh).
  73
  74
  75 WHAT'S NEW in version 4.3.0 (2011-01-01).
  76
  77    Robots no longer have one global temporary file - there are at least two
  78    (html and favicon), and in the future there will be more for asynchronous
  79    robot(s) that would test many URLs in parallel.
  80
  81
  82 WHAT'S NEW in version 4.2.2.
  83
  84     Added HTML Parser based on lxml.
  85
  86
  87 WHAT'S NEW in version 4.2.1 (2010-08-12).
  88
  89    Added HTML Parser based on html5 library.
  90
  91
  92 WHAT'S NEW in version 4.2.0 (2010-08-11).
  93
  94    New storage: json; it allows to load and store Mozilla (Firefox) backup
  95    files.
  96
  97
  98 WHAT'S NEW in version 4.1.2
  99
 100    Process http error 307 as a temporary redirect.
 101
 102
 103 WHAT'S NEW in version 4.1.1 (2008-03-10)
 104
 105    Catch and report all errors.
 106
 107    Consider application/xhtml+xml as HTML.
 108
 109    Better handling of exceptions while looking up the icon.
 110
 111    Recode HTML entities.
 112
 113    Always use utf-8 as the default encoding.
 114
 115
 116 WHAT'S NEW in version 4.1.0 (2008-01-14)
 117
 118    Parser for HTML based on BeautifulSoup.
 119
 120    Changed User-agent header: I saw a number of sites that forbid
 121    "Mozilla compatible" browsers. Added a number of fake headers to pretend
 122    this is a real web-browser - there are still stupid sites
 123    that are trying to protect themselves from robots by analyzing headers.
 124
 125    Handle redirects while looking for the icon.
 126
 127    Handle float timeouts in HTML redirects.
 128
 129    Minimal required version of Python is 2.5 now.
 130
 131
 132 WHAT'S NEW in version 4.0.0 (2007-10-20)
 133
 134    Extended support for Mozilla: charset and icon in bookmarks.
 135    Use the charset to add Accept-Charset header.
 136    Retrieve favicon.ico (or whatever <link> points to) and store it.
 137
 138    The project celebrates 10th anniversary!
 139
 140
 141 WHAT'S NEW in version 3.4.1 (2005-01-29)
 142
 143    Updated to Python 2.4. Switched from CVS to Subversion.
 144
 145
 146 WHAT'S NEW in version 3.4.0 (2004-09-23)
 147
 148    Extended support for Mozilla: keywords in bookmarks.
 149    Updated to m_lib version 1.2.
 150
 151
 152 WHAT'S NEW in version 3.3.2
 153
 154    parse_html.py can now recode unicode entities in titles.
 155
 156
 157 WHAT'S NEW in version 3.3.0
 158
 159    Required Python 2.2.
 160
 161    HTML parser. If the protocol is HTTP, and there is Content-Type header, and
 162    content type is text/html, the object is parsed to extract its title; if
 163    the Content-Type header has charset, or if the HTML has <META> with
 164    charset, the title is converted from the given charset to the default
 165    charset. The <HEADER> is also parsed to extract <META> tag with redirect,
 166    if any.
 167
 168
 169 WHAT'S NEW in version 3.0
 170
 171    Complete rewrite from scratch. Created mechanism for pluggable storage
 172    managers, writers (DB dumpers/exporters) and robots.