doc/ChangeLog

   1 WHAT'S NEW in version 4.5.7
   2
   3    Add ChangeLog.
   4
   5
   6 WHAT'S NEW in version 4.5.6 (2014-01-14)
   7
   8    Remove absolute directory ~/lib to make it portable.
   9
  10
  11 WHAT'S NEW in version 4.5.5 (2013-12-05)
  12
  13    Parse <meta charset="...">.
  14
  15
  16 WHAT'S NEW in version 4.5.4 (2013-11-23)
  17
  18    Published through git/gitweb.
  19
  20
  21 WHAT'S NEW in version 4.5.3 (2013-07-26)
  22
  23    Minor tweak in Makefile.
  24
  25    Switched to git.
  26
  27
  28 WHAT'S NEW in version 4.5.2 (2012-09-24)
  29
  30    Removed svn:keywords.
  31
  32    Handle redirects with codes 303 and 307.
  33
  34    Fixed a bug in handling place: URIs (do not append '//').
  35
  36
  37 WHAT'S NEW in version 4.5.1 (2011-12-28).
  38
  39    Read/write mozilla-specific date/time format in json storage.
  40
  41
  42 WHAT'S NEW in version 4.5.0 (2011-12-18).
  43
  44    Encode international domain names with IDNA encoding.
  45
  46    Adapted to different Mozilla 'place' URIs.
  47
  48
  49 WHAT'S NEW in version 4.4.0 (2011-01-07).
  50
  51    Moved BeautifulSoup.py and subproc.py from Robots/ to the top-level
  52    directory.
  53
  54    Moved parse_html.py and its submodules to a separate parse_html package.
  55
  56    Added statistics code to parse_html, got a statistics on parser
  57    success/failrure rate, reordered parsers.
  58
  59    Removed old cruft.
  60
  61
  62 WHAT'S NEW in version 4.3.1 (2011-01-03).
  63
  64    Get favicon before HTML redirect (refresh).
  65
  66
  67 WHAT'S NEW in version 4.3.0 (2011-01-01).
  68
  69    Robots no longer have one global temporary file - there are at least two
  70    (html and favicon), and in the future there will be more for asynchronous
  71    robot(s) that would test many URLs in parallel.
  72
  73
  74 WHAT'S NEW in version 4.2.2.
  75
  76     Added HTML Parser based on lxml.
  77
  78
  79 WHAT'S NEW in version 4.2.1 (2010-08-12).
  80
  81    Added HTML Parser based on html5 library.
  82
  83
  84 WHAT'S NEW in version 4.2.0 (2010-08-11).
  85
  86    New storage: json; it allows to load and store Mozilla (Firefox) backup
  87    files.
  88
  89
  90 WHAT'S NEW in version 4.1.2
  91
  92    Process http error 307 as a temporary redirect.
  93
  94
  95 WHAT'S NEW in version 4.1.1 (2008-03-10)
  96
  97    Catch and report all errors.
  98
  99    Consider application/xhtml+xml as HTML.
 100
 101    Better handling of exceptions while looking up the icon.
 102
 103    Recode HTML entities.
 104
 105    Always use utf-8 as the default encoding.
 106
 107
 108 WHAT'S NEW in version 4.1.0 (2008-01-14)
 109
 110    Parser for HTML based on BeautifulSoup.
 111
 112    Changed User-agent header: I saw a number of sites that forbid
 113    "Mozilla compatible" browsers. Added a number of fake headers to pretend
 114    this is a real web-browser - there are still stupid sites
 115    that are trying to protect themselves from robots by analyzing headers.
 116
 117    Handle redirects while looking for the icon.
 118
 119    Handle float timeouts in HTML redirects.
 120
 121    Minimal required version of Python is 2.5 now.
 122
 123
 124 WHAT'S NEW in version 4.0.0 (2007-10-20)
 125
 126    Extended support for Mozilla: charset and icon in bookmarks.
 127    Use the charset to add Accept-Charset header.
 128    Retrieve favicon.ico (or whatever <link> points to) and store it.
 129
 130    The project celebrates 10th anniversary!
 131
 132
 133 WHAT'S NEW in version 3.4.1 (2005-01-29)
 134
 135    Updated to Python 2.4. Switched from CVS to Subversion.
 136
 137
 138 WHAT'S NEW in version 3.4.0 (2004-09-23)
 139
 140    Extended support for Mozilla: keywords in bookmarks.
 141    Updated to m_lib version 1.2.
 142
 143
 144 WHAT'S NEW in version 3.3.2
 145
 146    parse_html.py can now recode unicode entities in titles.
 147
 148
 149 WHAT'S NEW in version 3.3.0
 150
 151    Required Python 2.2.
 152
 153    HTML parser. If the protocol is HTTP, and there is Content-Type header, and
 154    content type is text/html, the object is parsed to extract its title; if
 155    the Content-Type header has charset, or if the HTML has <META> with
 156    charset, the title is converted from the given charset to the default
 157    charset. The <HEADER> is also parsed to extract <META> tag with redirect,
 158    if any.
 159
 160
 161 WHAT'S NEW in version 3.0
 162
 163    Complete rewrite from scratch. Created mechanism for pluggable storage
 164    managers, writers (DB dumpers/exporters) and robots.