doc/ChangeLog

   1 WHAT'S NEW in version 4.6.0 (2014-06-??)
   2
   3    Split simple robot: separate network operations and
   4    URL handling/HTML parsing.
   5
   6    Change parse_html to parse strings, not files.
   7
   8    Split parse_html/__init__.py into __main__.py.
   9
  10    Adapt JSON storage to recent Mozilla export format.
  11
  12    Add ChangeLog.
  13
  14
  15 WHAT'S NEW in version 4.5.6 (2014-01-14)
  16
  17    Remove absolute directory ~/lib to make it portable.
  18
  19
  20 WHAT'S NEW in version 4.5.5 (2013-12-05)
  21
  22    Parse <meta charset="...">.
  23
  24
  25 WHAT'S NEW in version 4.5.4 (2013-11-23)
  26
  27    Published through git/gitweb.
  28
  29
  30 WHAT'S NEW in version 4.5.3 (2013-07-26)
  31
  32    Minor tweak in Makefile.
  33
  34    Switched to git.
  35
  36
  37 WHAT'S NEW in version 4.5.2 (2012-09-24)
  38
  39    Removed svn:keywords.
  40
  41    Handle redirects with codes 303 and 307.
  42
  43    Fixed a bug in handling place: URIs (do not append '//').
  44
  45
  46 WHAT'S NEW in version 4.5.1 (2011-12-28).
  47
  48    Read/write mozilla-specific date/time format in json storage.
  49
  50
  51 WHAT'S NEW in version 4.5.0 (2011-12-18).
  52
  53    Encode international domain names with IDNA encoding.
  54
  55    Adapted to different Mozilla 'place' URIs.
  56
  57
  58 WHAT'S NEW in version 4.4.0 (2011-01-07).
  59
  60    Moved BeautifulSoup.py and subproc.py from Robots/ to the top-level
  61    directory.
  62
  63    Moved parse_html.py and its submodules to a separate parse_html package.
  64
  65    Added statistics code to parse_html, got a statistics on parser
  66    success/failrure rate, reordered parsers.
  67
  68    Removed old cruft.
  69
  70
  71 WHAT'S NEW in version 4.3.1 (2011-01-03).
  72
  73    Get favicon before HTML redirect (refresh).
  74
  75
  76 WHAT'S NEW in version 4.3.0 (2011-01-01).
  77
  78    Robots no longer have one global temporary file - there are at least two
  79    (html and favicon), and in the future there will be more for asynchronous
  80    robot(s) that would test many URLs in parallel.
  81
  82
  83 WHAT'S NEW in version 4.2.2.
  84
  85     Added HTML Parser based on lxml.
  86
  87
  88 WHAT'S NEW in version 4.2.1 (2010-08-12).
  89
  90    Added HTML Parser based on html5 library.
  91
  92
  93 WHAT'S NEW in version 4.2.0 (2010-08-11).
  94
  95    New storage: json; it allows to load and store Mozilla (Firefox) backup
  96    files.
  97
  98
  99 WHAT'S NEW in version 4.1.2
 100
 101    Process http error 307 as a temporary redirect.
 102
 103
 104 WHAT'S NEW in version 4.1.1 (2008-03-10)
 105
 106    Catch and report all errors.
 107
 108    Consider application/xhtml+xml as HTML.
 109
 110    Better handling of exceptions while looking up the icon.
 111
 112    Recode HTML entities.
 113
 114    Always use utf-8 as the default encoding.
 115
 116
 117 WHAT'S NEW in version 4.1.0 (2008-01-14)
 118
 119    Parser for HTML based on BeautifulSoup.
 120
 121    Changed User-agent header: I saw a number of sites that forbid
 122    "Mozilla compatible" browsers. Added a number of fake headers to pretend
 123    this is a real web-browser - there are still stupid sites
 124    that are trying to protect themselves from robots by analyzing headers.
 125
 126    Handle redirects while looking for the icon.
 127
 128    Handle float timeouts in HTML redirects.
 129
 130    Minimal required version of Python is 2.5 now.
 131
 132
 133 WHAT'S NEW in version 4.0.0 (2007-10-20)
 134
 135    Extended support for Mozilla: charset and icon in bookmarks.
 136    Use the charset to add Accept-Charset header.
 137    Retrieve favicon.ico (or whatever <link> points to) and store it.
 138
 139    The project celebrates 10th anniversary!
 140
 141
 142 WHAT'S NEW in version 3.4.1 (2005-01-29)
 143
 144    Updated to Python 2.4. Switched from CVS to Subversion.
 145
 146
 147 WHAT'S NEW in version 3.4.0 (2004-09-23)
 148
 149    Extended support for Mozilla: keywords in bookmarks.
 150    Updated to m_lib version 1.2.
 151
 152
 153 WHAT'S NEW in version 3.3.2
 154
 155    parse_html.py can now recode unicode entities in titles.
 156
 157
 158 WHAT'S NEW in version 3.3.0
 159
 160    Required Python 2.2.
 161
 162    HTML parser. If the protocol is HTTP, and there is Content-Type header, and
 163    content type is text/html, the object is parsed to extract its title; if
 164    the Content-Type header has charset, or if the HTML has <META> with
 165    charset, the title is converted from the given charset to the default
 166    charset. The <HEADER> is also parsed to extract <META> tag with redirect,
 167    if any.
 168
 169
 170 WHAT'S NEW in version 3.0
 171
 172    Complete rewrite from scratch. Created mechanism for pluggable storage
 173    managers, writers (DB dumpers/exporters) and robots.