doc/ChangeLog

   1 WHAT'S NEW in version 4.6.0 (2014-07-06)
   2
   3    Split simple robot: separate network operations and
   4    URL handling/HTML parsing.
   5
   6    Change parse_html to parse strings, not files.
   7
   8    Split parse_html/__init__.py into __main__.py.
   9
  10    Adapt JSON storage to recent Mozilla export format.
  11
  12    Add ChangeLog.
  13
  14    Allow parameters in BKMK_* environment variables; for example,
  15    BKMK_ROBOT=forking:subproc=urllib or
  16    BKMK_STORAGE=json:filename=bookmarks_db.json.
  17
  18    Pass subproc parameter to the subprocess to allow different robots.
  19
  20    Add a new robot based on urllib2.
  21
  22
  23 WHAT'S NEW in version 4.5.6 (2014-01-14)
  24
  25    Remove absolute directory ~/lib to make it portable.
  26
  27
  28 WHAT'S NEW in version 4.5.5 (2013-12-05)
  29
  30    Parse <meta charset="...">.
  31
  32
  33 WHAT'S NEW in version 4.5.4 (2013-11-23)
  34
  35    Published through git/gitweb.
  36
  37
  38 WHAT'S NEW in version 4.5.3 (2013-07-26)
  39
  40    Minor tweak in Makefile.
  41
  42    Switched to git.
  43
  44
  45 WHAT'S NEW in version 4.5.2 (2012-09-24)
  46
  47    Removed svn:keywords.
  48
  49    Handle redirects with codes 303 and 307.
  50
  51    Fixed a bug in handling place: URIs (do not append '//').
  52
  53
  54 WHAT'S NEW in version 4.5.1 (2011-12-28).
  55
  56    Read/write mozilla-specific date/time format in json storage.
  57
  58
  59 WHAT'S NEW in version 4.5.0 (2011-12-18).
  60
  61    Encode international domain names with IDNA encoding.
  62
  63    Adapted to different Mozilla 'place' URIs.
  64
  65
  66 WHAT'S NEW in version 4.4.0 (2011-01-07).
  67
  68    Moved BeautifulSoup.py and subproc.py from Robots/ to the top-level
  69    directory.
  70
  71    Moved parse_html.py and its submodules to a separate parse_html package.
  72
  73    Added statistics code to parse_html, got a statistics on parser
  74    success/failrure rate, reordered parsers.
  75
  76    Removed old cruft.
  77
  78
  79 WHAT'S NEW in version 4.3.1 (2011-01-03).
  80
  81    Get favicon before HTML redirect (refresh).
  82
  83
  84 WHAT'S NEW in version 4.3.0 (2011-01-01).
  85
  86    Robots no longer have one global temporary file - there are at least two
  87    (html and favicon), and in the future there will be more for asynchronous
  88    robot(s) that would test many URLs in parallel.
  89
  90
  91 WHAT'S NEW in version 4.2.2.
  92
  93     Added HTML Parser based on lxml.
  94
  95
  96 WHAT'S NEW in version 4.2.1 (2010-08-12).
  97
  98    Added HTML Parser based on html5 library.
  99
 100
 101 WHAT'S NEW in version 4.2.0 (2010-08-11).
 102
 103    New storage: json; it allows to load and store Mozilla (Firefox) backup
 104    files.
 105
 106
 107 WHAT'S NEW in version 4.1.2
 108
 109    Process http error 307 as a temporary redirect.
 110
 111
 112 WHAT'S NEW in version 4.1.1 (2008-03-10)
 113
 114    Catch and report all errors.
 115
 116    Consider application/xhtml+xml as HTML.
 117
 118    Better handling of exceptions while looking up the icon.
 119
 120    Recode HTML entities.
 121
 122    Always use utf-8 as the default encoding.
 123
 124
 125 WHAT'S NEW in version 4.1.0 (2008-01-14)
 126
 127    Parser for HTML based on BeautifulSoup.
 128
 129    Changed User-agent header: I saw a number of sites that forbid
 130    "Mozilla compatible" browsers. Added a number of fake headers to pretend
 131    this is a real web-browser - there are still stupid sites
 132    that are trying to protect themselves from robots by analyzing headers.
 133
 134    Handle redirects while looking for the icon.
 135
 136    Handle float timeouts in HTML redirects.
 137
 138    Minimal required version of Python is 2.5 now.
 139
 140
 141 WHAT'S NEW in version 4.0.0 (2007-10-20)
 142
 143    Extended support for Mozilla: charset and icon in bookmarks.
 144    Use the charset to add Accept-Charset header.
 145    Retrieve favicon.ico (or whatever <link> points to) and store it.
 146
 147    The project celebrates 10th anniversary!
 148
 149
 150 WHAT'S NEW in version 3.4.1 (2005-01-29)
 151
 152    Updated to Python 2.4. Switched from CVS to Subversion.
 153
 154
 155 WHAT'S NEW in version 3.4.0 (2004-09-23)
 156
 157    Extended support for Mozilla: keywords in bookmarks.
 158    Updated to m_lib version 1.2.
 159
 160
 161 WHAT'S NEW in version 3.3.2
 162
 163    parse_html.py can now recode unicode entities in titles.
 164
 165
 166 WHAT'S NEW in version 3.3.0
 167
 168    Required Python 2.2.
 169
 170    HTML parser. If the protocol is HTTP, and there is Content-Type header, and
 171    content type is text/html, the object is parsed to extract its title; if
 172    the Content-Type header has charset, or if the HTML has <META> with
 173    charset, the title is converted from the given charset to the default
 174    charset. The <HEADER> is also parsed to extract <META> tag with redirect,
 175    if any.
 176
 177
 178 WHAT'S NEW in version 3.0
 179
 180    Complete rewrite from scratch. Created mechanism for pluggable storage
 181    managers, writers (DB dumpers/exporters) and robots.