Mega Code Archive

 
Categories / Python / Utility
 

Load a pickle generated by db2pickle py to a database

""" PYTHON SOFTWARE FOUNDATION LICENSE VERSION 2 -------------------------------------------- 1. This LICENSE AGREEMENT is between the Python Software Foundation ("PSF"), and the Individual or Organization ("Licensee") accessing and otherwise using this software ("Python") in source or binary form and its associated documentation. 2. Subject to the terms and conditions of this License Agreement, PSF hereby grants Licensee a nonexclusive, royalty-free, world-wide license to reproduce, analyze, test, perform and/or display publicly, prepare derivative works, distribute, and otherwise use Python alone or in any derivative version, provided, however, that PSF's License Agreement and PSF's notice of copyright, i.e., "Copyright (c) 2001, 2002, 2003, 2004 Python Software Foundation; All Rights Reserved" are retained in Python alone or in any derivative version prepared by Licensee. 3. In the event Licensee prepares a derivative work that is based on or incorporates Python or any part thereof, and wants to make the derivative work available to others as provided herein, then Licensee hereby agrees to include in any such work a brief summary of the changes made to Python. 4. PSF is making Python available to Licensee on an "AS IS" basis.  PSF MAKES NO REPRESENTATIONS OR WARRANTIES, EXPRESS OR IMPLIED.  BY WAY OF EXAMPLE, BUT NOT LIMITATION, PSF MAKES NO AND DISCLAIMS ANY REPRESENTATION OR WARRANTY OF MERCHANTABILITY OR FITNESS FOR ANY PARTICULAR PURPOSE OR THAT THE USE OF PYTHON WILL NOT INFRINGE ANY THIRD PARTY RIGHTS. 5. PSF SHALL NOT BE LIABLE TO LICENSEE OR ANY OTHER USERS OF PYTHON FOR ANY INCIDENTAL, SPECIAL, OR CONSEQUENTIAL DAMAGES OR LOSS AS A RESULT OF MODIFYING, DISTRIBUTING, OR OTHERWISE USING PYTHON, OR ANY DERIVATIVE THEREOF, EVEN IF ADVISED OF THE POSSIBILITY THEREOF. 6. This License Agreement will automatically terminate upon a material breach of its terms and conditions. 7. Nothing in this License Agreement shall be deemed to create any relationship of agency, partnership, or joint venture between PSF and Licensee.  This License Agreement does not grant permission to use PSF trademarks or trade name in a trademark sense to endorse or promote products or services of Licensee, or any third party. 8. By copying, installing or otherwise using Python, Licensee agrees to be bound by the terms and conditions of this License Agreement. """ #!/usr/bin/env python """ Synopsis: %(prog)s [-h|-b|-g|-r|-a|-d] [ picklefile ] dbfile Read the given picklefile as a series of key/value pairs and write to a new database.  If the database already exists, any contents are deleted.  The optional flags indicate the type of the output database:     -a - open using anydbm     -b - open as bsddb btree file     -d - open as dbm file     -g - open as gdbm file     -h - open as bsddb hash file     -r - open as bsddb recno file The default is hash.  If a pickle file is named it is opened for read access.  If no pickle file is named, the pickle input is read from standard input. Note that recno databases can only contain integer keys, so you can't dump a hash or btree database using db2pickle.py and reconstitute it to a recno database with %(prog)s unless your keys are integers. """ import getopt try:     import bsddb except ImportError:     bsddb = None try:     import dbm except ImportError:     dbm = None try:     import gdbm except ImportError:     gdbm = None try:     import anydbm except ImportError:     anydbm = None import sys try:     import cPickle as pickle except ImportError:     import pickle prog = sys.argv[0] def usage():     sys.stderr.write(__doc__ % globals()) def main(args):     try:         opts, args = getopt.getopt(args, "hbrdag",                                    ["hash", "btree", "recno", "dbm", "anydbm",                                     "gdbm"])     except getopt.error:         usage()         return 1     if len(args) == 0 or len(args) > 2:         usage()         return 1     elif len(args) == 1:         pfile = sys.stdin         dbfile = args[0]     else:         try:             pfile = open(args[0], 'rb')         except IOError:             sys.stderr.write("Unable to open %s\n" % args[0])             return 1         dbfile = args[1]     dbopen = None     for opt, arg in opts:         if opt in ("-h", "--hash"):             try:                 dbopen = bsddb.hashopen             except AttributeError:                 sys.stderr.write("bsddb module unavailable.\n")                 return 1         elif opt in ("-b", "--btree"):             try:                 dbopen = bsddb.btopen             except AttributeError:                 sys.stderr.write("bsddb module unavailable.\n")                 return 1         elif opt in ("-r", "--recno"):             try:                 dbopen = bsddb.rnopen             except AttributeError:                 sys.stderr.write("bsddb module unavailable.\n")                 return 1         elif opt in ("-a", "--anydbm"):             try:                 dbopen = anydbm.open             except AttributeError:                 sys.stderr.write("anydbm module unavailable.\n")                 return 1         elif opt in ("-g", "--gdbm"):             try:                 dbopen = gdbm.open             except AttributeError:                 sys.stderr.write("gdbm module unavailable.\n")                 return 1         elif opt in ("-d", "--dbm"):             try:                 dbopen = dbm.open             except AttributeError:                 sys.stderr.write("dbm module unavailable.\n")                 return 1     if dbopen is None:         if bsddb is None:             sys.stderr.write("bsddb module unavailable - ")             sys.stderr.write("must specify dbtype.\n")             return 1         else:             dbopen = bsddb.hashopen     try:         db = dbopen(dbfile, 'c')     except bsddb.error:         sys.stderr.write("Unable to open %s.  " % dbfile)         sys.stderr.write("Check for format or version mismatch.\n")         return 1     else:         for k in db.keys():             del db[k]     while 1:         try:             (key, val) = pickle.load(pfile)         except EOFError:             break         db[key] = val     db.close()     pfile.close()     return 0 if __name__ == "__main__":     sys.exit(main(sys.argv[1:]))