restituire la tabella SQL come JSON in python




(6)

Sto giocando con una piccola app web in web.py e sto impostando un URL per restituire un oggetto JSON. Qual è il modo migliore per convertire una tabella SQL in JSON usando python?

https://code.i-harness.com


Ecco un esempio davvero carino di un modo pitone per farlo :

import json
import psycopg2

def db(database_name='pepe'):
    return psycopg2.connect(database=database_name)

def query_db(query, args=(), one=False):
    cur = db().cursor()
    cur.execute(query, args)
    r = [dict((cur.description[i][0], value) \
               for i, value in enumerate(row)) for row in cur.fetchall()]
    cur.connection.close()
    return (r[0] if r else None) if one else r

my_query = query_db("select * from majorroadstiger limit %s", (3,))

json_output = json.dumps(my_query)

Ottieni una serie di oggetti JSON:

>>> json_output
'[{"divroad": "N", "featcat": null, "countyfp": "001",...

O con il seguente:

>>> j2 = query_db("select * from majorroadstiger where fullname= %s limit %s",\
 ("Mission Blvd", 1), one=True)

ottieni un singolo oggetto JSON:

>>> j2 = json.dumps(j2)
>>> j2
'{"divroad": "N", "featcat": null, "countyfp": "001",...

Ho messo insieme un breve script che scarica tutti i dati da tutte le tabelle, come dicts del nome della colonna: value. A differenza di altre soluzioni, non richiede alcuna informazione su cosa siano le tabelle o le colonne, trova solo tutto e lo scarica. Spero che qualcuno lo trovi utile!

from contextlib import closing
from datetime import datetime
import json
import MySQLdb
DB_NAME = 'x'
DB_USER = 'y'
DB_PASS = 'z'

def get_tables(cursor):
    cursor.execute('SHOW tables')
    return [r[0] for r in cursor.fetchall()] 

def get_rows_as_dicts(cursor, table):
    cursor.execute('select * from {}'.format(table))
    columns = [d[0] for d in cursor.description]
    return [dict(zip(columns, row)) for row in cursor.fetchall()]

def dump_date(thing):
    if isinstance(thing, datetime):
        return thing.isoformat()
    return str(thing)


with closing(MySQLdb.connect(user=DB_USER, passwd=DB_PASS, db=DB_NAME)) as conn, closing(conn.cursor()) as cursor:
    dump = {}
    for table in get_tables(cursor):
        dump[table] = get_rows_as_dicts(cursor, table)
    print(json.dumps(dump, default=dump_date, indent=2))

Personalmente preferisco SQLObject per questo genere di cose. Ho adattato un codice di test rapido e sporco che ho dovuto ottenere:

import simplejson

from sqlobject import *

# Replace this with the URI for your actual database
connection = connectionForURI('sqlite:/:memory:')
sqlhub.processConnection = connection

# This defines the columns for your database table. See SQLObject docs for how it
# does its conversions for class attributes <-> database columns (underscores to camel
# case, generally)

class Song(SQLObject):

    name = StringCol()
    artist = StringCol()
    album = StringCol()

# Create fake data for demo - this is not needed for the real thing
def MakeFakeDB():
    Song.createTable()
    s1 = Song(name="B Song",
              artist="Artist1",
              album="Album1")
    s2 = Song(name="A Song",
              artist="Artist2",
              album="Album2")

def Main():
    # This is an iterable, not a list
    all_songs = Song.select().orderBy(Song.q.name)

    songs_as_dict = []

    for song in all_songs:
        song_as_dict = {
            'name' : song.name,
            'artist' : song.artist,
            'album' : song.album}
        songs_as_dict.append(song_as_dict)

    print simplejson.dumps(songs_as_dict)


if __name__ == "__main__":
    MakeFakeDB()
    Main()

Ulteriori informazioni su come lavorerai con i tuoi dati prima di trasferirli sarebbe di grande aiuto. Il modulo json fornisce i metodi dump e load (s) che ti aiuteranno se usi la versione 2.6 o successiva: http://docs.python.org/library/json.html .

-- MODIFICATO --

Senza sapere quali librerie stai usando non posso dirti con certezza se troverai un metodo del genere. Normalmente elaborerò i risultati di una query come questa (esempi con kinterbasdb perché è quello con cui stiamo attualmente lavorando):

qry = "Select Id, Name, Artist, Album From MP3s Order By Name, Artist"
# Assumes conn is a database connection.
cursor = conn.cursor()
cursor.execute(qry)
rows = [x for x in cursor]
cols = [x[0] for x in cursor.description]
songs = []
for row in rows:
  song = {}
  for prop, val in zip(cols, row):
    song[prop] = val
  songs.append(song)
# Create a string representation of your array of songs.
songsJSON = json.dumps(songs)

Ci sono indubbiamente migliori esperti là fuori che avranno una comprensione delle liste per eliminare la necessità di loop scritti, ma questo funziona e dovrebbe essere qualcosa che potresti adattare a qualsiasi libreria con cui stai recuperando i record.


nessuno sembra aver offerto l'opzione per ottenere il JSON direttamente dal server Postgresql, usando la funzionalità JSON postgres https://www.postgresql.org/docs/9.4/static/functions-json.html

Nessun parsing, loop o nessun consumo di memoria sul lato python, che potresti voler considerare se hai a che fare con 100.000 o milioni di righe.

from django.db import connection

sql = 'SELECT to_json(result) FROM (SELECT * FROM TABLE table) result)'
with connection.cursor() as cursor:
  cursor.execute(sql)
  output = cursor.fetchall()

una tabella come:

id, value
----------
1     3
2     7

restituirà un oggetto JSON Python

[{"id": 1, "value": 3},{"id":2, "value": 7}]

Quindi utilizzare json.dumps per json.dumps dump come stringa JSON


import sqlite3
import json

DB = "./the_database.db"

def get_all_users( json_str = False ):
    conn = sqlite3.connect( DB )
    conn.row_factory = sqlite3.Row # This enables column access by name: row['column_name'] 
    db = conn.cursor()

    rows = db.execute('''
    SELECT * from Users
    ''').fetchall()

    conn.commit()
    conn.close()

    if json_str:
        return json.dumps( [dict(ix) for ix in rows] ) #CREATE JSON

    return rows

Callin the method no json ...

print get_all_users()

stampe:

[(1, u'orvar', u'password123'), (2, u'kalle', u'password123')]

Chiamare il metodo con JSON ...

print get_all_users( json_str = True )

stampe:

[{"password": "password123", "id": 1, "name": "orvar"}, {"password": "password123", "id": 2, "name": "kalle"}]






json