pandas
IO für Google BigQuery

Lesen von Daten aus BigQuery mit Benutzeranmeldeinformationen

In [1]: import pandas as pd

Um eine Abfrage in BigQuery ausführen zu können, benötigen Sie ein eigenes BigQuery-Projekt. Wir können einige öffentliche Beispieldaten anfordern:

In [2]: data = pd.read_gbq('''SELECT title, id, num_characters
   ...:                       FROM [publicdata:samples.wikipedia]
   ...:                       LIMIT 5'''
   ...:                    , project_id='<your-project-id>')

Dies wird ausgedruckt:

Your browser has been opened to visit:

    https://accounts.google.com/o/oauth2/v2/auth...[looong url cutted]

If your browser is on a different machine then exit and re-run this
application with the command-line parameter

  --noauth_local_webserver

Wenn Sie von einem lokalen Computer aus arbeiten, wird der Browser eingeblendet. Nach der Erteilung von Privilegien werden Pandas mit der Ausgabe fortfahren:

Authentication successful.
Requesting query... ok.
Query running...
Query done.
Processed: 13.8 Gb

Retrieving results...
Got 5 rows.

Total time taken 1.5 s.
Finished at 2016-08-23 11:26:03.

Ergebnis:

In [3]: data
Out[3]: 
               title       id  num_characters
0       Fusidic acid   935328            1112
1     Clark Air Base   426241            8257
2  Watergate scandal    52382           25790
3               2005    35984           75813
4               .BLP  2664340            1659

Als Nebeneffekt erstellen Pandas die bigquery_credentials.dat Datei bigquery_credentials.dat der Sie weitere Abfragen ausführen können, ohne dass Sie Privilegien mehr erteilen müssen:

In [9]: pd.read_gbq('SELECT count(1) cnt FROM [publicdata:samples.wikipedia]'
                   , project_id='<your-project-id>')
Requesting query... ok.
[rest of output cutted]

Out[9]: 
         cnt
0  313797035

Lesen von Daten aus BigQuery mit Berechtigungsnachweisen für Dienstkonten

Wenn Sie ein Dienstkonto erstellt haben und über eine private Json-Datei verfügen, können Sie diese Datei zur Authentifizierung bei Pandas verwenden

In [5]: pd.read_gbq('''SELECT corpus, sum(word_count) words
                       FROM [bigquery-public-data:samples.shakespeare]       
                       GROUP BY corpus                                
                       ORDER BY words desc
                       LIMIT 5'''
                   , project_id='<your-project-id>'
                   , private_key='<private key json contents or file path>')
Requesting query... ok.
[rest of output cutted]

Out[5]: 
           corpus  words
0          hamlet  32446
1  kingrichardiii  31868
2      coriolanus  29535
3       cymbeline  29231
4    2kinghenryiv  28241