Skip to content

Instantly share code, notes, and snippets.

@muroon
muroon / golang.tokyo.24.md
Created May 20, 2019 14:42
golang.tokyo#24
@muroon
muroon / mercari.cloudnext.2019.md
Last active July 31, 2019 13:31
Cloud Next 2019
@muroon
muroon / cloud.next.bigdata.md
Last active July 31, 2019 13:32
Google Cloud Next Extended 2019 BigData Day

https://gcpug-tokyo.connpass.com/event/128568/

BigQuery関連

AutoML Tables(beta)

  • BigQueryからデータを直接持ってこれる(エクスポートがいらない)
  • この金額でここまでしてくれるのは非常にいい
  • 処理が終わったらメールで通知してくれる
  • 学習の中身は全く見れない。推移のみ見れる
@muroon
muroon / memo_sample_spanner.md
Last active January 4, 2022 07:08
CleanArchitectureをRDBからCloud Spannerに変更

zaganeとの格闘

memo_sample_spannerzaganeをかけてチェックをしたときの話

zaganeをかけてみる

zaganeはCloud Spannerの使用しているプロジェクト内の下記の処理漏れを検知してくれるツール

  • ReadOnlyTransactionのClose漏れ
  • 検索結果のiteretorのClose漏れ
  • (ReadWreteTransaction内でのWrapError検知 ※解決済)

go-athenaにResult Modeを設けたので記載します。

GetQueryResult APIアクセスはクエリ結果を全件取得するためには取得レコード件数によっては複数回アクセスする場合もありました。Athenaにはクエリ結果をファイルダウンロードする機能やCTASテーブルを作成・閲覧する機能があるのでそれらを使用してクエリの実行結果を取得するためにResultモードを設けました。

Resultモード

アプリケーションからAthenaにクエリを投げてクエリの結果を取得するのに大きく2種類のAPIコールが必要です。

  • クエリの実行
  • クエリの実行した結果(SELECT文のRows)を取得