カピバラ好きなエンジニアブログ

興味ある技術とか検証した内容を赴くままに書いていきます。カピバラの可愛さこそ至高。

2024年を振り返ってみる

はじめに 年末ということで、去年もやった1年の振り返りというものを今年もやってみたいと思います。↓2023年↓www.capybara-engineer.com↓2022年↓www.capybara-engineer.com↓2019年↓www.capybara-engineer.com 今年やったことを振り返る 出来事まとめ 細かく…

snowflakeトライアルアカウントでデフォルト実行されるセキュリティタスクを確認する

snowflakeトライアルアカウントを利用していて、Monitoring>Task Historyを確認したときに、身に覚えのないタスク実行履歴があることに気が付きました。 タスク名で調べても特に該当する説明が見つからなかったので、調べた履歴として残しておきます。 あま…

AWS Client VPNが接続できない場合の対処法(Windows環境)

AWS Client VPNを利用して検証をしようとしたところ、以前は問題なかったのに急に接続に失敗するようになったので、原因を調査しました。 尚、このあたりを見てみましたが、うまく解決までいきつきませんでした。 docs.aws.amazon.com

snowflakeのWarehousesの確認方法(Snowsight利用)

前回の記事で以下の本の内容を試していくと書いてましたので、実際に進めているのですが、snowflake初心者過ぎて簡単な内容でも詰まることが多いので、ちょっとしたことでも備忘として残しておこうと思います。 techbookfest.org

snowflakeのトライアルアカウントを開設する

snowflakeの検証のためのアカウントを開設してみましたので、備忘のために残しておきます。

OIDCを利用したAzure DevOpsからAWSへのデプロイ構成

最近こちらのブログはほとんど更新しなくなってしまいましたが、Qiitaや会社ブログは地味に更新してたりします。 備忘のためにリンクだけ貼っておきます。www.beex-inc.com 感想 リンク先はAzure記事なので書かなかったけど、AWS CodeCommitがなくなった穴埋…

WSLでcodeコマンドが使えない場合の対処法

久々に使おうとしたら使えなくなっていたので、対処方法を書いておきます。 調べた感じだと人によって原因が違うようなので、あくまで一つの対処方法としてご覧ください。

AWS経験者向けのAzure入門本を書きました!

今まで特にアナウンスすることはなかったんてすが、実は昨年から技術書典という技術同人誌のイベントに参加していて、鳥群技術という名前のサークルでいくつか本を出品してます。 このサークルは会社の同僚と元同僚の4人でやっていて、5/24時点では2人が本を…

GlueJobからRedshift Serverlessに直接インサートするサンプルデータパイプラインを構築する

S3イベントを契機にGlue Jobで変換処理してRedshift Serverlessにデータをインサートするデータパイプラインを構築してみたので、興味ある方がいれば是非ご確認ください。www.beex-inc.com 尚、上記はあくまで構成や構築のためのTerraformファイルについての…

Terraform Cloud利用時に「Insufficient rights to generate a plan」が表示されたときの解決方法

Terraform Cloudを利用してAWSにリソースを構築しようとした際、以下のエラーが発生した。 何回か遭遇しているので、自分のために備忘がてら解決方法を記載する。 │ Error: Insufficient rights to generate a plan │ │ The provided credentials have insuf…

2023年を振り返ってみる

はじめに 年末ということで、去年もやった1年の振り返りというものを今年もやってみたいと思います。↓2022年↓ www.capybara-engineer.com↓2019年↓ www.capybara-engineer.com 今年やったことを振り返る 出来事まとめ 最初に今年1年で特に嬉しかった出来事を…

ダブルクォーテーション引用符が使われているCSVデータをGlueで読み込ませる(Athena未使用)

以下の記事を参考にCSVファイルのデータをGlueで読み込ませようとしてましたが、Athenaを利用しない方法が調べても出てこなかったので試してみました。 dev.classmethod.jp

Azureで従量課金プランにアップグレード後に予算を設定する

現在在籍している会社はAzureの検証環境があるので申請すればある程度は自由に使えるのですが、サブスクリプションは共用利用なのでライセンス周りやコスト部分はあまり触れないようになっています。 M365ライセンス周りであれば以下の記事で紹介されている…

Docker Desktopを実行したときに「Unexpected WSL error」が発生する

掲題のエラーが発生したので、解決までに実施した内容を備忘として残しておきます。

CodeBuildのbuildspec.ymlの読み込み時にエラーが発生する

検証でAWSのCodeBuildを使用しているときに想定外のエラーが遭遇したので解決方法を書いておきます。

EC2上でdocker psを実行したときに発生したエラーの対応法

ある検証で外部からEC2上のdockerを実行する処理を動かしたときに、掲題のエラーが発生しましたので、解消方法を書いておきます。

Amazon Linux 2023でSelf-hosted agentが動かない時の対応方法

最近AzureとAWSの連携を検証することが多いのですが、その内Self-hosted agentをAWSのEC2で動かすときに詰まったので、その内容について書いておきます。

Backlog GitからAWSにCICDする構成を構築する

最近はこちらのブログよりも会社のテックブログで記事を書くことが増えたのですが、書いたという記録が残っていないと自分でもその内忘れてしまいそうなので貼っておきます。 GitリポジトリをGitHubからBacklogのGitに移行することになったのですが、その際…

「AWS履修者のためのAzure入門」というタイトルで社内勉強会を開催しました

この度「AWS履修者のためのAzure入門」というタイトルで社内向けに勉強会を実施しました。 詳細は以下ページに記載されているので、良ければご覧ください。 https://www.beex-inc.com/blog/aws-azure-entry-study-1 公開スライド ブログを執筆するツールの関…

AWS Cloud9の作成時にエラーが発生する

お久しぶりです。半田です。 Qiitaや会社のTechブログにはたまに投稿していたのですが、こちらを放置していたので、久々に1つ書こうかと思います。 ここ最近少し時間ができたので手広く技術のキャッチアップをしているのですが、以下のCDK workshopを進めて…

「2023 Japan AWS Top Engineers」と「2023 Japan AWS ALL Certifications Engineers」に選出されました

AWS

普段は技術の検証記事ぐらいしか書いてないですが、ちょっと嬉しいことがあったので書きます。 内容は既にタイトルに書いているのですが、先日幕張で開催されたAWS Summit Tokyo 2023で「2023 Japan AWS Top Engineers」「2023 Japan AWS ALL Certifications…

pandasのバッファを使用してS3にファイルアップロードすると文字コードが変換されない

pandasのto_csv関数のパラメータにはファイルパスだけでなくbufferを指定することができます。 それを使用して、読み込みしたCSVファイルの文字コードを変換してS3に出力する処理を実装したのですが、何故か文字コードが想定通り変換されなかったので、備忘…

欠損値が混ざってるfloat型データをpandasで整数部のみに変換する方法

pandasを使ったデータ変換をしていてfloat型の列を整数部のみにしたい場合、「astype」などを使用してint型に変換すれば簡単に実現できるかと思いますが、そこに欠損値が含まれている場合うまく変換できなかったので、変換する方法を試してみました。 尚、タ…

2022年を振り返ってみる

はじめに 一つ前の記事でモチベーション上げていきまーすと言ってましたが、結局今日まで1記事も書かずに来てしまいました。 Qiitaには書いているのでゼロというわけではないのですが、やっぱりハードルが高い、、 最後に振り返りしたのが2019年分だったので…

既存リポジトリのECRポリシーを取得してJSON整形してくれるワンライナー

はじめに お久しぶりです。最後に記事を書いたのは2022/4/15なので、半年以上ぶりですね。 ・・・ はい、すみません。サボってました笑 ぶっちゃけるとブログのネタは色々あったんですが、いかんせんモチベーションが最低まで落ち込んでいたので、編集画面を…

AppFlowでSalesforceイベントを取得する際の必須設定

AppFlowとSalesforceを連携した際にエラーにぶち当たったので書いてみました。 www.beex-inc.com

RDSデータをS3にParquet形式で出力する

タイトル通りです。 具体的には以下のドキュメントに書いてある手順を実際に行っていきます。 Amazon S3 への DB スナップショットデータのエクスポート - Amazon Relational Database Service データは以下の記事で準備したものを利用します。 RDSにCloudSh…

RDSにCloudShellからアクセスしてみる

タイトル通りです。 ローカルのPCから接続するときはpsqlコマンドをインストールしてアクセスできますが、自分のPCにインストールしたくない人はEC2を立てたりする必要があります。 今回はEC2ではなく、AWS CloudShellで接続できるか確認してみます。

Amazon RDS(PostgreSQL)の手動スナップショットを取得する

前回の記事で作成したRDSに対して今度はスナップショットを取得してみます。 今回も自分の備忘目的です。

コンソールからAmazon RDS(PostgreSQL)を作成する

タイトル通りです AWSのマネコンからRDSを作成します。備忘目的です。