カピバラ好きなエンジニアブログ

ITのこととか趣味のカメラのことなどを赴くままに書いていきます。カピバラの可愛さこそ至高。

aws ecr get-login-passwordでエラーが出たときの対処法

ローカルのPCからECRリポジトリにPushするときに毎回同じエラーに遭遇して、その度に調べているので備忘がてら残しておきます。以下の記事の方が詳しく書いてあるので、詳細に見たい方はこちらをご覧ください。 qiita.com

AppFlowフローで出力したデータをGlue DataBrewで変換する

2021/11に以下のようなアップデートが発表されましたので、ちょっと試してみようと思います。 aws.amazon.com

Amazon AppFlowの設定項目整理メモ

AWSにはSaaSサービスからのデータ連携を簡単に行うためのAmazon AppFlowというサービスがあります。 設定項目としてはそこまで多くはないので、整理も兼ねて実際のコンソールからの設定項目を確認します。 aws.amazon.com尚、設定には送信元と送信先の設定が…

Salesforce開発用の無料アカウントを作成する

今までSalesforceを扱ったことはなかったのですが、近々扱うことになりそうなので開発用のアカウントを作成してみることにしました。 以下の記事がわかりやすかったので参考にさせてもらいました。 gawatari.com 尚、上記に書いている通り使ったことないので…

Amazon AppFlowを動かしてみる

SaaSアプリケーションからAWSにデータを連携するとなったときに、Amazon AppFlowサービスを使えば簡単にデータを連携させることができます。(AWSドキュメントに書いてある限りは)今回はそのAppFlowを使う機会が出てきそうだったので、お試しがてら使ってみる…

WSLでのファイル権限変更方法

wsl

WSL使っててファイルの権限が変更できなかったので備忘で残しておきます。

python開発用コンテナ環境を作る(自分メモ)

Dockerを使うタイミングがまちまち過ぎて毎回Dockerでの環境構築方法を調べている気がするのでメモしておきます。

S3のライフサイクルルールのアクションを理解する

お久しぶりです。 最近はQiitaの方に書くことが多かったので、こちらに書くのはだいぶ久々です。 さて、今回のお題はS3のライフサイクルについてです。AWSを使っている方は恐らく大体の方がS3を使っているとは思いますが、S3上でファイルの自動削除やストレ…

別のAWSアカウントのS3にファイルをアップロードしてみる

複数AWSアカウントを運用しているとアカウントAからアカウントBのS3にファイルをアップロードする、といったことが発生することがあります。今回は特定のアカウント内にあるEC2から別のアカウントのS3にファイルをアップロードしてみたいと思います。

AWS CLIでS3にあるファイルのストレージクラスを確認する

AWS CLIでS3上のファイルを確認したり、ローカルにコピーしたりといった作業をすることはよくあるのですが、たまにS3上のファイルのストレージクラスを確認したいときがあります。 今回は以下のドキュメントを参考に、ファイルのストレージクラスの情報を取…

Fluentdでファイル名の一部をS3パスに設定する

前回は以下のような記事を書きましたが、今回はファイル名の一部をアップロード先のS3パスに使用する方法を試してみます。 Fluentd等の設定は過去記事を参照ください。 www.capybara-engineer.com 以下の記事を参考にしました。 yomon.hatenablog.com 環境 W…

CSVファイルをFluentdでS3にアップロードする際に環境変数を使用する

過去にFluentdで以下のような記事を書きましたが、今回はそれをベースにS3のパスに環境変数を使用するのを試してみます。www.capybara-engineer.com環境変数を使用する方法は以下の記事を参考にさせていただきました。 blog.putise.com 環境 Windows Server …

Redshiftクラスターを構築してみた(AWSチュートリアル)

Redshiftは何回か構築したことがありましたが、記事として残したことはなかったので今更ですが残しておきます。公式のチュートリアルを参考に実施していきます。 docs.aws.amazon.com尚、公式に書いてある通り、以下の料金が発生するので気を付けてください…

digdag v0.10.0でPowerShellを使えなかったので調査してみた

以前以下のような記事を書きました。 www.capybara-engineer.com 最近digdagの新しいバージョンv0.10.0でdigdag serverに認証を設定する記事を書いたのですが、その環境でPowershellを実行したところ何故かうまく実行できなかったので、今回はそれを調査して…

digdag v0.10.0でdigdag serverへの認証を設定する

以前digdag serverに認証をつける以下のような記事を書きました。 www.capybara-engineer.com 最近digdagのVersion0.10.0が新しく出ていることに遅ればせながら気づいたのですが、リリースノートを見ると認証設定が変更されたとのことなので、新しいVersion…

EmbulkでCSVファイルをS3にアップロードする

過去に以下のような記事を書きましたが、今回はそれらを組み合わせてサンプルで準備されているCSVファイルをAWSのS3にアップロードしてみます。www.capybara-engineer.comwww.capybara-engineer.com 尚、S3にアップロードする設定でアクセスキーとシークレッ…

ECS+Fargateでサンプルアプリを動かしてみる

最近10年ぶりぐらいにモンハンにハマっているハンダです。これまでコンテナという言葉はよく聞くことがあっても、ローカルPCでDocker使うぐらいでAWSのコンテナサービスを自分で動かすことはありませんでした。 昨年12月にLambdaでコンテナがサポートされた…

CFnでSecurityGroupを作成する

自分の備忘と動確のために記事にしておきます。 Cloudformationを使用してAWSのSecurityGroupを作成します。 docs.aws.amazon.com この記事で作成したCFnは以下に格納しています。 github.com

AWS Lambdaの予約済み環境変数を見る

AWS Lambdaではユーザが環境変数を設定することができますが、Lambdaの初期化中に設定されるランタイム環境変数というものもあります。 ランタイム環境変数は予約済み環境変数と予約されていないが関数設定で拡張可能な環境変数があります。今回は予約済み環…

CloudformationでEC2(Windows)を構築する

タイトル通りです。 今回は普段コンソールから作成しているEC2をCloudformationで作ってみたので、その備忘として書いていきます。Cloudformationのテンプレート形式はこちらにあります。 docs.aws.amazon.com EC2のCloudformationのリソースタイプリファレ…

S3上の日本語データをRedshiftにロードする

S3に格納されているCSVファイルのデータをRedshiftにCOPYコマンドで投入する必要があったので備忘のために書いておきます。 サンプルデータは何でもよかったんですが、なんとなくこれを使いました。 >年齢(5歳階級),男女別人口-都道府県(大正9年~平…

Backlog APIをUbuntuから実行する

機会があってBacklog APIを実行する機会があったので、備忘のため残しておきます。Backlog APIについては以下に記載があるのでこれを参考にしながら実行しました。 developer.nulab.com

インラインポリシーが設定されているIAMグループをAWS CLIで削除する

タイトル通りです。 インラインポリシーが設定されているIAMグループをAWS CLIから削除しようとしたら削除できなかったので備忘で残します。

ReadOnlyAccessポリシーだとGlue権限が不足していたので確認してみた

AWSの権限を設定する際、参照権限だけを与えたい場合は管理ポリシーのReadOnlyAccessを使用すると簡単に権限の付与ができます。 しかし、上記の権限を付与してGlueコンソールにアクセスしたところ、 一部表示できない画面があったので確認してみます。IAMグ…

インラインポリシーがアタッチされたIAMグループをCloudformationで作成する

前回に引き続きIAMグループをCloudformationで作成します。 今回は前回の管理ポリシーに追加でインラインポリシーをアタッチします。作成物は以下に置いています。 github.com

IAMグループをCloudFormationで作成する

今回はIAMグループをCFnで作成することがあったので備忘までに残しておきます。作成物は以下に置いています。 github.com

pyodbcを使用してPythonからEC2上のSQL Serverに接続する

PythonからSQL Serverに接続したい場合、いくつか使用可能なPythonライブラリがありますが、今回はそのうちpyodbcを使用してEC2上のSQL Serverに接続してみたいと思います。

参照用IAMユーザに特定のEC2のみ起動停止できる権限をつける

最近はQiitaしか投稿していなくてこちらはサボり気味ですが、ネタがあったので書きます。 内容はタイトルにある通り、参照用IAMユーザに対して、特定のEC2の起動停止が可能な権限を追加していきます。

digdag serverへのブラウザアクセス時に認証を設定する

digdagのサーバをローカルで起動するとブラウザからアクセスできるようになりますが、そのログイン時にブラウザで認証する方法がわからなかったので、試してみました。 検証した環境は以下になります。 Cloud:AWS OS:Windows Server 2019 IIS:Version 10.…

ピアソンVUEのオンライン試験受けたらPC操作できなくなった

はじめに 本当はこれが合格体験記になる予定だったんですが、落ちたので今回のオンライン試験で発生した事象と受験した感想について書いておきます。 もし今後ピアソンVUEのオンライン試験受ける方がいればご注意ください。 ※もしこれが普通の動作ということ…