Rust の ライブラリ Rusoto を使って AWS サービスにアクセスする
表題にあるとおり、Rust から AWS にアクセスするための SDK を大分前にメモしていたので試した、という話。
extern crate rusoto_core; extern crate rusoto_s3; use rusoto_s3::{S3, S3Client}; use rusoto_core::{DefaultCredentialsProvider, Region}; use rusoto_core::default_tls_client; fn main() { let provider = DefaultCredentialsProvider::new().unwrap(); let client = S3Client::new(default_tls_client().unwrap(), provider, Region::ApNortheast1); match client.list_buckets() { Ok(output) => { match output.buckets { Some(bucket_name_list) => { println!("Tables in database:"); for bucket in bucket_name_list { println!("{:?}", bucket.name); } } None => println!("No tables in database!"), } } Err(error) => { println!("Error: {:?}", error); } } }
S3 のバケット列挙がこんな具合。
対応状況曰く、今のところ安定しているのが、
- EC2
- ECS
- DynamoDB
- ETS
- KMS
- SQS
らしいってS3入ってないじゃん!動いたよ上のコード!
と、ということはログを受けまくって AWS にあげてくれるやつが書けるかも…
楽しくなってまいりました。
Windows でプロセスごとの TCP IO をとってグラフにした
まぁいうてリソースモニターでできてることなんですが…
それでも面白いことがあったので。
結果はこんな感じ。
時々帯域をとってるのは、Firefox の通信です。
ブラウジングはこんなもんですかね。サイズ的にも KB なので、そこまでがっつり見に行ってなかったです。
で、これを通信イベントの回数にしてみると面白いんです。
やたらめったら目立つ黄色があったので、これだけに絞ってみます。
なんか定常的にやってる! あ、イベントの精査もできていないのでこれだけでこいつが悪者だ!!てわけではないです。
で、vpnkit という docker 関連のプロセスが発行しているですが、どんなイベントが発行させてるのかなーと調査してみたくなってきました。
何やってるんだろう。ワクワクします。
ちなみにサーバー側ですが、 docker-compose で InfluxDB + Grafana をローカルにたてて、 そこに向けてメトリクスなげてます。
以下の記事を参考にさせていただきました。感謝感謝。
influxDB + Grafanaに入門する - Qiita
クライアントは Rust で書いたんですが、unsafe
まみれなのでどうにかしたい…
そのあとにクライアント側で合算してサーバーに投げるとかになりますかねー
後は PID からプロセス名にするもありますか
先はながいなー
Grafana で AWS の見える化がすぐできた
いやー、すごい。
わかったらすぐできました。
例として AWS の使用料を見える化します。
まず、AWS 側で計測をはじめるため、請求ダッシュボード
-> 設定
-> 請求アラートを受け取る
にチェックをつけます。
で、Grafana を公式サービスおひとり様用で作成します。
Grafana のデータソースまで遷移して、プルダウンメニューから Cloud Watch を選びます。
一度、AWS にもどり IAM で以下のポリシーを付けた測定用のユーザーを作成、アクセスキー ID とシークレットキーを発行します。
- CloudWatchLogsReadOnlyAccess
- CloudWatchReadOnlyAccess
で、Grafana に戻り作成したアカウント情報を入れて、保存します。 ここでエラーが出る場合はポリシーの確認とかをするとよいかもです。
で、ダッシュボードのインポートで 139 を入れて、先ほど追加したデータソースを選び、ロードすると!
でたー!!
いやー、共有はつよいですねー。 先ほどの 139 も Grafana の公式サイトで公開されているやつです。
Grafana はローカル環境の性能計測で 3.x とかを使っていたので、ここまで進んでるとは思ってなかったです。いやすごい。
使用料だけでなく Lambda やら EC2 やら ElastiCache やらまで…
インフラはさっぱりなので、知見の塊っす。ありがたや。
誰か3か月前の僕にこの情報を届いてほしい…
Rust で Vector データを Map + Vector にいれる
どんな状況だったかというと、JSON で設定ファイルを書く必要があってそれが複数人にいじられるという感じで、マージで地獄を見たのでまずは TSV でどうにかしてみよう、となったときに書いたやつです。*1
ほんと JSON はマージしづらくてかなわん。
そして、ある要素をキーにまとめていくんですが、その配下が複数になりえる設定でした。というか、大体複数でした。
ということは、Vector から Map にしつつその中に Vector があって、ということになります。
で、こんな感じ。
use std::collections::HashMap; #[derive(Debug)] struct Hoge { a: String, b: u32, } fn main() { let xs = vec![ Hoge {a: "a".to_owned(), b: 1}, Hoge {a: "aaa".to_owned(), b: 2}, Hoge {a: "a".to_owned(), b: 3}, Hoge {a: "aaa".to_owned(), b: 4}, Hoge {a: "aa".to_owned(), b: 5}, ]; let h = xs.into_iter().fold(HashMap::<String, Vec<u32>>::new(), |mut acc, x| { acc.entry(x.a).or_insert(Vec::new()).push(x.b); acc }); println!("{:?}", h); }
https://play.rust-lang.org/?gist=75d175041fcd5577b2c9ea0d7fb95594&version=stable
一番の発見は or_insert
で、こいつのおかげで大分まとまりました。
mut
とかの話、はいいや。どっかで誰かが書いてそうです。
*1:本質的な解決になってなかったので動かしてないですが…
なんとなく思いついた Scala でのライブラリ切り替え
今日オブジェクトのシリアライズ形式を切り替える方法考えなきゃで、ぼんやりと思いついた方法。
trait DataFormat { type Format type Formatter[T] def ser[Data: Formatter](input: Data): Format def de[Data: Formatter](input: Format): Data } trait Spray extends DataFormat { import spray.json._ override type Format = JsValue override type Formatter[T] = JsonFormat[T] override def ser[Data: Formatter](input: Data): Format = input.toJson override def de[Data: Formatter](input: Format): Data = input.convertTo[Data] }
で、コンパイルしたところ
Warning:(40, 8) higher-kinded type should be enabled by making the implicit value scala.language.higherKinds visible. This can be achieved by adding the import clause 'import scala.language.higherKinds' or by setting the compiler option -language:higherKinds. See the Scala docs for value scala.language.higherKinds for a discussion why the feature should be explicitly enabled. type Formatter[T]
そーですか、警告スカ…
こんなコードばっか書いてるから IDE が不調になったりするのだ。意味は調べるけど。