The Definitive Guide から学ぶ Elasticsearch(You Know, for Search…)

前回の続き。このペースだと終わらないのでペースアップ。 sfujimoto.hatenablog.com You Know, for Search… ここでは Elasticsearch の概要を学びます。Elasticsearch は Apache Lucene を内部で利用した検索エンジンです。Apache Lucene は Java 実装の OS…

The Definitive Guide から学ぶ Elasticsearch(Getting Started)

久しぶりのブログエントリです。年末年始休暇の時間を使って改めて Elasticsearch を学び直したいと思います。 概要 Elastic Stack はドキュメントが豊富です。Elastic Stack の各種プロダクトにドキュメントがあることはもちろん、プラグインやクライアント…

【sshec2】Github によるソースコード管理

前回のエントリで私が開発した OSS ツールの sshec2 をご紹介しました。 sfujimoto.hatenablog.com 今回から何回かに分けて、OSS ツールを開発する上で考慮した点を備忘録で記載していきます。 まずはソースコード管理。ソースコード管理(ソースコードリポ…

【sshec2】EC2 への SSH 接続の管理を楽にするツールを公開しました

こんにちは、久しぶりのブログエントリです。 会社でもブログ書いてて、最近はほとんどそちらに書いてました。今回は会社のブログに書くような内容じゃなかったのでこちらのブログにエントリします。 私はインフラ屋で仕事ではほとんどプログラムを書かない…

Elasticsearch クラスタをマルチノードでインストールする

前回はElasticsearch を Linux上、Dockerコンテナでシングルノードでインストール起動しました。 前回のエントリは下記をご参照ください。 sfujimoto.hatenablog.com 今回も Linux上、Dockerコンテナそれぞれでのクラスタ構築を実施します。 Elasticsearch …

Python で並行処理(マルチコア、マルチスレッド)を実装する

Python のマルチコア、マルチスレッドの実装を勉強する機会がありましたので、メモ書きします。 簡単に違いを説明すると、 マルチコア 複数のプロセスを立ち上げることで複数のCPUコアを利用することができる 得意なもの:CPUバウンドな並列処理も複数のCPU…

Scrapy でページングをクローリングする

前回は Scrapy の簡単な機能、最低限の実装方法をご紹介しました。 sfujimoto.hatenablog.com 今回はページングへの対応方法をご紹介したいと思います。 前回は当ブログのトップページからエントリタイトルを取得し、表示するという Scrapy の実装をご紹介し…

Elasticsearch をシングルノードでインストールする

本日は Elasticsearch をいくつかのパターンで立ち上げる方法をご紹介します。 Elasticsearch シングルノード on Linux Elasticsearch コンテナ シングルノード on Docker Elasticsearch は基本的にパッケージが用意されており、コマンド一発でインストール…

Scrapy でクローリング、スクレイピングする

寒くなってきましたね。23日から年末年始休暇で12連休なのに何も予定がないので近所のドトールで黙々とブログ書いています。 さて、今回は先日、クローリング、スクレイピングを実装する機会があったので、その時に利用した Scrapy に関して調べた備忘録です…

Elasticsearch の概要を調べてみた

今日から Elasticsearch について調べたことのメモ書きとして、当ブログにまとめていきます。 Elasticsearch とは Elasticsearch は全文検索エンジンであり、多種多様なクエリ、集計、スケーラブル、高可用性、ユーザーフレンドリなAPI、拡張性を特徴として…

AWS CloudFormation

AWSにサインアップした時、既にVPC(デフォルトVPC)やサブネット(デフォルトサブネット)が用意されています。 私はVPCから用意したかったのでデフォルトは削除し、VPC作成から行いました。 ただデフォルトVPCは唯一の存在であり、 自分で作成したVPCをデフォ…

AWS S3

今回はS3。 AWSの複数あるストレージサービスの一つです。 S3はファイルをアップロード、ダウンロードできるWebサービスです。 Webサーバとしても動作します。 特徴は、 容量制限がなく(5GB/file)、 非常に高い耐久性(99.999999999%)、 低価格です。AWSは他…

AWS ElasticCache

先日、クリエーションラインさんが開催したHashiCorp社プロダクトの勉強会に参加しました。 Vagrantが有名で、その他プロダクトも注目されていることは、 色々な媒体で知っていましたが、 なかなか時間を確保出来ず、触ることができませんでした。勉強会を通…

AWS ELB

4ヶ月ぶりにダーツ部が活動しました。 ぜんっぜんダメでした。 3時間投げても、4ヶ月前の投げ方がわかりませんでした。 1年ぐらい前に三ヶ月間ほど週二で通って身につけてフォームもブランク空くと分からなくなるもんです。 ブログはそうならないように頑張…

「Amazon Web Services徹底活用ガイド」を読みました

Amazon Web Services 徹底活用ガイド (日経BPムック)作者: 日経SYSTEMS,日経NETWORK,ITpro出版社/メーカー: 日経BP社発売日: 2014/12/13メディア: 単行本この商品を含むブログ (1件) を見るAWSのノウハウ、Tipsを学びたく読んでみました。AWSを触ったことが…

脱vSphereClient (Apple信者向け)

最近、自宅マシンにESXiをインストールしました。プライベートの端末がOSXということもあり、vSphereClientの利用がサポートされません(*)。 VirtualBox上のWindowsマシンにインストールして操作する、という利用方法もありますが、 vSphereClientを利用する…

AWS AMI

最近、MAC用のSSHクライアントを探しています。 iTerm2でやっていますが、 WindowsのSSHクライアントはログの設定保存でホスト名でログファイルを作成できますが、 iTerm2は元々SSHクライアントツールじゃないところもあり、 ログは都度Startさせなきゃ開始…

AWS RDS

早いもので更新が2週間空いてしまった。AWSスクリプトを書くことが楽しくなっちゃってアウトプットをサボりました。 botoというPython製のAWSライブラリがあって、 これがまた利用者に優しくAPIリファレンスさえ読めば、 PythonもAWSも理解が乏しい私が簡単…

AWS EC2

AWSの記事を書き直します。 前回はごちゃごちゃしてて分かりづらかった。 やっぱり一つ一つ書いていきます。どうせならより多くの機能を試してみたい。 EC2でWebAP構築 ↓ RDSでWebAP-DB構築 ↓ AMIでEC2のイメージ化、複製 ↓ ELBで冗長化 ↓ ElastiCacheでセッ…

Webアプリケーション on EC2 and RDS

AWSを使ってみた 無償枠でより多くの機能を使ってみたいとりあえずは基本のEC2とRDSを連携させたWebアプリケーションを構築してみる。 WEB/AP - DBの構成 機能 ログイン データベースに登録されたID/PASSと一致した場合、アカウント一覧画面を表示する デー…

Fluentd(インストール編)

SSHクライアントツールって何を使っている? 私はMacではiTerm2、Winではputty使ってた。 元々、プライベート端末も業務端末もWinだったので、 putty一択で不満はありながらも使ってた。 プライベート端末をMacに変えてiTerm2を使いはじめると、 puttyへの不…

CentOS7(ネットワーク編)

はてなブログはシンプルなところが好きです。3ヶ月ほど前から検証で利用するLinuxOSはCentOS7をメインとしている。 CentOS6からコマンド周りは変わりましたが、 正直、慣れればそんなに変わった印象はない。最初、なんじゃこりゃ!ってなったのは ネットワー…

Techブログをはじます

日々の技術検証内容を忘れないようにブログで備忘録を残す。 出来れば1回/週の更新はキープしたい。 メインはインフラ技術の基礎をとりあえず押さえていきたいです。 あくまで私個人の見解だったり、検証当時の結果なので、 勘違いだったり、同じことをして…