6年ぶりぐらいにクラウド使った結果、Kubernetes以外のマネージドサービスとか基本要らなくない?となった話

ここ半年ぐらい、かなり久々にクラウド使ってアプリやバッチの基盤作ったりしてきて、色々と思ったことを書き捨てる。 「ちょっと検証してみた」程度のものも含めれば、AWSとGCPは一通り主要なマネージドサービスを触ったし、実際に複数のアプリやらバッチや…

近年のデータ分析基盤構築における失敗はBigQueryを採用しなかったことに全て起因している

久しぶりにペラペラな思いつきを書き捨てて、寝ます。 2、3年前ぐらいにSIerやコンサルでTreasure Dataとか使ってマネージドDWH作ろうぜっていう風潮が流行って、今は運用フェーズに入ってどこも結構苦しんでるってのが僕のすごく狭い観測範囲での印象。 AWS…

プログラミングスクールというボッタクリ情弱ビジネスについての所感

世間には「あこぎな商売」というのが結構あって、最近流行りのプログラミングスクールとかいうのはまさにその「あこぎな商売」の典型だろうと思う。昨今の流行りのワードを借りれば「情弱ビジネス」であり、はっきり言ってしまえばボッタクリである。 プログ…

とあるデータ分析/データエンジニアリングの現場からの雑感

※基本、酩酊状態でクソみたいな与太話を思いついたまま書き捨ててるだけなのであまり真に受けないようにどうぞよろしく。 僕がここ最近ナリワイとしているのは、大企業でデータ利活用を推進している or しようとしている現場に潜り込んで、データ分析周りの…

フリーランスのエンジニアやるなら45歳までに貯金5000万円作れないと死ぬ説

フリーランスになることを煽ることで自身のポジションを築いてる人がネット上には一定数いて、それに触発されてかフリーランスに憧れる駆け出しエンジニアを結構見かけることがある。 フリーランスのリスク面について言及してるブログとかもあるけど、最大の…

アフィカスなしで、本音でITフリーランス向けエージェントを比較する

GoogleのAIの知能レベルが未だに低いせいで、エージェント情報みたいな金の匂いがする分野でググってもアフィカスサイトばかりが出てきて、本当のところどうなん?っていう本音の情報が中々掴めなかったりする。 どれだけ客観的に書かれてるように見えても、…

「機械学習の基礎知識とSQLの経験1年で月単価100万円」の案件が流れて来た

4月末で今の現場を離れることに決めたので、5月からの新しい参画先の案件をここ1ヶ月ぐらい色々探してて、直近のデータ分析周りの市況感というのを肌で感じたので、その辺りのメモ書き。 ブログ名の通り自分はデータエンジニアを勝手に自称しているわけで、…

「SIerはメモリ2GBのマシンで開発してる」ってどこの世界の話ですか?

今ネットで話題になってる怪文書について。 anond.hatelabo.jp ネットでよく流れてくるあるあるネタとして「メモリ2〜4GBのマシンで開発」「ファイル名_日付でバージョン管理」「スクショエビデンス」みたいなのと同じ系統だけど、正直この手の話って全くリ…

「みんなが憧れるエンジニア」を目指すのは地獄への道かもよ

アニメ制作でも、漫画家でも、お笑い芸人でも、アイドルでも、基本的にみんなが憧れる職業というのは低賃金のブラック労働と相場が決まっている。 これは程度の差こそあれIT業界もしかりで、みんなが憧れるポジション、特に未経験者がやりたいと思ってしまう…

ウォーターフォールと人生計画

ITの世界ではウォーターフォール的な考え方が割と根強く残っていて、一部ではそれが批判されているし、自分もクソだと思ってるけど、ITに限らずこの世の中には割とウォーターフォール的な考え方が浸透してるんじゃないかと思う。 例えばファイナンシャルプラ…

やっぱりおかしいよ日本のIT業界

すでに散々っぱら言われてることだけど、いや、やっぱどう考えてもおかしいだろ、感覚麻痺してないか?ってのを改めてIT業界に身を置く人達に問いたい。 以下に、日本のIT業界のおかしさを端的に表した、すごく分かりやすいデータを貼る。 IT人材白書2017 p.…

データサイエンティスト"だけ"かき集めた日本企業の末路

AI がピークを迎えて幻滅期に入るらしい、っていうガートナーの記事がそこらで話題になってるけど、じゃあなぜそうなったのか、そしてその先にどうなるのかってのを考えた。 すでに同じテーマの記事を俺なんかより賢い人たちが色々考えて書いてるのになんで…

データエンジニアに要求されるスキル一覧

現状多くの日本企業ではデータエンジニアという役割を専任で募集を出してるケースがあまり無くて、多くはデータサイエンティスト求人の歓迎要件にさらっと「データ分析基盤の構築経験」とか書かれてたりする。 お前らほんと舐めんじゃねーよ。ってことを俺は…

炎上プロジェクトに潜り込んで短期間でスキルアップするハック

SIerの多重請負の小規模案件なんかだと、基本的にまともな技術者もプロジェクトマネージャもいないことが多く、プロジェクトのいたるところに不備があってそのままだと炎上必至みたいなケースが多い。 そこそこ経験のあるフリーのエンジニアであれば、長年の…

本当に「大企業でも安泰ではない時代」なのかデータを調べてみた

まずは過去25年ぐらいの企業全体の倒産件数の推移を。 引用元: 2017年(平成29年)の全国企業倒産8,405件 : 東京商工リサーチ あれ、なんか倒産件数自体年々減ってきてない? 直近25年ぐらいで最低水準じゃん..。 一応、もうちょい長いスパンのデータも見て…

データ(基盤)エンジニアが高給を得るためのスキルセット一覧

なぜかキャリア論みたいな与太話ばかり書いてしまう。 ということで、今回はデータ(基盤)エンジニアが高給を得るためのスキル要件をリストアップしてみたいと思います。 ちなみに僕は求人情報調べるのが趣味で日々多くの求人を見てるので、データ(基盤)エン…

Hadoopエンジニアの年収が高い理由

どこかに正確な統計が出てるわけではないけど、Hadoopの構築や運用を扱うエンジニアの求人は全般的に給与水準が高い。 なぜ給与水準が高いのか。 昨今のビッグデータブームのトレンドの中でHadoopエンジニアへの需給バランスが崩れて需要が増えてるからでは…

僕がデータ(分析)基盤エンジニアへのキャリアチェンジを選択した最大の理由

僕は元々Web屋のフリーランスエンジニアをやっていました。 Web屋と一言でいっても、バックエンドやフロントエンドやモバイルやインフラや色々ありますが、僕の場合は近年の需要の流れの中でとりわけモバイル(スマホアプリ)の開発案件を中心にやっていました…

プログラミング能力で生産性なんて大して変わらない

ある界隈では「プログラマーによって生産性に10倍、100倍差が出る」とかいう風説が流布されてるけど、それって具体的にどういうシチュエーションを想定して言ってるのかがあまり話されないのってどうなのって毎回思う。 たぶんプログラマーという職種やプロ…

今データサイエンティストを目指してる人の7割が5年後に年収350万にしかなれない

昨今のデータサイエンティスト求人の高給に釣られてこれからデータサイエンティストになろうとしてる人の多くは、望むような収入にありつけないと思う。 理由は簡単で、日本にはびこるITベンダとは名ばかりの人売りベンダが、こぞって「データサイエンティス…

データ(基盤)エンジニアというブルーオーシャンな職種

AIや機械学習、またそれらを専門とするデータサイエンティストという職業がフューチャーされてる昨今だけど、その影で密かに需要が増えまくってるのがデータ(基盤)エンジニアというポジション。 実際、1年前に比べて明らかに求人増えまくってるのを実感して…