はてなブックマーク

こんにちは。現役エンジニアの"はやぶさ"@Cpp_Learningです。 WSL2 + Docker + VS Code の Remote – Containers のPython開発環境が最高だったので、構築方法と実践チュートリアルを紹介します。

こんにちは。 現役エンジニアの"はやぶさ"@Cpp_Learningです。最近は統計的因果推論を勉強中です。 https://twitter.com/Cpp_Learning/status/1357901635003981826 本記事では相関関係をグラフ(ネットワーク)で可視化する方法を紹介します。

機械学習モデルの高速化については、実に様々なテクニックが存在し、高度な専門スキルを保有していないと実践できないケースもあります。 本記事の内容は sklearnで学習・推論を実践した人を対象としますが、それ以上のスキルは求めません。 sklearnの機械学習モデルを手軽に高速化する方法について紹介しますので、興味のある人は続きをどうぞ。 sklearnによる機械学習モデルの学習 今回は機械学習チュートリアルでお馴染みのirisデータセットを使い、ランダムフォレストによる分類モデルを生成します。 Import まずはimportから

以降から確率的プログラミング言語の概要を説明したあと、NumPyroによる統計モデリングについて、ソースコード付きで紹介します。 確率的プログラミング言語(PPL:Probabilistic Programming Language)とは 深層学習フレームワーク(TensorFlow, PyTorchなど)を活用することで、比較的簡単に深層学習モデルの設計ができるようになり、ディープラーニングの民主化が進みました。 ベイズ統計の分野でも確率的プログラミング言語(PPL:Probabilistic Programming Language)の登場により、モデリング作業の簡素化が整備されつつあります。 そのためディープラーニング同様に、ベイズ統計モデリングの民主化が進むと考えています。

モチベーション 高次元データを扱う場合、UMAPのみで次元削減するのではなく、PCAで次元削減⇒UMAPで次元削減するのが有効とのこと。 次元削減手法(PCA+UMAPなど)を組み合わせるとか考えたこともなかった。 元データの次元にもよるけど、どの手法でどれだけ次元削減すべきか把握できるだろうか?🤔 https://t.co/zSpvH0Mm8J — はやぶさ@技術ノート (@Cpp_Learning) September 4, 2020

【Step1】Google Colaboratory のノートブックを新規作成 Google Colab を起動して、ノートブックを新規作成します。 【Step2】Gradio インストール 以下のコマンドでPythonライブラリの Gradio をインストールします。

以降からは『Pythonによる因果分析』の各章に対しての感想文です。お時間のある方は続きも読んで頂けると嬉しいです。 Pythonによる因果分析 -はじめに- この本の最初の数ページに読書へのメッセージが書いてあります。 本書は因果推論や因果探索を学びたいビジネスパーソンや初学者の方を対象としています。そのため確率・統計の数学的記述や式変形などは、厳密性よりも初学者への分かりやすさを優先しています。厳密な記述や証明が気になる方は、本書を読み終えたのちに、さらなる専門書籍に挑戦いただければ幸いです。 初学者を対象にした説明の方が難しいときもあります。分かりやすい説明を追求する余り、冗長的な説明になってしまうことも...(経験談) この本を読んで「言葉遣いが平易で理解しやすい」と感じる人もいれば「説明が物足りない」と感じる人もいると思います。 因果推論・因果探索を学ぶ最初の一冊に本書を活用し、良い

変数xが変数yに影響を与えるなど、向きが明確な場合は矢印(有向エッジ)を用います。一方、因果はあるけど、向きが分からない場合は線のみ(無向エッジ)で結合します。 ここでいう変数(青●くろまる)をノード、矢印をエッジと呼ぶこともあります。グラフ関連の用語については、以下の記事で紹介しています。 PyTorch GeometricでGraph Neural Network(GNN)入門グラフニューラルネットワーク(GNN:graph neural network)とグラフ畳込みネットワーク(GCN:graph convolutional network)について勉強したので、内容をまとめました。PyTorch Geometricを使ったノード分類のソースコードも公開しています。... 循環グラフとは 下図のように、あるノード(変数zなど)を起点としたとき、巡り巡って変数zに戻ってくるグラフのことを循環

最初に「モデリング」や「モデル」などの用語について整理しておきます。 モデリングとは あるデータを入力したとき、ユーザーがほしい情報を出力する箱をモデルと呼びます。 例えば下図は、あるパターンの波形を入力すると、その数秒先の波形を予測(出力)するモデルのイメージです。 引用元:MXNetとLSTMで時系列データ予測 -入門から実践まで- このモデルを設計する作業がモデリングです。具体的には、モデルの中身にあたるアルゴリズムを検討する作業のことです。 近年では深層学習モデルが人気です。実は上図もLSTMと呼ばれるアルゴリズムを活用した深層学習モデルです。

機械学習とタスクについて 回帰や分類などのタスクに機械学習モデルを活用することがあります。 例えば、以下の記事ではフクロウの種類を分類するために深層学習モデルを活用しています。 PyTorch Lightning入門から実践まで -自前データセットで学習し画像分類モデルを生成-ディープラーニングフレームワークPytorchの軽量ラッパー"pytorch-lightning"の入門から実践までのチュートリアル記事を書きました。自前データセットを学習して画像分類モデルを生成し、そのモデルを使って推論するところまでソースコード付で解説しています。...

こんにちは。 現役エンジニアの"はやぶさ"@Cpp_Learningです。仕事でもプライベートでも機械学習で色々やってます。 今回はGraph Neural Network(以下 GNN)について勉強したので、備忘録も兼ねて本記事を書きます。

skorchとは skorchとはPyTorchをラップしてscikit-learnと完全互換させた深層学習ライブラリです。 Ecosystem | PyTorch では以下のように紹介しています。 skorch is a high-level library for PyTorch that provides full scikit-learn compatibility. skorchの公式GitHub だと以下のように説明しています。 A scikit-learn compatible neural network library that wraps PyTorch. skorchを使うモチベーション scikit-learnやKerasユーザーがPytorchを使うとき、以下のような不満をもつ(戸惑う)人がいると思います。

こんにちは! 元制御屋の"はやぶさ"@Cpp_Learningです。 以前、機械学習未使用で時系列データを分析する方法について記事を書きました。 【データ分析入門】機械学習未使用!Pythonでゼロから始める振動解析機械学習(深層学習含む)によるデータサイエンスが流行っていますが、フーリエ解析などの振動解析により、異常検知を行うこともできます。本記事はデータ分析/振動解析学ぶための実践的なチュートリアル記事です。...

こんにちは。 現役エンジニアの"はやぶさ"@Cpp_Learningです。仕事でもプライベートでも機械学習で色々やってます。 今回は時系列データの前処理(ラグ特徴量)について勉強したので、備忘録も兼ねて本記事を書きます。 時系列データとは 時系列について、Wikipediaでは以下のように説明しています。 時系列(じけいれつ、英: time series)とは、ある現象の時間的な変化を、連続的に(または一定間隔をおいて不連続に)観測して得られた値の系列(一連の値)のこと。 引用元:Wikipedia より直観的な説明をすると、データを可視化したとき横軸が時間なら、そのデータは時系列データといえます。 上図の縦軸が加速度センサの計測値、横軸が時間です。つまり、これも時系列データです。

こんにちは。 現役エンジニアの"はやぶさ"@Cpp_Learningです。最近、距離学習を楽しく勉強しています。 今回は、角度を用いた深層距離学習のSphereFace・CosFace・ArcFace・AdaCosについて勉強したので、備忘録も兼ねて本記事を書きます。

こんにちは。 現役エンジニアの"はやぶさ"@Cpp_Learningです。最近は、Pytorchを使って深層学習を楽しんでいます。 今回は、ハイパーパラメータ自動最適化フレームワーク Optuna を使って、ハイパーパラメータの自動チューニングを実践したので、備忘録も兼ねて本記事を書きます。 Optunaとは Optunaやハイパーパラメータについては、PFN公式ブログに丁寧な解説がありますので、本記事では割愛し... Optunaを活用したハイパーパラメータ自動チューニングのイメージのみを説明します。 従来、人がチューニングしていたハイパーパラメータを... Optunaが代わりにやってくれます(ハイパーパラメータの自動チューニング) 出典:PFNエンジニアの講演資料 以上! なお、上図は Chainer の例ですが、以下のExamplesコードが用意してあります。

PyTorch Lightningを使うモチベーション PyTorchは深層学習用のフレームワークなので、ある程度は同じ形式でコードを書けます。しかし、自由度が高いため、学習用のループ処理などがユニークになりがちです。 1人で使う書き捨てコードなら問題ありませんが、チームでコードを共有したり、過去に自作したコードを使いまわす場合は、フレームワークなどの力を借りてコードを形式化する方が効率的です。 (夜のテンションで可読性の悪いコードを書いてしまうことありますよね?) PyTorch Lightningで研究に注力...みたいなカッコイイこと(公式もそう説明してる)を書きましたが... 個人的にはスッキリした学習コードを書きたいというのが本音です。 PyTorch Lightningの活用により、可読性の良い学習コードを書いて、チームで共有したり、過去に書いたコードを使い回したいと考えています。 公

こんにちは。 現役エンジニアの"はやぶさ"@Cpp_Learningです。最近、距離学習を楽しく勉強しています。 今回は、損失関数のCenter Lossについて勉強したので、備忘録も兼ねて本記事を書きます。

距離学習(Metric Learning)入門から実践までこんにちは。 現役エンジニアの"はやぶさ"@Cpp_Learningです。距離学習 (metric learning)について勉強... 今回は、深層距離学習(Deep Metric Learning)のSiamese Networkと損失関数のContrastive Lossについて勉強したので、備忘録も兼ねて本記事を書きます。

こんにちは。 現役エンジニアの"はやぶさ"@Cpp_Learningです。距離学習 (metric learning)について勉強したので、備忘録も兼ねて本記事を書きます。

こんにちは。現役エンジニアの"はやぶさ"@Cpp_Learningです。 仕事でもプライベートでもREADME.mdを書く機会が多いので、あまり雑なREADME.mdを書かないように自作のテンプレート使うようになりました。(テンプレートを使うことで時短にもなる) 本記事では『シンプルなREADME.mdの書き方』と『コピペで使える"README"テンプレート』を紹介します。 ご参考になると嬉しいです。 READMEとは GitHubユーザーにはお馴染みの"README"ですが、Wikipediaでは以下のように説明しています。 リードミー(Readme)とは、ソフトウェアを配布する際の添付文書のひとつ。配布物の一般的な情報を記載したファイルである。多くの場合、そのソフトウェアをインストールし使用する前に読むべきものとされている。 引用元:Wikipedia "README"については、他に

こんにちは。 現役エンジニアの"はやぶさ"@Cpp_Learningです。 最近、M5Stackで遊ぶのがマイブームです!"調べた内容"や"自作アプリ"については本ブログで公開しています。

こんにちは。 現役エンジニアの"はやぶさ"@Cpp_Learningです。 先日、Maker Faire Tokyoや趣味TECH祭(旧裏メイカー祭)に遊びに行きました! #MFTokyo2019 と同時開催で #趣味TECH祭 も東京ビッグサイト開催中! 見ていて笑顔になる作品が沢山あります!入場無料なので、お時間ある人はこちらにも遊びに行くのがオススメです😊 https://t.co/oQ38D6Dymg — はやぶさ (@Cpp_Learning) August 4, 2019 もう楽しくて楽しくて!笑顔の絶えない素敵なお祭りでした! 会場のあちこちで使われていたM5Stackが面白そう!ということで買っちゃいました(*・ω・)ノ♪ 買ったは良いけど、何から始めれば良いの?どの言語を使うのかも分からない... M5StackをArduinoIDEで使うなら、ここが参考になります。 ht

【Pyxel】Pythonでレトロゲームを作ろう! 総集編 -まるっと1週間でゲーム開発入門-Python向けのレトロゲームエンジン:pyxelを用いたゲーム開発入門チュートリアル(ソースコード付き)を書きました。画像処理・数学・物理・制御について学び、実践としてゲームプログラミングまで行います。...

こんにちは。 現役エンジニアの"はやぶさ"@Cpp_Learningです。 以前、標準入出力を使って手軽にPythonとC/C++を連携する方法の記事を書きました。 PythonからC/C++を呼ぶ -標準入出力とsubprocessの使い方-「Python とC++の連携」・「Python とC言語の連携」・「Python と他言語の連携」などを実現するため、標準入出力を使って2つのプログラミング言語を連携する方法を記事にしました。... (本記事の理解が深まるので、この記事を読んでから、続きを読んでほしいなぁ) この記事の【応用】として、C++とPythonを連携してC++コードのテストを実践しました。 備忘録も兼ねて本記事を書きます。

こんにちは。 現役エンジニアの"はやぶさ"@Cpp_Learningです。 C++でソフトウェア開発をしています。C++でプログラミングをしていると...

【Pyxel】Pythonでレトロゲームを作ろう! 総集編 -まるっと1週間でゲーム開発入門-Python向けのレトロゲームエンジン:pyxelを用いたゲーム開発入門チュートリアル(ソースコード付き)を書きました。画像処理・数学・物理・制御について学び、実践としてゲームプログラミングまで行います。... 【Python】ゲームソフト開発を題材にしたオブジェクト指向入門ゲームソフト作成を題材にした「オブジェクト指向」の入門記事を書きました。オブジェクト図/クラス図の書き方や考え方のポイントも説明した実践的な内容になっています!ソフトウェア設計やソフトウェア開発を学びたい人にオススメの記事です!...

【Python C API入門】C/C++で拡張モジュール作ってPythonから呼ぶ -前編-こんにちは。 現役エンジニアの"はやぶさ"@Cpp_Learningです。 仕事の都合もあり「C言語 ⇒ C++ ⇒ Pyt...