Machine Learning 視覚野とConvolutional Neural Networkの構造について
「ディープラーニング 学習する機械 ヤン・ルカン、人工知能を語る」で書かれていた視覚野とConvolutional Neural Network（CNN）の関係が興味深かったので、まとめてみました。 2012年の爆弾とCNNの始まり 201...
Machine Learning
Machine Learning 
Machine Learning 【PyTorch】エポックに応じて自動で学習率を変えるtorch.optim.lr_scheduler
PyTorchで、エポックに応じて学習率を変更するSchedulerの基本的な使い方を見ていきます。 PyTorchに実装されているScheduler 以下、リンク先ドキュメントから、PyTorchに実装されているSchedulerは14種...
Machine Learning PyTorchのモデルの保存と読み込み方法
PyTorchにモデルの保存と読み込みには大きく分けて2種類の方法があります。1つ目はtorch.save/torch.loadを使う方法で、2つ目はTorchScript形式で保存/読み込む方法です。 参考記事 - Saving and ...
Machine Learning 【PyTorch】Focal Lossの実装と効果の確認【自作損失関数】
PyTorchにおけるFocal Lossの実装を行ない、簡単な追試を行ない性能がどのようになるか見ていきます。 Focal Lossについて Facebook AI Research (FAIR)によって2017年に物体検出を対象に提案さ...
Machine Learning PyTorchで自作の損失関数（loss function）を使う
PyTorchで自作の損失関数（ロス関数）を使う方法について見ていきます。 自作損失関数の定義 自作損失関数はnn.Moduleを継承して、基本的には定義します。 import torch from torch import nn clas...
Book 【初学者向け本】やさしく学ぶ機械学習を理解するための数学のきほん
立石賢吾さんの書かれた本「やさしく学ぶ機械学習を理解するための数学のきほん」が評判が良いの一通り読んでみたので感想を書いていきます。 これまで、他の入門書で最小二乗法、最急降下法、正則化の理解が進まなかった人にオススメの本です。 感想 機械...
Machine Learning 【入門】PyTorchのモデル構築/学習/推論の基本的な流れをQuickstartでみる【初心者】
PyTorchで、Neural Networkの構築、学習、推論までの流れをPyTorch公式TutorialsのQuickstartに沿って進めていきます。 Quickstart - PyTorch Tutorials データの準備 今回...
Book 【読書】ディープラーニング 学習する機械 ヤン・ルカン、人工知能を語る
感想 私が本書を書こうと思ったのは、AIに関する技術と方法の全体像を、難解な部分もすべて含めて説明するためだ。 AIのゴットファーザーの一人であるヤン・ルカン（Meta/New York University）が、このような意気込みで書いた...
Machine Learning PyTorchでGPUを使用するためのtorch.cuda.is_available
PyTorchでGPUを使用するための確認方法とモデルやTensorへの適用方法について見てみました。 torch.cuda.is_available - GPU使用可能か確認 torch.cuda.is_available - PyTor...
Book ゼロから作るDeep Learning ❷ ―自然言語処理編 第6章前半メモ
「ゼロから作るDeep Learning ❷ ―自然言語処理編」の第6章前半を読んだので概要をメモ ゼロから作るDeep Learning ❷ ―自然言語処理編 第6章ゲート付きRNN 「RNN」と言った時、それが指すレイヤは前章のRNNで...