コンテンツへスキップ ナビゲーションに移動

まったり勉強ノート

  • ホーム
  • プロフィール
  • お問い合わせ
  • プライバシーポリシー
  • サイトマップ

GPU

  1. HOME
  2. GPU
プログラミング
2月 12, 2025 / 最終更新日時 : 2月 12, 2025 Shuji Suzuki (shu) プログラミング

小型LLM PLaMo 2 1BをGoogle Colabの無料枠の範囲で使ってみる

先日Preferred Networksとその子会社のPreferred Elementsが共同で開発した1Bサイズの小型のLLM、PLaMo 2 1Bがリリースされました。 私自身、開発にかかわっているメンバーの一人で […]

プログラミング
3月 18, 2023 / 最終更新日時 : 3月 18, 2023 Shuji Suzuki (shu) プログラミング

PyTorch 2.0の新機能「torch.compile」使ってみた

今回は3/16についに出たPyTorch 2.0の目玉機能である「torch.comple」について実際に動かしてみて計算時間を測定してみたので、そのまとめになります。 時間計測の部分で測定に使ったコードはここにあげてあ […]

2月 19, 2023 / 最終更新日時 : 2月 19, 2023 Shuji Suzuki (shu) プログラミング

CUDAの高速化の復習2023年版 Histogram(主にatomicAdd)編

Reduction、vectrized memory accessに続き、今回はhistogramを題材にして主にatomicAddのパフォーマンスが最近どうなっているのかを見ていきたいと思います。 Histogramは […]

2月 14, 2023 / 最終更新日時 : 2月 18, 2023 Shuji Suzuki (shu) プログラミング

CUDAの高速化の復習2023年版 Vectorized Memory Access編

前回Reductionを例に今時のCUDAの高速化で何が効いているのか?を確認したまとめの記事を書きました。今回はその中には登場しなかったCUDAの高速化テクニックの「Vectorized Memory Access」が […]

5月 10, 2021 / 最終更新日時 : 5月 10, 2021 Shuji Suzuki (shu) プログラミング

PyTorchのPERFORMANCE TUNING GUIDEの効果を確認してみる その2 「Fuse pointwise operations」

PyTorchには「PERFORMANCE TUNING GUIDE」という学習を速くするためのテクニック集があります。このドキュメントでは個々のテクニックでどれくらい速くなるか具体的な数値が示されていないので、それを確 […]

3月 21, 2021 / 最終更新日時 : 3月 21, 2021 Shuji Suzuki (shu) プログラミング

PyTorchでGPUの計算時間を正しく計測する

今回の記事ではPyTorchでGPUで実行した関数の計算時間を正しく測定する方法とその後に詳しい説明をしていきます。 はじめに 仕事がらPyTorchで高速な学習方法をいろいろ調べることがよくあります。その際、blog記 […]

Shuji Suzuki (shu)

shuji-suzuki

バイオインフォとHPCっぽいことを研究してる企業研究者。主に調べたり勉強したりしたことのまとめを書いてます。

最近の投稿

書評
[書評] 2040年 半導体の未来 ー なで今日本で半導体を作るのか知りたくなったら読む一冊
4月 28, 2025
書評
[書評] NVIDIA 半導体の覇者が作り出す2040年の世界 ー NVIDIAという会社がどういう会社なのか知りたくなったら読べき一冊
4月 21, 2025
書評
[書評] 改訂独習Pythonバイオ情報解析 ー バイオのテーブルデータ解析することになったら読む一冊
4月 7, 2025
プログラミング
PFNの最新LLM PLaMo 2 8BをGoogle ColabでLoRAで学習してみる
4月 1, 2025
書評
 [書評] 引き算の子育て ー 子育てで思い悩んでたらお勧めな一冊
3月 24, 2025

人気の投稿

最近の投稿

書評

[書評] 2040年 半導体の未来 ー なで今日本で半導体を作るのか知りたくなったら読む一冊

4月 28, 2025
書評

[書評] NVIDIA 半導体の覇者が作り出す2040年の世界 ー NVIDIAという会社がどういう会社なのか知りたくなったら読べき一冊

4月 21, 2025
書評

[書評] 改訂独習Pythonバイオ情報解析 ー バイオのテーブルデータ解析することになったら読む一冊

4月 7, 2025
プログラミング

PFNの最新LLM PLaMo 2 8BをGoogle ColabでLoRAで学習してみる

4月 1, 2025
書評

 [書評] 引き算の子育て ー 子育てで思い悩んでたらお勧めな一冊

3月 24, 2025
書評

[書評] TSMC ー 世界屈指の企業がどのように誕生したかを知りたくなったら読む一冊

3月 10, 2025
書評

[書評] 子どもとの関係が変わる自分の親に読んで欲しかった本 ー 子育てでこれでいいんだろうかと思ったら読む1冊

3月 3, 2025
書評

[書評] 科学的根拠で子育て ー 子育てのそれって意味あるの?と思ったら読む一冊

2月 24, 2025
書評

[書評] Tidy First? ー コードが汚いけど何から初めていいかわからないと思ったときに読む一冊

2月 17, 2025
プログラミング

小型LLM PLaMo 2 1BをGoogle ColabでSFTしてみる

2月 13, 2025

カテゴリー

  • プログラミング
  • 書評
  • 未分類

アーカイブ

  • 2025年4月
  • 2025年3月
  • 2025年2月
  • 2025年1月
  • 2024年12月
  • 2024年10月
  • 2024年9月
  • 2024年4月
  • 2023年11月
  • 2023年10月
  • 2023年9月
  • 2023年8月
  • 2023年7月
  • 2023年6月
  • 2023年5月
  • 2023年4月
  • 2023年3月
  • 2023年2月
  • 2023年1月
  • 2022年12月
  • 2022年11月
  • 2022年5月
  • 2022年4月
  • 2022年3月
  • 2022年2月
  • 2021年12月
  • 2021年11月
  • 2021年10月
  • 2021年5月
  • 2021年4月
  • 2021年3月
  • 2021年2月

アーカイブ

  • 2025年4月
  • 2025年3月
  • 2025年2月
  • 2025年1月
  • 2024年12月
  • 2024年10月
  • 2024年9月
  • 2024年4月
  • 2023年11月
  • 2023年10月
  • 2023年9月
  • 2023年8月
  • 2023年7月
  • 2023年6月
  • 2023年5月
  • 2023年4月
  • 2023年3月
  • 2023年2月
  • 2023年1月
  • 2022年12月
  • 2022年11月
  • 2022年5月
  • 2022年4月
  • 2022年3月
  • 2022年2月
  • 2021年12月
  • 2021年11月
  • 2021年10月
  • 2021年5月
  • 2021年4月
  • 2021年3月
  • 2021年2月

カテゴリー

  • プログラミング
  • 書評
  • 未分類
  • ホーム
  • プロフィール
  • お問い合わせ
  • プライバシーポリシー
  • サイトマップ

Copyright © まったり勉強ノート All Rights Reserved.
Supported by Rakuten Developers

MENU
  • ホーム
  • プロフィール
  • お問い合わせ
  • プライバシーポリシー
  • サイトマップ
PAGE TOP Secured By miniOrange