4月 1, 2025 / 最終更新日時 : 3月 31, 2025 Shuji Suzuki (shu) プログラミング

PFNの最新LLM PLaMo 2 8BをGoogle ColabでLoRAで学習してみる

少し前になりますが、PFNが開発しているLLM、PLaMo 2の8Bモデル（事前学習モデル）が公開されました。こちら特殊なライセンスになっていますが、個人が使う分には商業利用も可能なライセンスで公開されています。このモ […]

2月 13, 2025 / 最終更新日時 : 2月 13, 2025 Shuji Suzuki (shu) プログラミング

小型LLM PLaMo 2 1BをGoogle ColabでSFTしてみる

今回はPreferred Networksとその子会社のPreferred Elementsが共同で開発した1Bサイズの小型のLLM、PLaMo 2 1Bに対してSFTをするコードの紹介になります。 Google Col […]

2月 12, 2025 / 最終更新日時 : 2月 12, 2025 Shuji Suzuki (shu) プログラミング

先日Preferred Networksとその子会社のPreferred Elementsが共同で開発した1Bサイズの小型のLLM、PLaMo 2 1Bがリリースされました。私自身、開発にかかわっているメンバーの一人で […]

12月 4, 2024 / 最終更新日時 : 12月 4, 2024 Shuji Suzuki (shu) プログラミング

先日、Preferred Networksグループで開発されたPLaMo PrimeというLLMのAPI提供が開始されました。このPLaMo PrimeはChatのWeb UIもありますが、APIを利用してプログラムか […]

10月 30, 2023 / 最終更新日時 : 2月 28, 2024 Shuji Suzuki (shu) プログラミング

先日リリースされたOptuna 3.4にPreferential Optimizationという機能がついに入りました！このPreferential OptimizationはOptunaとOptuna Dashboa […]

5月 19, 2023 / 最終更新日時 : 5月 19, 2023 Shuji Suzuki (shu) プログラミング

今回はLangChainの小ネタの記事でHugging FaceのモデルをLangChainで扱う方法について調べたので、その記事になります。 LangChainについてご存じないという方のために一言で説明するとLang […]

5月 12, 2023 / 最終更新日時 : 5月 12, 2023 Shuji Suzuki (shu) プログラミング

最近、LangChainの以下の公式blog記事で「Contextual Compression」という機能が紹介されていました。 https://blog.langchain.dev/improving-documen […]

4月 27, 2023 / 最終更新日時 : 4月 27, 2023 Shuji Suzuki (shu) プログラミング

最近、LLMを使ったOSSの中身を調べてLLMとどう連携して目的を達成しているのかをいろいろ調べています。今回はLangChainのPandas Dataframe Agentの中身がどうなっているのか気になったので調べ […]

4月 21, 2023 / 最終更新日時 : 4月 21, 2023 Shuji Suzuki (shu) プログラミング

LangChainの中身がどうなっているのか気になっている今日このごろ。今回はLangChainのテキストをまとめるSummarizationまわりについて調べたのでそのまとめになります。 LangChainって何？っ […]

4月 19, 2023 / 最終更新日時 : 4月 19, 2023 Shuji Suzuki (shu) プログラミング

今回は最近やっているLLMを使って論文からMindmapを作る取り組みについて紹介したいと思います。まだ試作段階で一部うまくいって、一部うまくいってないという感じですが、参考になる人もいるかもしれないと思ったので記事にま […]