SlideShare une entreprise Scribd logo
1  sur  13
Télécharger pour lire hors ligne
Matlantis™のニューラルネットワークポテンシャル
PFPの適用範囲拡張
So Takamoto○
, Chikashi Shinagawa
Preferred Networks, Inc.
2
● Matlantis [1]
○ 材料探索を加速する
“汎用原子レベルシミュレータ”
○ 原子シミュレーションの環境を
SaaSとして提供
● PFP
○ Matlantisのコア技術に相当する
Neural network potenital (NNP)
○ データセット/アーキテクチャ
共に独自開発
○ 任意の多元素の組み合わせに
対して動作する汎用性が特徴
タイトルの用語について: MatlantisとPFP
[1] Matlantis. https://matlantis.com/
[2] Matlantis Cases. https://matlantis.com/ja/cases
Matlantisを利用して計算された事例 [2]
3
● Neural Network Potential (NNP) の発展
○ 原子構造を扱うNNアーキテクチャの「カンブリア爆発」
■ グラフ畳み込み、不変性/共変性の導入、電子状態計算の模倣
○ 巨大データセットの登場
■ QM9, Materials Project, Open Catalyst Project, etc.
● 課題
○ 精度: 回帰スコアとしての精度が
分子動力学計算の精度と結びつかない
○ 外挿性: データセットにない原子構造に
対する推論が破綻しやすい
○ ロバスト性: 非現実的な構造を回避
することの難しさ
背景: NNPの発展と課題
DimeNet++/OC20 による吸着構造の再現
(Co表面/COH分子). 最適化した表面(a)に分
子を乗せると構造が崩壊(b).現実的な構造(c)
は局所安定. [1]
[1] S. Takamoto, et al., Nat. Commun 13, 2991 (2022).
4
● 仮説: 既知の特定の原子構造のみを対象としたデータセットではエネルギー
曲面を再現するのに十分な情報を得ることが困難?
● 方針: 可能な限り前提知識を排し、位相空間の広範囲をカバーできるよう不安
定・非現実的な構造を積極的に教師データに入れる
● High-temperature multi-element 2021 (HME21) dataset [1]
○ PFPの学習のために作成したデータセットからの一部抜粋
○ 多種の元素を含む原子構造を高温でMD計算した構造
■ 体積固定(NVT)、~32原子、500 K~10000 K、最大20元素
○ MD計算には学習したNNPそのものを利用
■ NNPが推論してしまった非現実的な構造も
教師データに加えていく、一種の自己学習
ユニバーサルなNNPを実現するためのデータセット
[1] High-temperature multi-element 2021 (HME21) dataset. https://doi.org/10.6084/m9.figshare.19658538
5
● TeaNet: PFPの前身のNNPアーキテクチャ [1]
○ 高階のテンソル量をグラフに流す
○ EAM/Tersoff ポテンシャル関数の振る舞いをグラフNNに書き直し
○ HME21データセットに対する回帰スコアで良い性能 [2]
● 分子動力学計算の検証
○ (HME21データセットに入っていない)表面吸着を再現
○ 反応のNEB計算も可能
HME21データセット ベンチマーク
左: HME21データセットに対する他アーキテクチャとの比
較
[1] S. Takamoto, et al., Comput. Mater. Sci. 207, 111280 (2022).
[2] S. Takamoto, et al., Nat. Commun 13, 2991 (2022).
6
● データセット/アーキテクチャの継続的開発
○ HME21以外にも様々な方針でデータを取得
■ 仮想的な結晶構造、分子/クラスタ等
○ アーキテクチャ改良
■ 局所性、不変性、エネルギー
曲面の連続性は維持
● 2021/01 PFP バージョン0
○ 論文版 [1]
● 2021/07 PFP バージョン1
○ Matlantis 提供開始
○ 55元素に拡張
○ 後にD3補正に対応
PFP バージョン0, 1 / Matlantis提供開始
PFP バージョン0の適用例 [1]
[1] S. Takamoto, et al., Nat. Commun 13, 2991 (2022).
FT反応の活性化エネルギー
MOF構造再現
Li拡散
相変態
7
● 精度のさらなる向上
○ PFPでは汎用性を最重要項目と位置づけ、
精度を向上させていく開発方針を取った
○ 汎用性を維持したままの精度向上を目指す
● 2022/02 PFP バージョン2
○ フォノンの再現性向上
○ Hubbard U補正なしモードを追加
● 2022/08 PFP バージョン3
○ 分子系液体の密度改善
○ 55元素→72元素に拡張
Matlantis提供開始以降の方針
反応 拡散
吸着
フォノン
分子間力
破綻しないMD
構造間の自由エネルギー
要求される
エネルギーの精度
エネルギーのスケールと現象の模式図
PFP バージョン3
元素の対応状況
8
● フォノンの改善
○ PFP バージョン1では一部の構造のフォノンの不安定性(計算時の
微小変位⊿xへの強い依存性)が報告
○ 原子に働く力が大幅に小さい
データ(安定点付近)を収集
→PFP バージョン2で
フォノンの再現性が改善
● 分子系液体
○ 同様に分子間の相互作用に課題
○ 大きな誤差と小さな誤差を同時に
学習できるよう学習手法を修正
○ PFP バージョン3では分子系液体の
密度 (室温) の再現性が向上
精度改善の事例
Si phonon dispersion curve
(PFP v3.0.0, delta=0.01)
Liquid density
(PFP v3.0.0, 300 K)
9
● PFP バージョン3で55→72元素に拡張
● 学習データに使用していない検証用の
結晶構造データ* に対して検証
○ 安定点のエネルギーおよび微小
変化に対するforceの変化をDFTと
比較し、精度向上を確認
○ 興味深いことに、未対応の時点で
一定の精度では推論が行えていた
■ ごく少数のデータは存在
■ 元素に対してある種の汎化が
起こっている可能性を示唆
対応元素拡大
* Crystallography Open Databaseから抽出.
DFTによる構造最適化計算を実施
10
● PFPデータセットのスケール
○ DFT計算が大きな分量を占める
○ PFP バージョン3の時点でGPU 1144年分に相当
統計情報
PFP Number of data GPU days
v0.0.0 3 x 10^6 6 x 10^4
v1.0.0 10 x 10^6 10 x 10^4
v2.0.0 17 x 10^6 15 x 10^4
v3.0.0 22 x 10^6 42 x 10^4 * PFNの計算機クラスター (MN-2)
* 収束しなかった等の理由で学習に使用していないデータの計算時間を含む
11
● 原子シミュレーションにおける「基盤モデル」としてのPFP
○ エネルギー以外の推論タスクとの融合、転用
● さらなる高精度化
○ 教師データのためのより高精度な電子状態計算の検討
○ 微細なエネルギー差の再現のためのデータセット収集
○ NNPアーキテクチャの精緻化
● 高速化
○ NN演算速度の高速化 (デバイスの最適化、計算グラフ改善)
○ モデルの改善、精度と速度のトレードオフ
● 原子構造生成、原子構造予測
Future works
12
● 「任意の物質に適用可能なNNP」を目的に技術開発を行った
○ 仮想的な構造・乱れた構造を含むデータセットを作成し、これを学習可能
なNNPアーキテクチャを開発した
○ 作成したNNPはデータセットに明示的に含んでいない材料に対して良い
振る舞いをすることを示した
● 材料探索サービス"Matlantis"のコア技術として大規模かつ継続的な開発を
行った
○ 精度を向上させ、より繊細な計算対象を扱えるようにした
○ 対応元素を72元素まで増やした
○ 現時点で作成したDFT計算データセットはGPU1枚換算で1000年を超え
るスケールに達した
まとめ
Making the real world computable

Contenu connexe

Tendances

PFP:材料探索のための汎用Neural Network Potential_中郷_20220422POLセミナー
PFP:材料探索のための汎用Neural Network Potential_中郷_20220422POLセミナーPFP:材料探索のための汎用Neural Network Potential_中郷_20220422POLセミナー
PFP:材料探索のための汎用Neural Network Potential_中郷_20220422POLセミナーMatlantis
 
【DL輪読会】ViT + Self Supervised Learningまとめ
【DL輪読会】ViT + Self Supervised Learningまとめ【DL輪読会】ViT + Self Supervised Learningまとめ
【DL輪読会】ViT + Self Supervised LearningまとめDeep Learning JP
 
三次元点群を取り扱うニューラルネットワークのサーベイ
三次元点群を取り扱うニューラルネットワークのサーベイ三次元点群を取り扱うニューラルネットワークのサーベイ
三次元点群を取り扱うニューラルネットワークのサーベイNaoya Chiba
 
【DL輪読会】High-Resolution Image Synthesis with Latent Diffusion Models
【DL輪読会】High-Resolution Image Synthesis with Latent Diffusion Models【DL輪読会】High-Resolution Image Synthesis with Latent Diffusion Models
【DL輪読会】High-Resolution Image Synthesis with Latent Diffusion ModelsDeep Learning JP
 
最近のDeep Learning (NLP) 界隈におけるAttention事情
最近のDeep Learning (NLP) 界隈におけるAttention事情最近のDeep Learning (NLP) 界隈におけるAttention事情
最近のDeep Learning (NLP) 界隈におけるAttention事情Yuta Kikuchi
 
全力解説!Transformer
全力解説!Transformer全力解説!Transformer
全力解説!TransformerArithmer Inc.
 
モデル高速化百選
モデル高速化百選モデル高速化百選
モデル高速化百選Yusuke Uchida
 
cvpaper.challenge 研究効率化 Tips
cvpaper.challenge 研究効率化 Tipscvpaper.challenge 研究効率化 Tips
cvpaper.challenge 研究効率化 Tipscvpaper. challenge
 
[DL輪読会]Pay Attention to MLPs (gMLP)
[DL輪読会]Pay Attention to MLPs	(gMLP)[DL輪読会]Pay Attention to MLPs	(gMLP)
[DL輪読会]Pay Attention to MLPs (gMLP)Deep Learning JP
 
深層学習の不確実性 - Uncertainty in Deep Neural Networks -
深層学習の不確実性 - Uncertainty in Deep Neural Networks -深層学習の不確実性 - Uncertainty in Deep Neural Networks -
深層学習の不確実性 - Uncertainty in Deep Neural Networks -tmtm otm
 
backbone としての timm 入門
backbone としての timm 入門backbone としての timm 入門
backbone としての timm 入門Takuji Tahara
 
【DL輪読会】Visual Classification via Description from Large Language Models (ICLR...
【DL輪読会】Visual Classification via Description from Large Language Models (ICLR...【DL輪読会】Visual Classification via Description from Large Language Models (ICLR...
【DL輪読会】Visual Classification via Description from Large Language Models (ICLR...Deep Learning JP
 
SSII2020SS: グラフデータでも深層学習 〜 Graph Neural Networks 入門 〜
SSII2020SS: グラフデータでも深層学習 〜 Graph Neural Networks 入門 〜SSII2020SS: グラフデータでも深層学習 〜 Graph Neural Networks 入門 〜
SSII2020SS: グラフデータでも深層学習 〜 Graph Neural Networks 入門 〜SSII
 
【DL輪読会】時系列予測 Transfomers の精度向上手法
【DL輪読会】時系列予測 Transfomers の精度向上手法【DL輪読会】時系列予測 Transfomers の精度向上手法
【DL輪読会】時系列予測 Transfomers の精度向上手法Deep Learning JP
 
Deeplearning輪読会
Deeplearning輪読会Deeplearning輪読会
Deeplearning輪読会正志 坪坂
 
[DL輪読会]ICLR2020の分布外検知速報
[DL輪読会]ICLR2020の分布外検知速報[DL輪読会]ICLR2020の分布外検知速報
[DL輪読会]ICLR2020の分布外検知速報Deep Learning JP
 
【メタサーベイ】数式ドリブン教師あり学習
【メタサーベイ】数式ドリブン教師あり学習【メタサーベイ】数式ドリブン教師あり学習
【メタサーベイ】数式ドリブン教師あり学習cvpaper. challenge
 
データに内在する構造をみるための埋め込み手法
データに内在する構造をみるための埋め込み手法データに内在する構造をみるための埋め込み手法
データに内在する構造をみるための埋め込み手法Tatsuya Shirakawa
 
【メタサーベイ】基盤モデル / Foundation Models
【メタサーベイ】基盤モデル / Foundation Models【メタサーベイ】基盤モデル / Foundation Models
【メタサーベイ】基盤モデル / Foundation Modelscvpaper. challenge
 
Matlantisがもたらす革新的なマテリアルの創出_POL共催セミナー_20220304
Matlantisがもたらす革新的なマテリアルの創出_POL共催セミナー_20220304Matlantisがもたらす革新的なマテリアルの創出_POL共催セミナー_20220304
Matlantisがもたらす革新的なマテリアルの創出_POL共催セミナー_20220304Matlantis
 

Tendances (20)

PFP:材料探索のための汎用Neural Network Potential_中郷_20220422POLセミナー
PFP:材料探索のための汎用Neural Network Potential_中郷_20220422POLセミナーPFP:材料探索のための汎用Neural Network Potential_中郷_20220422POLセミナー
PFP:材料探索のための汎用Neural Network Potential_中郷_20220422POLセミナー
 
【DL輪読会】ViT + Self Supervised Learningまとめ
【DL輪読会】ViT + Self Supervised Learningまとめ【DL輪読会】ViT + Self Supervised Learningまとめ
【DL輪読会】ViT + Self Supervised Learningまとめ
 
三次元点群を取り扱うニューラルネットワークのサーベイ
三次元点群を取り扱うニューラルネットワークのサーベイ三次元点群を取り扱うニューラルネットワークのサーベイ
三次元点群を取り扱うニューラルネットワークのサーベイ
 
【DL輪読会】High-Resolution Image Synthesis with Latent Diffusion Models
【DL輪読会】High-Resolution Image Synthesis with Latent Diffusion Models【DL輪読会】High-Resolution Image Synthesis with Latent Diffusion Models
【DL輪読会】High-Resolution Image Synthesis with Latent Diffusion Models
 
最近のDeep Learning (NLP) 界隈におけるAttention事情
最近のDeep Learning (NLP) 界隈におけるAttention事情最近のDeep Learning (NLP) 界隈におけるAttention事情
最近のDeep Learning (NLP) 界隈におけるAttention事情
 
全力解説!Transformer
全力解説!Transformer全力解説!Transformer
全力解説!Transformer
 
モデル高速化百選
モデル高速化百選モデル高速化百選
モデル高速化百選
 
cvpaper.challenge 研究効率化 Tips
cvpaper.challenge 研究効率化 Tipscvpaper.challenge 研究効率化 Tips
cvpaper.challenge 研究効率化 Tips
 
[DL輪読会]Pay Attention to MLPs (gMLP)
[DL輪読会]Pay Attention to MLPs	(gMLP)[DL輪読会]Pay Attention to MLPs	(gMLP)
[DL輪読会]Pay Attention to MLPs (gMLP)
 
深層学習の不確実性 - Uncertainty in Deep Neural Networks -
深層学習の不確実性 - Uncertainty in Deep Neural Networks -深層学習の不確実性 - Uncertainty in Deep Neural Networks -
深層学習の不確実性 - Uncertainty in Deep Neural Networks -
 
backbone としての timm 入門
backbone としての timm 入門backbone としての timm 入門
backbone としての timm 入門
 
【DL輪読会】Visual Classification via Description from Large Language Models (ICLR...
【DL輪読会】Visual Classification via Description from Large Language Models (ICLR...【DL輪読会】Visual Classification via Description from Large Language Models (ICLR...
【DL輪読会】Visual Classification via Description from Large Language Models (ICLR...
 
SSII2020SS: グラフデータでも深層学習 〜 Graph Neural Networks 入門 〜
SSII2020SS: グラフデータでも深層学習 〜 Graph Neural Networks 入門 〜SSII2020SS: グラフデータでも深層学習 〜 Graph Neural Networks 入門 〜
SSII2020SS: グラフデータでも深層学習 〜 Graph Neural Networks 入門 〜
 
【DL輪読会】時系列予測 Transfomers の精度向上手法
【DL輪読会】時系列予測 Transfomers の精度向上手法【DL輪読会】時系列予測 Transfomers の精度向上手法
【DL輪読会】時系列予測 Transfomers の精度向上手法
 
Deeplearning輪読会
Deeplearning輪読会Deeplearning輪読会
Deeplearning輪読会
 
[DL輪読会]ICLR2020の分布外検知速報
[DL輪読会]ICLR2020の分布外検知速報[DL輪読会]ICLR2020の分布外検知速報
[DL輪読会]ICLR2020の分布外検知速報
 
【メタサーベイ】数式ドリブン教師あり学習
【メタサーベイ】数式ドリブン教師あり学習【メタサーベイ】数式ドリブン教師あり学習
【メタサーベイ】数式ドリブン教師あり学習
 
データに内在する構造をみるための埋め込み手法
データに内在する構造をみるための埋め込み手法データに内在する構造をみるための埋め込み手法
データに内在する構造をみるための埋め込み手法
 
【メタサーベイ】基盤モデル / Foundation Models
【メタサーベイ】基盤モデル / Foundation Models【メタサーベイ】基盤モデル / Foundation Models
【メタサーベイ】基盤モデル / Foundation Models
 
Matlantisがもたらす革新的なマテリアルの創出_POL共催セミナー_20220304
Matlantisがもたらす革新的なマテリアルの創出_POL共催セミナー_20220304Matlantisがもたらす革新的なマテリアルの創出_POL共催セミナー_20220304
Matlantisがもたらす革新的なマテリアルの創出_POL共催セミナー_20220304
 

Similaire à Matlantis™のニューラルネットワークポテンシャルPFPの適用範囲拡張

2021 03-09-ac ri-nngen
2021 03-09-ac ri-nngen2021 03-09-ac ri-nngen
2021 03-09-ac ri-nngen直久 住川
 
オープンソースコンパイラNNgenでつくるエッジ・ディープラーニングシステム
オープンソースコンパイラNNgenでつくるエッジ・ディープラーニングシステムオープンソースコンパイラNNgenでつくるエッジ・ディープラーニングシステム
オープンソースコンパイラNNgenでつくるエッジ・ディープラーニングシステムShinya Takamaeda-Y
 
「hbstudy#23 OpenStack祭!!」資料 ~OpenStackプロジェクトの全体像~
「hbstudy#23 OpenStack祭!!」資料 ~OpenStackプロジェクトの全体像~「hbstudy#23 OpenStack祭!!」資料 ~OpenStackプロジェクトの全体像~
「hbstudy#23 OpenStack祭!!」資料 ~OpenStackプロジェクトの全体像~Masanori Itoh
 
20180729 Preferred Networksの機械学習クラスタを支える技術
20180729 Preferred Networksの機械学習クラスタを支える技術20180729 Preferred Networksの機械学習クラスタを支える技術
20180729 Preferred Networksの機械学習クラスタを支える技術Preferred Networks
 
Microsoft Azure上でのタンパク質間相互作用予測システムの並列計算と性能評価
Microsoft Azure上でのタンパク質間相互作用予測システムの並列計算と性能評価Microsoft Azure上でのタンパク質間相互作用予測システムの並列計算と性能評価
Microsoft Azure上でのタンパク質間相互作用予測システムの並列計算と性能評価Masahito Ohue
 
[db tech showcase Tokyo 2015] C17:MySQL Cluster ユーザー事例紹介~JR東日本情報システム様における導入事例...
[db tech showcase Tokyo 2015] C17:MySQL Cluster ユーザー事例紹介~JR東日本情報システム様における導入事例...[db tech showcase Tokyo 2015] C17:MySQL Cluster ユーザー事例紹介~JR東日本情報システム様における導入事例...
[db tech showcase Tokyo 2015] C17:MySQL Cluster ユーザー事例紹介~JR東日本情報システム様における導入事例...Insight Technology, Inc.
 
When NAS Meets Robustness: In Search of Robust Architectures against Adversar...
When NAS Meets Robustness:In Search of Robust Architectures againstAdversar...When NAS Meets Robustness:In Search of Robust Architectures againstAdversar...
When NAS Meets Robustness: In Search of Robust Architectures against Adversar...MasanoriSuganuma
 
No sql with mysql cluster (MyNA・JPUG合同DB勉強会)
No sql with mysql cluster (MyNA・JPUG合同DB勉強会)No sql with mysql cluster (MyNA・JPUG合同DB勉強会)
No sql with mysql cluster (MyNA・JPUG合同DB勉強会)Shinya Sugiyama
 
2015.6.5 EMC主催OpenStackセミナー - 日本仮想化技術様講演スライド
2015.6.5 EMC主催OpenStackセミナー - 日本仮想化技術様講演スライド2015.6.5 EMC主催OpenStackセミナー - 日本仮想化技術様講演スライド
2015.6.5 EMC主催OpenStackセミナー - 日本仮想化技術様講演スライドEMC Japan
 
OpenStack最新動向と構築のポイント - EMC様セミナー 「あなたのビジネスを高速化! OpenStackが実現する戦略的なクラウドインフラ」
OpenStack最新動向と構築のポイント - EMC様セミナー 「あなたのビジネスを高速化! OpenStackが実現する戦略的なクラウドインフラ」OpenStack最新動向と構築のポイント - EMC様セミナー 「あなたのビジネスを高速化! OpenStackが実現する戦略的なクラウドインフラ」
OpenStack最新動向と構築のポイント - EMC様セミナー 「あなたのビジネスを高速化! OpenStackが実現する戦略的なクラウドインフラ」VirtualTech Japan Inc.
 
When NAS Meets Robustness: In Search of Robust Architectures against Adversar...
When NAS Meets Robustness:In Search of Robust Architectures againstAdversar...When NAS Meets Robustness:In Search of Robust Architectures againstAdversar...
When NAS Meets Robustness: In Search of Robust Architectures against Adversar...MasanoriSuganuma
 
Panel Discussion@WebDB forum 2014
Panel Discussion@WebDB forum 2014Panel Discussion@WebDB forum 2014
Panel Discussion@WebDB forum 2014Makoto Yui
 
[DLHacks]Comet ML -機械学習のためのGitHub-
[DLHacks]Comet ML -機械学習のためのGitHub-[DLHacks]Comet ML -機械学習のためのGitHub-
[DLHacks]Comet ML -機械学習のためのGitHub-Deep Learning JP
 
OpenStackで実現するエンタープライズクラウド
OpenStackで実現するエンタープライズクラウドOpenStackで実現するエンタープライズクラウド
OpenStackで実現するエンタープライズクラウドVirtualTech Japan Inc.
 
[DL輪読会]Auto-DeepLab: Hierarchical Neural Architecture Search for Semantic Ima...
[DL輪読会]Auto-DeepLab: Hierarchical Neural Architecture Search for Semantic Ima...[DL輪読会]Auto-DeepLab: Hierarchical Neural Architecture Search for Semantic Ima...
[DL輪読会]Auto-DeepLab: Hierarchical Neural Architecture Search for Semantic Ima...Deep Learning JP
 
CloudStack Ecosystem Day - OpenStack/Swift
CloudStack Ecosystem Day - OpenStack/SwiftCloudStack Ecosystem Day - OpenStack/Swift
CloudStack Ecosystem Day - OpenStack/Swiftirix_jp
 
ML基盤メタサーベイ cvpaper.challenge #meta-study-group勉強会(2019/03/15)
ML基盤メタサーベイ cvpaper.challenge #meta-study-group勉強会(2019/03/15)ML基盤メタサーベイ cvpaper.challenge #meta-study-group勉強会(2019/03/15)
ML基盤メタサーベイ cvpaper.challenge #meta-study-group勉強会(2019/03/15)ota_in_ otaku
 

Similaire à Matlantis™のニューラルネットワークポテンシャルPFPの適用範囲拡張 (20)

2021 03-09-ac ri-nngen
2021 03-09-ac ri-nngen2021 03-09-ac ri-nngen
2021 03-09-ac ri-nngen
 
オープンソースコンパイラNNgenでつくるエッジ・ディープラーニングシステム
オープンソースコンパイラNNgenでつくるエッジ・ディープラーニングシステムオープンソースコンパイラNNgenでつくるエッジ・ディープラーニングシステム
オープンソースコンパイラNNgenでつくるエッジ・ディープラーニングシステム
 
「hbstudy#23 OpenStack祭!!」資料 ~OpenStackプロジェクトの全体像~
「hbstudy#23 OpenStack祭!!」資料 ~OpenStackプロジェクトの全体像~「hbstudy#23 OpenStack祭!!」資料 ~OpenStackプロジェクトの全体像~
「hbstudy#23 OpenStack祭!!」資料 ~OpenStackプロジェクトの全体像~
 
20180729 Preferred Networksの機械学習クラスタを支える技術
20180729 Preferred Networksの機械学習クラスタを支える技術20180729 Preferred Networksの機械学習クラスタを支える技術
20180729 Preferred Networksの機械学習クラスタを支える技術
 
OpsからみたOpenStack Summit
OpsからみたOpenStack SummitOpsからみたOpenStack Summit
OpsからみたOpenStack Summit
 
OpenStack概要
OpenStack概要OpenStack概要
OpenStack概要
 
Microsoft Azure上でのタンパク質間相互作用予測システムの並列計算と性能評価
Microsoft Azure上でのタンパク質間相互作用予測システムの並列計算と性能評価Microsoft Azure上でのタンパク質間相互作用予測システムの並列計算と性能評価
Microsoft Azure上でのタンパク質間相互作用予測システムの並列計算と性能評価
 
SpinnakerとKayentaで 高速・安全なデプロイ!
SpinnakerとKayentaで 高速・安全なデプロイ!SpinnakerとKayentaで 高速・安全なデプロイ!
SpinnakerとKayentaで 高速・安全なデプロイ!
 
[db tech showcase Tokyo 2015] C17:MySQL Cluster ユーザー事例紹介~JR東日本情報システム様における導入事例...
[db tech showcase Tokyo 2015] C17:MySQL Cluster ユーザー事例紹介~JR東日本情報システム様における導入事例...[db tech showcase Tokyo 2015] C17:MySQL Cluster ユーザー事例紹介~JR東日本情報システム様における導入事例...
[db tech showcase Tokyo 2015] C17:MySQL Cluster ユーザー事例紹介~JR東日本情報システム様における導入事例...
 
When NAS Meets Robustness: In Search of Robust Architectures against Adversar...
When NAS Meets Robustness:In Search of Robust Architectures againstAdversar...When NAS Meets Robustness:In Search of Robust Architectures againstAdversar...
When NAS Meets Robustness: In Search of Robust Architectures against Adversar...
 
No sql with mysql cluster (MyNA・JPUG合同DB勉強会)
No sql with mysql cluster (MyNA・JPUG合同DB勉強会)No sql with mysql cluster (MyNA・JPUG合同DB勉強会)
No sql with mysql cluster (MyNA・JPUG合同DB勉強会)
 
2015.6.5 EMC主催OpenStackセミナー - 日本仮想化技術様講演スライド
2015.6.5 EMC主催OpenStackセミナー - 日本仮想化技術様講演スライド2015.6.5 EMC主催OpenStackセミナー - 日本仮想化技術様講演スライド
2015.6.5 EMC主催OpenStackセミナー - 日本仮想化技術様講演スライド
 
OpenStack最新動向と構築のポイント - EMC様セミナー 「あなたのビジネスを高速化! OpenStackが実現する戦略的なクラウドインフラ」
OpenStack最新動向と構築のポイント - EMC様セミナー 「あなたのビジネスを高速化! OpenStackが実現する戦略的なクラウドインフラ」OpenStack最新動向と構築のポイント - EMC様セミナー 「あなたのビジネスを高速化! OpenStackが実現する戦略的なクラウドインフラ」
OpenStack最新動向と構築のポイント - EMC様セミナー 「あなたのビジネスを高速化! OpenStackが実現する戦略的なクラウドインフラ」
 
When NAS Meets Robustness: In Search of Robust Architectures against Adversar...
When NAS Meets Robustness:In Search of Robust Architectures againstAdversar...When NAS Meets Robustness:In Search of Robust Architectures againstAdversar...
When NAS Meets Robustness: In Search of Robust Architectures against Adversar...
 
Panel Discussion@WebDB forum 2014
Panel Discussion@WebDB forum 2014Panel Discussion@WebDB forum 2014
Panel Discussion@WebDB forum 2014
 
[DLHacks]Comet ML -機械学習のためのGitHub-
[DLHacks]Comet ML -機械学習のためのGitHub-[DLHacks]Comet ML -機械学習のためのGitHub-
[DLHacks]Comet ML -機械学習のためのGitHub-
 
OpenStackで実現するエンタープライズクラウド
OpenStackで実現するエンタープライズクラウドOpenStackで実現するエンタープライズクラウド
OpenStackで実現するエンタープライズクラウド
 
[DL輪読会]Auto-DeepLab: Hierarchical Neural Architecture Search for Semantic Ima...
[DL輪読会]Auto-DeepLab: Hierarchical Neural Architecture Search for Semantic Ima...[DL輪読会]Auto-DeepLab: Hierarchical Neural Architecture Search for Semantic Ima...
[DL輪読会]Auto-DeepLab: Hierarchical Neural Architecture Search for Semantic Ima...
 
CloudStack Ecosystem Day - OpenStack/Swift
CloudStack Ecosystem Day - OpenStack/SwiftCloudStack Ecosystem Day - OpenStack/Swift
CloudStack Ecosystem Day - OpenStack/Swift
 
ML基盤メタサーベイ cvpaper.challenge #meta-study-group勉強会(2019/03/15)
ML基盤メタサーベイ cvpaper.challenge #meta-study-group勉強会(2019/03/15)ML基盤メタサーベイ cvpaper.challenge #meta-study-group勉強会(2019/03/15)
ML基盤メタサーベイ cvpaper.challenge #meta-study-group勉強会(2019/03/15)
 

Plus de Preferred Networks

PodSecurityPolicy からGatekeeper に移行しました / Kubernetes Meetup Tokyo #57
PodSecurityPolicy からGatekeeper に移行しました / Kubernetes Meetup Tokyo #57PodSecurityPolicy からGatekeeper に移行しました / Kubernetes Meetup Tokyo #57
PodSecurityPolicy からGatekeeper に移行しました / Kubernetes Meetup Tokyo #57Preferred Networks
 
Optunaを使ったHuman-in-the-loop最適化の紹介 - 2023/04/27 W&B 東京ミートアップ #3
Optunaを使ったHuman-in-the-loop最適化の紹介 - 2023/04/27 W&B 東京ミートアップ #3Optunaを使ったHuman-in-the-loop最適化の紹介 - 2023/04/27 W&B 東京ミートアップ #3
Optunaを使ったHuman-in-the-loop最適化の紹介 - 2023/04/27 W&B 東京ミートアップ #3Preferred Networks
 
Kubernetes + containerd で cgroup v2 に移行したら "failed to create fsnotify watcher...
Kubernetes + containerd で cgroup v2 に移行したら "failed to create fsnotify watcher...Kubernetes + containerd で cgroup v2 に移行したら "failed to create fsnotify watcher...
Kubernetes + containerd で cgroup v2 に移行したら "failed to create fsnotify watcher...Preferred Networks
 
深層学習の新しい応用と、 それを支える計算機の進化 - Preferred Networks CEO 西川徹 (SEMICON Japan 2022 Ke...
深層学習の新しい応用と、 それを支える計算機の進化 - Preferred Networks CEO 西川徹 (SEMICON Japan 2022 Ke...深層学習の新しい応用と、 それを支える計算機の進化 - Preferred Networks CEO 西川徹 (SEMICON Japan 2022 Ke...
深層学習の新しい応用と、 それを支える計算機の進化 - Preferred Networks CEO 西川徹 (SEMICON Japan 2022 Ke...Preferred Networks
 
Kubernetes ControllerをScale-Outさせる方法 / Kubernetes Meetup Tokyo #55
Kubernetes ControllerをScale-Outさせる方法 / Kubernetes Meetup Tokyo #55Kubernetes ControllerをScale-Outさせる方法 / Kubernetes Meetup Tokyo #55
Kubernetes ControllerをScale-Outさせる方法 / Kubernetes Meetup Tokyo #55Preferred Networks
 
Kaggle Happywhaleコンペ優勝解法でのOptuna使用事例 - 2022/12/10 Optuna Meetup #2
Kaggle Happywhaleコンペ優勝解法でのOptuna使用事例 - 2022/12/10 Optuna Meetup #2Kaggle Happywhaleコンペ優勝解法でのOptuna使用事例 - 2022/12/10 Optuna Meetup #2
Kaggle Happywhaleコンペ優勝解法でのOptuna使用事例 - 2022/12/10 Optuna Meetup #2Preferred Networks
 
最新リリース:Optuna V3の全て - 2022/12/10 Optuna Meetup #2
最新リリース:Optuna V3の全て - 2022/12/10 Optuna Meetup #2最新リリース:Optuna V3の全て - 2022/12/10 Optuna Meetup #2
最新リリース:Optuna V3の全て - 2022/12/10 Optuna Meetup #2Preferred Networks
 
Optuna Dashboardの紹介と設計解説 - 2022/12/10 Optuna Meetup #2
Optuna Dashboardの紹介と設計解説 - 2022/12/10 Optuna Meetup #2Optuna Dashboardの紹介と設計解説 - 2022/12/10 Optuna Meetup #2
Optuna Dashboardの紹介と設計解説 - 2022/12/10 Optuna Meetup #2Preferred Networks
 
スタートアップが提案する2030年の材料開発 - 2022/11/11 QPARC講演
スタートアップが提案する2030年の材料開発 - 2022/11/11 QPARC講演スタートアップが提案する2030年の材料開発 - 2022/11/11 QPARC講演
スタートアップが提案する2030年の材料開発 - 2022/11/11 QPARC講演Preferred Networks
 
Deep Learningのための専用プロセッサ「MN-Core」の開発と活用(2022/10/19東大大学院「 融合情報学特別講義Ⅲ」)
Deep Learningのための専用プロセッサ「MN-Core」の開発と活用(2022/10/19東大大学院「 融合情報学特別講義Ⅲ」)Deep Learningのための専用プロセッサ「MN-Core」の開発と活用(2022/10/19東大大学院「 融合情報学特別講義Ⅲ」)
Deep Learningのための専用プロセッサ「MN-Core」の開発と活用(2022/10/19東大大学院「 融合情報学特別講義Ⅲ」)Preferred Networks
 
PFNにおける研究開発(2022/10/19 東大大学院「融合情報学特別講義Ⅲ」)
PFNにおける研究開発(2022/10/19 東大大学院「融合情報学特別講義Ⅲ」)PFNにおける研究開発(2022/10/19 東大大学院「融合情報学特別講義Ⅲ」)
PFNにおける研究開発(2022/10/19 東大大学院「融合情報学特別講義Ⅲ」)Preferred Networks
 
自然言語処理を 役立てるのはなぜ難しいのか(2022/10/25東大大学院「自然言語処理応用」)
自然言語処理を 役立てるのはなぜ難しいのか(2022/10/25東大大学院「自然言語処理応用」)自然言語処理を 役立てるのはなぜ難しいのか(2022/10/25東大大学院「自然言語処理応用」)
自然言語処理を 役立てるのはなぜ難しいのか(2022/10/25東大大学院「自然言語処理応用」)Preferred Networks
 
Kubernetes にこれから入るかもしれない注目機能!(2022年11月版) / TechFeed Experts Night #7 〜 コンテナ技術を語る
Kubernetes にこれから入るかもしれない注目機能!(2022年11月版) / TechFeed Experts Night #7 〜 コンテナ技術を語るKubernetes にこれから入るかもしれない注目機能!(2022年11月版) / TechFeed Experts Night #7 〜 コンテナ技術を語る
Kubernetes にこれから入るかもしれない注目機能!(2022年11月版) / TechFeed Experts Night #7 〜 コンテナ技術を語るPreferred Networks
 
PFNのオンプレ計算機クラスタの取り組み_第55回情報科学若手の会
PFNのオンプレ計算機クラスタの取り組み_第55回情報科学若手の会PFNのオンプレ計算機クラスタの取り組み_第55回情報科学若手の会
PFNのオンプレ計算機クラスタの取り組み_第55回情報科学若手の会Preferred Networks
 
続・PFN のオンプレML基盤の取り組み / オンプレML基盤 on Kubernetes 〜PFN、ヤフー〜 #2
続・PFN のオンプレML基盤の取り組み / オンプレML基盤 on Kubernetes 〜PFN、ヤフー〜 #2続・PFN のオンプレML基盤の取り組み / オンプレML基盤 on Kubernetes 〜PFN、ヤフー〜 #2
続・PFN のオンプレML基盤の取り組み / オンプレML基盤 on Kubernetes 〜PFN、ヤフー〜 #2Preferred Networks
 
Kubernetes Service Account As Multi-Cloud Identity / Cloud Native Security Co...
Kubernetes Service Account As Multi-Cloud Identity / Cloud Native Security Co...Kubernetes Service Account As Multi-Cloud Identity / Cloud Native Security Co...
Kubernetes Service Account As Multi-Cloud Identity / Cloud Native Security Co...Preferred Networks
 
KubeCon + CloudNativeCon Europe 2022 Recap / Kubernetes Meetup Tokyo #51 / #k...
KubeCon + CloudNativeCon Europe 2022 Recap / Kubernetes Meetup Tokyo #51 / #k...KubeCon + CloudNativeCon Europe 2022 Recap / Kubernetes Meetup Tokyo #51 / #k...
KubeCon + CloudNativeCon Europe 2022 Recap / Kubernetes Meetup Tokyo #51 / #k...Preferred Networks
 
KubeCon + CloudNativeCon Europe 2022 Recap - Batch/HPCの潮流とScheduler拡張事例 / Kub...
KubeCon + CloudNativeCon Europe 2022 Recap - Batch/HPCの潮流とScheduler拡張事例 / Kub...KubeCon + CloudNativeCon Europe 2022 Recap - Batch/HPCの潮流とScheduler拡張事例 / Kub...
KubeCon + CloudNativeCon Europe 2022 Recap - Batch/HPCの潮流とScheduler拡張事例 / Kub...Preferred Networks
 
独断と偏見で選んだ Kubernetes 1.24 の注目機能と今後! / Kubernetes Meetup Tokyo 50
独断と偏見で選んだ Kubernetes 1.24 の注目機能と今後! / Kubernetes Meetup Tokyo 50独断と偏見で選んだ Kubernetes 1.24 の注目機能と今後! / Kubernetes Meetup Tokyo 50
独断と偏見で選んだ Kubernetes 1.24 の注目機能と今後! / Kubernetes Meetup Tokyo 50Preferred Networks
 
Topology Managerについて / Kubernetes Meetup Tokyo 50
Topology Managerについて / Kubernetes Meetup Tokyo 50Topology Managerについて / Kubernetes Meetup Tokyo 50
Topology Managerについて / Kubernetes Meetup Tokyo 50Preferred Networks
 

Plus de Preferred Networks (20)

PodSecurityPolicy からGatekeeper に移行しました / Kubernetes Meetup Tokyo #57
PodSecurityPolicy からGatekeeper に移行しました / Kubernetes Meetup Tokyo #57PodSecurityPolicy からGatekeeper に移行しました / Kubernetes Meetup Tokyo #57
PodSecurityPolicy からGatekeeper に移行しました / Kubernetes Meetup Tokyo #57
 
Optunaを使ったHuman-in-the-loop最適化の紹介 - 2023/04/27 W&B 東京ミートアップ #3
Optunaを使ったHuman-in-the-loop最適化の紹介 - 2023/04/27 W&B 東京ミートアップ #3Optunaを使ったHuman-in-the-loop最適化の紹介 - 2023/04/27 W&B 東京ミートアップ #3
Optunaを使ったHuman-in-the-loop最適化の紹介 - 2023/04/27 W&B 東京ミートアップ #3
 
Kubernetes + containerd で cgroup v2 に移行したら "failed to create fsnotify watcher...
Kubernetes + containerd で cgroup v2 に移行したら "failed to create fsnotify watcher...Kubernetes + containerd で cgroup v2 に移行したら "failed to create fsnotify watcher...
Kubernetes + containerd で cgroup v2 に移行したら "failed to create fsnotify watcher...
 
深層学習の新しい応用と、 それを支える計算機の進化 - Preferred Networks CEO 西川徹 (SEMICON Japan 2022 Ke...
深層学習の新しい応用と、 それを支える計算機の進化 - Preferred Networks CEO 西川徹 (SEMICON Japan 2022 Ke...深層学習の新しい応用と、 それを支える計算機の進化 - Preferred Networks CEO 西川徹 (SEMICON Japan 2022 Ke...
深層学習の新しい応用と、 それを支える計算機の進化 - Preferred Networks CEO 西川徹 (SEMICON Japan 2022 Ke...
 
Kubernetes ControllerをScale-Outさせる方法 / Kubernetes Meetup Tokyo #55
Kubernetes ControllerをScale-Outさせる方法 / Kubernetes Meetup Tokyo #55Kubernetes ControllerをScale-Outさせる方法 / Kubernetes Meetup Tokyo #55
Kubernetes ControllerをScale-Outさせる方法 / Kubernetes Meetup Tokyo #55
 
Kaggle Happywhaleコンペ優勝解法でのOptuna使用事例 - 2022/12/10 Optuna Meetup #2
Kaggle Happywhaleコンペ優勝解法でのOptuna使用事例 - 2022/12/10 Optuna Meetup #2Kaggle Happywhaleコンペ優勝解法でのOptuna使用事例 - 2022/12/10 Optuna Meetup #2
Kaggle Happywhaleコンペ優勝解法でのOptuna使用事例 - 2022/12/10 Optuna Meetup #2
 
最新リリース:Optuna V3の全て - 2022/12/10 Optuna Meetup #2
最新リリース:Optuna V3の全て - 2022/12/10 Optuna Meetup #2最新リリース:Optuna V3の全て - 2022/12/10 Optuna Meetup #2
最新リリース:Optuna V3の全て - 2022/12/10 Optuna Meetup #2
 
Optuna Dashboardの紹介と設計解説 - 2022/12/10 Optuna Meetup #2
Optuna Dashboardの紹介と設計解説 - 2022/12/10 Optuna Meetup #2Optuna Dashboardの紹介と設計解説 - 2022/12/10 Optuna Meetup #2
Optuna Dashboardの紹介と設計解説 - 2022/12/10 Optuna Meetup #2
 
スタートアップが提案する2030年の材料開発 - 2022/11/11 QPARC講演
スタートアップが提案する2030年の材料開発 - 2022/11/11 QPARC講演スタートアップが提案する2030年の材料開発 - 2022/11/11 QPARC講演
スタートアップが提案する2030年の材料開発 - 2022/11/11 QPARC講演
 
Deep Learningのための専用プロセッサ「MN-Core」の開発と活用(2022/10/19東大大学院「 融合情報学特別講義Ⅲ」)
Deep Learningのための専用プロセッサ「MN-Core」の開発と活用(2022/10/19東大大学院「 融合情報学特別講義Ⅲ」)Deep Learningのための専用プロセッサ「MN-Core」の開発と活用(2022/10/19東大大学院「 融合情報学特別講義Ⅲ」)
Deep Learningのための専用プロセッサ「MN-Core」の開発と活用(2022/10/19東大大学院「 融合情報学特別講義Ⅲ」)
 
PFNにおける研究開発(2022/10/19 東大大学院「融合情報学特別講義Ⅲ」)
PFNにおける研究開発(2022/10/19 東大大学院「融合情報学特別講義Ⅲ」)PFNにおける研究開発(2022/10/19 東大大学院「融合情報学特別講義Ⅲ」)
PFNにおける研究開発(2022/10/19 東大大学院「融合情報学特別講義Ⅲ」)
 
自然言語処理を 役立てるのはなぜ難しいのか(2022/10/25東大大学院「自然言語処理応用」)
自然言語処理を 役立てるのはなぜ難しいのか(2022/10/25東大大学院「自然言語処理応用」)自然言語処理を 役立てるのはなぜ難しいのか(2022/10/25東大大学院「自然言語処理応用」)
自然言語処理を 役立てるのはなぜ難しいのか(2022/10/25東大大学院「自然言語処理応用」)
 
Kubernetes にこれから入るかもしれない注目機能!(2022年11月版) / TechFeed Experts Night #7 〜 コンテナ技術を語る
Kubernetes にこれから入るかもしれない注目機能!(2022年11月版) / TechFeed Experts Night #7 〜 コンテナ技術を語るKubernetes にこれから入るかもしれない注目機能!(2022年11月版) / TechFeed Experts Night #7 〜 コンテナ技術を語る
Kubernetes にこれから入るかもしれない注目機能!(2022年11月版) / TechFeed Experts Night #7 〜 コンテナ技術を語る
 
PFNのオンプレ計算機クラスタの取り組み_第55回情報科学若手の会
PFNのオンプレ計算機クラスタの取り組み_第55回情報科学若手の会PFNのオンプレ計算機クラスタの取り組み_第55回情報科学若手の会
PFNのオンプレ計算機クラスタの取り組み_第55回情報科学若手の会
 
続・PFN のオンプレML基盤の取り組み / オンプレML基盤 on Kubernetes 〜PFN、ヤフー〜 #2
続・PFN のオンプレML基盤の取り組み / オンプレML基盤 on Kubernetes 〜PFN、ヤフー〜 #2続・PFN のオンプレML基盤の取り組み / オンプレML基盤 on Kubernetes 〜PFN、ヤフー〜 #2
続・PFN のオンプレML基盤の取り組み / オンプレML基盤 on Kubernetes 〜PFN、ヤフー〜 #2
 
Kubernetes Service Account As Multi-Cloud Identity / Cloud Native Security Co...
Kubernetes Service Account As Multi-Cloud Identity / Cloud Native Security Co...Kubernetes Service Account As Multi-Cloud Identity / Cloud Native Security Co...
Kubernetes Service Account As Multi-Cloud Identity / Cloud Native Security Co...
 
KubeCon + CloudNativeCon Europe 2022 Recap / Kubernetes Meetup Tokyo #51 / #k...
KubeCon + CloudNativeCon Europe 2022 Recap / Kubernetes Meetup Tokyo #51 / #k...KubeCon + CloudNativeCon Europe 2022 Recap / Kubernetes Meetup Tokyo #51 / #k...
KubeCon + CloudNativeCon Europe 2022 Recap / Kubernetes Meetup Tokyo #51 / #k...
 
KubeCon + CloudNativeCon Europe 2022 Recap - Batch/HPCの潮流とScheduler拡張事例 / Kub...
KubeCon + CloudNativeCon Europe 2022 Recap - Batch/HPCの潮流とScheduler拡張事例 / Kub...KubeCon + CloudNativeCon Europe 2022 Recap - Batch/HPCの潮流とScheduler拡張事例 / Kub...
KubeCon + CloudNativeCon Europe 2022 Recap - Batch/HPCの潮流とScheduler拡張事例 / Kub...
 
独断と偏見で選んだ Kubernetes 1.24 の注目機能と今後! / Kubernetes Meetup Tokyo 50
独断と偏見で選んだ Kubernetes 1.24 の注目機能と今後! / Kubernetes Meetup Tokyo 50独断と偏見で選んだ Kubernetes 1.24 の注目機能と今後! / Kubernetes Meetup Tokyo 50
独断と偏見で選んだ Kubernetes 1.24 の注目機能と今後! / Kubernetes Meetup Tokyo 50
 
Topology Managerについて / Kubernetes Meetup Tokyo 50
Topology Managerについて / Kubernetes Meetup Tokyo 50Topology Managerについて / Kubernetes Meetup Tokyo 50
Topology Managerについて / Kubernetes Meetup Tokyo 50
 

Matlantis™のニューラルネットワークポテンシャルPFPの適用範囲拡張

  • 2. 2 ● Matlantis [1] ○ 材料探索を加速する “汎用原子レベルシミュレータ” ○ 原子シミュレーションの環境を SaaSとして提供 ● PFP ○ Matlantisのコア技術に相当する Neural network potenital (NNP) ○ データセット/アーキテクチャ 共に独自開発 ○ 任意の多元素の組み合わせに 対して動作する汎用性が特徴 タイトルの用語について: MatlantisとPFP [1] Matlantis. https://matlantis.com/ [2] Matlantis Cases. https://matlantis.com/ja/cases Matlantisを利用して計算された事例 [2]
  • 3. 3 ● Neural Network Potential (NNP) の発展 ○ 原子構造を扱うNNアーキテクチャの「カンブリア爆発」 ■ グラフ畳み込み、不変性/共変性の導入、電子状態計算の模倣 ○ 巨大データセットの登場 ■ QM9, Materials Project, Open Catalyst Project, etc. ● 課題 ○ 精度: 回帰スコアとしての精度が 分子動力学計算の精度と結びつかない ○ 外挿性: データセットにない原子構造に 対する推論が破綻しやすい ○ ロバスト性: 非現実的な構造を回避 することの難しさ 背景: NNPの発展と課題 DimeNet++/OC20 による吸着構造の再現 (Co表面/COH分子). 最適化した表面(a)に分 子を乗せると構造が崩壊(b).現実的な構造(c) は局所安定. [1] [1] S. Takamoto, et al., Nat. Commun 13, 2991 (2022).
  • 4. 4 ● 仮説: 既知の特定の原子構造のみを対象としたデータセットではエネルギー 曲面を再現するのに十分な情報を得ることが困難? ● 方針: 可能な限り前提知識を排し、位相空間の広範囲をカバーできるよう不安 定・非現実的な構造を積極的に教師データに入れる ● High-temperature multi-element 2021 (HME21) dataset [1] ○ PFPの学習のために作成したデータセットからの一部抜粋 ○ 多種の元素を含む原子構造を高温でMD計算した構造 ■ 体積固定(NVT)、~32原子、500 K~10000 K、最大20元素 ○ MD計算には学習したNNPそのものを利用 ■ NNPが推論してしまった非現実的な構造も 教師データに加えていく、一種の自己学習 ユニバーサルなNNPを実現するためのデータセット [1] High-temperature multi-element 2021 (HME21) dataset. https://doi.org/10.6084/m9.figshare.19658538
  • 5. 5 ● TeaNet: PFPの前身のNNPアーキテクチャ [1] ○ 高階のテンソル量をグラフに流す ○ EAM/Tersoff ポテンシャル関数の振る舞いをグラフNNに書き直し ○ HME21データセットに対する回帰スコアで良い性能 [2] ● 分子動力学計算の検証 ○ (HME21データセットに入っていない)表面吸着を再現 ○ 反応のNEB計算も可能 HME21データセット ベンチマーク 左: HME21データセットに対する他アーキテクチャとの比 較 [1] S. Takamoto, et al., Comput. Mater. Sci. 207, 111280 (2022). [2] S. Takamoto, et al., Nat. Commun 13, 2991 (2022).
  • 6. 6 ● データセット/アーキテクチャの継続的開発 ○ HME21以外にも様々な方針でデータを取得 ■ 仮想的な結晶構造、分子/クラスタ等 ○ アーキテクチャ改良 ■ 局所性、不変性、エネルギー 曲面の連続性は維持 ● 2021/01 PFP バージョン0 ○ 論文版 [1] ● 2021/07 PFP バージョン1 ○ Matlantis 提供開始 ○ 55元素に拡張 ○ 後にD3補正に対応 PFP バージョン0, 1 / Matlantis提供開始 PFP バージョン0の適用例 [1] [1] S. Takamoto, et al., Nat. Commun 13, 2991 (2022). FT反応の活性化エネルギー MOF構造再現 Li拡散 相変態
  • 7. 7 ● 精度のさらなる向上 ○ PFPでは汎用性を最重要項目と位置づけ、 精度を向上させていく開発方針を取った ○ 汎用性を維持したままの精度向上を目指す ● 2022/02 PFP バージョン2 ○ フォノンの再現性向上 ○ Hubbard U補正なしモードを追加 ● 2022/08 PFP バージョン3 ○ 分子系液体の密度改善 ○ 55元素→72元素に拡張 Matlantis提供開始以降の方針 反応 拡散 吸着 フォノン 分子間力 破綻しないMD 構造間の自由エネルギー 要求される エネルギーの精度 エネルギーのスケールと現象の模式図 PFP バージョン3 元素の対応状況
  • 8. 8 ● フォノンの改善 ○ PFP バージョン1では一部の構造のフォノンの不安定性(計算時の 微小変位⊿xへの強い依存性)が報告 ○ 原子に働く力が大幅に小さい データ(安定点付近)を収集 →PFP バージョン2で フォノンの再現性が改善 ● 分子系液体 ○ 同様に分子間の相互作用に課題 ○ 大きな誤差と小さな誤差を同時に 学習できるよう学習手法を修正 ○ PFP バージョン3では分子系液体の 密度 (室温) の再現性が向上 精度改善の事例 Si phonon dispersion curve (PFP v3.0.0, delta=0.01) Liquid density (PFP v3.0.0, 300 K)
  • 9. 9 ● PFP バージョン3で55→72元素に拡張 ● 学習データに使用していない検証用の 結晶構造データ* に対して検証 ○ 安定点のエネルギーおよび微小 変化に対するforceの変化をDFTと 比較し、精度向上を確認 ○ 興味深いことに、未対応の時点で 一定の精度では推論が行えていた ■ ごく少数のデータは存在 ■ 元素に対してある種の汎化が 起こっている可能性を示唆 対応元素拡大 * Crystallography Open Databaseから抽出. DFTによる構造最適化計算を実施
  • 10. 10 ● PFPデータセットのスケール ○ DFT計算が大きな分量を占める ○ PFP バージョン3の時点でGPU 1144年分に相当 統計情報 PFP Number of data GPU days v0.0.0 3 x 10^6 6 x 10^4 v1.0.0 10 x 10^6 10 x 10^4 v2.0.0 17 x 10^6 15 x 10^4 v3.0.0 22 x 10^6 42 x 10^4 * PFNの計算機クラスター (MN-2) * 収束しなかった等の理由で学習に使用していないデータの計算時間を含む
  • 11. 11 ● 原子シミュレーションにおける「基盤モデル」としてのPFP ○ エネルギー以外の推論タスクとの融合、転用 ● さらなる高精度化 ○ 教師データのためのより高精度な電子状態計算の検討 ○ 微細なエネルギー差の再現のためのデータセット収集 ○ NNPアーキテクチャの精緻化 ● 高速化 ○ NN演算速度の高速化 (デバイスの最適化、計算グラフ改善) ○ モデルの改善、精度と速度のトレードオフ ● 原子構造生成、原子構造予測 Future works
  • 12. 12 ● 「任意の物質に適用可能なNNP」を目的に技術開発を行った ○ 仮想的な構造・乱れた構造を含むデータセットを作成し、これを学習可能 なNNPアーキテクチャを開発した ○ 作成したNNPはデータセットに明示的に含んでいない材料に対して良い 振る舞いをすることを示した ● 材料探索サービス"Matlantis"のコア技術として大規模かつ継続的な開発を 行った ○ 精度を向上させ、より繊細な計算対象を扱えるようにした ○ 対応元素を72元素まで増やした ○ 現時点で作成したDFT計算データセットはGPU1枚換算で1000年を超え るスケールに達した まとめ
  • 13. Making the real world computable