1.
大学での研究内容
九州工業大学大学院 情報工学府
情報創成工学専攻 徳永研究室
修士!年 石本 宝（ "#$#%#&'()*+,-,&）
1
./..0!.0.1（更新）

2.
1. GL-CANomaly
異常検知のための大局的かつ局所的な
敵対的補完ネットワーク
2. GaNのマテリアルズ・インフォマティ
クスの研究
3. 等温滴定熱測定(ITC)データ解析システ
ムの改良と機能拡張

3.
3
GL-CANomaly: 異常検知のための大局的かつ局所的な敵対的補完ネットワーク

4.
4
GL-CANomalyのネットワーク図

5.
5
補完器（Complementor）のアーキテクチャ図

6.
6
識別器（Discriminator）のアーキテクチャ図

7.
7
訓練フェーズ

8.
8
テストフェーズ

9.
9
テスト時の欠損画像から局所と大域の補完画像が生成される様子
欠損画像 欠損部分のみの保管画像 保管画像
入力画像と提案手法による再構成画像、及び差分による異常検出画像

10.
10
GaNのマテリアルズ・インフォマティクスの研究
研究背景
The 9th Meeting on Advanced Power Semiconductors Division
1. 九州工業大学 2. 名古屋大学
石本宝1 ,徳永旭将1 , 新田州吾2 , 渡邉浩崇2
ⅠB-3
深層学習によるGaNの表面モフォロジー画像からのオフ角度の推定
推定⼿法｜CNN回帰モデル
実験結果｜オフ⾓度の推定実験
結論・今後の展望
n GaNはパワーデバイス材料としての物性が優れている
実験条件
n CNNモデル: ResNet18[3]
n 画像サイズ: 256 256 pixel
n 学習回数: 100回
n 出力層: 1次元（オフ角度）
n バッチサイズ：64
[1]渡邉他, 応用物理学会第 67 回応用物理学会春期学術講演会, 12a-A302-1 (2020).
[2] LeCun, Y., Bottou, L., Bengio, Y. and Haffner, P.: Gradient-based learning applied to document
recognition, Proceedings of the Institute of Radio Engineers, Vol. 86, No. 11, pp. 2278–2323 (1998).
[3] He, K., Zhang, X., Ren, S. and Sun, J.: Deep Residual Learning for Image Recognition
CVPR, pages 770-778, 2016.
参考⽂献
■ 実験1：オフ方位m: [1-100]のGaN(0001)ウエハ
n 基盤の大口径化に伴い、GaNエピ膜の均一性の改善が課題
Ø 微傾斜オフ基盤上のエピ膜では、基盤の作製⼿法によりオフ⾓
やオフ⽅位に⾯内分布があることが知られている
課題
⽬的
n GaNエピ膜の表面モフォロジー画像から深層学習を用いてオフ角度
が推定できるか検証
Ø GANの表⾯モフォロジー異常とオフ⾓には相関がある[1]
n 損失関数: MSE（平均二乗誤差）
n 最適化手法: Adam
n CNN に基づく教師あり学習により、GaN 結晶の表面モフォロジーか
ら、同一のウエハのオフ角度を推定でき得ることかがわかった
n ウエハごとの固有の輝度値の違いが予測結果に影響している可能性
n 主成分分析のような信号分離によりウエハごとのデータ撮影時の光学
系の影響の違いを低減することで、異なるウエハの結晶表面モフォロ
ジーからでもオフ角度を推定できると期待
n 表面モフォロジーからオフ角以外の情報（残留炭素濃度や歪み）も推
定可能か検討する
■ 実験2：オフ方位a: [11-20]のGaN(0001)ウエハ
Prediction of off-angle from GaN surface morphology images using deep learning
n ウエハ全面のオフ角情報を得るために特殊なX線回折装置を用いる
Ø 時間、⼯数、コストがかかる
n 目標：推定誤差 0.05 以内
n 2インチGaN(0001)自立板上にMOVPE法でGaNを5µm成長させた
n 微分干渉フィルタを有する共焦点顕微鏡にてウエハ全面で表面モフォ
ロジー画像を取得
n 訓練 : 検証 : テスト = 6 : 2 : 2 になるようにランダムに分割
n マテリアルズ・インフォマティクスに期待が高まる
Ø 材料開発のDX化
n 推論誤差（標準偏差）: 0.081
n おおよそ一様に推定できているが、正解データが0.8 付近のデー
タ数が少なかったため、0.8 付近のオフ角度の推定精度が悪い
n 推論誤差（標準偏差）: 0.053
n オフ方位m: [1-100]のウエハよりも学習用データの偏りが少な
いので、オフ方位の値によらずおおよそ一様に推定できている
真値
推定値
真値
推定値
実験⽅法
提案手法でオフ角度が推定できるかを２つの実験で検証：
n 通常のニューラルネットワークに畳み込み層、プーリング層と呼ば
れる特殊な層を学習に使用し、特徴を取り出し学習する
n 実験1
オフ⽅位m: [1-100]のGaN(0001)ウエハでオフ⾓度を推定
n 実験2
オフ⽅位a: [11-20]のGaN(0001)ウエハでオフ⾓度を推定
Ø 学習率: 0.0001
Ø β1=0.9, β2=0.999
■ データセット
■ 訓練時の設定
n 推定誤差が大きかった例
n 推定誤差が小さかった例
0.30 0.26 0.25
-0.00019 -0.00041 -0.00044
n 推定誤差が大きかった例
n 推定誤差が小さかった例
0.45 -0.41 -0.4
-0.00015 -0.0004 -0.00048
CNN（Convolution Neural Networks）[2]
n 学習の流れ
① 畳み込みフィルターに⼊れて、特徴を際⽴たせる
② プーリング層で局所領域の特徴を割り出す
③ ②③を繰り返す
④ 得られた特徴を全結合層と接続する
⑤ 活性化関数を⽤いて出⼒する
⑥ 損失関数を使って誤差逆伝播によりフィルター、重み、バイア
スを更新
n 回帰タスクの場合は最終出力層を１次元にする
n ResNet18は深さが18層のCNN
Ø ResNetは2015年のILSVRC 2015にて優勝したネットワーク
https://blog.ef-4.co.jp/

11.
11
研究背景
• 近年の高度情報社会は半導体を搭載している電子機器によって支え
られている
・半導体技術は情報社会を構成するの基幹技術と言える
研究の背景
1 / 10
• GaN（ガリウムナイトライド）の特徴
・GaNはGa(ガリウム)とN(窒素)の化合物
・青色LEDの材料
・光る・高耐電圧・高速動作・高温動作
・特に高速動作に優れている
• 優れた物性を持つ半導体に注目が集まっている
・現在実用化されている半導体デバイスの主材料はSi(シリコン)
・パワーデバイスにもSiデバイスが用いられている
・Siよりも高性能なGaNなどのワイドバンドギャップ半導体に期待が高まる
物性 Si GaN
バンドギャップ 1.1 3.4
飽和電子速度 1350 1500
絶縁破壊電界 0.3 3.3
性能指数 1 1130
cm2
/Vs
eV
MV/cm
εμeEc3
高耐熱
〜1000℃
シリコンに比べて・・・
高耐圧
〜10倍
小型化
〜1/1000
高速
〜100MHz
• GaNの結晶を成長するときにできてしまう結晶表面の異常
について、解明されていないことが多い
現時点では、GaNの表面モフォロジー異常とoff-angleには
明確な相関があると報告されています。
（渡邊 他, 第67回応用物理学会春季学術講演会, 12a-A302-1(2020).)
https://www.semicon.sanken-ele.co.jp/guide/GaNSiC.htmlを参考に作成
off-angleとは？
結晶基板の法線方向に対する結晶主軸の傾斜角度のこと
off-directionとは？
結晶基板の法線方向に対する結晶主軸の傾斜方向のこと
・主に、Ｘ線回折法を用いて測定される
・off-angle、off-directionに応じて物性値が異なる

12.
12
提案手法
n CNNモデル: ResNet18[3]
n 学習回数:画像サイズ: 256 256 pixel
n 100回
n 出力層: 1次元（オフ角度）
n バッチサイズ：64
n 損失関数: MSE（平均二乗誤差）
n 最適化手法: Adam
Ø 学習率: 0.0001
Ø β1=0.9, β2=0.999

13.
13
データセット

14.
14
実験結果

15.
15
実験結果

16.
16
n CNN に基づく教師あり学習により、GaN 結晶の表面モフォロジーか
ら、同一のウエハのオフ角度を推定でき得ることかがわかった
n ウエハこごとの固有の輝度値の違いが学習時に影響している可能性が
ある
n 主成分分析のような信号分離によりウエハごとのデータ撮影時の光学
系の影響の違いを低減することで、異なるウエハの結晶表面モフォロ
ジーからでもオフ角度を推定できるよう改良を進める
n 表面モフォロジーからオフ角以外の情報（残留炭素濃度や歪み）も推
定可能か検討する
結論・展望

17.
17
等温滴定熱測定（ ITC ）データ解析システムの改良と機能拡張
等温滴定熱測定(ITC)
・温度差ΔT が一定になるように電力を加える
（電力量＝発生・吸収した熱量）
➡反応熱を測定
①ピーク解析
・ベースラインとの面積
（電力量＝電力×時間）
↓
②フィッティング
・電力量のプロット➡結合等温線
得られるデータ
分かること
(Krimmer S.G et al. J. Comput. Aided Mol. Des. (2015) 29, 867–883)
等温滴定熱測定(ITC) 既存のデータ解析システム(NITPIC)
伊東夏夕
(小松研究室)

18.
『アクチン結合タンパク質がアクチンに及ぼす影響の熱力学的解析』
研究テーマ
(A)アクチン-アクチン結合タンパク質間をITC測定
①F-アクチン-コフィリン間(本研究)
②G-アクチン-フラグミン間(共同研究)
(B)ITCの高性能データ解析システムの開発
①ピーク解析(上田君の引き継ぎ)
②フィッティング
研究目的
・重要な役割を持つアクチンとアクチン結合タンパク質
・未だにアクチンのメカニズムは解明されていない
・細胞運動には、モータータンパク質を必要としないアクチンの伸長によるものもある
→どのくらいのエネルギーが必要なのか定量的な解析が重要
⬇
熱力学的解析
・解離定数(Kd)などから反応のメカニズムが分かる
・反応で生じるエネルギーを測定可能
モータータンパク質：ATP加水分解 によって生じる化学エネルギーを運動に変換するタンパク質
18
研究の概要

19.
ピーク解析の現状
①1滴定ごとに特異値分解
特異値分解
・要素波形に分解
・重要度が高い波で再現
2021年 1月7日
Taxol(30µM)-MT(3.5µM)
開発環境
Python 3.8.3
②MainとNoise間の面積を積分
電力×時間＝電力量(反応熱)
Noise＝ベースライン
NITPIC同様にグラフ化
Noise
Main
伊東夏夕
19
ピーク解析の現状

20.
ピーク抽出の課題
自作の解析システムでの改善
・1滴定ごとに分析
・ベースラインの自動化◎
NITPICの問題点
・実装されているモデルが少ない
・途中のデータを取り出せない
・ベースラインの精度低い
→手動で修正が必要
原因
(12滴定目)
(14滴定目)
伊東夏夕
余分な面積が含まれている
自作の解析システムでの問題点
・11～15滴定の精度▲
原因：形状が複雑なピークで
誤差が出ている！
課題：ピーク抽出方法の改善
特異値分解による
ピーク解析
20
ピーク抽出の課題

21.
21
ピーク抽出方法の改善
①ピーク範囲の端を結ぶベースライン設定
②ピーク面積(電力量)を求める
・ベースラインの自動化
＋
・手動で修正していたベースラインを再現
⬇
ベースラインを引く際の個人差が無くなる
（ピーク抽出の精度向上）
⬇
nitpicよりも高性能に！！
SSAによるピーク範囲の検出
伊東夏夕
(小松研究室
ピーク抽出方法の改善

22.
22
SSAによりピーク範囲を検出
特異スペクトル変換(SSA)に基づいた
異常検知を使ったピーク抽出
【Python/NumPy】特異スペクトル変換法で時系列データの異常検出 (joho.info)
異常検知（４）時系列信号の変化の検知、特異スペクトル変換法など - Qiita
特異スペクトル変換(SSA)：時系列データの変化点を検出する手法
①データが大きく変化した異常を検知する
②時系列データの変化範囲を検出
〇多様な波形の時系列データに対応
×欠損値があるデータには不向き
→ITCのデータは〇
伊東夏夕
(小松研究室)
得意スペクトル変換（SSA）に基づいた
異常検知を使ったピーク抽出

23.
23
ベイズ最適化を用いた
カーブフィッティング
ベイズ最適化の設定
モデルタイプ：GP_MCMC
獲得関数：LCB_MCMC
●：NITPICので電力量
－：NITPICの結合等温線
●：自作の解析システムでの電力量
－：自作の解析システムの結合等温線
考察
・11～15滴定目の精度▲
⬇
ピーク抽出方法の改善を優先
・別のフィッティングも検討
伊東夏夕
(小松研究室)
非線形最小二乗法によるフィッティングの問題点
・実験誤差の影響を受ける
・変曲点間のデータが少ない
→フィッティング不可
→できてもKdを大きめに算出してしまう
改善方法：ベイズ最適化
〇実験誤差を正しく評価できる
PRML 第1章の「ベイズ推定によるパラメータフィッティング」の解説（その２） - めもめも (hatenablog.com)
フィッティングの改善

24.
今後の研究計画
(A)アクチン-アクチン結合タンパク質間をITC測定
②アクチン-コフィリン間のITC
(B)ITCの高性能データ解析システムの開発
①ピーク抽出方法の改善
②フィッティングの実装
③解析機能の実装
①アクチン・コフィリンの精製
自作の解析システムでのデータ解析
伊東夏夕
(小松研究室)
24
今後の方針

25.
25
Thanks!
⊷ )--2(300*()*+,-,-#$#%#45*-)674*,0
⊷ '()*+,-,4-#$#%#..89+#*:4$;6-<=)4>2