ユーザとベンダ双方にとって幸せなAI開発のための３つのポイント

ユーザとベンダ双方にとって幸せな
AI開発のための３つのポイント
2018.06.21
ＳＴＯＲＩＡ法律事務所
弁護士柿沼太一

【自己紹介】
▼ ２０００年４月に弁護士登録
▼ ２０１５年３月に神戸三宮にSTORIA法律事務所設立
▼ AI、IT、知的財産、ベンチャーを主として取り扱う
▼ 2016年10月からAIに関して積極的な情報発信を始め、現在自
動車系、医療系、工場系、WEB系など多様なAI企業からの相談、
顧問契約を締結
▼ ２０１７年１２月東京事務所開設
▼ 経産省の「AI・データ契約ガイドライン」検討委員会委員及
び作業部会員（～2018.3）
1

ユーザとベンダ双方にとって幸せなAI開発のた
めの３つのポイント
2
性能保証
検収・瑕疵担保
権利・知財責任

3
性能保証

4
性能保証

5
性能保証

１ AI開発契約において「性能保証」「検収」「瑕
疵担保」についてはどのように定めればいいのか
（性能保証、検収、瑕疵担保）
6

１性能保証・検収・瑕疵担保
🄫Storialaw.jp All rights reserved. 7
【よくある質問】
（１）ユーザから学習済みモデルを用いた出力の精度について一
定の保証をするようにと強く要請された場合、AIベンダはどのよう
に対応すべきか
（２） AI開発契約において検収基準や瑕疵担保についてどのよう
に定めたら良いか。

（１）通常のシステム開発とAI開発の違い
通常のシステム開発 AI開発
開発手法演繹型帰納型
性能保証可能
訓練データに統計的バイアスが
含まれることが避けられないた
め、未知のデータに対する性能
保証は困難
性能不足の場合の事後検証可能
原因の切り分け（データの品質、
ハイパーパラメータ設定、ソー
スコードのバグ等）が困難
性能テスト可能
① 学習に利用しない独立した
データセットが必要
② （当然だが）未知データで
のテスト不可能

（２）ではどうしたらよいのか
① AI開発の特性をユーザとベンダが理解すること
→AI・データ契約ガイドラインの活用
② 開発プロセス及び契約の分割
→探索型段階型開発方式
③ 契約内容の工夫
→準委任型

① AI開発の特性をユーザとベンダが理解すること
→AI・データ契約ガイドラインを活用する
（http://www.meti.go.jp/press/2018/06/20180615001/201
80615001.html）
→２０１８年６月１５日公表
→AI開発における基礎概念、AIの技術的特性、利点と限界に
ついて詳細に記載

② 開発プロセス及び契約の分割：探索型段階型開発方式
→「開発を進めてみないと、うまくいくかどうかわからない」の
が本質
→ユーザ・ベンダお互いのリスクヘッジのために徐々に開発を進
めていこうという発想
ガイドライン（AI編）より引用

② 開発プロセス及び契約の分割：探索型段階型開発方式
ガイドライン（AI編）より一部変更のうえ引用
アセスメント PoC 開発追加学習
目的一定量のデータを用いて
学習済みモデルの生成可
能性を検証する
学習用データセットを用
いてユーザが希望する精
度の学習済みモデルが生
成できるかどうかを検証
する
学習済みモデルを生成す
る
ベンダが納品した学習済
みモデルについて、追加
の学習用データセットを
使って学習をする
成果物レポート等レポート等学習済みモデル等再利用モデル等
契約秘密保持契約書等導入検証契約書等ソフトウェア開発契約書例：保守契約、学習支援
契約または別途新たなソ
フトウェア開発契約など

③ 契約内容の工夫
契約の法的性質工程によって異なる（上流工程
は準委任型、下流に行くにした
がって請負型）
全工程で準委任型が親和的
性能保証請負型が適用される工程では
合意可能
なし（モデル開発契約７条）。
ただし、一定の既知データを用
いた場合の性能であれば保証可
能な場合もある。
検収請負型が適用される工程では
合意した検収基準により
検収実施可能
なし（モデル開発契約11条）。
ただし、一定の既知データを用
いた検収であれば合意・実施で
きる場合もある。
瑕疵担保責任請負型が適用される工程におい
てはベンダに瑕疵担保責任あり
なし

２生成された学習用データセット、学習済みモデ
ル、学習済みパラメータは誰がどのような権利を
持っているのか（権利・知財）
14

２権利と知財
AIベンダとして、事業会社との共同プロジェクトを立ち上げる際
の、知財・法務に対する最初のニギリ方 (契約書への文言の入れ
方) が事業会社側、AIベンダ側とも曖昧なケースが多く、実際に売
り上げが発生した際にモメそうな不安があります。

２権利と知財
① 通常のシステム開発と異なり、複数の材料、中間成果物、成
果物が存在する
② 材料、中間成果物、成果物が高い価値を持ち、ユーザ・ベン
ダ共に独占/再利用したいという需要が存在する

２権利と知財
【通常のシステム開発の場合】

２権利と知財
【AI開発の場合】

２権利と知財
② 材料、中間成果物、成果物が高い価値を持ち、ユーザ・ベン
ダ共に独占/再利用したいという需要が存在する
▼ ユーザ
学習用データセット、学習済みモデルは自社のノウハウや機密
が詰まった生データを用いて生成されたものであり、開発に際して
委託料も支払っていることから、自社で独占したい。
▼ ベンダ
生データを用いて学習用データセットを生成する過程、訓練過
程いずれにおいても自社の高度のノウハウ及び多大な労力を用いて
いること、額主要データセットや学習済みモデルは再利用が可能で
あることから、この開発案件以外にも横展開したい。
→この２つの相反する希望を調整する枠組が必要

２権利と知財
（２）どうしたらよいのか
① 材料・中間成果物・成果物について、何が知的財産権の対象
となるのか・ならないのかを知っておく
② ①についてデフォルトルール（＝法律上のルール）として誰
がどのような権利を持っているかを知っておく
③ 契約条項をどのようにして自社に有利にデザインするかを
知っておく（「権利帰属」にこだわらず「利用条件」で「実」をと
る）

２権利と知財
る）

２権利と知財
▼ 法律と契約の関係
１法律に書いてあることでも、契約で法律とは別の約束をすれば原則とし
て契約の方が優先する。
２契約に定めていないことがある場合には、自動的に法律に従うことになる。

２権利と知財
▼ 法律と契約の関係
法律の規定当事者間の契約なし当事者間の契約あり
あり
法律の規定（デフォル
トルール）がそのまま
適用される
法律の規定が
当事者の契約どおり
修正される
なしルールなし
（原始状態）
となる

２権利と知財
▼ 法律と契約の関係～ＡＩ開発の場合～
知的財産権の対象
となるもの
＝法律上の規定あり
知財法（特許法や著作
権法）の規定（デフォ
ルトルール）がそのま
ま適用され、権利者や
権利内容が確定する
法律の規定が
修正される
ではないもの
＝法律上の規定なし
ルールなし
（原始状態）
となる

２権利と知財
となるもの
法律の規定が
修正される
ではないもの
ルールなし
（原始状態）
となる
① 材料・中間成
果物・成果物につ
いて、何が知的財
産権の対象となる
のか・ならないの
かを知っておく

２権利と知財
となるもの
法律の規定が
修正される
ではないもの
ルールなし
（原始状態）
となる
② 知財法の規定
（デフォルトルー
ルとして誰がどの
ような権利を持っ
ているかを知って
おく

２権利と知財
となるもの
法律の規定が
修正される
ではないもの
ルールなし
（原始状態）
となる
③ 契約条項をどのようにし
て自社に有利にデザインする
かを知っておく（「権利帰
属」にこだわらず「利用条
件」で「実」をとる）

２権利と知財
① 材料・中間成果物・成果物について、何が知的財産権の対象と
なるのか・ならないのかを知っておく
② 知財法の規定（デフォルトルールとして誰がどのような権利を
持っているかを知っておく

２権利と知財
１生データ
２学習用プログラム
３学習用データセット
４学習済みモデル
５学習済みパラメータ
６ノウハウ
① 材料・中間成果物・成果物について、何が知的財産権の対象と
なるのか・ならないのかを知っておく
② 知財法の規定（デフォルトルールとして誰がどのような権利を
持っているかを知っておく

２権利と知財
【全体像】
特許法著作権法不正競争防止法
生データ
学習用プログラム
学習用データセッ
ト
学習済みモデル
学習済みパラメー
タ
ノウハウ

２権利と知財
（１）生データ
① 知的財産権の対象となるのか・ならないのか
▼ 生データの種類によるが、産業用ＡＩ生成に用いられるセ
ンサデータについては知的財産権は発生しない
▼ 「営業秘密」（不競法２条６項）「限定提供データ」
（改正不競法２条７項）に該当すれば保護される
② デフォルトルール（＝法律上のルール）として誰がどのよう
な権利を持っているか
▼ 知的財産権の対象ではないので誰も権利を持っていない。
▼ 契約で誰がどの範囲まで使えるかを定める必要あり。

２権利と知財
（２）学習用プログラム
▼ ソフトウェア発明の要件満たせば特許を受ける権利の対象
となる。
▼ プログラムの著作物（著作権法１０条１項⑨）として著作
権法の保護対象となる。
▼ 「営業秘密」（不競法２条６項）に該当すれば不正競争
防止法で保護される。

２権利と知財
（２）学習用プログラム
▼ 当該プログラムを発明・創作した者が特許を受ける権利・著
作権を有する。
▼ ベンダが一から開発したのであればベンダが特許を受ける権
利・著作権を保有。
▼ OSSとして提供されているものを利用する場合にはライセン
ス条件に注意する必要あり。

２権利と知財
（３）学習用データセット
▼ 情報の単なる提示に過ぎないため、「発明」に該当せず特許
を受ける権利の対象とはならない。
▼ 個々のデータに著作物性がない場合でも、深層学習のために
データを収集/加工した学習用データセットが「データベースの著
作物」（著作権法１２条の２）に該当すれば著作権発生。
▼ 「営業秘密」（不競法２条６項）「限定提供データ」（改
正不競法２条７項）に該当すれば保護される。

２権利と知財
（３）学習用データセット
「データベースの著作物」に該当する場合、創作的な「情報の選
択」又は「体系的な構成」を行った者が著作権者となる。
▼ベンダのノウハウのみを利用して加工行為を行ったのであれば
ベンダが著作権者。
▼ユーザ・ベンダが共同して創作的な行為を行ったのであれば
ユーザ・ベンダの共有著作物ということもあり得る。

２権利と知財
（４）学習済みモデル
▼ 学習用データセット同様、再利用可能であり、契約当事者の
関心が非常に高い成果物。
▼ 契約上「学習済みモデル」という言葉が何を意味しているの
か慎重にすりあわせする必要がある。
→「関数」「数理モデル」「アルゴリズム」「ネットワーク構
造」「プログラム」「パラメータ」「それら各概念の組み合わせ」
等多義的な意味を持っており、当事者が異なる意味で使うと大きな
トラブルの原因となる。

２権利と知財
A 関数としての学習済みモデル
例：開発課題との関係で非常に高い精度の出力が可能な独自の
ネットワーク構造＋学習済みパラメータで構成される関数
▼ 「関数自体」「行列自体」には発明該当性は認められず特許
を受ける権利の対象にはならない。
▼ 関数自体は著作物ではないので著作権によって保護されない。
▼ 「営業秘密」（不競法２条６項）に該当すれば保護される

２権利と知財
Ｂプログラムとしての学習済みモデル
関数としての学習済みモデルを、推論フェーズで利用可能なプロ
グラムとして記述したもの
▼ ソフトウェア発明として特許を受ける権利の対象となる可
能性あり
▼ 「プログラムの著作物」として著作権の対象となる

２権利と知財
（５）学習済みパラメータ
▼ 「自動的に生成された」「大量の数値」なので、著作物には
該当せず、著作権の対象にはならない。
▼ また，同様の理由で「発明」にも該当しない。
▼ 「営業秘密」（不競法２条６項）「限定提供データ」（改
正不競法２条７項）に該当すれば保護される。
▼ 知的財産権の対象ではないので誰も権利を持っていない。

２権利と知財
（６）ノウハウ
▼ 無形の情報なので、著作権の対象にはならない。
▼ 「発明」の要件を満たすノウハウであれば特許を受ける権利
の対象となる可能性あり。
② デフォルトルール（＝法律上のルール）として誰がどのような
権利を持っているか
▼ 「発明」の要件を満たさない場合、知的財産権の対象ではな
いので誰も権利を持っていない。

２権利と知財
【まとめ】
特許法著作権法不正競争防止法
生データ × × ○
（要件を満たす場合）
学習用プログラム ○ ○ ○
学習用データセッ
ト
× △
データベースの著作物
に該当する場合
○
学習済みモデル ×
ただしプログラム
としての学習済みモデ
ルは○
×
ただしプログラム
としての学習済みモデ
ルは○
○
学習済みパラメー
タ
× × ○
ノウハウ △ × ○

２権利と知財
る）

２権利と知財
▼ 契約条項をどのようにして自社に有利にデザインするかを
る）
【典型的な暗礁乗り上げパターン】
■ ユーザ
学習用データセットや学習済みモデルは、うちのノウハウや機密
が詰まった生データを用いて生成されたものですし、開発に際して
委託料も支払っています。うちに権利がありますよね？
■ ベンダ
生データだけでは学習済みモデルは生成できません。高性能なモ
デルができるのは、データの前処理やモデルの訓練過程いずれにお
いてもうちの高度のノウハウと多大な労力あってこそです。うちに
権利がありますよね？

２権利と知財
る）
■ 「どちらが権利を持っているか」（権利の帰属）に双方がこ
だわっている限り永久に溝は埋まらない。
■ 交渉に多大な労力と時間がかかり結局競争力を失う。
→「権利の帰属」とは別の視点が必要
→本来、データ提供者（ユーザ）とモデル生成者（ベンダ）のビ
ジネス構造は異なるのであって、双方のニーズを同時に満たしうる
契約条件は当事者双方が思うよりももっと多いはず。
→対象物の「権利帰属」ではなく「利用条件」で「実」をとる

２権利と知財
る）
対象物の「権利帰属」ではなく
「利用条件」で「実」をとる
→極端な話、自社が学習済みモデルに関する権利を保有していな
くても、「モデルの第三者提供を含め、何の制限もなくモデルを自
由に利用できる」という利用条件を設定できれば、実質的にはモデ
ルの権利を保有していることとほとんど同じ。

２権利と知財
る）
■ 原則
全ての材料、中間成果物、成果物について「権利帰属」と「利
用条件」を契約で定める。
【対象】
生データ
【権利帰属】【利用条件】
ユーザ帰属利用条件１
ベンダ帰属
共有利用条件10学習済みモデル
・
・
・
・
・
・
・
・
・
・
注：知財権の対象とならないものについては「権利帰属」は問題とならないが、理解の便宜のため上記のような整理をしている。

２権利と知財
る）
【対象】
生データ
【権利帰属】【利用条件】
ユーザ帰属利用条件１
ベンダ帰属
共有利用条件10学習済みモデル
・
・
・
・
・
・
・
・
・
・
モデル開発契約
１６条、１７条
モデル開発契約
１３条、１８条

２権利と知財
■ 権利帰属の考え方
① ベンダ全部帰属
② ユーザ全部帰属
③ 共有
→モデル契約では「著作権の対象となるもの」と「著作権の対象
とならないもの」に分けて規定している。
「著作権の対象となるもの」：１６条
「著作権の対象とならないもの」：１７条

２権利と知財
■ 利用条件の考え方
ユーザ、ベンダそれぞれが、材料・中間成果物・成果物を、自社
のビジネスにおいてどのように利用したいかをよく検討しなければ
ならない。
🄫Storialaw.jp All rights reserved.
【主体】
ユーザ
【対象】【利用条件】
生データ利用条件１
学習用データセット
ノウハウ利用条件10ベンダ
・
・
・
・
・
・
学習前モデル
学習済みパラメータ
利用条件２

２権利と知財
50
■ 利用条件の考え方
ユーザ、ベンダそれぞれが、材料・中間成果物・成果物を、自社
のビジネスにおいてどのように利用したいかをよく検討しなければ
ならない。
【主体】
ユーザ
【対象】【利用条件】
生データ利用条件１
学習用データセット
ノウハウ利用条件10ベンダ
・
・
・
・
・
・
学習前モデル
学習済みパラメータ
利用条件２

２権利と知財
■ 権利帰属＋利用条件の具体例
▼ 対象
▼ 権利帰属
全部ユーザ
▼ 利用条件
ユーザ：当然何の制限もなく利用可能。
ベンダ：原則として制限なく利用可能。ただし平成●年●月●
日から●ヶ月間は、●●業の分野を事業領域とする事業者には提供
しない。
▼ 条項例
モデル開発契約１６条B案＋１８条A案【別紙】利用条件一覧
表（ケース３）

２権利と知財
【質問】
ユーザが提供した生データを用いて生成された学習済みモデル
（プログラム）はユーザが独占的に利用できるのか、それともベン
ダが横展開できるのか。学習済みモデル内の学習済みパラメータに
ついてはどうか。

２権利と知財
【回答】
（１）契約条項に学習済みモデルの権利帰属・利用条件に関する
記載がない場合
①学習済みモデル（プログラム）は知的財産権（著作権）の対
象であり、同モデルを創作したのはベンダであるため、ベンダが著
作権者として権利保有。
②パラメーターは知的財産権の対象ではないため、契約条項が
なければ「保持している者が自由に利用できる」ことになる。した
がって、ユーザに可読性がある形で納品していれば、ベンダ・ユー
ザ双方自由利用可能。納品していなければベンダが独占して利用可
能。

２権利と知財
【回答】
（２）契約条項に学習済みモデルの権利帰属・利用条件に関する記
載がある場合
→契約条項に従う
例 ①学習済みモデルに関する知的財産権はユーザ帰属。
②ユーザは学習済みモデルを特段の利用条件なく利用可能。
③ベンダは学習済みモデルを再利用モデル生成目的のために
利用できるが、一定期間はユーザの競合事業者に対して、当該再利
用モデルを提供できない。また、ベンダは学習済みモデルをそのま
まの形で第三者提供や譲渡ができない。

２権利と知財
【まとめ】
→「生データ」「学習用プログラム」「学習用データセット」
「学習済みモデル」「学習済みパラメータ」「ノウハウ」それぞれ
について知っておく
知っておく
→ 「権利帰属」にこだわらず「利用条件」で「実」をとる

３ AI開発・利用に際して生じる可能性のある損
害について契約ではどのように定めたら良いか
56

３責任
（１）ユーザの提供データを用いてベンダが開発したAIを組み込
んだシステムが誤作動をしてユーザや第三者に損害を与えた場合、
誰が責任を負うのか。
（２） AIの誤作動に備えて、AI開発契約においてはどのような
定めをすべきか。

３責任
性能保証可能
訓練データに統計的バイアスが
含まれることが避けられないた
め、未知のデータに対する性能
保証は困難
性能不足の場合の事後検証可能
原因の切り分け（データの品質、
ハイパーパラメータ設定、ソー
スコードのバグ等）が困難
学習に用いたデータの学習済み
モデルへの影響
なしあり
利用段階における出力データが
入力データの品質に依存するか
しないする

３責任
（２）３種類の責任
① AI開発遂行に際して生じた損害についての責任
②成果物であるAIの利用により生じた損害についての責任
③AIの利用により第三者の知的財産権を侵害した場合の責任

３責任
（ア） AI開発遂行に際して生じた損害についての責任
例：通常のAIベンダであればやらないレベルのミスにより納
期が遅延した
① 当然のことであるが「準委任契約＝一切責任を負わない」
ということではない
→ベンダは「善管注意義務」（民法６４４条。委任の本旨に
従い、善良な管理者の注意をもって、委任事務を処理する義務）
を負う。
② 「開発遂行に際して生じた責任」についてはAI開発と通
常のシステム開発を区別する合理性がない。
→モデル開発契約２２条では、モデル契約2007と同様の規定
を設けている。

３責任
（イ）成果物であるAIの利用により生じた損害についての責任
例：ベンダがユーザに提供したAIを利用した生体認証システ
ムが誤判定をした。
① 誤判定の原因が不明（ユーザの提供したデータが原因、ア
ルゴリズムが原因、想定外の入力デーが原因など様々な原因が考
えられる）
② システムに組み込まれている場合因果関係が否定される
（フェールセーフ機能を設定すべき等）
③ ベンダにも結果が予見できないのでベンダに故意過失なし
→ベンダが責任を負うケースは少ないのではないかと思われる。
→モデル開発契約２０条では原則としてベンダの責任を否定す
る条項にしている。

３責任
（ウ） AIの利用により第三者の知的財産権を侵害した場合
例：ベンダがユーザに提供した学習済みモデルが第三者の特許
を侵害していたためユーザが特許権者から損害賠償請求を受けた
→「AIの利用により生じた損害」の一種であるが、知的財産
権侵害についてはユーザの関心が非常に高く、ベンダが知財保証
（第三者の知的財産権を侵害しないことの保証）するように求め
られるケースも多い
【考えられる契約条項のパターン】
① 一切保証しないパターン
② 著作権非侵害のみ保証するパターン
③ すべての知的財産権の非侵害を保証するパターン
→モデル開発契約においては②（21条B案）と③（21条A案）
を提示

【まとめ】ユーザとベンダ双方にとって幸せなAI開発のための３つのポイント
１性能保証、検収、瑕疵担保
（１）AIの特性と限界の相互理解：ガイドラインの活用
（２）プロセス・契約を分割する
（３）開発契約の内容を工夫する
２権利・知財
（１）材料・中間成果物・成果物について、何が知的財産権の対象となる
のか・ならないのかを知っておく
（２）（１）についてデフォルトルール（＝法律上のルール）として誰が
どのような権利を持っているかを知っておく
（３）契約条項をどのようにして自社に有利にデザインするかを知ってお
く（「権利帰属」にこだわらず「利用条件」で「実」をとる）
３責任
AI開発における「責任」の種類を知り、契約でコントロールする

ＳＴＯＲＩＡ法律事務所について
ＳＴＯＲＩＡ法律事務所
〒６５０−００３１
神戸市中央区東町１２３−１貿易ビル８階
０７８−３９１−０２３２
http://storialaw.jp
kakinuma@storialaw.jp
事務所名
所在地
ＴＥＬ
ＵＲＬ
メール
AI、IoT、ビッグデータの法務面に関するご相談はお気軽に上記
メール宛にどうぞ。
65

ユーザとベンダ双方にとって幸せなAI開発のための３つのポイント

Recommandé

Recommandé

Contenu connexe

Tendances

Tendances (20)

Similaire à ユーザとベンダ双方にとって幸せなAI開発のための３つのポイント

Similaire à ユーザとベンダ双方にとって幸せなAI開発のための３つのポイント (20)

Plus de Deep Learning Lab（ディープラーニング・ラボ）

Plus de Deep Learning Lab（ディープラーニング・ラボ） (20)

Dernier

Dernier (8)

ユーザとベンダ双方にとって幸せなAI開発のための３つのポイント