とあるプライベートセミナーで講演した資料の一部を改変して載せました。Call for Comment.

1. 日経コンピュータ編集
浅川直輝
技術者は、AIが個人・
組織・社会にもたらす
リスクにどう向き合う
べきか

2. AI、FinTech、データプライバシーな
どで記事を書いています

3. ○5年以内に起こる課題
・自動運転、ロボット法
・AIとプライバシーの問題
〇5～20年以内に起こる課題
・AIと人間の関係性（依存と寄生）
・AIによる経済構造、労働市場の変化
・AIの軍事利用
〇20年後以降に起こる課題
・シンギュラリティ
・AIが人類を襲う
社会学者・経済学者
との議論
政府当局、法学者、
消費者団体との熟議
倫理学者との協調
IT企業や技術者コミュニティは、AIが個人・組織・社会に
もたらすリスクにどう向き合うべきか

4. （20年後の課題）
メディアを騒がす「シンギュラリティ」
今のところ、知的消費財の域をとどまっていない。
ただ、今のうちに倫理基準を確立させることは有益
人工知能学会による「人工知能研究者の倫理統領案（v3.1）」2016年6月公開
1. 人類への貢献
2. 誠実な振る舞い
3. 公正性（差別の禁止）
4. 不断の自己研鑽
5. 検証と警鐘
6. 社会の啓蒙
7. 法規制の遵守
8. 他者の尊重（不許可アクセスの禁止）
9. 他者のプライバシー尊重
10. 説明責任

5. もし変化に対応できないなら、深刻
な事態に陥るだろう。先進的な労働
者と、スピードに付いていけずに取り
残される労働者の間に不平等が発生す
る。この問題に社会は向き合わねばな
らなくなる
マイケル・A・オズボーン氏
（5～20年の課題）
AIによる社会構造、経済構造、労働市場の変化

6. 経理
人事
マーケ 営業
店頭員
製造
組織
これまで個人は、互いにできないことを補うため、
家族・企業・国家などの「組織」を構築した

7. 経理
AI
人事AI
マーケAI 営業AI
店頭員AI
製造AI
個人
AIの高度化で、個人は「組織から自立／自律」する。
一方で、事業や取引、人間関係で「AIへの依存」を強める

8. 「個人同士をマッチングさせるAI」が強力な権限を持つ
（検索→EC→SNS→チャットボット？）
マッチングAI
マッチングAI
マッチングAI
マッチングAI

9. マッチングAI
マッチングAI
マッチングAI
マッチングAI
個人の能力を拡張させるはずのAIが
「マッチングAI」のエージェントになる？（AIの寄生）

10. 複数種の生物が相互関係を持ちながら同所的に生活する現象。
相利共生：双方の生物種がこの関係で利益を得る場合
片利共生：片方のみが利益を得る場合
片害共生：片方のみが害を被る場合
寄生 ：片方のみが利益を得、相手方が害を被る場合
Wikipediaより
共生は、相利共生を越えて
「依存（中毒的な片利共生）」や「寄生」になりえる
そもそもAIと人間の「共生」とは？

11. SNS（ソーシャル・ネットワーキング・サービス）
Facebook、Twitterなど 「承認欲求」「虚栄心」
メッセンジャーアプリ
LINE、WhatsAppなど 「親和欲求」
ゲームアプリ
グラブル、モンストなど
「射幸心」
AIによる情動のハッキングはどこまで許されるか
ITサービス 利益の源泉となる情動

12. （～5年以内の課題）
・自動運転の法的責任、ロボット法
・医療診断AIの法的責任
・AIとプライバシー
技術者が法学者、消費者と密に議論すべき
問題が目白押し

13. 自動運転車の事故責任を問うのに必要な五つのルール（筆者意見）
（a）事故直前における状況認識システムの入出力データ
をすべて記録しておくこと
（b）第三者機関があらかじめ、事故時のカメラ映像や、
事故直前のヒヤリ・ハット映像を大量に収集、ストック
しておく
（c）リスク判定ソフトの主要なロジックやパラメータ、
コード品質は、提供企業の経営陣が監査し、責任を負う
（d）リスク判定のトレードオフについては、倫理学者な
ど第三者の意見を聞き、文書に残しておく
（e）自動運転システムが高い事故リスクを認識した場
合、制御の権限を人間のドライバーから奪うことも許
容する

14. パーソナルデータの利活用ルール作りに見る「失敗」
経産省「情報大航海プロジェクト」
民間「次世代パーソナルサービス推進コンソーシアム」
2007年～
2009年～
民間「所管官庁である経産省がまずルールの概要を
示してほしい」→経産省にボール投げ返す
2010年頃
（東日本大震災の影響もあり、ルール作り進まず）2011年～
2013年 Suica乗降履歴販売事件

15. AIの課題と向き合うため、
熟議、激論を恐れない！
(提言）

16. ご清聴ありがとうございました
質問、御意見は
n-asakaw@nikkeibp.co.jp
までお願いします。