人機互動的設計，隨著我們使用的工具，機器，系統而不斷改變。近年來人工智慧的急速發展，挑戰了某些人機互動領域的假設。其實複雜，聰明，自動化的系統在我們的周圍早已存在。因為良好的設計，使得我們只需要簡單的心理模式，即能使用無比複雜的系統。系統的能力愈來愈強，然而人對系統的認知，人的能力，需求和態度是否跟著適應？設計者的責任是什麼？此時，正是應該不負責任地提出問題，進行系統性探討的時候。

1. 創新設計年會
從人機互動到人智互動：
機器更聰明了，你呢？
陳宜秀
數位內容學程 | 傳播學院 | 國立政治大學
yihsiu@nccu.edu.tw

2. 創新設計年會

3. 創新設計年會
還好，今天的主題和這些都沒有關係
因為這些我都不會

4. 創新設計年會
2017年以前：
一個在工業界面對問題的學院派
2017年以後：
一個尋求研究方向的菜鳥教授

5. 創新設計年會
我的研究履歷

6. 創新設計年會
溝通
心理學
VoIP
E-contact
客服中心系統
新型電信服務
商用通訊系統
人因工程
互動設計
產品設計
行動通訊服務
智慧型手機
互動設計
產品管理
使用者研究
HTC Vive
虛擬現實
過去的研究主題

7. 創新設計年會
回到我的學術源頭，
重新摸索

8. 創新設計年會
溝通心理學對我的影響
人機互動的問題，基本上也是溝通問題
只要是設計來讓人用的東西，都有兩個部分：
功能，以及如何使用這些功能
產品必須能適當地溝通設計的「意向」，intention

9. 創新設計年會
字面上的
意義
非字面上的
意義
intention
你知不知道現
在幾點？
知道。
我想知道現
在幾點。
對字面上的
意義做反應
（有人會這麼回答嗎？）
現在一點三
十分。
對非字面上的意義
（意向）做反應
你怎麼這麼晚回來？
上哪兒幹什麼去了？
哪有多晚？才十點
鐘。你好煩！
我們是依據對「意向」的理解而互動

10. 創新設計年會
同一個訊息可以是三種speech act
字面意義（locution meaning) 對字面意義做反應
對溝通的詮釋／回應
現在一點
三十分。
使役意義（perlocution meaning)
告訴我現在的
時間。
意向意義（illocution meaning) 對意向意義的詮釋
他想知道現
在幾點。
你知不知道現
在幾點？
知道。
我想知道現
在幾點。

11. 創新設計年會
介面做為一種溝通的媒介
字面意義（locution meaning) 對介面做反應
對介面的詮釋/回應
各種操作的嘗試
意向意義（illocution meaning)
使役意義（perlocution meaning)
我期待你
這麼用…
對意向意義的詮釋
這可以用來
做什麼？
（介面型態，
一顆球）
這好可愛，這是顆球
（我們會做情感性的反應
快速分類）
這個設計
是為了…

12. 創新設計年會
溝通，不只是「語義學」，還需要「語用學」
Knowledge of the word
vs.
Knowledge of the world

13. 創新設計年會
甲： 陳宜秀來了嗎？
乙： 剛剛在停車場看到一部白色的Sienta。

14. 創新設計年會
Grice：溝通的潛在合作原則
合作是互動的預設，不是互動的結果

15. 創新設計年會
溝通的行為決定於：
對溝通對象的了解
對情境的了解及期待
互動中，不斷地累積此刻的共同
認知（common ground）
如果出錯或不清楚，對溝通內容
的修補 （backchannel）
設計者對使用者的了解
對使用情境的了解及期待的塑造
互動中，使用者對系統狀態的理解
（知道系統在做什麼）
如果出錯或不清楚，修補互動過程？
互動的行為決定於：
介面很難就使用者的行為
調整。除非阻斷互動，沒
有修補的機會
不經由事先的設計，系統
無法依當時發生的事
調整互動方式

16. 創新設計年會
什麼叫做「聰明」？

17. 創新設計年會
vs.

18. 創新設計年會
人沒有把冰箱門關好，一個聰明的冰箱應該
嗶嗶作響，提醒人類？
自己把自己關好，少來煩人類
Follow my intention
什麼叫做「聰明」？

19. 創新設計年會
理解對話的intent是個困難的挑戰
我： Siri，我想去看電影。
Siri： 以下有幾部正在上映或即將上映的電影。
我： 可是我不看恐怖片。
Siri： 以下有幾部恐怖片。

20. 創新設計年會
人機互動設計的假設
人機互動的「機」有什麼限制？
無法超越設計者賦予的功能
無法動態適應使用者的行為
「機」，笨笨的
設計
設計者
人機互動 = 人-機-人互動
HCI = H-C-H-I？
使用者

21. 創新設計年會
AI 會讓「機」愈來愈聰明
但是，這對互動會有什麼幫助？

22. 創新設計年會
聰明，複雜的自動化系統早已存在
（即使沒有自行決定的能力）
相對於系統，
人的心理模型，是過度簡化的

23. 創新設計年會
手機上撥號 對方手機會響 對方接電話
通話
你如何打一通電話？

24. 創新設計年會
行動電話的通訊架構
Source: Spirent

25. 創新設計年會
運用簡單的心理模型，我們每天都在操作複雜的系統：
電話，汽車，Internet，電腦，電力，自來水…
我們「相信」這些系統可以「信賴」
如電光石火一般，快速作業
使用者不需要理解自動化系統

26. 創新設計年會
問題在於人不知道系統在做什麼，會出什麼狀況
當系統出問題時，人在狀況外，無法介入
當人無法介入的時候，系統
如電光石火一般，快速出錯
這樣，不好嗎？哪裡有問題？

27. 創新設計年會2/24/2016
2017年，8月15日，
下午4點51分，
你在做什麼？

28. 創新設計年會
時間 中油大潭計量站 大潭電廠 台電狀況
13:30 委外廠商維修人員進場，簽認工作許可證
13:40 開始更換DCS#1之2個電源供應器
13:49:54 DCS#1副供應電源（1CS）正常警報（抽換電源器開始）
14:02:20 DCS#1主供應電源（1CP）正常警報（抽換電源器）
14:05-16:00 拆裝2個電源供應器，維修人員請中油值班人員至DCS操作台準備確認
脫離警報（臨時搭接線，脫離副電供應器）MOV-2230當時已關閉
16:44:00 DCS#1主供應電源（1CP）警報（復電）
16:45:04 DCS#1副供應電源（1CS）警報（拆臨時搭接線）
16:47:50 DCS#1電源發生瞬間中斷
16:47:52 DCS#1故障警報，通訊中斷，DCS#1無法讀取MOV開關狀態
16:48:13 DCS#1重新啟動，發生警報，接著發生MOV閃爍無法控制之情況
16:48:14 MOV-2229開始自動關閉（從全開至全關約140秒)
16:50:40 供氣壓力下降
16:51:02 6部機組陸續跳機，瞬間減少415.67萬瓩供電量。 電力系統保護設備自動啟動，卸載約336 萬瓩
16:52:17 值班人員下DCS指令打開MOV-2229 初期影響約154 萬戶
16:54:24 MOV-2229全開
17:05 台中電廠 5 號機不堪負荷跳機，再損失52.5萬瓩
17:11:09 值班人員下DCS指令打開MOV -2230
17:13:13 MOV-2230全開
18:00:00 執行第1輪全台緊急分區限電
18:49～18:51 大潭電廠 2 號，1號機陸續併聯發電 執行第2輪全台緊急分區限電
20:00～20:50 執行第3輪（173.2 萬瓩）第4輪（69.2 萬瓩）限電
21:17 台中電廠 5 號機併聯發電
21:38 大潭電廠 3 號機併聯發電
21:40 解除緊急分區輪流停電，全台恢復正常供電
22:06 ～00:50 大潭電廠 4，5，6號機陸續併聯發電。
815當日事件 （摘自行政院815停電事故行政調查專案報告）

29. 創新設計年會
時間 中油大潭計量站 大潭電廠 台電狀況
16:45:04 DCS#1副供應電源（1CS）警報
（拆臨時搭接線）
16:47:50 DCS#1電源發生瞬間中斷
16:47:52 DCS#1故障警報，通訊中斷，
DCS#1無法讀取MOV開關狀態
16:48:13 DCS#1重新啟動，發生警報，接著
發生MOV閃爍無法控制之情況
16:48:14 MOV-2229開始自動關閉（從全開
至全關約140秒)
16:50:40 供氣壓力下降
16:51:02 6部機組陸續跳機，瞬間
減少415.67萬瓩供電量。
電力系統保護設備自動啟
動，卸載約336 萬瓩
17:05 台中電廠 5 號機不堪負荷
跳機，再損失52.5萬瓩
6分鐘
損失804.2萬瓩
相當23%發電量
3分鐘
815當日事件 （摘自行政院815停電事故行政調查專案報告）

30. 創新設計年會
人自互動的危機：
無法隨時掌握系統狀態
或預測即將發生的狀態
及時介入

31. 創新設計年會
automation autonomy

32. 創新設計年會來源：ABC News
2018年3月3日
Tesla Model X
在加州101號公路
撞毀

33. 創新設計年會來源：美國國家高速公路交通安全局，National Highway Traffic Safety Administration, NHTSA,
全靠駕駛人 輔助駕駛人完
成某些單一任
務，如加速或
轉向
在駕駛人監控
下可以完成
少數簡單任務，
如加速及轉向
某些情況下，
車子可以完成
所有駕駛任務。
人坐車就好
某些情況下，
車子可以完成
所有駕駛任務，
其他情況還是
靠駕駛人。駕
駛人必須準備
隨時接手
SAE 汽車工程師協會，自駕車的六個層級
所有情況下，
車子可以完成
所有駕駛任務。
人坐車就好

34. 創新設計年會
Tesla的聲明：
「According to the family, Mr. Huang was well aware that
Autopilot was not perfect … yet he nonetheless engaged
Autopilot at that location … the only way for this accident to
have occurred is if Mr. Huang was not paying attention …
Tesla is extremely clear that Autopilot requires the driver to
be alert and have hands on the wheel … 」
Tesla Model X Crash (今年3月23日，美國加州101號公路）

35. 創新設計年會
Electrek, 一個有關電動車及自動駕駛的部落格，四天後發表評論：
「An attentive driver would have plenty of time to go back
to the correct lane after the car enters the median … as Tesla
Autopilot improves it seems that some drivers are growing
more confident with the driver assist system and are putting
too much trust in it. 」
人就可以不用管了嗎？

36. 創新設計年會
我們如何決定，何時該信任系統，何時不該信任？
（人比機器值得信任？）
在「交給你了」和「你不行，換我來」之間，
有沒有更好的 level of engagement?
Trust?

37. 創新設計年會
「信任」人機互動的領域中不是新題目，但是AI使它更複雜
什麼因素影響信任？
擬人化，例如給機器取個名字
系統現況的訊息量（知道機器在做什麼）
系統行為的理由（知道機器為什麼這麼做）
系統狀態是否透明清楚
Yes, trust, 信任

38. 創新設計年會
VS.
如果駕駛這部
車的是個人
如果駕駛這部
車的是AI

39. 創新設計年會
這三個向度代表的不是AI的實際狀態，而是使用者人的心理認知
信任的內涵
*Cofta, P. (2006) Distrust. ICEC’06, August 14–16, 2006.
** 綜合文獻
Competence
機器做得到，有能力
Motivation
機器是合作的
不會另有目的
Continuity
沒有阻礙機器的
周遭因素，靠譜

40. 創新設計年會
來源：三國，第五集
三英力戰呂奉先

41. 創新設計年會
馬是一個智慧型的承載系統，而且能做幾件重要的事：
自動維持「人+馬」這個互動單元的平衡
自動閃避障礙物，保護自己
配合人的動作及意志，改變速度
在失去平衡時自動恢復（爬起來）
在失去「人」的時候停下來，自行回家/求生
智慧，是否一定「人工」？

42. 創新設計年會
兩個智慧體，都有以下的能力：
理解對方的能力/經驗
感知周圍的環境而反應
感知對方的動作而糾正
分工（你專心跑，我專心砍人）
馬的智慧能力，減少了人的mental loading
人和馬，是兩個共生協作的智慧體

43. 創新設計年會
人和AI的互動，是不是完全依賴AI？
讓聰明的系統做所有的事情？不是
在NASA的一篇自動駕駛車的論述中提出
系統感知（並學習）人類行為的能力，和自主能力同樣重要
系統必須由能力推知（infer）人類的意向（intent）
人並非完全仰賴AI，人必須學習如何跟AI互動
H-Metaphor （H= Horse, not Human）
*Flemisch, F., Adams, C., Conway, S., Goodrich, K., Palmer, M., and Schutte P. (2003) The H-Metaphor as a Guideline for Vehicle
Automation and Interaction. NASA Technical Reports NASA/TM—2003-212672.

44. 創新設計年會
透過使用智能的機器，延伸和增強（augment）人類的能力和效率
（這當然是個以人為中心的想法，我是個大人類主義者）
人類必須做的事 機器可以做的事
科技演進人類和機器的分工

45. 創新設計年會
科技演進人類和機器的分工
使用勞力 產生功能
設計，操作，維修機器 負擔勞力，提高效率
比對，分析，計劃，決定 重複執行，計算，模擬
？ 比對，分析，計劃，決定，計算
透過使用智能的機器，延伸和增強（augment）人類的能力和效率
（這當然是個以人為中心的想法，我是個大人類主義者）

46. 創新設計年會
要不要信任，是一個決定
如何減少互動中的不確定性？
心理學在decision making的領域有豐富的研究經驗及典範
（甚至於拿了諾貝爾經濟學獎）
心理學可以協助人智互動設計的發展
與其幫忙造機器人或研究恐怖谷（誰說機器人一定要像人?）
不如聚焦於信任的決策歷程
To trust or not to trust, if that is the question…

47. 創新設計年會
脫離「人」或「機器」，信任或不信任的二分法思維
採取「人+機器」的合作思維
“Collaboration, not supervision”
溝通心理學對人智互動的意義：
藉由研究人跟另外一個人（智慧體沒錯吧？）互動的條件和方式
設計人和AI系統之間如何互動
互動中，自然知道如何信任
* https://www.jnd.org/dn.mss/the_human_side_of_au.html
… if that is NOT the question…

48. 創新設計年會
「信任」，不是從互動才開始
人類社會的互信如何形成？
社會規範，道德，法律，情境腳本… 等等
這些機制被新科技不斷地挑戰
科技產品也不斷被納入規範，使它們可以值得信任
科技如何融入社會？

49. 創新設計年會
AI 如何進入類社會的體系，值得被信任？
經由規範性的引進，累積互動經驗
從人機互動到人智互動：
一個巨大的社會議題
在現實的場域中，
我們如何準備？
人智互動的社會系統設計
參考：Kuipers, B (2018) How can we trust a robot? Communications of ACM, Vol. 61, No. 3, p.86~95
參考：翁岳暄（2009）Toward the Human–Robot Co-Existence Society: On Safety Intelligence for Next
Generation Robots. International Journal of Social Robots, 2009.1 p. 267–282
參考：robolaw.asia；robolaw.eu
Action Intelligence
Autonomous
Intelligence
Human
Intelligence
Open texture risk

50. 創新設計年會Source: Domino’s Robotic Unit designed by Starship Technologies
AI開車，人
不敢過馬路
人開車，
機器人敢不
敢過馬路？

51. 創新設計年會
從人機互動到人智互動
人機互動： 清楚地告訴我該怎麼用
人自互動： 幫我做那些很複雜的事，別出錯，少來煩我
要盡早給我預警，我才能進來處理
人智互動： 聰明一點，自己搞清楚該做什麼事
咱倆可以分工；你得配合我，或讓我知道怎麼配合你
你得讓我信得過，我們也得準備相信你

52. 創新設計年會

53. 創新設計年會
《論語‧述而篇》：
「志於道，據於德，依於仁，遊於藝。」
謝謝