자율주행자동차에 인격을 부여하여 신뢰도를 향상시키는 것에 대한 논문입니다.

1. The mind in the machine:
Anthropomorphism
increases trust in an
autonomous vehicle
+ JESP. 2014
- JAdam Waytz, Joy Heafner,
Nicholas Epley
/김준한
x 2017 Spring

2. Table
of
Contents
01 Why This Paper
02 About the author
03 Background
04 Methodology
05 Findings
06 Discussion
07 Conclusion

3. Why This Paper
기계에 대한 신뢰를 바라보는 또 다른 시각
‣ 자율주행자동차에 대한 신뢰를 anthropomorphism(인격화)이라는 개념을 통해서 바라본
논문
‣ 기계를 인격화할 때는 무엇이 필요한가
‣ 무엇이 human-likeness를 구성하는가에 대한 생각을 해볼 만한 계기
‣ T-map 프로젝트 분들에게 도움이 될 수도..?
3

4. About the author
Adam Waytz
‣ Psychologist at Northwestern University
‣ 사람의 mind에 대한 연구를 주로 함
• 우리가 언제 인간과 다른 인격체에 mind를 부여하는가
• 이 때 발생하는 윤리적인 implication이 무엇인가
4

5. 5
Background
인격화란?
• 사람들이 nonhuman agent에 인간적인 특성, 특히 이성적 사고와 감정을 부
여하는 것 (Gray, Gray, & Wegner, 2007)
• 철학적으로도 위와 같은 특성들은 사람에게 있어 essential한 요소라고 표현
된다. (Dennett, 1978; Locke, 1997)
• 일반 사람들도 humanness를 고등 사고와 같은 감정 표현으로 인식하고 있
음. (예를 들어, self-awareness or memory) (Leyens et al.,
2000)
기술이 human mind를 대체하는 것을 사람들은 전적으로 믿고 신뢰할 수 있을
까?
(선생님이 채점을 할 때, 의사가 진단을 내릴 때와 같이)
신뢰도의 한가지 결정 요인인 anthropomorphism을 보겠다!
따라서 인격화는 단순히 사람의 얼굴이나 몸을 부여하는 것이 아닌,
essential human characteristics를 부여하는 것 (사고하고 느끼는 등)

6. 6
Background
신뢰도란?• 다면적인 개념 : 상대방이 benevolence, integrity, predictability,
competence를 갖고 행동할 것이라고 생각하는 믿음 (McKnight &
Chervany, 2001)
• Thoughtful doctor > Mindless doctor
• Mindful cab driver > Mindless cab driver
• 인격화된 기술은 사람들이 mindless하다고 생각하는 기술보다 더 신뢰할 것
이다.
• Mindful agent는 자신의 행동을 통제할 수 있다고 사람들이 생각하기 때
문
• Conscious awareness, foresight, and planning으로 자신의 행동과 성공
에 더 책임질 것이라고 생각한다
1) Human-like 인지적 능력을 기술에 부여하고
2) 이것을 실험적으로 증명하는 건 우리가 처음
이다!

7. 7
Background
신뢰도란?
• 다면적인 개념 : 타인이 benevolence, integrity, predictability, competence
를 띄고 행동할 것이라고 생각하는 믿음 (McKnight & Chervany, 2001)
• Thoughtful doctor > Mindless doctor
• Mindful cab driver > Mindless cab driver
• 인격화된 기술은 사람들이 mindless하다고 생각하는 기술보다 더 신뢰할 것
이다.
• Mindful agent는 자신의 행동을 통제할 수 있다고 사람들이 생각하기 때
문
• Conscious awareness, foresight, and planning으로 자신의 행동과 성공
에 더 책임질 것이라고 생각한다
1) Human-like 인지적 능력을 기술에 부여하고
2) 이것을 실험적으로 증명하는 건 우리가 처음
이다!
가설 1 : 자율주행자동차를 더 인격화 할수록 신뢰도가 증가할 것이다.
Normal car < Independent Agent < Anthropomorphic Agent
가설 2 : 인격화 정도가 증가할수록 사람들이 Agent를 탓하는 정도가 낮아질 것이다.
사고가 났을 때, 사람들이 인격화 된 기계를 대하는 방식은 어떠할까?

8. 8
Methodology
설정한 조건 및 참가자
• 세 가지의 조건 / Between subject design
• 실험 참가자 : 대학생 여 52명, 남 48명 (평균 연령 26.39)
Normal Condition Agentic Condition Anthropomorphic Condition
• 스스로 운전
• 자율주행 기능 없음
• 자율주행 기능 있음
• 자율주행 기능을 설명하
고, 자율주행 기능 사용
시점을 알려주고, 무슨
일이 일어날지 알려주는
스크립트가 주어짐
• 자율주행 기능 있음
• Iris라는 이름의 여성 인격이 부여
되고 목소리가 오디오를 통해 들
림

9. 9
Methodology
Iris의 대화 내용
자기소개 및 기능 설명
사고 이후 반응
자기소개 및 기능 설명
자율주행 기능 사용 알림
사고 알림

10. 10
Methodology
실험 과정
1
2
3
실험 동의 후 운전 경력에 관한 간단한 설문 진행
National Advanced Driving
Simulator
Agentic, Anthropomorphic 조건은 테스트 드라이빙
각 6분 걸리는 두 가지 코스를 진행
4 2번째 코스에서 사고 발생

11. 11
Methodology
종속 변인
• 자가보고 : 설문을 통한 자가 보고 (리커트 10점 척도를 통한 점수화 - 총 17개의 질문)
1. Perceived Anthropomorphism
- “자동차가 얼마나 똑똑한 것 같나요?”
- “자동차가 얼마나 곧 일어날 상황을 잘 예측한것 같나요?”
- “자동차가 얼마나 앞으로의 일들을 잘 계획한 것 같나요?”
2. Liking (호감도)
- “얼마나 운전이 마음에 들었나요?”
- “얼마나 이런 차를 갖고 싶나요?”
3. Self-reported trust (신뢰를 직접 보고)
- “이런 차를 당신 또는 주변 사람이 갖는다면 얼마나 안전할 것 같나요?”
- “얼마나 자동차에게 운전을 맡기고 싶었나요?”

12. 12
Methodology
종속 변인
• 행동적 지표
1. Heart rate change (심장 박동수 측정)
- 자동차를 믿는다면 사고 시에도 심장 박동이 크게 뛰지 않을 것이다
- 아무 상황도 일어나지 않을 때를 baseline으로 하여 사고 일어났을 시 심장박동수의 변화를 측
정
2. Startle (놀람)
- 영상으로 촬영한 참가자들의 표정을 42명의 평가자들이 놀라보이는 정도를 10점 만점으로 평
가 후 평균
- 앞의 1) 자가보고된 신뢰도 + 2) 심장박동수 + 3) 놀람 정도를 통합하여 “신뢰도”라는 카테고
리 형성
3. Distraction (주의 산만)
- 영상을 통해 전방이 아닌 다른 곳을 보는 시간을 측정 (큰 차이 없음)
• 사고 관련 자가 보고
1. Blame for vehicle (자동차를 탓하는 정도)
- 실험 도중 벌어진 사고가 현실 세계에서 일어난다고 가정
- “얼마나 (다른 운전자 / 자동차 제작사 / 제작한 엔지니어)를 (감옥에 보내고 / 벌을 내리고) 싶나요?”

13. 13
Results
Perceived Anthropomorphism
사람들이 Anthropomorphic
조건을 더 인격화가 잘 되었
다고
판단 (유의미한 결과 나타남)

14. 14
Results
Liking
사람들이 자율주행 조건을 더
좋아함 (유의미한 결과 나타
남)
하지만 자율주행 조건 사이에
서 유의미한 결과 나타나지
않음

15. 15
Results
Trust
행동적으로
Anthropomorphic 조건이
유의미한 차이
자가보고는
Normal 조건과 유의미한
차이 발생
따라서 통합하면 세 조건 모
두
유의미한 차이 나타남

16. 16
Results
Trust
행동적으로
Anthropomorphic 조건이
유의미한 차이
자가보고는
Normal 조건과 유의미한
차이 발생
따라서 통합하면 세 조건 모
두
유의미한 차이 나타남
Perceived Anthropomorphism이 조건과 신뢰도 간
매개 요인으로서 작용

17. 17
Results
Blame for vehicle
자율주행 조건을 당연히 더
많이 탓함.
하지만 중요한 건
Anthropomorphic 조건에서
자동차를 덜 탓했다는 것!

18. Discussion
18
‣ 사람과 기계 간의 관계는 고정적인 것이 아니고 유동적
‣ Human - machine divide를 줄일 수 있다
‣ 이러한 발견은 기술을 이해하는 것 뿐만 아니라 사람이 다른 사람을 인식하는 방식까지 이
해할 수 있도록 도와줌
‣ 실제로 다른 사람이 오디오가 아닌 스크립트를 읽었을 경우 더 mindless하다고 느낌
‣ 아무리 좋은 기술이어도 사람들이 사용하지 않으면 쓸모 없음
‣ 이 연구는 사람들이 자율주행자동차를 신뢰하고, 사용을 유도하는 데에 도움을 주었음

19. 논의점 혹은 질문..
‣ What constitutes human-ness?
• Competence 이외에도 무엇이 사람다움을 규정할까?
• 목소리 톤 / 사용하는 말 등이 사람처럼 감정을 전달할 수 있지 않을까?
‣ 챗봇 / VUI 등을 인격화하여 신뢰도를 높일 수 있을까? 데이터 수집에 도움이 될까?
19