2. 목차 v AI 서비스는 개인화 서비스로 진화 중
v 개인화 서비스의 관건은 식별기술
v 비식별기술과 식별기술과 개인정보보호의 관계
v 정확한 식별기술은 빅데이터와 머신러닝에서
v 글로벌 AI 경쟁에서 밀리면 데이터주권마저 위험
v 개인정보보호 법제 개선
3. 목차
v AI 서비스는 개인화 서비스로 진화 중
v 개인화 서비스의 관건은 식별기술
v 비식별기술과 식별기술과 개인정보보호의 관계
v 정확한 식별기술은 빅데이터와 머신러닝에서
v 글로벌 AI 경쟁에서 밀리면 데이터주권마저 위험
v 개인정보보호 법제 개선
4. 3
AI 시대, 빅데이터를 통한 인류 기여
정밀의료
CNGB(중국국가유전자뱅크)
Ø 중국 선전에 위치하며 대지가 5만평방미
터가 넘음
Ø 미국, 일본, 유럽에 이어 세계 네번째 국
가급유전자뱅크이며 세계 최대 유전자
뱅크
Ø 3대뱅크: 생물자원샘플뱅크, 생물정보데
이터뱅크, 생물활체뱅크
Ø 2대플랫폼: 디지털화된 플랫폼, 합성 및
편집 플랫폼
Ø 특징: 샘플 저장 가능
NCBI
미국국립생물기술정보센터
EMBL-EBI
유럽생물정보연구소
DDBJ
일본DNA데이터베이스
미국
유럽
일본
중국
세계 4대
유전자뱅크
개인의 GENOME을 활용하여
맞춤형 치료 기술 개발
정밀의료의 진정한 가치는 약물이 아니라
유전자 데이터 그 자체에 있다
5. 4
정보의 개방과 공유 척도가 AI의 성패
예방의학
의사 중심
의료 모델
환자 중심
의료 모델
빅데이터
의 활용
P4의학
탄생
Predictive Medicine
예측의학
Preventive Medicine
예방의학
Personalized Medicine
맞춤형의학
Participatory Medicine
참여의학
정보의 개방 및 공유: 빅데이터 시대의 특징
6. 5
집안에 들어오는 스마트 스피커 – 트로이 목마
나의 모든 것
을 아는데
비밀을 지켜줄
까?
“수사하기 정
말 쉬워졌어요.
물으면 다 말
해 줘요‘
- A검사 -
KT GiGA Genie Amazon Echo
Google home Naver 클로바
7. 6
센스타임, 중국 무선스마트 치안의 선두주자
SenseTime이 선전시공안국과 MOU 체결했으며
미래 아래 분야에서 협력할 예정임
AI
공공
안전
공안정보화스마트응용의 계획 및 설계
스마트안전도시의 구축
영상 인물사진의 검증 및 감정 기술 혁신
인공지능 기술의 응용
무선스마트 치안행정 구축
8. 7
센스타임의 딥러닝 혁명
SenseTotem
이미지정보연구확인
시스템
특징
v 딥러닝을 바탕으로 개발된 모호한
안면 인식 기술을 통해서 안면 검
색, 신분 검증, 얼굴데이터베이스
중복 얼굴 검색 서비스를 제공함
을 통해서 공안에 협조
v 1억개 이상의 데이터베이스 중 특
수 안면 이미지를 정확하게 얻을
수 있음
v 모바일 단말과 웹사이트 단말 등
여러 사용 방식을 제공함
v GPU구조에 대해 고도로 최적화
딥러닝 알고리즘
9. 목차 v AI 서비스는 개인화 서비스로 진화 중
v 개인화 서비스의 관건은 식별기술
v 비식별기술과 식별기술과 개인정보보호의 관계
v 정확한 식별기술은 빅데이터와 머신러닝에서
v 글로벌 AI 경쟁에서 밀리면 데이터주권마저 위험
v 개인정보보호 법제 개선
10. 9
개인식별기술의 선구자들
세계 음성인식 및 합성 분야(음성 정보를 디지털화하거나 반
대로 디지털 정보를 음성화하는 기술)의 선두자
The Microsoft Speech
API(SAPI)
인공지능과 음성인식에 있어서 모두 빅데이터가 있어야
알고리즘이 정확할 수 있음
11. 10
정확한 식별이 되지 않을 때 인권침해 발생
얼굴인식
정확
한
개인
식별
이
안되
면?
출입국 관리:
간첩, 테러 등 출입 확인
용의자 사진 대조:
경찰이 용의자의 신원에 대한 확인
온라인 범인 추격:
PDA등 모마일단말기에서의 현장 대조
실감 나는 가상 게임:
인물 이미지를 제공함을 통해서 교호성을 향상시킴
기밀 취급자에 대한 신원 확인:
불법 침입자 방지
가사 서비스 로봇:
가족구성원을 알아볼 수 있는 스마트 로봇
중요한 장소의 영상 모니터닝:
예: 은행 로비
스마트 모빌리티 고객 인식
정당한 가입자 자동인식과 이용 허락
음성인식
행동인식
지문인식
13. 12
몸짓 하나에서도 너를 느끼며
행동인식
AVA
(Atomic Visual Actions)
특징
사람을 바탕으로 한 태그: 태그가 모두 영상이나 편집과 관련이 있는 것
아니라 사람과 관련이 있음. 같은 장면에서 여러 명이 동시에 하는 다른
동작에 대해서 다른 태그를 분배하는 것임
진정한 영상을 바탕으로 한 자료: 다른 나라 또한 다른 유형의 영화를
AVA의 데이터의 출처로 하므로 데이터는 인류의 대부분 동작을 포괄함
14. 13
테러, 사이버 공격 대응 안보활동
홍채인식
공항 안전검사 반테러 행동
ATM 출금 모바일 결제
빌딩 출입구 경비 시스템
15. 목차 v AI 서비스는 개인화 서비스로 진화 중
v 개인화 서비스의 관건은 식별기술
v 비식별기술과 식별기술과 개인정보
보호의 관계
v 정확한 식별기술은 빅데이터와 머신러닝에서
v 글로벌 AI 경쟁에서 밀리면 데이터주권마저 위험
v 개인정보보호 법제 개선
16. 15
우리는 비식별기술에 집중, 식별기술 발전 더뎌
비식별기술이란?
비식별기술의 관건은?
어디서 활용될 수 있을까?
동의 없이 개인정보를 활용하기 위해 개인을 알
아 보지 못하게 만드는 기술
누군지 알아볼 수 없는 점
통계분석
고도의 비식별 조치 후에는
해당 데이터는 가용성이 떨어져
인공지능의 식별기술발전에 도움이 안됨
헬스케어
자율주행차
스마트시티
17. 16
자동화서비스에서 본인확인이 안되면?
식별기술 이란?
자동화 서비스, 맞춤형 서
비스에서 개인을 식별하지
못하면?
“개인에게 재앙 초래"
동의 하에 개인을 식별해 정확하게 맞춤형 서
비스를 제공하는 것. 자동화시대에는 대량의 개
인정보처리 발생
아리야! 카톡 읽어줘
아리야! 이메일 읽어줘
아리야! 내 사진 보여줘
아리야! 내 비트코인 보내
아리야! 내 보고서 보내…..
18. 목차 v AI 서비스는 개인화 서비스로 진화 중
v 개인화 서비스의 관건은 식별기술
v 비식별기술과 식별기술과 개인정보보호의 관계
v 정확한 식별기술은 빅데이터와
머신러닝에서
v 글로벌 AI 경쟁에서 밀리면 데이터주권마저 위험
v 개인정보보호 법제 개선
19. 18
해외인공지능과 국운을 건 경쟁…은 없다
어떤 의사에게 자신
의 몸을
맡기겠습니까?
더 좋은 서비스를 찾아 해외
서비스를 이용하시겠습니까?
10억명 기반의
인공지능 의사
VS.
1천명 기반의
인공지능 의사
본인이 인식되지
않는 결과, 제대로
된 서비스를 받지
못한다면?
그 결과 큰 손해나
부상을 입을 수 있
다면?
20. 19
필요할 경우 재식별도 가능해야
본인을 위해 재식별해
야 할 경우에도
본인의 동의를 얻어야
하므로
동의를 받아서 그
에게 위험을
알려주자!
죄송합니다.
식별할 수
없습니다.
동의를
어떻게
받지?
21. 20
개인정보와 익명정보. 가명정보는 어디에?
(a)
그 자체로
특정 개인을
식별할 수 있는 정보
(식별정보)
< 동의 획득 가능 >
(C)
다른 정보와 결합해
특정 개인을 쉽게
식별할 수 없는 정보
(익명정보)
(동의 획득 불가)
- 빅데이터의 영역 -
(b)
다른 정보와 결합해
특정 개인을
쉽게
식별할 수 있는
정보
(비식별정보)
(그 자체로 동의
획득 곤란)
개인
관련
정보
현행 개인정보보호법상 개인정보의 정의에 따른 분류
비개인
정보
개인정보 = (a)식별정보 + 비식별정보 중 (b)
가명정보의
위치 모호!
22. 목차 v AI 서비스는 개인화 서비스로 진화 중
v 개인화 서비스의 관건은 식별기술
v 비식별기술과 식별기술과 개인정보보호의 관계
v 정확한 식별기술은 빅데이터와 머신러닝에서
v 글로벌 AI 경쟁에서 밀리면
데이터주권마저 위험
v 개인정보보호 법제 개선
23. 22
글로벌 인공지능은 이미 저기 먼 곳에
미국, 중국, 러시아..전력 질주 중
Artificial intelligence is the future, not only for Russia, but for all humankind.
Whoever becomes the leader in this sphere will become the ruler of the world.
--Putin
AI가 국제 경쟁의 새로운 초점이 되었다.
-중국 국가급 계획인 “새로운 세대의 인공지능 발전 계획
新一代人工智能发展规划(2017.7.8)”
24. 23
국가 정보가 유출돼 국내에 데이터 진공상태
서비스제공자가
국내기반인지
국외기반인지
이용자들은
큰 상관 안함
필요한 서비스
초고속 인터넷
앱을 통해 이용
죄송합니다.
정보는
국내에
없습니다.
정보
좀비
국가
26. 목차 v AI 서비스는 개인화 서비스로 진화 중
v 개인화 서비스의 관건은 식별기술
v 비식별기술과 식별기술과 개인정보보호의 관계
v 정확한 식별기술은 빅데이터와 머신러닝에서
v 글로벌 AI 경쟁에서 밀리면 데이터주권마저 위험
v 개인정보보호 법제 개선
27. 26
데이터주권 놓치면 개인정보보호 곤란
집 나간 개인정보 보호하려 하기 전에 개인정보 국외유출을 막아야
§ 해외 인공지능 기반 서비스에 국가 개인정보 대 이동 예상
§ 의료 인공지능, 법률 인공지능, 공유경제, 포털, 전자상거래 등 점차 해외 기업에 종속 예상
§ 소비자의 선택(동의)로 개인정보 국외 제공하므로 법으로 막을 수 없음
국가 데이터의 대부분이 해외에 존재하는 현실에서 주권 행사에도 어려움 발생
§ 인터넷이 끊기면 나라 전체가 블랙아웃 가능
§ 중소기업은 대부분 해외 클라우드 사용 중, 중소기업이 멈추면 대기업도 멈춤, 공공기관도
글로벌 플랫폼 기업들을 향한 개인정보보호조치는 한계
28. 27
인공지능을 키워 개인정보 해외 유출 막아야
비식별정보는 학술연구 목적, 통계적으로 활용?
§ 비식별정보 = 1이상 특정 개인과 연결 가능한 정보로서 재식별이 가능한 정보
§ 익명정보 = 1이상 특정 개인과 연결 가능한 정보로서 재식별이 곤란한 정보
비식별정보는 그 자체로 특정 개인을 식별할 수 없는 정보
§ 비식별정보의 활용성을 높이지 않고서는 인공지능 시대에 똑똑한 인공지능을
만들기 곤란함
§ 비식별정보는 그 자체로 특정 개인을 식별할 수 없어 동의를 받으려면 개인을
식별할 수 있도록 ‘식별조치'를 취해야 -> 오히려 개인정보권 침해
§ 대조정보를 갖고 있지 않아 개인식별이 곤란한 비식별정보는 동의 획득 불가하
므로 식별정보보다 오히려 활용성 낮음 (보호의 역전 현상)
현재 개인정보보호법 개정안대로는 인공지능 육성에 부족
29. 28
비식별정보의 식별행위에 대한 금지 규정 없음
식별행위는 ‘수집'이 아님(개인정보보호법 제15조)
§ 정부 비식별조치 가이드라인은 처벌할 수 있다고 하나 착오
§ 재식별행위 또는 최초의 식별행위는 이미 수집한 비식별정보를 상대로 하므로 ‘
수집'으로 해석 불가
‘쉬운 결합성'은 일반인의 기준에서 처리가능한 정보를 기준으로 판단해야
§ 같은 정보도 개인정보처리자에 따라 특정 개인을 식별할 가능성이 달라짐
§ “그때 그때 달라요"가 일상적인 상황
§ 비식별정보는 개인정보처리자가 ‘결합하면 특정 개인을 식별할 수 있는 다른 정
보를 보유하거나 보유할 수 있는 상황에 있을 때‘부터 개인정보로 보아야
비식별정보의 식별행위는 현행법상 금지규정이 없어 신뢰구조 형성 곤란
비식별정보는 그 자체로는
비개인정보로 보거나,
동의 없이 처리할 수 있게
30. 29
국회 제출 ‘가명정보’ 도입 법
비식별 개인정보와 비식별 비개인정보 사이에 가명정보 추가하는 입법
§ 가명정보의 정의 : 개인정보를 가명처리함으로써 원상태로 복원하기 위한 추가
정보의 사용·결합없이는 특정 개인을 알아볼 수 없는 정보
§ 참고 : 개정법상 비식별 개인정보의 정의(해당 정보만으로는 특정 개인을 알아볼 수 없더라도 다른
정보와 쉽게 결합하여 알아볼 수 있는 정보(이 경우, 쉽게 결합할 수 있는지 여부는 다른 정보의 입
수 가능성 등 개인을 알아보는 데 소요되는 시간, 비용, 기술 등을 합리적으로 고려하여야 한다))
§ 개인정보 주무부처인 방통위는 20년 동안, 행안부는 9년 돟안 비식별 개인정보
의 구별에 대해 실무적인 가이드라인 작업을 게을리 해 옴 (일본은 50여개 산업
별 가이드라인 제정)
§ 그 결과, 차량번호, 휴대전화번호 등 비식별정보에 대해서 무조건 개인정보(비식별개인정보)라는
입장으로 방치
§ 가명정보와 비식별개인정보의 구별이 어려우면 여전히 비식별정보 활용 곤란
§ 개인정보로 판단될 위험 때문에 활용을 꺼리게 됨
§ 정부가 갑자기 가이드라인 작업을 열심히 할 것인가????
기존 개인정보 정의에 가명정보를 추가함으로써 극심한 혼란 야기할 것
31. 30
개인정보자기결정권 고양을 위한 개선안
1. 비식별정보는 동의 없이 활용, 식별행위 금지
§ 식별정보, 비식별정보 중 식별정보에만 동의제도를 적용
§ 비식별정보는 그 자체로 개인을 식별할 수 없는 정보라서 동의를 받을 수도 없으므로 동의제
도 적용은 모순. 동의 적용 없이 그 자체로 이용하게 하되, 개인식별행위는 엄격금지
§ 세이프하버 방식-비식별정보는 법정식별자를 제외한 정보로 규정함이 바람직(예: HIPPA 18
개)
2. 동의제도 선택제 도입
§ 동의를 받을 떄에 개별적 사전동의형(Opt-In), 사후동의배제형(Opt-Out)을 정보주체가 선택
§ 동의 방식에 대한 개인의 자기결정권 보장
3. 형사처벌보다 시정명령
§ 동의만 받으면 면죄부 – 정부가 개입하기 곤란하므로 오히려 개인정보보호 후퇴
§ 정부가 개인정보처리방침을 심사해서 최적화, 표준화
4. 정부의 소비자 보호 관점의 개인정보보호 업무
§ 사전동의 획득제도로는 개인정보보호 한계 달성
§ 동의획득여부 보다는 합목적성으로 불법성 판단하는 시스템으로 전환해야
비식별정보는 동의 배제