SlideShare une entreprise Scribd logo
1  sur  30
Télécharger pour lire hors ligne
Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.
AITC女子会
2018 機械学習勉強会
「会話の記録と分析」
2018年12月15日
議事録チーム (久保、藤井、入村、赤池、荒井)
Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.
目次
2
概要
こんなことがしたい
こんなものを作ろう
まとめ
Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.
概要
3
Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.
概要
4
「会話の記録と分析」チーム
メンバーの困りごと
「議事録」「面談記録」など、会議や会話の記録を文書
にすることに多くの時間を割いている
そんなみんなの願いは・・・
音声を自動でテキストに変換できたら、
そのまま議事録が作れるんじゃないかしら?
じゃあ、音声入力させよう!
Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.
例) 病院の困りごと
■背景
・医師の負担軽減および病院・クリニックの経営効率化のため、
医師の診察以外の付随業務を減らしたい
・患者様の不安な気持ちや不信感を汲み取れない医師が多い
⇒Googleの音声入力で解決できるのでは?
5
Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.
ほかにも、こんな困りごとも
6
・毎回の議事録を作るのに、会議よりも時間がかかる
・面談のときに記録をつけるのに時間がかかる。
・・・面談は同じ時期に大量にさばく必要がある
・一人作業で何か記録を残したい。
作業しながら、「やりました」が履歴がのこる。
後から、ほかの人が確認できる。
Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.
こんなことがしたい
7
Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.
①診療中の会話を
テキストに変換
②開始キーワードで記録開始
患者様・医師・看護師各々の発言者が区別される
いったんGoogleドキュメントに書き込まれる
その際、項目キーワードでフォーマットに項目分けさ
れる
診療記録 20XX 年 11月 28日 / 午前10時 / 診察室A
医師:山田
患者様:A123456 鈴木
10:00 看護士:「次回予約は」←診療開始キーワード
0:00 医師:今日はどんな症状がありますか?
0:05 患者様:後頭部がズキズキ痛くて・・・
0:12 医師:「症状は」←症状記録キーワード
頭痛
~~診療中の会話~~
10:10 看護士:お大事になさってください←診療終了
キーワード
診察日時
医師名
患者名
症状
内容
③電子カルテに転記
診療の自動記録1
Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.
診療の自動記録2
9
患者様の
音声を記録​看護士の音声を記録​
自動で予約スケジュール登録診療後の感情分析
信頼できるお医者さんだな
なんだか不安だなぁ
私の症状を理解していないぞ
本当はこうで
きたらいいな
💛
即時カルテ入力
医師の音声を記録​
Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.
①面接中の会話を
テキストに変換
②発言者ごとに発言
が色分けされる
事前に登録しておく
と名前が出てくる
③面接終了後に参加者の発言から感情を分析
(※面接者がネガティブな感情になる率が高い面接担
当者は圧迫面接をしているかも…
面接担当者がネガティブで面接者の発言内容に問題
がない場合、単に性格が合わないだけかも…)
面談の会話を自動記録
Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.
音声による安全確認の記録
後方確認(サイドミラー)
止まれ
前方確認(歩行者、自転車)
時間確認 出発よし
前方よし
歩行者確認
運転手の音声を記録​ 歩行優先レーン読み上げ
1月1日2019年
運転手:
渋谷ハチ公口 歩行者確認 13:15
NHN放送センター 後方確認 13:18
代々木公園 正門 右折 左右確認
ハンズフリー
読み上げ
ハンズフリー
書き込み
補足:決められたルートにしか対応できません
Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.
①会議中の会話を
テキストに変換
②発言ごとに
発表者名を記載
③議論の白熱度や、議事内容に対して
肯定的/非肯定的などのフラグ付け
※会議欠席者や第三者が議事録を確認すれば、
会議出席者と同じ認識を持てるようになる
議事録
Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.
会話の記録と言っても・・・
13
一口に会話の記録と言っても
使うシーンも実現したいことも みんなバラバラ。
「。。。。 で、 どれ作る?」
診療記録
採用面談
安全確認
議事録
Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.
もちろん、みんな
14
自分用のが欲しい~~!
Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.
こんなモノを作ろう!
15
Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.
こんなのを作ろう!
16
1.目的別に記録ファイルの雛形と
「キーワード・アクション」リストを準備
診 療
採 用
記録ファイルの雛形
「キーワード・アクショ
ン」リスト
2.雛形から「キーワード・ア
クション」
リストをコピー
3.発言を自動でファイルに
書き込む。
4.発言が「キーワード・アク
ション」リストの項目に一致し
たら、紐づけられているアク
ションを実施
5. 感情分析を実施
Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.
先生!
患者さんが不
安そうですよっ。
どう作るか? 案1
17
しゃべる
マイクで集音
音声から感情分析
オンライン ドキュメントを
事前に作成・共有
テキスト+感情を
ドキュメントに追記
音声をテキストに変換
Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.
どう作るか? 案1
18
2018.06.29 FRI 08:30
日本発、「音声感情解析」のスタートアップに世界が注目
今年5月にルクセンブルクで開催
されたカンファレンス「ICT
Spring」のピッチコンテストで、日
本のスタートアップが優勝した。
その企業、Empathが扱うのは
「音声感情解析」という聞き慣れ
ない技術である。技術のユニー
クさを大きく評価された彼らは、
いったい何をなそうとしているの
か。
出典: https://wired.jp/2018/06/29/ict-spring-luxembourg-empath/
Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.
先生!
患者さんが不
安そうですよっ。
どう作るか? 案1
19
しゃべる
マイクで集音
音声から感情分析
オンライン ドキュメントを
事前に作成・共有
テキスト+感情を
ドキュメントに追記
音声をテキストに変換
・音声から感情分析はどうやら最先端すぎ
る技術らしい。
Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.
先生!
患者さんが不
安そうですよっ。
どう作るか? 案1
20
しゃべる
マイクで集音
音声から感情分析
オンライン ドキュメントを
事前に作成・共有
テキスト+感情を
ドキュメントに追記
音声をテキストに変換
・音声から感情分析はどうやら最先端すぎ
る技術らしい。
NG!
Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.
どう作るか? 案2
21
しゃべる
1つのマイクで
集音
話者を識別
音声をテキストに変換
オンライン ドキュメントを
事前に作成・共有
ドキュメントに追記
「しゃべり」の区切りを判定
Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.
どう作るか? 案2
22
しゃべる
1つのマイクで
集音
話者を識別
音声をテキストに変換
オンライン ドキュメントを
事前に作成・共有
ドキュメントに追記
「しゃべり」の区切りを判定
・誰がしゃべったかを区別するのは難しそ
う
・特定話者識別には音声登録が必要
→ 音声登録してから面談や会議を
始めるのは現実的ではない
Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.
どう作るか? 案2
23
しゃべる
1つのマイクで
集音
話者を識別
音声をテキストに変換
オンライン ドキュメントを
事前に作成
ドキュメントに追記
「しゃべり」の区切りを判定
・不特定話者識別は難しそう。
・特定話者識別には音声登録が必要
→ 音声登録してから面談や会議を
始めるのは現実的ではない
NG!
Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.
どう作るか? 案3
24
Google Document には「音声入力」というステキな機
能があるらしい
Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.
どう作るか? 案3
25
いや、そもそも、スマホに音声入力あるじゃん。
Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.
どう作るか? 案3
26
しゃべる スマホで集音
Google ドキュメントを
事前に作成・ 共有
話者ごとにGoogle
ドキュメントに記録される
スマホからGoogle
ドキュメントにアクセス
音声入力
Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.
どう作るか? 案2
27
しゃべる スマホで集音
・ドキュメントにテキストで入力できる
・誰が話したかも記録される
ひとまず採用!
Google ドキュメントを
事前に作成・ 共有
話者ごとにGoogle
ドキュメントに記録される
スマホからGoogle
ドキュメントにアクセス
音声入力
Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.
どう作るか?
28
音声
音声入力
テキスト
入力処理
キーワードファイル
読み込み
キーワードファイルと比較
・コマンドなし
テキスト挿入
・コマンド
挿入場所移動
ドキュメントを閉じる 等
・感情分析
感情分析処理実行
出力処理
ドキュメントへの出力
・カーソル位置を管理
・カーソル移動
・テキスト出力
・終了/閉じる
感情分析処理
感情分析結果を挿入
・会話部分を読み込み
・Google Natural
Language APIで感情分析
実行
・結果をドキュメントへ挿入
テキスト書き込み
内容読み込み
感情分析結果書き込み
Google Cloud Platform
Google App Script ?
Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved. 29
というものを一緒に作ってくれる人
絶賛募集中です!
Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.
まとめ
30
荒井:今回は計画までですが、これが実現したら楽
しそうです!
入村:色々とアイデアをだせたので、ソフトウエアづ
くりにつなげられるのを楽しみにしています。
久保:今の仕事に直結した願望をテーマにしてしま
いました。手が届きそうなアイディアなので、ぜひ実
現させたいです。

Contenu connexe

Similaire à 2018年12月15日 AITC女子会 会話の記録と分析

20180423ChatWork APIユーザー会「ChatWork APIを使える人を増やす活動」
20180423ChatWork APIユーザー会「ChatWork APIを使える人を増やす活動」20180423ChatWork APIユーザー会「ChatWork APIを使える人を増やす活動」
20180423ChatWork APIユーザー会「ChatWork APIを使える人を増やす活動」Noriaki Takahashi
 
AI for Media 2018 Update セミナー: 株式会社ユニゾンシステム: スピーチ AI を活用した文字起こしプラットホームの活用
AI for Media 2018 Update セミナー: 株式会社ユニゾンシステム: スピーチ AI を活用した文字起こしプラットホームの活用AI for Media 2018 Update セミナー: 株式会社ユニゾンシステム: スピーチ AI を活用した文字起こしプラットホームの活用
AI for Media 2018 Update セミナー: 株式会社ユニゾンシステム: スピーチ AI を活用した文字起こしプラットホームの活用Daiyu Hatakeyama
 
グロースハック なぜ我々は無意味な施策を打ってしまうのか
グロースハック なぜ我々は無意味な施策を打ってしまうのかグロースハック なぜ我々は無意味な施策を打ってしまうのか
グロースハック なぜ我々は無意味な施策を打ってしまうのかYahoo!デベロッパーネットワーク
 
JapanTaxiが保有するデータとデータ分析について
JapanTaxiが保有するデータとデータ分析についてJapanTaxiが保有するデータとデータ分析について
JapanTaxiが保有するデータとデータ分析についてMasatoshi Ida
 
Mule Runtime のアーキテクチャコンセプト紹介
Mule Runtime のアーキテクチャコンセプト紹介Mule Runtime のアーキテクチャコンセプト紹介
Mule Runtime のアーキテクチャコンセプト紹介MuleSoft Meetup Tokyo
 
Wg for ai_dev_ops_20180713
Wg for ai_dev_ops_20180713Wg for ai_dev_ops_20180713
Wg for ai_dev_ops_20180713Yutaka Terasawa
 
TIS 戦略技術センター AI技術推進室紹介
TIS 戦略技術センター AI技術推進室紹介TIS 戦略技術センター AI技術推進室紹介
TIS 戦略技術センター AI技術推進室紹介Takahiro Kubo
 
ソフトウェアジャパン2018 ITフォーラムセッション(2)
ソフトウェアジャパン2018 ITフォーラムセッション(2)ソフトウェアジャパン2018 ITフォーラムセッション(2)
ソフトウェアジャパン2018 ITフォーラムセッション(2)aitc_jp
 
Machine learning 15min TensorFlow hub
Machine learning 15min TensorFlow hubMachine learning 15min TensorFlow hub
Machine learning 15min TensorFlow hubJunya Kamura
 
エウレカBIチームの時間の使い方
エウレカBIチームの時間の使い方エウレカBIチームの時間の使い方
エウレカBIチームの時間の使い方Shinnosuke Ohkubo
 
機械学習を用いた会議診断システムの開発
機械学習を用いた会議診断システムの開発機械学習を用いた会議診断システムの開発
機械学習を用いた会議診断システムの開発Takahiro Kubo
 
最若手メンバーこそチャンス!チーム改善に取り組んでわかったこと
最若手メンバーこそチャンス!チーム改善に取り組んでわかったこと最若手メンバーこそチャンス!チーム改善に取り組んでわかったこと
最若手メンバーこそチャンス!チーム改善に取り組んでわかったことMasayuki Ueda
 
Pmi日本フォーラム2015講演資料(アイ・ティ・イノベーション 井上英明) v1.0_講演用_カスタマイズ
Pmi日本フォーラム2015講演資料(アイ・ティ・イノベーション 井上英明) v1.0_講演用_カスタマイズPmi日本フォーラム2015講演資料(アイ・ティ・イノベーション 井上英明) v1.0_講演用_カスタマイズ
Pmi日本フォーラム2015講演資料(アイ・ティ・イノベーション 井上英明) v1.0_講演用_カスタマイズITinnovation
 
Microsoft Conversational AI_20191030
Microsoft Conversational AI_20191030Microsoft Conversational AI_20191030
Microsoft Conversational AI_20191030Ayako Omori
 
塹壕にいるすべての同朋へ
塹壕にいるすべての同朋へ塹壕にいるすべての同朋へ
塹壕にいるすべての同朋へtoshihiro ichitani
 
第5回 デジタルガジェット祭り! スマートスピーカー特集(4)
第5回 デジタルガジェット祭り! スマートスピーカー特集(4)第5回 デジタルガジェット祭り! スマートスピーカー特集(4)
第5回 デジタルガジェット祭り! スマートスピーカー特集(4)aitc_jp
 
Force.com developers meetup #2 夏サミ、そしてソーシャル・エンタープライズを考える
Force.com developers meetup #2 夏サミ、そしてソーシャル・エンタープライズを考えるForce.com developers meetup #2 夏サミ、そしてソーシャル・エンタープライズを考える
Force.com developers meetup #2 夏サミ、そしてソーシャル・エンタープライズを考えるAkira Kuratani
 

Similaire à 2018年12月15日 AITC女子会 会話の記録と分析 (20)

#ibis2017 Description: IBIS2017の企画セッションでの発表資料
#ibis2017 Description: IBIS2017の企画セッションでの発表資料#ibis2017 Description: IBIS2017の企画セッションでの発表資料
#ibis2017 Description: IBIS2017の企画セッションでの発表資料
 
20180423ChatWork APIユーザー会「ChatWork APIを使える人を増やす活動」
20180423ChatWork APIユーザー会「ChatWork APIを使える人を増やす活動」20180423ChatWork APIユーザー会「ChatWork APIを使える人を増やす活動」
20180423ChatWork APIユーザー会「ChatWork APIを使える人を増やす活動」
 
Fit12
Fit12Fit12
Fit12
 
AI for Media 2018 Update セミナー: 株式会社ユニゾンシステム: スピーチ AI を活用した文字起こしプラットホームの活用
AI for Media 2018 Update セミナー: 株式会社ユニゾンシステム: スピーチ AI を活用した文字起こしプラットホームの活用AI for Media 2018 Update セミナー: 株式会社ユニゾンシステム: スピーチ AI を活用した文字起こしプラットホームの活用
AI for Media 2018 Update セミナー: 株式会社ユニゾンシステム: スピーチ AI を活用した文字起こしプラットホームの活用
 
グロースハック なぜ我々は無意味な施策を打ってしまうのか
グロースハック なぜ我々は無意味な施策を打ってしまうのかグロースハック なぜ我々は無意味な施策を打ってしまうのか
グロースハック なぜ我々は無意味な施策を打ってしまうのか
 
JapanTaxiが保有するデータとデータ分析について
JapanTaxiが保有するデータとデータ分析についてJapanTaxiが保有するデータとデータ分析について
JapanTaxiが保有するデータとデータ分析について
 
Mule Runtime のアーキテクチャコンセプト紹介
Mule Runtime のアーキテクチャコンセプト紹介Mule Runtime のアーキテクチャコンセプト紹介
Mule Runtime のアーキテクチャコンセプト紹介
 
Wg for ai_dev_ops_20180713
Wg for ai_dev_ops_20180713Wg for ai_dev_ops_20180713
Wg for ai_dev_ops_20180713
 
TIS 戦略技術センター AI技術推進室紹介
TIS 戦略技術センター AI技術推進室紹介TIS 戦略技術センター AI技術推進室紹介
TIS 戦略技術センター AI技術推進室紹介
 
ソフトウェアジャパン2018 ITフォーラムセッション(2)
ソフトウェアジャパン2018 ITフォーラムセッション(2)ソフトウェアジャパン2018 ITフォーラムセッション(2)
ソフトウェアジャパン2018 ITフォーラムセッション(2)
 
Machine learning 15min TensorFlow hub
Machine learning 15min TensorFlow hubMachine learning 15min TensorFlow hub
Machine learning 15min TensorFlow hub
 
エウレカBIチームの時間の使い方
エウレカBIチームの時間の使い方エウレカBIチームの時間の使い方
エウレカBIチームの時間の使い方
 
UniRxHandsOnVol1
UniRxHandsOnVol1UniRxHandsOnVol1
UniRxHandsOnVol1
 
機械学習を用いた会議診断システムの開発
機械学習を用いた会議診断システムの開発機械学習を用いた会議診断システムの開発
機械学習を用いた会議診断システムの開発
 
最若手メンバーこそチャンス!チーム改善に取り組んでわかったこと
最若手メンバーこそチャンス!チーム改善に取り組んでわかったこと最若手メンバーこそチャンス!チーム改善に取り組んでわかったこと
最若手メンバーこそチャンス!チーム改善に取り組んでわかったこと
 
Pmi日本フォーラム2015講演資料(アイ・ティ・イノベーション 井上英明) v1.0_講演用_カスタマイズ
Pmi日本フォーラム2015講演資料(アイ・ティ・イノベーション 井上英明) v1.0_講演用_カスタマイズPmi日本フォーラム2015講演資料(アイ・ティ・イノベーション 井上英明) v1.0_講演用_カスタマイズ
Pmi日本フォーラム2015講演資料(アイ・ティ・イノベーション 井上英明) v1.0_講演用_カスタマイズ
 
Microsoft Conversational AI_20191030
Microsoft Conversational AI_20191030Microsoft Conversational AI_20191030
Microsoft Conversational AI_20191030
 
塹壕にいるすべての同朋へ
塹壕にいるすべての同朋へ塹壕にいるすべての同朋へ
塹壕にいるすべての同朋へ
 
第5回 デジタルガジェット祭り! スマートスピーカー特集(4)
第5回 デジタルガジェット祭り! スマートスピーカー特集(4)第5回 デジタルガジェット祭り! スマートスピーカー特集(4)
第5回 デジタルガジェット祭り! スマートスピーカー特集(4)
 
Force.com developers meetup #2 夏サミ、そしてソーシャル・エンタープライズを考える
Force.com developers meetup #2 夏サミ、そしてソーシャル・エンタープライズを考えるForce.com developers meetup #2 夏サミ、そしてソーシャル・エンタープライズを考える
Force.com developers meetup #2 夏サミ、そしてソーシャル・エンタープライズを考える
 

Plus de aitc_jp

ITフォーラム2024 AITCセッション(5)
ITフォーラム2024 AITCセッション(5)ITフォーラム2024 AITCセッション(5)
ITフォーラム2024 AITCセッション(5)aitc_jp
 
ITフォーラム2024 AITCセッション(4)
ITフォーラム2024 AITCセッション(4)ITフォーラム2024 AITCセッション(4)
ITフォーラム2024 AITCセッション(4)aitc_jp
 
ITフォーラム2024 AITCセッション(3)
ITフォーラム2024 AITCセッション(3)ITフォーラム2024 AITCセッション(3)
ITフォーラム2024 AITCセッション(3)aitc_jp
 
ITフォーラム2024 AITCセッション(2)
ITフォーラム2024 AITCセッション(2)ITフォーラム2024 AITCセッション(2)
ITフォーラム2024 AITCセッション(2)aitc_jp
 
ITフォーラム2024 AITCセッション
ITフォーラム2024  AITCセッションITフォーラム2024  AITCセッション
ITフォーラム2024 AITCセッションaitc_jp
 
2)AIを活用したウェルビーイングを測定
2)AIを活用したウェルビーイングを測定2)AIを活用したウェルビーイングを測定
2)AIを活用したウェルビーイングを測定aitc_jp
 
TForum2023_AITC_2.pdf
TForum2023_AITC_2.pdfTForum2023_AITC_2.pdf
TForum2023_AITC_2.pdfaitc_jp
 
2)AIを活用したウェルビーイングを測定
2)AIを活用したウェルビーイングを測定2)AIを活用したウェルビーイングを測定
2)AIを活用したウェルビーイングを測定aitc_jp
 
5)パネルディスカッション:『空気を読む家』×ウェルビーイング/メタバース・Web3
5)パネルディスカッション:『空気を読む家』×ウェルビーイング/メタバース・Web35)パネルディスカッション:『空気を読む家』×ウェルビーイング/メタバース・Web3
5)パネルディスカッション:『空気を読む家』×ウェルビーイング/メタバース・Web3aitc_jp
 
4)技術視点でウェルビーイングを考える
4)技術視点でウェルビーイングを考える4)技術視点でウェルビーイングを考える
4)技術視点でウェルビーイングを考えるaitc_jp
 
3-2)『空気を読む家』とメタバース駆動開発構想
3-2)『空気を読む家』とメタバース駆動開発構想3-2)『空気を読む家』とメタバース駆動開発構想
3-2)『空気を読む家』とメタバース駆動開発構想aitc_jp
 
3-1)『空気を読む家』とメタバース駆動開発構想 空間OS モノと社会をつなげる
3-1)『空気を読む家』とメタバース駆動開発構想   空間OS モノと社会をつなげる3-1)『空気を読む家』とメタバース駆動開発構想   空間OS モノと社会をつなげる
3-1)『空気を読む家』とメタバース駆動開発構想 空間OS モノと社会をつなげるaitc_jp
 
1)空気を読む家』のこれまでの取り組み
1)空気を読む家』のこれまでの取り組み1)空気を読む家』のこれまでの取り組み
1)空気を読む家』のこれまでの取り組みaitc_jp
 
2022/07/22 AITC 第4回オープンラボ「メタバース応用編~空間OSのこれまでとこれから~」セッション2 「空間OSと空気を読む家の実証」
2022/07/22 AITC 第4回オープンラボ「メタバース応用編~空間OSのこれまでとこれから~」セッション2 「空間OSと空気を読む家の実証」2022/07/22 AITC 第4回オープンラボ「メタバース応用編~空間OSのこれまでとこれから~」セッション2 「空間OSと空気を読む家の実証」
2022/07/22 AITC 第4回オープンラボ「メタバース応用編~空間OSのこれまでとこれから~」セッション2 「空間OSと空気を読む家の実証」aitc_jp
 
2022/07/22 AITC 第4回オープンラボ「メタバース応用編~空間OSのこれまでとこれから~」セッション1 「空間OSとメタバース」
2022/07/22 AITC 第4回オープンラボ「メタバース応用編~空間OSのこれまでとこれから~」セッション1 「空間OSとメタバース」2022/07/22 AITC 第4回オープンラボ「メタバース応用編~空間OSのこれまでとこれから~」セッション1 「空間OSとメタバース」
2022/07/22 AITC 第4回オープンラボ「メタバース応用編~空間OSのこれまでとこれから~」セッション1 「空間OSとメタバース」aitc_jp
 
2022/04/20 AITCオープンラボ第2回「田園都市国家構想とデジタル政策について」
2022/04/20 AITCオープンラボ第2回「田園都市国家構想とデジタル政策について」2022/04/20 AITCオープンラボ第2回「田園都市国家構想とデジタル政策について」
2022/04/20 AITCオープンラボ第2回「田園都市国家構想とデジタル政策について」aitc_jp
 
2022/03/23 AITCオープンラボ第1回「メタ―バース入門」
2022/03/23 AITCオープンラボ第1回「メタ―バース入門」2022/03/23 AITCオープンラボ第1回「メタ―バース入門」
2022/03/23 AITCオープンラボ第1回「メタ―バース入門」aitc_jp
 
ITフォーラム2022 先端IT活用推進コミュニティ(3-1)
ITフォーラム2022 先端IT活用推進コミュニティ(3-1)ITフォーラム2022 先端IT活用推進コミュニティ(3-1)
ITフォーラム2022 先端IT活用推進コミュニティ(3-1)aitc_jp
 
ITフォーラム2022 先端IT活用推進コミュニティ(5-2)
ITフォーラム2022 先端IT活用推進コミュニティ(5-2)ITフォーラム2022 先端IT活用推進コミュニティ(5-2)
ITフォーラム2022 先端IT活用推進コミュニティ(5-2)aitc_jp
 
ITフォーラム2022 先端IT活用推進コミュニティ(5-1)
ITフォーラム2022 先端IT活用推進コミュニティ(5-1)ITフォーラム2022 先端IT活用推進コミュニティ(5-1)
ITフォーラム2022 先端IT活用推進コミュニティ(5-1)aitc_jp
 

Plus de aitc_jp (20)

ITフォーラム2024 AITCセッション(5)
ITフォーラム2024 AITCセッション(5)ITフォーラム2024 AITCセッション(5)
ITフォーラム2024 AITCセッション(5)
 
ITフォーラム2024 AITCセッション(4)
ITフォーラム2024 AITCセッション(4)ITフォーラム2024 AITCセッション(4)
ITフォーラム2024 AITCセッション(4)
 
ITフォーラム2024 AITCセッション(3)
ITフォーラム2024 AITCセッション(3)ITフォーラム2024 AITCセッション(3)
ITフォーラム2024 AITCセッション(3)
 
ITフォーラム2024 AITCセッション(2)
ITフォーラム2024 AITCセッション(2)ITフォーラム2024 AITCセッション(2)
ITフォーラム2024 AITCセッション(2)
 
ITフォーラム2024 AITCセッション
ITフォーラム2024  AITCセッションITフォーラム2024  AITCセッション
ITフォーラム2024 AITCセッション
 
2)AIを活用したウェルビーイングを測定
2)AIを活用したウェルビーイングを測定2)AIを活用したウェルビーイングを測定
2)AIを活用したウェルビーイングを測定
 
TForum2023_AITC_2.pdf
TForum2023_AITC_2.pdfTForum2023_AITC_2.pdf
TForum2023_AITC_2.pdf
 
2)AIを活用したウェルビーイングを測定
2)AIを活用したウェルビーイングを測定2)AIを活用したウェルビーイングを測定
2)AIを活用したウェルビーイングを測定
 
5)パネルディスカッション:『空気を読む家』×ウェルビーイング/メタバース・Web3
5)パネルディスカッション:『空気を読む家』×ウェルビーイング/メタバース・Web35)パネルディスカッション:『空気を読む家』×ウェルビーイング/メタバース・Web3
5)パネルディスカッション:『空気を読む家』×ウェルビーイング/メタバース・Web3
 
4)技術視点でウェルビーイングを考える
4)技術視点でウェルビーイングを考える4)技術視点でウェルビーイングを考える
4)技術視点でウェルビーイングを考える
 
3-2)『空気を読む家』とメタバース駆動開発構想
3-2)『空気を読む家』とメタバース駆動開発構想3-2)『空気を読む家』とメタバース駆動開発構想
3-2)『空気を読む家』とメタバース駆動開発構想
 
3-1)『空気を読む家』とメタバース駆動開発構想 空間OS モノと社会をつなげる
3-1)『空気を読む家』とメタバース駆動開発構想   空間OS モノと社会をつなげる3-1)『空気を読む家』とメタバース駆動開発構想   空間OS モノと社会をつなげる
3-1)『空気を読む家』とメタバース駆動開発構想 空間OS モノと社会をつなげる
 
1)空気を読む家』のこれまでの取り組み
1)空気を読む家』のこれまでの取り組み1)空気を読む家』のこれまでの取り組み
1)空気を読む家』のこれまでの取り組み
 
2022/07/22 AITC 第4回オープンラボ「メタバース応用編~空間OSのこれまでとこれから~」セッション2 「空間OSと空気を読む家の実証」
2022/07/22 AITC 第4回オープンラボ「メタバース応用編~空間OSのこれまでとこれから~」セッション2 「空間OSと空気を読む家の実証」2022/07/22 AITC 第4回オープンラボ「メタバース応用編~空間OSのこれまでとこれから~」セッション2 「空間OSと空気を読む家の実証」
2022/07/22 AITC 第4回オープンラボ「メタバース応用編~空間OSのこれまでとこれから~」セッション2 「空間OSと空気を読む家の実証」
 
2022/07/22 AITC 第4回オープンラボ「メタバース応用編~空間OSのこれまでとこれから~」セッション1 「空間OSとメタバース」
2022/07/22 AITC 第4回オープンラボ「メタバース応用編~空間OSのこれまでとこれから~」セッション1 「空間OSとメタバース」2022/07/22 AITC 第4回オープンラボ「メタバース応用編~空間OSのこれまでとこれから~」セッション1 「空間OSとメタバース」
2022/07/22 AITC 第4回オープンラボ「メタバース応用編~空間OSのこれまでとこれから~」セッション1 「空間OSとメタバース」
 
2022/04/20 AITCオープンラボ第2回「田園都市国家構想とデジタル政策について」
2022/04/20 AITCオープンラボ第2回「田園都市国家構想とデジタル政策について」2022/04/20 AITCオープンラボ第2回「田園都市国家構想とデジタル政策について」
2022/04/20 AITCオープンラボ第2回「田園都市国家構想とデジタル政策について」
 
2022/03/23 AITCオープンラボ第1回「メタ―バース入門」
2022/03/23 AITCオープンラボ第1回「メタ―バース入門」2022/03/23 AITCオープンラボ第1回「メタ―バース入門」
2022/03/23 AITCオープンラボ第1回「メタ―バース入門」
 
ITフォーラム2022 先端IT活用推進コミュニティ(3-1)
ITフォーラム2022 先端IT活用推進コミュニティ(3-1)ITフォーラム2022 先端IT活用推進コミュニティ(3-1)
ITフォーラム2022 先端IT活用推進コミュニティ(3-1)
 
ITフォーラム2022 先端IT活用推進コミュニティ(5-2)
ITフォーラム2022 先端IT活用推進コミュニティ(5-2)ITフォーラム2022 先端IT活用推進コミュニティ(5-2)
ITフォーラム2022 先端IT活用推進コミュニティ(5-2)
 
ITフォーラム2022 先端IT活用推進コミュニティ(5-1)
ITフォーラム2022 先端IT活用推進コミュニティ(5-1)ITフォーラム2022 先端IT活用推進コミュニティ(5-1)
ITフォーラム2022 先端IT活用推進コミュニティ(5-1)
 

2018年12月15日 AITC女子会 会話の記録と分析

  • 1. Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved. AITC女子会 2018 機械学習勉強会 「会話の記録と分析」 2018年12月15日 議事録チーム (久保、藤井、入村、赤池、荒井)
  • 2. Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved. 目次 2 概要 こんなことがしたい こんなものを作ろう まとめ
  • 3. Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved. 概要 3
  • 4. Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved. 概要 4 「会話の記録と分析」チーム メンバーの困りごと 「議事録」「面談記録」など、会議や会話の記録を文書 にすることに多くの時間を割いている そんなみんなの願いは・・・ 音声を自動でテキストに変換できたら、 そのまま議事録が作れるんじゃないかしら? じゃあ、音声入力させよう!
  • 5. Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved. 例) 病院の困りごと ■背景 ・医師の負担軽減および病院・クリニックの経営効率化のため、 医師の診察以外の付随業務を減らしたい ・患者様の不安な気持ちや不信感を汲み取れない医師が多い ⇒Googleの音声入力で解決できるのでは? 5
  • 6. Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved. ほかにも、こんな困りごとも 6 ・毎回の議事録を作るのに、会議よりも時間がかかる ・面談のときに記録をつけるのに時間がかかる。 ・・・面談は同じ時期に大量にさばく必要がある ・一人作業で何か記録を残したい。 作業しながら、「やりました」が履歴がのこる。 後から、ほかの人が確認できる。
  • 7. Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved. こんなことがしたい 7
  • 8. Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved. ①診療中の会話を テキストに変換 ②開始キーワードで記録開始 患者様・医師・看護師各々の発言者が区別される いったんGoogleドキュメントに書き込まれる その際、項目キーワードでフォーマットに項目分けさ れる 診療記録 20XX 年 11月 28日 / 午前10時 / 診察室A 医師:山田 患者様:A123456 鈴木 10:00 看護士:「次回予約は」←診療開始キーワード 0:00 医師:今日はどんな症状がありますか? 0:05 患者様:後頭部がズキズキ痛くて・・・ 0:12 医師:「症状は」←症状記録キーワード 頭痛 ~~診療中の会話~~ 10:10 看護士:お大事になさってください←診療終了 キーワード 診察日時 医師名 患者名 症状 内容 ③電子カルテに転記 診療の自動記録1
  • 9. Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved. 診療の自動記録2 9 患者様の 音声を記録​看護士の音声を記録​ 自動で予約スケジュール登録診療後の感情分析 信頼できるお医者さんだな なんだか不安だなぁ 私の症状を理解していないぞ 本当はこうで きたらいいな 💛 即時カルテ入力 医師の音声を記録​
  • 10. Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved. ①面接中の会話を テキストに変換 ②発言者ごとに発言 が色分けされる 事前に登録しておく と名前が出てくる ③面接終了後に参加者の発言から感情を分析 (※面接者がネガティブな感情になる率が高い面接担 当者は圧迫面接をしているかも… 面接担当者がネガティブで面接者の発言内容に問題 がない場合、単に性格が合わないだけかも…) 面談の会話を自動記録
  • 11. Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved. 音声による安全確認の記録 後方確認(サイドミラー) 止まれ 前方確認(歩行者、自転車) 時間確認 出発よし 前方よし 歩行者確認 運転手の音声を記録​ 歩行優先レーン読み上げ 1月1日2019年 運転手: 渋谷ハチ公口 歩行者確認 13:15 NHN放送センター 後方確認 13:18 代々木公園 正門 右折 左右確認 ハンズフリー 読み上げ ハンズフリー 書き込み 補足:決められたルートにしか対応できません
  • 12. Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved. ①会議中の会話を テキストに変換 ②発言ごとに 発表者名を記載 ③議論の白熱度や、議事内容に対して 肯定的/非肯定的などのフラグ付け ※会議欠席者や第三者が議事録を確認すれば、 会議出席者と同じ認識を持てるようになる 議事録
  • 13. Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved. 会話の記録と言っても・・・ 13 一口に会話の記録と言っても 使うシーンも実現したいことも みんなバラバラ。 「。。。。 で、 どれ作る?」 診療記録 採用面談 安全確認 議事録
  • 14. Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved. もちろん、みんな 14 自分用のが欲しい~~!
  • 15. Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved. こんなモノを作ろう! 15
  • 16. Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved. こんなのを作ろう! 16 1.目的別に記録ファイルの雛形と 「キーワード・アクション」リストを準備 診 療 採 用 記録ファイルの雛形 「キーワード・アクショ ン」リスト 2.雛形から「キーワード・ア クション」 リストをコピー 3.発言を自動でファイルに 書き込む。 4.発言が「キーワード・アク ション」リストの項目に一致し たら、紐づけられているアク ションを実施 5. 感情分析を実施
  • 17. Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved. 先生! 患者さんが不 安そうですよっ。 どう作るか? 案1 17 しゃべる マイクで集音 音声から感情分析 オンライン ドキュメントを 事前に作成・共有 テキスト+感情を ドキュメントに追記 音声をテキストに変換
  • 18. Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved. どう作るか? 案1 18 2018.06.29 FRI 08:30 日本発、「音声感情解析」のスタートアップに世界が注目 今年5月にルクセンブルクで開催 されたカンファレンス「ICT Spring」のピッチコンテストで、日 本のスタートアップが優勝した。 その企業、Empathが扱うのは 「音声感情解析」という聞き慣れ ない技術である。技術のユニー クさを大きく評価された彼らは、 いったい何をなそうとしているの か。 出典: https://wired.jp/2018/06/29/ict-spring-luxembourg-empath/
  • 19. Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved. 先生! 患者さんが不 安そうですよっ。 どう作るか? 案1 19 しゃべる マイクで集音 音声から感情分析 オンライン ドキュメントを 事前に作成・共有 テキスト+感情を ドキュメントに追記 音声をテキストに変換 ・音声から感情分析はどうやら最先端すぎ る技術らしい。
  • 20. Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved. 先生! 患者さんが不 安そうですよっ。 どう作るか? 案1 20 しゃべる マイクで集音 音声から感情分析 オンライン ドキュメントを 事前に作成・共有 テキスト+感情を ドキュメントに追記 音声をテキストに変換 ・音声から感情分析はどうやら最先端すぎ る技術らしい。 NG!
  • 21. Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved. どう作るか? 案2 21 しゃべる 1つのマイクで 集音 話者を識別 音声をテキストに変換 オンライン ドキュメントを 事前に作成・共有 ドキュメントに追記 「しゃべり」の区切りを判定
  • 22. Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved. どう作るか? 案2 22 しゃべる 1つのマイクで 集音 話者を識別 音声をテキストに変換 オンライン ドキュメントを 事前に作成・共有 ドキュメントに追記 「しゃべり」の区切りを判定 ・誰がしゃべったかを区別するのは難しそ う ・特定話者識別には音声登録が必要 → 音声登録してから面談や会議を 始めるのは現実的ではない
  • 23. Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved. どう作るか? 案2 23 しゃべる 1つのマイクで 集音 話者を識別 音声をテキストに変換 オンライン ドキュメントを 事前に作成 ドキュメントに追記 「しゃべり」の区切りを判定 ・不特定話者識別は難しそう。 ・特定話者識別には音声登録が必要 → 音声登録してから面談や会議を 始めるのは現実的ではない NG!
  • 24. Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved. どう作るか? 案3 24 Google Document には「音声入力」というステキな機 能があるらしい
  • 25. Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved. どう作るか? 案3 25 いや、そもそも、スマホに音声入力あるじゃん。
  • 26. Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved. どう作るか? 案3 26 しゃべる スマホで集音 Google ドキュメントを 事前に作成・ 共有 話者ごとにGoogle ドキュメントに記録される スマホからGoogle ドキュメントにアクセス 音声入力
  • 27. Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved. どう作るか? 案2 27 しゃべる スマホで集音 ・ドキュメントにテキストで入力できる ・誰が話したかも記録される ひとまず採用! Google ドキュメントを 事前に作成・ 共有 話者ごとにGoogle ドキュメントに記録される スマホからGoogle ドキュメントにアクセス 音声入力
  • 28. Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved. どう作るか? 28 音声 音声入力 テキスト 入力処理 キーワードファイル 読み込み キーワードファイルと比較 ・コマンドなし テキスト挿入 ・コマンド 挿入場所移動 ドキュメントを閉じる 等 ・感情分析 感情分析処理実行 出力処理 ドキュメントへの出力 ・カーソル位置を管理 ・カーソル移動 ・テキスト出力 ・終了/閉じる 感情分析処理 感情分析結果を挿入 ・会話部分を読み込み ・Google Natural Language APIで感情分析 実行 ・結果をドキュメントへ挿入 テキスト書き込み 内容読み込み 感情分析結果書き込み Google Cloud Platform Google App Script ?
  • 29. Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved. 29 というものを一緒に作ってくれる人 絶賛募集中です!
  • 30. Copyright © 2018 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved. まとめ 30 荒井:今回は計画までですが、これが実現したら楽 しそうです! 入村:色々とアイデアをだせたので、ソフトウエアづ くりにつなげられるのを楽しみにしています。 久保:今の仕事に直結した願望をテーマにしてしま いました。手が届きそうなアイディアなので、ぜひ実 現させたいです。