SlideShare une entreprise Scribd logo
1  sur  23
Télécharger pour lire hors ligne
Reconhecimento automático
de emoções faciais
PÓS-GRADUAÇÃO EM CIÊNCIA DA COMPUTAÇÃO
UNIVERSIDADE FEDERAL DE UBERLÂNDIA – UFU
FACULDADE DE COMPUTAÇÃO - FACOM/UFU
Aluno: Adilmar Coelho Dantas
Mestrado em Ciência da Computação
Artigo de estudo
http://sightcorp.com/downloads/Automatic%20Facial%20Emotion%20Rec
ognition.pdf
Introdução
 Objetivo do artigo
 Propor e desenvolver um sistema capaz de detectar
emoções inferidas pela face em tempo real em vídeos.
 Solução apresentada
 Foi desenvolvido um sistema capaz de reconhecer a face utilizando Haar Cascade.
 Utilizou-se a teoria FACS para classificação das UA’s e as emoções
respectivamente.
 Para classificação utilizou-se do classificador Naive Bayes.
Introdução
Expressões faciais e a inteligência artificial
 Recentemente tem havido um grande interesse em
melhorar a interação entre maquinas e seres humanos,
e uma grande forma de expressão utilizada pelos seres
humanos para expressarem suas emoções e através da
face, e identificar esse processo pode ser entendido
como uma parte do que hoje chamamos de
“inteligente”.
Fundamentação teórica
 Desde o início da década de 1970 existem estudos das
expressões faciais humanas, quando Ekman encontrou
as expressões faciais denominadas “expressõs
universais”. São elas (raiva, medo, desgosto, surpresa,
alegria e tristeza).
Fundamentação teórica
 FACS (Facial Action Coding System)
 É um padrão comum para categorizar sistematicamente
a expressão física das emoções.
 Formado por 44 Unidades de ações
 Exemplos
 UA1 Levantador de
Sobrancelha Interna
Fundamentação teórica
 Para que fosse possível detectar esses padrões ou seja o
movimento dessas unidades de ações denominadas
UAS, o autor utilizou-se das seguintes técnicas.
Piecewise BézierVolume Deformation (PBVD).
 Tao and Huang
Fundamentação teórica
 Outra necessidade encontrada foi a criação de Motion
units obtidas a partir do PBVD para passagem de
entrada do classificador.
Note que elas são
semelhantes mas não
Equivalentes as UA
Propostas por Ekman.
Fundamentação teórica
Como determinar se ocorreu ou não uma
determinada emoção ?
 Para responder essa pergunta basta olharmos para as UA’S.
a combinação delas infere uma determinada emoção.
Exemplo:
Ua’s 1 + 2 + 5 + 27 = Emoção Surpresa!
Materiais e Métodos
Classificadores probabilístico
 Para este problema os classificadores Naive Bayes trazem
uma solução boa, além de serem simples e bastante
utilizados em problemas similares.
 Na fase classificação calcula-se qual distribuição
tem a maior probabilidade de ter gerado cada
emoção.
Materiais e Métodos
Detecção de face
Antes da detecção destes pontos é importante a
detecção da face para isto utilizou-se das seguinte técnica.
Classificador Haar Cascade (Viola and Jones)
Um forte classificador utilizado para detecção de faces em
imagens e vídeos, muito utilizado pelo seu rápido tempo
de resposta.
Materiais e Métodos
Haar Cascade e suas etapas.
 Haar Características Seleção
 Criação de Imagem Integral
 Algoritmo de treinamento AdaBoost
 Classificadores em cascata
Materiais e Métodos
Implementação
Desenvolvido em Java o autor procurou remover do
sistema certas dependências que poderiam atrapalhar na
execução do sistema por usuários comuns.
Utilizou-se da biblioteca Opencv para captura dos videos
em tempo real.
Base de Dados
Banco de Dados Cohn-Kanade Database FACS
proposto por [Kanade and Cohn 2005].
 Imagens em preto e branco.
 Imagens de 97 estudantes com idades entre 18 a 30
anos.
 Estudantes de várias etnias e sexo.
 Agrupamento das Ua’s de cada pessoa referente a
cada emoção.
Base de Dados
Banco de Dados Cohn-Kanade Database FACS
proposto por [Kanade and Cohn 2005].
Sequencias de imagens ou vídeos que descrevem uma
determinada emoção
Experimentos
Separação treinamento- validação - teste
Para cada classificador foi utilizada um conjunto de
imagens de uma pessoa e outra para os testes, evitando
assim que o classificador decorasse as classificações.
Foram avaliadas todas as sete emoções
Feliz Neutro Surpreso irritado Desgostoso Medo Triste
Resultados
Matriz de confusão para o classificador
Apesar de relativamente bom para algumas emoções os
resultados não foram tão bons vamos ver as possíveis
causas mencionadas pelo autor.
Resultados
Alguns desafios
Algumas emoções podem ser classificadas
erroneamente pelo fato de serem muito semelhantes
no conjunto de UA’S que formam a mesma.
Exemplo
Uma emoção interessante é medo (medo), que pode ser
facilmente classificada erroneamente como surpresa.
Resultados
Um grande conjunto de
UA’S para uma emoção, se
diferenciando em detalhes
mínimos.
*Este fato faz com que a emoção “medo” seja facilmente confundida
com outras emoções.
Conclusão
Apesar dos resultados terem sidos relativamente bons
comparados com outras técnicas, ele pode ser melhorado
conforme proposto pelo autor, como por exemplo a criação
de um classificador para cada emoções e a combinação
destes resultados para inferir uma determinada emoção.
Trabalhar em funções para tratamento das imagens para
remoção de ruídos e oclusão apresenta uma boa
oportunidade.
Óculos, e outros detalhes impedem a identificação da face.
Trabalhos futuros
O trabalho o qual desenvolvo e bastante semelhante
porem com melhorias em alguns aspectos como por
exemplo.
 Portabilidade Web e mobile
 Detecção com óculos
 Este será integrado em ambientes de aprendizagem a
distancia (Moodle) para a classificação e estimulação do
estudante de maneira eficaz.
Trabalhos futuros
Obrigado !!!
akanehar@gmail.com

Contenu connexe

En vedette

Adaptando e desenvolvendo jogos para uso com o Microsoft Kinect
Adaptando e desenvolvendo jogos para uso com o Microsoft KinectAdaptando e desenvolvendo jogos para uso com o Microsoft Kinect
Adaptando e desenvolvendo jogos para uso com o Microsoft KinectBruno Campagnolo
 
58 autismo expressão facial menino
58 autismo expressão facial menino58 autismo expressão facial menino
58 autismo expressão facial meninoSimoneHelenDrumond
 
Comportamento Emocional
Comportamento EmocionalComportamento Emocional
Comportamento EmocionalTiago Malta
 
Machine Learning com Python e Scikit-learn
Machine Learning com Python e Scikit-learnMachine Learning com Python e Scikit-learn
Machine Learning com Python e Scikit-learnChristian Perone
 
7ª Oficina dos sentimentos
7ª Oficina dos sentimentos 7ª Oficina dos sentimentos
7ª Oficina dos sentimentos Leonardo Pereira
 
Afetos, emoções e sentimentos
Afetos, emoções e sentimentosAfetos, emoções e sentimentos
Afetos, emoções e sentimentosClécio Doroteu
 
Introdução ao processamento de imagens com OpenCV (cont)
Introdução ao processamento de imagens com OpenCV (cont)Introdução ao processamento de imagens com OpenCV (cont)
Introdução ao processamento de imagens com OpenCV (cont)Cristiano Rafael Steffens
 
Evolução humana
Evolução humanaEvolução humana
Evolução humanaunesp
 

En vedette (13)

Adaptando e desenvolvendo jogos para uso com o Microsoft Kinect
Adaptando e desenvolvendo jogos para uso com o Microsoft KinectAdaptando e desenvolvendo jogos para uso com o Microsoft Kinect
Adaptando e desenvolvendo jogos para uso com o Microsoft Kinect
 
Introdução OpenCV (Pt-Br) com exemplos
Introdução OpenCV (Pt-Br) com exemplosIntrodução OpenCV (Pt-Br) com exemplos
Introdução OpenCV (Pt-Br) com exemplos
 
EmoçõEs
EmoçõEsEmoçõEs
EmoçõEs
 
As emoções
As emoçõesAs emoções
As emoções
 
58 autismo expressão facial menino
58 autismo expressão facial menino58 autismo expressão facial menino
58 autismo expressão facial menino
 
Emoções
EmoçõesEmoções
Emoções
 
Comportamento Emocional
Comportamento EmocionalComportamento Emocional
Comportamento Emocional
 
Machine Learning com Python e Scikit-learn
Machine Learning com Python e Scikit-learnMachine Learning com Python e Scikit-learn
Machine Learning com Python e Scikit-learn
 
7ª Oficina dos sentimentos
7ª Oficina dos sentimentos 7ª Oficina dos sentimentos
7ª Oficina dos sentimentos
 
Afetos, emoções e sentimentos
Afetos, emoções e sentimentosAfetos, emoções e sentimentos
Afetos, emoções e sentimentos
 
Introdução ao processamento de imagens com OpenCV (cont)
Introdução ao processamento de imagens com OpenCV (cont)Introdução ao processamento de imagens com OpenCV (cont)
Introdução ao processamento de imagens com OpenCV (cont)
 
AS EMOÇÕES
AS EMOÇÕESAS EMOÇÕES
AS EMOÇÕES
 
Evolução humana
Evolução humanaEvolução humana
Evolução humana
 

Plus de Adilmar Dantas

APLICATIVO MÓVEL PARA AFERIÇÃO DA FREQUÊNCIA CARDÍACA E ACOMPANHAMENTO MÉDICO...
APLICATIVO MÓVEL PARA AFERIÇÃO DA FREQUÊNCIA CARDÍACA E ACOMPANHAMENTO MÉDICO...APLICATIVO MÓVEL PARA AFERIÇÃO DA FREQUÊNCIA CARDÍACA E ACOMPANHAMENTO MÉDICO...
APLICATIVO MÓVEL PARA AFERIÇÃO DA FREQUÊNCIA CARDÍACA E ACOMPANHAMENTO MÉDICO...Adilmar Dantas
 
Programação Android Phonegap 1
Programação Android Phonegap 1Programação Android Phonegap 1
Programação Android Phonegap 1Adilmar Dantas
 
Potenciação Divide and Conquer
Potenciação Divide and ConquerPotenciação Divide and Conquer
Potenciação Divide and ConquerAdilmar Dantas
 
Cinta de expansão torácica utilizando Arduino aplicado na fisioterapia respir...
Cinta de expansão torácica utilizando Arduino aplicado na fisioterapia respir...Cinta de expansão torácica utilizando Arduino aplicado na fisioterapia respir...
Cinta de expansão torácica utilizando Arduino aplicado na fisioterapia respir...Adilmar Dantas
 
Análise de Técnicas Computacionais para Classificação de Emoções
Análise de Técnicas Computacionais para Classificação de EmoçõesAnálise de Técnicas Computacionais para Classificação de Emoções
Análise de Técnicas Computacionais para Classificação de EmoçõesAdilmar Dantas
 
Detecção de Faces - Redes Neurais *MLP
Detecção de Faces - Redes Neurais *MLPDetecção de Faces - Redes Neurais *MLP
Detecção de Faces - Redes Neurais *MLPAdilmar Dantas
 
Rede Neural MLP para reconhecimento de Faces
Rede Neural MLP para reconhecimento de FacesRede Neural MLP para reconhecimento de Faces
Rede Neural MLP para reconhecimento de FacesAdilmar Dantas
 
ALgoritmo Genético - Escalonamento
ALgoritmo Genético - EscalonamentoALgoritmo Genético - Escalonamento
ALgoritmo Genético - EscalonamentoAdilmar Dantas
 
BIODATA: SOFTWARE WEB PARA GERENCIAMENTO DE COLETA DE DADOS BIOMÉDICOS
BIODATA: SOFTWARE WEB PARA GERENCIAMENTO DE COLETA DE DADOS BIOMÉDICOSBIODATA: SOFTWARE WEB PARA GERENCIAMENTO DE COLETA DE DADOS BIOMÉDICOS
BIODATA: SOFTWARE WEB PARA GERENCIAMENTO DE COLETA DE DADOS BIOMÉDICOSAdilmar Dantas
 
Alinhamento de Sequencia DNA
Alinhamento de Sequencia DNAAlinhamento de Sequencia DNA
Alinhamento de Sequencia DNAAdilmar Dantas
 
3ª maratona de games – facom ufu
3ª maratona de games – facom  ufu3ª maratona de games – facom  ufu
3ª maratona de games – facom ufuAdilmar Dantas
 
Monitor Cardíaco usando Arduino
Monitor Cardíaco usando Arduino Monitor Cardíaco usando Arduino
Monitor Cardíaco usando Arduino Adilmar Dantas
 
Algoritmo clique maximo - Analise de Algoritmos
Algoritmo clique maximo  - Analise de AlgoritmosAlgoritmo clique maximo  - Analise de Algoritmos
Algoritmo clique maximo - Analise de AlgoritmosAdilmar Dantas
 
TCC: WebLab Laboratório de Experimentação Remota
TCC: WebLab Laboratório de Experimentação RemotaTCC: WebLab Laboratório de Experimentação Remota
TCC: WebLab Laboratório de Experimentação RemotaAdilmar Dantas
 
Engenharia de software testes
Engenharia de software  testesEngenharia de software  testes
Engenharia de software testesAdilmar Dantas
 
Qualidade de Software Web
Qualidade de Software WebQualidade de Software Web
Qualidade de Software WebAdilmar Dantas
 
Compilador analise lexica
Compilador analise lexicaCompilador analise lexica
Compilador analise lexicaAdilmar Dantas
 

Plus de Adilmar Dantas (20)

Querying nosql stores
Querying nosql storesQuerying nosql stores
Querying nosql stores
 
APLICATIVO MÓVEL PARA AFERIÇÃO DA FREQUÊNCIA CARDÍACA E ACOMPANHAMENTO MÉDICO...
APLICATIVO MÓVEL PARA AFERIÇÃO DA FREQUÊNCIA CARDÍACA E ACOMPANHAMENTO MÉDICO...APLICATIVO MÓVEL PARA AFERIÇÃO DA FREQUÊNCIA CARDÍACA E ACOMPANHAMENTO MÉDICO...
APLICATIVO MÓVEL PARA AFERIÇÃO DA FREQUÊNCIA CARDÍACA E ACOMPANHAMENTO MÉDICO...
 
Programação Android Phonegap 1
Programação Android Phonegap 1Programação Android Phonegap 1
Programação Android Phonegap 1
 
Potenciação Divide and Conquer
Potenciação Divide and ConquerPotenciação Divide and Conquer
Potenciação Divide and Conquer
 
Cinta de expansão torácica utilizando Arduino aplicado na fisioterapia respir...
Cinta de expansão torácica utilizando Arduino aplicado na fisioterapia respir...Cinta de expansão torácica utilizando Arduino aplicado na fisioterapia respir...
Cinta de expansão torácica utilizando Arduino aplicado na fisioterapia respir...
 
Análise de Técnicas Computacionais para Classificação de Emoções
Análise de Técnicas Computacionais para Classificação de EmoçõesAnálise de Técnicas Computacionais para Classificação de Emoções
Análise de Técnicas Computacionais para Classificação de Emoções
 
Detecção de Faces - Redes Neurais *MLP
Detecção de Faces - Redes Neurais *MLPDetecção de Faces - Redes Neurais *MLP
Detecção de Faces - Redes Neurais *MLP
 
Rede Neural MLP para reconhecimento de Faces
Rede Neural MLP para reconhecimento de FacesRede Neural MLP para reconhecimento de Faces
Rede Neural MLP para reconhecimento de Faces
 
ALgoritmo Genético - Escalonamento
ALgoritmo Genético - EscalonamentoALgoritmo Genético - Escalonamento
ALgoritmo Genético - Escalonamento
 
BIODATA: SOFTWARE WEB PARA GERENCIAMENTO DE COLETA DE DADOS BIOMÉDICOS
BIODATA: SOFTWARE WEB PARA GERENCIAMENTO DE COLETA DE DADOS BIOMÉDICOSBIODATA: SOFTWARE WEB PARA GERENCIAMENTO DE COLETA DE DADOS BIOMÉDICOS
BIODATA: SOFTWARE WEB PARA GERENCIAMENTO DE COLETA DE DADOS BIOMÉDICOS
 
Alinhamento de Sequencia DNA
Alinhamento de Sequencia DNAAlinhamento de Sequencia DNA
Alinhamento de Sequencia DNA
 
3ª maratona de games – facom ufu
3ª maratona de games – facom  ufu3ª maratona de games – facom  ufu
3ª maratona de games – facom ufu
 
Monitor Cardíaco usando Arduino
Monitor Cardíaco usando Arduino Monitor Cardíaco usando Arduino
Monitor Cardíaco usando Arduino
 
Algoritmo clique maximo - Analise de Algoritmos
Algoritmo clique maximo  - Analise de AlgoritmosAlgoritmo clique maximo  - Analise de Algoritmos
Algoritmo clique maximo - Analise de Algoritmos
 
Servidores Web
Servidores WebServidores Web
Servidores Web
 
TCC: WebLab Laboratório de Experimentação Remota
TCC: WebLab Laboratório de Experimentação RemotaTCC: WebLab Laboratório de Experimentação Remota
TCC: WebLab Laboratório de Experimentação Remota
 
Weblab TCC
Weblab TCCWeblab TCC
Weblab TCC
 
Engenharia de software testes
Engenharia de software  testesEngenharia de software  testes
Engenharia de software testes
 
Qualidade de Software Web
Qualidade de Software WebQualidade de Software Web
Qualidade de Software Web
 
Compilador analise lexica
Compilador analise lexicaCompilador analise lexica
Compilador analise lexica
 

Reconhecimento automático de emoções

  • 1. Reconhecimento automático de emoções faciais PÓS-GRADUAÇÃO EM CIÊNCIA DA COMPUTAÇÃO UNIVERSIDADE FEDERAL DE UBERLÂNDIA – UFU FACULDADE DE COMPUTAÇÃO - FACOM/UFU Aluno: Adilmar Coelho Dantas Mestrado em Ciência da Computação
  • 3. Introdução  Objetivo do artigo  Propor e desenvolver um sistema capaz de detectar emoções inferidas pela face em tempo real em vídeos.  Solução apresentada  Foi desenvolvido um sistema capaz de reconhecer a face utilizando Haar Cascade.  Utilizou-se a teoria FACS para classificação das UA’s e as emoções respectivamente.  Para classificação utilizou-se do classificador Naive Bayes.
  • 4. Introdução Expressões faciais e a inteligência artificial  Recentemente tem havido um grande interesse em melhorar a interação entre maquinas e seres humanos, e uma grande forma de expressão utilizada pelos seres humanos para expressarem suas emoções e através da face, e identificar esse processo pode ser entendido como uma parte do que hoje chamamos de “inteligente”.
  • 5. Fundamentação teórica  Desde o início da década de 1970 existem estudos das expressões faciais humanas, quando Ekman encontrou as expressões faciais denominadas “expressõs universais”. São elas (raiva, medo, desgosto, surpresa, alegria e tristeza).
  • 6. Fundamentação teórica  FACS (Facial Action Coding System)  É um padrão comum para categorizar sistematicamente a expressão física das emoções.  Formado por 44 Unidades de ações  Exemplos  UA1 Levantador de Sobrancelha Interna
  • 7. Fundamentação teórica  Para que fosse possível detectar esses padrões ou seja o movimento dessas unidades de ações denominadas UAS, o autor utilizou-se das seguintes técnicas. Piecewise BézierVolume Deformation (PBVD).  Tao and Huang
  • 8. Fundamentação teórica  Outra necessidade encontrada foi a criação de Motion units obtidas a partir do PBVD para passagem de entrada do classificador. Note que elas são semelhantes mas não Equivalentes as UA Propostas por Ekman.
  • 9. Fundamentação teórica Como determinar se ocorreu ou não uma determinada emoção ?  Para responder essa pergunta basta olharmos para as UA’S. a combinação delas infere uma determinada emoção. Exemplo: Ua’s 1 + 2 + 5 + 27 = Emoção Surpresa!
  • 10. Materiais e Métodos Classificadores probabilístico  Para este problema os classificadores Naive Bayes trazem uma solução boa, além de serem simples e bastante utilizados em problemas similares.  Na fase classificação calcula-se qual distribuição tem a maior probabilidade de ter gerado cada emoção.
  • 11. Materiais e Métodos Detecção de face Antes da detecção destes pontos é importante a detecção da face para isto utilizou-se das seguinte técnica. Classificador Haar Cascade (Viola and Jones) Um forte classificador utilizado para detecção de faces em imagens e vídeos, muito utilizado pelo seu rápido tempo de resposta.
  • 12. Materiais e Métodos Haar Cascade e suas etapas.  Haar Características Seleção  Criação de Imagem Integral  Algoritmo de treinamento AdaBoost  Classificadores em cascata
  • 13. Materiais e Métodos Implementação Desenvolvido em Java o autor procurou remover do sistema certas dependências que poderiam atrapalhar na execução do sistema por usuários comuns. Utilizou-se da biblioteca Opencv para captura dos videos em tempo real.
  • 14. Base de Dados Banco de Dados Cohn-Kanade Database FACS proposto por [Kanade and Cohn 2005].  Imagens em preto e branco.  Imagens de 97 estudantes com idades entre 18 a 30 anos.  Estudantes de várias etnias e sexo.  Agrupamento das Ua’s de cada pessoa referente a cada emoção.
  • 15. Base de Dados Banco de Dados Cohn-Kanade Database FACS proposto por [Kanade and Cohn 2005]. Sequencias de imagens ou vídeos que descrevem uma determinada emoção
  • 16. Experimentos Separação treinamento- validação - teste Para cada classificador foi utilizada um conjunto de imagens de uma pessoa e outra para os testes, evitando assim que o classificador decorasse as classificações. Foram avaliadas todas as sete emoções Feliz Neutro Surpreso irritado Desgostoso Medo Triste
  • 17. Resultados Matriz de confusão para o classificador Apesar de relativamente bom para algumas emoções os resultados não foram tão bons vamos ver as possíveis causas mencionadas pelo autor.
  • 18. Resultados Alguns desafios Algumas emoções podem ser classificadas erroneamente pelo fato de serem muito semelhantes no conjunto de UA’S que formam a mesma. Exemplo Uma emoção interessante é medo (medo), que pode ser facilmente classificada erroneamente como surpresa.
  • 19. Resultados Um grande conjunto de UA’S para uma emoção, se diferenciando em detalhes mínimos. *Este fato faz com que a emoção “medo” seja facilmente confundida com outras emoções.
  • 20. Conclusão Apesar dos resultados terem sidos relativamente bons comparados com outras técnicas, ele pode ser melhorado conforme proposto pelo autor, como por exemplo a criação de um classificador para cada emoções e a combinação destes resultados para inferir uma determinada emoção. Trabalhar em funções para tratamento das imagens para remoção de ruídos e oclusão apresenta uma boa oportunidade. Óculos, e outros detalhes impedem a identificação da face.
  • 21. Trabalhos futuros O trabalho o qual desenvolvo e bastante semelhante porem com melhorias em alguns aspectos como por exemplo.  Portabilidade Web e mobile  Detecção com óculos  Este será integrado em ambientes de aprendizagem a distancia (Moodle) para a classificação e estimulação do estudante de maneira eficaz.