SlideShare une entreprise Scribd logo
1  sur  24
Identity-Aware
Tabletop Interaction
     Pieter De Decker



       Promotor prof. dr. Kris Luyten
  Contactpersoon Davy Vanacken
Introductie
• Evolutie aanraakschermen
  – Ondersteuning voor multitouch
  – Nieuwe interactietechnieken zoals pinch-to-zoom
  – Ze zijn overal
    o.a. in gsm’s, GPS-toestellen, tablets en tabletops




             Volgende mijlpaal:
       Kunnen we gebruikers herkennen?

                                                          Bron foto: ZDNet.com.
Waarom identiteitsherkenning?
• Samenwerken op tabletops
  – Bv. tekenen met aparte kleurinstellingen voor
    iedereen


• Einde wachtwoorden: snelle accounttoegang
  – Combinatie met cloud?
     • Gepersonaliseerde browser
     • Bestandstoegang



                                        Foto uit Enriching Touch van Raf Ramakers.
Waarom identiteitsherkenning?
• Multiplayerspellen voor tabletops
  – Complexe kaart- en bordspellen
  – Nieuwe spelconcepten
  – Naadloze scorebordintegratie




                            Screenshot uit Magic: The Gathering - Duels of the Planeswalkers 2012.
Bestaande identificatiesystemen

    De infraroodring
      werkt met tokens


    Bootstrapper
      werkt met schoenen


    Carpus
      werkt met handen



                         Afbeeldingen gebruiken materiaal van Dave Brasgalla, Everaldo Coelho en Mushii.
De infraroodring
De infraroodring
• Gebruikers moeten een speciale ring dragen
• Elke ring zendt een uniek signaal uit met
  Manchester-encodering




• Buurt van de ring = eigen aanrakingen

                     Foto’s afkomstig uit The IR Ring: Authenticating Users' Touches on a Multi-Touch Display.
Bootstrapper
Bootstrapper
• Gebruikers worden herkend via hun schoenen
• Camera onderaan de tabletop




• Plaatsing van schoenen en handen wordt
  aangewend om aanrakingen te herkennen

             Foto’s afkomstig uit Bootstrapper: Recognizing Tabletop Users by their Shoes en een demonstratievideo op YouTube.
Carpus
Carpus
• Gebruikers worden herkend aan hun handen
• Overheadcamera registreert activiteit



                    Systeem ontworpen door Raf Ramakers,
                    masterstudent UHasselt




                                           Foto’s afkomstig uit Enriching Touch.
Beperkingen van Carpus
• Niet alle posturen worden even goed herkend




• Ongeregistreerde gebruikers kunnen er niet
  zomaar uitgefilterd worden
• Identificatiesnelheid: merkbare vertraging
  – Vertraging van 0,5 tot 2 seconden
  – Alternatieven zijn ook traag


                                        Foto afkomstig uit Enriching Touch.
Voordelen van Carpus
In vergelijking met de IR-ring:
• Geen ring nodig
• Hand kan niet gestolen worden


In vergelijking met Bootstrapper:
• Andere schoenen dragen mag
• Identiteit kan moeilijk nagebootst worden
Carpus: werkwijze
• Een gebruiker raakt het scherm aan
  1 Armen scheiden van de achtergrond
    (huidsegmentatie)

  2 Hand die aanraking
    uitvoerde zoeken

  3 Handanalyse: best
    overeenkomende
    gebruiker zoeken
    gebruikt Local Binary Patterns


                                     Foto’s afkomstig uit videobeelden die werden opgenomen voor Carpus.
Kan Carpus verbeterd worden?



  Introductie van armtracking




            Het plus-icoontje werd beschikbaar gemaakt door Gentleface.com onder een CC BY-NC-licentie.
Wat is armtracking?
• Carpus leeft in het moment



     Gebruiker 5?   Gebruiker 5?   Gebruiker 2?


                    tijdsverloop

• Er wordt geen rekening gehouden met
  eerdere resultaten voor dezelfde hand
Wat is armtracking?
• Wat als we eerdere resultaten konden linken?



        Arm 1          Arm 1           Arm 1
      Gebruiker 5?   Gebruiker 5?    Gebruiker 2?
                                    Of gebruiker 5?
                     tijdsverloop

• Huidige frame zegt gebruiker 2, maar in het
  verleden was het altijd gebruiker 5
Hoe armtracking realiseren?
• Armen over frames heen aan elkaar linken
  – Gebruik van object tracking-algoritmes

   Video tracking is the process of
   locating a moving object (or multiple
   objects) over time using a camera.
                              Bron: Wikipedia




• Opbouwen trackinggeschiedenis per arm
• Waarom volledige arm, niet de hand?
  Makkelijker te tracken
                                                Bron foto: cim.mcgill.ca
Trackinggeschiedenis
• Bevat vorige resultaten handanalyse
  Armnummer                   Gebruikersnummer Aantal voorkomens
  0                           0                               2
  0                           1                               1
  0                           2                               25
  0                           3                               4
                                                                           Fictief voorbeeld
• Wanneer betrouwbaar?
  – Er is genoeg data voorhanden
      “Totaal aantal voorkomens voor arm X ligt hoger dan Y”

  – Er is een duidelijke winnaar
      “Er bestaat een gebruiker voor arm X waarvan zijn aantal voorkomens minstens Y% van het totaal aantal
      voorkomens voor die hand uitmaakt”
Armtracking: werkwijze
• In elk frame
   – huidsegmentatie
   – koppelen gevonden armen aan
     armnummers                             Arm 3

• In frames tijdens of vlak na
  touchinteracties
   – als de uitvoerende arm te weinig
     trackinggeschiedenis heeft:
      • handanalyse uitvoeren
      • resultaat in geschiedenis opslaan
Armtracking: werkwijze
• In frames tijdens touchinteracties
  – Rapporteer identiteit van uitvoerende arm
     • Te weinig trackinggeschiedenis?
        Gebruik handanalyse van Carpus.
     • Genoeg trackinggeschiedenis?
        Geef de vaakst voorkomende gebruiker voor deze arm door.
Implementatie
• Simulatie op basis van
     videofragment         +   log van touch events
Observaties na systeemtests
• Tracking kan sommige fouten van handanalyse corrigeren


                               = verhoogde nauwkeurigheid




• Ongeregistreerde gebruikers verwarren het systeem

                               Gebruiker 1?
                                     Gebruiker 3?
                                                    Gebruiker 5?
                                              Gebruiker 1?
                                   Gebruiker 5?
                                Gebruiker 3?          Gebruiker 3?
VRAGEN

Contenu connexe

En vedette

How Race, Age and Gender Shape Attitudes Towards Mental Health
How Race, Age and Gender Shape Attitudes Towards Mental HealthHow Race, Age and Gender Shape Attitudes Towards Mental Health
How Race, Age and Gender Shape Attitudes Towards Mental HealthThinkNow
 
AI Trends in Creative Operations 2024 by Artwork Flow.pdf
AI Trends in Creative Operations 2024 by Artwork Flow.pdfAI Trends in Creative Operations 2024 by Artwork Flow.pdf
AI Trends in Creative Operations 2024 by Artwork Flow.pdfmarketingartwork
 
PEPSICO Presentation to CAGNY Conference Feb 2024
PEPSICO Presentation to CAGNY Conference Feb 2024PEPSICO Presentation to CAGNY Conference Feb 2024
PEPSICO Presentation to CAGNY Conference Feb 2024Neil Kimberley
 
Content Methodology: A Best Practices Report (Webinar)
Content Methodology: A Best Practices Report (Webinar)Content Methodology: A Best Practices Report (Webinar)
Content Methodology: A Best Practices Report (Webinar)contently
 
How to Prepare For a Successful Job Search for 2024
How to Prepare For a Successful Job Search for 2024How to Prepare For a Successful Job Search for 2024
How to Prepare For a Successful Job Search for 2024Albert Qian
 
Social Media Marketing Trends 2024 // The Global Indie Insights
Social Media Marketing Trends 2024 // The Global Indie InsightsSocial Media Marketing Trends 2024 // The Global Indie Insights
Social Media Marketing Trends 2024 // The Global Indie InsightsKurio // The Social Media Age(ncy)
 
Trends In Paid Search: Navigating The Digital Landscape In 2024
Trends In Paid Search: Navigating The Digital Landscape In 2024Trends In Paid Search: Navigating The Digital Landscape In 2024
Trends In Paid Search: Navigating The Digital Landscape In 2024Search Engine Journal
 
5 Public speaking tips from TED - Visualized summary
5 Public speaking tips from TED - Visualized summary5 Public speaking tips from TED - Visualized summary
5 Public speaking tips from TED - Visualized summarySpeakerHub
 
ChatGPT and the Future of Work - Clark Boyd
ChatGPT and the Future of Work - Clark Boyd ChatGPT and the Future of Work - Clark Boyd
ChatGPT and the Future of Work - Clark Boyd Clark Boyd
 
Getting into the tech field. what next
Getting into the tech field. what next Getting into the tech field. what next
Getting into the tech field. what next Tessa Mero
 
Google's Just Not That Into You: Understanding Core Updates & Search Intent
Google's Just Not That Into You: Understanding Core Updates & Search IntentGoogle's Just Not That Into You: Understanding Core Updates & Search Intent
Google's Just Not That Into You: Understanding Core Updates & Search IntentLily Ray
 
Time Management & Productivity - Best Practices
Time Management & Productivity -  Best PracticesTime Management & Productivity -  Best Practices
Time Management & Productivity - Best PracticesVit Horky
 
The six step guide to practical project management
The six step guide to practical project managementThe six step guide to practical project management
The six step guide to practical project managementMindGenius
 
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...RachelPearson36
 
Unlocking the Power of ChatGPT and AI in Testing - A Real-World Look, present...
Unlocking the Power of ChatGPT and AI in Testing - A Real-World Look, present...Unlocking the Power of ChatGPT and AI in Testing - A Real-World Look, present...
Unlocking the Power of ChatGPT and AI in Testing - A Real-World Look, present...Applitools
 
12 Ways to Increase Your Influence at Work
12 Ways to Increase Your Influence at Work12 Ways to Increase Your Influence at Work
12 Ways to Increase Your Influence at WorkGetSmarter
 

En vedette (20)

How Race, Age and Gender Shape Attitudes Towards Mental Health
How Race, Age and Gender Shape Attitudes Towards Mental HealthHow Race, Age and Gender Shape Attitudes Towards Mental Health
How Race, Age and Gender Shape Attitudes Towards Mental Health
 
AI Trends in Creative Operations 2024 by Artwork Flow.pdf
AI Trends in Creative Operations 2024 by Artwork Flow.pdfAI Trends in Creative Operations 2024 by Artwork Flow.pdf
AI Trends in Creative Operations 2024 by Artwork Flow.pdf
 
Skeleton Culture Code
Skeleton Culture CodeSkeleton Culture Code
Skeleton Culture Code
 
PEPSICO Presentation to CAGNY Conference Feb 2024
PEPSICO Presentation to CAGNY Conference Feb 2024PEPSICO Presentation to CAGNY Conference Feb 2024
PEPSICO Presentation to CAGNY Conference Feb 2024
 
Content Methodology: A Best Practices Report (Webinar)
Content Methodology: A Best Practices Report (Webinar)Content Methodology: A Best Practices Report (Webinar)
Content Methodology: A Best Practices Report (Webinar)
 
How to Prepare For a Successful Job Search for 2024
How to Prepare For a Successful Job Search for 2024How to Prepare For a Successful Job Search for 2024
How to Prepare For a Successful Job Search for 2024
 
Social Media Marketing Trends 2024 // The Global Indie Insights
Social Media Marketing Trends 2024 // The Global Indie InsightsSocial Media Marketing Trends 2024 // The Global Indie Insights
Social Media Marketing Trends 2024 // The Global Indie Insights
 
Trends In Paid Search: Navigating The Digital Landscape In 2024
Trends In Paid Search: Navigating The Digital Landscape In 2024Trends In Paid Search: Navigating The Digital Landscape In 2024
Trends In Paid Search: Navigating The Digital Landscape In 2024
 
5 Public speaking tips from TED - Visualized summary
5 Public speaking tips from TED - Visualized summary5 Public speaking tips from TED - Visualized summary
5 Public speaking tips from TED - Visualized summary
 
ChatGPT and the Future of Work - Clark Boyd
ChatGPT and the Future of Work - Clark Boyd ChatGPT and the Future of Work - Clark Boyd
ChatGPT and the Future of Work - Clark Boyd
 
Getting into the tech field. what next
Getting into the tech field. what next Getting into the tech field. what next
Getting into the tech field. what next
 
Google's Just Not That Into You: Understanding Core Updates & Search Intent
Google's Just Not That Into You: Understanding Core Updates & Search IntentGoogle's Just Not That Into You: Understanding Core Updates & Search Intent
Google's Just Not That Into You: Understanding Core Updates & Search Intent
 
How to have difficult conversations
How to have difficult conversations How to have difficult conversations
How to have difficult conversations
 
Introduction to Data Science
Introduction to Data ScienceIntroduction to Data Science
Introduction to Data Science
 
Time Management & Productivity - Best Practices
Time Management & Productivity -  Best PracticesTime Management & Productivity -  Best Practices
Time Management & Productivity - Best Practices
 
The six step guide to practical project management
The six step guide to practical project managementThe six step guide to practical project management
The six step guide to practical project management
 
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...
 
Unlocking the Power of ChatGPT and AI in Testing - A Real-World Look, present...
Unlocking the Power of ChatGPT and AI in Testing - A Real-World Look, present...Unlocking the Power of ChatGPT and AI in Testing - A Real-World Look, present...
Unlocking the Power of ChatGPT and AI in Testing - A Real-World Look, present...
 
12 Ways to Increase Your Influence at Work
12 Ways to Increase Your Influence at Work12 Ways to Increase Your Influence at Work
12 Ways to Increase Your Influence at Work
 
ChatGPT webinar slides
ChatGPT webinar slidesChatGPT webinar slides
ChatGPT webinar slides
 

Identity-Aware Tabletop Interaction

  • 1. Identity-Aware Tabletop Interaction Pieter De Decker Promotor prof. dr. Kris Luyten Contactpersoon Davy Vanacken
  • 2. Introductie • Evolutie aanraakschermen – Ondersteuning voor multitouch – Nieuwe interactietechnieken zoals pinch-to-zoom – Ze zijn overal o.a. in gsm’s, GPS-toestellen, tablets en tabletops Volgende mijlpaal: Kunnen we gebruikers herkennen? Bron foto: ZDNet.com.
  • 3. Waarom identiteitsherkenning? • Samenwerken op tabletops – Bv. tekenen met aparte kleurinstellingen voor iedereen • Einde wachtwoorden: snelle accounttoegang – Combinatie met cloud? • Gepersonaliseerde browser • Bestandstoegang Foto uit Enriching Touch van Raf Ramakers.
  • 4. Waarom identiteitsherkenning? • Multiplayerspellen voor tabletops – Complexe kaart- en bordspellen – Nieuwe spelconcepten – Naadloze scorebordintegratie Screenshot uit Magic: The Gathering - Duels of the Planeswalkers 2012.
  • 5. Bestaande identificatiesystemen De infraroodring werkt met tokens Bootstrapper werkt met schoenen Carpus werkt met handen Afbeeldingen gebruiken materiaal van Dave Brasgalla, Everaldo Coelho en Mushii.
  • 7. De infraroodring • Gebruikers moeten een speciale ring dragen • Elke ring zendt een uniek signaal uit met Manchester-encodering • Buurt van de ring = eigen aanrakingen Foto’s afkomstig uit The IR Ring: Authenticating Users' Touches on a Multi-Touch Display.
  • 9. Bootstrapper • Gebruikers worden herkend via hun schoenen • Camera onderaan de tabletop • Plaatsing van schoenen en handen wordt aangewend om aanrakingen te herkennen Foto’s afkomstig uit Bootstrapper: Recognizing Tabletop Users by their Shoes en een demonstratievideo op YouTube.
  • 11. Carpus • Gebruikers worden herkend aan hun handen • Overheadcamera registreert activiteit Systeem ontworpen door Raf Ramakers, masterstudent UHasselt Foto’s afkomstig uit Enriching Touch.
  • 12. Beperkingen van Carpus • Niet alle posturen worden even goed herkend • Ongeregistreerde gebruikers kunnen er niet zomaar uitgefilterd worden • Identificatiesnelheid: merkbare vertraging – Vertraging van 0,5 tot 2 seconden – Alternatieven zijn ook traag Foto afkomstig uit Enriching Touch.
  • 13. Voordelen van Carpus In vergelijking met de IR-ring: • Geen ring nodig • Hand kan niet gestolen worden In vergelijking met Bootstrapper: • Andere schoenen dragen mag • Identiteit kan moeilijk nagebootst worden
  • 14. Carpus: werkwijze • Een gebruiker raakt het scherm aan 1 Armen scheiden van de achtergrond (huidsegmentatie) 2 Hand die aanraking uitvoerde zoeken 3 Handanalyse: best overeenkomende gebruiker zoeken gebruikt Local Binary Patterns Foto’s afkomstig uit videobeelden die werden opgenomen voor Carpus.
  • 15. Kan Carpus verbeterd worden? Introductie van armtracking Het plus-icoontje werd beschikbaar gemaakt door Gentleface.com onder een CC BY-NC-licentie.
  • 16. Wat is armtracking? • Carpus leeft in het moment Gebruiker 5? Gebruiker 5? Gebruiker 2? tijdsverloop • Er wordt geen rekening gehouden met eerdere resultaten voor dezelfde hand
  • 17. Wat is armtracking? • Wat als we eerdere resultaten konden linken? Arm 1 Arm 1 Arm 1 Gebruiker 5? Gebruiker 5? Gebruiker 2? Of gebruiker 5? tijdsverloop • Huidige frame zegt gebruiker 2, maar in het verleden was het altijd gebruiker 5
  • 18. Hoe armtracking realiseren? • Armen over frames heen aan elkaar linken – Gebruik van object tracking-algoritmes Video tracking is the process of locating a moving object (or multiple objects) over time using a camera. Bron: Wikipedia • Opbouwen trackinggeschiedenis per arm • Waarom volledige arm, niet de hand? Makkelijker te tracken Bron foto: cim.mcgill.ca
  • 19. Trackinggeschiedenis • Bevat vorige resultaten handanalyse Armnummer Gebruikersnummer Aantal voorkomens 0 0 2 0 1 1 0 2 25 0 3 4 Fictief voorbeeld • Wanneer betrouwbaar? – Er is genoeg data voorhanden “Totaal aantal voorkomens voor arm X ligt hoger dan Y” – Er is een duidelijke winnaar “Er bestaat een gebruiker voor arm X waarvan zijn aantal voorkomens minstens Y% van het totaal aantal voorkomens voor die hand uitmaakt”
  • 20. Armtracking: werkwijze • In elk frame – huidsegmentatie – koppelen gevonden armen aan armnummers Arm 3 • In frames tijdens of vlak na touchinteracties – als de uitvoerende arm te weinig trackinggeschiedenis heeft: • handanalyse uitvoeren • resultaat in geschiedenis opslaan
  • 21. Armtracking: werkwijze • In frames tijdens touchinteracties – Rapporteer identiteit van uitvoerende arm • Te weinig trackinggeschiedenis? Gebruik handanalyse van Carpus. • Genoeg trackinggeschiedenis? Geef de vaakst voorkomende gebruiker voor deze arm door.
  • 22. Implementatie • Simulatie op basis van videofragment + log van touch events
  • 23. Observaties na systeemtests • Tracking kan sommige fouten van handanalyse corrigeren = verhoogde nauwkeurigheid • Ongeregistreerde gebruikers verwarren het systeem Gebruiker 1? Gebruiker 3? Gebruiker 5? Gebruiker 1? Gebruiker 5? Gebruiker 3? Gebruiker 3?