Fingers’ Dance : une grammaire du geste pour la navigation et l’annotation de films de danse

25, janvier 2010  |  Publié : Expérimentations  | 

Par Vincent Puig, Yves-Marie Haussonne, Thibaut Cavalié, Yves-Marie L’Hour, Armen Khatchatourov

En collaboration avec Dominique Sciamma, Ioana Ocnarescu, Huieen Kim, Annabelle Eugenia, Baptiste Lanne, Vanessa Reiser
Strate Collège Designers
30, rue Troyon
92310 Sèvres

http://www.stratecollege.fr

ds@stratecollege.fr

Résumé : Cette courte présentation porte sur une première expérimentation d’IHM d’annotation par le geste de films de danse réalisés et analysés par Thierry de Mey au cours de sa résidence à l’IRI : 1) En s’appuyant sur une grammaire de gestes élaborée par le réalisateur pour ses propres films et musiques notamment Musique de tables, un repérage des principaux gestes chorégraphiques  du spectacle One flat thing de William Forsythe est opéré avec Lignes de temps (logiciel d’annotation  de l’IRI). Pour chacun de ces gestes un tracé gestuel à deux mains sur une table multipoint est défini. 2) Sur la table multipoint, on peut tracer les gestes précédemment définis et les séquences filmés correspondantes s’affichent dans Lignes de temps. Par exemple un geste rotatif produit avec le doigt sur la table graphique va lancer une requête vers toutes les séquences où des mouvements en rotation sont dansés. On peut également annoter une séquence en lui attachant un ou des gestes prédéfinis. Cette première expérimentation a été conçue dans le cadre du programme de résidences mené à l’IRI avec l’aide de Microsoft France et a fait l’objet d’une première  présentation publique au CNAM dans le cadre des Entretiens du Nouveau Monde Industriel (novembre 2009).

Télécharger l’article au format pdf.

Voir la vidéo de démonstration.


Fondements théoriques

Notre approche est à la fois théorique et technologique. Théoriquement, il s’agit de (re-) penser notre rapport psychologique, sensitif et critique aux œuvres cinématographiques en s’appuyant sur les possibilités d’appropriation, de perception active offertes par le numérique. Dans le langage du philosophe Gilbert Simondon, cette démarche s’inscrit dans un processus d’individuation psychique et collective et par des outils de transindividuation constituant une organologie au  sens large. Dans le domaine du jugement critique porté sur des films, nos travaux antérieurs menés en collaboration avec des réalisateurs et des critiques confirment que  les amateurs cinéphiles prolongent leur pratique du cinéma dans le monde numérique au moyen d’appareils critiques, qu’ils soient sociaux (équivalents dans les réseaux sociaux de ce que furent les cinéclubs) ou instrumentaux (presse critique, outils de navigation, d’annotation et de pratique créative). Technologiquement, nous souhaitons développer nos recherches dans le champ de la sensori-motricité, c’est à dire autour de dispositifs donnant accès à des boucles de retour de rétroaction ou de perception active. Dans le contexte du cinéma les appareils critiques multimodaux que nous développons rejoignent les outils de création du film : la caméra, mais plus généralement tous les outils de réalisation (écriture, montage, édition) sont ainsi selon nous des outils potentiels de la perception active. À ce jour nous avons principalement exploré les outils d’annotation convoquant le texte ou la voix et bientôt la vidéo, le geste et le regard.

Grammaire chorégraphique et grammaire cinématographique
Le point de départ de cette recherche part du regard singulier que le réalisateur Thierry  de Mey porte sur le geste, d’abord en tant que compositeur avec sa première partition gestuelle pour trois percussionnistes dans la pièce Musique de tables (1987).

Fig1 : Partition de Musique de tables

Puis comme réalisateur pour la danse où son langage cinématographique se confronte aux expressions chorégraphiques les plus contemporaines. C’est ainsi que la résidence de Thierry de Mey à l’IRI en 2007 a permis de procéder à une première analyse du film One flat thing, reproduced, une chorégraphie de William Forsythe en croisant la perspective cinématographique (tailles  de plan, mouvements de caméra) et chorégraphique (solos, groupes, gestes frappés, frottés, etc) à l’aide du logiciel d’annotation Lignes de temps développé depuis 2006 à l’IRI.

Fig2 : Analyse de One flat thing réalisée dans le logiciel Lignes de temps par Thierry de Mey

Fingers’ dance : une interface pour l’annotation et la navigation par le geste
En septembre 2008, l’idée de concevoir une interface pour annoter et naviguer dans ce film s’est imposée dans le cadre d’une collaboration avec de jeunes designers du Strate Collège et grâce à un programme de résidence mis en place à l’IRI par Microsoft France. Plus généralement et à terme, l’objectif est bien de tenter de définir une grammaire de gestes suffisamment générique pour être utilisable sur un large ensemble de films de danse. L’outil choisi pour capter les gestes à des fins de navigation ou  d’annotation est une table multipoint telle que développée par le groupe Microsoft Surface. Cet outil contraint à une captation 2D mais permet l’utilisation de gestes à deux mains et l’invention de formes collaboratives typiquement à deux, trois ou quatre personnes autour de la table.

Fig3 : Expérimentation sur la table Surface de Microsoft

Après une phase de spécification avec Thierry de Mey, une recherche bibliographique a été entreprise sur les grammaires de geste actuellement développées, puis cinq maquettes ont été proposées pour valider le concept d’IHM le mieux adapté aux contraintes culturelles et technologiques (ToolKit Surface).
A l’issue de cette phase, un travail de design a été entrepris sur la base d’une interface multi-touch configurable pour 1, 2 ou 4 personnes disposant chacune d’un écran de visualisation du film et d’outils pour la navigation et l’annotation à l’aide de gestes. Une réduction du nombre de geste/signes a été ensuite opérée avec Thierry  de Mey pour aboutir à deux grammaires de navigation/annotation limitées à quelques gestes de base.

Fig4 : Grammaire de gestes cinématographiques et chorégraphiques

A partir de ce langage de base, les interfaces ont été construites en allers-retours entre les designers et les développeurs.

Fig5 : Annotation d’une figure à quatre danseurs par tracé du geste sur l’écran multitouch


Enjeux de recherche et projets en préparation

Les enjeux de recherche  que nous visons avec cette première expérimentation portent sur :

  • Le geste comme mémoire du flux audiovisuel.

L’ensemble des travaux entrepris sur la grammaire chorégraphique montre le rôle énactif du geste et son pouvoir de mémorisation  des repères spatiaux (position/postures des danseurs) alors que la grammaire cinématographique insiste sur les repères temporels. Ceci est particulièrement sensible dans l’analyse que fait Thierry de Mey des travellings de One Flat Thing (qui sont comme des « contre-points » des figures dansées) et des outils que nous avons par conséquent essayé de mettre entre les mains d’un large public d’amateurs. Mais  évidemment le cinéma comme la danse jouent en permanence entre temps et espace et le geste se prête particulièrement bien à l’articulation entre les deux favorisant une mémorisation et une compréhension complémentaire de celle que nous avions déjà expérimentée avec l’annotation par mots-clés ou par tags audio et vidéo.

  • La grammatisation du geste : le plus de généricité possible pour bénéficier à différentes applications.

Procéder par réductionnisme sur un exemple singulier tel que One flat thing est une méthodologie qui n’est pas satisfaisante ou en tout cas suffisante. On sait les enjeux de normalisation et de compétition industrielle que le pilotage d’un film par le geste pose déjà. Ici nous avons tenté d’opérer une généralisation pour les gestes de danse tout d’abord en testant la grammaire chorégraphique sur le film Musique de tables et ultérieurement sur un corpus  de plus en plus large.

  • Le geste collectif : productivité, surprise et bien être social.

L’interaction à plusieurs a été testée sous la forme de scénarios mais fera réellement l’objet d’une évaluation lors des ateliers proposés au public lors du festival VidéoDanse de novembre 2009. D’ore et déjà des effets de partage de taches ou de partage de la mémoire du film sont observables et génèrent une interaction sociale productive qualitativement ou quantitativement.

Nous remercions en premier lieu Thierry de Mey à l’origine du concept de cette expérimentation, et aussi Pierre-Louis Xech, Thomas Defaye et Thomas Serval de Microsoft France avec qui l’ensemble du projet depuis sa  conception jusqu’aux phases de support technique a été mis en place. Remerciements enfin aux étudiants de l’EFREI et notamment Santiago Arias, Riley Leykni, Tarari Amine et Jonathan Pamphile qui ont participé au développement informatique.

Bibliographie:
- (Puig & al.) Lignes de temps, une plateforme collaborative pour l’annotation de films et d’objets temporels, proceedings IHM, novembre 2007
- (Puig) Lignes de temps, une plateforme collaborative pour l’annotation de films et d’objets temporels, Collection A propos de. Les représentations du réel à l’écran, Ministère de l’Education Nationale/Cinémathèque française, Actes de l’université d’automne, 27-31 octobre 2007
- (Puig) Amateurs du XXième siècle, colloque Patrimoine et numérisation, novembre 2008, Culture et Recherche, novembre 2008
- (Puig, V., et al) Collaborative Annotation System Using Vocal Comments Recorded on Mobile Phones and Audio Guides: The Centre Pompidou Exhibition Traces Du Sacré. In J. Trant and D. Bearman (eds). Museums and the Web 2009, Published April 15, 2009. Also available http://www.archimuse.com/mw2009/papers/puig/puig.html
- (Prié, Puig) Nouveaux modes de perception active de films annotés, Colloque Figures de l’Interactivité, Poitiers, novembre 2008 (à paraître).

  • Jamespot
  • Twitter
  • Facebook
  • Digg
  • Delicious
  • LinkedIn
  • FriendFeed
  • Tumblr
  • Netvibes Share
  • MySpace
  • Share