Definition

Réalité mixte (réalité hybride, réalité étendue)

Cette définition fait partie de notre Guide Essentiel : Le Field Service Management : guide pour améliorer vos interventions terrain

La réalité mixte (RM, MR) est un environnement utilisateur combinant réalité physique et contenu numérique de façon à permettre une interaction avec et entre des objets réels et virtuels.

Contrairement à la réalité virtuelle, qui plonge l'utilisateur dans un monde entièrement numérique, ou à la réalité augmentée, qui superpose un contenu numérique à un environnement physique, la réalité mixte fusionne des éléments virtuels et réels dans un même environnement. Parfois considérée comme une forme de réalité augmentée, la réalité mixte s'en distingue néanmoins par sa capacité d'interaction entre le monde réel et les éléments numériques. Elle se place ainsi un peu plus loin sur le continuum de la virtualité, délimité à chaque extrémité par la réalité physique et la réalité virtuelle immersive.

La réalité mixte est également appelée réalité hybride ou, plus rarement, réalité étendue. Un casque spécial suit le regard de l'utilisateur et cartographie son milieu environnant avec le logiciel, puis, à l'aide d'algorithmes d'apprentissage profond (ou Deep Learning), aligne le contenu numérique sur des zones précises de la carte. La programmation de la réalité mixte permet à des objets numériques d'interagir avec des objets physiques, et à des personnes d'interagir avec des objets virtuels comme s'ils étaient réels. Un ordinateur classique peut ainsi se transformer en ordinateur interactif à écran tactile, et un personnage créé par la réalité mixte s'asseoir sur le canapé de l'utilisateur.

Bien que la réalité mixte en soit encore à ses débuts, elle est déjà utilisée dans de nombreux secteurs à des fins pédagogiques. Par exemple, les avionneurs y ont recours pour former à moindre coût leurs techniciens de maintenance. Plutôt que d'avoir à démonter un moteur d'avion, ces derniers, munis d'un casque spécial, voient un hologramme du moteur. Au moyen de commandes gestuelles, visuelles et vocales, ils interagissent avec l'hologramme pour changer de perspective et extraire des informations pertinentes, couche après couche.

Autres utilisations de la réalité mixte

Construction : les superviseurs peuvent faire appel à la réalité mixte pour signaler aux ouvriers les travaux à effectuer. Il leur suffit de marquer une pièce défectueuse à l'aide d'une épingle virtuelle pour alerter les ouvriers. Par le biais de leur casque, ceux-ci ont alors accès à des diagrammes schématisés qui facilitent l'identification du problème.

Fabrication : lors de la visite d'une usine, les inspecteurs munis d'un casque de réalité mixte accèdent en temps réel aux données correspondant à des composants mécaniques précis. Les informations concernant la performance d'un composant et sa consommation énergétique peuvent être transmises via le protocole NFC (Near Field Communication ou communication en champ proche), et sont mises à jour dès que le regard de l'inspecteur se porte sur un autre composant.

Conception : les dessinateurs peuvent recourir à la réalité mixte pour manipuler de nouveaux produits avant leur fabrication. Par exemple, cette technologie permet à des ingénieurs en génie spatial d'interagir avec les prototypes numériques grandeur nature d'un nouveau robot mobile à envoyer sur Mars, afin d'identifier les problèmes de conception potentiels et de réduire les délais et les coûts de développement.

Communications interentreprises : grâce à la réalité mixte, de grandes entreprises internationales simulent des réunions en face à face avec des équipes produit géographiquement dispersées. Les participants voient alors une version grandeur nature et en 3D du produit à étudier. Il est même possible d'intégrer un service de traduction afin d'éliminer les barrières de la langue.

Santé : des chirurgiens ont recours à la réalité mixte pour s'entraîner à insérer un minuscule implant médical dans une partie bien précise du corps. Dans un avenir proche, il est prévu que les étudiants en médecine puissent eux aussi tirer parti de la réalité mixte pendant les cours d'anatomie, plutôt que de travailler sur des cadavres.

Gestion de la chaîne logistique : le responsable de la chaîne logistique d'une entreprise peut visualiser le contenu d'une palette à l'aide de la caméra de son smartphone ou de ses lunettes intelligentes, poser une question à haute voix concernant l'historique d'expédition de la palette, et obtenir immédiatement une réponse sur son écran.

Historique des réalités virtuelles, augmentée et mixte

La réalité virtuelle remonte à plusieurs siècles, si l'on tient compte du très populaire stéréoscope, cet appareil portable inventé par Sir Charles Wheatstone au début du XIXe siècle. A l'aide de miroirs, le stéréoscope fusionne deux photographies en une seule afin de créer l'illusion de la profondeur.

Morton Heilig, souvent considéré comme le père de la réalité virtuelle, a poussé plus loin le concept d'image stéréoscopique en brevetant sa machine Sensorama en 1962. Physiquement semblable à une borne, l'environnement sensoriel immersif de Heilig permettait à l'utilisateur de voir des images stéréoscopiques, accompagnées d'un son stéréo et d'odeurs. L'expression réalité virtuelle s'est généralisée dans les années 1980 et doit en grande partie son existence à l'informaticien Jaron Lanier, inventeur du gant de données.

Thomas Caudell, chercheur chez Boeing, est le premier à avoir parlé de réalité augmentée, dans les années 1990, pour décrire le fonctionnement des lunettes de visualisation que portaient les électriciens de la société. Plutôt que de s'appuyer sur un schéma de câblage imprimé sur une planche de contreplaqué, ces derniers portaient en effet des lunettes spéciales qui projetaient une version numérique du schéma sur la planche. Non seulement cette utilisation de la réalité augmentée permettait à Boeing de réaliser des économies, puisque les supports en contreplaqué devenaient réutilisables, mais elle permettait également aux électriciens d'appliquer en temps réel des modifications numériques au schéma de câblage.

Côté grand public, la réalité augmentée a fait sa première apparition commerciale en 1998, sous la forme d'une ligne jaune indiquant le « First Down », lors de la retransmission des matchs de football américain à la télévision. L'application pour smartphone Pokémon Go a également fait connaître la réalité augmentée à un large public, en superposant des personnages numériques au champ de vision de la caméra de l'appareil.

L'expression réalité mixte est née en 1994 sous la plume de Paul Milgram et Fumio Kishino, dans un article intitulé « A Taxonomy of Mixed Reality Visual Displays ». Dans cet article, les auteurs évoquent l'idée selon laquelle la réalité mixte est un continuum qui inclut la réalité virtuelle et la réalité augmentée, ainsi que toutes les nouvelles technologies permettant une interaction entre un contenu numérique et des objets réels, et entre des êtres humains et des objets numériques, ces derniers étant manipulés comme s'il s'agissait d'objets physiques. Par exemple, si Pokémon Go intégrait des fonctions de réalité mixte, le personnage numérique de Pokémon pourrait grimper de vrais escaliers, car il reconnaîtrait l'environnement physique du joueur.

Réalité mixte : produits et tendances prévisibles

A l'heure actuelle, le contenu de réalité mixte est généralement accessible via un casque, mais les projections holographiques et les écrans virtuels interactifs devraient jouer un rôle de plus en plus important dans ce domaine. Encore récemment, la création de produits grand public exploitant le continuum de la réalité mixte n'était pas rentable en raison de la quantité phénoménale de puissance de calcul nécessaire, sans parler des capacités qu'il fallait pour la vision par ordinateur et la reconnaissance d'images.

Le Big Data, le cloud computing et les récents progrès en matière d'intelligence artificielle (IA) rendent cependant les fonctions de réalité mixte plus abordables. La baisse des prix engendrée devrait radicalement changer le mode d'interaction homme-machine.

Les experts prévoient que ce secteur représentera entre 1,2 et 6,9 milliards de dollars à l'échelle mondiale d'ici 2024. Même si le jeu vidéo continue d'occuper une place importante dans son développement, la réalité mixte appliquée aux entreprises devrait dominer les recherches au cours des prochaines années. Actuellement, les casques de réalité mixte se vendent entre 300 et 3 000 dollars pièce. Mais, dans un avenir proche, les smartphones, tablettes et lunettes intelligentes équipées de caméras devraient remplacer les casques spécialisés. Si l'on en croit la rumeur, Apple développerait des lunettes de réalité mixte capables de se connecter à l'iPhone de l'utilisateur, dans l'esprit de l'Apple Watch.

Windows Mixed Reality (WMR) propose plusieurs produits fonctionnant sous Windows 10 et sur la plateforme Windows universelle (UWP). Parmi les équipements de jeux vidéo les plus populaires, citons HoloLens et le casque de réalité mixte Acer. Microsoft s'engage également dans la bataille avec MRTouch, un logiciel qui exploite les fonctions de HoloLens, telles que la cartographie de l'environnement et le suivi de la main, pour transformer les surfaces planes en écrans tactiles.

Les navigateurs Edge (de Microsoft) et Firefox Reality (de Mozilla) ont été développés pour la réalité mixte. Grâce à leurs fonctionnalités spécifiques, les porteurs de casques ou de lunettes intelligentes pourront facilement afficher un contenu 2D en 3D et inversement, sur un même écran.

Cette définition a été mise à jour en août 2018

Pour approfondir sur Applications métiers