Данный проект является результатом совместной работы азиатского исследовательского подразделения Microsoft (Microsoft Research Asia) и Института вычислительных технологий при Академии наук Китая в рамках исследования возможности применения сенсорных технологий при распознавании жестового языка.
В первом режиме система воспринимает визуальную информацию, распознавая язык жестов, и преобразует ее в текст на английском или китайском языке. При этом собеседнику нет необходимости подстраиваться и замедлять темп, он может воспроизводить свою речь при помощи жестов с обычной скоростью. Kinect мгновенно составляет из этих жестов целые предложения.
Во втором режиме программа осуществляет обратный процесс, преобразовывает текст в жесты, используя виртуальный трехмерный аватар пользователя приставки. По словам создателей, способность Kinect одновременно распознавать несколько видов данных, в том числе цвет и глубину изображения, помогает более точно и быстро отслеживать движения. Пока программа поддерживает лишь американский язык жестов, но в будущем её функции могут быть расширены.
Цель данного исследования — облегчить взаимодействие с компьютером людям с ограниченными возможностями здоровья, которые не могут использовать традиционное голосовое управление. Разработчики отмечают, что сейчас многие люди с нарушениями слуха не владеют языком жестов, а среди людей с нормальным слухом и подавно меньше тех, которые бы его знали. Именно поэтому подобные проекты помогают наладить процесс общения.
Проект находится на этапе разработки и пока далёк от своего завершения, но сотрудники Microsoft уверены, что со временем им удастся создать полезную и удобную систему. В идеальном варианте они надеются изобрести такое устройство, которое позволит не прибегать к услугам людей, знающих язык жестов.