Движения рта во время разговора повышают эффективность узнавания слов в шумной обстановке в 6 раз. Вэй Цзима из Бэйлорского медицинского колледжа и его коллеги опубликовали результаты соответствующего математико-визуально-акустического исследования в PLoS ONE.
В том, что зрительная информация может подкреплять и уточнять звуковой ряд, ученые, да и обыватели, не сомневались и раньше, но на этот раз учёные предложили новый подход как к изучению, так и к количественной оценке этого феномена. Для этого они создали модель с несколькими измерениями, где визуальная и зрительная информация с соответствующими помехами воспринимаются отдельно, а потом объединяются, причём в роли дополнительного условия может выступать и зрительный и звуковой источник.
Количественные данные ученые получили после часов демонстрации 700 английских слов 33 англоговорящим участникам. Так, выяснилось, что максимальный эффект «чтения по губам» достигается при умеренно небольшом уровне шума и увеличивает точность распознавания слов с 10 до 60%. Определенный успех достигается и при полном выключении звука, но всё-таки даже минимальный аудиосигнал значительно повышал процент узнавания.
Ученые считают, что из двух сигналов (аудио- и видео-) наш мозг выбирает тот, которому можно больше доверять, при этом второй может как помогать, так и мешать принятию решения. Так, если на видеоролике персонаж произносил одно слово, а на звуковой дорожке – другое, то испытуемые часто вообще называли третье, а если персонаж просто открывал рот во время проигрывания записи, то точность угадывания повышалась.