Специалисты IBM нашли способ как не тратить тысячи часов видеозаписей и миллионы слов на обучение голосовых помощников. Программисты компании описали новую архитектуру распределенной обработки данных, которая в 15 раз ускоряет процесс обучения без потери точности, она сократит общее время тренировки с недель до дней.
Исследователи Вэй Чжан, Сяодун Цуй и Брайан Кингсбери объясняют в статье подготовленной для международной конференции ICASSP, что система автоматического распознавания речи , подобная тем, которые используются в Apple Siri, Google Assistant и Amazon Alexa, требует сложных систем кодирования и декодирования, которые преобразуют программный код в голос.
Решением инженеров IBM стало увеличение объема партии, или числа образцов, которые можно обработать единовременно, но не без разбора — это бы негативно повлияло на точность. Поэтому они применили метод распределенного глубокого обучения — асинхронный децентрализованный параллельный стохастический градиентный спуск (ADPSGD).
Нет комментариев