Вот уже на протяжении нескольких лет Microsoft выдает быстрые и точные результаты поиска в Bing с помощью экспериментальных серверов Project Catapult, получивших недавно очередное архитектурное обновление.
Серверы Catapult используют программируемые логические матрицы (Field Programmable Gate Array, FPGA), которым отводится центральная роль в улучшении результатов поисковой выдачи. Микросхемы FPGA способны быстро анализировать, фильтровать, ранжировать и оценивать релевантность текстовых запросов и запросов изображений в Bing.
В конструкцию оригинального сервера Catapult был внесен ряд изменений, призванных ускорить обработку. Предложенная архитектура Catapult v2 отличается большей гибкостью при использовании FPGA в качестве ускорителей и помогает преодолеть ограничения традиционных вычислительных ресурсов центров обработки данных применительно к задачам машинного обучения.
Впервые новая архитектура Catapult v2 была представлена Microsoft на конференции Scaled Machine Learning, проходившей в августе в Стэнфорде.
Сегодня ЦОД Microsoft обслуживают сервисы Cortana и Skype Translator, и корпорация постоянно стремится наращивать производительность своих серверов. В частности, совместно с Intel в Microsoft работают над более широким применением кремниевой фотоники, заменяя медные кабели волоконно-оптическими каналами, обеспечивающими более быстрый обмен данными между серверами в ЦОД.
В Catapult v2 возможности FPGA используются шире — теперь с их помощью можно управлять остальными вычислительными ресурсами и поддерживать связь с оперативной памятью, центральным процессором и сетевыми коммутаторами.
FPGA способны не только ускорять работу локальных приложений, но и выступать в роли мощного вычислителя, работающего с моделями глубинного обучения.
Новые серверы существенно улучшены по сравнению с прежней моделью Catapult, в которой область действия FPGA была ограничена небольшой сетью внутри серверов.
Catapult v2 можно использовать для распознавания образов в облаке, обработки естественного языка и других задач, связанных обычно с машинным обучением.
Вторая версия Catapult способна заложить основы использования FPGA в системах машинного обучения. В настоящее время многие модели машинного обучения построены на базе графических процессоров. Между тем китайская интернет-компания Baidu также использовала микросхемы FPGA для организации глубинного обучения в своем ЦОД.
Микросхемы FPGA позволяют быстро получать результаты глубинного обучения, но потребляют слишком много ресурсов, если их не запрограммировать правильно. Они допускают перепрограммирование для настройки на конкретные задачи, но все же недостаточно универсальны. Графические процессоры обладают гораздо более высокой гибкостью и могут управлять разными расчетами, однако FPGA зачастую превосходят их по производительности при выполнении специализированных вычислений.
К FPGA проявляют интерес многие крупные производители компьютерных систем. В нынешнем году, к примеру, известный разработчик микросхем FPGA, Altera, был куплен корпорацией Intel, которая планирует применять чипы FPGA в автомобилях, серверах, роботах, дронах и других устройствах.
Помимо ЦОД самой Microsoft, серверы Catapult для машинного обучения развернуты в центре Texas Advanced Computing Center Техасского университета в Остине. Система, собранная в этом центре, объединяет 32 двухпроцессорных сервера на базе Intel Xeon, каждый из них оснащен 64 Гбайт памяти и чипом FPGA Altera Stratix V D5 с собственной кэш-памятью DDR3 объемом 8 Гбайт.
.jpg)
