Специалисты Microsoft на проведенной ею конференции Ignite продемонстрировали работу гипермасштабного облака, с помощью которого 5 млн статей Википедии (около 3 млрд слов) были переведены с английского языка на испанский меньше, чем за 0,1 с. Это стало возможным благодаря разработанным в корпорации программируемым логическим матрицам FPGA, которые использовались в вычислительных узлах облака вместе с обычными процессорами.

Преимущество FPGA — в том, что такие чипы можно оптимизировать для конкретной нагрузки и менять их конфигурацию по мере совершенствования алгоритмов. В Microsoft провели еще одну демонстрацию, переведя «Войну и мир» с русского на английский сперва с помощью четырехъядерного процессора большой мощности, а затем с использованием четырех плат, оснащенных FPGA-ускорителями, — во втором случае было израсходовано впятеро меньше энергии.

Как сообщил глава Microsoft Сатья Наделла, новая вычислительная инфраструктура создана для осуществления проектов корпорации в области искусственного интеллекта, в том числе по развитию помощника Cortana и платформы ботов.

Судя по слайдам из презентации Microsoft, инфраструктура построена на базе ускорителей Stratix V D5 компании Altera, которую Intel купила в 2015 году за 16,7 млрд долл.

Вот уже на протяжении нескольких лет Microsoft выдает быстрые и точные результаты поиска в Bing с помощью экспериментальных серверов Project Catapult, получивших недавно очередное архитектурное обновление.

Серверы Catapult используют программируемые логические матрицы (Field Programmable Gate Array, FPGA), которым отводится центральная роль в улучшении результатов поисковой выдачи. Микросхемы FPGA способны быстро анализировать, фильтровать, ранжировать и оценивать релевантность текстовых запросов и запросов изображений в Bing.

В конструкцию оригинального сервера Catapult был внесен ряд изменений, призванных ускорить обработку. Предложенная архитектура Catapult v2 отличается большей гибкостью при использовании FPGA в качестве ускорителей и помогает преодолеть ограничения традиционных вычислительных ресурсов центров обработки данных применительно к задачам машинного обучения.

Впервые новая архитектура Catapult v2 была представлена Microsoft на конференции Scaled Machine Learning, проходившей в августе в Стэнфорде.

Сегодня ЦОД Microsoft обслуживают сервисы Cortana и Skype Translator, и корпорация постоянно стремится наращивать производительность своих серверов. В частности, совместно с Intel в Microsoft работают над более широким применением кремниевой фотоники, заменяя медные кабели волоконно-оптическими каналами, обеспечивающими более быстрый обмен данными между серверами в ЦОД.

В Catapult v2 возможности FPGA используются шире — теперь с их помощью можно управлять остальными вычислительными ресурсами и поддерживать связь с оперативной памятью, центральным процессором и сетевыми коммутаторами.

FPGA способны не только ускорять работу локальных приложений, но и выступать в роли мощного вычислителя, работающего с моделями глубинного обучения.

Новые серверы существенно улучшены по сравнению с прежней моделью Catapult, в которой область действия FPGA была ограничена небольшой сетью внутри серверов.

Catapult v2 можно использовать для распознавания образов в облаке, обработки естественного языка и других задач, связанных обычно с машинным обучением.

Вторая версия Catapult способна заложить основы использования FPGA в системах машинного обучения. В настоящее время многие модели машинного обучения построены на базе графических процессоров. Между тем китайская интернет-компания Baidu также использовала микросхемы FPGA для организации глубинного обучения в своем ЦОД.

Микросхемы FPGA позволяют быстро получать результаты глубинного обучения, но потребляют слишком много ресурсов, если их не запрограммировать правильно. Они допускают перепрограммирование для настройки на конкретные задачи, но все же недостаточно универсальны. Графические процессоры обладают гораздо более высокой гибкостью и могут управлять разными расчетами, однако FPGA зачастую превосходят их по производительности при выполнении специализированных вычислений.

К FPGA проявляют интерес многие крупные производители компьютерных систем. В нынешнем году, к примеру, известный разработчик микросхем FPGA, Altera, был куплен корпорацией Intel, которая планирует применять чипы FPGA в автомобилях, серверах, роботах, дронах и других устройствах.

Помимо ЦОД самой Microsoft, серверы Catapult для машинного обучения развернуты в центре Texas Advanced Computing Center Техасского университета в Остине. Система, собранная в этом центре, объединяет 32 двухпроцессорных сервера на базе Intel Xeon, каждый из них оснащен 64 Гбайт памяти и чипом FPGA Altera Stratix V D5 с собственной кэш-памятью DDR3 объемом 8 Гбайт.

Пока конкуренты в лице Nvidia и AMD наперебой предлагают рынку графические процессоры, корпорация Intel решила обратиться к сопроцессорам, выполненным в форме FPGA.

Программируемые логические матрицы (field programmable gate arrays, FPGA) представляют собой высокопроизводительные микросхемы, которые подвергаются перепрограммированию для решения специальных задач. В прошлом году в Intel, решив выйти за рамки возможностей универсальных центральных процессоров и предложить для выполнения наиболее требовательных к ресурсам вычислительных задач сопроцессоры, приобрели с этой целью за 16,7 млрд долл. компанию Altera.

Недавно в рамках экспериментальной программы корпорация начала поставлять серверные процессоры, интегрированные с FPGA. Матрица Altera Arria 10 размещается в одном модуле с процессором Xeon E5-2600, разрабатывавшимся под кодовым наименованием Broadwell-EP. Чипы Xeon E5 были представлены в марте.

Со временем технологию FPGA планируется интегрировать с центральным процессором на одном кристалле.

О начале поставок новых продуктов было объявлено на конференции Intel Developer Forum в Шэнчьжэне.

Известно, что FPGA используются корпорацией Microsoft для ускорения выборки результатов поиска Bing, а Baidu применяет их для поиска изображений. Программируемые логические матрицы уступают в универсализме центральным процессорам, посскольку действуют в соответствии с запрограммированной в чипе функциональностью. С некоторыми задачами они справляются быстрее, чем центральный процессор, но при этом потребляют много электроэнергии.

Intel планирует применять FPGA в автомобилях, роботах, серверах, суперкомпьютерах и устройствах Интернета вещей. Уже есть примеры программирования FPGA для изучения генома и выполнения специальных функций в автомобилях. Интеграция FPGA в чипы позволит уменьшить их энергопотребление и организовать прямой канал связи с центральным процессором.

Микросхемы FPGA используются и в телекоммуникационном оборудовании, на рынке, который очень интересен Intel в связи с ожидающимся стремительным развитием технологий 5G. Компоненты и оборудование Intel могли бы составить основу многих систем Интернета вещей, в которых FPGA уже применяются для подключения устройств к облачным сервисам.

Корпорация IBM в партнерстве с производителем микросхем Xilinx намерена расширить использование процессоров IBM Power в серверах и отвоевать часть рынка ЦОД у Intel.

Альянс был сформирован в рамках стартовавшей в прошлом году инициативы Open Power, которая призвана вдохнуть новую жизнь в процессоры IBM за счет передачи другим организациям лицензий на право использования архитектуры Power.

Высокопроизводительные компьютеры на базе процессоров архитектуры Power выпускают сегодня компании Penguin Computing и E4 Computer Engineering. Партнером IBM является также компания Nvidia, графические процессоры которой устанавливаются в суперкомпьютер IBM Watson – возможно, самую известную систему, построенную на базе Power.

В стратегии IBM происходят серьезные перемены. На протяжении долгого времени корпорация оставалась единственным производителем серверов Power, используя при этом главным образом собственные технологии. Но в условиях спада на рынке систем Unix ей пришлось открыть свою платформу и позволить независимым вендорам создавать собственные продукты с процессорами Power.

Компания Xiinix специализируется на разработке программируемых логических матриц (field programmable gate array, FPGA), позволяющие ускорить выполнение некоторых серверных задач. «Соглашение позволит IBM и ее партнерам интегрировать микросхемы Xilinx в системы Power, – отметил президент OpenPower Foundation Брэд Маккреди. – По мере замедления действия закона Мура микросхемы FPGA становятся непременным атрибутом серверных систем, помогающим повышать их производительность. Таким образом удается улучшать стоимостные характеристики и производительность компьютеров, продлевая жизнь закону Мура».

Микросхемы Xilinx будут работать через интерфейс IBM CAPI (Coherent Accelerator Processor Interface), который предоставит им прямой доступ к кэш-памяти процессоров Power, что будет способствовать дальнейшему увеличению производительности.

IBM Power – одна из двух платформ, пытающихся нарушить доминирующее положение архитектуры Intel x86 на серверном рынке. Другой является ARM. Компания Qualcomm анонсировала планы по разработке первого серверного чипа ARM и также объявила о сотрудничестве с Xilinx, предусматривающем интеграцию FPGA с процессорами ARM.

IBM и ARM выстраивают экосистему из оборудования и программного обеспечения, которое могло бы успешно конкурировать с продукцией Intel. А Intel также связывает свои процессоры с микросхемами FPGA. Приобретение Intel компании Altera призвано ускорить реализацию этой стратегии.

Многие клиенты приветствуют развитие альтернативных серверных платформ с более выгодным соотношением цены и производительности. Да и обострение конкуренции должно пойти на пользу отрасли.

Компания Penguin анонсировала новую систему высокопроизводительных вычислений, построенную на основе процессора IBM Power8. Система Magna 2001, занимающая в стойке отсек высотой 2U, имеет 32 слота для установки модулей DIMM и поддерживает до 2 Тбайт оперативной памяти. Как и другие системы Penguin, она работает под управлением Linux.

«Системе, объединяющей до 96 процессорных ядер, вполне может быть отведена роль платформы виртуализации, – указал президент Penguin Том Каул. – Процессоры Power8 поддерживают больший объем оперативной памяти и увеличенную пропускную способность памяти, это делает их пригодными для создания облачных средств хранения. Мы убеждены в том, что архитектура Power станет достойным конкурентом архитектуры x86».

Система Magna 2001, представленная на недавней суперкомпьютерной конференции SC15 в Остине, уже готова к продажам.

Среди других серверов OpenPower, уже присутствующих на рынке, можно отметить две модели тайваньской компании Tyan, систему Cirrascale с графическими процессорами Nvidia и несколько моделей RedPower, продаваемых в Китае.

Свои продукты анонсировали также компания RackSpace и три китайских производителя – Inspur, NeuCloud и Chuanghe. В Китае перед IBM открываются очень большие возможности, потому что китайское правительство поощряет разработку продуктов внутри страны, а модель OpenPower позволяет китайским компаниям налаживать производство как процессоров, так и серверов Power.

Корпорация Intel согласилась заплатить колоссальную сумму в 16,7 млрд долл. за приобретение Altera – компании, у которой имеется как раз то, чего так не хватает Intel: программируемых логических матриц (Field-Programmable Gate Array, FPGA). В прошлом далеко не все крупные приобретения Intel оказывались удачными, и лишь время покажет, чем обернется нынешняя покупка.

Интерес Intel к Altera обусловлен пятью основными причинами.

1. Приобретая технологию FPGA, в Intel готовятся выйти за рамки конструирования и производства центральных процессоров, задачи которых все чаще берут на себя графические процессоры и прочие ускорители.
2. Обладание собственным семейством FPGA поможет Intel укрепить свои позиции на рынке серверов. Серверные процессоры являются для корпорации надежным источником денежных поступлений, что приобретает еще большую важность в условиях замедления рынка ПК и тех трудностей, которые Intel испытывает с продажами чипов для смартфонов и планшетов на процветающем мобильном рынке. Сегодня Intel предлагает производителям серверов и компаниям, занимающимся строительством ЦОД, дополнить собственные серверные процессоры программируемыми логическим матрицами независимых разработчиков. Микросхемы FPGA используются для реализации специальных функций: организации поиска, сортировки и сравнения символьных наборов. Microsoft и Baidu широко применяют FPGA в своих ЦОД.
3. Фабрики Intel работают не с полной загрузкой, а выпуск достаточно сложных микросхем FPGA поможет повысить эффективность использования мощностей и оправдать многомиллиардные инвестиции в развитие производственных технологий.
4. Intel надеется закрепиться на рынке Интернета вещей. Микросхемы FPGA активно используются при создании решений для умных городов, систем промавтоматизации и коммуникационного оборудования, одной из основных инфраструктурных составляющих стремительно растущего Интернета вещей. Приобретение Altera открывает здесь перед Intel новые горизонты и сулит соответствующее наращивание объемов продаваемой продукции.
5. Вхождение Altera в состав Intel затруднит конкурентам доступ к ее разработкам. Если сделка пройдет успешно – ожидается, что для ее завершения понадобится от шести до девяти месяцев, – IBM и ARM придется искать альтернативные источники FPGA для своих серверных продуктов. Конкурентами Altera являются Xilinx, Microsemi, Lattice и ряд других компаний.

По словам Дайаны Брайант, производство сборок Xeon-FPGA планируется начать уже скоро. Источник: Intel

Intel расширяет деятельность по созданию на заказ чипов для онлайн-гигантов вроде eBay и Facebook: специализированные процессоры дают им прибавку в быстродействии и, как надеются в корпорации, еще одну причину продолжать покупать продукцию Intel.

Чипы, разрабатываемые в Intel, содержат серверный процессор Xeon и программируемую логическую матрицу (Field Programmable Gate Array, FPGA), которые помещены в общем корпусе. На FPGA исполняются алгоритмы, разработанные специально для нужд конкретного заказчика.

«По нашим оценкам, при выполнении определенных приложений матрицы FPGA позволяют увеличить быстродействие на порядок по сравнению с обычными Xeon», — отметила Дайана Брайант, генеральный менеджер подразделения Intel по центрам обработки данных.

Для Intel это новая стратегия — еще несколько лет тому назад все клиенты корпорации фактически получали одни и те же процессоры общего назначения. Можно было выбирать разные тактовые частоты, количества ядер и другие особенности, но по сути конструкция чипа была для всех одинаковой.

С появлением онлайн-гигантов наподобие Google, Facebook, Amazon и eBay ситуация изменилась. У этих компаний относительно небольшой набор приложений, но обслуживают они колоссальное число пользователей: единственная рабочая задача может выполняться на десятках тысяч серверов. А еще у онлайн-компаний большие покупательские возможности.

В результате экономика процессорного бизнеса начала меняться. Если заказчик закупает тысячи серверов для какой-то одной рабочей нагрузки, Intel становится экономически выгодно оптимизировать процессор только для этой задачи. Заказчик готов заплатить за проектирование процессора больше, если тот позволит увеличить быстродействие или экономить энергию.

В Intel уже проектировали специализированные чипы на заказ. В прошлом году в корпорации создали примерно полтора десятка уникальных конструкций, в том числе процессоры для Facebook и eBay. Но эти чипы были относительно мало изменены по сравнению с типовыми, к примеру, у них могли быть частично отключены ядра или добавлены дополнительные порты ввода/вывода.

Интеграция FPGA с Xeon — уже другой уровень. В некоторых случаях, по словам Брайант, в Intel «прошивают» в Xeon инструкции алгоритма, отлаженного перед этим на программируемой логической матрице. В этом году в Intel планируют создать уже больше 30 уникальных конструкций чипов.

По мнению Натана Бруквуда, аналитика Insight 64, в Intel поступают разумно: у крупнейших заказчиков корпорации теперь будет меньше заинтересованности в лицензировании конкурентных конструкций процессоров, например ARM, и в оптимизации их для своих алгоритмов. Еще один конкурент x86 — Power8, процессорная архитектура, разработанная в IBM, которую корпорация с недавних пор предоставляет по открытой лицензии. Power8 тестируют в Google.

Как отметила Брайант, есть два варианта использования матриц FPGA. Один из них — провайдер онлайн-сервиса тестирует какую-либо рабочую нагрузку на сборке из Xeon и FPGA, чтобы выяснить, обеспечивает ли она желаемые преимущества. Если да, в Intel аппаратно реализуют специализированный алгоритм в Xeon и выпускают такой процессор отдельно, без FPGA.

Во втором варианте используются возможности перепрограммирования FPGA. Сервис-провайдер покупает серверы на двухчиповой сборке и программирует матрицу в зависимости от рабочей задачи, которую нужно оптимизировать. Если в дальнейшем потребности меняются, чип можно перепрограммировать.

Использование FPGA для ускорения рабочих задач — не новшество, но обычно матрица представляет собой дискретный компонент на системной плате, соединенный с процессором по шине PCIe. По словам Брайант, благодаря размещению FPGA в одном корпусе с процессором, с которым матрица связана интерфейсом Intel QIP, она получает доступ к встроенному кэшу Xeon и его основной памяти. В результате прибавка в производительности, обеспечиваемая FPGA, удваивается по сравнению с использованием матрицы в качестве дискретного компонента, утверждают в Intel.

Брайант сообщила, что программируемые матрицы тестируют сразу несколько облачных провайдеров. Она не уточнила, кто выпускает FPGA для Intel, но известно, что у корпорации есть партнерское соглашение с компанией Altera, которая может быть вероятным кандидатом.

По словам Брайант, производство сборок Xeon-FPGA планируется начать уже скоро. Они будут совместимыми на уровне разъема с обычными Xeon, благодаря чему заказчики смогут устанавливать их в стандартные серверы.

Брайант назвала две тенденции, способствующие спросу на специализированные чипы: появление крупномасштабных облачных приложений, работающих на огромных серверных пулах, и переход на более гибкую программно-конфигурируемую инфраструктуру.

Брайант отметила, что приложения меняются так быстро, что разработчики не успевают проектировать и выпускать на рынок все новые чипы. Использование программируемых логических матриц — отличный способ идти в ногу с инновацией в мире программного обеспечения, добавила она.