В лаборатории компьютерных наук и искусственного интеллекта Массачусетского технологического института разработали новый метод анализа работы нейронных сетей, обученных обработке естественного языка — например, машинному переводу. Он позволяет анализировать работу систем без доступа к информации об их внутреннем устройстве и, как показали авторы, может выявить даже особенности работы переводчиков-людей.

Похожий метод применяется для анализа работы сетей, распознающих изображения. Программа многократно искажает различные части изображения и подает его на вход нейронной сети, выясняя таким образом, какие особенности изображения имеют самое большое значение для его распознавания. Но применить такой метод к тексту напрямую нельзя — непонятно даже, что вообще значит «исказить текст», отмечают авторы. Они предложили использовать для генерации текстов еще одну нейронную сеть. Эту сеть обучают переводить предложения на естественном языке в сжатый цифровой вид и приблизительно, с определенной долей вероятности, как делают нейронные сети, восстанавливать по нему первоначальное предложение. Например, предложение «она ахнула от удивления» после такого преобразования может превратиться в «она взвизгнула от удивления» или «она ахнула от страха». Таким способом авторы получили большое количество тестовых примеров для перевода.

Одним из наиболее любопытных результатов анализа оказалось влияние на выбор рода слов при переводе гендерных предубеждений в текстах, на которых обучалась нейросеть. Английское слово dancer (у которого род отсутствует) можно перевести и как «танцовщик», и как «танцовщица». Но нейросеть с гораздо большей вероятностью переводила его как «танцовщица», если в английском предложении оно сопровождалось прилагательным charming («очаровательный» или «очаровательная»).

Компания Juniper Networks объявила о приобретении американского стартапа Cyphort, занимающегося разработкой платформ выявления сложных угроз, анализа и минимизации последствий. Технологии Cyphort планируется включить в выпускаемые компанией Juniper программы семейства Sky Advanced Threat Protection.

В платформе Cyphort используются методы поведенческой аналитики, машинного обучения и анализа исторических данных. Она поддерживает работу на виртуальной инфраструктуре, в облачных средах и на граничных устройствах.

Открытая архитектура платформы Cyphort позволяет интегрировать ее с имеющимися средствами безопасности, отмечают в Juniper, и использовать для выявления атак, преодолевших первую линию защиты. Аналитические технологии Cyphort дополняют возможности традиционных платформ информационной безопасности и управления событиями (SIEM) и, в некоторых случаях, могут оказаться проще и эффективнее, говорится в заявлении компании.

Компания Cyphort начала работу в 2011 году. Она провела четыре раунда финансирования, в ходе которых ей удалось привлечь 53,7 млн долл. венчурных инвестиций от Matrix Partners, Trinity Ventures, Sapphire Ventures, Foundation Capital и Dell Technology Capital.

Система ICU Intervene изучает данные о состоянии пациента и прогнозирует необходимость применения в ближайшем будущем (вплоть до нескольких часов) важных процедур — искусственного дыхания, поддержания кровяного давления, инфузионной терапии и так далее. Систему обучали на созданной в МТИ базе данных MIMIC, содержащей анонимные истории болезни примерно 40 тыс. пациентов отделений интенсивной терапии.

Система EHR Model Transfer решает другую важную задачу: использование обученной системы искусственного интеллекта при изменении способов записи данных в электронных медицинских картах. В больницах используются разные средства ведения электронных карт, что сильно затрудняет анализ данных. EHR Model Transfer анализирует карты методами обработки естественного языка и определяет, как в них представлены общие медицинские понятия: давление, пульс и прочие.

На недавней выставке Siggraph специалисты МТИ и Google представили совместную разработку — систему автоматического ретуширования фотографий, способную выполняться на смартфоне и отображать результаты в режиме реального времени, пока фотограф еще только кадрирует снимок.

Система действует по принципу машинного обучения; ее обучили на парах фотографий, в каждой из которых один снимок представлял собой необработанную версию, а второй — то же изображение, отретушированное профессионалом. Соответствующий учебный набор из 5 тыс. пар снимков был подготовлен авторами Photoshop из компании Adobe. Дополнительное обучение было проведено на изображениях, обработанных алгоритмами улучшения качества, в частности, расширения динамического диапазона.

Система частично базируется на разработке ученых МТИ, которая генерирует «рецепты трансформации» снимка по его версии с более низким разрешением. В Google, в свою очередь, предложили выводить формулы преобразования не с помощью вычислений, а посредством машинного обучения. Как показало тестирование, система, в частности, выдает результаты не хуже, чем у новой реализации алгоритма HDR от Google, но на порядок быстрее.

Кризисные явления в отечественной экономике, обострение конкуренции и изменение нормативных требований заставляют предприятия искать пути оптимизации свой работы. Как следствие, резко возросла роль таких технологий, как искусственный интеллект. Александр Хайтин, исполнительный директор Yandex Data Factory, международного подразделения компании «Яндекс», специализирующегося на анализе больших данных и применении технологий машинного обучения, отметил в ходе сессии, что технологически сегодня почти нет проблем с тем, чтобы накапливать информацию любого объема, главное осознавать, зачем? Сегодня, по убеждению Хайтина, только в промышленности, энергетике и на транспорте имеется понимание того, как и где надо применять машинное обучение, предсказательную и рекомендательную аналитику. «Технологии развиваются там, где есть деньги, а деньги и большие данные есть в промышленности», — обратил внимание Хайтин. Промышленность обременена дорогостоящим оборудованием, и если, например, ретейл может провести ребрендинг, переключиться на продажу другого продукта, и при этом все накопленные данные мгновенно теряют ценность, то в промышленности это не так, что стимулирует к работе с историческими данными и поиску способов эффективно применять машинное обучение, искусственный интеллект. Например, реализованный на Магнитогорском металлургическом комбинате при участии YDF проект «Снайпер» позволил сократить расход ферросплавов в среднем на 5%, что дало комбинату экономию почти 300 млн руб. в год. Система получает данные по исходному составу и массе шихты, требования по содержанию химических элементов в готовой стали, после чего в реальном времени, опираясь на накопленные за семь лет данные по выполненным плавкам, выдает рекомендации оператору.

Как было отмечено в ходе данной сессии, если сейчас проводится лишь оптимизация отдельных элементов технологического процесса, то в эпоху цифровой экономики будет востребована комплексная автоматизация, осуществление которой невозможно без аналитики и решений на базе нейронных сетей. Анил Менон, глобальный президент Cisco, отвечающий за направление «Умные и подключенные сообщества», отметил, что результатом цифровой трансформации станет соединение несоединимого – горизонтальная интеграция всех систем и смена бизнес-модели под влиянием искусственного интеллекта, причем именно промышленность станет катализатором этого процесса и потянет за собой другие отрасли. Однако пока, по словам Хайтина, не решен еще вопрос ответственности – если, например, модель предсказала поломку оборудования, а при проверке оказалось, что оно исправно, то кто будет отвечать за простой? Дополнительно Хайтин назвал еще одно препятствие на пути индустриальных проектов машинного обучения: «Когда мы только начинали, нас спросили, чем мы лучше IBM? И оказалось, что нам трудно ответить на этот вопрос. Но через несколько месяцев ответ сформировался – мы берем ответственность за результат. Сейчас во всех договорах YDF фиксируется ожидаемый эффект, и в зависимости от него мы получаем оплату».

Дмитрий Лукьянов из «Лаборатории Касперского» обратил внимание на проблему обеспечения кибербезопасности интегрированных промышленных систем: 2013 год – остановка доменной печи в Германии, 2010-й – сбой в работе центрифуги в Иране и др. Если бы на этих объектах было развернуто решение Kaspersky Industrial CyberSecurity, позволяющее обнаруживать аномалии в работе промышленных систем, то оператор в Иране получил бы уведомление о попытках увеличения скорости вращения центрифуг, однако для этого администраторам надо было бы прежде установить граничные условия, что еще раз говорит о роли человеческого фактора в цифровой экономике.

Очки Microsoft HoloLens не приковывают к себе сегодня всеобщего внимания, но это не значит, что Microsoft остановила их разработку. Инженеры корпорации подтвердили, что HoloLens продолжают совершенствоваться и недавно получили новый чип, ориентированный на алгориты машинного обучения.

Новое поколение «голографических процессоров» (Holographic Processing Unit, HPU) будет поддерживать операции, характерные для нейронных сетей и искусственного интеллекта. Это не означает, впрочем, что в качестве интерфейса с пользователем непременно будет выступать виртуальный ассистент Cortana, но распознавать окружающий мир HoloLens будут с помощью искусственного интеллекта.

Вторую версию голографического процессора продемонстрировал исполнительный вице-президент Microsoft Artificial Intelligence and Research Group Гарри Шум. По его словам, корпорация разработала полностью программируемый чип.

Процессор HPU корпорации Microsoft – один из главных компонентов HoloLens, отвечающий за обработку всей информации, поступающей с датчиков устройства, в том числе с датчика движения, датчика времени пролета, устройства инерционного контроля и инфракрасной камеры.

Еще один важный момент заключается в том, что устройство является полностью автономным. Поскольку очки HoloLens не привязаны к компьютеру, они не зависят от его вычислительной мощности. Их мозгом является HPU.

Какие объекты способен распознавать голографический процессор, пока неясно. В своем нынешнем виде HPU (а соответственно, и HoloLens) распознает поверхности и их границы, проецируя поверх них объекты реального мира.

Выйдут ли очки HoloLens на массовый рынок, или же эта технология сохранит свое специализированное назначение, пока неясно. Microsoft не сообщает ни о сроках выпуска голографических процессоров следующего поколения, ни о возможности появления новых моделей HoloLens, созданных на их основе. Несомненно лишь то, что предприятия начинают переосмысливать сферу дополненной реальности. Google, много лет разрабатывающая Google Glass, в последнее время пытается превратить свои очки в бизнес-инструмент. На этот же самый рынок в Microsoft изначально ориентировали и HoloLens.

Американский разработчик программного обеспечения автоматизации бизнеса Infor представил инструментарий с поддержкой искусственного интеллекта Coleman, который призван помочь клиентам быстрее принимать более эффективные решения на основе анализа данных, хранящихся в их системах ERP.

Возможности искусственного интеллекта становятся все более популярными в сегменте корпоративного программного обеспечения, и крупные разработчики начинают интегрировать в свои бизнес-приложения функции машинного обучения.

Платформа Coleman названа в честь Кэтрин Коулман Джонсон, афроамериканского физика и математика, чьи расчеты сыграли важнейшую роль при высадке астронавтов НАСА на Луне. В Infor отмечают, что Coleman поддержит ранее выпущенные облачные приложения, в том числе ERP и аналитические средства, и поможет пользователям принимать более быстрые и точные решения.

Предусмотрены различные сценарии использования технологий, заложенных в Coleman. Поддерживается, к примеру, голосовое взаимодействие. «Для чата и голосового общения мы делаем ставку на те же механизмы, что и Amazon Alexa и другие платформы искусственного интеллекта», – заявил президент Infor Дункан Ангов в ходе клиентской конференции в Нью-Йорке.

Благодаря функциям распознавания речи пользователи имеют возможность получать советы и рекомендации по поводу того, какие приложения следует применять для решения тех или иных задач и что имеет смысл добавить.

Приложения эти могут найти применение и при автоматизации рутинных и трудоемких процессов в финансовых подразделениях. «Исследования показали, что к 2020 году свыше 40% задач в финансовых подразделениях будут решаться роботами, наделенными искусственным интеллектом, – указал Ангов. – Coleman будет выполнять несложные процедуры, например, сопоставлять накладные, согласовывать отчетность и оценивать кредитные риски в отношении новых клиентов».

Еще одна потенциальная сфера применения связана с Интернетом вещей. В качестве примера можно привести прогнозирование отказов компонентов оборудования и размещение в системе управления заказами на обслуживание техники выездными инженерами.

В технологии, которая положена в основу Coleman, нет ничего революционного, но платформа находится пока на этапе становления, и функционал ее будет расширяться постепенно. Отдельные компоненты машинного обучения ранее встраивались в программное обеспечение, и сегодня элементы Coleman уже доступны пользователям. Но если прежде алгоритмы машинного обучения применялись к специализированным приложениям в вертикальных решениях, то Coleman – это платформа, охватывающая все программные приложения Cloud Suite, доступные через API ION.

Хотя Infor и позиционирует Coleman в качестве «платформы», для различных отраслевых вертикалей доступна разная функциональность. Даже оптимизация цен применительно к гостиничному бизнесу, к примеру, работает не так, как применительно к розничной или оптовой торговле.

Coleman будет поставляться главным образом в составе Cloud Suite, и дополнительная плата взиматься не будет. Разработчики надеются, что это побудит клиентов отказаться от ранее предлагавшегося программного обеспечения, развертываемого локально. Однако например, предварительно настроенный модуль прогнозирования спроса на основе машинного обучения может продаваться отдельно.

«В целом мы рассматриваем Coleman как составную часть Cloud Suite, являющуюся дополнительным стимулом перейти на это решение», – отметил Ангов.

Российский разработчик систем поиска «Яндекс» представил библиотеку машинного обучения с открытым кодом, которая должна помочь разработчикам в создании более точных моделей машинного обучения благодаря применению технологии так называемого градиентного бустинга.

Библиотека CatBoost проектировалась с расчетом на то, что исследователи данных смогут использовать ее в готовом виде для создания моделей прогнозирования, объединяющих множество различных типов данных и их источников.

Руководитель направления машинного интеллекта и исследований «Яндекса» Михаил Биленко в беседе с корреспондентом британской версии Computerworld констатировал, что несмотря на обилие хороших алгоритмов с открытым кодом выбор библиотек для градиентного бустинга, мягко говоря, невелик.

CatBoost предоставляет широкие возможности создания моделей прогнозирования, задействующих различные источники данных, к числу которых относятся датчики, а также исторические и транзакционные данные. «Большинство конкурирующих алгоритмов градиентного бустинга требуют конвертации дескрипторов данных в цифровую форму, тогда как CatBoost способен непосредственно поддерживать категориальные данные, что экономит бизнесу время, одновременно повышая точность и эффективность», – указал Биленко.

Как правило, градиентный бустинг объединяет несколько деревьев решений для «придания ускорения» модели прогнозирования. По сути, это позволяет разработчикам анализировать различные формы данных в рамках эталонной модели. Биленко называет градиентный бустинг «клейкой лентой машинного обучения».

Технология градиентного бустинга широко применяется при выдаче высокоточных рекомендаций, создании моделей прогнозирования, распознавании мошенничества и в задачах ранжирования. «Особую эффективность придают ей две особенности, – подчеркнул Биленко. – Она позволяет получать отличные результаты без дополнительных настроек, которых обычно требуют другие методы машинного обучения, и обеспечивает мощную поддержку большинства описательных форматов данных при решении многих бизнес-задач».

Российский поисковый гигант уже встроил алгоритмы машинного обучения в целый ряд своих продуктов, начиная от базового поиска, средств персонализации и распознавания речи в своих сервисах перевода и заканчивая технологиями маршрутизации и обеспечения автономного передвижения автомобилей в онлайн-сервисе заказа поездок «Яндекс.Такси».

Кроме того, CatBoost используется аналитиками Европейской организации ядерных исследований (ЦЕРН) для повышения точности своих алгоритмов.

Библиотека CatBoost проектировалась с прицелом на корпоративных клиентов. Она уже интегрирована с популярными инструментами глубинного обучения (Google TensorFlow) и языками программирования (Python).

Известно, что библиотека TensorFlow была создана на основе DistBelief. Аналогичным образом и CatBoost тоже можно отнести к числу библиотек второго поколения. В ней были улучшены внутренние алгоритмы, разработанные «Яндексом» в рамках технологии MatrixNet, которую Биленко назвал «жемчужиной в короне компании».

«Приступив к проектированию платформы градиентного бустинга следующего поколения, мы понимали, что практическую пользу от нее можно будет получить лишь в случае передачи ее сообществу открытого кода», – подчеркнул он.

«Яндекс» стремится извлекать уроки из опыта Google и TensorFlow.

«Поначалу реакция сообщества на TensorFlow была негативной, потребовались несколько итераций, – пояснил Биленко. – Мы понимаем, что и наш путь будет нелегким. Поддерживая обратную связь с клиентами, мы готовы к выпуску следующих версий, к интеграции и масштабированию».

Модели, созданные при помощи CatBoost, совместимы с платформой Apple Core ML – соответствующие приложения могут проектироваться на основе моделей CatBoost.