Метод основан на использовании принципа «группы экспертов», когда несколько моделей, обученных выполнению разных заданий, комбинируются с фильтрующей нейросетью, которая путем подсчета вероятностей выбирает эксперта, лучше других способного справиться с распознаванием эмоций человека, которого не было в обучающей выборке.

Модель обучали на записях видеочатов, где выражения лица на каждом кадре были предварительно указаны вручную. Как показали эксперименты, чтобы адаптировать модель для еще незнакомых ей участников видеочата, достаточно провести дополнительное обучение всего на 5-10% кадров новой записи, после чего модель интерпретирует эмоции людей на ней гораздо точнее традиционных систем, в которых такая персонализация не используется.

Со временем благодаря подобным разработкам мобильные приложения, обращая внимание на настроение пользователя, могли бы, например, начать рекомендовать способы справляться со стрессом и переживаниями, полагают исследователи.

Нейронные сети выходят из исследовательских центров и становятся инструментом развития бизнеса. О том, что способствует развитию этой сферы и что тормозит совершенствование и внедрение сетей, а также о российских разработках в этой области на практической конференции «Технологии машинного обучения 2018», которую издательство «Открытые системы» проведет 25 сентября, расскажет Станислав Ашманов, сооснователь компании «Нейросети Ашманова».

- Нейросетям не один десяток лет, почему они сейчас «взлетели»? Что мешало раньше?

Я вижу три причины. Во-первых, нейронные сети очень «прожорливые», им нужны большие вычислительные мощности. И раньше просто не удавалось довести процесс обучения нейросетей до того момента, когда бы они хоть что-то запоминали и хорошо классифицировали. Сейчас производительность процессоров выросла, появились мощные графические чипы, и то, что раньше делалось на серверном кластере за месяц, сейчас обсчитывается за час на ноутбуке.

Вторая причина – данные. Пожалуй, важнейшая причина. Нейросетям нужно много данных для обучения, гораздо больше, чем другим методам машинного обучения. И в достаточном количестве они появились только в последние годы.

Ну и, наконец, в 2000-х годах было придумано несколько алгоритмов, которые улучшили сходимость методов обучения нейросетей, то есть мы научились правильно их обучать. Три эти фактора сложились, и оказалось, что нейросети во многих классах задач намного лучше других методов машинного обучения. Например, при распознавании речи, классификации изображений, машинном переводе.

- В каких сферах сейчас в наибольшей степени пользуются нейросетями и кому еще они могли бы быть полезны?

Лидеры – крупнейшие корпорации типа Google, Facebook, Microsoft. Те, у кого огромные пользовательские базы и соответственно огромные массивы данных.

Данные, как я уже говорил, — это главное. Google, например, выкладывает в открытый доступ алгоритмы, но не выкладывает данные, потому что алгоритм ничего не стоит, если нет данных. А если есть данные, то найдутся и алгоритмы. Поэтому в области нейросетей трудно небольшим стартапам — им тяжело найти данные для обучения.

Конечно, впереди, как всегда, те, кто ближе к деньгам, — финансовые предприятия. Для них очень легко считается выгода от внедрения машинного обучения. Насчет других областей сложно сказать, везде свои проблемы. В медицине, например, трудно собирать данные, там они очень многофакторные.

- А розница? У нее много пользователей и данных о них...

Ретейлеры – они очень прагматичные. Уговорить их разработать что-то очень тяжело. Они готовы платить за коробочные решения, предназначение и результат внедрения которых понятен, но не готовы платить за исследования и разработки. Они сразу спросят: "Насколько эта разработка увеличит нам продажи?»

А нынешнее состояние нейросетей гарантии возврата средств не дает. Коробочные решения существуют для узкого спектра задач, например по распознаванию лиц, да и там требуется адаптация под конкретные условия.

- То есть «нейронная сеть как сервис» пока еще не востребована?

Пока в области нейросетей принято делать все внутри самой компании. Мода такая. Все создают собственные отделы машинного обучения, благо в открытом доступе можно найти инструментарий, разработанный лидерами рынка искусственного интеллекта. Воспользоваться бесплатным ПО всегда заманчиво, правда потом выясняется, что с ним есть проблемы — низкое качество и скорость работы, не получается его модифицировать под свои нужды и т.д.

Но постепенно, я думаю, эта мода пройдет, и большая часть заказчиков начнет пользоваться услугами специализированных компаний.

- Создать «свою» исследовательскую структуру в области нейросетей — дорогое удовольствие?

Специалисты на рынке нейросетей и машинного обучения — дефицит, во многом это вина тех же западных ИТ-гигантов, которые «высасывают» со всемго мира людей на огромные зарплаты.

Машинное обучение требует хорошей математической подготовки и инженерных навыков, а это то, в чем русские хороши. Так что из России тоже людей вытягивают туда, поэтому создавать свой отдел довольно дорого. Как мне кажется, минимально нужно иметь пять исследователей с зарплатами тысяч по 200 в месяц. И это чисто на разработку, без прочих затрат, например на сбор и очистку данных, серверы.

- Точность нейросети можно повышать бесконечно в процессе обучения? Или есть некий предел?

Точность работы нейросети вообще вопрос сложный. Мы, когда беремся за задачу, часто не знаем, сможем ли вообще ее решить. Задача может принципиально быть нерешаема, может данных не хватить или они окажутся «грязными»…

Если же говорить о ситуации, когда каких-то результатов уже добились, встает вопрос — либо для увеличения точности придумывать новые архитектуры сетей и методы обучения, либо собирать больше данных. С данными всегда проблемы, их сбор и разметка трудоемки, при этом не всегда понятно: если собрать их вдвое больше, станет ли от этого лучше.

Есть эвристические методы для оценки того, поможет ли увеличение количества данных. Предположим, у нас есть 100 тысяч обучающих примеров, скажем, картинок. Тренируем систему на них, потом тренируем ее с нуля на половинном объеме, на 50 тысячах. Если качество распознавания существенно упало, то имеет смысл собрать еще 100 тысяч картинок и посмотреть, станет система работать лучше или нет. Если же уменьшение обучающей выборки вдвое не ухудшило качество работы, то, вполне вероятно, мы по объему выборки достигли насыщения.

- А как оценить экономическую выгоду от внедрения или повышения точности работы нейросети?

Прежде всего, надо задаться вопросом, а действительно ли нужно в вашем проекте использовать машинное обучение? Задача данной технологии — повысить эффективность какого-то процесса, либо снизить его стоимость, либо вообще получить какой-то новый эффект, которого раньше не было.

В третьем случае все понятно. А в двух других надо тщательно все взвешивать.

Приведу пример не из моей практики, но реальный. Заказчик говорит: «Нам нужна машинная морфология, чтобы просклонять все наименования товаров, потому что нам нужен поиск, а они у нас там в разных падежах». После подсчетов выясняется, что у него всего тысяча этих наименований, и никакая там машинная морфология не нужна. Эту тысячу можно за несколько дней занести в базу.

Или другой случай. Заказчик хочет автоматизировать распознавание рукописного текста записок от клиентов банка, чтобы заменить людей, которые этим занимаются. Начинают обсчитывать, сколько это будет стоить, прорабатывать ТЗ, данные искать. А потом кто-то догадывается спросить: «А сколько у вас людей занято этой работой?» И оказывается, что на весь банк пять человек с небольшой зарплатой. Ну и становится понятно, что заказная разработка системы распознавания в обозримом будущем не окупится.

- Вы в тезисах к конференции употребляете выражение «искусственные нейронные сети». «Искусственный» — это противопоставление человеческому мозгу или на горизонте виднеются какие-то перспективы использования нейросетей на природных элементах?

Нейросети так называются потому, что так их назвали. К работе мозга они не имеют отношения, и вряд ли нейрофизиологи, которые изучают, как мозг устроен, принесут что-то полезное в мир машинного обучения. Были забавные эксперименты — нейрофизиологи попытались исследовать старые простейшие процессоры своими методами, ничего не получилось.

Так что прогресс нейросетей будет достигаться другими средствами — разработкой новых алгоритмов (а может, исследователи снова откопают и заставят работать что-то 50-летней давности, как было с нейронными сетями), переходом на специализированные нейроморфные чипы, которые позволяют экономнее и быстрее производить вычисления в нейросетях. Они постепенно становятся доступны широкому рынку.

- Традиционный вопрос – о чем вы будете рассказывать на конференции и о чем хотите услышать сами?

Я хотел бы поговорить о средствах конструирования и обучения нейросетей, нейросетевых библиотеках. Сейчас на рынке сложился стандарт – TensorFlow от Google и видеокарты от Nvidia. И многим кажется, что лидеры определились надолго. Но я полагаю, что в обеих сферах грядут изменения. Intel с AMD борются с Nvidia, про нейрочипы я уже говорил, да и библиотека Google — вовсе не верх совершенства, она довольно медленная и неудобная. Ну и, конечно, про состояние дел в России расскажу, про нашу собственную библиотеку для нейросетей PuzzleLib.

Мне самому интересны доклады о практическом опыте внедрения методов машинного обучения, с какими проблемами сталкиваются заказчики и как они эти проблемы решают. Поскольку на конференции будет много практиков, думаю, мне удастся этот свой интерес удовлетворить.

Первый андроид «Маруся» заработал 6 сентября в московском «Коламбусе». Робот встречает гостей у входа в торговый центр и перемещается на первом этаже. «Маруся» за шесть месяцев была разработана компанией «Альфа Роботикс», которая интегрировала в конструкцию модуль оплаты и доработала необходимое ПО, позволяющее роботу общаться с покупателями, предлагать блюда «Теремка», оформлять заказы и выдавать чеки. Справедливости ради надо отметить, что андроид вовсе не заменяет кассира, поскольку располагается не в самом кафе, а на первом этаже торгового центра. «Маруся», скорее, привлекает внимание посетителей уже на входе в здание, развлекает их и, выполняя простейшие действия по стимулированию продаж, способствует увеличению потока клиентов в «Теремок». Никого пока не сократят, обещают в компании.

Как рассказал основатель и управляющий сети ресторанов «Теремок» Михаил Гончаров, сделать робота только для промоушена показалось скучным, поэтому решили совместить заказы и развлечения. Хотелось создать «нечто не виданное доселе и достаточно дешевое», продолжает генеральный директор компании «Альфа Роботикс» Владимир Венеров. По его словам, изначально задумывалось, что для расположения к себе людей робот должен быть антропоморфным (высотой не более 160 см, чтобы не подавлять), уметь жестикулировать, автономно передвигаться, распознавать лица и речь, обладать приятными голосом и внешним видом. Такой «Маруся» и получилась. Технически она реализована с использованием технологий машинного обучения. «Маруся» пока не всегда точно отвечает на вопросы, но уже излагает, например, законы робототехники и законы Ньютона. Обучается она в облаке, самостоятельно и с помощью человека.

В рамках пилотного проекта «Теремок» будет пристально анализировать результаты работы андроида. В случае успеха в среднесрочной перспективе компания планирует разместить подобные конструкции во многих кафе. По словам Гончарова, роботы уже широко используются на промышленных предприятиях, вторая волна роботизации затронет сферу обслуживания — ретейл и ресторанный бизнес. «Теремок» хочет одним из первых овладеть новыми технологиями, которые позволяют человеку не делать нудную, грязную или опасную работу. Кроме того, робот не устает и не раздражается.

Приготовлением еды «Маруся» заниматься не будет: сейчас это экономически не выгодно. Не станет «Маруся» и провожать посетителей до столиков. «Альфа Роботикс» уже столкнулась с повышенным интересом людей к андроиду, что не позволяет роботу нормально дойти до места. К слову, роботы этой модели были задействованы и в других проектам, например, в российском и немецком сериалах, российском и израильском театрах. Их можно настроить на семь разных языков.

Срок службы «Маруси» составляет семь лет. На ее создание потребовались миллионы рублей, но в «Теремке» надеются, что они окупятся.

Результаты нового исследования OpenText показывают: более четверти австралийцев убеждены в том, что искусственный интеллект принимал бы решения лучше, чем это делают политики.

Исследование было проведено весьма своевременно, если учесть, что Австралия только что пережила очередную смену лидера: место Малколма Тернбулла занял Скотт Моррисон. Причем Моррисон – уже седьмой премьер-министр страны за последние семь лет.

В исследовании выделены четыре ключевые области: государственное управление, рынок труда, здравоохранение и беспилотные автомобили.

Что касается госуправления, 40% австралийцев убеждены в том, что в течение ближайших пяти лет искусственный интеллект «войдет» в правительство, а 27% уверены: искусственный интеллект будет принимать решения лучше избранных представителей общества, но при этом хотели бы, чтобы окончательный выбор все же оставался за человеком.

Ожидается, что искусственный интеллект радикально изменит ситуацию в госсекторе и повысит скорость, устойчивость и качество правительственных инициатив. Благодаря нему государственные структуры будут лучше удовлетворять потребности граждан.

Опрошенные признают ценность роботизации бизнес-процессов (Robotic Process Automation, RPA), которая помогает сократить сроки ожидания, повысить качество администрирования и устранить ошибки в государственном секторе.

Большинство (56%) респондентов убеждены в том, что в ближайшие 10 лет правительство будет внедрять RPA. Эта доля выше, чем в США (где аналогичного мнения придерживаются только 38% опрошенных), но ниже, чем в Нидерландах (там в экспансию роботов в госсекторе верят 73%).

25% респондентов были бы рады появлению на их работе роботов, берущих на себя часть повседневных задач. При этом на сегодняшний день только 39% австралийцев готовы трудиться вместе с роботами.

Исследование показало, что вопросы конкуренции с роботами на рынке труда мало кого волнуют. Лишь один из десяти (11%) опрошенных опасается, что на работе его заменит робот, а 56% убеждены в том, что их роль никогда не подвергнется автоматизации.

В области здравоохранения 28% австралийцев считают, что искусственный интеллект помогает ставить более точные диагнозы, а 21% убежден в возможности получения более быстрых результатов. Каждый третий готов доверять диагнозу, поставленному искусственным интеллектом.

32% респондентов полагают, что робомобили сделают движение более безопасным, а 24% вполне комфортно ощущали бы себя в качестве пассажиров беспилотного автомобиля.

Каждый третий (30%) твердо уверен, что количество робомобилей на дорогах никогда не превысит число обычных. Около 45% никогда не намерены приобретать либо арендовать автомобили, которые умеют ездить без водителя.

Осторожный оптимизм

В то же время большинство австралийцев продолжают проявлять осторожность или просто не знают о возможностях, предоставляемых искусственным интеллектом в повседневной жизни. Только один из пяти опрошенных (18%) в течение последнего года контактировал с той или иной формой искусственного интеллекта.

Несмотря на наличие голосовых помощников (популярность Siri и Alexa продолжает расти), результаты опроса, в котором принимала участие 1 тыс. австралийцев, показывают, что большинство из них искусственный интеллект не впечатляет, даже если им приходится постоянно сталкиваться с ним на мобильных устройствах или в процессе общения с чатботами. Только 21% доволен технологией, а 19% сообщили, что столкновения с искусственным интеллектом заставляют их нервничать.

По словам регионального вице-президента OpenText Майка Лорда, предприятия активно проводят цифровую трансформацию, а организации, работающие в сфере здравоохранения, все чаще обращаются к медицинским технологическим инновациям, в результате чего искусственный интеллект начинает проявляться во всех аспектах нашей жизни.

«Все больше и больше австралийцев видят преимущества, которые приносит искусственный интеллект как в работе, так и в повседневной жизни, в том числе и в государственном секторе, – указал Лорд. – Выполняя все больше рутинных, бытовых операций, искусственный интеллект, средства автоматизации и роботизации помогают нам становиться более эффективными и экономить время. В научно-фантастических фильмах последствия внедрения технологий искусственного интеллекта, как правило, искажаются. Пора перестать рассматривать искусственный интеллект в качестве угрозы существованию человека, нашей жизни и здоровью. Искусственный интеллект видоизменяет рабочее место, решая повседневные задачи с помощью роботизации и автоматизации процессов, но он никогда не вытеснит людей. Истинная ценность искусственного интеллекта заключается в том, что он способен работать параллельно с людьми, снижая нагрузку на них. Он проникает и в сферу здравоохранения, делая нашу повседневную жизнь более комфортной».

Аналитики Gartner определили положение на кривой хайпа ряда развивающихся технологий, предназначенных для облегчения взаимодействия человека и машин. В анализ цикла зрелости развивающихся технологий включается свыше двух тысяч технологий, объединенных в 35 групп. Аналитики выделяют пять главных тенденций настоящего этапа развития.

Демократизация искусственного интеллекта. Технологии искусственного интеллекта в ближайшие десять лет появятся повсюду и будут доступны массам потребителей. К ним относятся платформы искусственного интеллекта в виде сервиса, искусственный интеллект общего назначения, самоуправляющиеся автомобили, автономные мобильные роботы, разговорные платформы искусственного интеллекта, нейронные сети с глубинным обучением, летающие автономные транспортные средства, интеллектуальные роботы и виртуальные помощники. Почти все эти технологии находятся на подъеме к «пику завышенных ожиданий» кривой зрелости, кроме самоуправляющихся автомобилей, которая уже спускается в «долину разочарования», а в широкое применение войдет не раньше, чем через десять лет, полагают аналитики.

Цифровизированные экосистемы. Развивающиеся технологии требуют перестройки платформ, обеспечивающих им необходимые объемы данных, вычислительные мощности и универсальность экосистем. Переход от изолированной инфраструктуры к платформам, поддерживающим экосистемы, закладывает основы совершенно новых моделей бизнеса. В этой области главными технологиями являются блокчейн и его применение для обеспечения безопасности данных, цифровые двойники (дублеры), платформы Интернета вещей и графы знаний. Технологии блокчейна и Интернета вещей уже прошли пик и в ближайшие 5-10 лет достигнут зрелости.

Самостоятельный биохакинг. Аналитики полагают, что технологии дополнения и изменения человеческого тела электронными средствами начнут распространяться в течение следующего десятилетия. К ним относятся биочипы, искусственные и выращенные ткани, нейрокомпьютерные интерфейсы, дополненная и смешанная реальность и «умный» текстиль. Большинство из них находится на пике ожиданий, а технологии дополненной и смешанной реальности уже спустились в долину и могут через несколько лет войти в широкое применение.

Технологии прозрачного погружения предназначены для расширения возможностей компьютеризованных жилых и рабочих помещений и прочих мест пребывания людей. Эти технологии находятся на пути к пику ожиданий, и среди них аналитики выделяют 4D-печать, технологии подключенного дома, пограничного искусственного интеллекта, самовосстанавливающиеся систем, аккумуляторы с кремниевыми анодами, «умную» пыль, «умные» рабочие места и объемные экраны.

Наконец, быстро движутся к пику технологии, обеспечивающие работу всегда доступной и неограниченной вычислительной инфраструктуры: связь 5G, углеродные нанотрубки, специализированные микросхемы для нейросетей глубинного обучения, нейроморфная аппаратура и квантовые компьютеры.

Технологии машинного обучения вышли из стен исследовательских лабораторий и все чаще применяются в повседневной жизни. О том, как они используются производственными предприятиями, рассказывает Ольга Плосская, руководитель проектов отдела анализа данных компании Visiology, внедрявшей системы машинного обучения на предприятиях разных отраслей. Плосская — один из докладчиков практической конференции «Технологии машинного обучения 2018», которую издательство «Открытые системы» проведет 25 сентября.

- Какие типовые задачи решают производственные предприятия при помощи средств машинного обучения?

Во-первых, это задачи по оптимизации технологического процесса — повышению производительности оборудования путем более рационального использования или сокращению расхода сырья на единицу выпускаемой продукции.

Второй большой класс задач связан с предсказанием вероятности выхода из строя оборудования. Их цель — приняв меры по профилактике, обеспечению на складе нужных запчастей, минимизировать издержки из-за поломок и простоев оборудования.

Также можно оценивать, как повлияют на деятельность предприятия внешние риски, например валютные, или использовать машинное обучение для управления цепочками поставок: прогнозирования спроса, оптимизации управления закупками, доставкой, хранением, поддержанием оптимальных складских запасов.

- Из каких стадий состоит типовой проект в этой области?

Прежде всего необходимо сформулировать бизнес-задачу, задокументировать цель проекта, например «повысить производство такого-то продукта на 10%». Эта цель должна обязательно быть выражена в четких цифрах, иметь понятную методику измерения, а также экономическое обоснование.

Дальше надо уяснить, какие данные для анализа есть. Обычно имеется большой массив данных из различных ИТ-систем. Эти данные нужно классифицировать, очистить, нормализовать, понять, какие методы обработки применить, какие алгоритмы могут сработать. То есть оценить, можно ли решить задачу с помощью этих данных.

Когда с данными все становится более или менее ясно, можно переходить к моделированию и прототипированию. Ну а дальше идут собственно обучение, валидация и тестирование на контрольных выборках.

Перед тем как выходить на полноценную разработку, важно провести предварительный эксперимент с моделями-кандидатами, чтобы понять, насколько они применимы. По своему опыту могу сказать, что может возникнуть ситуация, когда модель, например на этапе анализа данных, очень точная, ошибки — сотые доли процента, а в реальных условиях, когда появляется обратная связь с технологическим процессом, зависимость от действий оператора установки, модель начинает себя вести «неправильно». Поэтому мы в процессе разработки проводим небольшие «натурные» эксперименты, регулярно общаемся с технологами, операторами, пользователями, вовлекаем их в работу. Необходимо, чтобы они знали: их знания, их опыт тоже учтены в модели. Тогда они будут больше доверять ей.

Такие эксперименты нужны на каждом этапе, они наглядно показывают, насколько наша модель соотносится с реальностью, и позволяют оперативно ее корректировать.

Следующий этап — опытная эксплуатация в течение достаточно длительного времени. На этом этапе мы удостоверяемся, что модель адекватно справляется с поставленными перед ней техническими задачами, смотрим, насколько достигнуты поставленные цели, соответствует ли функциональность требованиям пользователя, требуется ли доработка и насколько хорошо модель дообучается под изменяющиеся со временем условия.

При положительных результатах можно переходить к следующему этапу — внедрению в промышленную эксплуатацию. Дальше при необходимости мы оказываем поддержку в процессе работы или это делает само предприятие.

- Насколько отечественные предприятия готовы внедрять средства машинного обучения?

Бизнес-руководители полны энтузиазма, однако часто они приходят со сформулированной в общем виде задачей: «Я хочу повысить производительность, у меня есть много-много данных, давайте применим продвинутую аналитику, искусственный интеллект, машинное обучение, и мы заработаем на этом много денег».

Средний менеджмент, технологи, те, кто будет непосредственно работать с моделями, настроены более реалистично или даже скептически. Они лучше понимают, какой процесс стоит моделировать, какие есть ограничения, сколько данных у них есть и какого они качества, и поэтому более осторожно относятся к внедрению новшеств.

Наша задача – оценить и соединить все требования и ограничения, дополнить их таким образом, чтобы разрабатываемая модель была жизнеспособна, применима к текущим данным, функциональна для всех и экономически выгодна.

- От чего зависит степень настороженности?

От общей степени автоматизации бизнес-процессов конкретного предприятия, степени автоматизации его технологических процессов. И от того, насколько менеджмент и специалисты привыкли работать с такого рода решениями, доверять данным, которые они предоставляют. Предприятия среднего и крупного бизнеса в целом достаточно готовы. У них внедрены ERP, MES-системы, АСУ ТП, достаточно высокая культура непрерывных улучшений процессов. Хотя бывает так, что мы приходим на предприятие, где до этого уже были неуспешные реализации подобных задач. Тогда сталкиваемся со скепсисом. Приходится делом убеждать в возможности реализации поставленных целей.

- Как предприятие может подготовиться к внедрению машинного обучения?

В первую очередь понять, какую задачу планируется решить. Правильная формулировка бизнес-задачи, а впоследствии и математической задачи — половина успеха проекта.

Также до начала проекта хорошо бы понять, какие есть реально применимые данные, чтобы не пришлось их нарабатывать в ходе самого проекта.

Хорошо, когда предприятие автоматизировано, особенно если системы, управляющие работой предприятия и его технологическими процессами, не слишком закрытые, у них есть интерфейсы для интеграции с решениями сторонних производителей, что позволяет напрямую забирать из этих решений данные для анализа. Впрочем, наша платформа промышленной аналитики имеет широкие возможности по интеграции как с давно установленными системами АСУ ТП, так и с современными платформами Промышленного интернета.

- Какие основные проблемы возникают при внедрении?

Абстрактная формулировка бизнес–задачи, которая может привести к неправильной цели. Чтобы этого избежать, очень важно общаться со всеми пользователями финального продукта. И не только с топ-менеджментом, но и с технологами, операторами; важно, чтобы они были вовлечены в процесс формулировки бизнес-цели.

Могут возникнуть и проблемы с данными. Нужно понимать, что это за данные, как они измеряются, с какими погрешностями, тогда можно будет оценить границы применимости решения. Для этого очень важно регулярно работать на объекте и постоянно держать контакт с будущими пользователями, проводить вместе с ними предварительное тестирование перед принятием решения о верности разработанной модели.

Также возможна неверная оценка количества и качества имеющихся данных. Например, датчики на протяжении долгого времени давали систематическую ошибку, в ходе текущей работы это учитывали. Но когда начали готовить данные к использованию в проекте по машинному обучению, старые данные пришлось отбросить, и вместо массива трехлетней давности мы имеем данные за последний месяц, когда датчики наконец починили. А этого может быть недостаточно, в месячной выборке могут набраться не все примеры для решения какой-либо задачи. Это, впрочем, не смертельно, просто придется создавать комбинированную модель, совмещать классическое математическое моделирование и алгоритмы машинного обучения. Такое в нашей практике тоже было.

- О чем вы хотите рассказать участникам конференции и о чем хотели бы услышать сами?

Речь пойдет о практическим опыте, полученном в ходе реализации проектов машинного обучения на российских предприятиях. В выступлении я буду опираться на опыт выполненных проектов на химических предприятиях, в организациях сферы госуправления, в энергетических компаниях. Наш опыт в финансовой отрасли тоже применим для промпредприятий, например для прогнозирования справедливой цены на продукцию в зависимости от изменения влияющих факторов и технологических ограничений предприятия и т. д.

Интересно было бы послушать об успешно реализованных проектах data science в логистике, о технологических процессах, связанных с ними бизнес-процессах, о том, какая архитектура используется для внедрения разработок на текущий момент, узнать, какие есть пожелания у предприятий в этом направлении, чтобы оценить тенденции развития отрасли.

По мере роста мощности систем искусственного интеллекта и важности задач, им доверяемым, все острее встают вопросы этики его использования — этичности самих систем и этичности тех, кто их создает. Об этих проблемах на практической конференции «Технологии машинного обучения 2018», которую издательство «Открытые системы» проведет 25 сентября, расскажет Алексей Маланов, эксперт в области антивирусной защиты, специалист по новым технологиям компании «Лаборатория Касперского» в докладе «Этика искусственного интеллекта». В преддверии конференции Computerworld Россия побеседовал с Малановым о том, насколько можно доверять системам искусственного интеллекта, где могут корениться проблемы и насколько они разрешимы.

- Можно ли трактовать тему вашего выступления на конференции так, что искусственный интеллект уже настолько силен, что главной проблемой его применения становится уже не умение решать задачи, а его этика? И что такое «этика» применительно к машинному алгоритму?

Определимся с понятиями. Есть «сильный» и «слабый» искусственные интеллекты. Сильный – это тот, который может мыслить, размышлять, решать более общие и абстрактные задачи, не только те, что запрограммировали. Его пока нет и, судя по всему, не будет еще лет 50. Текущие наработки в области искусственного разума относятся к «слабому» искусственному интеллекту, программируемому нами для решения конкретных практических задач.

То есть до Терминатора и Скайнета «слабому» искусственному интеллекту пока далеко, но это не повод расслабляться, поскольку ему по факту поручаются все более сложные и более влияющие на нашу жизнь задачи.

И этическая составляющая его работы становится соответственно достаточно важной.

У этой составляющей есть несколько аспектов. Во-первых, искусственный интеллект может решать «плохие» задачи. Не зря из Google уволились десять программистов, заявивших, что больше не хотят разрабатывать проект по автономному оружию. После случившегося компания объявила, что откажется от сотрудничества с Пентагоном. Тысяча ученых подписали петицию о запрещении такого оружия. Тоже вопрос этики, хотя, конечно, человеческой, а не машинной.

Во-вторых, искусственный интеллект может ошибаться — когда по той или иной причине несовершенна модель обучения, когда его специально обманывают или вообще непонятно почему.

- Как несовершенство модели связано с этикой?

Машина решает ту задачу, которую перед ней ставит человек. А в реальной жизни задачи часто ставятся нечетко, многое принимается «по умолчанию».

Скажем, если искусственному интеллекту поручат сверстать госбюджет с максимальным профицитом, то он может посоветовать ликвидировать всех нетрудоспособных. Он же не знает о наших моральных и законодательных ограничениях.

Это нереалистичный, но понятный пример, а вот не столь заметные, но ведущие к тяжелым последствиям случаи были. Скажем, в одной больнице попробовали, используя машинные алгоритмы, выстраивать пациентов по приоритетам. Алгоритм должен был на основе ранее принимавшихся людьми решений и статистики смертности от разных болезней и их комбинаций определять, кому срочно надо оказывать помощь, а кто еще может подождать. Неожиданно машина стала ставить в конец очереди астматиков с пневмонией — потому что «эти люди не умирают». Явная нелепица, стали разбираться, почему так получилось. И оказалось, что состояние астматиков, заболевших пневмонией, настолько опасно, что их клали в больницу незамедлительно, сразу начинали оказывать помощь, и в итоге они не умирали.

Человеку это интуитивно понятно, машина же находит ложные корреляции и действует соответственно.

Куда хуже, если возникает еще и петля положительной обратной связи, когда искусственный интеллект изменяет реальность, причем чем больше изменяет, тем больше находит подтверждений своей правоте, и тогда ошибка усугубляется.

- Казалось бы, достаточно просто подкорректировать модели...

Существует и более сложная проблема — несовершенство исходных данных, на которых искусственный интеллект обучается. Есть такое понятие, как «алгоритмическая предвзятость» (algorithmic bias). Например, если машина обучается на данных, которые уже являются предвзятыми (допустим, результаты собеседований в компании, кадровики которой имели расистские наклонности), то обученный искусственный интеллект научится тем же моделям поведения.

Известный пример — в Microsoft создали чат-бота, который должен был учиться в процессе общения с людьми. В итоге через сутки бот начал нести такое, что проект пришлось прикрыть — плохому его пользователи научили.

Это большая проблема: если мы учим машину на реальных данных, то несовершенство окружающего нас мира тоже «впитывается» искусственным интеллектом.

- Можно ли этого избежать, всегда ли понятно, в чем было несовершенство алгоритма или обучающей базы?

Нет, как раз большая проблема в том, что мы не всегда можем объяснить, почему машина приняла то или иное решение. Вот, например, у Amazon есть сервис доставки покупки в тот же день. И он часто был недоступен в неблагополучных кварталах. В компании не могли объяснить, почему такое происходит. По каким-то критериям, может быть, по уровню воровства посылок, искусственный интеллект решил отказывать в предоставлении сервиса.

- Получается, что формально искусственный интеллект принял правильное решение: минимизировать убытки?

Нам остается только догадываться. Amazon уверяет, что не знает почему. Возможно, постеснялись озвучить нетолерантное поведение своего искусственного интеллекта.

Но есть случаи явно неподстроенные. Искусственный интеллект решает стандартную задачу — опознает, кто на фотографии, кошка или собака. Вроде выучился, но в некоторых случаях вдруг ошибается. Программисты говорят: «Мы не понимаем почему, что в этой собачке было не так, почему ее приняли за кошечку».

Собаки и кошки — проблема теоретическая, но вот у Google возникла проблема, когда выяснилось, что Google Photos иногда распознает чернокожих как горилл. И пришлось эту проблему решать административными мерами — запрещать алгоритму вообще распознавать горилл на фотографиях. И это при том, что база для обучения у программы была на зависть.

Плюс в каких-то случаях возможно сознательное «вредительство».

- Например?

Можно нарочно вводить машину в заблуждение. Например, люди надевают специальные очки, раскрашенные по-особенному, и система распознавания лиц распознает их как «звезд». И если в будущем такие системы начнут сами принимать решения по идентификации, могут быть проблемы. То же самое с дорожными знаками. Можно, используя наклейки, немного изменить простейший знак «Стоп», и искусственный интеллект примет его за «Ограничение скорости», в случае беспилотного автомобиля могут быть печальные последствия.

Если же злоумышленник имеет представление о данном конкретном алгоритме, то он, скажем, может, расположив рядом с пистолетом в чемодане предмет определенной формы, сделать пистолет невидимым для системы просвечивания. Она примет его за что-нибудь другое.

Так что не все так просто. Когда машина ассистирует человеку – это одно. А когда она сама принимает решения – вот это уже может быть опасно.

- Наш традиционный вопрос. Что вы хотите услышать на конференции сами и о чем хотите рассказать слушателям?

Мне хотелось бы узнать, какие практические задачи удается решать. Как получается обойти упомянутые мной ловушки? Какие есть еще проблемы и, опять-таки, как с ними справляются?

Ну а сам я хочу рассказать о том, что, с одной стороны, перспективы применения искусственного интелекта впечатляют, с другой — есть множество проблем, к которым надо быть готовым.

За последнее время на рынке появился сразу несколько смартфонов, чьи камеры поддерживают технологии искусственного интеллекта. В частности, такие средства есть в аппаратах Samsung Galaxy Note 9, Huawei Mate 10 Pro и LG G7 ThinQ.

В некоторых моделях «оптимизатор сцены» даже включен по умолчанию, но обычно его легко отключить. В каких-то аппаратах интеллектуальная обработка срабатывает мгновенно, в других могут быть небольшие задержки.

Искусственный интеллект «понимает», когда вы хотите снять портрет или пейзаж, распознает попытку выполнить съемку против света или в помещении, различает животных, растения, текст и т. п., — всего до 20 видов сцен. Как отмечают в PC World, ошибки при распознавании довольно редки, но не все смартфоны позволяют выбрать тип сцены вручную — при ошибке приходится направлять камеру на другой объект для сброса настроек.

Различия между съемкой в традиционном автоматическом режиме и с «умной» оптимизацией не всегда выраженные, но, как правило, последняя действительно улучшает снимок, например, передает больше деталей и улучшает цветопередачу. Способности разных смартфонов в этом отношении различаются — какому-то лучше удаются снимки природы, а какому-то портреты.

Развитие искусственного интеллекта способно в корне изменить финансовую индустрию и предоставить клиентам более персонализированные услуги. Такая технологическая революция таит в себе серьезную угрозу, считают эксперты Всемирного экономического форума и консалтинговой компании Deloitte — авторы доклада о том, как искусственный интеллект и машинное обучение могут повлиять на финансовый мир.

Авторы доклада «Новая физика финансовых услуг» изучили разные сценарии того, как технологии искусственного интеллекта и машинного обучения могут быть применены на практике в будущем и к каким последствиям это может привести.

Отмечается, что искусственный интеллект изменит набор характеристик, которыми должен будет обладать успешный бизнес в сфере финансов. Если раньше успешность во многом зависела от объема портфеля активов, то в будущем в выигрыше будут оставаться, прежде всего, компании с наибольшей базой данных. Искусственному интеллекту необходимо как можно больше знаний для повышения эффективности.

На место «массового производства», то есть выработки стандартных пакетов услуг и их распространения среди клиентов, придет более персонализированный подход. Он станет возможен, опять же, благодаря технологиям искусственного интеллекта.

Могут исчезнуть банковские счета в традиционном виде. На смену решениям человека о том, как тратить свои сбережения, может прийти алгоритм, который будет автоматически распределять средства клиента. Например, часть из них будет отправлена на погашение кредита и снижение процентной ставки, часть будет откладываться в виде сбережений или инвестироваться в финансовые продукты. Наконец, деньги клиента могут быть потрачены на повседневные нужды.

Все это будет основано на автоматическом анализе большого объема данных обо всех финансовых возможностях и обязанностях клиента. Пока, правда, реализация такого сценария на практике невозможна — финансовым институтам запрещено проводить операции без согласия и ведома клиента.

В свою очередь, страховые компании смогут не только оперативно реагировать на страховые случаи, но и работать на опережение, выстраивая несколько «линий обороны». Например, с помощью умных датчиков предупреждать клиента о том, что он оставил окно открытым, а по прогнозу погоды ожидается дождь.

В случае обнаружения угрозы страховая компания также сможет предложить клиенту включить дополнительный пункт в договор страхования. В случае же удаленной фиксации ущерба при помощи датчиков, страховая компания будет автоматически осуществлять страховые выплаты.

Вместе с тем авторы отмечают, что для обучения и эффективной работы ИИ нужна более полная картина, то есть доступ к большому объему данных. И речь идет не только о базах, которые есть в распоряжении одного финансового института.

В перспективе ИИ потребует, чтобы была создана единая база данных. Понятно, что у такой базы данных должно быть очень много точек доступа, ведь на рынке огромное количество игроков. И, значит, местом ее хранения станет, скорее всего, облачный сервер, что превращает ее в желанную цель для хакеров, которые могут совершить всего одну успешную массированную атаку, чтобы привнести хаос во всю мировую финсистему, заключают авторы доклада.

Концерн «Калашников» поставит столичному Центру организации дорожного движения 100 комплектов камер, снабженных интеллектуальным программным обеспечением на базе нейронных сетей, передает РИА «Новости». Видеокомплекс совместим с системой телеобзора ЦОДД, подключен к интеллектуальной транспортной системе столицы и разработан военными специалистами специально для гражданских целей.

Комплекс фиксирует обстановку на улицах и анализирует причины заторов и ДТП. Установить систему решили после успешного завершения пилотного проекта на Третьем транспортном кольце. Применятся камеры будут в Новой Москве.

ЦОДД объявил конкурс на обслуживание столичной интеллектуальной транспортной системы в мае этого года. Его выиграла госкорпорация «Ростех». Сейчас в интеллектуальную транспортную систему мегаполиса входят несколько десятков тысяч различных объектов: 40 тыс. светофоров, 3,7 тыс. датчиков движения транспорта, 2,7 тыс. камер телеобзора, 48 метеостанций, а также дорожные табло информации, системы связи и серверного оборудования.