DeepMind формирует подразделение по этике искусственного интеллекта
DeepMind формирует подразделение по этике искусственного интеллекта

Перед группой DeepMind Ethics & Society в Google ставят задачу поиска коллективных ответов на вопросы о том, каким будет влияние технологий искусственного интеллекта


09:37 09.10.2017   |  Джордж Нотт |  Computerworld, Великобритания

Рубрика Индустрия |   1248 прочтений



Оно будет призвано сделать так, что разрабатываемые технологии служили интересам общества, оставаясь «прозрачными и открытыми».

Подразделение Google DeepMind, занимающееся исследованиями в области искусственного интеллекта, формирует группу, которая сосредоточится на вопросах этики и защиты интересов общества.

Группа будет проводить и финансировать исследования, охватывающие гуманитарные и социальные науки, а также организовывать общественные дискуссии.

Уже объявлен ряд «основных принципов», которых исследователи будут придерживаться в своей деятельности: разрабатываемые технологии призваны служить глобальному социальному и экологическому благу; исследования должны быть «строгими и основанными на фактах», а также «прозрачными и открытыми» (включая и способы их финансирования); в ходе работ следует учитывать различные голоса; формироваться все проекты будут с учетом общественного мнения.

«Новое подразделение должно содействовать изучению и пониманию реального воздействия искусственного интеллекта, – указывается в блоге группы. – При этом преследуется двойная цель: помочь технологам воплотить этические принципы в нашу жизнь и помочь обществу прогнозировать и направлять влияние искусственного интеллекта, с тем чтобы он приносил всем нам только пользу».

Группа уже определила ключевые этические проблемы, стоящие перед искусственным интеллектом. К ним относятся вопросы морали и ценностей, управления и подотчетности, неприкосновенности частной жизни и справедливости.

Формируемое новое подразделение призвано восстановить имидж DeepMind, который был подпорчен после того, как информационный комиссар Великобритании инициировал судебное разбирательство об использовании этим подразделением Google данных Национальной системы здравоохранения в нарушение законов страны о конфиденциальности.

«Если технологии служат обществу, они должны разрабатываться с учетом приоритетов и проблем общества, – указывается в заявлении группы. – Это не поиск закрытых решений, а попытка изучить ситуацию и помочь найти коллективные ответы на вопросы о том, каким будет влияние технологий искусственного интеллекта. С появлением DeepMind Ethics & Society мы надеемся проложить дорогу к действительно полезному и ответственному искусственному интеллекту».

Компания DeepMind была приобретена Google в 2014 году и сегодня входит в состав холдинга Alphabet. По информации Computerworld, в рамках сделки в Google ставили своей целью создать комитет по этике. Однако, по сообщениям Gartner, все прошедшие годы в DeepMind отказывались сообщить, кто входит в состав этого комитета, какие вопросы он обсуждает и проводятся ли вообще его заседания.

В июле корпорация Microsoft, также интенсивно развивающая решения в области искусственного интеллекта, сформировала консультационную группу AI and Ethics in Engineering and Research (Aether).

DeepMind и Microsoft наряду с Amazon, Apple, Facebook и IBM входят в состав членов-основателей некоммерческой организации Partnership on Artificial Intelligence to Benefit People and Society, занимающейся изучением и разработкой перспективных технологий искусственного интеллекта. Организация эта продолжает расширяться. В мае ее ряды пополнили eBay, Intel, McKinsey & Co., Salesforce, SAP и Sony, а также ряд некоммерческих объединений.


Теги: Искусственный интеллект Google DeepMind


На ту же тему: