Давос: Искусственный интеллект должен дополнять, а не заменять человека

Вопрос об ответственности человека за созданный им искусственный интеллект остается открытым


10:15 20.01.2017   |   3795 |  Питер Сойер |  Служба новостей IDG

Рубрика Индустрия



Главы IBM и Microsoft считают, что ИТ-отрасли необходимо создавать искусственный интеллект, который будет поддерживать людей, а не отнимать у них рабочие места.

Свой взгляд на роль искусственного интеллекта Джинни Рометти и Сатья Наделла изложили в ходе дискуссии, состоявшейся на Всемирном экономическом форуме в Давосе. Произошло это всего через несколько часов после того, как Рометти рассказала о трех основных принципах, которых придерживается IBM при разработке когнитивных технологий.

Чуть менее драматичные и экспрессивные по сравнению с тремя законами робототехники Айзека Азимова, три принципа IBM, тем не менее, призваны предотвратить возможный вред, обусловленный проникновением искусственного интеллекта в технологии.

Первым делом надо понять предназначение этих технологий. Для IBM вопрос выбора между человеком и машиной не стоит. «Наша цель заключается в том, чтобы дополнять и обслуживать все то, что делает человек, – заявила Рометти. – Следующей в списке идет прозрачность. Расскажите тем, кто использует систему, что они имеют дело с искусственным интеллектом. Расскажите, как система обучается. Проводится ли обучение экспертами? Какие данные использовались в ходе обучения? Человек должен сохранять контроль над такими системами».

Третий принцип заключается в том, что человеку необходимы навыки работы с новыми когнитивными технологиями.

«Вероятность того, что некоторые рабочие места исчезнут, действительно существует, – признала Рометти. – Но большинство из нас будут продолжать работать с этими системами. И такие компании, как IBM, должны обеспечить не только обучение искусственного интеллекта, но и обучение людей. Для того чтобы преуспеть в этом мире, не обязательно обладать какими-то выдающимися способностями. Бизнесу нужно поддерживать связь с учебными заведениями. Дайте им учебный план, который необходим вашей компании, дайте им соответствующие наставления, и будьте уверены, что выпускников обучат всему, что вы требуете при приеме на работу».

Аналогичной точки зрения придерживается и Наделла. «Именно от нас зависит, будет ли искусственный интеллект эффективно дополнять смекалку и возможности, присущие человеку», – указал он.

Впрочем, вопрос об ответственности человека в этой отрасли по-прежнему остается открытым. «Это одна из самых трудных задач, стоящих перед нами, – признался Наделла. – Как вы можете отвечать за алгоритмы принятия решений, если эти алгоритмы пишутся не вами, а формируются на основе обучения?»

С тем, что нужна прозрачность, Наделла согласен. В противном случае вам придется довериться некоему черному ящику. Какие законы и этические нормы управляют этим черным ящиком? Кто несет за него ответственность?

Над этим, по мнению Рометти, и должна работать ИТ-отрасль.

«Наша обязанность как руководителей, внедряющих эти технологии, заключается в том, чтобы обеспечить их безопасное распространение, – подчеркнула она. – И программа Partnership on AI является одним из примеров того, как ИТ-отрасль берет на себя здесь роль лидера».


Теги: показывать на главной Самое интересное Microsoft IBM Искусственный интеллект
На ту же тему: