В американской Федеральной комиссии по торговде создано Управление технической экспертизы, одна из задач которого — выработка мер по обеспечению прозрачности алгоритмов, применяемых на онлайн-сервисах. Цель, в числе прочих, — борьба с несправедливыми схемами назначения расценок и алгоритмической дискриминацией при предоставлении кредитов, аренде жилья, найме на работу и т. п.
Показателен пример с Google: согласно исследованию, проведенному в 2013 году учеными Гарварда, при поиске имен и фамилий, характерных для афроамериканцев, с большей вероятностью отображалась реклама сервисов, позволяющих выяснить криминальное прошлое человека. Есть и другие примеры — по словам исследователей, имеются свидетельства того, что при увеличении потока плохих новостей в ленте Facebook повышается явка избирателей на выборах. Facebook также может по какой-то причине не публиковать пост пользователя в лентах его друзей, и он, не получая «лайков», начинает беспокоиться, что его игнорируют.
В последнее время появляются компании наподобие Automated Insights, которая автоматически генерирует новости о доходах предприятий для Associated Press по результатам обработки данных. Как выяснилось, эти новости не всегда безошибочны; подобные ошибки могут влиять на экономику, и как подчеркивают американские власти, чтобы понять их причину, необходимо знать схему работы алгоритма и то, какими данными он пользовался.
В Комиссии рассматривают возможность обязать онлайн-компании публиковать принципы действия основных алгоритмов, но поскольку это труднореализуемо, вероятнее всего, будет принят другой подход, основанный на аудите результатов работы алгоритмов.
