О чем мечтал Азимов

В 1942-м в своем рассказе «Хоровод» Айзек Азимов сформулировал три закона робототехники. В те времена роботы были далеким будущем, а Айзека можно было назвать смелым мечтателем.

Далекое будущее наступило и роботы стали привычной частью нашей жизни. К каким возможностям и проблемам приведет нас роботизация, развитие машинного обучения и анализ больших данных? Пришло время на практике сформулировать законы для настоящих роботов и узнать все на практике. За окном 2022 г. и мы не без оснований можем сказать, что одним из его трендов будет работа над этикой искусственного интеллекта.

Повозка без кучера

В 1967 г. английский философ Филиппа Фут сформулировала мысленный эксперимент в этике, который позже назвали «проблемой вагонетки». Кратко его можно представить так: некто управляет трамваем, у которого отказали тормоза, и который может только свернуть с одной ветки на другую; на одной ветке работают 5 человек, на другой – 1. Люди на выбранной ветке погибнут. Какую ветку необходимо выбрать? Ситуация имеет множество вариаций, в том числе, когда единственный человек на ветке является родственником водителя трамвая или, например, Санта-Клаусом. С такими вводными становится сложнее, правда?

Вымышленная ситуация обретает новую жизнь в современных беспилотных автомобилях. Кем пожертвует автомобиль в критической ситуации, пешеходом или пассажиром? А если необходимо выбрать между двумя выскочившими на дорогу пешеходами? В профессиональной среде иногда звучит мнение, что это не важно и дилеммы как таковой в данной ситуации нет – закон после определит, кто был виноват. Возможно, но будет ли это этично к тому, для кого решение автомобиля оказалось неудачным? И необходимо ли программисту вообще думать над подобной ситуацией и закладывать какие-то правила? И пусть правила для этой ситуации пока непонятны, можно смело сказать, что общество движется в правильном направлении в отношении таких вопросов.

Большие данные

Представим другую ситуацию. Мы привыкли к тому, что банки и сотовые операторы знают о наших активностях. Мы прилетаем в другую страну и получаем смс с предложением подключить необходимые опции для экономии. Банки развивают машинное обучение и анализируют большие данные, стараясь спрогнозировать появление у клиентов потребности в новой машине, ипотеке или даже предсказать появление ребенка. Выделение соответствующих паттернов поведения дает очевидное конкурентное преимущество.

А теперь давайте представим, что банк или сотовый оператор объединил пользователей в пару, сопоставил поведение с другими парами и предсказывает их скорое расставание, или например болезнь или что-то еще, что мы привыкли считать исключительно личным? Как владелец этих данных должен поступить с ними, промолчать или предложить помощь? Будет ли единое решение этично для всех или только для части людей? Или проведение такого анализа в целом неэтично? Очевидно, что это вопросы, которые нам еще только предстоит решить.

Кодекс этики

И если считать бездействие одной из главных проблем нашей быстроменяющейся жизни, то в сфере этики искусственного интеллекта все не так уж и плохо. В РФ выработка этических норм заявлена одним из пунктов «Национальной стратегии развития искусственного интеллекта на период до 2030 года». В рамках решения этой задачи Аналитическим центром при Правительстве РФ, Министерством экономики и развития РФ и Альянсом в сфере искусственного интеллекта (Яндекс, МТС, Вконтакте, Газпром-Нефть, Сбербанк, Российский фонд прямых инвестиций) подготовлен Кодекс этики в сфере искусственного интеллекта. Кодекс говорит о приоритете развития современных технологий в защите интересов и прав людей и отдельного человека, об ответственности людей при разработке искусственного интеллекта, а также за результаты его применения, подсвечивает важность использования риск-ориентированного подхода.

Эпилог

Хочется сказать о том, что мы живем в удивительное время. Описанные лучшими умами человечества этические дилеммы с развитием технологий приобретают новую жизнь и такие масштабы, что сходят со страниц книг и требуют скорейшего решения. Отрадно видеть, что академические и профессиональные сообщества разных стран, а также государства понимают значимость данной задачи и совместно работают над ней.