Все новости

Психологи и программисты учат компьютер решать моральные дилеммы

Ученые усовершенствовали модель, с помощью которой компьютер «человечно» рассуждает и судит о нравственности поступков. Для этого его научат проводить сложные аналогии, как это делают люди.
Многие системы с искусственным интеллектом анализируют большие объемы данных, чтобы принять верное решение, — как AlphaGO, которая недавно обыграла чемпиона мира по го Ли Седоля. Людям же хватает небольшого количества примеров, чтобы провести правильные аналогии или составить мнение. С помощью метафор и аналогий люди описывают окружающий мир, находят причинно-следственные связи и решают моральные проблемы — это одна из ключевых особенностей человеческого мышления.

Структурно-отображающий механизм (англ. SME — structure-mapping engine) использует тот же подход к поиску аналогий. Вместо того чтобы обрабатывать большие массивы данных, он ищет аналогии с поставленной задачей в небольшом корпусе — «сборнике» решенных задач.

Предыдущие модели SME обрабатывали несложные аналогии, к примеру могли сверить решение школьной задачи с правильным. Сейчас алгоритм самостоятельно решает задачи по физике, умеет обобщать предметы по их визуальному сходству и справляется с моральными дилеммами.

SME можно предложить следующую ситуацию: из-за плотины на реке двадцать видов рыб исчезнут. Можно их сохранить, если открыть плотину. Но если плотину открыть, исчезнут два вида рыб.

Решение SME соответствует тому, как поступило бы большинство людей: при прочих равных действовать так, чтобы минимизировать потери; бездействие лучше чем действие, которое непосредственно приведет к чьей-то гибели. В ситуации с плотиной алгоритм предложит не открывать ее, ведь тогда два вида рыб погибнут непосредственно из-за его действия.

Исследование ученых из Северо-западного университета в штате Иллинойс (США) опубликовано в журнале Cognition Science. В статье они рассказывают о базовых принципах SME, а также о современных дополнениях к нему, которые позволяют охватить более широкий спектр задач.