OpenAI выделила грант исследователям Университета Дьюка на трёхлетний проект по изучению морали искусственного интеллекта («Исследование морали ИИ»), в рамках более масштабной программы финансирования ($1 млн) по созданию этичного ИИ.

Руководитель проекта, профессор Уолтер Синнотт-Армстронг (Университет Дьюка), отказался от комментариев. Известно, что он и Яна Борг ранее исследовали возможности ИИ как «морального GPS» и разработали алгоритм для решения вопросов трансплантации почек, а также изучали ситуации, где люди предпочли бы ИИ в принятии этических решений. Проект должен завершиться к 2025 году.

Проект, финансируемый OpenAI, ставит целью научить алгоритмы предсказывать человеческие моральные суждения в сложных ситуациях, затрагивающих этические аспекты медицины, права и бизнеса. Однако создание «морального ИИ» — сложнейшая задача, поскольку современные системы ИИ опираются на статистические модели, не способные оценить этические концепции или учитывать эмоциональные и рациональные факторы, определяющие моральные решения.