Согласно новому исследованию Еврейского университета, современные системы искусственного интеллекта выносят структурированные суждения о людях, которые напоминают человеческое доверие, но значительно различаются по методологии. В исследовании, опубликованном в журнале «Proceedings of the Royal Society», было проанализировано более 43 000 смоделированных решений и около 1000 участников-людей в пяти сценариях.
Эти сценарии включали оценку кредитных решений, оценку доверия к няне, оценку эффективности работы начальника и определение пожертвований основателям некоммерческих организаций. И люди, и ИИ отдавали предпочтение людям, которых считали компетентными, честными и имеющими благие намерения.
Профессор Янив Довер заявил: «ИИ не принимает случайных решений. Он отражает нечто реальное в том, как люди оценивают друг друга». Однако люди формируют целостное впечатление, интегрируя несколько черт, в то время как ИИ оценивает отдельные характеристики, такие как компетентность и честность.
Валерия Лерман объяснила: «ИИ чище, более систематичен, и это может привести к самым разным результатам». Этот структурный подход был очевиден даже в идентичном контексте осуждаемых лиц.
Исследование показало, что предубеждения ИИ могут быть более систематическими, предсказуемыми, а иногда и более сильными, чем предубеждения людей. В финансовом контексте системы искусственного интеллекта демонстрировали значительные различия в зависимости от демографических характеристик. Пожилым людям часто отдавалось предпочтение при принятии решений о кредитовании и пожертвованиях, а религия и пол также влияли на результаты в некоторых моделях ИИ.
Примечательно, что разные модели ИИ могут давать разные оценки одному и тому же человеку, а это указывает на то, что выбор системы ИИ может существенно повлиять на реальные результаты. «Какую модель вы используете, действительно имеет значение», — отметил Лерман.
Большие языковые модели все чаще используются для отбора кандидатов на работу, оценки кредитоспособности и принятия организационных решений. Хотя ИИ может отражать аспекты человеческого мышления, ему не хватает тонкого понимания, уникального для людей.
«Эти системы мощные», — заметил Довер. “Они могут последовательно моделировать аспекты человеческого мышления. Но они не люди, и мы не должны предполагать, что они видят людей так же, как мы”.
Исследователи подчеркивают, что исследование подчеркивает необходимость понимания суждений ИИ, поскольку эти системы переходят от инструментов к автономным средствам принятия решений. Они призывают к осознанности, а не к осторожности, уделяя особое внимание необходимости понять, как ИИ воспринимает доверие.
<час />
