Моральні дилеми і ШІ: як люди оцінюють машинні рішення у ситуаціях шкоди, ризику та конфлікту цінностей
Автор: Український психологічний ХАБ · Опубліковано: 23 вересня 2026 року · Редакційна політика
Коли штучна система радить, кого лікувати першим, чи варто різко гальмувати автономне авто, чи потрібно застосувати силу, як розподілити дефіцитний ресурс або який ризик допустити заради більшої користі, люди оцінюють не лише результат. Вони запитують, хто ухвалив рішення, хто контролював процес, чи могла людина втрутитися, чи «розуміла» система наслідки, кому приписати провину і чи взагалі доречно було передавати такий вибір машині. Саме ці реакції становлять предмет моральної психології ШІ.
Моральні дилеми за участю ШІ є зручним дослідницьким вікном у те, як людська моральна оцінка змінюється, коли до ситуації шкоди, ризику або конфлікту цінностей додається алгоритмічна система. Сучасний огляд у Annual Review of Psychology описує ШІ в моральній психології як можливого об’єкта людських уявлень про агентність, пацієнтність і делегування. Це опис людського сприйняття. Він не доводить, що система має свідомість, почуття, власні моральні наміри або здатність страждати.
Ця стаття відповідає на емпіричне питання: як люди оцінюють машинні рішення та рішення за участю ШІ у морально значущих ситуаціях? Вона не встановлює, яка етична теорія «правильна», як саме слід програмувати всі системи або кому належить юридична відповідальність у конкретній справі. Дані про людські судження показують психологічні закономірності, а не автоматично перетворюються на нормативні правила.
Що означає «моральна дилема і ШІ» в психологічному дослідженні
У широкому психологічному сенсі моральна дилема виникає тоді, коли морально значущі міркування конфліктують: наприклад, мінімізація шкоди — з правилом не завдавати прямої шкоди; захист однієї людини — з користю для багатьох; автономія — з безпекою; рівність — з ефективністю; лояльність до конкретної особи — з неупередженим розподілом ресурсу. Загальну психологію таких конфліктів розкриває окрема стаття «Моральні дилеми». Тут фокус вужчий: що змінюється, коли вибір робить, рекомендує або реалізує ШІ.
У дослідженнях це можуть бути автономні транспортні засоби, роботи, алгоритмічні рекомендаційні системи, медичні системи підтримки рішень, військові симуляції, чатботи або просто описані у віньєтці «штучні агенти». Ці класи технологій не є психологічно взаємозамінними. Фізичний робот, мовна модель, алгоритм скорингу та автопілот мають різні сигнали автономності, людяності, контролю й компетентності, тому ефект, знайдений для одного класу, потребує окремої перевірки для іншого.
Систематичний огляд 36 досліджень сприйнятої моральної агентності штучних агентів показує, що поле вже має повторювані теми, але залишається неоднорідним за типами систем, сценаріями й показниками. Автори описують сприйняту моральну агентність як контекстну й градуальну, а не як просту властивість «є / немає». Огляд Tok, Powell і Guellaï особливо важливий для правильної інтерпретації: приписування провини, наміру або відповідальності є показником людського сприйняття, а не доказом реальної моральної суб’єктності машини.
Не одне питання: які саме моральні оцінки вимірюють дослідження
Фраза «люди морально оцінюють ШІ» приховує кілька різних психологічних змінних. Їх потрібно розводити, бо одна й та сама людина може вважати рішення неправильним, але майже не звинувачувати систему; визнавати норму, але обрати інакше; покладати відповідальність на організацію, хоча фінальну дію виконав алгоритм.
Moral judgment — моральне судження
Моральне судження відповідає на питання на кшталт «це правильно чи неправильно?», «допустимо чи недопустимо?». Воно стосується моральної оцінки дії, рішення або результату. Моральне судження не тотожне судженню про провину і не показує саме по собі, кого люди вважають відповідальним.
Norm judgment — судження про норму
Судження про норму стосується того, що агент мав би зробити за певних умов. Воно може бути схожим для людини і робота навіть тоді, коли провину їм приписують по-різному. Це продемонструвала серія з 13 досліджень: Malle та співавтори виявили загалом подібні нормативні очікування щодо людських і роботизованих агентів у класичній моральній дилемі, але відмінності в оцінках провини за окремих умов.
Blame judgment — судження про провину або заслужений осуд
Судження про провину відповідає на питання, наскільки агент заслуговує осуду за те, що сталося. Воно залежить не лише від наслідку, а й від того, чи приписують агенту знання, намір, контроль і можливість діяти інакше. Для ШІ ці приписування особливо чутливі до формулювання сценарію та до того, наскільки «ментальною» мовою описано систему.
Responsibility attribution — приписування відповідальності
Приписування відповідальності стосується розподілу відповідальності між учасниками системи: користувачем, оператором, лікарем, водієм, командиром, розробником, компанією, установою та самою технологічною системою в очах респондента. Психологічне приписування не визначає юридичну відповідальність. Воно також не скасовує реальних людських і організаційних ролей, навіть якщо учасники експерименту частину відповідальності віддають ШІ.
Moral decision — моральне рішення
Моральне рішення — це вибір між варіантами з морально значущими наслідками. Людина може визнати певну дію морально кращою, але обрати інакше через ризик для себе, невизначеність, відповідальність, емоції або інституційні обмеження. Тому відповіді в опитуванні, оцінки норми та фактична поведінка не є одним і тим самим показником.
Moral reasoning, intuition, motivation і behavior
Моральне міркування — це процес побудови й перевірки аргументів; моральна інтуїція — швидка оцінка, яка може спиратися на досвід і засвоєні норми; моральна мотивація — готовність діяти відповідно до морально значущої мети; моральна поведінка — те, що людина реально робить. Інтуїція не дорівнює ірраціональності, а міркування не гарантує нормативно правильного висновку. Цінності й переконання також не гарантують відповідної поведінки.
Чотири різні ролі ШІ в рішенні
Психологічна оцінка залежить від архітектури рішення. Формулювання «ШІ вирішив» часто стирає важливі відмінності, тому в дослідженні й у реальному застосуванні варто розрізняти щонайменше чотири режими.
Автоматизоване рішення
Система самостійно застосовує правило, модель або політику й видає або реалізує результат без нового людського підтвердження для кожного окремого випадку. Людські рішення все одно існують на інших рівнях: у постановці цілі, виборі даних, проєктуванні, закупівлі, розгортанні, нагляді та визначенні меж використання.
Рекомендація ШІ
Система пропонує варіант, прогноз або аргумент, а фінальний вибір залишається за людиною. Психологічно це важлива різниця: у дослідженнях люди часто краще приймають машину як радника, ніж як остаточного морального вирішувача. Водночас рекомендація може істотно впливати на людський вибір.
Спільне рішення людини й ШІ
Людина і система послідовно вносять інформацію в результат: наприклад, ШІ класифікує ризик, лікар інтерпретує прогноз, система повторно ранжує варіанти, а людина затверджує дію. У такій конструкції відповідальність психологічно може розсіюватися між кількома учасниками.
Делегування ШІ
Делегування означає, що людина або організація передає системі певний простір вибору. Питання вже не лише в тому, що «зробив алгоритм», а й у тому, хто визначив його повноваження, які межі були встановлені та хто міг втрутитися. Загальну психологію делегування рішень розглянуто у статті «Коли ШІ вирішує за нас: делегування рішень, когнітивна агентність і психологія контролю».
Чому однаковий наслідок можуть оцінювати по-різному
Людська моральна оцінка не є просто підрахунком шкоди. На неї впливають структура дії, намір, контроль, очікуваність наслідку, роль агента і спосіб опису ситуації. Додавання ШІ змінює частину цих сигналів: люди можуть бачити менше досвіду й почуттів, але більше автоматизованого контролю; менше «людської» мотивації, але більше технічної передбачуваності; менше персональної агентності, але більше автономності системи.
Наслідок і масштаб шкоди
У дилемах із неминучою шкодою кількість постраждалих, імовірність наслідку та його тяжкість впливають на оцінку. Але сам факт кращого сумарного результату не робить усі способи його досягнення однаково прийнятними. Це одна з причин, чому «мінімізувати очікувану шкоду» не можна безпосередньо ототожнювати з тим, як люди реально судять про моральну допустимість.
Дія і бездіяльність
У моральних дилемах люди часто розрізняють активне втручання й бездіяльність. Коли в сценарії з’являється автоматизація, це розрізнення може перебудовуватися. У трьох пререєстрованих експериментах з модифікованими транспортними дилемами Schurr і Moran виявили, що критерії оцінювання водіїв звичайного автомобіля та людей, які контролювали напівавтономну систему, відрізнялися. Це показує, що автоматизація може змінювати саму рамку морального судження, а не лише ставлення до результату.
Намір і «психіка» системи
Люди схильні суворіше оцінювати негативний наслідок, коли агенту приписують знання або намір. Для штучних агентів це особливо методологічно крихке: опис «система знала», «система хотіла» або «їй було байдуже» вже вбудовує ментальні припущення в експериментальну віньєтку. Серія з семи експериментів O’Reilly, Marchesi і Wykowska показала, що менталістичні формулювання й уточнення запитання про відповідальність можуть істотно змінювати оцінки навмисності та моральної відповідальності роботів.
Дослідження Attributions of intent and moral responsibility to AI agents також показало чутливість моральних оцінок штучних агентів до експериментально заданої навмисності та соціального контексту. Це ще одна причина не читати високий бал «відповідальності ШІ» як пряме свідчення того, що респондент приписав системі повноцінну свідомість.
Радник чи фінальний вирішувач
Коли машина лише радить, люди можуть сприймати її роль інакше, ніж коли вона робить остаточний вибір. У дев’яти дослідженнях Bigman і Gray учасники загалом неохоче приймали машини як тих, хто самостійно ухвалює морально значущі рішення в транспорті, медицині, праві та військовому контексті. Обмеження машини роллю радника було одним зі способів зменшити цю неприйнятність у дослідницьких умовах.
Компетентність, контроль і можливість втручання
Ставлення до машинного рішення залежить від того, наскільки компетентною здається система і наскільки зрозуміло, хто зберігає контроль. Висока технічна точність може підвищувати довіру до прогнозу, але моральна прийнятність не зводиться до точності. Людина може вважати систему експертною і водночас заперечувати проти передачі їй остаточного вибору, якщо наслідки зачіпають життя, свободу, справедливість або інші цінності.
Чи хочуть люди, щоб машини самостійно ухвалювали моральні рішення
Одне з найстійкіших ранніх спостережень — загальна настороженість до машин як фінальних вирішувачів у морально навантажених сферах. У дослідженні Bigman і Gray учасники віддавали перевагу людям перед машинами для рішень у водінні, медицині, праві й військових завданнях навіть тоді, коли наслідок машинного рішення був позитивним. Частина ефекту була пов’язана зі сприйняттям машин як таких, що не мають повного людського «розуму» — здатності мислити й відчувати. Оригінальне дослідження водночас не дає підстав стверджувати, що люди завжди відкидають автоматизацію: прийнятність залежала від ролі системи та контексту.
Це розрізнення важливе для практики. Запитання «чи довіряєте ви ШІ?» надто грубе. Людина може довіряти машині як інструменту виявлення патернів, але не хотіти передавати їй нормативно значущий вибір; приймати автоматичне гальмування, але не автоматичне ранжування цінності людських життів; погоджуватися з рекомендацією, але вимагати людського підтвердження.
Чи однаково люди судять про людину і робота
Відповідь залежить від того, що саме вимірюється. У 13 дослідженнях із класичною моральною дилемою Malle та співавтори виявили, що нормативні очікування щодо людських і роботизованих агентів загалом були подібними, тоді як судження про провину розходилися за окремих умов. Отже, висновок «людей і роботів оцінюють однаково» та протилежний висновок «їх оцінюють зовсім по-різному» обидва надто грубі.
Для психології сильнішим є точніше формулювання: подібність і відмінність залежать від компонента оцінки. Люди можуть застосовувати до системи схожу норму «що треба було зробити», але мати іншу модель того, хто здатний бути винним, кому можна приписати намір і хто заслуговує осуду.
Автономні автомобілі: найвідоміший полігон моральних дилем ШІ
Автономний транспорт став символічним полем моральної психології ШІ, бо поєднує ризик, неминучу шкоду, автоматизований контроль і зрозумілі широкій аудиторії сценарії. Проте більшість знаменитих «тrolley-like» задач є штучними граничними ситуаціями. Вони добре виявляють структуру суджень, але не відтворюють усю складність реального дорожнього руху, де рішення залежать від невизначеності, сенсорних помилок, часу реакції, фізики й правил безпеки.
Соціальна дилема автономного авто
У шести онлайн-дослідженнях Bonnefon, Shariff і Rahwan учасники загалом схвалювали ідею автомобілів, що мінімізують сумарну шкоду, але водночас були менш готові купувати авто, яке могло б пожертвувати власним пасажиром заради інших. Це часто називають соціальною дилемою автономного транспорту: колективно привабливе правило може конфліктувати з особистим попитом.
Такий результат не доводить, що саме так люди поводитимуться під час реальної аварії, і не встановлює оптимальну політику регулювання. Дослідження використовувало гіпотетичні сценарії та онлайн-вибір. Його сила — в демонстрації психологічного конфлікту між загальною підтримкою принципу й особистою готовністю прийняти його наслідки.
Moral Machine і культурна варіативність
Проєкт Moral Machine зібрав величезний масив онлайн-виборів у сценаріях автономного автомобіля. Awad та співавтори показали як глобально поширені тенденції, так і відмінності між країнами та культурними кластерами. Ці дані важливі як карта людських переваг у штучних дилемах.
Водночас Moral Machine не є світовим референдумом про те, як «правильно» програмувати автомобілі. Вибірка була самоселективною: участь брали люди, які самі прийшли на вебплатформу; сценарії були примусовими й спрощеними; моральні відповіді не дорівнюють технічним вимогам до безпеки. Культурна відмінність у відповідях також не означає, що кожна людина певної країни мислить однаково.
Окремо психологію класичного експериментального парадигму розкриває стаття «Проблема вагонетки». Її не варто перетворювати на тест «який у вас тип моралі» або на модель усіх реальних рішень.
Порада ШІ може змінювати моральне рішення людини
ШІ не обов’язково має бути фінальним вирішувачем, щоб впливати на моральний вибір. У великому експерименті з 1851 учасником Krügel, Ostermaier і Uhl подавали людям суперечливі поради ранньої версії ChatGPT щодо проблеми вагонетки. Порада впливала на моральне судження навіть тоді, коли учасники знали, що джерелом є чатбот, а люди недооцінювали величину цього впливу.
Цей результат не варто переносити безпосередньо на сучасні моделі або на всі моральні теми: дослідження використовувало ChatGPT грудня 2022 року й конкретний парадигм. Водночас наступна робота Ikeda у двох дослідженнях із загальною вибіркою 1925 осіб показала, що поради ChatGPT можуть впливати на рішення в різних сферах, інколи подібно до експертної поради, хоча чутливість до впливу залежала від типу рішення.
Психологічно це означає, що «людина залишилася фінальним вирішувачем» ще не дорівнює «ШІ не змінив рішення». Рекомендація може задавати рамку, робити один аргумент більш доступним, змінювати сприйняття норми або зменшувати суб’єктивну невизначеність. Тому аналіз людсько-машинного рішення має враховувати не лише формальне право останнього слова, а й інформаційну залежність від системи.
Автоматизація може змінити критерій, за яким судять людину
Коли людина взаємодіє з автоматизованою системою, спостерігачі можуть оцінювати її за іншими критеріями, ніж людину без автоматизації. У дослідженні Schurr і Moran учасники по-різному судили про водіїв звичайних автомобілів і про водіїв, які контролювали напівавтономні авто, у сценаріях неминучої шкоди. Для звичайного водія сильніше працював критерій мінімізації шкоди, тоді як в умовах автоматизації зросла роль факту активного втручання.
Це важливий результат для поняття «людина в контурі». Сам факт присутності людини не гарантує, що відповідальність психологічно сприйматиметься так само, як у повністю людському рішенні. Якщо система діє першою, а людина лише контролює або має вузьке вікно для втручання, структура агентності в очах спостерігача змінюється.
Кого звинувачують, коли ШІ помиляється
У реальному людсько-машинному середовищі причинний ланцюг майже завжди ширший за пару «користувач — алгоритм». Є розробники, постачальники даних, організація, що закупила систему, менеджери, які встановили процес, оператор, який отримав рекомендацію, і правила ескалації. Проте людське моральне сприйняття може стискати цей ланцюг і концентрувати провину на найпомітнішому агенті.
У трьох дослідженнях Joo вищий рівень приписування ШІ людоподібного розуму підвищував готовність звинувачувати сам ШІ за моральне порушення. В окремих умовах це також супроводжувалося зменшенням провини, яку приписували компанії. Авторка описує ризик морального «цапа-відбувайла»: штучна система може психологічно поглинати частину осуду, хоча її присутність не усуває людські та організаційні рішення.
У медичній віньєтці з 1653 респондентами в Німеччині Krügel та співавтори учасники приписували певну моральну відповідальність системі рекомендацій ШІ, а в гібридній команді відповідальність людських учасників оцінювалася інакше, ніж у команді лише з людей. Це дані про сприйняту відповідальність у змодельованому сценарії, а не клінічна настанова і не правове правило.
Новіше дослідження з 588 учасниками Tsumura і Yamada показує, що розподіл відповідальності між користувачем, агентом і розробником залежить також від знань про систему та важливості завдання. Це підсилює загальний висновок: «відповідальність за рішення ШІ» психологічно не є фіксованою величиною — її розподіл змінюється разом із контекстом і рамкою.
Автономність, відчуття агентності і відповідальності
Чим більше система бере на себе етапів дії, тим актуальнішим стає питання суб’єктивного контролю людини. У невеликому експериментальному дослідженні з військовою симуляцією Salatino та співавтори вищий рівень автономності системи був пов’язаний зі зниженням суб’єктивного відчуття агентності й відповідальності та міг впливати на моральні рішення.
Цей результат слід вважати попереднім для широких узагальнень: вибірка була малою, N = 31, а завдання — спеціалізованою симуляцією. Він важливий не як доказ універсального «ефекту автономності», а як сигнал для подальших досліджень того, як розподілення контролю між людиною і системою змінює переживання власної участі.
Антропоморфізм: коли форма системи змінює моральну увагу
Люди реагують не лише на функцію системи, а й на сигнали людоподібності. Антропоморфізм може виникати через зовнішність, мову, голос, опис «думок», демонстрацію емоційних слів або просто через те, що система поводиться як соціальний партнер. Це може впливати і на те, чи сприймають машину як агента, і на те, чи готові захищати її від шкоди.
У трьох експериментах 2026 року з 606 учасниками Si та співавтори фізичний та ментальний антропоморфізм роботів підвищував моральну увагу до них у сценаріях шкоди; особливо важливим було сприйняття здатності переживати. Такі результати показують, як людська моральна психологія реагує на ознаки «досвіду». Вони не доводять, що робот реально має феноменальний досвід.
Тому фрази на кшталт «ШІ боїться», «ШІ хоче», «ШІ страждає» не є нейтральними описами для психологічного дослідження. Вони можуть самі формувати моральну відповідь. Коли дослідник або продуктова команда використовує антропоморфну мову, слід відокремлювати реакцію на дизайн від твердження про внутрішні властивості системи.
Культура і контекст: універсальної «реакції на ШІ» немає
Моральні оцінки формуються в соціальному та культурному контексті. Дані Moral Machine показали міжкраїнні й міжкластерні відмінності у виборах, але навіть масштабна база онлайн-відповідей не дозволяє зводити культуру до простих національних типів. Усередині кожного суспільства є значна варіативність, а результати залежать від формулювання дилеми та від того, хто взагалі взяв участь.
Систематичний огляд Tok, Powell і Guellaï також підкреслює роль контексту в сприйнятій моральній агентності штучних систем. Звідси випливає методологічна вимога: не перетворювати середню групову різницю на психологічну типологію окремої людини і не ранжувати культури за «моральністю».
Що показують сучасні дані в цілому
Найстійкіший висновок полягає в тому, що люди не сприймають участь ШІ як морально нейтральну технічну деталь. Роль системи змінює судження про допустимість, провину, відповідальність, контроль і прийнятність делегування. Але напрям зміни не є одним і тим самим у всіх дослідженнях: машина може отримувати менше провини, більше провини або подібну нормативну оцінку залежно від завдання та показника.
Другий висновок: люди здатні приписувати ШІ часткову агентність і відповідальність, однак це не означає автоматичного перенесення на систему людського морального статусу. Систематичний огляд 2026 року показує фрагментарність і умовність таких приписувань, а Annual Review розглядає їх як частину ширшої людської моральної психології машин.
Третій висновок: порада ШІ може впливати на людський моральний вибір навіть без формального делегування. Отже, просте правило «останню кнопку натискає людина» не описує всі психологічні наслідки. Потрібно враховувати, як система формує доступні аргументи, рамку ризику та сприйняття норми.
Четвертий висновок: дані про людські переваги не є готовим кодексом для проєктування. Те, що більшість респондентів обрала один варіант у дилемі, не доводить, що цей варіант слід реалізувати в політиці або алгоритмі. Психологія описує судження; нормативні рішення потребують окремих етичних, правових, технічних і суспільних процедур.
Типові помилки в інтерпретації
«Якщо люди звинувачують ШІ, значить вони вважають його свідомим»
Ні. Провина може бути результатом мови сценарію, сприйнятої автономності, причинної ролі або антропоморфізму. Експериментальне приписування відповідальності не є тестом свідомості. Навіть дуже сильна соціальна реакція на систему залишається фактом про людське сприйняття.
«Якщо ШІ дав пораду, рішення все одно повністю людське»
Формально фінальний вибір може залишатися людським, але психологічно порада здатна змінити судження. Експерименти з ChatGPT показують, що люди можуть підлаштовувати рішення під рекомендацію і при цьому недооцінювати її вплив.
«Якщо більшість обрала варіант, це морально правильний алгоритм»
Ні. Опитування вимірює переваги або судження певної вибірки за певного формулювання. Воно не розв’язує нормативну проблему. Особливо небезпечно переносити результати примусових бінарних дилем у реальні системи, де завданням часто є не «кого пожертвувати», а зменшити ймовірність потрапити в таку ситуацію.
«Усі моральні рішення ШІ викликають відразу»
Дані складніші. Існує помітна машинна аверсія у морально значущих рішеннях, але прийнятність змінюється залежно від ролі радника чи вирішувача, компетентності, типу завдання, наслідків і можливості людського контролю. Один ефект не є універсальною властивістю ставлення до ШІ.
«Більша автономність автоматично знімає відповідальність з людини»
Ні. Вища автономність може змінювати суб’єктивне відчуття контролю або розподіл провини, але психологічна реакція не анулює відповідальність розробників, користувачів, організацій та інших людських учасників. Реальний розподіл відповідальності потребує аналізу конкретних ролей і правил.
«Одна дилема показує, наскільки людина моральна»
Ні. Вибір у конкретному сценарії залежить від формулювання, наслідків, способу дії, контексту і багатьох інших чинників. Моральна дилема є експериментальним інструментом, а не рейтингом моральності людини і не діагностикою особистості.
Практичні наслідки для дизайну людсько-машинних рішень
Морально значущу систему корисно описувати через реальну архітектуру рішення, а не через маркетингове «ШІ вирішує». Читачеві, користувачеві й оператору має бути зрозуміло, чи система прогнозує, рекомендує, ранжує, автоматично виконує дію або має делеговану свободу вибору.
Важливо робити видимими людські точки контролю: хто встановив мету, хто вибрав поріг, хто може відхилити рекомендацію, хто стежить за помилками, хто переглядає винятки. Це не лише управлінське питання. Прозора карта ролей зменшує ризик того, що користувачі психологічно зведуть складну систему до одного уявного «винного ШІ».
Для рекомендаційних систем важливо тестувати не тільки точність, а й залежність людських рішень від форми поради. Різницю можуть створювати впевненість формулювання, порядок аргументів, антропоморфна мова, видимість невизначеності та можливість запросити альтернативу. Дані про вплив ChatGPT на моральні судження показують, що просте повідомлення «це відповідь ШІ» саме по собі не гарантує незалежності користувача.
Для систем високого ризику необхідно окремо досліджувати ситуації, де людина формально залишається в контурі, але має мало часу, інформації або реальної можливості заперечити рекомендацію. Психологічний контроль і номінальне право втручання можуть відрізнятися.
Антропоморфний дизайн також має морально-психологічні наслідки. Людоподібна мова, обличчя, голос або твердження про «почуття» здатні змінювати приписування наміру, відповідальності й моральної турботи. Якщо мета — точне розуміння ролі системи, дизайн не повинен випадково маскувати технічну й організаційну архітектуру під образ автономної особи.
Межі доказів: чого ми поки не знаємо
Поле швидко розвивається, але значна частина доказів походить із віньєток, транспортних дилем, онлайн-експериментів і коротких лабораторних задач. Такі методи добре ізолюють механізм, проте реальне моральне рішення часто розгортається в часі, містить неповну інформацію, професійні правила, командну взаємодію, страх наслідків і можливість перегляду.
Термінологія досліджень неоднорідна: «AI», «algorithm», «robot», «autonomous system» і «machine» можуть позначати дуже різні об’єкти. Частина старіших робіт досліджувала роботів або вузькі алгоритми, а сучасні генеративні системи мають інші комунікативні властивості. Перенесення ефекту між класами систем потребує перевірки.
Так само неоднорідні залежні змінні. «Відповідальність», «провина», «намір», «довіра», «прийнятність», «правильність» і «готовність делегувати» не можна складати в один загальний показник ставлення до ШІ. Саме змішування цих конструктів часто створює суперечливі заголовки.
Культурна база досліджень розширюється, але все ще нерівномірна. Масштабні міжнародні онлайн-дані дають важливу картину варіативності, проте не замінюють репрезентативні дослідження конкретних популяцій і професійних контекстів.
Нарешті, технології змінюються швидше, ніж накопичуються довгострокові психологічні дані. Ефект, отриманий на конкретному чатботі або інтерфейсі, може залежати від його стилю, точності, доступних пояснень і того, як люди сприймають ШІ в певний момент історії. Тому для нових систем особливо важливі реплікації та пряма перевірка.
Як читати нове дослідження про моральні рішення ШІ
Корисно поставити кілька послідовних запитань. Який саме агент досліджувався — робот, алгоритм, чатбот чи автономна система? Яку роль він мав — радник, виконавець чи фінальний вирішувач? Чи вимірювали правильність, провину, відповідальність, довіру або поведінковий вибір? Чи був сценарій гіпотетичним? Чи порівнювали з людиною? Наскільки репрезентативною була вибірка? Чи не вбудовано в опис ментальні слова на кшталт «знав» або «хотів»?
Після цього варто відокремити психологічний висновок від нормативного. Формула «учасники частіше обирали X» означає саме це. Вона не означає «суспільство має запровадити X», «X етично правильне» або «ШІ повинен діяти так». Така дисципліна читання особливо важлива для тем, де технологічний дизайн, право й етика легко змішуються з експериментальною психологією.
FAQ
Чи оцінюють люди моральне рішення ШІ так само, як рішення людини?
Не завжди й не за всіма показниками. Дослідження показують, що нормативні очікування можуть бути подібними, тоді як провина, відповідальність або прийнятність відрізняються. Результат залежить від сценарію, ролі системи, наслідку й того, що саме запитують у респондента.
Чи вважають люди ШІ прийнятним моральним вирішувачем?
У багатьох дослідженнях люди обережніше ставляться до машини як до фінального вирішувача в морально значущій сфері, ніж як до радника. Але це не універсальна відмова від ШІ: прийнятність змінюється з компетентністю, контекстом, рівнем контролю і типом рішення.
Що показав експеримент Moral Machine?
Він показав патерни людських переваг у великій кількості штучних транспортних дилем і культурну варіативність цих патернів. Він не встановив універсальний моральний алгоритм для автономних авто і не був репрезентативним референдумом населення світу.
Чи впливає порада ChatGPT або іншого ШІ на моральний вибір?
Експериментальні дані показують, що може впливати. У дослідженнях із ChatGPT порада зміщувала частину рішень, а учасники могли недооцінювати її вплив. Величина й напрям ефекту залежать від завдання, джерела поради та конкретної системи.
Чи означає звинувачення ШІ, що люди вважають його свідомим?
Ні. Приписування провини або відповідальності може виникати через сприйняту автономність, причинну роль, антропоморфізм і формулювання сценарію. Це факт людської атрибуції, а не доказ свідомості системи.
Чи стає людина менш відповідальною, якщо використала ШІ?
Психологічно частина респондентів може перерозподіляти відповідальність між людиною, системою, розробником і організацією. Але використання ШІ саме по собі не скасовує людські та організаційні ролі. Для конкретного випадку потрібен аналіз реального контролю, повноважень і процедур.
Чи краще завжди залишати фінальне моральне рішення людині?
Моральна психологія не дає універсальної нормативної відповіді. Вона може показати, як люди реагують на різні режими делегування, як змінюється відчуття контролю і як порада системи впливає на вибір. Рішення про допустиму автоматизацію потребує також технічного, правового, етичного та інституційного аналізу.
Чи можна за відповідями в дилемі визначити «моральність» людини?
Ні. Одна відповідь не є тестом моральності, морального характеру або особистісного типу. Вона показує реакцію на конкретну структуру завдання за конкретного формулювання.
Чи може ШІ бути моральним агентом або моральним пацієнтом?
Люди можуть сприймати ШІ як часткового морального агента або поширювати на нього моральну турботу як на пацієнта. Такі результати належать до психології сприйняття. Вони не встановлюють, що сучасна система має свідомість, почуття, здатність страждати або самостійну моральну суб’єктність. Загальний контекст цієї теми подано у статті «Моральна психологія штучного інтелекту».
Пов’язані статті
Джерела
Awad, E., Dsouza, S., Kim, R., Schulz, J., Henrich, J., Shariff, A., Bonnefon, J.-F., & Rahwan, I. (2018). The Moral Machine experiment. Nature, 563, 59–64.
Bigman, Y. E., & Gray, K. (2018). People are averse to machines making moral decisions. Cognition, 181, 21–34.
Bonnefon, J.-F., Shariff, A., & Rahwan, I. (2016). The social dilemma of autonomous vehicles. Science, 352(6293), 1573–1576.
Bonnefon, J.-F., Rahwan, I., & Shariff, A. (2024). The Moral Psychology of Artificial Intelligence. Annual Review of Psychology, 75, 653–675.
Ikeda, S. (2024). Inconsistent advice by ChatGPT influences decision making in various areas. Scientific Reports, 14, 15876.
Joo, M. (2024). It’s the AI’s fault, not mine: Mind perception increases blame attribution to AI. PLOS ONE, 19(12), e0314559.
Krügel, S., Ostermaier, A., & Uhl, M. (2023). ChatGPT’s inconsistent moral advice influences users’ judgment. Scientific Reports, 13, 4569.
Krügel, S., Ammeling, J., Aubreville, M., Fritz, A., Kießig, A., et al. (2025). Perceived responsibility in AI-supported medicine. AI & Society, 40, 1485–1495.
Malle, B. F., Scheutz, M., Cusimano, C., Voiklis, J., Komatsu, T., Thapa, S., & Aladia, S. (2025). People’s judgments of humans and robots in a classic moral dilemma. Cognition, 254, 105958.
O’Reilly, Z., Marchesi, S., & Wykowska, A. (2025). The impact of action descriptions on attribution of moral responsibility towards robots. Scientific Reports, 15, 4128.
Salatino, A., Prével, A., Caspar, E., & Lo Bue, S. (2025). “Fire! Do not fire!”: Investigating the effects of autonomous systems on agency and moral decision-making. Acta Psychologica, 260, 105350.
Schurr, A., & Moran, S. (2023). The presence of automation enhances deontological considerations in moral judgments. Computers in Human Behavior, 140, 107590.
Si, H., Huang, G., Chen, H., Liang, S., Feng, Y., & Qu, C. (2026). Do humans grant moral consideration to anthropomorphic robots? Humanities and Social Sciences Communications, 13, 1509.
Tok, A. Y. F., Powell, N. L., & Guellaï, B. (2026). A systematic review of moral agency in artificial agents. Discover Psychology, 6, 9.
Tsumura, T., & Yamada, S. (2026). Effects of knowledge and importance on responsibility in human-AI decision making. Scientific Reports, 16, 2670.