ШІ як моральний агент: коли люди покладають на систему відповідальність за рішення і чому це не робить її юридичним або свідомим суб’єктом
Автор: Український психологічний ХАБ · Опубліковано: 23 вересня 2026 року · Редакційна політика
Коли система штучного інтелекту радить лікування, ранжує кандидатів, визначає маршрут, відхиляє заявку або генерує відповідь із серйозними наслідками, люди часто говорять про неї так, ніби вона була учасником вчинку: «ШІ вирішив», «алгоритм винен», «система мала знати». Для моральної психології це важливий факт людського сприйняття. Він показує, як ми розподіляємо агентність, провину й відповідальність у ситуаціях, де дія виникає з взаємодії людини, організації та технічної системи.
Водночас психологічне приписування відповідальності не є доказом того, що система має свідомість, почуття, власний моральний намір або юридичну правосуб’єктність. Огляд у Annual Review of Psychology описує машини як новий об’єкт моральної психології — вони можуть сприйматися людьми як моральні агенти, моральні пацієнти або моральні проксі. Саме слово «сприйматися» тут принципове: дослідження вимірюють людські судження про систему, а не встановлюють її внутрішній феноменальний стан.
Ця сторінка має вузький canonical intent: пояснити, коли й чому люди покладають моральну відповідальність безпосередньо на ШІ та чому така атрибуція не перетворює систему на свідомого чи юридичного суб’єкта. Ширший огляд агентності, морального статусу, моральної пацієнтності та проксі-ролей зібрано у статті «Моральна психологія штучного інтелекту».
Що означає «ШІ як моральний агент» у психології
У цьому контексті «ШІ як моральний агент» означає передусім сприйняту моральну агентність — те, наскільки людина вважає штучну систему самостійним учасником морально значущої дії, якому можна приписати контроль, намір, провину, заслугу або відповідальність. Це емпіричний психологічний конструкт, а не сертифікат «справжньої» моральної суб’єктності.
Систематичний огляд Tok, Powell і Guellaï охопив 36 досліджень сприйнятої моральної агентності штучних агентів — роботів, ШІ, дронів та інших систем. Загальна картина градуальна: люди можуть наділяти штучного агента частковою або неповною моральною агентністю, причому оцінка залежить від поведінки системи, форми її представлення, антропоморфних сигналів, ролі в рішенні, контексту та характеристик спостерігача. Самі автори наголошують на неоднорідності поля й на тому, що прямі міри perceived moral agency використовуються поки нечасто.
Корисно розрізняти щонайменше чотири рівні, які в побутовій мові легко зливаються. ШІ може бути причинним учасником події, коли його вихід реально змінює результат. Він може бути функціональним агентом, коли автономно виконує послідовність операцій і обирає між доступними діями. Він може бути сприйнятим моральним агентом, коли люди застосовують до нього категорії провини, наміру й відповідальності. І окремо існує питання моральної або юридичної суб’єктності — нормативного статусу, який не випливає автоматично з трьох попередніх рівнів.
Моральне судження, провина і відповідальність — різні психологічні змінні
Для цієї теми критично не зливати кілька близьких понять. Moral judgment — моральне судження — оцінює дію або результат як допустимі, недопустимі, правильні чи неправильні. Blame judgment — судження про провину — відповідає на питання, наскільки конкретного учасника слід звинувачувати або засуджувати. Responsibility attribution — приписування відповідальності — стосується того, кому люди відводять причинну, рольову або моральну частку за результат. Norm judgment — судження про норму — описує очікування щодо того, що учасник мав би зробити.
Моральне рішення — це вибір між альтернативами з морально значущими наслідками. Моральне міркування — процес роботи з причинами, правилами, наслідками й цінностями. Моральна інтуїція — швидка оцінка, яка може виникати без розгорнутого свідомого аналізу; її швидкість сама по собі не робить її ірраціональною. Моральна мотивація — сили, що спонукають діяти відповідно до моральної оцінки, а моральна поведінка — фактична дія. Ці рівні можуть розходитися.
Особливо показова серія з 13 досліджень і 7670 учасників, опублікована Malle та колегами. Норми для людей і роботів у моральних дилемах були загалом подібними, тоді як судження про провину в окремій умові систематично розходилися. Отже, відповідь на питання «що агент мав зробити?» не дає автоматичної відповіді на питання «наскільки його слід звинувачувати?». Для сторінки про ШІ це захищає від дуже поширеної помилки: перетворювати будь-яке моральне судження про результат на висновок про повну моральну відповідальність системи.
За яких умов люди покладають відповідальність на ШІ
Сприйнята автономність і контроль
Що більше система здається здатною діяти без безпосередньої команди в конкретний момент, то легше спостерігачеві побачити в ній окремого учасника події. Важливо, що йдеться про сприйняту автономність: технічно складна система може бути представлена як «самостійна», хоча її поведінка жорстко обмежена даними, правилами, архітектурою, політиками доступу й рішеннями організації.
Систематичний огляд 2026 року показує, що автономність, інтерактивність, людоподібна поведінка та роль у морально значущій ситуації можуть підсилювати perceived moral agency. Але огляд не підтримує бінарного висновку «автономна система = моральний агент»: атрибуції залишаються частковими й залежать від контексту.
Намір, знання і опис дії
У людській моральній психології намір зазвичай має велике значення для провини. Подібний шаблон частково переноситься й на ШІ. У дослідженні Ayad і Plaks штучні агенти, описані як такі, що навмисно сприяли негативному результату, отримували суворіші моральні оцінки, ніж агенти з ненавмисною участю. Соціальна вбудованість системи також змінювала оцінювання: коли її «розум» сприймався як менш відокремлений від програмістів, судження ставали іншими.
Це не означає, що експеримент довів наявність реального наміру в ШІ. Дослідники маніпулювали тим, як учасники інтерпретували дії агента. Результат стосується механізму людської атрибуції: якщо поведінка описана мовою наміру, люди частіше застосовують моральні категорії, знайомі з міжособистісного світу.
Схожий висновок дають сім віньєткових експериментів O’Reilly, Marchesi і Wykowska: формулювання дії та негативний наслідок впливали на приписування роботам навмисності й моральної відповідальності. У деяких умовах відповідальність приписували навіть тоді, коли навмисність оцінювали слабко. Тому «люди звинувачують ШІ» не можна зводити до простого правила «вони спершу вирішили, що він свідомо хотів шкоди».
Негативний наслідок і моральна значущість ситуації
Наслідок сам по собі теж змінює атрибуцію. Ще в дослідженні Shank і DeSanti учасники оцінювали реальні випадки, де робота ШІ була пов’язана з морально проблемним результатом. За негативного результату самій системі приписували більше неправильності, а також певні рівні усвідомлення, наміру й відповідальності. Це важливий приклад того, як оцінка результату може «підтягувати» за собою уявлення про властивості агента.
У новішому експерименті Tsumura і Yamada з 588 учасниками відповідальність після невдалих взаємодій людини з агентом розподілялася між користувачем, самим агентом і розробником або провайдером. Коли тема ставала важливішою, учасники більше відповідальності покладали на розробника або провайдера; відповідальність системи теж не зникала. Картина була не статичною, а залежала від попереднього знання про агента та серйозності ситуації.
Антропоморфізація і сприймання психіки
Голос, ім’я, займенник «я», аватар, пояснення власних дій, вибачення, емоційна лексика та діалогова пам’ять можуть робити систему соціально читабельнішою. Докладно цей механізм розібрано в окремій статті «Антропоморфізація ШІ». Антропоморфізація не тотожна наївності: людський мозок закономірно використовує соціальні моделі для прогнозування поведінки складних інтерактивних об’єктів. Помилка починається тоді, коли з інтерфейсних сигналів без додаткових доказів виводять внутрішні властивості — свідомість, почуття або моральний намір.
Класичне дослідження Heather Gray, Kurt Gray і Daniel Wegner показало два великі виміри сприймання психіки: agency — здатність планувати, контролювати й діяти — та experience — здатність відчувати й переживати. Ці виміри по-різному пов’язані з моральними судженнями. Для ШІ це дає важливе розрізнення: система може здаватися функціонально агентною, але це не є вимірюванням її феноменального досвіду.
Роль системи та соціальний контекст
Те саме програмне ядро може отримати різну моральну оцінку залежно від ролі. «Інструмент, який показав прогноз», «радник, який рекомендував дію», «агент, який сам обрав», і «система, якій організація делегувала фінальне рішення» задають різні очікування щодо контролю. Саме тому дослідження роботів, автономного транспорту, чатботів або алгоритмічного ранжування не слід механічно переносити одне на одне.
Tok та колеги підкреслюють також роль культурного й ситуаційного контексту. Поле поки не дає універсальної формули, за якою можна обчислити «скільки» моральної агентності люди приписуватимуть будь-якому ШІ. Науково точніше говорити про набір умов, що підсилюють або послаблюють атрибуцію.
Чому люди можуть звинувачувати ШІ без доказів свідомого наміру
Моральне сприйняття не починається з філософського екзамену на свідомість. У повсякденному житті люди спочатку бачать дію, наслідок і роль учасників, а потім швидко будують пояснення: хто контролював ситуацію, хто міг передбачити наслідок, хто мав можливість вчинити інакше. Коли ШІ генерує видимий результат і його поведінка здається цілеспрямованою, він легко займає місце в цій причинно-моральній карті.
Така атрибуція може бути практичною евристикою. Сказати «система помилилася» іноді зручно для опису функціональної поведінки. Але психологічна економність мови створює ризик непомітного переходу від функціонального опису до онтологічного висновку: від «система обрала варіант» до «система усвідомила його моральний сенс і захотіла наслідку». Емпіричні дослідження відповідальності фіксують перший феномен — людську інтерпретацію; вони не встановлюють другого.
Саме тому moral intuition не варто називати просто «ірраціональною». Швидке приписування агентності може бути адаптивним способом орієнтації в соціально складному середовищі. Наукове завдання полягає в тому, щоб відокремити психологічно реальну атрибуцію від тверджень про властивості системи, які потребують незалежних доказів.
Кому дістається відповідальність у системі «людина + ШІ»
Запитання «хто відповідає — людина чи ШІ?» часто поставлене надто грубо. Реальні системи складаються з кількох ролей: розробника, постачальника моделі, організації, що її впровадила, оператора, користувача, особи, яка затверджує рішення, і самої технічної системи як причинного компонента. Моральна психологія досліджує, як люди розподіляють відповідальність між цими вузлами; право й організаційне управління окремо визначають формальні обов’язки.
Автоматизоване рішення
Автоматизоване рішення — це ситуація, де вихід системи безпосередньо визначає або запускає дію за заданою процедурою, а індивідуальне людське підтвердження в момент конкретного рішення відсутнє або обмежене. Тут система може здаватися найближчим причинним агентом. Але причинна близькість не стирає попередніх рішень про розроблення, закупівлю, налаштування, допустимі пороги, дані та межі використання.
Рекомендація ШІ
AI recommendation — рекомендація ШІ — залишає формальний фінальний вибір за людиною. Це не гарантує фактичної незалежності: люди можуть надмірно покладатися на автоматизовану підказку, особливо коли система подана як експертна. Проте психологічно важливо не називати рекомендацію «рішенням ШІ», якщо людина справді мала повноваження відхилити її й несла роль у фінальному виборі.
Спільне рішення людини й ШІ
Human–AI joint decision — спільне рішення — виникає, коли результат формується через взаємне доповнення: система генерує оцінку або варіанти, людина додає контекст, коригує, обирає чи підтверджує. У такій конфігурації сама вимога знайти одного «винного агента» може спотворювати структуру процесу. Відповідальність психологічно й організаційно може розподілятися, а реальний контроль треба відновлювати по етапах.
Делегування рішення ШІ
Delegation to AI — делегування ШІ — означає, що людина або організація свідомо передає системі частину вибору чи виконання. Це ширша тема, розкрита у статті «Коли ШІ вирішує за нас: делегування рішень, когнітивна агентність і психологія контролю». Делегування може зменшувати суб’єктивне відчуття власної участі, але не створює універсального правила, за яким відповідальність автоматично переходить до системи.
Особливо показове дослідження Hüholt і Szech 2026 року: у двох експериментах із 5639 учасниками люди, які самі стояли перед реальним моральним рішенням, частіше делегували його ШІ, ніж людському делегату. Одним із виявлених мотивів було перенесення відповідальності. Цей результат важливий ще й тому, що він не повторює просту історію про «алгоритмічну відразу»: у певних умовах ШІ може бути привабливим саме як моральний делегат.
Два протилежні ризики: «винен алгоритм» і «винна найближча людина»
Помилкова атрибуція відповідальності може рухатися у двох напрямках. Перший — перетворити систему на зручний моральний щит: «це вирішив алгоритм», тому людські та організаційні рішення ніби зникають. Систематичний огляд perceived moral agency прямо вказує на ризик того, що штучні агенти можуть ставати об’єктами перенесення провини, поки відповідальні людські учасники залишаються менш помітними.
Другий напрямок протилежний. Концепт moral crumple zone, запропонований Madeleine Clare Elish, описує ситуацію, коли найближчий людський оператор отримує непропорційно велику моральну або юридичну провину, хоча його фактичний контроль над складною автоматизованою системою був обмеженим. Це концептуальна рамка, сформована на аналізі автоматизованих соціотехнічних систем, а не універсальний закон людської поведінки.
Разом ці два ризики показують, чому формула «завжди звинувачуйте людину» така ж неточна, як формула «відповідає ШІ». Сильний аналіз відновлює ланцюг контролю: хто встановив цілі, хто обрав систему, хто визначив дані й пороги, хто міг втрутитися, хто бачив попередження, хто мав право зупинити процес, хто отримував вигоду та хто фактично виконав дію.
Чому сприйнята моральна агентність не доводить свідомість ШІ
Свідомість, здатність відчувати й моральна агентність — різні питання. Людина може приписати системі agency через її цілеспрямовану поведінку й водночас не приписувати experience. Може бути й навпаки: антропоморфний дизайн викликає співчуття без сильного уявлення про контроль. Саме тому вимірювання «наскільки учасники звинувачують агента» не є тестом на наявність у нього суб’єктивного досвіду.
Gray, Gray і Wegner досліджували сприймання психіки людьми, а не безпосередньо внутрішню свідомість оцінюваних сутностей. Аналогічно сучасні експерименти з роботами й ШІ вимірюють судження спостерігачів. Якщо учасник ставить високий бал «відповідальності» чатботу, це достовірно повідомляє щось про його оцінювання чатбота; з цього логічно не випливає, що система переживає провину, розуміє моральний зміст дії або має феноменальний досвід.
Тому коректна формула для цього кластера така: люди можуть сприймати ШІ як морального агента; це є даними про людську моральну психологію. Питання про свідомість ШІ потребує іншого типу аргументів і доказів та не вирішується експериментом з атрибуції провини.
Чому це не робить ШІ юридичним суб’єктом
Юридичний статус визначається правом, а не психологічною інтуїцією спостерігача. Той факт, що люди говорять «алгоритм винен» або оцінюють систему як відповідальну в експерименті, сам по собі не створює правосуб’єктності, прав, обов’язків чи здатності нести санкції.
Станом на вересень 2026 року Регламент ЄС 2024/1689 (AI Act) структурує обов’язки навколо визначених ролей — зокрема provider (постачальника) і deployer (суб’єкта, що використовує систему). За визначеннями регламенту ці ролі належать фізичним або юридичним особам, органам влади, агенціям чи іншим організаціям. Для високоризикових систем регламент окремо встановлює вимоги до людського нагляду та розподіляє відповідальності вздовж ланцюга ШІ. Це конкретний приклад того, що нормативна архітектура не виводиться з того, кого користувач суб’єктивно вважає «винним».
Звідси не випливає універсальний висновок про всі можливі майбутні правові режими. Право може змінюватися, а відповідальність у конкретній справі залежить від юрисдикції, галузі, договорів, характеру шкоди та фактичних ролей учасників. Стабільне розрізнення інше: психологічне приписування моральної агентності та юридична правосуб’єктність належать до різних рівнів аналізу.
Чи хочуть люди взагалі, щоб ШІ приймав моральні рішення
Ранніша експериментальна література часто знаходила опір машинним моральним рішенням. У дев’яти дослідженнях Bigman і Gray учасники гірше сприймали автономні машинні рішення в морально значущих сферах, а частину цього ефекту пояснювало уявлення, що машині бракує повноцінного «розуму». Обмеження системи дорадчою роллю в одному з експериментів зменшувало відразу.
Проте дані 2026 року ускладнюють картину. У дослідженні Hüholt і Szech люди частіше делегували власне моральне рішення ШІ, ніж іншій людині, коли відповідальність за вибір лежала на них самих. Різниця між «чи хочу я, щоб машини загалом вирішували моральні питання?» і «чи передам я конкретне складне рішення, за яке відповідаю сам?» показує, наскільки важливі позиція учасника та контекст.
Отже, сучасна evidence base не підтримує універсальної тези ані про «алгоритмічну відразу», ані про «готовність довірити мораль ШІ». Результати залежать від ролі, ризику, типу системи, способу постановки питання й того, чи людина оцінює чужу систему збоку, чи сама може перекласти на неї вибір.
Що показують дослідження — і чого вони поки не показують
Перше стійке спостереження полягає в тому, що моральна агентність ШІ у людському сприйнятті градуальна. Люди здатні приписувати системам частину провини, наміру, контролю або відповідальності, не прирівнюючи їх до дорослої людини як до повного морального агента. Це узгоджується з систематичним оглядом 36 досліджень.
Друге: різні моральні судження розходяться. Норма, провина, відповідальність і оцінка наміру не є взаємозамінними. Серія Malle та колег особливо добре демонструє різницю між norm judgment і blame judgment.
Третє: атрибуція відповідальності розподіляється між системою та людьми й змінюється зі структурою взаємодії. Tsumura і Yamada показали, що попереднє знання про агента й важливість ситуації змінюють те, скільки відповідальності отримують користувач, агент і розробник або провайдер.
Четверте: інтерпретація наміру має значення, але не є єдиною умовою. Ayad і Plaks виявили суворіші оцінки за навмисно описаного внеску ШІ в негативний результат, тоді як O’Reilly та колеги показали, що відповідальність може зберігатися навіть за слабшого приписування навмисності.
Водночас межі evidence суттєві. Багато робіт використовують віньєтки, моральні дилеми або роботів, а не тривалі взаємодії з сучасними генеративними системами. Вибірки й культурні контексти нерівномірні. Різні дослідження вимірюють blame, responsibility, intentionality, wrongness, agency або acceptability різними шкалами. Систематичний огляд прямо вказує, що пряме вимірювання perceived moral agency поки рідкісне. Тому переносити точний ефект з робота в лабораторній дилемі на чатбот, медичну систему чи автономний бізнес-процес слід обережно.
Практичні наслідки: як не втратити відповідальність у взаємодії з ШІ
Для користувача найкорисніше запитувати не «чи є ШІ справжнім моральним агентом?», а «яку роль він виконує в цьому конкретному рішенні і хто реально контролює кожний етап?». Таке формулювання повертає аналіз від метафори до структури дії.
Для організацій важливо розрізняти рекомендацію, автоматизоване рішення, спільне рішення та делегування. Якщо ці режими змішані в інтерфейсі або політиці, користувачі можуть помилково переоцінювати як автономність системи, так і власний контроль. Прозоре позначення ролей саме по собі не розв’язує питання відповідальності, але робить її ланцюг перевірюванішим.
Для дизайнерів антропоморфні сигнали мають морально-психологічні наслідки. Коли система говорить «я вирішив», «я вважаю це правильним» або «я беру відповідальність», користувач може читати функціональний вихід як заяву про внутрішній намір. Такий дизайн потребує особливої точності в контекстах, де від помилки залежать права, здоров’я, безпека, гроші або доступ до можливостей.
Для розслідування помилки корисно відновлювати не одного символічного винуватця, а карту контролю: які дані були на вході, хто визначив правила й пороги, що система рекомендувала, що побачила людина, чи могла вона відхилити результат, чи було достатньо часу й інформації для втручання, хто затвердив процедуру та як зберігалися журнали рішень. Це одночасно зменшує ризик «винен алгоритм» і ризик moral crumple zone.
Типові помилки у розмовах про морального агента ШІ
Перша помилка — вважати, що будь-яке слово «агент» означає свідомого суб’єкта. У комп’ютерних науках агентність може позначати функціональну здатність виконувати дії; у психології perceived agency — людське сприйняття; у моралі та праві питання суб’єктності мають інші критерії.
Друга — припускати, що якщо люди звинувачують ШІ, вони обов’язково вірять у його свідомість. Експерименти показують складнішу картину: відповідальність може приписуватися за негативним наслідком, роллю, описом дії або автономністю навіть без сильного приписування повноцінного людського розуму.
Третя — вважати, що відповідальність є грою з нульовою сумою: якщо частину отримує система, люди автоматично отримують менше. У деяких дослідженнях оцінки кількох учасників змінюються одночасно. Психологічна відповідальність може бути розподіленою, а юридичні й організаційні обов’язки визначаються окремо.
Четверта — морально ранжувати людей за тим, чи вони антропоморфізують ШІ. Антропоморфізація є поширеним способом соціального пізнання, а її наслідки залежать від контексту. Завдання — бачити, де вона допомагає взаємодії, а де створює непідтверджені висновки про намір, почуття чи відповідальність системи.
Питання та відповіді
Чи є сучасний ШІ моральним агентом?
У психологічних дослідженнях люди можуть сприймати ШІ як часткового морального агента й приписувати йому провину, намір або відповідальність. Це висновок про людське сприйняття. Він не встановлює, що система має свідомий моральний намір або повну моральну суб’єктність.
Чому люди звинувачують ШІ за погане рішення?
На атрибуцію впливають сприйнята автономність, контроль, опис наміру, тяжкість наслідків, роль системи, людоподібні сигнали та контекст. Негативний результат може посилювати приписування відповідальності навіть тоді, коли уявлення про навмисність залишається слабким або неоднозначним.
Чи може ШІ бути відповідальним, якщо він не мав наміру?
Люди іноді приписують штучним агентам певну відповідальність навіть за слабкого приписування наміру. Це емпіричний факт про судження спостерігачів. Філософське або юридичне питання про те, які умови необхідні для «справжньої» відповідальності, є окремим.
Чи означає автономність ШІ юридичну відповідальність?
Ні. Технічна або функціональна автономність сама по собі не створює правосуб’єктності. Юридичні обов’язки визначаються конкретним правом і ролями учасників. Наприклад, AI Act ЄС встановлює обов’язки для providers, deployers та інших учасників і передбачає людський нагляд для визначених високоризикових систем.
Чи доводить моральна відповідальність ШІ його свідомість?
Ні. Оцінка відповідальності в експерименті вимірює те, як люди інтерпретують систему. Вона не є незалежним тестом на феноменальний досвід, почуття або здатність страждати.
Чи антропоморфізація ШІ завжди є помилкою?
Ні. Людоподібна модель може бути зручною для прогнозування поведінки й комунікації. Ризик виникає, коли з інтерфейсних ознак без достатніх доказів роблять висновок про внутрішню свідомість, почуття або моральний намір.
Хто відповідає за спільне рішення людини й ШІ?
Однієї універсальної відповіді немає. Психологічно люди можуть розподіляти відповідальність між користувачем, системою, розробником і організацією. Організаційно та юридично потрібно дивитися на реальний контроль, повноваження, обов’язки, можливість втручання й конкретний правовий режим.
Чи може делегування ШІ зменшити відчуття власної відповідальності?
Таке перенесення відповідальності зафіксоване в експериментальних роботах, зокрема в дослідженні Hüholt і Szech 2026 року. Але це не означає автоматичного зникнення фактичних людських або організаційних обов’язків.
Чим «ШІ вирішив» відрізняється від «ШІ порадив»?
За рекомендації система подає оцінку або варіант, а фінальний вибір формально залишається за людиною. За автоматизованого рішення або делегування система безпосередньо визначає чи запускає частину результату. Для аналізу відповідальності ця різниця принципова.