Відповідальність за рішення ШІ: як люди розподіляють провину між алгоритмом, користувачем, розробником та організацією
Автор: Український психологічний ХАБ · Опубліковано: 23 вересня 2026 року · Редакційна політика
Коли система штучного інтелекту дає рекомендацію, відхиляє заявку, визначає пріоритет, прокладає маршрут, оцінює ризик або допомагає людині зробити вибір, невдалий наслідок майже відразу породжує питання: хто винен? Алгоритм, який згенерував результат? Користувач, який погодився з ним? Розробник, який створив систему? Організація, яка вирішила її впровадити?
Для моральної психології це питання стосується не стільки того, кому нормативно або юридично належить відповідальність, скільки того, як люди фактично її розподіляють. Сучасний огляд у Annual Review of Psychology показує, що штучні системи вже стали окремим об’єктом морального сприйняття: люди можуть приписувати їм агентність, провину, відповідальність, заслугу або роль морального посередника. Систематичний огляд 36 досліджень Tok, Powell & Guellaï, 2026 водночас показує, що така сприйнята моральна агентність зазвичай залишається частковою, залежить від контексту і не перетворює машину на повний психологічний еквівалент людського морального агента.
Ця стаття має вузький предмет: відповідальність за рішення ШІ як психологічний розподіл провини та відповідальності між кількома учасниками соціотехнічної системи. Ширший огляд того, як люди загалом морально сприймають штучний інтелект, подано у статті «Моральна психологія штучного інтелекту». Питання про те, коли самій системі приписують моральну агентність, окремо розглянуто у статті «ШІ як моральний агент».
Важливе розрізнення проходить через увесь матеріал: людське приписування провини ШІ є фактом про людську психологію. Воно саме по собі не доводить, що система має свідомість, почуття, здатність страждати, власний моральний намір або юридичну правосуб’єктність.
Що означає «відповідальність за рішення ШІ» у психології
У дослідженнях responsibility attribution — приписування відповідальності — означає судження про те, наскільки певний учасник вважається відповідальним за дію, бездіяльність або наслідок. У системі людина–ШІ таким учасником може бути користувач, оператор, алгоритмічна система, команда розробки, постачальник, керівник або організація, яка визначила умови застосування.
Це судження не тотожне причинності. Компонент може бути частиною причинного ланцюга, але сприйматися як мало відповідальний через відсутність контролю або знання. І навпаки, особі чи організації можуть приписувати відповідальність не тому, що вона фізично виконала останню дію, а тому, що вона створила правила, розподілила повноваження, знала про ризик або могла запобігти наслідку.
Так само responsibility attribution не тотожне blame judgment. Теорія звинувачення Malle, Guglielmo & Monroe описує blame як окреме моральне судження, яке враховує порушення норми, причинність, намір, знання, причини дії, обов’язки та здатність діяти інакше. У повсякденній мові «відповідальний» і «винен» часто зливаються, але в дослідженні їх корисно розрізняти. Детальніше про психологію blame judgment див. «Моральне звинувачення».
Юридична відповідальність є ще одним окремим рівнем. Вона встановлюється правом, договорами, професійними обов’язками та конкретними фактами справи. Психологічний експеримент може показати, кого люди схильні звинувачувати, але не замінює правового аналізу.
Який науковий статус цього напряму
Загальні механізми приписування відповідальності та провини мають давню експериментальну базу в соціальній і моральній психології. Дослідження саме людсько-алгоритмічних систем значно молодші й швидко розвиваються.
Огляд Bonnefon, Rahwan & Shariff, 2024 узагальнив експериментальну літературу про машини як моральних агентів, пацієнтів і проксі. Систематичний огляд Tok, Powell & Guellaï, 2026 включив 36 досліджень, у яких аналізували сприйняту моральну агентність або близькі показники, зокрема blame і responsibility.
Ця доказова база достатня, щоб говорити про повторювані механізми: роль сприйнятого контролю, наміру, автономності, знання, контексту, антропоморфних сигналів, наслідків і позиції людини в системі. Водночас вона не дає універсальної формули, за якою можна для будь-якої технології обчислити «правильний» відсоток вини алгоритму, користувача чи компанії. Багато робіт використовують віньєтки, лабораторні сценарії та самооцінки; домени від автономного транспорту до фінансів і чатботів відрізняються за ризиками, реальним контролем і соціальними нормами.
Отже, науково обґрунтовано описувати закономірності людського сприйняття та умови, що змінюють атрибуції. Значно слабше обґрунтовано переносити конкретний результат одного експерименту на всі системи ШІ або перетворювати психологічну частоту звинувачення на нормативну міру того, хто «має бути винним».
Які поняття тут не слід змішувати
Moral judgment — моральне судження — є загальною оцінкою вчинку, рішення, наміру або наслідку як морально прийнятного чи неприйнятного. Воно може існувати без конкретного рішення про те, кого звинувачувати.
Norm judgment — судження про норму — стосується того, чи застосовується певна моральна або соціальна норма і чи була вона порушена. Визнати порушення норми ще не означає визначити повний розподіл відповідальності між усіма учасниками.
Blame judgment — судження про провину або заслужений осуд — спрямоване на конкретного агента. Responsibility attribution — приписування відповідальності — ширше: воно може включати причинну, рольову, контрольну або обов’язкову складову без тотожного рівня морального осуду.
Moral decision — моральне рішення — це вибір із морально значущими наслідками. Moral reasoning — моральне міркування — явний процес обдумування причин, правил і наслідків. Наявність міркування не гарантує морально правильного висновку.
Moral intuition — моральна інтуїція — швидка оцінна реакція, яка може виникати без розгорнутого свідомого аналізу. Швидкість такої реакції не робить її синонімом ірраціональності.
Moral motivation — моральна мотивація — стосується причин, через які людина прагне діяти відповідно до певних моральних зобов’язань. Moral behavior — моральна поведінка — це сама дія. Моральні цінності, ідентичність і переконання можуть впливати на поведінку, але не гарантують її.
Ці розрізнення особливо потрібні в темі ШІ, тому що одна фраза «алгоритм винен» може приховувати кілька різних суджень: система була причиною; система здавалася автономною; користувач мав мало контролю; організація неправильно розподілила ролі; результат вважається морально неприйнятним; або спостерігач просто шукає найбільш помітну мішень для осуду.
Чотири різні конфігурації рішення: автоматизація, рекомендація, спільний вибір і делегування
Для відповідальності критично важливо знати, яку саме роль відігравав ШІ.
Автоматизоване рішення означає, що система безпосередньо визначає результат або запускає дію за заданими правилами без окремого людського підтвердження кожного випадку. Тут питання контролю зміщується до проєктування системи, умов її запуску, моніторингу та можливості втручання.
AI recommendation — рекомендація ШІ — залишає фінальний вибір за людиною. Формальна кнопка «підтвердити» ще не показує реального контролю: важливо, чи мала людина час, компетентність, доступ до альтернативної інформації та реальну можливість відхилити рекомендацію.
Human–AI joint decision — спільне рішення людини й ШІ — виникає, коли внесок системи й людини взаємно впливає на фінальний результат. У таких випадках відповідальність психологічно часто розподіляється, а не переходить до одного учасника.
Delegation to AI — делегування ШІ — означає передачу системі частини вибору або контролю. У двох дослідженнях фінансового вибору Zhao et al., 2026 довіра до ШІ була пов’язана зі зсувом відповідальності через саме делегування рішення; антропоморфізація посилювала цей непрямий зв’язок, а сприйнята підзвітність послаблювала. Ці результати стосуються конкретних експериментальних умов і не означають, що будь-яке використання ШІ автоматично «знімає» відповідальність з людини.
Морально специфічний аспект передачі вибору докладно розглянуто в статті «Делегування моральних рішень ШІ».
Відповідальність у системі людина–ШІ не обов’язково є грою з нульовою сумою
Інтуїтивна модель часто виглядає так: якщо додати провини алгоритму, її має стати менше в людини. Емпіричні дані показують складнішу картину.
У дослідженні Tsumura & Yamada, 2026 588 учасників оцінювали відповідальність користувача, агента та розробника або постачальника після невдалих взаємодій із системою. Розподіл змінювався залежно від попереднього знання про агента та важливості завдання; за високої важливості зростала відповідальність, яку приписували стороні розробки або постачання, а оцінка відповідальності користувача знижувалася. Це показує, що спостерігачі перебудовують карту відповідальності відповідно до контексту, а не просто вибирають одну «винну» сторону.
Схожу багатосторонність видно в дослідженнях спільного керування. Zhai, Gao, Wang & Liu, 2023 аналізували ситуації, де помилок припустилися і людина-водій, і автоматизована система. Учасники покладали більше відповідальності на тестового водія, ніж на виробника, але не звільняли виробника від відповідальності повністю.
Тому питання «хто винен: людина чи алгоритм?» часто має хибно вузьку структуру. Психологічно люди можуть одночасно вважати кілька сторін відповідальними за різні частини події.
Що найбільше впливає на розподіл провини
Причинний внесок
Люди насамперед намагаються зрозуміти, що призвело до наслідку. Якщо помилка моделі була безпосередньою ланкою, система стає помітною мішенню атрибуції. Але причинність сама по собі не вирішує питання моральної провини: у складній системі кілька компонентів можуть бути причинно необхідними або сприяти одному результату.
Контроль і можливість діяти інакше
Контроль є одним із центральних сигналів відповідальності. Якщо користувач міг відхилити рекомендацію, перевірити її або зупинити процес, його роль оцінюється інакше, ніж у ситуації, де «людина в контурі» мала лише секунди на реакцію або формальне право натиснути кнопку.
Саме цей розрив між видимою і реальною можливістю контролю лежить в основі поняття moral crumple zone у Elish, 2019: у складній автоматизованій системі найближча до події людина може стати зручною мішенню відповідальності, хоча її фактичний контроль був обмеженим. Це концептуальна рамка й аналіз соціотехнічних випадків, а не універсальний психологічний закон.
Знання і передбачуваність
Важливо, що людина або організація знала про систему: її межі, типові помилки, невизначеність і контекст, у якому вона працює. Передбачуваний ризик зазвичай оцінюється інакше, ніж рідкісний збій, про який учасник не міг обґрунтовано знати.
У роботі Tsumura & Yamada, 2026 інформація, яку учасники мали про агента, змінювала розподіл відповідальності. Це не встановлює універсального напрямку для кожної ролі, але підтверджує, що когнітивне представлення системи впливає на те, кого вважають відповідальним.
Намір і сприйнята автономність
Для людських агентів намір є центральним елементом blame judgment. У випадку ШІ люди можуть переносити цю логіку на систему навіть тоді, коли її «намір» є продуктом сприйняття.
Ayad & Plaks, 2025 у серії експериментів показали, що системи, описані як такі, що навмисно сприяли негативному наслідку, отримували суворіші моральні оцінки, ніж системи з ненавмисним внеском. Інші характеристики, зокрема соціальна пов’язаність, змінювали оцінки через сприйняття окремішності «розуму» системи від програмістів і приписування свободи волі. Це дані про людські атрибуції, а не доказ реального машинного наміру.
Тяжкість і моральна помітність наслідку
Негативний результат робить питання вини психологічно гострішим. У сервісних сценаріях тяжкість збою змінює те, як користувачі розподіляють відповідальність, а в ширшій моральній психології інформація про наслідок може впливати на звинувачення навіть за подібного процесу прийняття рішення.
Це означає, що оцінка після катастрофічного результату може відрізнятися від оцінки тієї самої процедури, яка випадково завершилася без шкоди. Така чутливість людського судження до наслідку не визначає, як нормативно слід розподілити відповідальність.
Роль і організаційна позиція
Люди оцінюють не лише того, хто «натиснув кнопку», а й того, хто мав владу визначити систему. Розробник створює технічні можливості й обмеження; організація вирішує, де і як систему застосовувати; користувач взаємодіє з конкретною рекомендацією або рішенням. Один і той самий збій може породжувати різні атрибуції залежно від того, яка роль вважається найбільш здатною його попередити.
Чому люди взагалі звинувачують алгоритм
Людський розум легко описує складні технології мовою агентності. Якщо система робить вибір, відповідає послідовно, демонструє автономну поведінку або представлена як «помічник», вона може сприйматися не лише як інструмент, а як учасник події.
У дослідженні реальних описів моральних порушень Shank & DeSanti, 2018 учасники приписували ШІ неправильність дії, відповідальність і певні ментальні характеристики. Систематичний огляд Tok et al., 2026 показує, що blame часто виступає одним із індикаторів сприйнятої моральної агентності.
Це не означає, що люди завжди ставлять алгоритм на один рівень із людиною. Огляд описує радше неповну, градуальну агентність, що залежить від характеристик системи та ситуації. Люди можуть приписати алгоритму частину провини й водночас вважати розробника або оператора головнішими носіями відповідальності.
Окремо важливо не плутати цю психологічну атрибуцію зі свідомістю. Те, що люди говорять «ШІ вирішив» або «алгоритм винен», не є незалежним тестом на переживання, самосвідомість чи моральну суб’єктність системи.
Антропоморфізація змінює карту відповідальності, але не за одним правилом
Антропоморфізація ШІ — приписування системі людських рис, намірів або соціальних властивостей — може робити алгоритм психологічно помітнішим як агента. У дослідженні Zhao et al., 2026 вищий рівень сприйнятої антропоморфності посилював непрямий зв’язок між довірою, делегуванням і зсувом відповідальності.
Водночас антропоморфізація не має єдиного ефекту «більше людяності — більше провини». Соціальні риси можуть підвищити сприйняту агентність, але інколи змінюють уявлення про залежність системи від програмістів або про те, наскільки вона є окремим «розумом». Роботи Ayad & Plaks, 2025 показують саме таку контекстність.
Тому дизайн аватара, голосу чи мови системи може впливати на моральне сприйняття, але з цього не випливає прямий і універсальний коефіцієнт відповідальності.
Коли більше відповідальності приписують користувачу
Користувач стає центральною мішенню відповідальності, коли його сприймають як того, хто мав достатній контроль, розумів значущість рішення, міг перевірити рекомендацію і добровільно прийняв її. У таких умовах ШІ може сприйматися як інструмент або радник, а фінальна дія — як людський вибір.
Але формальна можливість підтвердити рішення ще не означає змістовного контролю. Якщо система працює швидше, ніж людина здатна перевірити результат, якщо інформація недоступна, професійна роль змушує користуватися алгоритмом або відхилення рекомендації карається організаційно, психологічна й фактична структура вибору стає іншою.
Саме тому корисніше запитувати не «чи була людина в контурі?», а «що саме вона могла зробити, скільки мала часу, що знала і які альтернативи були реальними?».
Самоінтерес може змінювати те, кого ми звинувачуємо
Приписування відповідальності не є нейтральним вимірювальним приладом. Воно може обслуговувати мотиви спостерігача.
У трьох пререєстрованих дослідженнях із загальною вибіркою 1259 учасників Dong & Bocian, 2024 аналізували гібридні моральні порушення, де до наслідку були причетні людина та ШІ. Коли люди оцінювали власне порушення або порушення члена своєї групи, вони могли ставитися до людського учасника поблажливіше й приписувати більше відповідальності ШІ, ніж коли оцінювали чужу аналогічну ситуацію.
Автори інтерпретують це як self-interest bias — гнучке використання атрибуції відповідальності на користь позитивного образу себе чи своєї групи. Цей результат не означає, що кожна згадка про «винний алгоритм» є виправданням. Він показує конкретний психологічний механізм, через який неоднозначність гібридної системи може створювати простір для мотивованого перерозподілу провини.
Коли більше відповідальності переходить до розробника або постачальника
Розробник або постачальник стає більш морально помітним, коли проблема пов’язана з самим устроєм системи: недоступними обмеженнями, відомими помилками, невдалим тестуванням, невідповідною функцією, некоректними припущеннями або способом подання впевненості моделі.
У Tsumura & Yamada, 2026 важливість завдання змінювала розподіл оцінок: за високої важливості зростала відповідальність, приписана стороні розробки або постачання. Це узгоджується з ширшим принципом сприйняття: чим серйозніший контекст, тим уважніше люди шукають не лише останнього користувача, а й тих, хто створив умови для рішення.
При цьому поняття «розробник» саме по собі може бути занадто широким. У реальній системі різні команди відповідають за модель, дані, інтерфейс, інтеграцію, оцінювання ризику та підтримку. Психологічний експеримент часто стискає ці ролі в одну категорію, тоді як практичний аналіз має їх розгорнути.
Чому організація є окремим учасником відповідальності
Організація не просто «використовує продукт». Вона визначає, де алгоритм буде застосовано, які рішення йому дозволено впливати, хто має право відхилити його рекомендацію, як працівників навчають, які показники вважаються успіхом і що відбувається після сигналу про помилку.
Ця роль особливо помітна, коли користувач не обирає взаємодію з ШІ добровільно. Дослідження Castillo, Canhoto & Said, 2026, побудоване на 39 інтерв’ю та двох експериментах, показало, що примусова взаємодія з чатботом посилювала відповідальність, яку користувачі приписували компанії після збою; важливими були також очікування, тип і тяжкість невдачі.
Це важливе уточнення для практики: навіть якщо технічний результат згенерувала зовнішня система, організаційне рішення зробити її обов’язковим каналом або критичним компонентом послуги саме по собі стає частиною морально значущого контексту.
Примусове використання і свобода вибору
Вільний вибір інструмента і обов’язкове використання однієї системи психологічно різні. Якщо людина сама обрала алгоритмічного радника серед альтернатив, спостерігач може сильніше пов’язувати наслідок із її рішенням. Якщо взаємодія нав’язана процедурою, більше уваги переходить до організації, яка створила цю процедуру.
Результати Castillo et al., 2026 показують, що саме відчуття вимушеності взаємодії впливає на приписування відповідальності після збою. Тому в аналізі відповідальності фраза «користувач погодився» має сенс лише разом із питанням про реальні альтернативи.
Responsibility gap: що це означає
Поняття responsibility gap — «розрив відповідальності» — виникло у філософії технологій для опису ситуацій, де автономність, непрозорість або складність системи роблять традиційне приписування відповідальності проблемним.
Santoni de Sio & Mecacci, 2021 пропонують розрізняти щонайменше кілька різних «розривів»: у винуватості, публічній або моральній підзвітності та активній відповідальності. Їхня рамка є концептуальною, а не психологічною шкалою.
З погляду психології важливо інше: навіть коли формальний розподіл обов’язків нечіткий, люди все одно намагаються заповнити прогалину. Вони можуть переносити провину на найбільш помітного людського оператора, на «автономний алгоритм», на розробника або на організацію. Тому юридичний чи інституційний responsibility gap не означає психологічної відсутності звинувачення; іноді він, навпаки, створює більше простору для суперечливих атрибуцій.
Moral crumple zone: чому «людина в контурі» може стати зручною мішенню
Elish, 2019 запропонувала поняття moral crumple zone для ситуацій, де людина біля складної автоматизованої системи поглинає моральну та публічну відповідальність за збій, хоча її можливості керувати системою були обмежені.
Метафора нагадує про важливу помилку: фізична або організаційна близькість до події не тотожна повному контролю. Оператор може сидіти перед екраном, але отримати сигнал надто пізно; лікар може бачити рекомендацію, але не мати доступу до даних, на яких вона побудована; працівник може формально мати право відхилення, але бути під тиском показників, які фактично заохочують автоматичне схвалення.
Концепція не звільняє будь-якого оператора від відповідальності. Вона змушує перевірити, чи був людський контроль змістовним, а не декоративним.
Алгоритм як цап-відбувайло або «моральний щит»
Систематичний огляд Tok et al., 2026 прямо порушує ризик того, що штучні агенти можуть ставати scapegoats або moral shields: на них переноситься blame, тоді як людські учасники залишаються менш помітними.
Експерименти Dong & Bocian, 2024 показують один можливий мотивувальний механізм такого перенесення — самоінтерес. В інших ситуаціях перенесення може бути не стратегічним, а когнітивним: автономна поведінка системи робить її найпомітнішою причинною одиницею.
Тому фраза «це зробив алгоритм» має дві різні функції. Вона може точно описувати технічний етап процесу. Вона також може приховувати, хто обрав систему, налаштував її, дозволив автоматичну дію або проігнорував відомий ризик. Науковий аналіз має розділяти ці функції.
Довіра до ШІ не тотожна передачі відповідальності
Висока довіра може збільшувати готовність спиратися на систему, але сама по собі не пояснює весь зсув відповідальності.
У Zhao et al., 2026 зв’язок між довірою і зсувом відповідальності проходив через decision delegation: саме передача рішення була ключовою ланкою. Це важливе розрізнення для дизайну. Інтерфейс може підвищувати довіру до якості рекомендації, але реальні наслідки для відповідальності залежать від того, чи залишається за людиною вибір і як цей вибір структуровано.
Розподіл відповідальності може впливати на вибір радника
Розподіл відповідальності не лише виникає після помилки; очікування відповідальності може впливати на поведінку ще до рішення.
У роботі Gazit, Arazy & Hertz, 2023 учасники сприймали людських радників як більш відповідальних за пораду, ніж алгоритмічних, а уявлення про те, з ким можна «поділити» відповідальність, впливало на вибір між людським і алгоритмічним радником.
Це один із прикладів того, як приписування відповідальності стає частиною самої архітектури вибору, а не лише ретроспективним пошуком винного.
Чи однаково люди розподіляють заслугу і провину
Дані про credit і blame не слід механічно дзеркалити. У Dong & Bocian, 2024 ефект самоінтересу був виразнішим у негативних гібридних наслідках і не відтворювався так само стабільно для позитивних результатів.
Інші дослідження моральної психології ШІ також описують асиметрії між тим, як люди оцінюють успішні та невдалі дії машин. Сучасна доказова база тут змішана й сильно залежить від сценарію. Тому формула «машині віддають заслугу, людині — провину» або її зворотна версія не є універсальним законом.
Чи вирішує пояснюваність проблему відповідальності
Пояснення може допомогти зрозуміти, що зробила система і чому вона запропонувала певний результат. Але explainability сама по собі не визначає, хто контролював процес, хто встановив мету, хто міг втрутитися і хто мав обов’язок перевіряти.
Навіть інформація про те, що рішення було алгоритмічним, здатна змінювати моральне сприйняття. У Shank & DeSanti, 2018 знання про алгоритмічну природу дії впливало на оцінки порушення і ментальних характеристик. Отже, прозорість є частиною контексту судження, але не автоматичним розв’язанням responsibility gap.
Корисна прозорість для відповідальності має бути процесною: хто визначив мету, які дані й обмеження були відомі, чи була рекомендація обов’язковою, як фіксували людське рішення, чи існував канал оскарження і хто мав право змінити результат.
Чому «людина в контурі» не є готовою відповіддю
Фраза «людина в контурі» (human in the loop) може описувати дуже різні реальності. В одному випадку людина отримує зрозумілу рекомендацію, має достатньо часу, незалежні дані та реальне право відмови. В іншому вона бачить тисячі автоматичних сигналів, має кілька секунд на реакцію і несе санкції за відхилення системи.
Психологічно ці ситуації не еквівалентні. Формальна присутність людини може підвищувати приписувану їй відповідальність, але якщо контроль був номінальним, така атрибуція може не відповідати структурі можливостей.
Тому для відповідальності важливі операційні питання: хто міг змінити результат, коли саме, на основі якої інформації, з якими витратами та наслідками.
Коли система стає занадто помітною, а організація — невидимою
Інтерфейс робить ШІ видимим: він має назву, аватар, голос, повідомлення й конкретну відповідь. Організаційні рішення часто залишаються за сценою. Саме тому користувачеві психологічно простіше сказати «чатбот відмовив», ніж реконструювати, хто встановив політику відмови, які межі закладено в систему і хто обрав цей канал.
Ця асиметрія видимості може спрямовувати blame до найближчого агента, навіть якщо вирішальна влада була розподілена далі. Дослідження вимушеної взаємодії з чатботом Castillo et al., 2026 показує, що контекст вибору здатний повернути увагу до компанії.
Практично це означає: відповідальність слід аналізувати за структурою контролю, а не за тим, чий голос користувач почув останнім.
Як дослідження автономного транспорту допомагають зрозуміти інші системи
Автономний транспорт часто використовується як лабораторія для responsibility attribution, тому що там особливо наочно співіснують машина, оператор, виробник, програмне забезпечення і організаційні правила.
Zhai et al., 2023 показали, що в сценаріях спільної помилки відповідальність могла розподілятися між водієм і виробником, хоча водій отримував більшу частку blame. Такі дані корисні як доказ самої здатності людей мислити розподіленою відповідальністю.
Їх не слід безпосередньо переносити на медичний чатбот, кредитний скоринг або генеративний ШІ. Контроль, норми, професійні обов’язки й наслідки в цих доменах різні.
Відповідальність ШІ й свідомість ШІ — різні питання
Люди можуть приписувати алгоритму провину, намір або моральну агентність через його поведінку. Це психологічна властивість взаємодії людини з системою.
З неї не випливає, що система має феноменальний досвід, почуття, страждання або внутрішнє «Я». Дослідження perceived moral agency вимірюють людське сприйняття. Систематичний огляд Tok et al., 2026 прямо концентрується на тому, за яких умов люди сприймають штучні агенти як таких, що мають моральну агентність.
Це розрізнення потрібне і в зворотному напрямку: відсутність доказів машинної свідомості не робить психологію blame щодо ШІ беззмістовною. Якщо люди реально переносять провину на систему, це може впливати на довіру, поведінку, вибір радника, організаційні рішення і те, чи помічають людських носіїв контролю.
Приписування відповідальності ШІ не скасовує людських і організаційних ролей
У соціотехнічній системі може бути кілька рівнів відповідальності одночасно. Алгоритм може бути психологічно сприйнятий як учасник, користувач — мати контроль над конкретним вибором, розробник — визначати можливості системи, а організація — задавати умови її застосування.
Сам факт того, що спостерігачі дали ШІ високий рейтинг responsibility, не робить суму людської відповідальності нульовою. Так само високий blame користувача не доводить, що дизайн і організаційні умови не мали значення.
Це одна з головних причин, чому для реального аналізу корисні багатовимірні питання замість єдиного: «хто винен?»
Як аналізувати конкретний інцидент із ШІ
Починати варто з реконструкції ролей. Потрібно встановити, хто поставив мету, хто вибрав систему, хто налаштував параметри, хто мав доступ до результату, хто міг його змінити і хто виконав фінальну дію. Назва «ШІ» часто приховує кілька технічних і організаційних ланок.
Потім реконструюють причинний ланцюг. Варто відокремити помилку моделі, помилку даних, помилку інтерпретації, неправильну інтеграцію, недоступність альтернативної інформації, людську дію і політику організації. Так стає видно, чи справді одна сторона була головним джерелом наслідку.
Третій крок — перевірка контролю. Формальне право втрутитися має менше значення, якщо втручання було практично неможливим. Важливі час, компетентність, обсяг інформації, частота сигналів, технічна можливість відхилення і наслідки такого відхилення для працівника.
Четвертий крок — знання і передбачуваність. Чи були відомі обмеження? Чи повідомляли про невизначеність? Чи мав користувач підстави вважати систему надійною саме в цьому домені? Чи знала організація про попередні збої?
П’ятий крок — тип рішення. Автоматизований результат, рекомендація, спільне рішення й делегування створюють різні структури агентності. Змішування цих режимів робить висновок про відповідальність неточним.
Нарешті, слід відокремити психологічні оцінки від нормативних. Те, кого люди інтуїтивно звинувачують, є важливою інформацією про довіру, очікування і соціальне сприйняття. Воно не є остаточним висновком про правову чи етичну відповідальність.
Практичні наслідки для організацій
Організація, яка впроваджує ШІ, може зменшити неясність відповідальності, якщо до запуску визначає ролі, межі делегування та процедури ескалації. Особливо важливо пояснювати, чи є результат рекомендацією, автоматичним рішенням або частиною спільного процесу.
Змістовний людський нагляд потребує реальної можливості втручання. Якщо працівник повинен перевіряти систему, йому потрібні час, дані, компетентність і право відхилити результат без прихованого організаційного покарання.
Журнали рішень і зрозуміла фіксація ролей допомагають відновити причинний ланцюг після інциденту. Вони також зменшують ризик, що відповідальність буде ретроспективно перенесено на найбільш зручну сторону лише через відсутність інформації.
Мова інтерфейсу теж має значення. Формулювання «ШІ вирішив» може перебільшувати автономність, якщо система фактично лише генерує рекомендацію. Формулювання «людина прийняла рішення» може приховувати автоматичний тиск, якщо інтерфейс не давав реальної альтернативи. Точний опис процедури краще підтримує і користувацьке розуміння, і подальший аналіз.
Практичні наслідки для розробників і постачальників
Технічна документація про межі застосування, типові помилки, невизначеність і необхідні умови нагляду є частиною середовища, в якому користувачі приймають рішення. Відсутня або нечітка інформація змінює те, що користувач реально міг знати.
У високоризикових сценаріях важливо проєктувати не лише точність моделі, а й можливість коректного втручання: своєчасні сигнали, видимість невизначеності, зрозуміле скасування автоматичної дії, трасованість версій і журналювання.
Ці заходи не визначають моральну провину автоматично. Вони роблять структуру контролю й інформації яснішою, що зменшує простір для випадкового або мотивованого перенесення blame.
Практичні наслідки для користувачів
Користувачеві корисно знати, яку роль відіграє система в конкретному процесі. Рекомендація, що потребує професійної перевірки, і автоматичний результат без права втручання створюють різні обов’язки.
Водночас не варто перетворювати «особисту відповідальність» на вимогу самостійно компенсувати будь-яку непрозорість системи. Загальна психологічна відповідальність пов’язана з реальною часткою вибору й контролю. У системах ШІ ця частка має бути реконструйована, а не припущена лише з факту присутності людини.
Типові помилки розуміння
«Якщо ШІ автономний, він і відповідає»
Функціональна автономність означає, що система може виконувати частину операцій без безпосереднього людського керування. Вона може підвищувати сприйняту agency, але не створює автоматично свідомого морального наміру, юридичної правосуб’єктності або повної моральної відповідальності.
«Якщо людина натиснула кнопку, вся провина її»
Остання дія є лише однією ланкою. Потрібно враховувати контроль, знання, час, реальну свободу відхилення, дизайн системи й організаційні правила. Поняття moral crumple zone було запропоноване саме для ситуацій, де найближча людина може поглинути blame за систему, якою фактично мало контролювала.
«Якщо рішення пояснене, відповідальність очевидна»
Пояснюваність допомагає зрозуміти процес, але не відповідає автоматично на питання про владу, обов’язки й можливість втручання. Пояснений результат може залишатися частиною погано організованої системи відповідальності.
«ШІ знімає відповідальність з користувача»
Експериментальні дані показують можливість displacement of responsibility, особливо через делегування, але психологічний зсув не скасовує фактичних ролей. Користувач може залишатися відповідальним за свою частину контролю, а розробник і організація — за свої.
«Люди завжди звинувачують ШІ менше, ніж людину»
Результат залежить від ситуації, виду системи, наслідків, опису автономності, антропоморфних сигналів і того, кого порівнюють. Tok et al., 2026 описують сприйняту моральну агентність як часткову та контекстну, а не як стабільну величину.
«Якщо алгоритм не свідомий, психологія його відповідальності не має сенсу»
Навіть без доказу свідомості люди можуть реально приписувати системі blame і responsibility. Ці оцінки впливають на поведінку, довіру, вибір, прийняття технологій і розподіл уваги між людськими учасниками. Саме тому вони є предметом емпіричної психології.
Межі сучасних доказів
Перша межа — велика частка віньєткових досліджень. Учасник читає сценарій і оцінює відповідальність, але реальна поведінка в організації з фінансовим, професійним або фізичним ризиком може бути іншою.
Друга межа — різнорідність доменів. Автономний транспорт, фінансові рішення, медичні рекомендації, чатботи й генеративні системи створюють різні типи контролю. Ефект, знайдений в одному домені, потребує окремої перевірки в іншому.
Третя межа — різні операціоналізації. Частина робіт вимірює blame, частина responsibility, частина perceived agency, intentionality, mind perception або willingness to punish. Ці показники пов’язані, але не взаємозамінні.
Четверта межа — культурна й вибіркова специфіка. Дослідження проводять у різних країнах, на онлайн-панелях і студентських вибірках. Систематичний огляд Tok et al., 2026 прямо вказує на роль культурного контексту та характеристик спостерігача.
П’ята межа — швидкість зміни самих технологій. Соціальне сприйняття текстового алгоритму, голосового асистента, втіленого робота й агентної системи може відрізнятися. Нові інтерфейси змінюють сигнали агентності швидше, ніж накопичуються довгострокові дані.
Тому сучасні докази найкраще підтримують умовні висновки: за певних характеристик системи й ситуації люди систематично змінюють приписування відповідальності. Вони не підтримують єдину універсальну шкалу моральної відповідальності для ШІ.
Що ця психологія може і чого не може встановити
Психологія може встановлювати, як люди фактично розподіляють провину, відповідальність і заслугу; які характеристики системи або ситуації зміщують ці судження; як самоінтерес, довіра, делегування, антропоморфізація та свобода вибору впливають на оцінки.
Вона може показати розрив між формальною роллю і сприйнятим контролем, а також виявити ситуації, де алгоритм стає моральним щитом або людина — moral crumple zone.
Вона не встановлює сама по собі, якою має бути мораль у конкретному суспільстві, хто юридично винен у конкретній справі або чи має ШІ свідомість. Ці питання потребують інших видів аргументації й доказів.
Коротка формула
Відповідальність за рішення ШІ в людському сприйнятті формується не одним фактором, а конфігурацією причинності, контролю, знання, наміру, автономності, наслідків, делегування та організаційної ролі.
Люди можуть розподіляти провину між алгоритмом, користувачем, розробником і організацією одночасно. Цей розподіл змінюється залежно від того, хто мав реальну можливість впливати на рішення й наскільки помітною була його роль.
Сприйнята відповідальність алгоритму є психологічним фактом про людину, яка оцінює систему. Вона не є доказом внутрішнього морального життя ШІ й не скасовує відповідальності людських та організаційних учасників.
Часті запитання
Хто винен, якщо ШІ дав погану рекомендацію, а людина її виконала?
Психологічно blame може розподілятися між кількома сторонами. Важливо, чи була рекомендація обов’язковою, чи могла людина її перевірити або відхилити, що вона знала про обмеження системи, хто налаштував процес і які організаційні правила діяли. Сам факт виконання рекомендації не визначає всю структуру відповідальності.
Чи можна вважати сам ШІ відповідальним?
Люди можуть приписувати ШІ відповідальність і часткову моральну агентність. Це підтверджується експериментальними дослідженнями й систематичним оглядом. Така атрибуція описує людське сприйняття і не доводить свідомості, почуттів або юридичної правосуб’єктності системи.
Чи зменшує рекомендація ШІ відповідальність користувача?
Не обов’язково. Якщо людина зберігає реальний контроль і може компетентно перевірити рекомендацію, її responsibility може залишатися високою. Коли відбувається фактичне делегування, психологічний зсув відповідальності стає ймовірнішим; у Zhao et al., 2026 саме delegation була ключовою ланкою такого displacement.
Чому люди можуть більше звинувачувати алгоритм за власну помилку?
Один із механізмів — self-interest bias. Dong & Bocian, 2024 показали, що в гібридних моральних порушеннях учасники могли гнучкіше переносити responsibility на ШІ, коли оцінювали себе або свою групу. Це ефект конкретних експериментів, а не універсальне пояснення кожної атрибуції.
Хто важливіший — розробник чи організація?
Це різні ролі. Розробник формує технічні можливості й обмеження, а організація визначає контекст застосування, процедури, делегування і реальні права користувача. У конкретній події їхній внесок може суттєво відрізнятися.
Чи робить антропоморфний дизайн ШІ більш «винним»?
Він може підвищувати сприйняту агентність і змінювати attribution, але ефект контекстний. Антропоморфізація не створює реального наміру або свідомості й не має універсального правила «більше людських рис — більше провини».
Що таке responsibility gap?
Це концепція для ситуацій, де через автономність, складність або організаційну структуру системи стає важко застосувати звичні моделі відповідальності. Santoni de Sio & Mecacci, 2021 розрізняють кілька типів таких розривів, а не один універсальний gap.
Чи є «людина в контурі» гарантією відповідальності?
Ні. Потрібно перевіряти, чи мала людина змістовний контроль: час, інформацію, компетентність, технічну можливість і реальне право втрутитися. Формальна присутність у процесі не дорівнює повному контролю.
Чи можна за психологічним експериментом визначити юридичну відповідальність?
Ні. Експеримент показує, як люди сприймають і розподіляють responsibility або blame за заданих умов. Юридична відповідальність встановлюється відповідно до конкретного права, фактів, договорів і ролей.
Яке головне правило для аналізу відповідальності за рішення ШІ?
Реконструювати реальний розподіл причинності, контролю, знання та делегування між усіма учасниками, а не автоматично призначати всю провину тому, хто був найбільш видимим у момент збою.
Пов’язані статті
Джерела
Ayad, R., & Plaks, J. E. (2025). Attributions of Intent and Moral Responsibility to AI Agents. Computers in Human Behavior: Artificial Humans, 3, 100107. https://doi.org/10.1016/j.chbah.2024.100107
Bonnefon, J.-F., Rahwan, I., & Shariff, A. (2024). The Moral Psychology of Artificial Intelligence. Annual Review of Psychology, 75, 653–675. https://doi.org/10.1146/annurev-psych-030123-113559
Castillo, D., Canhoto, A. I., & Said, E. (2026). When AI–chatbots disappoint – the role of freedom of choice and user expectations in attribution of responsibility for failure. Information Technology & People, 39(1), 375–408. https://doi.org/10.1108/ITP-03-2024-0324
Dong, M., & Bocian, K. (2024). Responsibility gaps and self-interest bias: People attribute moral responsibility to AI for their own but not others’ transgressions. Journal of Experimental Social Psychology, 111, 104584. https://doi.org/10.1016/j.jesp.2023.104584
Elish, M. C. (2019). Moral Crumple Zones: Cautionary Tales in Human-Robot Interaction. Engaging Science, Technology, and Society, 5, 40–60. https://doi.org/10.17351/ests2019.260
Gazit, L., Arazy, O., & Hertz, U. (2023). Choosing between human and algorithmic advisors: The role of responsibility sharing. Computers in Human Behavior: Artificial Humans, 1(2), 100009. https://doi.org/10.1016/j.chbah.2023.100009
Malle, B. F., Guglielmo, S., & Monroe, A. E. (2014). A Theory of Blame. Psychological Inquiry, 25(2), 147–186. https://doi.org/10.1080/1047840X.2014.877340
Santoni de Sio, F., & Mecacci, G. (2021). Four Responsibility Gaps with Artificial Intelligence: Why they Matter and How to Address them. Philosophy & Technology, 34, 1057–1084. https://doi.org/10.1007/s13347-021-00450-x
Shank, D. B., & DeSanti, A. (2018). Attributions of morality and mind to artificial intelligence after real-world moral violations. Computers in Human Behavior, 86, 401–411. https://doi.org/10.1016/j.chb.2018.05.014
Tok, A. Y. F., Powell, N. L., & Guellaï, B. (2026). A systematic review of moral agency in artificial agents. Discover Psychology, 6, 9. https://doi.org/10.1007/s44202-025-00537-y
Tsumura, T., & Yamada, S. (2026). Effects of knowledge and importance on responsibility in human-AI decision making. Scientific Reports, 16, 2670. https://doi.org/10.1038/s41598-025-32513-w
Zhai, S., Gao, S., Wang, L., & Liu, P. (2023). When both human and machine drivers make mistakes: Whom to blame? Transportation Research Part A: Policy and Practice, 170, 103637. https://doi.org/10.1016/j.tra.2023.103637
Zhao, Q., Li, T., Li, S., Pan, Y., Wang, H., & Liao, C. (2026). Losing the hand on the wheel: AI trust, decision delegation, and displacement of responsibility in financial decision-making. Acta Psychologica, 268, 107267. https://doi.org/10.1016/j.actpsy.2026.107267