Алгоритмічна відраза: чому люди відмовляються від алгоритму після його помилки

1 день тому

Читати 13 хв

Оновлено: 4 години тому

Автор: Український психологічний ХАБ · Опубліковано: 20 вересня 2026 · Редакційна політика

Алгоритмічна відраза (algorithm aversion; в українських академічних текстах трапляється також форма «алгоритмічна аверсія») — це схильність зменшувати вагу алгоритмічної поради, відмовлятися від неї або повертатися до людського судження після того, як алгоритм виявився недосконалим. У класичному вузькому значенні йдеться саме про асиметричну реакцію на помилку: люди швидше втрачають довіру до алгоритму, ніж до людини, навіть коли бачать, що алгоритм загалом точніший. Саме так феномен був продемонстрований у серії з п’яти експериментів Berkeley Dietvorst, Joseph Simmons і Cade Massey.

У сучасній літературі поняття використовують ширше — для ситуацій, у яких алгоритмічне рішення або пораду систематично дисконтують відносно власного судження чи судження іншої людини. Систематичний огляд 80 емпіричних досліджень показав, що на прийняття алгоритмічних рішень впливають властивості самої системи, характеристики користувача, тип завдання та ширший організаційний і соціальний контекст. Тому алгоритмічна відраза є контекстним поведінковим феноменом, а не універсальним законом людського мислення.

Ця відмінність важлива для сучасного ШІ. Людина може надмірно покладатися на автоматизовану рекомендацію в одній ситуації, а після помітної помилки різко перейти до протилежної реакції й відкидати корисні рекомендації тієї самої системи. Завдання полягає не в тому, щоб «довіряти алгоритмам» або «не довіряти алгоритмам», а в тому, щоб калібрувати довіру за якістю конкретної системи, конкретним завданням і ціною помилки.

Що саме називають алгоритмічною відразою

У дослідженнях є два близькі способи визначення. Перший, історично найточніший для робіт Dietvorst та колег, стосується реакції після спостереження помилки алгоритму. Другий охоплює ширше недовикористання алгоритмічного судження порівняно з людським. Burton, Stein і Jensen у систематичному огляді 61 рецензованої роботи простежили, як ця проблема розвивалася в різних дисциплінах, і згрупували пояснення навколо очікувань та експертизи, автономії рішення, стимулів, когнітивної сумісності й відмінностей у логіці людського та алгоритмічного судження.

Слово «відраза» тут не означає обов’язкову емоцію огиди. Це назва патерну вибору або ваги поради: людина відкидає алгоритм, менше коригує власне рішення в бік його рекомендації або обирає людського радника за умов, коли дані про ефективність алгоритму дають підстави покладатися на нього більше.

Огляд Kaufmann та колег 2023 року оцінив 44 дослідження, 122 окремі завдання та 89 751 учасника. Ознаки алгоритмічної відрази були зафіксовані у 75% проаналізованих завдань. Цю цифру важливо читати правильно: це частка завдань у корпусі огляду, а не твердження, що 75% усіх людей завжди відкидають алгоритми. Автори також підкреслили нерівномірність дослідницьких дизайнів і нестачу даних про деякі індивідуальні, задачні та довготривалі чинники.

Класичний експеримент: чому помилка алгоритму важить більше

У роботі 2015 року учасники виконували прогнозні завдання й могли пов’язати свою винагороду з прогнозом статистичного алгоритму або людини. Частина учасників перед вибором бачила попередню роботу алгоритму, людини, обох або не бачила її взагалі. Ключовий результат полягав у тому, що спостереження за роботою алгоритму могло зменшити готовність обирати його: побачивши помилки, люди швидше втрачали впевненість в алгоритмі, ніж у людському прогнозисті. Це траплялося навіть тоді, коли вони одночасно бачили, що алгоритм у середньому прогнозує точніше. Першоджерело стало основою сучасного терміна algorithm aversion.

Парадокс виникає через різний стандарт оцінювання. Від людини ми заздалегідь очікуємо неточності: прогнозист може помилитися, лікар може не врахувати деталь, менеджер може неправильно оцінити кандидата. Алгоритм часто сприймається як формалізована система, і його помилка робить саму недосконалість системи дуже помітною. Один промах може змінити категорію оцінки: з «інструменту, який рахує краще» на «систему, якій не можна довіряти».

Водночас сам факт помилки ще нічого не говорить про те, чи відмова є помилковою. Раціональна оцінка потребує порівняння частоти, типу й вартості помилок алгоритму з реальною альтернативою. Якщо людина після одного промаху відмовляється від системи з 90% точністю на користь експерта з 70% точністю лише тому, що помилка алгоритму стала видимою, це близько до класичного патерну. Якщо ж помилка виявила системний дефект, зміщення даних або небезпечну невідповідність задачі, відмова може бути добре обґрунтованою.

Чому люди сильніше карають алгоритм за помилку

Єдиного доведеного механізму для всіх ситуацій немає. Систематичні огляди показують мережу чинників, а нові дослідження уточнюють, які з них працюють у конкретних задачах. Найкраще говорити не про одну «причину алгоритмічної відрази», а про кілька механізмів, здатних вести до схожого поведінкового результату.

Очікування стабільності та ефект порушеної безпомилковості

Автоматизованій системі часто приписують послідовність: однакові вхідні дані мають приводити до однаково якісної обробки, а математичний характер системи створює очікування меншої випадковості, ніж у людини. Коли система помиляється, помилка суперечить цьому очікуванню сильніше. В експериментах із негативними результатами рішень ШІ Jones-Jang і Park показали, що учасники гостріше реагували на непослідовну роботу ШІ й суворіше оцінювали справедливість його рішень, ніж аналогічні невдачі людських експертів. Автори пов’язують частину ефекту з порушенням очікувань стабільної машинної роботи.

Людській помилці легше знайти пояснення

Людський радник має знайомий набір можливих причин помилки: неуважність, втома, брак інформації, невдалий день, складний випадок. Алгоритмічна помилка часто сприймається інакше: користувач може не бачити внутрішньої логіки системи й не розуміти, чи сталася локальна похибка, чи виявився фундаментальний дефект. Через це одна помилка здатна переноситися на оцінку системи в цілому. Експеримент Prahl і Van Swol не підтвердив загальної переваги людської поради в усіх умовах, однак після поганої поради використання автоматизованої рекомендації зменшувалося сильніше, ніж використання людської.

Контроль і можливість втрутитися

Відраза слабшає, коли користувач зберігає хоча б невеликий простір для власного впливу. У трьох експериментах Dietvorst, Simmons і Massey учасники значно частіше обирали недосконалий алгоритм, якщо могли трохи змінити його прогноз. Вони водночас отримували кращі результати. Важливо, що користь давала сама можливість обмеженого коригування; ефект не вимагав повного ручного контролю над моделлю.

Цей результат добре узгоджується з ширшим питанням делегування рішень ШІ: прийняття поради, передача рішення системі та передача їй автономної дії створюють різні психологічні режими. Чим менше людина відчуває власну участь і можливість перевірки, тим сильніше окрема помилка може сприйматися як втрата контролю над усім процесом.

Тип завдання: об’єктивність, суб’єктивність і людська специфіка

Алгоритмічна відраза залежить від того, що саме доручають системі. У серії лабораторних і польових досліджень із понад 57 тисячами учасників Castelo, Bos і Lehmann виявили нижчу довіру до алгоритмів у завданнях, які люди сприймали як суб’єктивні, порівняно з більш об’єктивними. Коли завдання починало здаватися об’єктивнішим, довіра й готовність використовувати алгоритм зростали. Це показує, що реакція залежить не лише від фактичної точності системи, а й від ментальної моделі задачі.

«Мій випадок особливий»: персоналізація та uniqueness neglect

У медицині сильним чинником може бути переконання, що система не врахує унікальність конкретної людини. Longoni, Bonezzi і Morewedge у дев’яти дослідженнях показали опір медичному ШІ та описали механізм uniqueness neglect — побоювання, що автоматизований провайдер гірше врахує індивідуальні характеристики й обставини. Опір слабшав, коли допомогу ШІ подавали як персоналізовану або коли ШІ підтримував рішення людського фахівця, а не повністю його замінював.

Цей висновок не означає, що персоналізація автоматично робить систему надійною. Він описує психологічний механізм прийняття. Реальна якість медичної, фінансової чи кадрової системи все одно має оцінюватися за валідованими результатами, релевантністю даних і ціною хибного рішення.

Підвищена обережність як когнітивна стратегія

Нові роботи намагаються вийти за межі загальної «довіри» й описати процес рішення формально. У двох експериментах із розпізнаванням переломів на рентгенівських зображеннях van Maanen та колеги у 2026 році виявили довший час відповіді на алгоритмічну пораду та вищі пороги прийняття рішення в моделях накопичення доказів. Автори інтерпретують це як підвищену обережність щодо алгоритмічного джерела, а не просто як нижчу суб’єктивну оцінку його надійності. Це свіже доменно-специфічне свідчення, яке ще потребує перевірки в інших професійних контекстах.

Алгоритмічна відраза — не універсальна реакція

Ідея «люди не люблять алгоритми» занадто проста. У шести експериментах Logg, Minson і Moore показали протилежний феномен — algorithm appreciation: неспеціалісти в низці задач сильніше враховували пораду, коли вважали її алгоритмічною, ніж коли вважали її людською. Перевага алгоритмічної поради слабшала, коли люди порівнювали її зі своїм власним судженням, а не з порадою сторонньої людини, і серед досвідчених прогнозистів.

Саме тому сучасні огляди описують прийняття алгоритмічних порад як континуум. Kaufmann і Chacon у теоретичному огляді 2026 року підкреслюють фрагментованість пояснень у цій галузі та потребу краще пов’язувати тип задачі, спосіб мислення і форму алгоритмічної поради. Один і той самий користувач може демонструвати алгоритмічне схвалення в числовому прогнозі, відразу в моральному рішенні та майже нейтральну реакцію в іншому контексті.

Тому коректне питання звучить не «чи довіряють люди алгоритмам?», а «за яких умов, у якій задачі, після якої інформації про якість і порівняно з якою альтернативою люди змінюють вагу алгоритмічної поради?».

Коли відмова від алгоритму може бути раціональною

Термін algorithm aversion легко використати як ярлик для будь-якої недовіри до технології. Це спотворює зміст феномена. Відмова від системи є обґрунтованою, якщо нова помилка дає суттєву інформацію про її реальну якість: наприклад, виявляє систематичне зміщення, роботу поза валідованим діапазоном, неправильну ціль оптимізації, небезпечну помилку в рідкісному класі або невідповідність даних поточній ситуації.

Висока середня точність теж не гарантує прийнятності. Система може мати 95% правильних відповідей і водночас неприйнятно часто помилятися саме в рідкісних випадках із високою ціною помилки. Для клінічної діагностики, кредитного рішення, відбору персоналу або безпеки важливі не лише загальна точність, а чутливість до критичних випадків, калібрування, репрезентативність даних, стабільність у часі та зрозумілий спосіб людського контролю.

Алгоритмічна відраза стає особливо релевантною тоді, коли реакція на помилку непропорційна доказам: людина прощає людському раднику подібні або частіші помилки, але вимагає майже безпомилковості від алгоритму; ігнорує відому різницю в середній якості; або переносить одиничний збій з однієї задачі на всі рішення системи без перевірки.

Чим алгоритмічна відраза відрізняється від автоматизаційного упередження

Алгоритмічна відраза описує недостатню опору на алгоритмічне джерело відносно доступних доказів. Автоматизаційне упередження (automation bias) описує інший ризик — надмірну опору на автоматизовані підказки, коли людина перестає достатньо перевіряти інші сигнали. Класичний огляд Parasuraman і Manzey пов’язує automation bias з помилками пропуску та помилками дії: користувач може не помітити проблему, якщо система її не позначила, або виконати неправильну рекомендацію попри суперечливі доступні дані.

Обидва феномени можуть виникати послідовно. Спочатку людина сприймає автоматизовану систему як особливо точну й майже перестає її перевіряти. Після яскравої помилки маятник зміщується: довіра руйнується, і користувач починає відкидати навіть корисні підказки. Дослідження реакцій на невдачі ШІ показують, що високі очікування стабільності та подальше розчарування справді можуть бути пов’язаними етапами, хоча це не є єдиною моделлю для всіх випадків.

Algorithm appreciation — ще один окремий феномен: за певних умов люди надають алгоритмічній пораді більшу вагу, ніж людській. А загальна епістемічна довіра стосується ширшого питання, як ми визначаємо, якому джерелу й якій інформації варто довіряти. Ці поняття пов’язані, але описують різні режими оцінювання джерел.

Що змінюється в епоху генеративного ШІ

Класичні дослідження алгоритмічної відрази здебільшого вивчали статистичні прогнози, системи рекомендацій і відносно чітко окреслені задачі. Генеративні мовні моделі додають інші властивості: вони працюють у відкритому діалозі, можуть давати різні формулювання, змішують пошук, пояснення й генерацію та здатні створювати правдоподібні фактичні помилки. Через це старі числові оцінки ефекту не можна механічно переносити на ChatGPT або інші сучасні LLM.

Переноситься інший, більш загальний принцип: люди оцінюють помилку не лише за її розміром, а й за тим, хто або що помилилося, чого вони очікували від джерела і скільки контролю залишалося в них самих. Дослідження 2023 року про реакції на невдачі ШІ та робота 2026 року про клінічну підтримку рішень показують, що джерело поради справді змінює психологічний процес оцінювання помилки. Водночас сила й напрям ефекту залежать від задачі.

Для повсякденної взаємодії з чатботами особливо важливо розділяти якість відповіді та стиль її подачі. Упевнене, плавне формулювання може створювати сильне враження компетентності незалежно від фактичної точності. Окремо про те, як формулювання змінює сприйняття надійності, дивіться матеріал про мовний стиль штучного інтелекту.

Психологічна довіра людини до ШІ не є доказом того, що ШІ має суб’єктивний досвід, свідомість або почуття. Algorithm aversion, algorithm appreciation, social presence та антропоморфізація описують людське сприйняття і поведінку у взаємодії з системою.

Як калібрувати довіру після помилки

Найкраща відповідь на алгоритмічну відразу — не переконувати себе «довіряти ШІ сильніше». Корисніша мета — калібрована довіра: ступінь опори на систему має відповідати доступним доказам її якості в конкретній задачі.

1. Порівнюйте з реальною альтернативою. Запитайте не «чи помилився алгоритм?», а «як часто і наскільки серйозно помиляється алгоритм порівняно з людиною, командою або моїм власним рішенням?». Без базової лінії одна помилка психологічно яскрава, але статистично майже неінформативна.

2. Відокремлюйте випадковий промах від системного дефекту. Разова похибка в межах відомого розподілу помилок і повторювана помилка в одному класі випадків мають різне значення. Другий сценарій набагато сильніше змінює оцінку надійності.

3. Оцінюйте саме ту задачу, для якої використовується система. Висока якість моделі в одному домені не переноситься автоматично на інший. Система для прогнозу попиту, медичного сортування, перекладу й відкритої генерації тексту має різні критерії помилки та різні способи валідації.

4. Враховуйте ціну помилки. Для вибору музики допустима одна структура ризику, для дозування ліків — зовсім інша. Чим вищі ставки, тим важливішими стають незалежна перевірка, документовані межі системи та професійна відповідальність.

5. Зберігайте можливість перевірки й корекції там, де це покращує рішення. Експерименти з модифікацією прогнозів показують, що навіть невеликий контроль може зменшувати відразу. Проте ручне втручання має спиратися на релевантну інформацію, а не просто давати психологічне відчуття авторства.

6. Не плутайте пояснення з доказом точності. Прозорий інтерфейс, переконливе пояснення або «людяний» стиль можуть полегшувати прийняття системи, але не замінюють зовнішньої валідації. Довіра має зростати від перевірених результатів, а не лише від зрозумілості розповіді про те, як система працює.

Такий підхід узгоджується із загальнішим процесом прийняття рішень: якість вибору залежить від того, як людина порівнює альтернативи, працює з невизначеністю та оновлює оцінку після нової інформації.

Практичне значення для розробників, організацій і користувачів

Для розробника алгоритмічна відраза означає, що одного показника точності замало. Користувачеві потрібна адекватна модель того, що система вміє, де помиляється і як саме її рекомендацію слід включати в рішення. Завищені обіцянки створюють крихку довіру: перша видима помилка руйнує її сильніше. Комунікація реальних меж системи може бути кориснішою за образ «майже безпомилкового ШІ».

Для організації важливо вимірювати не лише adoption — частку випадків, коли працівники погоджуються із системою. Висока частка погодження може означати і добре калібровану довіру, і automation bias. Низька частка може означати і алгоритмічну відразу, і цілком виправдане виявлення проблемної моделі. Потрібні порівняльні дані: точність людини, точність системи, точність спільного рішення, класи помилок і те, як поведінка змінюється після збоїв.

Для користувача генеративного ШІ практичне правило просте: помилка має змінювати довіру настільки, наскільки вона змінює докази про надійність системи. Виявлена вигадана цитата — вагомий сигнал перевіряти джерела в подальших дослідницьких відповідях. Одна стилістична неточність не доводить, що система непридатна для всіх задач. Так само десять правильних відповідей у побутових питаннях не є підставою переносити довіру на медичне або юридичне рішення.

Коли алгоритми впливають не лише на індивідуальну пораду, а й на те, які рейтинги, рекомендації, популярні дописи чи відгуки люди взагалі бачать, виникає інший рівень проблеми — алгоритмічний соціальний вплив. Там система формує інформаційне середовище ще до моменту явного вибору.

Наукові обмеження і відкриті питання

Значна частина досліджень алгоритмічної відрази побудована на лабораторних або онлайн-сценаріях. Mahmud та колеги прямо відзначають нестачу польових досліджень у реальних умовах. Це обмежує впевненість у тому, як точно ефекти переносяться на тривалу роботу з виробничими системами, де користувачі навчаються, бачать багато помилок різних типів і отримують організаційний зворотний зв’язок.

Друге обмеження — неоднорідність самих «алгоритмів». Статистичне правило, recommender system, клінічна система підтримки рішення, автономний транспортний модуль і генеративний чатбот створюють різний досвід. Навіть маркування джерела як «AI» або «algorithm» може змінювати очікування незалежно від фактичної математичної моделі.

Третє обмеження стосується метрики. Вибір «людина чи алгоритм», вага поради, довіра за шкалою, готовність делегувати дію та оцінка справедливості — різні результати. Вони корелюють не обов’язково однаково. Тому твердження про алгоритмічну відразу слід прив’язувати до конкретного способу вимірювання.

Нарешті, сучасна наука одночасно знаходить algorithm aversion і algorithm appreciation. Найстійкіший висновок полягає в контекстній залежності: реакція формується на перетині властивостей системи, користувача, завдання, наслідків помилки та способу організації контролю.

Часті запитання

Чи означає одна помилка, що алгоритму більше не можна довіряти?

Ні. Одна помилка є новою інформацією про систему, але її значення залежить від типу помилки, очікуваної частоти, умов використання і порівняльної якості альтернатив. Якщо помилка виявляє систематичний дефект або високоризикову сліпу зону, вона може радикально змінити рішення. Якщо це очікуваний одиничний промах системи, яка загалом перевершує доступні альтернативи, повна відмова може погіршити результат.

Чи алгоритмічна відраза є когнітивним упередженням?

У частині літератури її описують як behavioral anomaly або bias, однак точніше спочатку говорити про поведінковий феномен. Щоб назвати конкретну відмову помилковою, потрібні дані, що користувач недооцінив алгоритм відносно релевантних доказів. Скепсис до неперевіреної або невідповідної задачі системи може бути раціональним.

Чим алгоритмічна відраза відрізняється від automation bias?

Напрямом залежності. При алгоритмічній відразі людина недостатньо використовує алгоритмічну пораду або відкидає її. При automation bias вона надмірно покладається на автоматизовану рекомендацію й може пропускати суперечливі сигнали. На практиці одна людина може переходити від одного режиму до іншого після яскравої помилки системи.

Чи всі люди більше довіряють людині, ніж алгоритму?

Ні. Дослідження algorithm appreciation показують ситуації, де алгоритмічну пораду враховують сильніше. На напрям впливають тип завдання, власна експертиза, те, з ким порівнюють алгоритм, попередній досвід, контроль і спосіб представлення рекомендації.

Чи поширюється algorithm aversion на ChatGPT та інші LLM?

Загальний принцип реакції на помилки релевантний, але класичні ефекти не можна переносити на LLM без перевірки. Мовні моделі відрізняються від традиційних прогнозних алгоритмів: вони генерують відкритий текст, працюють із контекстом діалогу й мають інший профіль помилок. Сучасні дослідження людської взаємодії з ШІ вже знаходять відмінності в реакціях на алгоритмічне та людське джерело, але величина ефекту залежить від задачі.

Як зменшити алгоритмічну відразу без сліпої довіри?

Показувати реальні межі системи, давати порівняльні дані про якість, робити помилки інтерпретованими, залишати доречний людський контроль і навчати користувача оцінювати систему за серією результатів, а не за одним яскравим випадком. Мета — не максимальне використання алгоритму, а найкраще спільне рішення.