Канада відмовила науковій співробітниці у посвідці на проживання через вигадані ШІ професійні обов’язки

Скандал навколо використання штучного інтелекту в державних структурах Канади набирає обертів. Героїня матеріалу The Star, яка подавала заявку на постійне місце проживання, отримала відмову через те, що алгоритм Міністерства імміграції (IRCC) самостійно «додумав» її професійні обов'язки, яких вона ніколи не виконувала.

Суть інциденту

Кемі Аде, наукова співробітниця та викладачка Макмастерського університету, була шокована офіційним листом про відмову. У документі зазначалося, що її досвід не відповідає вимогам, оскільки її робочі обов'язки нібито не збігаються з обраним професійним кодом (NOC).

Проблема полягала в тому, що перелік обов'язків, наведений у листі як причина відмови, не мав нічого спільного з реальною заявою дівчини. У рішенні їй приписали обов’язки, пов’язані зі складанням робототехніки та роботою з електронікою, попри те що вона має освіту з імунології.

Як з'ясувалося, текст обґрунтування був згенерований ШІ, який «галюцинував» — тобто вигадав деталі, яких не було в поданих документах.

Як працює система

Міністерство імміграції Канади (IRCC) використовує інструменти на базі ШІ для прискорення обробки тисяч заявок.

Влада стверджує, що ШІ не приймає остаточних рішень, а лише допомагає офіцерам готувати чернетки листів та групувати дані. Кожен документ має перевірятися людиною.

У цьому випадку офіцер, ймовірно, просто підписав згенерований текст, не помітивши, що алгоритм приписав заявниці чужу професійну діяльність.

Чому це небезпечно для іммігрантів

Цей випадок піднімає серйозні питання щодо прозорості та відповідальності. Якщо офіцери сліпо довіряють ШІ через надмірне навантаження, система стає лотереєю, де помилка може зруйнувати життя людини.

Заявникам важко довести помилку, коли вони отримують шаблонну відмову, яка виглядає як офіційний висновок фахівця. Правозахисники побоюються, що використання ШІ може приховано дискримінувати певні групи професій або заявників із країн з нестандартними форматами документів.

Міністерство імміграції Канади переглядає використання ШІ та обіцяє більше людського контролю.