Розвиток технологій штучного інтелекту і дотримання прав людини: проблеми забезпечення балансу

Анотація

Досліджено позитивний і негативний впливи технологій штучного інтелекту, що використовуються в різних
сферах діяльності, на фундаментальні права людини. Здійснено критичний аналіз механізмів маніпулятивних дій
щодо користувачів інтернет-ресурсів із боку їх власників за допомогою технологій штучного інтелекту. Встанов-
лено причини виникнення помилок у роботі систем штучного інтелекту, які призводять до порушення прав людини
на життя, свободу та особисту недоторканість, справедливе правосуддя та ін. Визначено потенційну загрозу
систем відеоспостереження з елементами штучного інтелекту для конфіденційності та людської гідності.
На основі аналізу механізму машинного навчання систем штучного інтелекту встановлено, що якість «на-
вчання» систем штучного інтелекту та правильність рішень, які ними приймаються, залежить від якості
і повноти інформації, що ними аналізується, та надійності її джерел. На прикладах показано, що застосування
правоохоронними органами прогностичних моделей ризиків рецидиву злочину та алгоритмічно вдосконалених
цифрових можливостей цифрового спостереження призводить до посилення й подальшого закріплення моделей
структурної дискримінації, системної маргіналізації та нерівності. Доведено, що використання систем штуч-
ного інтелекту може призвести до формування необґрунтованих упереджень та дискримінаційних прогнозів
стосовно певної особи або групи людей за такими ознаками, як стать, вік, колір шкіри, політичні або релігійні
переконання, стан здоров’я, сексуальна орієнтація, місце проживання, майновий стан, фізичні вади, мова тощо.
Для забезпечення прозорого та підзвітного використання систем штучного інтелекту вони мають створю-
ватися і використовуватися на основі міжнародних стандартів (захист персональних даних, прозорість алго-
ритмів, підзвітність і відповідальність, захист інтелектуальної власності) та проходити сертифікацію й по-
стійний (протягом усього життєвого циклу) моніторинг із боку незалежних експертних органів, відповідальних
за нагляд у різних галузях (охорона здоров’я, освіта, безпека дорожнього руху, правоохоронна діяльність та ін.).
Ключові слова: штучний інтелект, машинне навчання, права людини, потенційний ризик для прав людини,
дискримінаційні рішення.