41

Microsoft закликає до регулювання використання технології розпізнавання облич

Президент компанії Microsoft Бред Сміт у своєму блозі застеріг про можливе зловживання технологіями розпізнавання облич.
Президент Microsoft Бред Сміт визнає користь використання технології розпізнавання облич поліцією в пошуках зниклих дітей і затриманні злочинців. Але без регулювання, додає він, «використання технології розпізнавання облич може призвести до масового контролю в безпрецедентних масштабах». Він стверджує, що ще не пізно вжити запобіжних заходів щодо цієї технології. «Ми повинні подбати про те, щоб 2024 рік не виглядав як сторінка з роману “1984”», – написав він, посилаючись на антиутопічний роман Джорджа Оруелла.
Технологія, яка для ідентифікації облич використовує відеокамери спостереження і передові системи машинного навчання, стає все більш поширеною. Розпізнавання облич стає все більш точним і використовується в якості системи безпеки в школах і магазинах. Сміт виклав рекомендації Microsoft щодо державного регулювання використання технологій. Компанія пропонує ввести закон, згідно якому люди обов’язково мають бути проінформовані про те, що в тому чи іншому громадському місці ведеться відеоспостереження і використовується технологія розпізнавання облич.
Microsoft також рекомендує ввести в дію закони, відповідно до яких отримані за допомогою систем зі штучним інтелектом дані не можуть автоматично бути використані в якості підстав для прийняття рішень у суді. За словами Сміта, це допоможе скоротити кількість випадків дискримінації та упередженого ставлення, особливо коли це пов’язано з використанням технології правоохоронними органами.
Дослідження показали, що деякі системи розпізнавання облич допускають більше помилок при ідентифікації жінок і кольорових людей, ніж білих чоловіків. Microsoft та інші компанії пообіцяли виправити цю проблему, і президент Microsoft відзначає, що її власна система Face API стала ідентифікувати людей з більшою точністю.
У своєму блозі Сміт також порекомендував технологічним компаніям опублікувати документи, в яких чітко пояснюються можливості та обмеження їх технологій. Крім того він закликає розробників дозволити стороннім групам самостійно тестувати їх системи.
Сміт також розповів про заходи, які на початку наступного року запроваджуватимуться у компанії Microsoft. Наприклад, клієнтам буде заборонено використовувати технологію з метою дискримінації. Також компанія не допустить використання своєї технології в ситуаціях, які зазіхають на демократичні свободи людей.
Організації, що займаються захистом цивільних прав, визнали, що компанія Microsoft домоглася більшого успіху, ніж інші компанії, у вирішенні питання про необхідність розробки нормативних актів. «На жаль, запропонованих заходів недостатньо», – сказав Шанкар Нараян, який керує проектами в Американському союзі громадянських свобод. – «Дії Microsoft не позбавляють нас від настання антиутопії «1984», вони прискорюють її початок», – сказав він.
Нараян закликав ввести мораторій на продаж технологій розпізнавання облич урядам і правоохоронним органам. Він аргументує це тим, що технологія може використовуватися ними для дискримінації груп людей.
Сміт визнав, що рекомендації Microsoft щодо регулювання є першим кроком до вирішення складної проблеми. Microsoft прагне виділитися серед багатьох інших технологічних компаній, позиціонуючи себе як поборник прав на недоторканність приватного життя.
За словами Майкла Познера, директора Центру бізнесу та прав людини Університету Нью-Йорка, деякі ідеї компанії Microsoft буде складно реалізувати, але «в цілому, вона рухається в правильному напрямку».

Читайте також: