👨 Британская полиция годами вешала на людей ярлык «вероятного преступника» — и ошибалась в 9 случаях из 10
Полиция Эйвона и Сомерсета тайно вела базу данных почти на 500 тыс. жителей Бристоля — с психиатрическими записями, данными о школьных обедах, жилищном статусе и подростковых беременностях. Алгоритмы анализировали эти данные и присваивали каждому «рейтинг риска» — например, для детей учитывались пропуски в школе, долги семьи по аренде и получение бесплатного питания.
➡️ Система работала с 2016 года, но большинство горожан не знали о ней ничего. Лидер местной группы общественного контроля за полицией Джон Пеграм узнал, что он в базе только в 2024-м. Причем полиция подтвердила это только после того, как Пеграм обратился за помощь к адвокатам. Однако подробностей власти все равно не раскрыли.
Расследование Wired показало: модель предсказания краж работала с точностью ниже 10% более трех лет — это значит, что девять из десяти помеченных людей преступниками не были. Полиция утверждает, что эту конкретную модель так и не развернула. Зато две другие модели — для предсказания угрозы сексуальной и криминальной эксплуатации детей — тихо свернули, когда выяснилось, что им нельзя доверять.
«Я не думаю, что ИИ-модель должна иметь такую власть над жизнями людей», — замечает Пеграм.
❗️ Ни публичного разбора, ни официальных выводов не последовало. Великобритания сейчас вкладывает £75 млн в новый проект PoliceAI — и его возглавляет бывший главный констебль Эйвона и Сомерсета Энди Марш, который когда-то обещал перевести все управление на предиктивную аналитику. Теперь он настаивает, что ИИ нужно распространять по всем 43 полицейским управлениям страны «как лесной пожар».
Можно ли доверять ИИ решения о том, кто преступник?
❤️ — нет, это должны решать только люди
🔥 — можно, если система работает точно
👋 Подпишитесь на Hi, AI!
Свежие комментарии