Прецедентное Дело Вызывает Вопросы об Использовании Искусственного Интеллекта в Жилищном Секторе

В знаковом судебном процессе, подчеркивающем возможный ущерб от принятия решений на основе ИИ в сфере жилья, SafeRent, компания по отбору арендаторов с помощью ИИ, согласилась на урегулирование на сумму 2,3 миллиона долларов и прекращение работы своей системы оценки.

Иск, поданный арендаторами Мэри Луис и Моникой Дуглас, утверждал, что алгоритм, используемый SafeRent, несправедливо дискриминировал чернокожих и латиноамериканцев, полагающихся на жилищные ваучеры, нарушая Закон о справедливом жилье, как впервые сообщила The Guardian.

Мэри Луис, охранник из Массачусетса, была среди более 400 арендаторов, пострадавших от противоречивой системы SafeRent. Несмотря на блестящую рекомендацию от её арендодателя, у которого она прожила 17 лет, и использование гарантийного ваучера для жилья низкого дохода, обеспечивающего частичную оплату аренды, её заявка была отклонена.

Отказ был получен после того как SafeRent присвоил ей баллы в размере 324, что значительно ниже минимального требования управляющей компании — 443 балла. Объяснение баллов или процесса апелляции не было предоставлено, как сообщает The Guardian.

Иск, поданный в 2022 году, обвинял SafeRent в использовании непрозрачной системы оценки, которая учитывала несущественные финансовые данные, такие как долг по кредитным картам, игнорируя при этом гарантированные платежи, предоставляемые жилищными ваучерами, сообщает The Guardian.

Исследования показывают, что арендаторы чернокожего и испанского происхождения чаще имеют более низкий кредитный рейтинг и полагаются на ваучеры, чем белые заявители, что усугубляет существующие неравенства, как сообщает Национальный Центр Потребительского Права.

Луи описала свое разочарование отсутствием контекста в алгоритме. «Я знала, что у меня плохая кредитная история. Но ИИ не знает моего поведения — он знал, что я запаздывала с оплатой кредитной карты, но не знал, что я всегда плачу аренду», — сказала она The Guardian.

Утвержденное 20 ноября соглашение примечательно не только своей финансовой составляющей, но и требованием внести операционные изменения.

SafeRent больше не может использовать систему оценки или рекомендовать решения о съеме жилья для заявителей, использующих жилищные ваучеры, без независимой проверки организацией, занимающейся вопросами справедливого жилья. Такие корректировки редки в урегулировании споров с технологическими компаниями, которые обычно избегают изменений основных продуктов, как отметил The Guardian.

“Удаление определений в стиле ‘палец вверх, палец вниз’ действительно дает возможность арендатору заявить: ‘Я отличный арендатор’,” — сказал Тодд Каплан, адвокат, представляющий истцов, как сообщает The Guardian.

Данное дело подчеркивает растущие опасения по поводу использования искусственного интеллекта в фундаментальных аспектах жизни, включая жилье, трудоустройство и здравоохранение.

Опрос Consumer Reports 2024 показал широкое недовольство алгоритмическим принятием решений, особенно в областях с высокими ставками. Критики утверждают, что эти системы часто опираются на недостаточные статистические предположения, что приводит к дискриминационным результатам.

Кевин де Либан, юридический эксперт в области вреда от ИИ, отметил, что компаниям мало стимулов для создания справедливых систем для лиц с низким доходом. «Рыночные силы не работают, когда речь идет о бедных людях», — сказал он, подчеркнув необходимость более строгих регулирований, как сообщает The Guardian.

«В той мере, в какой это может быть прецедентным случаем, у него есть потенциал обеспечить ориентир для рассмотрения подобных дел и стимулировать другие вызовы,» — сказал Каплан, хотя эксперты предупреждают, что только судебные разбирательства не могут обеспечить ответственность компаний, как сообщает The Guardian.

Для арендаторов, таких как Луи, однако, это урегулирование представляет собой трудно завоеванную победу, прокладывающую путь к более справедливому отношению к тем, кто зависим от программ помощи в обеспечении жильем.