Городской чат-бот Нью-Йорка дает ответы, противоречащие законодательству
Cпециальный чат-бот Нью-Йорка MyCity, запущенный администрацией мэра города Эрика Адамса, дает на запросы пользователей ответы, в которых содержится неполная, а часто некорректная — вплоть до противоположной по значению — информация. Иногда чат-бот напрямую разрешает нарушать городское законодательство.
Как минимум чат-бот путается в жилищном и трудовом законодательстве. Так, если арендодатель спросит, обязан ли он сдавать жилье людям с низкими доходами (в частности тем, кто получает специальную помощь на аренду) , чат-бот ответит, что владелец жилья не обязан это делать. Однако в Нью-Йорке запрещена дискриминация съемщиков по источнику и размеру дохода — за исключением случаев, когда в помещении живет сам арендодатель или его родственники.
Чат-бот также утверждает, что «нет никаких ограничений на сумму арендной платы, которую вы можете взимать с арендатора жилья», хотя в городе существуют ограничения на размер ренты.
По мнению чат-бота, руководители могут принимать подарки от своих сотрудников — что напрямую запрещено законодательством.
Путается чат-бот и в положениях о защите прав потребителей. Например, в 2020 году городской совет принял закон, требующий от предприятий принимать наличные, а не только банковские карточки. Однако на соответствующий вопрос чат-бот ответил, что предприниматель может сделать оплату в своем ресторане только безналичной.
Представители мэрии в ответ на запрос The City подчеркнули, что чат-бот является тестовой пилотной программой и будет улучшаться.
ИИ-помощь мэрии
Нью-Йорк объявил о планах использовать возможности искусственного интеллекта (ИИ) для улучшения работы администрации в октябре 2023 года. Заявляется, что чат-бот использует данные, опубликованные Департаментом услуг малого бизнеса Нью-Йорка, и предоставляет только официальную деловую информацию города. В одном небольшом примечании на странице чат-бота, однако, говорится, что он «иногда может создавать неправильный, вредный или предвзятый контент».
Бот является одним из компонентов портала MyCity, анонсированного в прошлом году. Это проект, запущенный администрацией Адамса, для быстрого доступа граждан к государственным услугам.
Городской чат-бот Нью-Йорка основан на платформе искусственного интеллекта Microsoft Azure. Ранее RTVI.US рассказывал , что конгрессменам запретили пользоваться чат-ботом Bing Copilot, которую разрабатывает та же Microsoft. В Палате представителей посчитали, что эта нейросеть может привести к утечкам. Copilot заблокируют для конгрессменов на всех устройствах с ОС Microsoft Windows, которые находятся в распоряжении нижней палаты парламента.
Ранее такая же участь постигла бесплатную версию генеративного ИИ ChatGPT от OpenAI, в которую та же Microsoft инвестировала $10 млрд. Эта же компания работала и с другими крупными городами — например в 2017 году она помогала разработать специального бота Лос-Анджелесу. Правда, на данный момент этот сервис недоступен.
