Американские полицейские начали использовать генеративный ИИ для составления отчётов

 30 Август 2024    Безопасность

Департамент полиции американского города Фредерик (штат Колорадо) с июня задействовал инструмент генеративного искусственного интеллекта (ИИ) Axon Draft One для составления отчётов, сообщил в четверг Ars Technica.

Draft One использует аналогичную ChatGPT модель от OpenAI — GPT-4. Продукт разработан компанией Axon, которая известна поставками нелетального (не всегда — ред.) электрошокового оружия — тазеров — и видеорегистраторов для сотрудников правоохранительных органов.

Утверждается, что продукт позволяет «составить высококачественный отчёт на основе записей регистратора полицейского за несколько секунд». Таким образом сотрудникам не придётся тратить часы на бумажную работу.

Вместе с тем данная практика беспокоит различных экспертов, которые указывают на несовершенство инструментов генеративного ИИ и совершаемые им ошибки.

Так, Copilot — ИИ-помощник от Microsoft, «интеллектуально приспосабливающийся к вашим нуждам» (так сообщается на сайте «помощника» — ред.) — ложно обвинил специализирующегося на судебной тематике репортёра из Германии Мартина Бернклау (Martin Bernklau) в педофилии, мошенничестве и приписал ему побег из психиатрической клиники. ChatGPT причислил австралийского борца с коррупцией ко взяточникам.

См. также: Как ChatGPT использовали для написания новости — результат >>>