Проблемы генеративного ИИ – версия IDC

19 Ноябрь 2024 Аналитика

Аналитическая компания IDC, специализирующаяся на IT-индустрии, заявила о том, что сервисы генеративного искусственного интеллекта (ИИ) быстро превращаются в инструменты, которые кардинально меняют бизнес в организациях, однако обратить потенциал сервисов в измеряемую пользу по-прежнему является трудной задачей — об этом пишет во вторник cio.com.

IDC называет восемь основных проблем, препятствующих сегодня практическому использованию генеративного ИИ:

обеспечение конфиденциальности данных и соблюдение юридических требований (решение: внедрение функциональных структур управления данными, принятие и обеспечение соблюдения законов о генеративном ИИ – в пример приводится GDPR);
предвзятость и галлюцинации ИИ (решение: регулярный аудит и переобучение моделей на разнообразных и репрезентативных данных, внедрение инструментов для выявления предвзятости ИИ и устранения данной проблемы);
высокая стоимость (решение: оптимизация моделей с точки зрения эффективности, использование облачных решений);
трудная интеграция генеративного ИИ в существующую IT-инфраструктуру (решение: создание чёткого плана интеграции, инвестиции в промежуточные программные средства, обеспечение кросс-функционального взаимодействия);
недостаточная универсальность генеративного ИИ (решение: проведение тщательных тестов на адекватность ИИ-систем их предназначению, использование модульных архитектур для более лёгкого масштабирования);
отсутствие чётких примеров использования (решение: задействовать заинтересованных лиц в определении сфер применения, где ИИ может повысить отдачу);
доверие и надзор (решение: использование объяснимого ИИ (XAI) и ведение чёткой документации процессов принятия решений посредством ИИ-системы);
связанные с интеллектуальной собственностью риски (решение: внедрение жёсткой политики относительно источников используемых материалов, применение ИИ-инструментов, способных верифицировать оригинальность сгенерированного контента).