Какие задачи реально решает ИИ в бизнесе сейчас?
Хорошо работают: классификация писем и обращений, извлечение данных из документов и счетов, поиск по базе знаний с цитатами, генерация черновиков ответов и коммерческих предложений, краткие сводки больших переписок и звонков, маршрутизация обращений по теме и срочности. Хуже - задачи с жёсткой ценой ошибки без перепроверки человеком.
Какие модели используете?
Подбираем под задачу. Для большинства бизнес-сценариев - OpenAI API или его аналоги. Для чувствительных данных и автономности - локальные LLM (Llama, Qwen, GigaChat) на вашем сервере. Embedding-модели для поиска - отдельный выбор по языку и качеству. Везде, где возможно, ИИ работает совместно с правилами, а не вместо них.
Что с конфиденциальностью данных?
Если данные нельзя отправлять во внешние API - ставим локальную модель на вашем сервере. Все обращения логируются и аудируются. Для смешанных задач часть полей маскируется перед отправкой во внешний API, чувствительные поля обрабатываются локально. Подход определяем на этапе аудита, в зависимости от типа данных и требований безопасности.
Сколько стоит внедрение ИИ?
Внедрение - это работа по проектированию, разработке и интеграции. Эксплуатация - стоимость API-запросов или серверных мощностей. На простых сценариях OpenAI обычно стоит копейки за обращение, на больших объёмах с RAG может выходить заметная сумма - считаем заранее, чтобы не было сюрпризов. Локальные модели - без оплаты за обращение, но нужен сервер с GPU.
А если ИИ ошибётся?
Закладываю это в архитектуру. На критичных задачах ИИ работает в режиме «подскажи человеку»: готовит черновик, классифицирует, подсвечивает риски - но финальное действие за сотрудником. На массовых задачах с низкой ценой ошибки (например, тегирование) - автономно, но с регулярной выборочной проверкой и метриками качества.
Сколько времени занимает внедрение ИИ-сценария?
Прототип на реальных данных и метрика качества - 1–2 недели. Полноценное внедрение с интеграцией в CRM/почту/мессенджер, логированием и fallback - обычно 3–6 недель в зависимости от количества источников и требований к точности. Сроки фиксируем после скоупинга.
Нужно ли «обучать» модель на наших данных?
В 90% бизнес-задач - нет. Хватает грамотных промптов, контекста из вашей базы знаний (RAG) и few-shot примеров. Fine-tuning берём только когда метрики качества доказали недостаток базового подхода - это редкие случаи, и заранее их обещать не буду.
Что делаете с галлюцинациями LLM?
Несколько слоёв защиты: ответы только из вашей базы знаний (RAG с цитатами), структурный вывод по JSON-схеме, валидация значений правилами, fallback на человека при низкой уверенности модели. Каждый вызов логируется - галлюцинации видны и измеримы, а не «гуляют» молча в проде.