• Новости

Учёные Сбербанка нашли способ снизить галлюцинации ИИ-моделей

Исследование посвящено проверке корректности ответов ИИ в RAG-системах, которые являются важной частью современных мультиагентных решений.

Результаты опубликованы в статье «Эффективные мета-модели для оценки вопросов и ответов Больших языковых моделей на основании контекста» (Data-efficient Meta-models for Evaluation of Context-based Questions and Answers in LLMs).

Одна из ключевых проблем LLM — склонность выдавать убедительные, но фактически ложные ответы. Сегодняшние методы борьбы с этим основаны на обучаемых алгоритмах, которым требуется огромное количество размеченных данных, что делает их внедрение затратным.

Исследователи Сбербанка предложили альтернативу: они протестировали существующие подходы и разработали метамодели, которые позволяют повысить точность выявления недостоверных ответов почти на 30%. Для этого достаточно всего 250 обучающих примеров — в несколько раз меньше, чем необходимо большинству аналогичных решений.

Наше исследование меняет подход к оценке ответов искусственного интеллекта. Мы показали, что даже при небольшом объеме данных можно добиться высокой точности ИИ-систем. Это особенно важно для индустриальных решений, где разметка требует дополнительных ресурсов. Предложенный нами способ использует метамодели и умное понижение размерности — это прорыв в детекции галлюцинаций искусственного интеллекта. Мы не просто улучшаем технологии, но и снижаем риски дезинформации, что критично для доверия к современным моделям.

Глеб Гусев

Директор Центра практического искусственного интеллекта Сбербанка

Новый метод снижает нагрузку на компании в части подготовки и разметки данных и делает RAG-системы более надежными. В итоге разработчики получают инструмент для точной оценки работы языковых моделей, а пользователи — более достоверные результаты от ИИ.

По материалам cnews.ru.

ООО «Акме»
еще 239 публикаций

Лучшее в блогах

27.11.2025

Новости НРФ’9: официальный журнал доступен в цифровом формате

Вчера

Итоги конференции Group4Media «Этот год — следующий год. Искусство эффективности»

Вчера

Кейс UM, Points Lab, АДВ+Эндемика и «Самолет»: как с математической точностью измерить эффективность маркетинга в недвижимости

Вчера

«Сбер, где всё возможно»: банк создал музыкальный HR-манифест

Вам понравится

Finepromo

14.11.2025

Нейросети + боли ЦА = рост конверсии. Как мы прокачали рекламу в РСЯ для зообренда

Digital Маркетинг

Низкая эффективность контекстной рекламы — распространенная ситуация, с которой сталкиваются многие рекламодатели. Высокие ставки, низкая конверсия и равнодушная аудитория часто становятся следствием классического подхода с общими УТП и стандартными креативами. В этом кейсе мы продемонстрируем, как системная работа с болями целевой аудитории и применение нейросетей помогли бренду «Суперпет» снизить стоимость привлечения клиента и увеличить конверсию.

Щи Продакшен

11.11.2025

Как Щи Продакшен использовали ИИ и CGI для создания бабушки-дроида в рекламе «Бульмени НЕЙРОБУСТ»

Digital Контент

Смешали мемы, киберпанк и немного бабушкиного тепла. Так родилась бабушка-микроволновка андройд — героиня, в которой технологии, вкусная еда и забота живут в одном теле.

Media Bay

10.11.2025

Увеличили конверсию интернет-магазина до 5%

Digital

Заложили новую концепцию цветочно-орехового бутика и помогли найти нишу и клиентов в e-commerce через нежность и изящество в дизайне.

Haiku AI

10.11.2025

Перспективы развития технологии RAG

Digital IT и инновации

Мы, Haiku.dev — лаборатория по адаптации ИИ для решения реальных задач крупного бизнеса. В этой статье рассмотрим наиболее вероятные пути развития технологии RAG, актуальные для бизнеса.