На вебинаре рассмотрим причины некорректных или полностью выдуманных, но правдоподобных ответов нейросетей, и что делать, чтобы снизить шанс получения таких ответов.

Еще год назад популярные нейросети часто то рисовали людей с тремя или шестью пальцами на руке, то составляли юридические документы со ссылками на несуществующие законы. Сейчас картинки стали реалистичнее, а тексты — корректнее, но полностью от таких «галлюцинаций» не освободились. Дает ли нынешний прогресс надежду на то, что когда-нибудь результаты работы ИИ не нужно будет перепроверять, или галлюцинации неизбежны? На вебинаре мы попробуем приблизиться к ответу на этот вопрос и рассмотрим, какие промпты позволяют снизить влияние галлюцинаций, как добавлять качественные данные в контекст, и как организовать автоматическую перепроверку результатов, в том числе и заставив нейросеть критиковать и поправлять саму себя.

Цели вебинара:

Продемонстрировать разнообразие эвристических и системных подходов к использованию больших языковых моделей в генеративных нейросетях.

1.Что такое галлюцинации?

2.Виды галлюцинаций

3.Способы снижения влияния галлюцинаций

4.Техники промптинга для улучшения ответов

5.Использование дополнительных данных (RAG)

6.Автоматическая перепроверка ответов