Языковые моделиРазбор
Что такое галлюцинации нейросети и почему их не видно
Галлюцинацией называют уверенный ответ, который неверен. Я считал такие ответы на 1 534 вопросах. Когда я заставил модели исправлять сбои, незаметных ошибок стало больше.
Разделы
Языковая модель продолжает текст. Всё остальное, от ответа на вопрос до работающего запроса к базе, получается из этого одного умения, и ошибается модель по той же причине, по которой отвечает.
В этом разделе разбираем, как модели устроены и где им можно верить: почему уверенный ответ бывает неверным, что на самом деле измеряют тесты, чем модели одного размера отличаются друг от друга и что меняется, когда модель работает на своём железе.
Опираемся на замеры, а не на впечатления. Если цифры нет, так и пишем.
Языковые моделиРазбор
Галлюцинацией называют уверенный ответ, который неверен. Я считал такие ответы на 1 534 вопросах. Когда я заставил модели исправлять сбои, незаметных ошибок стало больше.