Главный обман ИИ - Как устроены LLM на пальцах

[Sevab]

Канал Merion Academy выпустил шикарный разбор устройства LLM-моделей простыми словами. Без лишней душноты авторы объясняют, почему Клод, Джаст и Джеминай на самом деле не понимают смысл слов, а просто угадывают следующее слово на основе чистой статистики.

Вы узнаете, как текст бьется на токены и превращается в эмбеддинги, за что отвечает температура, как RAG борется с галлюцинациями и откуда у сетей берутся эмерджентные способности.

[teraferma]

Про температуру в таких роликах обычно говорят «чем выше, тем креативнее», и из-за этого многие ставят её повыше для статей. На деле она меняет форму распределения вероятностей: чем выше, тем оно площе, и модель чаще берёт маловероятные токены, а вместе с ними и выдуманные факты. Для текстов, где важны цифры и названия, разумнее держать её низкой, а разнообразие добирать формулировкой промпта. Хотя и на нуле модель соврёт, если факта не знает: температура тут не лекарство. С RAG тоже не всё волшебно: модель отвечает по найденным кускам, и если поиск подтянул устаревшую страницу, она уверенно перескажет устаревшее.