Тестирование LLM‑фичи: можно ли верить своему eval
Eval показывает 96% качества, тесты проходят, а после релиза LLM‑ассистент допускает критическую ошибку. Проблема может скрываться в самой системе оценки, которая пропускает опасны...
Search fresh public links, source activity, and ready-to-use post angles for Оценка Качества Llm.
Fresh curated links around оценка качества LLM are collected here so marketers can spot useful updates and turn timely ideas into posts faster.
Recent items include:
Recent curated links from global sources. Generate one free draft from any story, then use SocialBu to schedule and refine your content calendar.
Eval показывает 96% качества, тесты проходят, а после релиза LLM‑ассистент допускает критическую ошибку. Проблема может скрываться в самой системе оценки, которая пропускает опасны...
Обычно, когда выбирают LLM, сначала смотрят рейтинги. Проблема рейтингов в том, что по ним не узнать, как модель справится с вашими задачами и сколько это будет стоить.В нашей лаб...
В 2024 году исследователи провели простой эксперимент: взяли тесты с вариантами ответа и начали менять варианты местами. Сами вопросы и содержание ответов оставались прежними.Казал...
Всем привет! В этом разборе расскажу, как в оценке агентных систем перейти от ощущений к измеримым показателям: как проверять траекторию вызовов инструментов, как калибровать LLM-с...
11 LLM evaluation tools compared for 2026: what each one measures, where it fits in the lifecycle, and how to pick one for your architecture and privacy needs.
Поменять промпт или модель можно за вечер. Понять, стало ли лучше, без эвалов нельзя. Разбираю, что такое эвал для LLM-фичи, где его запускать и что бывает, когда его нет. Читать д...
У нас есть внутренняя платформа подбора ИТ-специалистов. Вакансии приходят от заказчиков, и по каждой платформа находит в базе резюме, близкие к её тексту по смыслу, даже если слов...
Каждая профессиональная область деятельности должна иметь своих специалистов, говорящих на своем «птичьем» языке. Иначе, какая же она профессиональная. Язык этот не является попыт...
Неважно, что делает LLM. Задача все равно приходит словами, и одно пропущенное не может испортить уже вполне материальное действие. Смотрю на LLM глазами лингвиста и разбираюсь, к...
Привет, Хабр!Я старший инженер-программист в Финаме и автор курса «LLM-разработчик» в Хекслете. Разговор пойдёт о практике LLM-разработки и о бытовых деталях: кому нужен RAG, обяза...
Первый вариант системы выглядел вполне стандартно: документы разбиваются на фрагменты, для них считаются embeddings, пользователь задаёт вопрос, несколько наиболее подходящих фрагм...
Мы занимаемся внедрением LLM и агентов в бизнесы, и одна из самых частых проблем — как обрабатывать данные клиентов и при этом соблюдать закон 152-ФЗ о персональных данных. Давайте...
Когда речь заходит о ЛЛМ и классификации, первая мысль — попросить модель сгенерировать класс через промптирование модели с описанием правил и добавлением примеров. Для небольшого...
An LLM application can post a higher evaluation score and still become less useful in production. The contradiction is only apparent. An evaluation score is not quality itself, but...
Источник: Компьютерра - Журнал о науке и технологиях Стоимость российских языковых моделей за последний год снизилась до 67%, согласно исследованию Nodul. Однако если сравнивать и...
Rhea Goel of Amazon on replacing a re-ranker with an LLM: natural language objectives, fine-tuning, DPO, hard and soft constraints, distillation and LLM judges.
Мейнстрим растит модели масштабом. Мы меряем ортогональное: можно ли растить компетентность маленькой модели без роста весов — через верифицированную память и локальное обучение, с...
Monika Sharma of Salesforce on DeepEval as pytest for LLMs, the RAG and safety metric taxonomy, choosing thresholds, and where eval tests fit in the pyramid.
Two checks on your own judge. The first needs no labels, the second needs a few, and together they tell you whether it grades quality or…Continue reading on Towards AI »
LLM умеет отвечать на вопросы, но не знает особенностей вашего проекта и внутренней документации. В статье разберём, как с помощью RAG подключить собственные данные к модели: от по...
Движок знает ответ, но говорит числами. Модель говорит словами, но врет. Рассказываю, как проверяю каждый ход из ответа LLM кодом и почему просьба в промпте тут не работает. Читать...
Во время работы аналитиком в рекрутменте я часто строил множество метрик, которые отвечали на абсолютно разные вопросы:• сколько дней закрывали вакансию;• сколько стоил найм;• кака...
Разбираем по пунктам новую методику расчета состоятельности граждан
В текущих событиях во многих отраслях прослеживается четкая девальвация одних навыков в пользу других, а затем и третьих. Не изменится только одно - человек как профессионал. И об...
Use SocialBu to discover ideas, generate post drafts, and schedule them across your social channels.