Skip to content

docs: define request enrichment quality qualification contract - #309

Merged
ashikov merged 1 commit into
mainfrom
docs/234-quality-contract
Oct 15, 2026
Merged

ashikov merged 1 commit into
mainfrom
docs/234-quality-contract

Conversation

@ashikov

@ashikov ashikov commented Oct 15, 2026 •

Copy link
Copy Markdown
Owner

Closes #234

Закреплён целевой контракт качества первичной заявки v0.3: контролируемое обогащение, безопасное воздержание и предметные backend-owned требования как будущая работа #306. Production-генерация, prompt, schema, materializer, renderer, HTTP API и UI не изменены. #267 / Draft PR #268 и #128 в scope не входят.

В docs/LLM_BENCHMARK.md определены шесть классов качества с примерами, точные знаменатели 0 / 5% / 80%, учёт repeats, failures и REVIEW_NEEDED, независимая приёмка 12/15, статистические ограничения и статусы исторических expectations без переписывания прежних verdict. Неполный gate не получает PASS. Действующий benchmark используется одноответными порциями с review до следующего вызова, поскольку runner не останавливается автоматически на semantic blocker.

Единый corpus расширен с 35 до 39 сценариев: переиспользованы все прежние, добавлены открытый вход без категории, шум работающего лифта, условное требование с запретом замены и недостаточность evidence. Новых типов expectations, runtime-полей, зависимостей и eval-framework нет. Заморожены D=8, F=15, R=16, eligibility=11 (из них 5 в F).

План #307: baseline 8 + кандидат 1 8 + кандидат 2 8 + полный финальный corpus 39 + критические repeats 4 + резерв 13 = максимум 80 attempts. Общий денежный потолок 2500 ₽, контроль целесообразности около 500 ₽. До каждого платного этапа нужны актуальные тарифы, смета, точный clean HEAD, hashes и отдельное явное подтверждение владельца. 15 документов ручной приёмки входят в финальную выборку.

Проверки точного HEAD ff2154d8154dd36f27f7785819bab77c93ea3579:

  • TDD: новая проверка условного требования сначала упала на отсутствующем fixture, затем прошла
  • Focused fixtures/materializer/renderer/benchmark/smoke tests: 118/118 PASS
  • make lint-md, pnpm check (1007/1007 tests, format/lint/typecheck/build) и git diff --check: PASS в чистом verification worktree
  • В исходном checkout pnpm check выявил форматирование двух существующих ignored-скриптов. Они сохранены без изменений, чистая копия проверяет тот же commit
  • Plan mode существующего benchmark: 39 scenarios, provider requests = 0
  • Публичный diff: только пять файлов документации/tests, проверены scope и отсутствие приватных данных и секретов

Независимое ревью фактического diff точного HEAD: APPROVE, подтверждённых замечаний 0. Reviewer отдельно выполнил focused tests 80/80, Biome, Markdown lint и diff-check. CI точного HEAD успешно выполнил все пять jobs: validate-pr-commits, quality, test, build, browser. Выполнение целевых метрик генератором здесь не заявляется: PR готовит контракт и методику для #306/#307.

Provider requests = 0. Расходы = 0 ₽. Merge, release и deployment не выполняются.

@ashikov
ashikov marked this pull request as ready for review October 15, 2026 08:17
@ashikov ashikov self-assigned this Oct 15, 2026
@ashikov
ashikov merged commit bbc0ec9 into main Oct 15, 2026
16 checks passed
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

[M] Закрепить контракт качества и пределы экспериментов для обогащения заявок

1 participant