Skip to content

feature(lookup): собирать BookRecord из всех провайдеров через merge - #7

Open
gman-dev-nov wants to merge 9 commits into
developfrom
feature/lookup-merge-results
Open

feature(lookup): собирать BookRecord из всех провайдеров через merge#7
gman-dev-nov wants to merge 9 commits into
developfrom
feature/lookup-merge-results

Conversation

@gman-dev-nov

Copy link
Copy Markdown
Owner

Summary

  • home_library/providers/_merge.py::merge_book_records собирает поля по приоритету: первое непустое значение от провайдера в порядке очереди.
  • fetch_book_by_isbn теперь не «возвращает первого», а ждёт всех gather-результатов и пропускает их через merge — title/author от Лабиринта плюс publisher/topics от Google Books.
  • Поведение «провайдер бросил исключение» сохранено: лог + skip.

Test plan

  • 6 unit-тестов merge_book_records (empty, single, priority order, livelib_url fallback, None filtering, higher wins)
  • Интеграционный тест fetch_book_by_isbn с Labirint+Google Books
  • Полный прогон: 185 passed

Зачем это после B0

B0 даёт основной caмый сильный источник (РГБ). B6 закрывает дыры в редких кейсах, когда РГБ не нашёл, но другие провайдеры частично знают — без merge мы бы возвращали только первого с неполными полями.

🤖 Generated with Claude Code

Уточнил обработку и выбор результатов DDG для книг Alpina, чтобы бот стабильнее восстанавливал корректные название, автора и другие метаданные в сценариях, где прежний fallback часто возвращал неполные или неточные данные.

Коммит собирает исходное улучшение и последующий lint-fix в один логический bugfix, чтобы история ветки отражала единственную пользовательскую проблему: слабое извлечение метаданных Alpina через DDG.
Добавил дополнительный путь поиска книги через Yandex и Playwright для ISBN, которые не находятся в основных источниках. Это закрывает сценарии, где обычный lookup возвращает пустой результат, хотя книга существует в открытых каталогах или поисковой выдаче.

Если автоматический поиск не находит книгу, бот теперь просит у пользователя короткую текстовую подсказку и повторяет поиск с контекстом. Такой flow снижает число тупиковых добавлений, делает поведение бота понятнее и помогает восстановить метаданные без ручного заполнения всей карточки.
Добавил полноценный экран проверки OCR-черновика после сканирования обложки и титульного листа. Пользователь может уточнить ISBN, автора и название до сохранения, а бот показывает промежуточную карточку книги вместо немедленного перехода к сохранению или поиску.

Это уменьшает число ошибок после OCR, делает сценарий добавления книги управляемым и готовит данные к дальнейшему обогащению метаданными только после того, как пользователь подтвердил базовые поля.
…авок

Разделил подтверждение OCR-черновика на два осознанных действия: мгновенное добавление книги по подтвержденным данным и отдельный поиск внешних метаданных. Это ускоряет быстрый сценарий добавления и убирает лишние внешние запросы, когда OCR уже дал достаточно точный результат.

Также добавил повторный lookup из preview перед сохранением книги. Данные провайдера теперь только дополняют карточку и не перетирают вручную подтвержденные ISBN, автора и название, поэтому пользователь не теряет свои исправления после OCR.
Добавил в MEMORY.md рабочие договоренности по разнесению больших наборов изменений на тематические ветки, атомарности коммитов и формату commit message. Это нужно, чтобы новые правила не остались только в обсуждении и использовались как постоянная часть проектной памяти.

Отдельно зафиксировал ожидание к body коммита и PR: человеческое объяснение того, что изменилось, какую проблему это решает и зачем выбран именно такой способ реализации.
Усилил общий парсер поисковой выдачи и Yandex fallback для кейсов, где книга видна человеку в поиске, но бот теряет автора или возвращает усеченное название. Добавлен разбор формата 'Автор: Название', более аккуратный выбор полного title вместо обрезанных вариантов и добор метаданных с верхних внешних страниц выдачи.

Это нужно для проблемных ISBN вроде 9785002143382, где поисковик уже показывает релевантную книгу, но прежние эвристики отдавали неполные или шумные данные. В коммит также входят регрессионные тесты и отладочный Playwright-скрипт для живой проверки Yandex path.
Добавил новый Playwright fallback по книжным сайтам для ISBN, которые не удается стабильно добрать через каталоги и поисковики. Новый слой идет напрямую в LiveLib, MyBook и Labirint, пытается вытащить структурированные title, author и ссылку на карточку книги, а затем подключается в lookup-цепочку до DuckDuckGo.

Это нужно как последний шанс для кейсов, где книга существует на книжных сайтах и находится человеком вручную, но обычные провайдеры не возвращают понятный результат. Для текущих проблемных ISBN живой прогон уже дает корректную карточку через MyBook или Labirint, а в тестах зафиксирован порядок fallback и разбор HTML этих сайтов.
Файл .bot.pid — это рантайм-артефакт скрипта запуска бота
(хранит PID процесса для останова). Он постоянно мелькает в
git status и не должен попадать в индекс.
home_library/providers/_merge.py добавляет merge_book_records:
для каждого поля BookRecord берётся первое непустое значение в
порядке приоритета. Это даёт «лучшее из всех» — например,
ru-title от Лабиринта и тематику/издателя от Google Books, когда
у Лабиринта эти поля пустые.

В fetch_book_by_isbn теперь вместо ``for ... return result``
собираются все успешные результаты и сливаются через
merge_book_records. Поведение «провайдер бросил исключение» не
изменилось — лог + skip.

Реализация по TDD: 6 тестов merge_book_records (пустой список,
single, заполнение поля от младшего, livelib_url с младшего,
None-фильтрация, приоритет высшего над низшим) + интеграционный
тест fetch_book_by_isbn по сценарию Labirint+Google Books.
@chatgpt-codex-connector

Copy link
Copy Markdown

You have reached your Codex usage limits for code reviews. You can see your limits in the Codex usage dashboard.

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

1 participant