feat(ingest): is_oa-фильтр OpenAlex + PDF-ссылка arXiv → покрытие full-text ↑
Some checks failed
Deploy / deploy (push) Failing after 4m37s

Корпус набивался с ~8% полного текста — по широким темам мало доступных PDF.
- OpenAlex: параметр open_access_only (is_oa:true), включён по умолчанию для
  заливки (INGEST_OPEN_ACCESS_ONLY). A/B: покрытие 20% → 45%.
- arXiv: url теперь прямая ссылка на PDF (был на HTML-страницу аннотации),
  теперь enrich_full_text реально качает текст (у arXiv PDF почти у 100%).

Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>
This commit is contained in:
jze9
2026-08-07 15:04:03 +05:00
parent 61b2275972
commit 9b7becf4d1
4 changed files with 20 additions and 2 deletions

View File

@@ -159,12 +159,18 @@ class ArxivParser(BaseParser):
doi = link.get("href", "").replace("http://dx.doi.org/", "")
break
# URL
# URL — предпочитаем прямую ссылку на PDF (её качает enrich_full_text),
# иначе HTML-страницу аннотации
url = None
for link in entry.findall("atom:link", NS):
if link.get("type") == "text/html":
if link.get("title") == "pdf" or link.get("type") == "application/pdf":
url = link.get("href")
break
if not url:
for link in entry.findall("atom:link", NS):
if link.get("type") == "text/html":
url = link.get("href")
break
# Категории
categories = [

View File

@@ -44,6 +44,7 @@ class OpenAlexParser(BaseParser):
year_from: int | None = None,
year_to: int | None = None,
type_filter: str = "article",
open_access_only: bool = False,
) -> list[dict[str, Any]]:
"""
Получить документы из OpenAlex.
@@ -55,6 +56,8 @@ class OpenAlexParser(BaseParser):
year_from: Год публикации от
year_to: Год публикации до
type_filter: Тип документа (journal-article, book, и т.д.)
open_access_only: только open-access работы (is_oa:true) — резко
повышает долю статей с доступным PDF (для наполнения корпуса)
Returns:
Список сырых словарей из OpenAlex API
@@ -68,6 +71,7 @@ class OpenAlexParser(BaseParser):
year_from=year_from,
year_to=year_to,
type_filter=type_filter,
open_access_only=open_access_only,
):
results.extend(page)
if len(results) >= limit:
@@ -83,6 +87,7 @@ class OpenAlexParser(BaseParser):
year_from: int | None,
year_to: int | None,
type_filter: str,
open_access_only: bool = False,
) -> Generator[list[dict], None, None]:
"""Cursor-based пагинация OpenAlex."""
cursor = "*"
@@ -101,6 +106,9 @@ class OpenAlexParser(BaseParser):
# сужает выдачу, поэтому не навязываем открытый доступ по умолчанию.
filters = [f"type:{type_filter}"]
if open_access_only:
filters.append("is_oa:true")
if query:
params["search"] = query