feat: две доработки в духе коммерческих систем — цитаты и авто-корпус

Ответ на "неужели больше нет" / "мы ведь можем это исправить": закрывает
две дыры относительно Антиплагиат.ру/Turnitin, о которых договорились.

1. Различение цитаты и голого плагиата (app.scoring.is_cited, worker-gpu):
   эвристика — фрагмент считается процитированным, если обрамлён кавычками
   («…», "…") либо сразу за ним (в пределах ~150 симв.) идёт скобочная ссылка
   с годом: [Иванов, 2023], (Smith, 2020) — совпадает и с нашим же форматом
   ГОСТ 7.0.5. aggregate_results теперь принимает full_text, размечает
   match["cited"] и считает uncited_similarity (доля БЕЗ похожих на цитаты —
   ближе к тому, что коммерческие системы называют "% некорректных
   заимствований") отдельно от overall_similarity (как было, для совместимости).
   Фронтенд: бейдж "Цитата" на совпадении + строка с разбивкой в отчёте
   (аддитивные опциональные поля в типах — старые задачи не ломаются).

2. Автопополнение корпуса проверенными работами (как у коммерческих систем —
   так ловится списывание у предыдущих потоков). Раньше загруженная на проверку
   работа складывалась в StagedWork и ждала РУЧНОГО одобрения админом — де-факто
   не пополняла базу для сравнения. Теперь index.auto_approve_submission
   (диспатчится из gpu.check_plagiarism ПОСЛЕ сохранения результата — чтобы
   работа не сматчилась сама с собой) добавляет её в documents автоматически,
   под настройкой AUTO_APPROVE_SUBMISSIONS (default True). Ручное
   approve/reject в админке остаётся рабочим (идемпотентно — auto-approve
   пропускает уже не-pending записи), пригодится при AUTO_APPROVE=False.
   Конвертация StagedWork→doc_data вынесена в чистый app/staging.py (без
   Celery/SQLAlchemy/MinIO) — тестируется изолированно, идентична ручному
   пути в admin.py (POST /admin/staging/{id}/approve).

Тестов добавлено 16 (scoring 8→18, новый staging.py — 6). Оба mypy-гейта
расширены (scoring.py, staging.py). Тестов всего: 112 (было 82 в последнем
подсчёте README — таблица давно отставала, заодно поправил на актуальные цифры
по всем сервисам, включая забытый в прошлый раз Qdrant).

Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>

services/worker-gpu/app/scoring.py

@@ -1,35 +1,87 @@
 """Чистая доменная логика скоринга плагиата — без Celery/БД/сети.
 
 Объединяет совпадения всех уровней (1 winnowing, 2 minhash, 3+4 semantic+llm),
-дедуплицирует их и считает итоговый процент схожести, который видит студент.
-Вынесено из Celery-задачи, чтобы логику можно было тестировать изолированно.
+дедуплицирует их, размечает корректно процитированные фрагменты и считает
+итоговые проценты, которые видит студент. Вынесено из Celery-задачи, чтобы
+логику можно было тестировать изолированно.
 """
 
+import re
 from typing import Any
 
+# Кавычки (открывающая/закрывающая) — рус./англ. варианты
+_OPEN_QUOTES = '«"„'
+_CLOSE_QUOTES = '»"“”'
+
+# Скобочная конструкция с 4-значным годом внутри — [Иванов, 2023], (Smith, 2020),
+# [Иванов и др., 2023]. Совпадает и с нашим же форматом ГОСТ 7.0.5.
+_CITATION_RE = re.compile(r"[\[(][^\[\]()]{0,80}(?:19|20)\d{2}[^\[\]()]{0,20}[\])]")
+
+# Насколько далеко после фрагмента искать ссылку на источник
+_CITATION_LOOKAHEAD = 150
+
+
+def is_cited(full_text: str, position_start: int, position_end: int) -> bool:
+    """Эвристика: похож ли фрагмент на корректно процитированный, а не на голый плагиат.
+
+    Фрагмент считается процитированным, если:
+    - обрамлён кавычками («…», "…") сразу по границам, ИЛИ
+    - сразу за ним (в пределах ~150 символов) идёт скобочная ссылка с годом —
+      [Иванов, 2023], (Smith, 2020) и т.п.
+
+    Эвристика, не 100%-но точная — сигнал для сортировки/отчёта, не финальный
+    вердикт. Для фрагментов без надёжной позиции в тексте (например, уровень 2
+    MinHash — совпадение на уровне всего документа) возвращает False: их нельзя
+    локализовать, чтобы проверить окружение.
+
+    Args:
+        full_text: полный текст проверяемого документа
+        position_start: начало фрагмента (символ)
+        position_end: конец фрагмента (символ)
+
+    Returns:
+        True, если похоже на корректную цитату
+    """
+    if not full_text or position_start < 0 or position_end > len(full_text):
+        return False
+
+    before = full_text[max(0, position_start - 3) : position_start]
+    after = full_text[position_end : position_end + 3]
+    if any(c in before for c in _OPEN_QUOTES) and any(c in after for c in _CLOSE_QUOTES):
+        return True
+
+    tail = full_text[position_end : position_end + _CITATION_LOOKAHEAD]
+    return bool(_CITATION_RE.search(tail))
+
 
 def aggregate_results(
     level1_matches: list[dict[str, Any]],
     level2_matches: list[dict[str, Any]],
     semantic_matches: list[dict[str, Any]],
     total_fragments: int,
+    full_text: str = "",
 ) -> dict[str, Any]:
     """Свести совпадения уровней в итог проверки.
 
     Дедупликация — по паре (source_title, position_start): одно и то же совпадение
-    источника в одной позиции не дублируется. Итоговый процент — доля УНИКАЛЬНЫХ
+    источника в одной позиции не дублируется. `overall_similarity` — доля УНИКАЛЬНЫХ
     помеченных позиций от всех фрагментов (фрагмент, совпавший с несколькими
-    источниками, не раздувает процент выше 100).
+    источниками, не раздувает процент выше 100). `uncited_similarity` — та же доля,
+    но БЕЗ фрагментов, похожих на корректную цитату (см. is_cited) — это ближе к
+    тому, что коммерческие системы называют «% некорректных заимствований».
 
     Args:
         level1_matches: совпадения уровня 1 (Winnowing, точные)
         level2_matches: совпадения уровня 2 (MinHash, нечёткие)
         semantic_matches: совпадения уровней 3-4 (FAISS + LLM-парафраз)
         total_fragments: всего проверенных фрагментов документа
+        full_text: полный текст проверяемого документа — нужен для is_cited;
+            пустая строка → ни один фрагмент не размечается как цитата
 
     Returns:
-        dict с полями overall_similarity, matches, total_fragments,
-        flagged_fragments, by_method.
+        dict с полями overall_similarity, uncited_similarity, matches (с полем
+        "cited" в каждом), total_fragments, flagged_fragments, cited_fragments,
+        uncited_fragments, by_method.
     """
     all_matches = level1_matches + level2_matches + semantic_matches
 
@@ -39,18 +91,24 @@ def aggregate_results(
         key = f"{m.get('source_title', '')}:{m.get('position_start', '')}"
         if key not in seen:
             seen.add(key)
+            m = {**m, "cited": is_cited(full_text, m.get("position_start", -1), m.get("position_end", -1))}
             unique_matches.append(m)
 
     flagged_positions = {m.get("position_start") for m in unique_matches}
-    flagged_frags = len(flagged_positions)
-    overall = (flagged_frags / total_fragments * 100) if total_fragments > 0 else 0.0
-    overall = min(overall, 100.0)
+    uncited_positions = {m.get("position_start") for m in unique_matches if not m["cited"]}
+
+    def _pct(positions: set) -> float:
+        pct = (len(positions) / total_fragments * 100) if total_fragments > 0 else 0.0
+        return round(min(pct, 100.0), 2)
 
     return {
-        "overall_similarity": round(overall, 2),
+        "overall_similarity": _pct(flagged_positions),
+        "uncited_similarity": _pct(uncited_positions),
         "matches": unique_matches,
         "total_fragments": total_fragments,
-        "flagged_fragments": flagged_frags,
+        "flagged_fragments": len(flagged_positions),
+        "cited_fragments": len(flagged_positions) - len(uncited_positions),
+        "uncited_fragments": len(uncited_positions),
         "by_method": {
             "exact": len(level1_matches),
             "fuzzy": len(level2_matches),

services/worker-gpu/app/tasks/plagiarism.py

@@ -146,7 +146,7 @@ def check_plagiarism(
         from app.scoring import aggregate_results
 
         result = aggregate_results(
-            level1_matches, level2_matches, semantic_matches, len(fragments)
+            level1_matches, level2_matches, semantic_matches, len(fragments), full_text=text
         )
 
         # Сохранить результат
@@ -171,6 +171,16 @@ def check_plagiarism(
             queue="queue.notify",
         )
 
+        # Пополнить базу для сравнения (как у коммерческих систем — каждая
+        # проверенная работа сама становится источником для будущих проверок).
+        # Диспатчим ПОСЛЕ сохранения результата, чтобы работа не сматчилась
+        # сама с собой в только что посчитанном отчёте.
+        celery_app.send_task(
+            "index.auto_approve_submission",
+            args=[task_id],
+            queue="queue.index",
+        )
+
         return result
 
     except Exception as exc:

services/worker-gpu/tests/test_scoring.py

@@ -1,12 +1,16 @@
 """Юнит-тесты скоринга плагиата (итоговый процент, который видит студент)."""
 
-from app.scoring import aggregate_results
+from app.scoring import aggregate_results, is_cited
 
 
 def _m(title: str, pos: int) -> dict:
     return {"source_title": title, "position_start": pos}
 
 
+def _mp(title: str, start: int, end: int) -> dict:
+    return {"source_title": title, "position_start": start, "position_end": end}
+
+
 def test_empty_input_is_zero():
     out = aggregate_results([], [], [], total_fragments=10)
     assert out["overall_similarity"] == 0.0
@@ -67,3 +71,71 @@ def test_percentage_rounded_to_two_decimals():
     # 1 из 3 → 33.333... → 33.33
     out = aggregate_results([_m("A", 0)], [], [], total_fragments=3)
     assert out["overall_similarity"] == 33.33
+
+
+# ─── is_cited ───────────────────────────────────────────────────────────────
+
+def test_is_cited_quoted_fragment():
+    text = 'Автор пишет: «дословная цитата» и развивает мысль.'
+    start = text.index("дословная")
+    end = start + len("дословная цитата")
+    assert is_cited(text, start, end) is True
+
+
+def test_is_cited_bracket_citation_with_year():
+    text = "Текст фрагмента без кавычек [Иванов, 2023] продолжение."
+    end = text.index(" [Иванов")
+    assert is_cited(text, 0, end) is True
+
+
+def test_is_cited_apa_style_citation():
+    text = "Some borrowed sentence here (Smith, 2020) continues."
+    end = text.index(" (Smith")
+    assert is_cited(text, 0, end) is True
+
+
+def test_is_cited_bare_plagiarism_is_false():
+    text = "Просто скопированный текст без всякого оформления далее."
+    assert is_cited(text, 0, 10) is False
+
+
+def test_is_cited_bracket_without_year_is_false():
+    text = "Текст фрагмента [см. приложение] продолжение."
+    end = text.index(" [см")
+    assert is_cited(text, 0, end) is False
+
+
+def test_is_cited_empty_full_text_is_false():
+    assert is_cited("", 0, 5) is False
+
+
+def test_is_cited_out_of_range_position_is_false():
+    assert is_cited("короткий текст", 0, 999) is False
+
+
+# ─── aggregate_results: cited/uncited split ──────────────────────────────────
+
+def test_cited_match_excluded_from_uncited_similarity():
+    text = 'Вот «процитированный фрагмент» и текст дальше.'
+    start = text.index("процитированный")
+    end = start + len("процитированный фрагмент")
+    out = aggregate_results([_mp("A", start, end)], [], [], total_fragments=4, full_text=text)
+    assert out["matches"][0]["cited"] is True
+    assert out["overall_similarity"] == 25.0     # цитата всё ещё учтена в общем %
+    assert out["uncited_similarity"] == 0.0      # но не в "некорректных" заимствованиях
+    assert out["cited_fragments"] == 1
+    assert out["uncited_fragments"] == 0
+
+
+def test_uncited_match_counts_in_both_percentages():
+    text = "Скопированный без указания источника текст фрагмента дальше."
+    out = aggregate_results([_mp("A", 0, 20)], [], [], total_fragments=4, full_text=text)
+    assert out["matches"][0]["cited"] is False
+    assert out["overall_similarity"] == out["uncited_similarity"] == 25.0
+    assert out["uncited_fragments"] == 1
+
+
+def test_no_full_text_means_nothing_marked_cited():
+    out = aggregate_results([_m("A", 0)], [], [], total_fragments=2)  # full_text не передан
+    assert out["matches"][0]["cited"] is False
+    assert out["overall_similarity"] == out["uncited_similarity"]