matematicsolutions/awesome-matematic-skills-pl / fundament-weryfikacyjny/skills/ocena-outputu-pl
ocena-outputu-pl
VerifiedOcenia jakość outputu prawnego AI przed wysyłką w dwóch warstwach: obiektywnej (sprawdzalne mechanicznie - czy cytaty istnieją, czy przepisy i sygnatury realne) oraz subiektywnej (LLM-as-judge wg rubryki 1-5: poprawność prawna, kompletność, jasność, zgodność z jurysdykcją, ugruntowanie/anty-halucynacja). Zwraca kartę ocen i decyzję: wyślij / popraw / pełna weryfikacja. Warstwa nad deliverable - nie pisze pisma, ocenia gotowe. Pairuje z legal-request-router-pl (routing), citation-grounding-pl (obiektywne sprawdzenie), deliverable-fidelity-pl (czy nic nie wypadlo) i adversarial-legal-review-pl (atak). Uzywaj gdy: "oceń ten output", "scoring opinii", "czy to gotowe do wysyłki", "jakość odpowiedzi prawnej", "karta ocen deliverable", "rubryka jakości", przed wysłaniem pisma/opinii/memo do klienta.
Ocena outputu PL - karta ocen przed wysyłką
Filozofia
Zanim wyślesz, oceń - i oddziel to, co sprawdzalne, od tego, co trzeba osądzić. Output AI bywa gładki i przekonujący, a mimo to błędny. Ten skill ocenia go w dwóch warstwach: obiektywnej (fakty, które da się sprawdzić mechanicznie) i subiektywnej (jakość, którą trzeba osądzić wg jawnej rubryki). Dwie warstwy, bo mylenie ich to źródło fałszywej pewności - „brzmi dobrze" nie znaczy „cytaty się zgadzają".
Skill ocenia, nie poprawia i nie wysyła. Decyzję podejmuje prawnik; karta ocen daje podstawę.
Warstwa 1 - obiektywna (sprawdzalne mechanicznie)
Deleguj do narzędzi, nie zgaduj:
- Cytaty i przepisy - czy istnieją w źródle słowo w słowo (citation-grounding-pl), czy wszystkie wyłapane (ekstraktor-cytatow-pl).
- Sygnatury / ELI - czy realne i poprawnie zapisane.
- Kompletność ustaleń - czy żadna flaga RED nie wypadła z podsumowania (deliverable-fidelity-pl).
Wynik obiektywny jest binarny per pozycja: zgadza się / nie zgadza. Choćby jeden niezgodny cytat = output nie jest gotowy, niezależnie od oceny subiektywnej.
Warstwa 2 - subiektywna (rubryka 1-5, LLM-as-judge)
Oceń wg jawnej rubryki, każdy wymiar 1-5 z jednozdaniowym uzasadnieniem:
| Wymiar | 1 | 5 |
|---|---|---|
| Poprawność prawna | teza błędna lub nieoparta | teza trafna i oparta na normie |
| Kompletność | pomija istotne kwestie | obejmuje wszystko, co istotne dla pytania |
| Jasność | mętne, niespójne | precyzyjne, czytelne dla odbiorcy |
| Zgodność z jurysdykcją | myli porządki/przepisy | trafne dla prawa polskiego/UE |
| Ugruntowanie (anty-halucynacja) | twierdzenia bez podstawy | każde twierdzenie ma oparcie |
NIEPEWNE zamiast liczby - ocena pierwszej klasy
Gdy sędzia nie ma podstaw, by wystawić liczbę, NIE wystawia jej. Zamiast wymuszonej trójki wpisuje NIEPEWNE z podkategorią i wskazaniem, jakiego dowodu brakuje:
- NIEWYSTARCZAJĄCY_DOWÓD - oceny nie da się wystawić bez materiału, którego nie ma w sesji (np. brak tekstu źródłowego wyroku II CSK NN/RR, brak umowy, do której output się odwołuje). Wpisz, CZEGO brakuje i skąd to wziąć.
- DOKUMENT_NIEJEDNOZNACZNY - materiał jest, ale nie rozstrzyga (dwuznaczna klauzula, sprzeczne fragmenty, pytanie klienta dopuszcza dwie wykładnie). Wpisz, NA CZYM polega niejednoznaczność.
Reguły twarde:
- NIEPEWNE nie wchodzi do średniej i nie wolno go cicho zamienić na 3 - wymuszona środkowa ocena to przemilczenie niepewności, dokładnie to, co ten skill ma łapać.
- NIEPEWNE w wymiarze Poprawność prawna lub Ugruntowanie -> decyzja co najwyżej Pełna weryfikacja.
- NIEPEWNE w pozostałych wymiarach -> decyzja co najwyżej Popraw.
To slogan "AI, która wie, czego nie wie" jako pole w karcie ocen, nie deklaracja.
Decyzja
- Wyślij - warstwa 1 czysta, zero NIEPEWNYCH, średnia subiektywna ≥ 4, żaden wymiar < 3.
- Popraw - warstwa 1 czysta, ale któryś wymiar subiektywny 2-3 (wskaż który) albo NIEPEWNE poza wymiarami krytycznymi.
- Pełna weryfikacja - warstwa 1 ma niezgodność, wymiar = 1 albo NIEPEWNE w Poprawności prawnej / Ugruntowaniu -> skieruj do legal-request-router-pl (grounding / adversarial / paczka audytowa).
Rewizja oceny - monotoniczność i kotwica
Karta ocen bywa wystawiana dwa razy: po pierwszym przebiegu i po poprawkach. Drugi przebieg jest miejscem, w którym ocena po cichu rośnie, bo autor zna już zarzuty i umie je opowiedzieć. Stąd dwie reguły twarde.
Monotoniczność. Rewizja może obniżyć decyzję zawsze i z dowolnego powodu. Podniesienie wymaga nowego dowodu, nie nowego uzasadnienia. Nowy dowód to ponowny przebieg warstwy 1 z innym wynikiem albo materiał, którego wcześniej nie było w sesji (dosłany wyrok, dosłana umowa). Zdanie „po namyśle to jednak wystarczające" nie jest dowodem i nie podnosi oceny.
Kotwica. Dopóki którakolwiek z poniższych pozycji jest otwarta, decyzja nie może wyjść powyżej Pełna weryfikacja, niezależnie od średniej subiektywnej i niezależnie od tego, jak dobrze brzmi uzasadnienie:
- cytat, przepis albo sygnatura niezgodne ze źródłem w warstwie 1,
- flaga RED, która wypadła z podsumowania (
deliverable-fidelity-pl), - NIEPEWNE w wymiarze Poprawność prawna albo Ugruntowanie.
Kotwicę zdejmuje wyłącznie ponowny przebieg narzędzia, które ją postawiło. Osąd sędziego jej
nie zdejmuje. To ta sama zasada, którą stosuje agentic-risk-asi-pl przy dotkliwości ustaleń:
dowód bezpośredni nie podlega negocjacji.
Każdą zablokowaną próbę podniesienia zapisz w karcie - widok „ktoś próbował przesunąć ocenę i czym to uzasadnił" bywa cenniejszy od samej oceny.
Format wyjścia
WARSTWA 1 (obiektywna): cytaty OK/X | przepisy OK/X | sygnatury OK/X | kompletność OK/X
WARSTWA 2 (rubryka 1-5):
Poprawność prawna: 4 - <uzasadnienie>
Kompletność: 3 - <...>
Jasność: 5 - <...>
Zgodność z jurysdykcją: NIEPEWNE (NIEWYSTARCZAJĄCY_DOWÓD) - output opiera się na wyroku
II CSK NN/RR, którego tekstu nie ma w sesji; brakuje: treść uzasadnienia (saos-orzecznictwo)
Ugruntowanie: 4 - <...>
Średnia: 4.0 (z 4 wymiarów liczbowych; NIEPEWNE poza średnią)
KOTWICE: brak (albo: cytat II CSK NN/RR niezgodny - decyzja ograniczona do Pełnej weryfikacji)
DECYZJA: Popraw (Kompletność 3 - brak omówienia przedawnienia; Zgodność z jurysdykcją
NIEPEWNE - uzupełnij tekst wyroku przed wysyłką)
Przy rewizji dopisz jedną linię:
REWIZJA #2: decyzja Popraw -> Popraw. Odrzucone podniesienie do Wyślij: uzasadnienie bez
nowego dowodu (warstwa 1 nie była powtórzona).
Granice
- Ocena subiektywna to osąd modelu wg rubryki, nie wyrocznia - przy wysokiej stawce ostateczna ocena należy do prawnika, a karta jest dowodem należytej staranności (do legal-ai-audit-bundle).
- Warstwa 1 nie zastępuje narzędzi, które wywołuje - jest ich agregatorem do jednej decyzji.
- Skill ocenia output, nie tworzy go i nie poprawia.
Atrybucja
Metoda dwuwarstwowa (obiektywne dopasowanie + subiektywna rubryka LLM-as-judge w skali 1-5) oparta na DISC-Law-Eval z projektu DISC-LawLLM (Fudan DISC Lab), licencja Apache-2.0. Chińskie dane egzaminacyjne i model-sędzia porzucone; wymiary rubryki, progi decyzji i kotwice PL to oryginalne opracowanie MateMatic. Interpretacja MateMatic, nie stanowisko NRA ani KRRP.
Wzorzec dodany w v1.1.0: NIEPEWNE jako ocena pierwszej klasy (podkategorie NIEWYSTARCZAJĄCY_DOWÓD / DOKUMENT_NIEJEDNOZNACZNY, wymóg wskazania brakującego dowodu, zakaz wymuszonej trójki) z AnttiHero/lavern (Apache 2.0), adaptacja od zera - podkategorie, reguły decyzji i polska semantyka to opracowanie MateMatic.
Wspólne reguły wtyczki fundament-weryfikacyjny (Fundament weryfikacyjny)
Te reguły obowiązują w każdym skillu tej wtyczki, także gdy sam skill milczy. Są skopiowane do każdego skilla, więc działają zarówno po instalacji całej wtyczki, jak i pojedynczego skilla. Pełniejszy standard: https://github.com/matematicsolutions/awesome-matematic-skills-pl/tree/main/references
Pięć warstw ochrony (przed każdym disclaimerem)
- Weryfikacja źródła - przepisy i orzecznictwo z baz, nie z pamięci modelu.
- Klasa pewności - każda teza prawna oznaczona: zweryfikowane / do sprawdzenia / nie używać.
- Kontrola przesłanek - fakty od użytkownika sprawdza się przed analizą.
- Jawny zakres ujemny - każdy skill mówi, czego NIE robi.
- Bramka człowieka - uprawniona osoba sprawdza i zatwierdza wynik.
Jeśli błąd przeszedłby bez zatrzymania przez warstwy 1-5, wina jest w skillu. Naprawiamy narzędzie, nie dopisujemy noty. Nota "to nie porada prawna" nie zatrzymuje błędu i nie przenosi odpowiedzialności.
Tagi pewności
- Zweryfikowane - źródło sprawdzone w sesji, z pełną sygnaturą:
(kodeks cywilny art. 415),(wyrok SN II CSK NN/RR, SAOS). - Do sprawdzenia - prawdopodobne, niezweryfikowane:
[sprawdź w SAOS]. - Nie używać - zmyślona sygnatura lub przepis. Pomiń, nigdy nie wymyślaj numeru.
Tag stoi przy linii, której dotyczy. Samo istnienie sygnatury nie wystarcza - treść trzeba sprawdzić.
Bramka człowieka
Nic nie zostaje wysłane, złożone, podpisane ani opublikowane, zanim sprawdzi i zatwierdzi to uprawniony człowiek. Wynik skilla to projekt, nie gotowy dokument.
Zakres pluginu
Fundament weryfikacyjny jest neutralny jurysdykcyjnie - to rdzeń metody, nie substancja prawa. Nie łączy się z żadnym źródłem zewnętrznym (brak konektorów MCP) i nie wysyła danych na zewnątrz. Substancję dostarczają osobne pluginy (orzecznictwo, dokumenty).
Related skills
| Skill | Stars | Updated | Works with | Status | Install |
|---|---|---|---|---|---|
| receiving-code-reviewobra/superpowersUse when receiving code review feedback, before implementing suggestions, especially if feedback seems unclear or technically questionable - requires technical rigor and verification, not performative agreement or blind implementation | Stars: 322k | Updated | Claude CodeCodex | Verified | Install |
| requesting-code-reviewobra/superpowersUse when completing tasks, implementing major features, or before merging to verify work meets requirements | Stars: 322k | Updated | Claude CodeCodex | Verified | Install |
| using-git-worktreesobra/superpowersUse when starting feature work that needs isolation from current workspace or before executing implementation plans - ensures an isolated workspace exists via native tools or git worktree fallback | Stars: 322k | Updated | Claude CodeCodex | Verified | Install |
| verification-before-completionobra/superpowersUse when about to claim work is complete, fixed, or passing, before committing or creating PRs - requires running verification commands and confirming output before making any success claims; evidence before assertions always | Stars: 322k | Updated | Claude CodeCodex | Verified | Install |