6.7 KiB
モード: pipeline -- URL Inbox (Second Brain)
data/pipeline.md に保存された job URLs を処理する。ユーザーはいつでも URL を追加し、後から /career-ops pipeline を実行してまとめて処理する。
Liveness sweep
URLs を処理する前に必ず実行する。 Scanner が headless/batch mode で追加した entries は、Playwright が使えなかったため **Verification:** unconfirmed (batch mode) を持つ。つまり liveness は未確認。Sweep なしでは dead postings が 1 tab ずつ evaluation に到達し、phantom roles に時間と tokens を使ってしまう(8 件の stale URLs がある inbox なら 8 回分の無駄な evaluations になる)。
Per-URL loop の前に、zero-token liveness checker で pending URLs をまとめて sweep する:
- "Pending" section のすべての
- [ ]URL を temp file に集める(1 URL per line)。 node check-liveness.mjs --file <tmpfile>を実行する(large batches では WAF rate limits を避けるため--throttleを追加。pure Playwright、zero Claude tokens)。Checker は URL ごとの verdict を出し、expired/uncertain がある場合は non-zero で終了する。- Checker が expired/closed と報告した URL は処理せず pipeline entry を resolve する:
- [x] ~~URL | Company | Role~~ -- posting expired (liveness sweep)として "Processed" に移し、すでに tracker row がある場合はDiscardedにする。JD extraction、evaluation、report/PDF generation はしない。 uncertainresults は残し、normal per-URL extraction 中に確認する(一時的な timeout で live posting を落とさないため)。- 生き残った live URLs だけが下の per-URL processing loop に進む。
これは auto-pipeline の per-URL liveness gate(Step 0.5)や apply preflight を置き換えるものではなく補完するもの。Dead postings を upfront, in bulk で落とし、ユーザーが expired role の tab を開いたり token を使ったりしないようにする。
Workflow
-
Read
data/pipeline.md→ "Pending" section の- [ ]items を探す。最初に上の Liveness sweep を実行し、expired entries を落としてから続行する。 -
For each surviving pending URL: a.
node reserve-report-num.mjsを実行して次のREPORT_NUMを atomically claim する(report が書き込まれたらnode reserve-report-num.mjs --release <num>で sentinel を release) b. Extract JD using Playwright(browser_navigate + browser_snapshot)→ WebFetch → WebSearch c. URL に access できない場合 → note 付きで- [!]と mark し、次へ進む d. Execute full auto-pipeline: Evaluation A-F → Report .md → PDF(score >=auto_pdf_score_thresholdの場合)→ Tracker e. Move from "Pending" to "Processed":- [x] #NNN | URL | Company | Role | Score/5 | PDF ✅/❌About the PDF gate (configurable):
config/profile.yml→auto_pdf_score_thresholdを読む。Key がなければ default は3.0(この mode の original gate)。Evaluation score が threshold 未満なら PDF generation を skip する。Report は通常通り書き、header に**PDF:** not generated -- run /career-ops pdf {company-slug} to create on demandと表示し、tracker では PDF ❌。Score が threshold 以上なら通常通り PDF を生成する。Tuning it: Tailored PDF generation は entry あたり ~30-60s かかる(Playwright launch + HTML render)うえ、使われないことも多い。多くの roles は 2.x/3.x で application stage まで進まない。
auto_pdf_score_thresholdを上げる(例:4.0)と marginal offers では report のみを書き、PDF は/career-ops pdf {slug}で on demand に作れる。0にするとすべての offers で PDF を生成する。Path A/career-ops pipelineと Path Bbatch/batch-runner.shは同じ key を読むため、どちらで処理しても behavior は同じ。 -
If there are 3+ pending URLs, speed を上げるため agents を並列起動する(Agent tool with
run_in_background)。 -
At the end, summary table を表示:
| # | Company | Role | Score | PDF | Recommended action |
Format of pipeline.md
## Pending
- [ ] https://jobs.example.com/posting/123
- [ ] https://boards.greenhouse.io/company/jobs/456 | Company Inc | Senior PM
- [ ] https://jobs.ashbyhq.com/acme/789 | Acme Corp | Solutions Architect | Remote (US)
- [!] https://private.url/job -- Error: login required
## Processed
- [x] #143 | https://jobs.example.com/posting/789 | Acme Corp | AI PM | 4.2/5 | PDF ✅
- [x] #144 | https://boards.greenhouse.io/xyz/jobs/012 | BigCo | SA | 2.1/5 | PDF ❌
Pending lines are - [ ] {url} | {company} | {title} | {location}. Scanner は ATS が location を expose する場合、末尾の | {location} column を埋める。古い 3-column lines(location なし)も valid で、empty location として読む。
注:既存ファイルが日本語 section headings(
未処理/処理済み)を使っている場合は、その style を維持してよい。読み取りは柔軟に行い、書き込み時は既存 file の style を保つ。
Intelligent JD detection from URL
- Playwright (preferred):
browser_navigate+browser_snapshot. すべての SPA で動く。 - WebFetch (fallback): Static pages または Playwright が unavailable な場合。
- WebSearch (last resort): JD を index している secondary portals で検索。
Special cases:
- LinkedIn: login が必要な場合あり →
[!]と mark し、ユーザーに text paste を依頼 - PDF: URL が PDF を指す場合、Read tool で直接読む
local:prefix: Local file を読む。Example:local:jds/linkedin-pm-ai.md→jds/linkedin-pm-ai.md- Wantedly / Green / Findy: 日本の主要 platforms。まず Playwright で確認
- doda / リクナビNEXT / マイナビ転職: 日本の大手 job portals。Usually WebFetch または Playwright で確認
- ビズリーチ: ハイクラス求人。Login が必要な場合あり
- LinkedIn JP: Global LinkedIn と同じ constraints。Login が必要な場合あり
Automatic numbering
node reserve-report-num.mjsを実行して next sequential number を claim する(stdout returns{###})。- その number を使って report file を書く。
- Report が書けたら
node reserve-report-num.mjs --release {###}を実行して sentinel を release する。
Source synchronization
URL を処理する前に sync を verify:
node cv-sync-check.mjs
Desynchronization があれば、続行前にユーザーに warn する。