Notes Hub 筆記大全

AI 寫的程式
要過四道關卡

12 個開源資安工具,依使用時機排好:安裝前、開發中、上線前、上線後。每一關該用哪個工具,往下看就知道。

這份清單從哪裡來

這是 Basia Kubicka 在 2026 年 11 月一則 LinkedIn 貼文裡的分組。她在貼文中註明,原始清單由 Stanislav Beliaev 整理,她做的是依使用時機重新排成四個階段。

貼文的出發點很直接:AI 幾分鐘就能把程式寫完,接著就上線,中間沒有人檢查有沒有漏洞。寫得快不是問題,沒人檢查才是。

所以這份清單不照工具類型分,而是照開發流程分。你走到哪一步,就看那一關的工具。

清單裡有三個工具來自做 AI 的公司:Anthropic、OpenAI、NVIDIA 都把檢查 AI 產生程式碼的資安工具開源了,repo 就放在各自的 GitHub 組織下。

四道關卡,12 個工具

由左到右是一段程式從開始到上線的路。點工具名稱看說明。

  1. 第 1 關:安裝之前

    這個東西能裝嗎?

  2. 第 2 關:AI 正在寫

    寫出來的東西有沒有洞?

  3. 第 3 關:上線之前

    這次變更可以放行嗎?

  4. 第 4 關:上線之後

    被人攻擊時擋得住嗎?

工具名稱下方的小字是 repo 所在的 GitHub 帳號或組織。

安裝任何東西之前

別人寫的 agent skill、下載回來的檔案,先掃過再放進自己的環境。

SkillSpector

AI agent skill 的資安掃描器。加入一個 skill 之前,用它檢查裡面有沒有惡意模式、prompt injection、資料外洩與供應鏈風險。支援 Claude Code、Codex 與 MCP 的 skill。

repo
NVIDIA/SkillSpector
授權
Apache-2.0
建立
2026-03-21

ClamAV

貼文把它放在這一關,用途是對下載回來的檔案做傳統的病毒掃描。repo 在 Cisco Talos 的 GitHub 組織下,是這份清單裡最早建立的一個。

repo
Cisco-Talos/clamav
授權
GPL-2.0
建立
2012-07-20

AI 正在寫的時候

程式還在產生的階段,就把有風險的寫法和外洩的憑證找出來。

Security Audit Skill

給 coding agent 用的 skill,讓 agent 分多個階段做資安稽核。發現的問題會再獨立驗證一次,結果輸出成機器可讀的格式。

repo
cloudflare/security-audit-skill
授權
MIT
建立
2026-06-18

TruffleHog

尋找外洩的憑證,驗證它們,並加以分析。貼文建議用它找出留在程式碼歷史裡的密碼與 API key。

repo
trufflesecurity/trufflehog
授權
AGPL-3.0
建立
2016-12-31

Semgrep

輕量的靜態分析工具,支援多種程式語言。規則的 pattern 長得就像原始碼,用來找出同一類 bug 的各種變體。

repo
semgrep/semgrep
授權
LGPL-2.1
建立
2019-12-13

上線之前

程式寫完、準備部署。這一關檢查這次的變更,以及要部署過去的環境。

Claude Code Security Review

一個 GitHub Action,用 Claude 分析程式碼變更,找資安問題。它跑在 GitHub 的流程裡,要先把這個 Action 接進自己的 repo。

repo
anthropics/claude-code-security-review
授權
MIT
建立
2025-08-04

Codex Security

Codex Security 的 CLI 與 TypeScript SDK,用來發現漏洞、驗證漏洞是否成立,再修復。

repo
openai/codex-security
授權
Apache-2.0
建立
2026-07-13

Trivy

掃描 container、Kubernetes、程式碼 repo 與雲端環境,涵蓋漏洞、錯誤設定、secret 與 SBOM。

repo
aquasecurity/trivy
授權
Apache-2.0
建立
2019-04-11

上線之後

app 已經在線上。這一關從外面測它,看實際被攻擊時會怎樣。

Strix

開源的 AI 滲透測試工具,用來找出並修復 app 的漏洞。

repo
usestrix/strix
授權
Apache-2.0
建立
2025-08-05

Nuclei

快速、可自訂的漏洞掃描器。每一項檢查是一份用 YAML 寫的 template,由資安社群維護。

repo
projectdiscovery/nuclei
授權
MIT
建立
2020-04-03

PyRIT

Microsoft 的開源 AI red teaming 工具組,用來測試生成式 AI 系統。貼文的用法是拿它測自己的 chatbot,看它會不會被騙去說出或做出不該做的事。

repo
microsoft/PyRIT
授權
MIT
建立
2023-12-12

BLA(Blind LLM Agents)

防禦型的 MCP server 與 CLI,保護已發布的程式不被 AI 逆向工程 agent 分析,對象包含 JS/TS、Electron ASAR、WASM、Python 與原生 binary。

它和另外 11 個工具做的事不一樣。其他工具找的是你自己程式裡的漏洞,BLA 保護的是你發布出去的程式碼。repo 放在個人帳號下,也是清單裡最新的一個。

repo
qybaihe/bla
授權
MIT
建立
2026-10-25

GitHub 星數

資料日期 2026 年 11 月 17 日,取自 GitHub API。星數是按過星的帳號數,會隨時間變動,它反映的是關注度,不是工具好不好用。圓牌上的數字是該工具所在的關卡。

  1. 4Strix75,940
  2. 2Security Audit Skill73,705
  3. 3Trivy39,410
  4. 4Nuclei32,981
  5. 2TruffleHog29,410
  6. 1SkillSpector26,395
  7. 2Semgrep17,729
  8. 3Codex Security13,710
  9. 1ClamAV7,609
  10. 3Claude Code Security Review6,931
  11. 4BLA5,895
  12. 4PyRIT4,880

橫條長度以 80,000 顆星為滿格。

每個 repo 存在多久了

橫條從 repo 在 GitHub 上建立的那天畫到 2026 年 11 月 17 日。12 個裡有 6 個是 2025 年 8 月之後才建立的,最早的 ClamAV 則在 2012 年。

  1. ClamAV2012-07
  2. TruffleHog2016-12
  3. Trivy2019-04
  4. Semgrep2019-12
  5. Nuclei2020-04
  6. PyRIT2023-12
  7. Claude Code Security Review2025-08
  8. Strix2025-08
  9. SkillSpector2026-03
  10. Security Audit Skill2026-06
  11. Codex Security2026-07
  12. BLA2026-10

授權分兩種

12 個都是開源,但授權條款不同。9 個用寬鬆授權,3 個用 copyleft 授權。

寬鬆授權 9

MIT 與 Apache-2.0。對使用、修改、再發布的限制很少。

MIT
Security Audit Skill、Claude Code Security Review、Nuclei、PyRIT、BLA
Apache-2.0
SkillSpector、Codex Security、Trivy、Strix

Copyleft 授權 3

GPL 系列。把它改過或嵌進自己的產品、服務再發布時,條款會要求你一併開放原始碼,範圍依授權而異。

AGPL-3.0
TruffleHog
GPL-2.0
ClamAV
LGPL-2.1
Semgrep

如果只是想知道能不能把某個工具放進自己要發布的產品,先讀那個 repo 的授權條款全文。

Reference

各 repo 的星數、授權與建立日期於 2026 年 11 月 17 日用 GitHub API 查得,當天 12 個 repo 都存在且未封存。

  1. Basia Kubicka 的 LinkedIn 貼文:linkedin.com/feed/update/urn:li:activity:7528097864640667648
  2. SkillSpector:github.com/NVIDIA/SkillSpector
  3. ClamAV:github.com/Cisco-Talos/clamav
  4. Security Audit Skill:github.com/cloudflare/security-audit-skill
  5. TruffleHog:github.com/trufflesecurity/trufflehog
  6. Semgrep:github.com/semgrep/semgrep
  7. Claude Code Security Review:github.com/anthropics/claude-code-security-review
  8. Codex Security:github.com/openai/codex-security
  9. Trivy:github.com/aquasecurity/trivy
  10. Strix:github.com/usestrix/strix
  11. Nuclei:github.com/projectdiscovery/nuclei
  12. PyRIT:github.com/microsoft/PyRIT
  13. BLA(Blind LLM Agents):github.com/qybaihe/bla