garak

LLM漏洞扫描与红队评估套件，通过多种探针检测模型的幻觉、泄露、注入及越狱等安全弱点。