人工智能安全

Anthropic 电路追踪工具

Anthropic 已开源一个库和一个交互式前端，用于生成和探索归因图，这些图揭示了大型语言模型生成输出所采取的内部步骤。