NeuronScope

NeuronScope

跟踪LLM输出到导致它们的神经元和头部

NeuronScope是CLI和MCP服务器的机械解释工具。它基于TransformerLens。将其指向一个开放权重模型,立即看到哪些注意力头和神经元驱动预测。支持数百个检查点,避免严格的白名单。其本地MCP服务器和版本化JSON让人工智能代理(Claude、Cursor)直接跟踪、削弱和绘制电路,无需任何Python编码要求

Open SourceDeveloper ToolsArtificial IntelligenceGitHub
👍 2 💬 1 评论 🕐 2026年8月17日
广告位 (响应式横幅)

💬 用户评论

该工具在 Product Hunt 上有 1 条评论。

在 Product Hunt 上查看评论 →

📋 基本信息

上线日期
2026年8月17日
点赞数
2
评论数
1
数据来源
网络公开数据
广告位 (响应式横幅)

🔗 相关推荐