KnowledgeVIS下载 - KnowledgeVIS源代码下载

KnowledgeVIS

Ai源码

v0.1.0

下载

KnowledgeVis

在视觉上比较填充的LLM提示以发现学习的偏见和关联！

????

KnowledgeVis系统

什么是知识案件？

Bert和GPT-3等大型语言模型（LLM）在自然语言任务上的表现有了显着改善，使他们能够帮助人们回答问题，生成论文，总结长篇文章等等。然而，了解这些模型已经学到了什么以及为什么它们的工作仍然是一个公开的挑战。对于自然语言处理（NLP）的研究人员和工程师，他们越来越多地培训和部署LLM作为``黑匣子''来生成文本，探索训练期间的学到的行为如何在下游任务中表现出来可以帮助他们改善模型开发；例如，通过表面有害刻板印象。

KnowledgeVis是一种人类的视觉分析系统，用于比较填充填充的提示，以发现从学习的文本表示中发现关联。 KnowledgeVis可帮助开发人员创建有效的提示集，探测单词之间的多种类型的关系，测试已学到的不同关联，并在任何基于BERT的语言模型的几组预测中找到洞察力。

首先，我们设计了一个直观的视觉界面，该界面构建了查询过程，以鼓励创造力和快速迅速生成和测试。
然后，为了降低及时预测空间的复杂性，我们开发了一种新型的聚类技术，该技术通过语义相似性进行了分组。
最后，我们提供了几种表达和互动的文本可视化，以促进多个数据抽象的探索和发现：热图；受并行标签云启发的设置视图；并用轴的灰尘定位散点。

总的来说，这些可视化有助于用户确定单个预测的可能性和独特性，比较提示之间的预测集，并总结所有提示中预测之间的模式和关系。

该代码伴随着研究论文：

特征

？快速，创意和可扩展的“填充”及时生成接口：

自动在语义上相似的响应以揭示高级模式：

？视觉探索并发现以多个数据抽象级别的见解：

演示视频

在此处观看完整教程的演示视频：https：//youtu.be/hbx4rsumr_i

现场演示

有关现场演示，请访问：https：//adamcoscia.com/papers/knowledgevis/demo/

入门

？您只需几个简单的步骤即可在自己的LLM上测试我们的可视化！

安装Python v3.9.x （最新版本）
克隆此存储库到您的计算机（说明）

git clone [email protected]:AdamCoscia/KnowledgeVIS.git

# use --depth if you don't want to download the whole commit history
git clone --depth 1 [email protected]:AdamCoscia/KnowledgeVIS.git

界面

由D3.JS和语义UI提供动力的前端Vanilla HTML/CSS/JavaScript Web应用程序！
其他详细信息可以在接口/readme.md中找到

导航到接口文件夹：

 cd interface

如果您正在运行Windows：

py -3.9 -m http.server

如果您正在运行MacOS / Linux：

python3.9 -m http.server

导航到Localhost：8000。您应该在浏览器中看到知识案件运行:)

服务器

一个后端Python 3.9烧瓶网络应用程序运行从拥抱脸下载的本地LLM模型！
其他详细信息可以在服务器/readme.md中找到

导航到服务器文件夹：

 cd server

创建虚拟环境：

如果您正在运行Windows：

 # Start a virtual environment
py -3.9 -m venv venv

# Activate the virtual environment
. v env S cripts a ctivate

如果您正在运行MacOS / Linux：

 # Start a virtual environment
python3.9 -m venv venv

# Activate the virtual environment
source venv/bin/activate

安装依赖项：

python -m pip install -r requirements.txt

安装Pytorch v2.0.x （说明）

Pytorch分别安装，因为某些系统可能支持CUDA，这需要不同的安装过程，并且可以显着加快工具的速度。

首先，检查您的GPU是否可以支持CUDA（链接）
然后，按照上面链接的说明确定您的系统是否可以支持CUDA进行计算。

然后运行服务器：

python main.py

学分

在亚当·科西亚（Adam Coscia）的带领下，知识维斯（Inswarditionvis）是佐治亚理工学院（Georgia Tech）以人为中心的计算和互动设计的可视化专家之间的合作的结果。 KnowledgeVis由Adam Coscia和Alex Endert创建。

引用

要了解有关知识的更多信息，请阅读我们的研究论文（以IEEE TVCG出现）。

 @article { Coscia:2023:KnowledgeVIS ,
  author = { Coscia, Adam and Endert, Alex } ,
  journal = { IEEE Transactions on Visualization and Computer Graphics } ,
  title = { KnowledgeVIS: Interpreting Language Models by Comparing Fill-in-the-Blank Prompts } ,
  year = { 2023 } ,
  volume = { } ,
  number = { } ,
  pages = { 1-13 } ,
  doi = { 10.1109/TVCG.2023.3346713 }
}