tabby - 自托管AI编码助手
Created at: 2023-03-16 17:18:01
Language: TypeScript
License: Apache-2.0
Tabby是一个自托管的AI编码助手，提供GitHub Copilot的开源和本地替代方案。它拥有几个关键功能：
- 独立，无需 DBMS 或云服务。
- OpenAPI接口，易于与现有基础设施（例如Cloud IDE）集成。
- 支持消费级 GPU。
👀 最新消息
- 2023/09/18 苹果的 M1/M2 金属推理支持已登陆 v0.1.1！
- 2023/08/31 tabby 的第一个稳定版本 v0.0.1 🥳 .
- 2023/08/28 对 CodeLlama 7B 的实验性支持。
- 08/24/2023 虎斑现已登陆捷脑市场！
👋 开始
启动 Tabby 服务器的最简单方法是使用以下 Docker 命令：
docker run -it \
--gpus all -p 8080:8080 -v $HOME/.tabby:/data \
tabbyml/tabby \
serve --model TabbyML/SantaCoder-1B --device cuda有关其他选项（例如推理类型、并行性），请参阅 https://tabbyml.github.io/tabby 中的文档。
🤝 贡献
获取代码
git clone --recurse-submodules https://github.com/TabbyML/tabby
cd tabby建
-
按照本教程设置 Rust 环境。
-
安装所需的依赖项：
# For MacOS
brew install protobuf
# For Ubuntu / Debian
apt-get install protobuf-compiler libopenblas-dev- 现在，你可以通过运行命令来构建 Tabby。
cargo build
开始黑客攻击！
...并且不要忘记提交拉取请求
🌟 明星历史
热门github
1
2
4
The Python Risk Identification Tool for generative AI (PyRIT) is an open access automation framework to empower security professionals and machine learning engineers to proactively find risks in their generative AI systems.
(翻译：用于生成式 AI 的 Python 风险识别工具 (PyRIT) 是一个开放式访问自动化框架，使安全专业人员和机器学习工程师能够主动发现其生成式 AI 系统中的风险。)
5
7
8
9
Mamba is a new state space model architecture showing promising performance on information-dense data such as language modeling, where previous subquadratic models fall short of Transformers. It is based on the line of progress on structured state space models, with an efficient hardware-aware design and implementation in the spirit of FlashAttention.
(翻译：Mamba 是一种新的状态空间模型架构，在信息密集型数据（例如语言建模）上显示出良好的性能，而之前的二次模型在 Transformers 方面存在不足。它基于结构化状态空间模型的进展，并本着FlashAttention的精神进行高效的硬件感知设计和实现。)
10
11
13