Github上Python有趣项目FastAgency等

github上Python有趣项目

1、WordLlama
你可以用 LLM 的标记嵌入做的事情。

WordLlama是一款快速、轻量级的 NLP 工具包,可以处理模糊重复数据删除、相似性和排名等任务,具有最小的推理时间依赖性,并且针对 CPU 硬件进行了优化。

2、pyrtls
基于 rustls 的 Python 现代 TLS。

将rustls的安全性和性能带到Python世界。

pyrtls提供了到rustls的绑定,这是一个现代的基于Rust的TLS实现,带有一个API,旨在易于使用以取代ssl模块(但不完全兼容)。
除了内存安全之外,该库在默认情况下设计得更安全。因此,它不实现较旧的协议版本,具有已知安全问题的密码套件以及TLS协议的一些有问题的功能。有关详细信息,请参阅rustls手册

3、Formatron
Formatron 使每个人都能以最小的开销控制语言模型输出的格式。

特征

  •  流行的库集成:支持 transformers、exllamav2、vllm 和 RWKV。
  •  插件,而不是包装器:Formatron 不会将第三方库包装在庞大、繁琐的类中,而是为不同的库提供方便、干净的插件。
  •  库,而不是框架:Formatron 不是将所有内容统一到一个庞大的框架中,而是可以嵌入到任何地方的灵活库。
  • 流畅的格式:像编写自然语言一样轻松地描述您的格式。
  •  Regex 和 CFG 支持:轻松地在格式中交错正则表达式和上下文无关语法 (CFG)。
  •  高效的 JSON 生成:基于 Pydantic 模型或 json 模式的功能齐全的 JSON 生成。
  •  批量推理:自由指定一批中每个序列的不同格式!
  •  最小的运行时开销:通过 Leo 优化、专门的压缩算法和跨代 CFG 缓存,用 Rust 实现的 Earley 算法是渐近且实际上最快的算法。
  •  可定制:一切都是可配置的,包括模式生成、语法生成和生成后处理(例如函数调用)。


4、fish-speech
全新的 TTS 解决方案。Fish Speech 1.4 开源: 稳定流畅多语言支持

在线体验: fish.audio
介绍: https://www.bilibili.com/video/BV1pu46eVEk7

5、LLaMA-Omni
LLaMA-Omni 是一种低延迟、高质量的端到端语音交互模型,基于 Llama-3.1-8B-Instruct,旨在实现 GPT-4o 级别的语音功能。

亮点

  • 基于 Llama-3.1-8B-Instruct 构建,确保高质量的响应。
  • 低延迟语音交互,延迟低至 226ms。
  • 同时生成文本和语音响应。
  • 仅使用 4 个 GPU,不到 3 天即可完成训练。


6、spann3r
Spann3R,一种从有序或无序图像集合中进行密集 3D 重建的新方法。

Spann3R 以 DUSt3R 范式为基础,使用基于变换器的架构直接从图像中回归点图,而无需事先了解场景或相机参数。与 DUSt3R 不同,DUSt3R 预测每个图像对的点图,每个点图都以局部坐标系表示,而 Spann3R 可以预测以全局坐标系表示的每幅图像的点图,从而无需基于优化的全局对齐。

Spann3R 的核心思想是管理外部空间记忆,该记忆学习跟踪所有先前相关的 3D 信息。然后,Spann3R 查询该空间记忆,以在全局坐标系中预测下一帧的 3D 结构。利用 DUSt3R 的预训练权重,以及对数据集子集的进一步微调,Spann3R 在各种未见过的数据集上表现出了极具竞争力的性能和泛化能力,并且能够实时处理有序的图像集合。


7、ft_utils
利用免费线程 Python 支持高效、可扩展 Python 开发的实用程序库。

8、MiniLang
一种类型安全的 C 语言继承程序,可直接编译到各种平台。

该语言的设计旨在与c 功能紧密匹配,同时还具有现代语言中一些零开销的生活质量改进,同时保持了学习该语言的易用性(通过QUICKSTART大约 10 分钟或更短时间即可完成)。此外,类型系统比 c 更严格,这可以防止 c 语言的常见错误(缺陷)。内存安全也是一个主要问题。至于 c 兼容性,该语言与 c 双向兼容(c 可以在 ML 中使用,ML 可以在 c 中使用)。


9、FastAgency
将多智能体工作流引入生产的最快方法。

FastAgency 是一款功能强大的工具,可利用 AutoGen 框架快速构建应用程序。FastAgency 的设计灵活且适应性强,我们计划在不久的将来扩展对其他代理框架(如CrewAI)的支持。这将为定义工作流程和与各种 AI 工具集成提供更多选项。

使用 FastAgency,您可以使用各种接口(例如控制台或 Mesop)创建交互式应用程序。