inference

AISBench推理负载仓库,包含了用于接入AISBench Stubs通用包的,来自各企业贡献者与个人贡献者贡献的推理负载代码。

最近更新: 23天前

logging

AISBench打点组件logging提供标准化接口,用于在模型负载中进行打点,记录模型运行数据。本仓库只提供logging发行版,不提供源码

最近更新: 23天前

loadgen

负载生成器LoadGenerator模块(之后简称LoadGen)是Ais-Bench推理任务的必备的控制套件,负责控制厂商负载代码的执行,并统计负载代码执行的各过程的性能数据。会根据不同的设置与参数,对厂商负载执行不同的分发策略,以满足不同场景下的测试要求。

最近更新: 5个月前

training

AISBench训练负载仓库,包含了用于接入AISBench Stubs通用包的,来自各企业贡献者与个人贡献者贡献的训练负载代码。

最近更新: 5个月前

cluster_tools

AISBench 分布式运行组件,为集群训练提供便利的同步文件传输和命令执行方式

最近更新: 8个月前

evaluate

AISBench大模型精度评测工具evaluate(后简称evaluate工具)提供接口,用于全流程大模型评测以及生成式大模型结果多维分析。

最近更新: 9个月前
成员