Skip to content

是否用TGI封装过的模型都可以进行测试? #61

@YinSonglin1997

Description

@YinSonglin1997

您好,我有几个问题想请教:
1、是否用TGI封装过的模型都可以进行评测?
2、如果用FastChat进行部署的模型是否可以评测,如果可以的话是否需要针对不同的模型修改api调用部分的代码?

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Type

    No type
    No fields configured for issues without a type.

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions