class BaseAnswer(ABC): """上层业务包装器.用于结果生成统一api调用""" @property @abstractmethod def _check_point(self) -> LoaderCheckPoint: """Return _check_point of llm.""" @property @abstractmethod def _history_len(self) -> int: """Return _history_len of llm.""" @abstractmethod def set_history_len(self, history_len: int) -> None: """Return _history_len of llm.""" def generatorAnswer(self, prompt: str, history: List[List[str]] = [], streaming: bool = False): pass
时间: 2024-04-27 15:24:00 浏览: 186
这是一个抽象基类BaseAnswer,它定义了一些通用的接口用于生成对话回复。该类包含三个抽象方法和一个非抽象的方法。
其中,_check_point是一个抽象属性,用于返回LoaderCheckPoint类型的对象,该对象用于加载预训练模型的参数。
_history_len是另一个抽象属性,用于返回历史记录的长度。
set_history_len是一个抽象方法,用于设置历史记录的长度。
generatorAnswer是一个非抽象方法,用于生成AI对话回复,接受一个字符串类型的输入prompt作为对话的开始,一个可选的历史记录参数history用于提供对话历史记录,以及一个streaming参数用于控制回复的长度。该方法在执行时会返回一个字符串类型的回复。
这个抽象基类的目的是为了方便上层业务包装器实现对话回复生成的统一API调用。
阅读全文