文心大模型文档

参数描述

更新时间：2023-01-09

在调用接口时，您需要配置一下参数。您可以按照默认的参数配置进行调用，也可以参考以下参数描述修改某些参数的配置来满足您的特定需求。

参数	释义	类型	默认值	取值范围	是否必传	说明
async	异步标识	int	1	1	是	异步标识，现阶段必传且传1
text	用户输入文本	string	空	[1, 1000]	是	模型的输入文本，为prompt形式的输入。
min_dec_len	最小生成长度	int	1	[1,seq_len]	是	输出结果的最小长度，避免因模型生成END导致生成长度过短的情况，与seq_len结合使用来设置生成文本的长度范围。
seq_len	最大生成长度	int	128	[1, 1000]	是	输出结果的最大长度，因模型生成END或者遇到用户指定的stop_token，实际返回结果可能会小于这个长度，与min_dec_len结合使用来控制生成文本的长度范围。
topp	多样性	float	1.0	[0.0,1.0]，间隔0.1	是	影响输出文本的多样性，取值越大，生成文本的多样性越强。
penalty_score	重复惩罚	float	1.0	[1,2]	否	通过对已生成的token增加惩罚，减少重复生成的现象。值越大表示惩罚越大。设置过大会导致长文本生成效果变差。
stop_token	提前结束符	string	空		否	预测结果解析时使用的结束字符串，碰到对应字符串则直接截断并返回。可以通过设置该值，可以过滤掉few-shot等场景下模型重复的cases。
task_prompt	任务类型	string	空	PARAGRAPH, SENT, ENTITY, Summarization, MT, Text2Annotation, Misc, Correction, QA_MRC, Dialogue, QA_Closed_book, QA_Multi_Choice, QuestionGeneration, Paraphrasing, NLI, SemanticMatching, Text2SQL, TextClassification, SentimentClassification, zuowen, adtext, couplet，novel, cloze	否	指定预置的任务模板，效果更好。 PARAGRAPH：引导模型生成一段文章； SENT：引导模型生成一句话； ENTITY：引导模型生成词组； Summarization：摘要； MT：翻译； Text2Annotation：抽取； Correction：纠错； QA_MRC：阅读理解； Dialogue：对话； QA_Closed_book: 闭卷问答； QA_Multi_Choice：多选问答； QuestionGeneration：问题生成； Paraphrasing：复述； NLI：文本蕴含识别； SemanticMatching：匹配； Text2SQL：文本描述转SQL；TextClassification：文本分类； SentimentClassification：情感分析； zuowen：写作文； adtext：写文案； couplet：对对联； novel：写小说； cloze：文本补全； Misc：其它任务。
typeId	模型类型	int	1	1	是	通用： 1 ERNIE 3.0 Zeus 通用 2 ERNIE 3.0 Zeus instruct模型同义改写 1 ERNIE 3.0 Zeus 同义改写精调模型写作文： 1 ERNIE 3.0 Zeus 记叙文增强包 2 ERNIE 3.0 Zeus 议论文增强包 3 ERNIE 3.0 Zeus 小学作文增强包写文案： 1 ERNIE 3.0 百亿社交短文案精调模型 2 ERNIE 3.0 Zeus 商品营销文案增强包写摘要： 1 ERNIE 3.0 Zeus 写摘要 2 ERNIE 3.0 Zeus 写标题 3 ERNIE 3.0 百亿写标题对对联： 1 ERNIE 3.0 Zeus 对对联 2 ERNIE 3.0 百亿对对联自由问答： 1 ERNIE 3.0 Zeus 自由问答增强包 2 ERNIE 3.0 百亿自由问答 3 ERNIE 3.0 Zeus instruct模型写小说 1 ERNIE 3.0百亿写小说精调模型补全文本 1 ERNIE 3.0 Zeus 词补全增强包 2 ERNIE 3.0 Zeus 句补全增强包 3 ERNIE 3.0 Zeus 段落补全增强包
penalty_text	惩罚文本	string	空		否	模型会惩罚该字符串中的token。通过设置该值，可以减少某些冗余与异常字符的生成。
choice_text	候选文本	string	空		否	模型只能生成该字符串中的token的组合。通过设置该值，可以对某些抽取式任务进行定向调优。
is_unidirectional	单双向控制开关	int	0	0或1	否	0表示模型为双向生成，1表示模型为单向生成。建议续写与few-shot等通用场景建议采用单向生成方式，而完型填空等任务相关场景建议采用双向生成方式。
min_dec_penalty_text	最小惩罚样本	string	空		否	与最小生成长度搭配使用，可以在min_dec_len步前不让模型生成该字符串中的tokens。
logits_bias	屏蔽惩罚	float	-10000	[1, 1000]	否	配合penalty_text使用，对给定的penalty_text中的token增加一个logits_bias，可以通过设置该值屏蔽某些token生成的概率。
mask_type	生成粒度	string	word	可选参数为word, sentence, paragraph	否	设置该值可以控制模型生成粒度。

上一篇

下一篇

ERNIE 3.0技能使用示例