llm_open()

阅读(5) 标签: 连接, llm服务器,

描述:

连接LLM模型。

语法:

llm_open([apiHost], [apiKey],[modelName];[stream])

备注:

LLMCli外部库函数,外部库的使用请参考《外部库使用指南》。

进行LLM大模型连接。参数优先使用脚本中的设置,缺省从配置文件config.json读取。

参数:

apiHost

API地址。

apiKey

API密钥。

modelName

模型名称。

stream

设置是否为流模式。true表示流模式,即执行脚本时,控制台信息实时输出;缺省表示false非流模式,即脚本执行结束,控制台信息一次性全部输出。

返回值:

LLM连接对象

示例:

 

A

 

1

=llm_open("http://localhost:11434/api/chat","sk_adfsdfdf", "deepseek-r1:1.5b")

非流模式连接deepseek模型。

2

=llm_open(,,"deepseek-r1:1.5b";true)

流模式连接deepseek模型,其他参数使用config.json中的配置。

3

=llm_open()

非流模式连接,所有参数均使用config.json中的配置