phoenix_trace_server
- 默认phoenix常驻,使用ctrl+c退出结束程序
from llm_eval.trace import langchain_tracer, LocalSpanExporter
# 创建跟踪信息储存容器
local_span = LocalSpanExporter()
# 启动跟踪器
langchain_tracer(
trace_phoenix = True,
trace_console = True,
local_span=local_span
)
langchain_tracer()函数有四个参数
- race_phoenix: Optional[bool] = True
- 是否向phoenix可视化界面传参,默认为True
- trace_console: Optional[bool] = True
- 控制台输出跟踪信息,默认为False
- local_span: Optional[LocalSpanExporter] = None
- 跟踪信息储存容器,非必填项,默认为空,则不进行变量储存
# 配置并运行你的langchain框架
- local_span.spans 的类型为list,储存的数据类型为ReadableSpan,答应出json格式的span信息
# 取出跟踪道德span信息列表,输出的结果为一个迭代器
spans = local_span.span_json()
# 使用迭代器流式输出json格式的span信息
for span in spans:
print(span)
- llms_message()函数返回的为一个,可流式查看LLM调用星系,且返回值为dict字典类型
llm_message = local_span.llms_message()
for message in llm_message:
print(message)
- agent_message()函数返回的为一个,可流式查看Agent运行信息,且返回值为dict字典类型
agent_message = local_span.agent_message()
for message in agent_message:
print(message)