Прадстаўляем незвычайны тул — LiteLLM, які выклікае ўсе API LLVM з выкарыстаннем фармату Open АІ

Гэта бібліятэка, якая забяспечвае бясшоўную інтэграцыю з рознымі моўнымі мадэлямі. Яна дазваляе выкарыстоўваць уніфікаваны фармат як для ўводу, так і для вываду па-за залежнасцю ад ужывальнай LLM.

Пастаўшчыкі, якія падтрымліваюцца, уключаюць OpenAI, Azure, AWS, Google, Cohere, Нugging face, Vertuxai, Together і многія іншыя.

Крыніца