Вбудований ретривер для RAG-пайплайнів LangChain з повною підтримкою трейсингу.
SeiznRetriever — це повна заміна будь-якого ретривера LangChain. Він забезпечує векторний пошук із вбудованим трейсингом, кешуванням та переранжуванням.
Встановіть Seizn SDK разом із LangChain.
# TypeScript / JavaScript
npm install seizn @langchain/core
# Python
pip install seizn langchainСтворіть RAG-ланцюжок із SeiznRetriever лише в кілька рядків коду.
import { SeiznRetriever } from 'seizn/langchain';
import { ChatOpenAI } from '@langchain/openai';
import { createRetrievalChain } from 'langchain/chains/retrieval';
import { createStuffDocumentsChain } from 'langchain/chains/combine_documents';
import { ChatPromptTemplate } from '@langchain/core/prompts';
// Initialize the Seizn retriever
const retriever = new SeiznRetriever({
apiKey: process.env.SEIZN_API_KEY,
dataset: 'my-docs',
topK: 5,
threshold: 0.7,
});
// Create a RAG chain
const llm = new ChatOpenAI({ model: 'gpt-4' });
const prompt = ChatPromptTemplate.fromTemplate(`
Answer the question based on the following context:
{context}
Question: {input}
`);
const documentChain = await createStuffDocumentsChain({ llm, prompt });
const retrievalChain = await createRetrievalChain({
combineDocsChain: documentChain,
retriever,
});
// Run the chain
const response = await retrievalChain.invoke({
input: 'How do I configure rate limiting?',
});
console.log(response.answer);
// Trace ID available for debugging
console.log('Trace:', response.seiznTrace);import os
from seizn.langchain import SeiznRetriever
from langchain_openai import ChatOpenAI
from langchain.chains import create_retrieval_chain
from langchain.chains.combine_documents import create_stuff_documents_chain
from langchain_core.prompts import ChatPromptTemplate
# Initialize the Seizn retriever
retriever = SeiznRetriever(
api_key=os.environ["SEIZN_API_KEY"],
dataset="my-docs",
top_k=5,
threshold=0.7,
)
# Create a RAG chain
llm = ChatOpenAI(model="gpt-4")
prompt = ChatPromptTemplate.from_template("""
Answer the question based on the following context:
{context}
Question: {input}
""")
document_chain = create_stuff_documents_chain(llm, prompt)
retrieval_chain = create_retrieval_chain(retriever, document_chain)
# Run the chain
response = retrieval_chain.invoke({
"input": "How do I configure rate limiting?"
})
print(response["answer"])
# Trace ID available for debugging
print("Trace:", response.get("seizn_trace"))Зменшіть затримку та витрати за допомогою кешування повторюваних запитів.
const retriever = new SeiznRetriever({
apiKey: process.env.SEIZN_API_KEY,
dataset: 'my-docs',
cache: {
enabled: true,
ttl: 3600, // 1 hour
},
});Покращте якість результатів за допомогою переранжування на крос-енкодері.
const retriever = new SeiznRetriever({
apiKey: process.env.SEIZN_API_KEY,
dataset: 'my-docs',
rerank: {
enabled: true,
model: 'cohere-rerank-v3',
topN: 3,
},
});Фільтруйте результати за полями метаданих перед векторним пошуком.
const retriever = new SeiznRetriever({
apiKey: process.env.SEIZN_API_KEY,
dataset: 'my-docs',
filter: {
category: 'api-docs',
language: 'en',
},
});| Помилка | Причина | Рішення |
|---|---|---|
SEIZN_AUTH_ERROR | Недійсний або відсутній API-ключ | Перевірте змінну середовища SEIZN_API_KEY |
SEIZN_RATE_LIMIT | Забагато запитів на секунду | Реалізуйте експоненціальну затримку або оновіть тарифний план |
Empty results | Занадто високий поріг або немає відповідних документів | Знизьте поріг або перевірте вміст датасету |