③チャンク化した内容をベクトル化し、Azure AI Searchに登録する

import os
from langchain_openai import AzureChatOpenAI, AzureOpenAIEmbeddings
#from langchain.vectorstores.azuresearch import AzureSearch
from langchain_community.vectorstores.azuresearch import AzureSearch
from langchain.schema import StrOutputParser
from langchain.schema.runnable import RunnablePassthrough


# AOAIのEmbeddings LLMをラップ
aoai_embeddings = AzureOpenAIEmbeddings(
    azure_deployment="<Azure OpenAI embeddings model>",
    openai_api_version="<Azure OpenAI API version>",
)

vector_store_address: str = os.getenv("AZURE_SEARCH_ENDPOINT")
vector_store_password: str = os.getenv("AZURE_SEARCH_ADMIN_KEY")

index_name: str = "<your index name>" #Azure AI Serch上に作成するIndex名

# ベクトルストアのインスタンスを構築
vector_store: AzureSearch = AzureSearch(
    azure_search_endpoint=vector_store_address,
    azure_search_key=vector_store_password,
    index_name=index_name,
    embedding_function=aoai_embeddings.embed_query ## Azure OpenAI Serviceのembeddingsモデルを利用
)

# 前の記事でチャンク化した情報(splits)を格納する
# 格納するタイミングでベクトル化も行われる
vector_store.add_documents(documents=splits)

④ユーザーからの質問を受けて、Azure AI Searchを検索する

# Retrieve relevant chunks based on the question
# 先ほど作成したベクトルストアをRetrieverとして定義
retriever = vector_store.as_retriever(search_type="similarity", search_kwargs={"k": 4})

retrieved_docs = retriever.get_relevant_documents(
    "この調査の目的は何ですか？"
)

print(retrieved_docs[0].page_content)

⑤検索結果をLLMに入力して回答を生成する

# prompt
prompt = """
You are an assistant for question-answering tasks. Use the following pieces of retrieved context to answer the question. If you don't know the answer, just say that you don't know. Use three sentences maximum and keep the answer concise.
Question: {question}
Context: {context}
Answer:
"""

llm = AzureChatOpenAI(
    openai_api_version="<Azure OpenAI API version>",  
    azure_deployment="<your chat model deployment name>",
    temperature=0,
)


# ベクトルストアから取り出したdocumentからpage_contentの内容だけを抽出して連結する
def format_docs(docs):
    return "\n\n".join(doc.page_content for doc in docs)


rag_chain = (
    {"context": retriever | format_docs, "question": RunnablePassthrough()}
    | prompt
    | llm
    | StrOutputParser()
)

# 質問に対する回答を生成
question = "この調査の目的は何ですか？"
answer = rag_chain({"context": retrieved_docs, "question": question})
print(answer)

参考記事