LangChainとは？概要やサンプルプログラムをご紹介

(１) LangChainとは？概要やサンプルプログラムをご紹介
　(１-１) やりたいこと
　(１-２) LangChainの概要
　(１-３) LangChainのHello World
　　(１-３-０) STEP0：前提事項
　　(１-３-１) STEP1：パッケージのインストール
　　(１-３-２) STEP2：環境構築
　　(１-３-３) STEP3：疎通①「LLMから応答を取得する」
　　(１-３-４) STEP4：疎通②「PromptTemplate」の活用
　　(１-３-５) STEP5：疎通③「ChatPromptTemplate」の活用

・LangChainの概要について理解する

・LangChainのHello World（Python）を行い、基礎理解を深める

 

※以降はPythonを使う前提で進めます

＞目次にもどる

・「大規模言語モデル」（LLM）を用いたアプリ開発のためのフレームワーク

・原則①：外部データと接続する

・原則②：エージェントとして対話的に動作する→複数のModelプロバイダ、データストア、APIを連動させる

＞目次にもどる

Hello Worldの題材は「OpenAIのChatモデルとの疎通」を行います。
(参考：https://python.langchain.com/en/latest/modules/models/chat/integrations/openai.html)

→Open AIのAPIが疎通済（★20230604_IT#0732_OpenAI_API_使い方）

＞目次にもどる

> pip install langchain

（図１１１）

＞目次にもどる

> pip install openai

（図１１２）

> pip install python-dotenv

（図１１３）

＞目次にもどる

・「OpenAIのChatモデル」に対してPrompt（入力）を与えCompletion（出力）を取得する

・メッセージ（→AIMessage、SystemMessage、HumanMessage）を与えるとCompletionを得られる。

 

（サンプルプログラム）メインモジュール

import os
from dotenv import load_dotenv
from langchain.chat_models import ChatOpenAI
from langchain.schema import (AIMessage, HumanMessage, SystemMessage)

# 環境変数読み込み
load_dotenv()
#OpenAIの接続情報など
api_key = os.environ.get('OPEN_AI_KEY')

def main():

    # 言語モデル（OpenAIのチャットモデル）のラッパークラスをインスタンス化
    openai = ChatOpenAI(
        model="gpt-3.5-turbo",
        openai_api_key=api_key,
        temperature=0.0
    )

    # モデルにPrompt（入力）を与えCompletion（出力）を取得する
    # SystemMessage: OpenAIに事前に連携したい情報。キャラ設定や前提知識など。
    # HumanMessage: OpenAIに聞きたい質問
    response = openai([
        SystemMessage(content="あなたは沖縄出身です。沖縄の方言で返答してください。"),
        HumanMessage(content="調子はどうですか？")
    ])
    print(response)

if __name__ == "__main__":
    main()

OPEN_AI_KEY='xxxx'

＞目次にもどる

・AI系アプリで「ユーザー入力」は基本的にそのままの状態では渡さず、その内容からPromptを組み立ててから送るのが一般的である。

・前の例では「あなたは沖縄出身です。沖縄の方言で返答してください。」固定になっていたが、実際は「沖縄」などの都道府県名のみを受け取ってPromptを作りたい。

（サンプルプログラム）

import os
from dotenv import load_dotenv
from langchain.chat_models import ChatOpenAI
from langchain.prompts import PromptTemplate
from langchain.schema import (AIMessage, HumanMessage, SystemMessage)

# 環境変数読み込み
load_dotenv()
#OpenAIの接続情報など
api_key = os.environ.get('OPEN_AI_KEY')

def main():

    # 言語モデル（OpenAIのチャットモデル）のラッパークラスをインスタンス化
    openai = ChatOpenAI(
        model="gpt-3.5-turbo",
        openai_api_key=api_key,
        temperature=0.0
    )

    ############# 追記START #############
    prompt = PromptTemplate(
        input_variables=["prefectures"],
        template="あなたは{prefectures}出身です。{prefectures}の方言で返答してください。",
    )
    ############# 追記END #############

    # モデルにPrompt（入力）を与えCompletion（出力）を取得する
    # SystemMessage: OpenAIに事前に連携したい情報。キャラ設定や前提知識など。
    # HumanMessage: OpenAIに聞きたい質問
    response = openai([
        ############# 修正START #############
        # SystemMessage(content="あなたは沖縄出身です。沖縄の方言で返答してください。"),
        SystemMessage(content=prompt.format(prefectures=input("都道府県名を入力してください : "))),
        ############# 修正END #############
        HumanMessage(content="調子はどうですか？")
    ])
    print(response)

if __name__ == "__main__":
    main()

＞目次にもどる

・前の例の「PromptTemplate」は画一的なプロンプトでしたが「ChatPromptTemplate」はSystemMessageとHumanMessageを分けたりと、より柔軟に対応が可能です。

 

（サンプルプログラム）

import os
from dotenv import load_dotenv
from langchain.chat_models import ChatOpenAI
from langchain.prompts.chat import (ChatPromptTemplate,SystemMessagePromptTemplate,HumanMessagePromptTemplate)

# 環境変数読み込み
load_dotenv()
#OpenAIの接続情報など
api_key = os.environ.get('OPEN_AI_KEY')

def main():

    # 言語モデル（OpenAIのチャットモデル）のラッパークラスをインスタンス化
    llm = ChatOpenAI(
        model="gpt-3.5-turbo",
        openai_api_key=api_key,
        temperature=0.0
    )
    # プロンプトのテンプレート生成
    system_template = "あなたは{prefectures}出身です。{prefectures}の方言で返答してください。"
    system_message_prompt = SystemMessagePromptTemplate.from_template(system_template)
    human_template = "{text}"
    human_message_prompt = HumanMessagePromptTemplate.from_template(human_template)
    chat_prompt = ChatPromptTemplate.from_messages([system_message_prompt, human_message_prompt])

    # モデルにPrompt（入力）を与えCompletion（出力）を取得する
    response = llm(chat_prompt.format_prompt(
        prefectures=input("都道府県名を入力してください : "),
        text="調子はどうですか？").to_messages()
    )
    print(response)

if __name__ == "__main__":
    main()

（参考）

 

＞目次にもどる