llmfoo
LLM
LLM Fooは、Kung Fuの芸術と大規模な言語モデルの科学を融合させている最先端のプロジェクトです...または、実際にこれは、Openai Tool JSONスキーマを自動的に作成し、コールを解析し、結果をチャットモデルに構築することです。そして、1つの出力トークンのみを使用するGenius Logit_Biasトリックを使用する2番目のユーティリティis_statement_trueがあります。
しかし、私はこれが、現在の出血エッジAPIが少し混乱し、私たちはより良いことができると思います。
pip install llmfooenvとgpt-4-1106-previewモデルに電話する能力にopenai_api_keyが必要です
is_statement_true理解しやすいはずです。自然言語の声明を出し、基準または一般的な真実性に対してそれを確認してください。あなたはブーリアンを取り戻します。
新しく導入されたpdf2md機能により、PDFドキュメントをMarkdown形式に変換できるようになり、LLMベースのシステムとの処理と統合が容易になります。この機能は、PDFからテキストとテーブルを抽出し、それらをより管理しやすい形式に変換するのに特に役立ちます。
pdftocairo 、PDFページを画像に変換するためにシステムにインストールする必要があります。 from llmfoo . pdf2md import process_pdf
from pathlib import Path
pdf_path = Path ( "path/to/your/document.pdf" )
output_dir = Path ( "path/to/output/directory" )
# Process the PDF and generate Markdown
markdown_file = process_pdf ( pdf_path , output_dir )この関数は、PDFの各ページを処理し、テキスト、図、テーブルを抽出し、指定された出力ディレクトリのマークダウンファイルに変換しようとします。
@tool annotationを追加します。openai_schemaはスキーマを返します（マシンがやったことに満足していない場合は、JSONから編集できます）openai_tool_callツールを呼び出して結果をチャットAPIメッセージ形式で返すopenai_tool_outputツールを呼び出して結果をアシスタントAPIツール出力形式で戻す from time import sleep
from openai import OpenAI
from llmfoo . functions import tool
from llmfoo import is_statement_true
def test_is_statement_true_with_default_criteria ():
assert is_statement_true ( "Earth is a planet." )
assert not is_statement_true ( "1 + 2 = 5" )
def test_is_statement_true_with_own_criteria ():
assert not is_statement_true ( "Temperature outside is -2 degrees celsius" ,
criteria = "Temperature above 0 degrees celsius" )
assert is_statement_true ( "1984 was written by George Orwell" ,
criteria = "George Orwell is the author of 1984" )
def test_is_statement_true_criteria_can_change_truth_value ():
assert is_statement_true ( "Earth is 3rd planet from the Sun" )
assert not is_statement_true ( "Earth is 3rd planet from the Sun" ,
criteria = "Earth is stated to be 5th planet from the Sun" )
@ tool
def adder ( x : int , y : int ) -> int :
return x + y
@ tool
def multiplier ( x : int , y : int ) -> int :
return x * y
client = OpenAI ()
def test_chat_completion_with_adder ():
number1 = 3267182746
number2 = 798472847
messages = [
{
"role" : "user" ,
"content" : f"What is { number1 } + { number2 } ?"
}
]
response = client . chat . completions . create (
model = "gpt-4-1106-preview" ,
messages = messages ,
tools = [ adder . openai_schema ]
)
messages . append ( response . choices [ 0 ]. message )
messages . append ( adder . openai_tool_call ( response . choices [ 0 ]. message . tool_calls [ 0 ]))
response2 = client . chat . completions . create (
model = "gpt-4-1106-preview" ,
messages = messages ,
tools = [ adder . openai_schema ]
)
assert str ( adder ( number1 , number2 )) in response2 . choices [ 0 ]. message . content . replace ( "," , "" )
def test_assistant_with_multiplier ():
number1 = 1238763428176
number2 = 172388743612
assistant = client . beta . assistants . create (
name = "The Calc Machina" ,
instructions = "You are a calculator with a funny pirate accent." ,
tools = [ multiplier . openai_schema ],
model = "gpt-4-1106-preview"
)
thread = client . beta . threads . create ( messages = [
{
"role" : "user" ,
"content" : f"What is { number1 } * { number2 } ?"
}
])
run = client . beta . threads . runs . create (
thread_id = thread . id ,
assistant_id = assistant . id
)
while True :
run_state = client . beta . threads . runs . retrieve (
run_id = run . id ,
thread_id = thread . id ,
)
if run_state . status not in [ 'in_progress' , 'requires_action' ]:
break
if run_state . status == 'requires_action' :
tool_call = run_state . required_action . submit_tool_outputs . tool_calls [ 0 ]
run = client . beta . threads . runs . submit_tool_outputs (
thread_id = thread . id ,
run_id = run . id ,
tool_outputs = [
multiplier . openai_tool_output ( tool_call )
]
)
sleep ( 1 )
sleep ( 0.1 )
messages = client . beta . threads . messages . list ( thread_id = thread . id )
assert str ( multiplier ( number1 , number2 )) in messages . data [ 0 ]. content [ 0 ]. text . value . replace ( "," , "" )貢献に興味がありますか？このプロジェクトをより良くするためにあなたの助けを得るのが大好きです！ APIが変更されており、システムはまだ最初のバージョンです。
このプロジェクトは、MITライセンスの下でライセンスされています。
