宣布了四項新功能：
「線程」幫助管理較長的對話
「檢索」幫助儲存文本
內建程式碼解釋
函數呼叫功能的改進。
助理 API 主要功能
在這裡，我們將更詳細地介紹每個功能。
使用線程更輕鬆地管理對話
雖然某些任務可以透過向 API 發送單一提示並獲取單一回應來 伯利茲電話號碼列表 執行，但聊天機器人需要更長的對話（或「執行緒」）。到目前為止，開發人員有責任追蹤先前的對話狀態並決定將先前的哪些訊息傳送到 API。隨著對話長度的增加，這需要在每個 API 呼叫中發送越來越多的文本，這會降低效能。
此外，一旦對話超出「上下文視窗」（GPT 一次可以記住的文本量），就需要做出決定：是丟棄舊訊息，還是嘗試總結它們，或者儲存並稍後再做出決定哪些日期是相關的並且需要包括在內？它很快就會變得繁瑣並減慢應用程式的開發速度。
新的線程工具將 OpenAI 從“無狀態”模型（無記憶體）轉變為“有狀態”模型。先前的訊息可以儲存在OpenAI端，避免開發者擔心這些管理問題。
檢索工具可讓您儲存附加文本
OpenAI 的示範也提到了用於儲存文字的檢索工具。這被宣傳為第二個功能，但由於線程功能似乎利用了此功能，因此尚不清楚此功能有多獨立。
演示期間技術細節很少，但可以猜測其工作原理。目前，包含生成式 AIino 應用程式需要兩種不同的技術：像 GPT 這樣的大型語言模型 (LLM) 和向量資料庫。
向量資料庫透過稱為嵌入的過程將文字（或圖像或其他非結構化資料類型）儲存為數位向量。您可以稍後檢索這些文字片段以將其包含在提示中。典型的用例包括儲存與您要討論的主題相關的事實。
例如，如果您正在建立一個聊天機器人來幫助回答有關您公司產品的問題，您可以將產品資訊儲存在向量資料庫中，並使用它來確保法學碩士給出準確的事實答案。
簡報中提到的檢索功能暗示 Assistants API 可能允許您透過 API 存取向量資料庫。這帶來了超出較長對話能力的有趣可能性，因為這意味著您不需要使用單獨的向量資料庫（例如Pinecone、Milvus 或Weaviate）來儲存文字。
目前這只是猜測，我們必須等待 Assistant API 的具體細節公佈。
代碼解釋是內建的
ChatGPT 擁有進階資料分析工具，可讓 GPT 基於自然語言指令產生並執行 Python 程式碼。雖然 OpenAI 演示中的細節有些模糊，但有人暗示該功能將內建到 Assistants API 中，因此您可以給出使 GPT 運行 Python 程式碼的提示。
改進的函數呼叫使其更容易與其他軟體交互
API 的函數呼叫功能可讓您編寫自然語言指令，並讓 GPT 傳回 JSON 字串，該字串表示對您定義的函數的呼叫。這對於人工智慧代理來說非常重要，因為人工智慧代理旨在基於自然語言輸入執行任務。
該公告描述了對此功能的兩項改進。首先，有一個“JSON 模式”，其中保證回應是有效的 JSON，並且應該更嚴格地遵循指定的函數簽名。到目前為止，回應有可能無效，需要在軟體中編寫完整的錯誤檢測程式碼。
新功能應該會簡化人工智慧代理的創建，並使建立軟體的自然語言介面變得更加容易。
概括
儘管 2023 年的生成式 AI 革命令人震驚，但仍需要大量的軟體工程技能才能將生成式 AI 融入其他軟體中。 Assistants API 預計將在一定程度上降低進入門檻，使更多產品能夠更快地融入該技術。
不斷學習
