新創公司聚焦:藉助群組 #5 構建 AI 代理程式並加速創新
2025-04-11
探索開發人員如何使用 Cloudflare 來擴展 AI 工作負載和精簡自動化,瞭解 Workers Launchpad 群組 #4 的參與者如何進行構建,並查看加入群組 #5 的新創公司...
繼續閱讀 »
\n
為了擴展其平台,Lamatic.ai 構建了依據每位客戶隔離無伺服器和 AI 邏輯的架構。Lamatic.ai 並非將要求批次處理到集中式叢集中,而是在 Cloudflare 的全球網路分散工作負載,從而確保每位客戶和每個端點都由其自己執行專用邏輯的 Worker 提供服務。這種由 Workers for Platforms 支援的依客戶部署模型,讓 Lamatic.ai 能夠大規模交付客戶特定的無伺服器功能,並隨著佈設更多客戶而減少技術開銷。每位客戶都會獲得一個專用 Worker,可根據其訂閱級別來啟用要求和速率限制。
除了要求處理之外,Lamatic 還使用 Cloudflare Workers KV 作為分散式設定存放區,以確保高可用性和安全性。所有值均使用 AES-256-GCM 進行靜態加密,並且僅在執行階段解密,從而確保作業既安全,延遲又低。權杖和使用者認證經過加密,並儲存在資料庫和 KV 中。
為了進一步提升效能,Cloudflare Queues 在協調任務完成方面發揮著關鍵作用。Lamatic 使用 Queues 從 Workers 要求中卸載工作,以及處理 Webhook 及協調分散式程序等任務,這兩者對於大規模維持系統一致性與可靠性至關重要。Workers 在執行點處理同步要求,執行時間較長的工作則透過 Queues 進行處理。例如,在排程 ETL 同步期間,產生的新資料記錄會儲存為 Cloudflare Pub/Sub 上的訊息佇列。取用者 Worker 會收集這些訊息,並使用 Workers Queue 向 Pod 發出 API 要求。取用者 Worker 會在每個佇列處理完畢時,取用更多訊息。
另一個最佳化範例是管理 AI 工作流程。許多 AI 工作流程涉及對多個資料來源的並行要求,Queues 精簡了資料處理,並有效地將資訊饋送至客戶的 Retrieval Augmented Generation (RAG) 工作流程中。這種方法可消除工作負載暴增,減少瓶頸,並確保 AI 代理程式能夠毫無延遲且可靠地彙總和處理資料。
除此之外,Lamatic.ai 還提供 Workers AI 作為支援推斷提供者的服務之一,客戶可在其平台上使用。客戶可視乎其使用案例(聊天機器人、影像產生、語音等),選擇執行 Workers AI 上託管的眾多開放原始碼模型之一。這些層藉由處理大量資料、維持低延遲回應,以及確保穩健的安全性,共同解決了擴展 AI 代理程式的挑戰。憑藉作為骨幹的 Cloudflare 的基礎架構,Lamatic.ai 構建了一個具有復原能力且高效能的平台,可滿足現代 AI 應用程式的嚴格要求,使其成為新創公司將 AI 驅動型功能內嵌至其產品的理想選擇。
\n代理程式
來自動化合規性Skyward AI 正善用 Cloudflare 的無伺服器運算功能,來構建 AI 驅動型合規性代理程式,以精簡證據收集、即時風險分析和原則更新等關鍵任務,藉此來變革合規性營運。金融科技、供應鏈和其他受到嚴格監管的產業的合規性團隊,使用這些 AI 代理程式來擷取和整理證據,提供即時建議,並自動協調原則和程序化更新。藉由處理文件剖析、風險監控和原則實施,這些 AI 代理程式降低了人為錯誤的風險,同時讓合規性專業人員能夠專注於高價值的任務。
Skyward 構建了一個 AI 代理程式平台,採用無伺服器優先方法進行設計,從而避免了集中式雲端運算的限制。為實現這一目標,該公司善用 Cloudflare 的開發人員平台,來建立並維護回應迅速且可擴展的基礎架構。Workers 可處理聊天輸入、合規性檢查或驗證等傳入要求,並在多個地理位置間高效路由。Skyward 最初使用 Durable Objects、Workflows 和 JavaScript 原生 RPC 進行 AI 協調,構建了 AI 代理程式基礎架構,但最近已轉換為 Cloudflare 的全新 AI 代理程式架構。由於代理程式
提供了一個用於構建和協調 AI 代理程式的架構,該遷移可協助 Skyward 消除手動管理 Durable Objects 的需求,從而顯著減少管理這些工具花費的時間。雖然這是非常新的發布內容,但這一轉換不僅有助於簡化代理程式通訊的方式,而且保留了其原始設計的優勢,例如,資料隱私權、隔離和並行管理。此外,向其終端使用者提供即時回饋和回應也變得更加容易。
Skyward 針對 AI 代理程式查詢實現了不到 100 毫秒的回應時間,藉此來最佳化即時合規性自動化。透過結構化工作負載,最大限度地減少不必要的網路往返,而同步引擎方法則可主動預載入資料,並將其推送至用戶端,從而提供快速回應的使用者體驗。為了代理 AI 推斷,Skyward 使用 AI Gateway 提供對多個廠商的用量、效能和成本的可觀測性,從而改善其 AI 營運效率。Skyward 善用 Cloudflare 的無伺服器開發人員平台,不僅能夠簡化其架構,同時還支援全球可用性,從而避免對 Kubernetes 叢集或複雜鎖定機制的需求。該團隊還避免了管理區域部署的負擔,因為 Cloudflare 的多區域支援可確保在全球範圍內提供一致的效能,而不會增加營運複雜性。
\n狀態管理是執行代理工作流程的關鍵元件。每個合規性工作階段都在專用的 Durable Object 內執行,這可使相關資料保持在執行層附近。此設定可最大限度減少資料庫往返,並確保反洗錢 (AML) 檢查、瞭解您的商業方案 (KYB) 驗證和文件處理等任務保持高效。合規性工作階段完成後,系統會總結相關資訊,並將其儲存在 Postgres 和 R2 中,從而最佳化記憶體用量,而無需持續性雲端基礎架構。
為了在低延遲作業與長期儲存之間取得平衡,Skyward 採用了多層資料管理策略。Skyward 團隊使用 Hyperdrive,已將查詢延遲減少近 50%,從而使合規性團隊能夠立即收到意見反應。作為公司的核心,Skyward 的目標是提供一個「專為合規性團隊而精簡」的平台。該團隊認為,快速的意見反應迴圈可確保最終客戶獲得採取行動所需的資料和回應。無論是一個代理程式,還是數百個代理程式平行處理任務,Hyperdrive 都能確保盡可能高效地處理大量公司文件(即法規、政策、程序、內部文件)、複雜的監管知識圖譜,以及對話式工作流程的隨需內容資訊等資產發出的資料庫要求。
Durable Objects 可促進即時工作階段狀態,從而確保 AI 代理程式順暢運作,而無需複雜的鎖定機制。對於較大的合規性相關文件,例如,法律 PDF 和封存資料,Cloudflare R2 提供長期儲存,從而確保僅經常存取的資訊保持隨時可用。這種方法可提升效能,同時保持高效的儲存管理和成本效益。
安全性與可擴展性仍是注重合規性的 AI 應用程式的優先事項。Skyward 實施了嚴格的存取控制,從而確保只有授權使用者才能存取開發和生產環境。每個 AI 工作階段維持一個可稽核的關鍵事件、使用者動作和核准記錄,能夠支援匯出這些深入解析,以滿足合規性和法律要求。由於每個代理程式都部署在自己的執行個體中,並擁有自己的資料庫,因此 Skyward 可確保詳細記錄每個必要的使用者、代理程式互動和稽核要求。除此之外,由於能夠藉助 Cloudflare 網路進行全球部署和擴展,Skyward 可在多個區域維持一致、高效能的營運,而無需大量的基礎架構開銷。
展望未來,Skyward 計劃直接在 Cloudflare Workers AI 上執行精選模型,從而減少對外部推斷提供者的依賴,藉此來進一步增強 AI 代理程式回應能力。該團隊計劃進一步整合 Workers for Platforms,以便更好地隔離客戶資料和工作流程,從而讓終端使用者更好地控制其合規自動化。隨著 Cloudflare 繼續演進其 AI 功能,Skyward 旨在突破分散式 AI 合規性解決方案的邊界,讓法規遵循更加自動化、可擴展和安全。
\nLamatic AI 和 Skyward AI 等新創公司在 Cloudflare 上構建 AI 代理程式平台的方式讓我們深受啟發。正因為有這樣的創新,我們才能自豪地看到眾多新創公司信任 Cloudflare 提供可擴展、可靠且高效的基礎。
此外,我們滿懷激動之情地宣佈,Lamatic AI 和 Skyward AI 均已受邀加入 Cloudflare 即將成立的 Workers Launchpad 群組 #5。說到 Workers Launchpad,自我們上次更新以來已經過去幾個月了 — 我們來看看有哪些新功能。
\n客戶在開發人員平台上展示的內容,讓 Workers Launchpad 團隊驚嘆不已。群組 #4 的成員在我們一年兩次的示範日上進行了演示。我們讓客戶展示他們在眾多產業中構建的產品,(當然)包括 AI/ML、開發人員工具、3D 設計、雲端基礎架構、廣告技術、媒體等等。看到所有這些了不起的公司在 Cloudflare 網路上構建產品,讓我們備受鼓舞,我們期待在整個新創公司之旅中繼續與他們合作。
在 Workers Launchpad 群組 #4 的示範日之後,我們看到全球各地渴望加入群組 #5 的新創公司推出了大量應用程式。下一波創辦人正在挑戰可能性邊界,他們在 AI 代理程式、開發人員工具、MCP、媒體等領域進行構建。隨著每一個新群組的加入,創辦團隊的才幹、他們帶來的大膽想法,以及他們利用技術解決現實問題的行動,都讓我們深受啟發。
請與我們一起對群組 #5 的參與者表達深切的愛和熱烈的歡迎:
\n我們迫不及待地想分享有關群組 #5 所取得成就的更多資訊。請務必在 X 上關注 @CloudflareDev,並加入我們的 Developer Discord 伺服器,瞭解有關群組的最新消息。
如果您在我們的開發人員平台上開發應用程式,我們很樂意瞭解 Cloudflare 如何為您的旅程提供支援。請分享更多您正在構建的內容,我們的團隊一定會仔細檢閱您提交的內容。如果您是新創公司並有興趣加入 Workers Launchpad,請隨時申請加入群組 #5 — 現已開放申請!
公司 | 關於 |
面向大學生和教育工作者的 AI 學習平台 | |
構建用於進行身分驗證和詐騙預防的 MCP | |
在 30 分鐘內實現服務產品化並推出含整合式付款功能的網站 | |
讓消費者在靈光一現的瞬間購物的代理商務平台 | |
隨需提供高品質發布率 (PR):依投放付費,無需預付費 | |
受管 AI 中間件和 IDE,可快速可靠地內嵌 AI 功能 | |
輕鬆舉辦盛大活動的應用程式 | |
AI 驅動型滲透測試:隨需識別、補救和重新測試 | |
眾包 DeFi 策略並作為 ETF 掛牌 | |
大規模構建和管理 MCP 的平台 | |
為前線工作者消除語言、存取和模式方面的障礙 | |
使用自然語言撰寫出色的電子郵件 | |
為組織提供簡單、友好、一體化網路安全 | |
啟用新的權限管理路徑、保護智慧財產權,以及適當地透過個人貢獻獲利 | |
無需工程師,即可在幾分鐘內將交易通知新增至您的應用程式 | |
為服務不足市場的組織提供資料分析軟體解決方案的 AI 服務提供者 | |
為體育和媒體組織提供 AI 支援的多模態內容個人化 | |
針對 AI 整合提供防護機制、日誌記錄並降低成本 | |
憑藉代理應用程式體驗實現新一代數位互動 | |
面向合規性團隊的 AI 原生工作區 | |
AI 原生客戶智慧平台,可綜合客戶意見反應,並在所有溝通管道中提供切實可行的深入解析 | |
行之有效的智慧型企業 SSO | |
AI 對外銷售 - 指導平台 | |
藉助電腦操作代理程式增加測試覆蓋範圍 | |
讓產品團隊構建美觀的互動式 Web 應用程式的 Web 開發引擎 | |
Toolhouse | 讓任何開發人員都能構建具有出色開發人員體驗的 AI 代理程式和工作流程的平台 |
代理 AI 支援的端對端商業研究平台 | |
專為客戶互動活動打造的進階阿拉伯文對話式 AI | |
透過量身定製的安全性與隱私權實現數位自由 |
2025-04-11
探索開發人員如何使用 Cloudflare 來擴展 AI 工作負載和精簡自動化,瞭解 Workers Launchpad 群組 #4 的參與者如何進行構建,並查看加入群組 #5 的新創公司...
繼續閱讀 »2024-09-26
Cloudflare 的新創公司計畫現為在我們的開發人員平台上構建的公司提供高達 250,000 美元的抵免額度。重新推出的計畫使用明確且可預測的抵免額度,以便您可以輕鬆瞭解使用情況如何影響未來定價。 ...
2024-09-09
Workers 現在使用全面改造的混合相容層支援更多的 NPM 套件和 Node.js API。...
2023-11-14
Workers AI 現在支援使用 server-sent events(伺服器傳送事件)對我們目錄中的 LLM 模型(包括 Llama-2)進行串流文字回應...
2023-05-16
Smart Placement 會自動將您的工作負載放置在可將延遲降至最低的最佳位置,並加快您的應用程式速度!...
2022年11月17日 下午2:05
Pages 是一個正式的完整堆疊平台,其中的 Pages Functions 現已正式上市。Pages 利用 Workers 的強大功能和可擴展性,並對其進行專門化以使其與 Pages 開發人員體驗相匹配...
2022年11月16日 下午2:00
在本篇部落格文章中,我將介紹如何使用 D1 來為靜態部落格網站新增評論。為此,我們將建構一個新的 D1 資料庫,並建置一個簡單的 JSON API 來建立和擷取評論...
2022年10月20日 下午1:00
在這篇部落格文章中,我們示範了如何在 Cloudflare Workers 上託管和組合多個伺服器端轉譯的微前端,為這些問題提供一個高度可擴展的高效能解決方案...
2022年9月30日 下午1:00
加入我們的公測版,立即開始收集有關使用 Cloudflare Workers 之任何事物的遙測資料...
2021年9月30日 下午12:59
您現在可以使用 Cloudflare 進行無伺服器端對端即時串流。Stream Live 將視訊攝取、編碼、錄影和播放器等功能融匯在一款產品中。...
2021年9月13日 下午12:58
今天, Workers 速度比三年前提高了 30%(P90)。而且其速度比 Lambda@Edge 快 210%,比 Lambda 快 298%。...