聯(lián)系電話: 010-8882344888
服務(wù)治理 MSE Sentinel/OpenSergo，Agent數(shù)量 不受限
在過去一年里大模型領(lǐng)域主要有兩大領(lǐng)域的熱點(diǎn)，一個(gè)是 LLM，幾乎每月速度革新，大家關(guān)心的是效果和成本。另一個(gè)是 AI Agent，大家嘗試解決各個(gè)領(lǐng)域應(yīng)用問題，大家關(guān)心的是場景和競爭力。下面我們重點(diǎn)分享一下 AI Agent 的趨勢和實(shí)踐。
在過去一年里大模型領(lǐng)域主要有兩大領(lǐng)域的熱點(diǎn)，一個(gè)是 LLM，幾乎每月速度革新，大家關(guān)心的是效果和成本。另一個(gè)是 AI Agent，大家嘗試解決各個(gè)領(lǐng)域應(yīng)用問題，大家關(guān)心的是場景和競爭力。下面我們重點(diǎn)分享一下 AI Agent 的趨勢和實(shí)踐。
AI Agent 在從單 Agent 到多 Agent 加速演進(jìn)；以數(shù)據(jù)為核心的智能體平臺會加速形成；構(gòu)建高質(zhì)量數(shù)據(jù)和持續(xù)優(yōu)化數(shù)據(jù)質(zhì)量能力會是智能體成功的關(guān)鍵。
AI Agent 是一種能夠感知環(huán)境、自主決策并執(zhí)行行動的智能實(shí)體，具備通過獨(dú)立思考和調(diào)用工具逐步完成目標(biāo)的能力。
因?yàn)?LLM 只是模擬人腦神經(jīng)元推理過程，如果要完成一個(gè)具體的現(xiàn)實(shí)任務(wù)，還是需要像人一樣有言耳鼻舌身的感知系統(tǒng)，有記憶和經(jīng)驗(yàn)輔助決策，最后行動。
在過去 1 年時(shí)間里大家更多在探索各種固定的，單任務(wù)的智能體，解決一個(gè)個(gè)具體小問題。從今年開始大家開始構(gòu)建智能體平臺和范式，提升多 Agent 協(xié)同，編排，優(yōu)化數(shù)據(jù)質(zhì)量體系。終態(tài)是具備一個(gè)超級智能體，一站式解決所有問題，通用人工智能真正到來。
考慮到通用性和專業(yè)性，很多時(shí)候需要平衡，成本和效果也需要平衡，AGI 到來仍需要一定時(shí)間，因此我們判斷未來主要方向是以數(shù)據(jù)為中心的多智能體協(xié)同模式。
AI Agent 構(gòu)建過程中我們思考第一個(gè)問題是，智能體的核心競爭力是什么？
1、模型把公域數(shù)據(jù)挖掘的比較充分了，下一步重點(diǎn)可能是成本和性能（DeepSeek在加速推動發(fā)生）。
2、私域數(shù)據(jù)是每個(gè)公司的核心壁壘，需要做的是充分挖掘私域數(shù)據(jù)，沉淀好數(shù)據(jù)，持續(xù)優(yōu)化數(shù)據(jù)，釋放最大客戶價(jià)值。生產(chǎn)資源足夠好，有底層模型生產(chǎn)力加持，可以持續(xù)演進(jìn)。
3、找到自己領(lǐng)域高頻，結(jié)構(gòu)化和風(fēng)險(xiǎn)可控的場景，逐步延伸場景的專業(yè)性，幫助客戶提升效率。如我們 DEVOPS 領(lǐng)域的智能編碼，靈碼在代碼輔助高頻場景突破，通過靈碼提升大家構(gòu)建智能體效率。
首先我們每個(gè)應(yīng)用能夠從客戶收集和沉淀數(shù)據(jù)，這部分?jǐn)?shù)據(jù)是個(gè)性化和專業(yè)性的前提。其次我們每個(gè)領(lǐng)域都有自己的專業(yè)數(shù)據(jù)和 SOP，可以結(jié)合客戶數(shù)據(jù)高效解決客戶問題。
當(dāng)我們構(gòu)架好智能體要發(fā)布客戶，需要提前對數(shù)據(jù)和效果構(gòu)建數(shù)據(jù)評測集，以便滿足客戶對 SLA 的確定性要求。上線后我們需要收集客戶反饋數(shù)據(jù)，通過反饋數(shù)據(jù)分析優(yōu)化我們的行業(yè)數(shù)據(jù)，工具集，場景。
通過左邊評估數(shù)據(jù)體系持續(xù)優(yōu)化右邊私域高質(zhì)量數(shù)據(jù)體系。完成客戶訴求到數(shù)據(jù)的高質(zhì)量匹配。從而讓這個(gè)飛輪持續(xù)轉(zhuǎn)起來，持續(xù)優(yōu)化企業(yè)競爭力！
1、構(gòu)建好企業(yè)知識庫，通過平臺工具將數(shù)據(jù)轉(zhuǎn)換成 Markdown，然后推到向量數(shù)據(jù)庫，構(gòu)建領(lǐng)域數(shù)據(jù)；通過工具集幫助Agent獲取結(jié)構(gòu)化客戶數(shù)據(jù)。
那如何構(gòu)建多 Agent 架構(gòu)呢？阿里巴巴在去年云棲大會推出了 Spring-AI-Alibaba 框架和生態(tài)工具集合，助理企業(yè)構(gòu)建智能體。
通過上面介紹大家構(gòu)建以數(shù)據(jù)為中心智能體的重大意義和趨勢。下面我們重點(diǎn)分享阿里巴巴在落地 AI Agent 的最佳實(shí)踐，以便給大家做一個(gè)參考，加速 AI 時(shí)代到來～
Higress 是阿里開源的 AI 原生 API 網(wǎng)關(guān)，具備行業(yè)最全 AI 生態(tài)插件，能夠幫助開發(fā)者一鍵集成多種數(shù)據(jù)源。
支持對接多種模型，Higress 可以一鍵集成多種模型，統(tǒng)一協(xié)議，統(tǒng)一權(quán)限，統(tǒng)一容災(zāi)；
通過搜索工具獲取領(lǐng)域數(shù)據(jù)，通過 MCP Server 獲取客戶數(shù)據(jù)，整合推理需要的完整數(shù)據(jù)。
統(tǒng)一數(shù)據(jù)格式轉(zhuǎn)換，通過緩存和向量檢索構(gòu)建長短期記憶數(shù)據(jù)，降低 LLM 調(diào)用，降低成本，提升性能和吞吐。
我們基于 Otel 觀測體系能夠自動的分析推理過程中效果，召回效果。效果不好，可以全鏈路追蹤客戶整個(gè)檢索和推理過程，分析是知識庫問題，RAG 問題，還是工具集問題，提升優(yōu)化數(shù)據(jù)效率。
Agent 中有大量提示詞，算法等參數(shù)，通過 Nacos 可以做到動態(tài)實(shí)時(shí)推送，及時(shí)獲得優(yōu)化的效果。如果系統(tǒng)上線擔(dān)心修改提示詞效果不符合預(yù)期，還可以通過灰度配置逐步觀測優(yōu)化提示詞數(shù)據(jù)的效果。
系統(tǒng)數(shù)據(jù)和客戶數(shù)據(jù)都是不斷更新的，我們可以通過 RocketMQ 把變更事件和數(shù)據(jù)實(shí)時(shí)同步，以便每次推理能拿到最及時(shí)數(shù)據(jù)和效果。
我們通過上面技術(shù)體系構(gòu)建開源 AI 專家和阿里云云原生 API 網(wǎng)關(guān)和微服務(wù)引擎 MSE 兩個(gè)產(chǎn)品的智能診斷體系，解決 95% 以上咨詢問題，解決 85% 以上異常問題。
通過 Higress 屏蔽底層多個(gè)模型，工具體系，構(gòu)建數(shù)據(jù)安全鏈路和賬號安全體系， 通過 Spring-AI-Alibaba 構(gòu)建 Agent 和編排，提供 chat 模式解決咨詢問題， Composer 模式解決客戶異常問題。
DeepSeek 很火，用過的同學(xué)都知道，能聯(lián)網(wǎng)的 DeepSeek 還是真正的滿血版。
目前大量客戶通過 Higress 一鍵集成 DeepSeek 和聯(lián)網(wǎng)能力，集成夸克搜索數(shù)據(jù)，體驗(yàn)最佳能力。通過 Higress 能夠在模型訪問鏈路上全鏈路 TLS，保護(hù)鏈路數(shù)據(jù)安全。通過內(nèi)容安全解決數(shù)據(jù)合規(guī)安全問題。通過 API-Key 集中管理，提高并發(fā)度，對 Agent 提供內(nèi)部 API-Key，防止 API-Key 泄漏風(fēng)險(xiǎn)，并且可以根據(jù)內(nèi)部 API-Key 做流量和額度控制，防止代碼 bug 導(dǎo)致巨大 token 調(diào)用和巨大費(fèi)用支出。
通義靈碼個(gè)人版為開發(fā)者免費(fèi)提供智能編碼能力，專業(yè)版限免期內(nèi)開放更多功能。使用需先注冊阿里云賬號，支持JetBrains IDEs、Visual Studio Code等開發(fā)工具。以Visual Studio Code為例，安裝插件并登錄后即可體驗(yàn)其強(qiáng)大功能。通義靈碼2.0在代碼生成、需求理解及單元測試自動化等方面有顯著提升，支持多語言和復(fù)雜場景，大幅提高開發(fā)效率。
利用通義靈碼AI在VS Code中快速開發(fā)掃雷游戲：Qwen2.5-Max模型的應(yīng)用實(shí)例
本文介紹了如何利用阿里云通義靈碼AI程序員的Qwen2.5-Max模型，在VS Code中一鍵生成掃雷小游戲。通過安裝通義靈碼插件并配置模型，輸入指令即可自動生成包含游戲邏輯與UI設(shè)計(jì)的Python代碼。生成的游戲支持難度選擇，運(yùn)行穩(wěn)定無Bug。實(shí)踐表明，AI工具顯著提升開發(fā)效率，但人機(jī)協(xié)作仍是未來趨勢。建議開發(fā)者積極擁抱新技術(shù)，同時(shí)不斷提升自身技能以適應(yīng)行業(yè)發(fā)展需求。
基于阿里百煉的DeepSeek-R1滿血版模型調(diào)用【零門檻保姆級2084小游戲開發(fā)實(shí)戰(zhàn)】
本文介紹基于阿里百煉的DeepSeek-R1滿血版模型調(diào)用，提供零門檻保姆級2048小游戲開發(fā)實(shí)戰(zhàn)。文章分為三部分：定位與核心優(yōu)勢、實(shí)戰(zhàn)部署操作指南、輔助實(shí)戰(zhàn)開發(fā)。通過詳細(xì)步驟和案例展示，幫助開發(fā)者高效利用DeepSeek-R1的強(qiáng)大推理能力，優(yōu)化游戲邏輯與視覺效果，解決官網(wǎng)響應(yīng)延遲問題，提升開發(fā)效率和彩神用戶體驗(yàn)。適合企業(yè)開發(fā)者、教育行業(yè)及多模態(tài)探索者使用。
小魚深度評測 通義靈碼2.0，不僅可跨語言編碼，自動生成單元測試，更炸裂的是集成DeepSeek模型且免費(fèi)使用，太炸裂了。
小魚深度評測 通義靈碼2.0，不僅可跨語言編碼，自動生成單元測試，更炸裂的是集成DeepSeek模型且免費(fèi)使用，太炸裂了。
DeepSeek是一款基于Transformer架構(gòu)的先進(jìn)大語言模型，以其強(qiáng)大的自然語言處理能力和高效的推理速度著稱。近年來，DeepSeek不斷迭代，從DeepSeek-V2到參數(shù)達(dá)6710億的DeepSeek-V3，再到性能比肩GPT-4的DeepSeek-R1，每次都帶來重大技術(shù)突破。其開源策略降低了AI應(yīng)用門檻，推動了AI普惠化。通過阿里云百煉調(diào)用滿血版API，用戶可以快速部署DeepSeek，享受高效、低成本的云端服務(wù)，最快10分鐘完成部署，且提供免費(fèi)token，極大簡化了開發(fā)流程。
深度評測 僅用3分鐘，百煉調(diào)用滿血版 Deepseek-r1 API，百萬Token免費(fèi)用，簡直不要太爽。
僅用3分鐘，百煉調(diào)用滿血版Deepseek-r1 API，享受百萬免費(fèi)Token。阿里云提供零門檻、快速部署的解決方案，支持云控制臺和Cloud Shell兩種方式，操作簡便。Deepseek-r1滿血版在推理能力上表現(xiàn)出色，尤其擅長數(shù)學(xué)、代碼和自然語言處理任務(wù)，使用過程中無卡頓，體驗(yàn)絲滑。結(jié)合Chatbox工具，用戶可輕松掌控模型，提升工作效率。阿里云大模型服務(wù)平臺百煉不僅速度快，還確保數(shù)據(jù)安全，值得信賴。
Agent TARS：一鍵讓AI托管電腦！字節(jié)開源PC端多模態(tài)AI助手，無縫集成瀏覽器與系統(tǒng)操作
Agent TARS 是一款開源的多模態(tài)AI助手，能夠通過視覺解析網(wǎng)頁并無縫集成命令行和文件系統(tǒng)，幫助用戶高效完成復(fù)雜任務(wù)。
隨著人工智能技術(shù)的飛速發(fā)展，AI Agent（智能體）作為人工智能領(lǐng)域的重要分支，正逐漸從概念走向現(xiàn)實(shí)，并在各行各業(yè)展現(xiàn)出巨大的應(yīng)用潛力。在眾多AI Agent產(chǎn)品中，Manus以其獨(dú)特的技術(shù)優(yōu)勢和市場表現(xiàn)，有望成為該領(lǐng)域的標(biāo)桿。作為資深A(yù)I工程師，本文將深入探討Manus的背景知識、主要業(yè)務(wù)場景、底層原理、功能的優(yōu)缺點(diǎn)，并嘗試使用Java搭建一個(gè)屬于自己的Manus助手，以期為AI Agent技術(shù)的發(fā)展和應(yīng)用提供參考。
阿里云百煉已上線超強(qiáng)推理開源模型QwQ-32B，尺寸更小，性能比肩DeepSeek滿血版
通義千問團(tuán)隊(duì)推出了320億參數(shù)的QwQ-32B模型，通過大規(guī)模強(qiáng)化學(xué)習(xí)和多階段訓(xùn)練，在數(shù)學(xué)、編程及通用能力上達(dá)到或超越了DeepSeek-R1等先進(jìn)模型。QwQ-32B模型已在阿里云百煉上線，支持API調(diào)用，用戶可通過官方文檔了解詳細(xì)使用方法。未來，團(tuán)隊(duì)將繼續(xù)探索智能體與RL集成，推動人工通用智能的發(fā)展。
如何打造出一個(gè)安全的架構(gòu) —— 一位來自阿里云資深架構(gòu)師的實(shí)踐經(jīng)驗(yàn)分享
springcloud微服務(wù)一：spring boot基礎(chǔ)項(xiàng)目搭建及問題處理
框架源碼私享筆記(02)Mybatis核心框架原理 一條SQL透析核心組件功能特性
阿里云微服務(wù)引擎 MSE 及 云原生 API 網(wǎng)關(guān) 2025 年 2 月產(chǎn)品動態(tài)
阿里云微服務(wù)引擎 MSE 及 云原生 API 網(wǎng)關(guān) 2025 年 1 月產(chǎn)品動態(tài)
