千帆模型升级流式输出体验

更新时间：2025-08-04

文心大模型ERNIE-3.5、ERNIE-4.0、ERNIE-4.0-Turbo主线接口，升级优化了流式输出逻辑，流式输出更接近打字机效果，体验更加流畅，升级前后效果对比可参考本文内容。本文以ERNIE-3.5-8K为例，进行说明。

升级前

使用sdk打印包间延时

                Python
                
            

                import os
import qianfan

# 使用安全认证AK/SK认证，即使用安全认证Access Key、Secret Key
#os.environ["QIANFAN_ACCESS_KEY"] = "your_iam_ak"
#os.environ["QIANFAN_SECRET_KEY"] = "your_iam_sk"

# 使用千帆应用AK/SK接入认证，即使用千帆应用API Key、Secret Key
os.environ["QIANFAN_AK"] = "应用API Key"
os.environ["QIANFAN_SK"] = "应用Secret Key"

# 指定模型ERNIE-3.5-8K
chat = qianfan.ChatCompletion(model="ERNIE-3.5-8K")
resp = chat.do(messages=[{
     "role": "user",
     "content": "推荐一条上海旅游路线"
}], stream=True)

for r in resp:
    print(r.statistic['request_latency'],repr(r['result']))
            

升级前效果

                Python
                
            

                [INFO][2024-07-25 11:23:25.961] oauth.py:228 [t:8020548672]: trying to refresh access_token for ak `F191Xc***`
[INFO][2024-07-25 11:23:26.054] oauth.py:243 [t:8020548672]: sucessfully refresh access_token
700159 '**上海'
9627740000141785 '旅游路线推荐**\n\n**第一天：历史文化与现代交融**\n\n* **上午**：\n\n\t+ **广富林遗址**：位于上海市松江区广富林路'
553929416986648 '，是新石器时代遗址，具有深厚的文化底蕴。'
9472450840403326 '参观过程中，可以深入了解“广富林文化”与中原“龙山文化”和浙江“良渚文化”的渊源。'
8743575839907862 '\n\n* **下午**：\n\n\t+ **外滩**：漫步在外滩，欣赏黄浦江两岸的风光，特别是夜晚的外滩，灯光璀璨，美不胜收'
05884149996563792 '。'
3557952090050094 '同时，可以近距离观赏到“外滩万国建筑博览群”，感受上海独特的城市风貌。'
405650916043669 '\n\n**第二天：文艺与时尚体验**\n\n* **上午**：\n\n\t+ **徐汇老洋房区**：游览徐汇区的老洋房区，包括永福'
1673279579845257 '路、复兴西路、五原路、武康路等。'
6124807079904713 '这里曾是法租界，有许多历史建筑和名人故居，可以感受到老上海的韵味。'
5825263329898007 '\n\n\t+ **武康大楼**：作为地标式建筑，武康大楼是必打卡之地。'
0759432910126634 '这座典型的法国文艺复兴建筑式样的大楼，是上海最早的外廊式公寓建筑。'
9777757080155425 '\n\n* **下午**：\n\n\t+ **田子坊**：从武康路出发，前往田子坊。'
8770414580358192 '这里是由上海最具特色的石库门里弄演变而来，是文艺青年的聚集地，有很多小店和咖啡馆，适合悠闲地逛逛。'
8647846250096336 '\n\n**第三天：乐园与美食之旅**\n\n* **上午**：\n\n\t+ **上海迪士尼乐园**：体验童话世界，尽情享受迪士尼的欢乐氛围。'
6889234170084819 '记得提前购买门票和规划好游玩路线。'
3091887909686193 '\n\n* **下午**：\n\n\t+ **南京路步行街**：从迪士尼返回市区后，前往南京路步行街逛逛，这里有很多品牌老店和'
1929511249763891 '特色小吃。'
7045983750140294 '\n\n\t+ **美食体验**：在上海的最后一天，不妨品尝一下上海的特色美食，如小笼包、生煎包、红烧肉、酱鸭'
1348226250265725 '等。'
132838833029382 '这些美食都能在上海的各大餐馆和小吃店找到。'
2778665410005488 '\n\n以上就是推荐的上海三日游路线，希望你在上海度过一个愉快的假期！'
062321499979589134 ''
            

升级后

使用sdk打印包间延时

                Python
                
            

                import os
import qianfan

# 使用安全认证AK/SK认证，即使用安全认证Access Key、Secret Key
#os.environ["QIANFAN_ACCESS_KEY"] = "your_iam_ak"
#os.environ["QIANFAN_SECRET_KEY"] = "your_iam_sk"

# 使用千帆应用AK/SK接入认证，即使用千帆应用API Key、Secret Key
os.environ["QIANFAN_AK"] = "应用API Key"
os.environ["QIANFAN_SK"] = "应用Secret Key"

# 指定模型ERNIE-3.5-8K
chat = qianfan.ChatCompletion(model="ERNIE-3.5-8K")
resp = chat.do(messages=[{
     "role": "user",
     "content": "推荐一条上海旅游路线"
}], stream=True)

for r in resp:
    print(r.statistic['request_latency'],repr(r['result']))
            

升级后效果

                Python
                
            

                [INFO][2024-08-01 16:58:43.319] oauth.py:228 [t:8646042176]: trying to refresh access_token for ak `iHvWvW***`
[INFO][2024-08-01 16:58:43.569] oauth.py:243 [t:8646042176]: sucessfully refresh access_token
387778 '推荐一条'
11582841700874269 '为期四'
009211374999722466 '天的上海'
06351425001048483 '旅游路线'
07006691599963233 '，这条'
07123833301011473 '路线将'
06696470800670795 '涵盖上海'
09819170800619759 '的经典景点'
04125983398989774 '、历史文化'
10425408399896696 '区域以及'
029571208986453712 '现代娱乐'
07051774999126792 '设施，'
07268237500102259 '确保您能'
0668886250059586 '充分体验'
07086399997933768 '上海的多元'
06639141699997708 '魅力。'
16447545800474472 '\n\n### 上海'
04807858300046064 '四日游'
07409112498862669 '路线推荐'
1400592910067644 '\n\n#### '
0676024169952143 '第一天：'
06523533401195891 '外滩与'
11459166699205525 '老城文化'
09190170798683539 '探索\n\n-'
06486204199609347 ' **上午'
07410741702187806 '**：'
0649150829995051 '从**'
07160804100567475 '外滩**'
15794404098414816 '开始您的'
00023100001271814108 '旅程，'
04962091601919383 '这里是上海的'
0703154579969123 '标志性景点'
0682404580002185 '，黄'
07004529199912213 '浦江畔'
06799508302356116 '的风光'
07311112497700378 '与对岸'
13036883299355395 '的摩天'
006885250011691824 '大楼相映'
0698195000004489 '成趣'
08398799999849871 '。您'
054258499993011355 '可以在此'
07196233398281038 '漫步，'
06597441699705087 '欣赏到'
1624240829842165 '东方明珠'
275001891888678e-05 '、金'
05016375001287088 '茂大厦'
06443208400742151 '等标志性'
06904829200357199 '建筑的壮丽'
070253457990475 '景色。'
14206262500374578 '\n  \n-'
12831200001528487 ' **中午'
009784041991224512 '**：'
06640004098881036 '在外滩'
06882479198975489 '附近的餐厅'
3808249169960618 '享用午餐'
019228374992962927 '，体验'
05882404200383462 '上海本'
06115687501733191 '帮菜'
06451391699374653 '或国际'
06237825000425801 '美食。'
12695316699682735 '\n\n- **'
13062549999449402 '下午**'
441698784939945e-05 '：前往'
06221870900481008 '**老城'
16358074999880046 '隍庙旅游区'
06059904201538302 '**，参观'
06415329201263376 '历史悠久的城'
1752647910034284 '隍庙，'
05427600000984967 '感受古老的'
08267445900128223 '宗教文化氛围'
04593220801325515 '。随后'
06624666700372472 '，漫步'
059106500004418194 '至**'
06513991698739119 '豫园'
1502155830094125 '**，这里'
816700963303447e-05 '不仅有精美的'
05594312498578802 '古典园林'
05080745799932629 '，还有'
06803412499721162 '众多特色'
059909625008003786 '小吃店'
06241883401526138 '，让您'
06404974998440593 '在品味'
06364345800830051 '美食的同时'
10039691600832157 '，体验'
029049834003672004 '江南园林'
0663625419838354 '的韵味'
12801233300706372 '。\n\n-'
06237458297982812 ' **傍晚'
06482554200920276 '**：'
06381862499983981 '前往**'
10788025002693757 '南京路'
026903624995611608 '步行街**，'
05773500000941567 '这里是上海的'
06876108300639316 '购物天堂'
06351820900454186 '，拥有'
06465625000419095 '众多国际'
06161375000374392 '品牌和老字号'
06477687499136664 '店铺，'
11389874998712912 '适合购物'
016376708023017272 '和休闲'
1262611249985639 '。\n\n####'
06464870800846256 ' 第二天'
0651761670014821 '：文化'
06492812500800937 '艺术与历史'
20255879100295715 '遗迹\n\n-'
174999336712062e-05 ' **上午'
056955167005071416 '**：'
06538858299609274 '参观**'
136777792009525 '上海博物馆'
037154250021558255 '**，这里'
018515250005293638 '收藏了大量'
06487574998755008 '珍贵的文物'
12906679100706242 '，是'
0064793750061653554 '了解中国古代'
05867145798401907 '文化艺术的'
07085966700105928 '绝佳场所'
14903270799550228 '。\n\n-'
05818037499557249 ' **中午'
05907720798859373 '**：'
18945520801935345 '在附近'
00020108299213461578 '的餐厅'
00012087501818314195 '享用午餐'
14920487502240576 '，尝试'
02977316701435484 '更多上海'
004806791985174641 '特色美食'
13212779199238867 '。\n\n-'
14232495898613706 ' **下午'
0039053749933373183 '**：'
04681341702234931 '前往**'
06722962501225993 '武康'
061685958004090935 '路**'
06468874998972751 '和**'
062129958998411894 '安福'
06680729100480676 '路**，'
15929524999228306 '这两条充满'
00028100001509301364 '法式风'
03534329202375375 '情的街道'
05901312499190681 '是拍照'
0638698750117328 '和街'
06571716701728292 '拍的好'
06272149999858811 '去处。'
0630199589941185 '您可以漫步'
06774749999749474 '在这些街道上'
17422529100440443 '，感受'
017111458990257233 '上海的文艺'
02710370800923556 '气息，'
06218466701102443 '同时探访'
07170387500082143 '一些名人'
07011245799367316 '故居和历史'
06666833400959149 '建筑，'
13716974999988452 '如武'
00018170897965319455 '康大楼'
13957904200651683 '。\n\n-'
07392716701724567 ' **傍晚'
061861166992457584 '**：'
08688175000133924 '前往**'
16137508300016634 '复兴公园'
00017616699915379286 '**，这是一'
029616457992233336 '座保留'
06853975000558421 '法国古典'
0673333750164602 '式风格的'
0751190000155475 '园林，'
07086804101709276 '适合散步'
06453583302209154 '和休息'
14698874999885447 '。\n\n####'
0630016670038458 ' 第三天'
07107095798710361 '：现代'
06213945901254192 '都市体验'
20125016698148102 '\n\n- **'
00902745799976401 '上午**'
11807062500156462 '：前往'
2951115000178106 '**陆家'
06404595798812807 '嘴金融'
06670179098728113 '区**，'
11087291699368507 '参观**'
021064833010314032 '东方明珠'
06420495800557546 '广播电视塔'
06953237499692477 '**和'
06027300001005642 '**上海'
06348520799656399 '中心大厦'
06750637499499135 '**观景台'
0652532080130186 '，俯'
17594491699128412 '瞰整个上海'
04823879199102521 '的城市风光'
13947187500889413 '。\n\n-'
05373391599277966 ' **中午'
06661316601093858 '**：'
14118291597696953 '在陆家'
1458012573421e-05 '嘴地区的'
06060216698097065 '餐厅享用'
05233891698298976 '午餐，'
07335895800497383 '体验高'
054007041006116197 '端餐饮'
06574245897354558 '文化。'
2170955000037793 '\n\n- **'
0015724579861853272 '下午**'
05399379099253565 '：前往'
04914541699690744 '**田'
06576279198634438 '子坊'
06461704199318774 '**，这是一个'
07420241701765917 '充满艺术'
060050792002584785 '气息的创意'
06008079097955488 '园区，'
10035095800412819 '由旧'
07651458299369551 '弄堂'
01725308399181813 '改造而成'
0600346669962164 '，现在'
06307720800396055 '聚集了'
0729732499748934 '众多艺术家'
06319962500128895 '工作室、'
0576850000070408 '咖啡馆、'
11583504200098105 '小店等'
04223049999563955 '，是'
03540741701726802 '体验上海'
06959987498703413 '现代都市'
06360195801244117 '文化的好'
06715133300167508 '去处。'
12426308399881236 '\n\n- **'
12025033301324584 '傍晚**'
013278083002660424 '：如果'
06058745799236931 '时间允许'
061949499999172986 '，可以'
06678175000706688 '前往**'
06615125000826083 '新天'
06606758400448598 '地**，'
061983207997400314 '这是一个集'
12056658300571144 '时尚、'
05620462499791756 '餐饮、'
026066708989674225 '娱乐于一体的'
06254237500252202 '休闲区'
06164179201005027 '，晚上'
06306462499196641 '更加热闹'
1514555829926394 '。\n\n####'
1015297909907531 ' 第四天'
007782791013596579 '：迪士尼'
06647650001104921 '乐园奇幻'
12585908299661241 '之旅\n\n-'
06282875000033528 ' **全天'
06565841598785482 '**：'
06441779198939912 '前往**'
1318075410090387 '上海迪士尼'
00020433301688171923 '乐园**，'
05922262501553632 '这是一个'
06974741700105369 '充满欢乐'
061490500025684014 '和梦想'
0632249999907799 '的地方。'
06631424999795854 '在这里，'
062212082993937656 '您可以与'
14615449999109842 '迪士尼的'
00022829099907539785 '卡通人物'
04852116698748432 '亲密互动'
06540875000064261 '，体验'
062345624988665804 '各种刺激的'
06576033399323933 '游乐设施'
061999249999644235 '，观看'
06691258301725611 '精彩的表演'
1515458329813555 '和巡'
00035958399530500174 '游，'
039382874994771555 '度过一个'
06595966700115241 '难忘的童话'
06711891599115916 '日。'
12484699999913573 '\n\n这条路线'
06510333399637602 '覆盖了上海'
06577129199285991 '的经典景点'
09282262498163618 '、历史文化'
054538583994144574 '区域和现代'
04653433299972676 '娱乐设施'
06512458299403079 '，希望能'
06450220799888484 '为您的'
06604029098525643 '上海之旅'
06138216602266766 '带来愉快的'
06836145900888368 '体验。'
10241079202387482 ''
            

故乡的云·国产大模型普惠计划开放公告

千帆ModelBuilder关于ERNIE系列模型刊例价调整公告

头疼吃什么药效果好	吃什么养肝护肝最好	梦见黑棺材是什么征兆	心灵的洗礼是什么意思	特别怕热爱出汗是什么原因
补气固表什么意思	rom是什么意思	sph是什么意思	相濡以沫是什么生肖	377是什么意思
爱吃甜食是缺乏什么	八月出生的是什么星座	学生是什么阶级	男扮女装是什么意思	五子登科是什么意思
子宫脱垂是什么症状	飨宴是什么意思	乌冬面为什么叫乌冬面	为什么正骨后几天越来越疼	红油抄手是什么

胃不舒服吃什么食物好hcv9jop3ns2r.cn	仁德是什么意思hcv8jop1ns8r.cn	手肿是什么原因hcv8jop6ns8r.cn	腋毛癣用什么药膏bfb118.com	梗概什么意思hcv8jop0ns9r.cn
七月十号是什么日子hcv9jop6ns5r.cn	super是什么意思hcv8jop5ns5r.cn	什么的小毛虫wzqsfys.com	ms是什么单位hcv7jop9ns8r.cn	刀代表什么数字hcv8jop0ns3r.cn
癔病是一种什么病hcv8jop5ns2r.cn	伊始什么意思hcv8jop0ns1r.cn	牙龈肿痛吃什么中成药hcv9jop3ns7r.cn	检查痛风挂什么科hcv8jop4ns7r.cn	指鹿为马是什么意思hcv7jop9ns2r.cn
bm是什么意思hcv8jop6ns9r.cn	多宝鱼是什么鱼96micro.com	cabbeen是什么牌子hcv8jop7ns9r.cn	梦见自己洗澡是什么意思hcv9jop5ns2r.cn	下面瘙痒用什么药膏hcv8jop0ns2r.cn

厦门春季求职期平均薪酬为7452元财务竞争最激烈

千帆大模型服务与开发平台ModelBuilder

千帆大模型服务与开发平台ModelBuilder

千帆模型升级流式输出体验

升级前

使用sdk打印包间延时

升级前效果

升级后

使用sdk打印包间延时

升级后效果