让任意大模型开口说话,5分钟即可构建一个属于自己的DeepSeek
在日前召开的杨浦区科技创新大会上,以共筑杨“数”浦新质秀带为主题,杨浦密集发布了一系列企业创新项目。其中,声网对话式AI引擎、道客d.run上线DeepSeek R1模型,引人注目。
在生成式 AI的浪潮下,不少业内人士认为,随着大模型的不断进步,语音将成为关键的切入点。
杨浦企业声网作为全球实时互动云行业的开创者,在音视频领域积累了深厚的技术优势与场景实践,一直致力于将 RTE 与生成式AI结合,并推出对话式AI引擎,为开发者带来“多快好省”的AI语音对话体验。
声网对话式AI引擎提供了极简的开发部署,只需2行代码,15分钟就能让AI开口说话,大幅降低了开发门槛。只需填入与复制LLM与TTS相关的URL与Key,就能实现快速部署,具体流程可查看声网官网的文档中心。
对话式AI引擎的成本也更优,AI语音对话只需0.098元/分钟,单次还赠送1000分钟。声网自研的“智能打断”功能作为增值服务也只需0.042元/分钟,以更低的成本助力开发者探索AI应用场景。
声网AI RTE产品线负责人姚光华表示,“经过一段时间与客户的打磨及实际使用场景调研,我们统计出,用户与AI每产生1次对话中,平均会有约3轮问答,计算下来平均对话时长约为21.1s,单次成本仅需3分钱。如果每月对话次数15次,那么月成本不到5毛钱,年成本也只需5元。”
通过声网对话式AI引擎,开发者可以快速部署智能助手、虚拟陪伴、口语陪练、智能客服、智能硬件等对话式AI场景。例如,智能助手场景可以通过自然语言交互,帮助人们进行日程管理、信息查询和任务执行,全面提升生活便利性,并提高工作效率。
说到效率,那么只需五分钟,就可以构建一个属于自己的DeepSeek,是一种什么体验?
d.run平台支持包括MoE在内的多种大模型架构,还配备了预训练、微调、推理全流程工具,真正实现了开箱即用。用户访问“模型体验-文本模型”即可一键解锁稳定的DeepSeek R1满血版及蒸馏版体验。此外,用户还可以一键部署1.5B、14B、32B蒸馏版本,无需购买显卡、安装驱动、配置网络和存储、安装环境、下载模型等一系列冗余的工作,只需5分钟就可以构建一个属于自己的DeepSeek。
模型服务的稳定离不开底层源源不断的算力支持,d.run以云原生驱动算力资源的灵活调度,使得GPU利用率提升至80%以上,而且支持英伟达、华为昇腾、沐曦、燧原等国内外主流芯片架构,可以通过动态感知模型需求,帮助用户自动匹配最优算力方案。无论是“技术小白”还是开发者,都可以在d.run上开启稳定、可靠的 DeepSeek R1体验。
当智能调度遇上超强认知模型,d.run 正在加载 DeepSeek R1 的核爆级升级。
其实,从DeepSeek开源看AI infra领域创新,道客已经在这里走过10个年头。换句话说,道客已在AI编排调度领域构建了一定的开源技术矩阵。以AI infra上的竞争为例,Kubernetes作为AI算力调度的事实标准,其技术创新正成为推动行业进化的核心引擎。道客在Kubernetes社区占据重要话语权,贡献量全球第三,国内第一,而且基于Kubernetes生态,自主开源或者核心贡献了一系列技术成果。
为了更好地支持上层推理,社区内出现了首个基于Kubernetes的企业级推理系统AIBrix。作为该项目的核心贡献者,道客正在与字节跳动、Google、密歇根大学等产业界和学术界的开源伙伴,共同推动该项目在生产环境中的推理效率优化,加速大模型服务向高效落地阶段演进。
未来,道客将继续坚持“开放核心+企业扩展”的商业化范式,从技术攻坚走向生态赋能,让开源价值穿透技术社区,直达产业腹地。
金融之“智”,探索“超个性化”财富管理服务的无限可能
如今,以人工智能为代表的数智科技快速进化,为金融数字化转型注入了更多活力。
作为中国领先的智能化投资增值平台,淘金者科技集团深耕中国市场,在互联网金融领域探索未来的无限可能。2023年,淘金者科技集团旗下上海海能证券投资顾问有限公司“落户”杨浦,作为中国证监会首批颁发认证的专业投资咨询机构,公司以淘金者科技“量化+大数据”为核心技术引擎,为投资者提供服务。
“杨浦的‘科技-金融-产业’良性循环模式,对企业的发展助力巨大。”淘金者科技集团高级常务副总经理章岩说,在杨浦这一高校云集的创新热土上,企业得到了丰富的人才支持。同时,杨浦良好的营商环境,也让企业更有归属感和获得感。
近年来,随着居民理财意识的增强,个人金融投资市场体量和空间巨大。新一代年轻人的投资观念正在发生转变,权益类资产在居民大类资产配置中的比例不断提升。同时,有数据显示,在互联网渗透率及移动设备使用量不断增加的趋势下,绝大部分投资者通过互联网和移动端产品进行交易。
淘金者科技集团以量化技术为基础,以AI技术为驱动,积极探索,打造了智能条件单、DK智投等高效、精准的智能化投资服务产品,构建了精细化的运营、增值交易服务体系,持续赋能自有业务线及合作机构,满足用户的个性化、智能化投资需求,在国内互联网证券领域处于领先地位。
目前,淘金者科技集团已经联合腾讯云,在人工智能领域持续探索,实现了包括智能开户、AI内容安全审核、市场舆情热点大模型报告、证券智能写稿等在内的应用场景。
“人工智能技术的演进,为‘超个性化’的财富管理服务带来了无限可能。随着科技的飞速发展,AI已经渗透我们生活的方方面面,其中,金融领域更是其大展拳脚的舞台。”章岩介绍,眼下,智慧金融新纪元已开启。特别是AI支持的智能财富管理,正在深刻改变着人们的理财方式和财富增长路径。
对于金融行业而言,AI可以通过对海量数据的深度学习和分析,进而帮助企业预测和判断市场趋势,发现市场的潜在机会和风险。章岩表示,“未来,我们将探索更多智能化场景应用,赋能资管行业的财富管理机构,让财富服务更智能化、个性化、有温度。”
■成佳佳 吴百欣
本版图片部分由相关单位提供,部分为资料图