您可以捐助,支持我们的公益事业。

1元 10元 50元





认证码:  验证码,看不清楚?请点击刷新验证码 必填



  求知 文章 文库 Lib 视频 iPerson 课程 认证 咨询 工具 讲座 模型库 Model Center   Code  
会员   
   
业务架构设计
4月18-19日 在线直播
基于UML和EA进行系统分析设计
4月25-26日 北京+在线
AI 智能化软件测试方法与实践
5月23-24日 上海+在线
     
   
 
 订阅
知识引擎和智能体平台助力大模型落地
 
作者:江月明
  81  次浏览      4 次
 2025-4-24
 
编辑推荐:
文章主要介绍了企业大模型场景落地的关注点和痛点及如何在 DeepSeek R1 时代更好地进行智能化转型等相关内容。希望对你的学习有帮助。
本文来自于微信公众号会飞的一十六 ,由火龙果软件Linda编辑,推荐。

一、企业大模型场景落地的关注点和痛点

规划:前期如何规划?

如何统一规划整体架构?

  • 并发支持、响应速度

  • 租用还是自建

  • 算力需求多大

  • 商用还是开源?是否全部采用 DeepSeek R1?

  • 本地还是云端

  • 统一规划还是各自尝试

  • 服务于哪些业务目标

  • 目标

  • 大模型

  • 算力

  • 性能

  • 数据安全性考量

  • 总体多少预算

选型:技术路线怎么选?

  • 如何做合理的技术选型?

  • 对大模型的要求

    • 是不是只要大模型就够了

    • 需要大模型做微调

    • 构建行业大模型

    • 各类场景分别选用什么样的大模型合适

    • DeepSeek R1 适合哪些场景?

  • 落地方法

    • 使用各种 RAG 技术做落地,还是需要融入图技术

    • 问数应该是 Text2SQL,还是 Text2 指标?

落地:如何有好的效果?

  • 如何做到结果可信

    • 如何减少幻觉

    • 如何保证结果可解释

  • 如何做到效果好

    • 为什么换一份数据效果不好

    • 表格、图片效果如何

    • 简单问题可以处理,复杂问题回答不了

    • 可以做混合问答么,问答和问数融合在一起

  • 如何保证数据安全性

    • 数据权限

场景:如何选定高价值场景?

  • 目标用户是谁,有什么痛点?

  • 应该如何找场景?

  • 需要哪些人参与

  • 如何找到高价值场景

  • 业务成熟度如何?

    • 是否高频、重复、标准

  • 数据情况如何?

    • 已有数据,持续迭代情况?

  • 技术成熟度

    • 是否可以支持场景实现?

二、如何在 DeepSeek R1 时代更好地进行智能化转型

  • 价值

包括成本投入降低、自主决策能力增强、自主可控安全、行业模型推理、蒸馏小模型推理、复用能力沉淀。

  • 优势

有低训练 & 推理成本、推理能力佳、国产化、强化学习、领域知识蒸馏、低代码工具 。

  • 流程

从 DeepSeek R1 基础模型出发,经 SFT(有监督微调)和 RF(强化学习 ),利用行业推理数据,先构建带推理能力的行业大模型,再通过 SFT 得到带推理能力的专有蒸馏小模型。

  • 数据

涉及行业公开数据和私有数据集 。

三、知识构建:构建数据融合的统一语义层

企业数据

  • 企业各类格式文档

  • 企业数据库

  • 企业指标系统

  • 视频 / 图片数据

  • 组织机构数据

  • 外部各类数据(舆情、论文、专利..)

关系构建

数据血缘

  • 根据结构化数据之间的关系,构建数据血缘链路

  • 根据非结构化数据的关系,构建数据血缘关系,包括分片、段落、文档,知识库等

结构化数据图构建

  • 根据元数据梳理自动化构图,比如社交网络、供应链等

非结构化数据

  • 大模型进行实体关系抽取

  • 根据抽取的反馈,大模型微调

  • 基于微调大模型做实体关系抽取

  • 人工校验并入图

  • 视频 / 图片 / 音频:先结构化,再抽取关系

非结构化数据文档段落关系构建

  • 根据段落抽取对应的图

  • 包括分级目录结构

  • 切片前后关系

  • 文档片段与标签的关系

结构化非结构化数据关系构建

  • 组织机构关系

  • 作者与文档、代码、工作项的关系

  • 文档引用关系

  • 根据关系自动构建

 
   
81 次浏览       4
相关文章

基于图卷积网络的图深度学习
自动驾驶中的3D目标检测
工业机器人控制系统架构介绍
项目实战:如何构建知识图谱
 
相关文档

5G人工智能物联网的典型应用
深度学习在自动驾驶中的应用
图神经网络在交叉学科领域的应用研究
无人机系统原理
相关课程

人工智能、机器学习&TensorFlow
机器人软件开发技术
人工智能,机器学习和深度学习
图像处理算法方法与实践

最新活动计划
人工智能.机器学习TensorFlow 5-22[北京]
AI智能化软件测试方法与实践 5-23[北京]
图数据库与知识图谱 5-22[北京]
DeepSeek大模型应用开发 6-12[厦门]
基于 UML 和EA进行分析设计 6-23[北京]
嵌入式软件架构-高级实践 7-9[北京]
 
 
最新文章
AIGC技术与应用全解析
详解知识图谱的构建全流程
大模型升级与设计之道
自动驾驶和辅助驾驶系统
ROS机器人操作系统底层原理
最新课程
人工智能,机器学习和深度学习
人工智能与机器学习应用实战
人工智能-图像处理和识别
人工智能、机器学习& TensorFlow+Keras框架实践
人工智能+Python+大数据
成功案例
某综合性科研机构 人工智能与机器学习
某银行 人工智能+Python+大数据
北京 人工智能、机器学习& TensorFlow
某领先数字地图提供商 Python数据分析
中国移动 人工智能、机器学习和深度学习