恒行3

新闻宣布
恒行3_恒行3平台-授权注册效劳中心
连忙打印
媒体联络
田园
恒行3集团 +86 1521 0340 959 tianyuanh@yonyou.com
企业效劳大模子落地的统一入口:智能大搜
2024年6月11日



本文首次宣布于《企业家》杂志2024年3月刊

作者:恒行3iuap数据中台专家 姚春雷


今年两会时代,“人工智能+”首次被写入政府事情报告。随着人工智能在企业的深化应用,无论是ChatGPT的降生,照旧Sora的横空出生,大模子在富厚人工智能的应用场景中起到主要作用。目今,企业对大模子的讨论也不再局限于手艺自己,而是越发关注大模子可以在哪些场景真正落地?怎样通过大模子赋能千行百业,从而为人类、企业以及社会的高质量生长创立价值。


1

企业应用大模子的难题:

私有化安排


从大模子的能力来看,其具备影象、推理、逻辑明确、内容天生、代码天生等多项能力,包括现在多模态的生长,以是大模子在很洪流平上能完成许多重大的使命。企业关于数据的清静性要求较高,关于企业而言私有化安排是企业在大模子应用时的优先选择。可是私有安排,关于软硬件装备、手艺开发能力等有很高的要求。


其一,盘算资源需求大。大模子的训推需要大宗的盘算资源,如高性能盘算机、大规模集群和云盘算平台等。


其二,存储空间大。大模子参数越大所需要的数据量就越大,这也意味着需要具备先进的数据处置惩罚和存储手艺。


其三,一连学习问题。大模子是基于资料自我学习后再把信息举行整合、加工,转达给用户。大模子只有一直的学习,才华知足企业即时搜索的需要。这样大模子中的数据量会越来越大,盘算历程越来越重大,以是对大模子的运算能力和运算时间提出更高要求。


其四,重大场景的落地本钱高。企业重大的营业场景对模子的参数要求越高,随之本钱越高。


恒行3企业效劳大模子YonGPT,思量落地历程中本钱高、落地难等问题,对大模子举行了裁剪,也就是模子压缩。压缩以后,硬件和软件方面的本钱都可以降到企业可接受的规模。这一步完成后,软硬件的本钱解决了,但想让大模子真正落地,最主要的就是场景。


2

大模子落地企业

场景的便捷入口:

智能大搜


恒行3在效劳企业客户时发明,大部分企业尤其是重大的组织中的非结构化数据量是很是大的,寻找文档、人、图片、视频等内容的历程很是重大。


其一,很难判断“搜”和“答”的界线。好比,我们平时用百度或谷歌搜索,通常是搜索详细的要害词,搜索和问答很难判断是由于搜索有时间无形地陪同着问答。好比“智能大搜是一款什么样的产品?”这是一个问题,但它也可能是搜索“智能大搜”的要害词,以是我们在搜索中很难判断究竟是问照旧搜。这就要求我们要对整个要害词举行很好的语义明确,把要害词提取出来举行相关的搜索。


其二,海量数据需要一连运营。上面提到大模子需要一直学习,那就需要把企业海量的数据举行处置惩罚,其次是标注、标签,更主要,还需要知识的运营。好比企业怎样构建知识库,怎样让知识库里的知识快速知足差别角色差别场景下的搜索需要。


恒行3作为一个大型企业同样遇到这些问题。因此恒行3从2014年最先在解决自身企业搜索问题的同时,于2023年团结大模子底座YonGPT正式推出了智能大搜,为企业提供AI大模子驱动的新一代搜索引擎,让知识赋能营业和组织。


智能大搜的泛起,一方面让企业大模子的落地有了便捷的入口;另外企业对资料的一连迭代,在大模子的作用下,解决了即时搜索的难题;同时,智能大搜也是企业大模子在搜索能力上的增强应用,为企业搜索提升了人性化的体验,也降低了大模子的落地本钱难题。


 


3

智能大搜应用场景:

智搜、智问、智推


智能大搜的主要目的是解决企业构建知识库的问题。通过搜文档、搜视频等功效,恒行3智能大搜能够迅速定位所需内容,资助企业提升知识获取效率、降低学习本钱。


现在海内市场上,智能搜索相关产品很是多,但大大都产品的焦点能力是语言型的搜索能力,YonGPT智能大搜具备多模态的搜索能力,可以支持文档搜索、图片搜索、视频搜索、图谱搜索等,同时也可以绑定事情流来凭证需要举行设置;智能大搜是多级门户的设计,企业可以通过差别组织、差别角色来界说差别的搜索门户;智能大搜支持门户的运营剖析。包括有几多文件数目、文件类型、文件空间、图片数目等,包括一级节点数、二级节点数、搜索要害词排名、用户排名、掷中率排名、失败率排名等。企业在大模子治理方面,可以默认使用恒行3YonGPT,也可以设置文心一言、通义千问、智谱等模子,甚至匹配自己的模子;支持资源库的建设、修改、编辑等。包括文件批量上传、单文件的上传、自动分词,包括凭证分词处置惩罚,凭证分词以外的处置惩罚。也包括把分词部分内容退给GPT,作为GPT的学习入口、数据入口,同时也支持PDF、DOC等多种文档类型。并且恒行3的智能大搜完全支持私有化安排。


恒行3智能大搜可以为企业带来智搜、智答、智推三方面价值,基于用户画像猜用户所想,推用户所需,助力企业内部资源高效应用。


 


一、智搜:智能大搜基于恒行3企业效劳大模子YonGPT,提供“陶醉式”搜索新体验,低本钱接入,聚焦企业种种搜索场景,资助员工快速、准确获取所需知识。


详细到某些特定的场景,好比搜索时具备修正词的能力。诸如执法、金融医疗行业通常有大宗专业名词,信息名称在输错的情形下,能否精准掷中,磨练的就是修正词的能力,以是恒行3智能大搜构建了修正词的能力,用户也可以凭证自己的需求构建自有的修正词库,同时还支持一些知识图谱、资源标注、资源权限的控制能力。


以医疗行业为例,好比输入“复方甘草片”,其中方是方块的“方”,不是芳草的“芳”。可是若是我们输入错了,大模子是不可精准判断的。可是在大模子底层掷中的时间,它会直接替换成准确的词去盘问,也就是说纵然你输入的词是过失,但依然能查到准确的效果。


经视察发明,医疗行业每人天天上百次盘问的过失率高达60%,用了修正词库功效后准确率确实提高了许多。


再如权限功效,即支持多级的搜索门户和权限搭配。大部分搜索引擎中是不会划分权限的,但一样平常企业是很是严肃的企业。好比政府,文件分为果真、神秘、保密文件,差别文件需要匹配差别的角色。以是恒行3智能大搜在搭建搜索门户时,绑定了有权限的资源库,举行角色分派,即差别的角色可以会见相对权限的搜索门户,不是所有角色都能会见统一的门户。


在这种情形下,若是我们给每个门户分派多个权限很是繁琐,以是我们把资源和门户绑定过以后,用户在搜索时会携带用户信息进入到搜索层,凭证用户信息来决议你能会见哪个资源库的权限,从而解决典范的权限问题,也大大降低了设置的事情量。


以政府搜索门户为例,通俗科员搜索的一样平常是果真文件,市委书记或者更高层向导一样平常是能看到保密或神秘文件的,在这种情形下智能大搜会自然无感的给你做权限划分。也就是说你在搜索的时间,通俗科员基础搜索不到神秘文件,模子也不会把神秘文件输出来。


二、智答:强盛的语义明确和剖析能力,挖掘企业沉淀的领域/行业知识宝藏,提供高质量的多模态知识问答,降低学习本钱,提升事情效率。


智能大搜的一大挑战是很难明决“搜”和“问”的界线,以是智能大搜把“搜”和“问”做了模糊处置惩罚,可以为用户提供匹配真实需求的谜底


好比我们问“张三是谁?”在正常搜索中一样平常会搜“张三”两个字,但这个提问后面多了一个“是谁”,若是我们把这四个字整体作为一个语义明确的时间会较量贫困,究竟是在问张三,照旧问后面是谁?若是仅仅问张三,搜索张三的要害词,和张三相关的内容都会出来。可是你要问是谁?更多是要找他的简历及关的先容。以是智能大搜把“搜”和“问”举行了模糊处置惩罚,也就是说不管输入“张三”照旧“张三是谁?”,他都能精准的明确用户的意图,整个历程不需要用户自己做特别的界定。


三、智推:基于用户画像,猜用户所想,推用户所需,助力企业内部资源高效应用。


智推功效,可以明确为推荐的功效。在整个搜索历程中,智能大搜推荐的是用知识图谱感知用户的明确后输出的内容。好比搜索“微效劳宕机了怎么办?”除了给你推荐解决微效劳宕机的解法,还会推荐和微效劳宕机相关的其他内容,这就是它的推理能力。


恒行3智能大搜已经在企业获得乐成应用,好比致力于采购与招标领域深圳市远东数智采手艺效劳有限公司。远东数智采基于YonGPT,实现对海量标书举行智能化搜索和快速智能撰写标书。其中通过恒行3智能大搜,远东数智采构建了新的大模子搜索门户,为每个用户提供快速的文档检索能力,并且提供问答式的检索,在一样平常生涯中我们很难界说什么是搜索,什么是问答,新的大模子搜索有用的将这两块的界线消除,使得平台使用者能有用的获得需要的内容,我们在问答式检索中同时为用户提供知识图谱的能力,问答内容的相关性以及与之有关系的内容也会以图谱的方法举行泛起。


从实践来看,简单大模子很难在企业落地。智能大搜是适合全行业,企业全角色的一套工具,让大模子在企业的应用中找到了落所在。并且针对差别行业差别用户需求,智能大搜还可以支持定制化应用。因此未来智能大搜一定会成为企业级大模子的前端能力,为大模子在企业的落地提供了统一的且便捷的入口,通过人工智能+提升企业新质生产力,实现高质量生长!


 


 


 


 
 
 





【网站地图】【sitemap】
·