BCG 调查,64% 的企业领导者已经开始导入生成式 AI 重塑内部组织,并利用生成式 AI 工具节省每周五小时的工作时间,以投入执行更多工作,或处理战略性质任务。不过当生成式AI 为日常带来更多便利,却也衍生AI 幻觉、资料隐私与保护、训练专属模型等挑战,Netron 网创资讯资深技术协理周浩汶在科技报橘举办的「AI Innovation Day :2025 AI 创新日」论坛,深入探讨如何借力弹性安全的AI 知识管理系统,助企业透过生成式AI 加速产业创新,同时克服使用上面临的挑战。
「当个人已经广泛运用生成式 AI,但是对企业而言,为何相对裹足不前?」周浩汶从三个关键因素剖析。第一,企业使用 ChatGPT 往往出现 AI 幻觉问题,并得到偏见、错误或者已经过时的资讯。第二,企业使用ChatGPT,会发现Data Control(数据控制)包含「Improve the model for everyone」功能,意即企业分享给ChatGPT 的数据、整段对话过程,都可能成为ChatGPT 优化模型的资料来源,进而产生资料隐私安全的疑虑。第三,企业基于安全、使用最新资料等考量,希望训练并微调自己专属的模型,却需要投入庞大经费和时间维护,将其训练为最新版本,然而就算这个模型在业界领先,也不完全能够实现最精准、最有效率的成果。
NAVI 企业AI知识管理系统保护机敏资料的使用
为协助企业克服采用生成式AI,所面临幻觉、资料隐私与保护等挑战,Netron 网创资讯针对企业设计「生成式AI 知识管理」解决方案,能够支援各式各样的资料来源,并整合企业身分证、划分各种资料使用等级,以保护机敏资料的使用。另外,随着大型语言模型持续发展,NAVI 支援Claude 3.5、GPT 4o、Stable Diffusion 等多种最先进LLM 模型,可以协助客户平衡效率与成本,同时透过LLM Token 额度控管,轻松管理使用预算,「我们所利用的技术就是RAG(检索增强生成),你可以想像成企业找到一位学霸,或者经验非常丰富的员工,但他不可能知道全部知识,然而现在当你提供数百页的文件,他可以在几秒钟之内阅读完成,并根据这些文件资料告诉你相关概念或应用,」周浩汶说明。
而企业如何应用生成式 AI 知识管理解决方案?周浩汶表示,在医疗保健领域,Netron 网创资讯能够协助医生提供治疗或症状的资讯、即时回答患者的查询与问题;在金融领域,能够自动化处理与银行常见问题相关的客户查询、生成管理客户帐户的提示或最佳实践;在教育领域,能够根据学生的个人资料,提供个性化学习体验、回答学生在学科方面等问题;在行销领域,能够为目标广告创建营销文案,并通过提示提供客户行为洞察;在人资领域,能够实时回答员工或雇主的问题、 自动化入职与其他人力资源任务;在观光领域,也能够藉由内容生成为客户提供旅游和目的地建议、 撰写旅游内容以产生有机潜在客户。
在医疗、金融、客服领域的创新应用场景
「我也跟很多金融客户们讨论,如何应用AI 帮助他们加快投资理财的分析,」周浩汶表示,投资公司需要研究这些市场最新的财报资料,然而每份财报资料涵盖当季多个月份的图表、文件,也需要时常参考更即时的网站、新闻、社群资料,从而拟定投资策略。但是投资公司透过人工分析再转入自己研究的Excel 档案、维护资料,通常会花费数天时间,「现在运用AI,我们将可以通过投资助理帮助企业自动化分析、生成财报,就算文件是英文、韩文、日文,也都可以转换成客户最熟悉的语言,让整个分析流程从几天的时间大幅缩短至几秒钟完成。另外在一、两个小时的法说会,我们也可以让AI 自动生成会议记录摘要,并汇整投资人的提问,带来极大便利性,」周浩汶补充。
在客服领域,Netron 网创资讯也协助客户运用 AI 解决社会问题。周浩汶以医院急诊中心的应用为例,当接通民众的紧急电话后,急难救护人员需要记录所有情况、立即提供救助SOP,同时不断确认患者情况,最后再将完整语音讯息登录至系统,肩负人命压力以及庞大的行政作业。而透过 AI 智慧辅助,可以根据通话纪录自动汇整案件细节,包括案件类型、报案人、发生地点、案件状况、提供处理的建议步骤。周浩汶强调,Netron 网创资讯希望通过 AI 知识管理平台,结合企业各个应用场景,以提供更多创新应用,并持续推动业务创新。
资料来源:科技报橘