巨龙所知道的以ChatGPT为代表的AI技术狂飙式发展，让技术的双刃剑特性愈演愈烈。在革新生产力的同时，AI安全尤其内容安全引发担忧。日前，AI生成违法违规内容、AI诈骗等乱象层出不穷，“通过AI换脸向好友借钱，10分钟被骗430万”、“通过AI合成语音电话，勒索赎金”等国内外诈骗事件不断冲上热搜，也让更多人意识到：AI智能工具正在以超越以往的速度，制造出新的、智能化的威胁，其危害性正在冲破传统的安全防护屏障。

　　对此，相关部门加快制定监管政策的速度，而另一方面，业内专家也指出，用人工智能“对抗”人工智能成为最有效的监管模式。

　　对比目前传统的单一智能内容安全监测技术或产品服务，东方通300379）重磅推出“产品+技术”组合型智能化内容安全监测体系，基于自主创新的AI内容监测软硬件产品+AI生成式技术深度研究，形成立体化的内容安全监测与管理能力，助力构建清朗网络空间。

　　基于DPI技术采集关键网络出口流量，结合东方通多年行业积累沉淀的情报库和人工智能应用研究，能够针对性的识别出“生成式人工智能应用”的特征，对其中违法违规的应用进行监测处置。该设备采用了专用的国产硬件，单台设备支持处理100Gbps以上网络流量，主要应用于电信运营商、信息安全监管部门等。

　　基于国产GPU开发的软硬一体设备，能够部署于户外，例如产业园区、大型商业区、校园等场景中，可以监测和处置户外广告大屏宣传中的视频、图片、文字等多样化内容，能够实时发现和处理违法违规内容、深度合成内容、违法广告等，可为广大人民群众提供更为洁净、健康、祥和的日常生活空间。

　　依据《互联网信息服务深度合成管理规定》、《互联网新闻信息服务管理规定》等法规要求，基于深度学习算法的图片识别能力、多维度视频内容识别能力、智能化音频内容识别能力、图像视频高速率伪造检测技术，能够监测网站、微博、微信公众号、小程序、APP、视频平台、IPTV等新媒体平台的内容安全，能够智能识别200多类违法违规内容及深度合成内容，实现内容安全治理的全流程管理。该系统已应用于电信运营商、广电、互联网公司等政企单位，在广播电视、网络视听及新媒体领域，以四川广播电视监测中心四川广播电视和网络视听监测系统为例，东方通瑶光内容安全监测系统在内容发布、网络接入服务等场景中提供了强大的内容监管能力,并可针对当前 AI 换脸诈骗等风险场景提供更为精准的安全监测。

　　在涉诈风险领域，随着人工智能的接入，风险隐蔽性更强，反诈工作难度大幅提升。东方通TongGPT智能语音交互系统依托东方通AI生成式人工智能技术的研究，将推出TongGPT多模态智能交互模型，计划年底之前实现涉诈风险智能语音提醒、智能客服等场景AI识别服务。尤其面对AI生成语音诈骗时，可自动化提醒“受害人员”，解决当前电信网络诈骗治理过程中的涉诈风险提醒效率、覆盖率等难题，提升涉诈风险识别能力，减少人工识别的投入，提高涉诈提醒的及时性、有效性，实现降本增效，提升防范、治理电信网络诈骗等新型违法犯罪的能力。

　　依据中央网信办发布的《生成式人工智能服务管理办法》（征求意见稿）的要求，基于大模型对抗实现对算法安全性检测，东方通目前已经开启针对ChatGPT等新型交互式AIGC算法的安全性评估测试方法和工具开发的研究，能够检测生成式人工智能算法的潜在安全风险，包括内容安全性（含违法违规风险、歧视性风险、虚假信息风险等）、隐私数据安全、算法鲁棒性、恶意代码风险等，从算法源头实现检测、预防和治理AI内容风险，未来将面向监管部门和算法服务提供者提供全面支撑服务。

　　AI内容风险随着AI技术的成熟和应用已经成为网络空间的巨大威胁，加强内容监管已成大势所趋。东方通将继续发挥在信息安全领域的数据采集、处理分析等优势，持续加快相关创新产品的落地，并深入AI生成式技术及大模型的研究，提供更加全面高效的解决方案，助力实现“内生安全”，让内容更好服务生产生活的同时，增强网络的净化能力。

　　东方通（股票代码：300379），是国内A股上市的基础软件厂商，以“安全+”、“数据+”和智慧+三大产品体系为基础，为客户提供综合解决方案及服务，是国内领先的大安全及行业信息化产品、解决方案提供商。

　　东方通现拥有东方通网信、泰策科技等全资子公司，面向企业和社会的数字化转型与升级，提供基础软件、网络信息安全、数据安全、通信安全、智慧应急、5G创新应用、工业互联网安全及社会治理等产品和解决方案，帮助用户实现业务创新、安全管控和数据的共享与价值挖掘等。

　　东方通的产品及解决方案广泛应用于国内数千个行业业务，服务电信、金融、政府、能源、交通等行业领域8000多家企业级用户，与3000多家合作伙伴携手打造合作共赢的产业生态。东方通连续十二年被认定为“国家规划布局内重点软件企业”，承担多项国家重大科技专项的研制任务，是北京软件和信息服务业综合实力百强企业，曾荣获国家科技进步二等奖、 北京市科学技术进步奖二等奖等多项荣誉。

　　投资者关系关于同花顺软件下载法律声明运营许可联系我们友情链接招聘英才用户体验计划

　　不良信息举报电话举报邮箱：增值电信业务经营许可证：B2-20090237