返回首页  设为首页  加入收藏  今天是:
网站首页科技手机智能科学时尚教育亲子艺术房产
相关文章
 Ai大模型能否继续扩展? 专家…
 钱学森侄子荣获诺贝尔奖接受…
 美媒:民调显示美国人对美军…
 美国人做梦都想“干掉”这三…
 外星技术?美国人如何在七十…
 龚俊和檀健次vogue活动路透一…
 VOGUE 一本时尚美学编年史
 VOGUE九月刊数字艺术封面 S&…
 因为是刘雯这些衣服才符合VO…
 时装前沿_时装配饰_太平洋时…
 2020国家公务员考试申论名言…
 新传考研八大领域的60个名言…
 行测和申论每门都考了70+分以…
 讲故事明道理固初心——读《…
 语文作文万能模板、句型(含…
 【汇总】盘点主流1TB大存储手…
 iPhone 14 4800万镜头和iPho…
 节奏有点儿快 荣耀Magic 3和…
 手机专题列表 zol-中关村在线
 荣耀X40曝光:发布时间基本确…
 江苏南京打造智能电网产业集…
 智能电网的基础知识
 智能电网的概念
 智能电网的概念及通信技术详…
 智能电网是什么_智能电网的概…
 教育部国家网络云课堂登录入…
 教育资源互通! 山东省市级优…
 国家智慧教育公共服务平台访…
 高质量建设国家中小学智慧教…
 国家智慧教育公共服务平台正…
 “童心向阳 茁壮成长” 留守…
 六一儿童节说说_六一儿童节说…
 六一儿童节发圈_六一儿童节发…
 用心陪伴 共护成长
 61儿童节促销活动H5文案模板…
 2024年中国戏曲学院专业一全…
 艺雀艺术史论|《艺术概论》…
 2018艺术硕士备考:艺术概论…
 2017年中国艺术研究院考研参…
 招生简章 山东大学艺术学院2…
 房价到底会不会下降?央行:…
 未来房价会下降吗?国家会扶…
 国家已经出手开发商为何还是…
 房产会降价吗?房价大跌前有…
 国家连降两道“铁令”2021年…
 90后科学老师用塑料瓶做火箭…
 创意点亮智慧科学连接青春 一…
 暑假来到 50部优秀科普视频作…
 12位科学大咖现身搜狐视频科…
 科普短视频:用“硬核干货”…
专题栏目
网络
您现在的位置: tac新闻网 >> 科学 >> 正文
高级搜索
Ai大模型能否继续扩展? 专家视点
作者:佚名 文章来源:本站原创 点击数: 更新时间:2023/8/7 2:46:40 | 【字体:

  爱妻慈蓝伶当前,人工智能正在迅速部署到商业和金融的各个方面。一些令人兴奋的成功给行业带来了接受这项新技术的压力,因为没有人愿意被竞争对手远远抛在后面。

  人工智能背后的核心技术是神经网络模型、深度学习算法和用于训练的海量数据集。该模型是为特定目的而构建的,例如对象识别、语音识别和对象跟踪。“模型”描述了神经网络的构建方式、网络有多少参数以及有多少层。

  神经网络的总体精度是训练数据集的质量和大小、参数数量和训练过程的函数。这不是一门精确的科学。训练过多,模型对训练集的响应良好,但对现实情况的响应却不佳。这是模型“过度拟合”。训练太少,模型将无法响应所有已知情况。

  没有一个模型是完美的。总是存在误差幅度,并且会出现模型没有参数的异常情况。在过去10年中,随着功能和准确性的提高,模型变得更加复杂。

  Bard和GPT-4等大型语言模型使用的模型使用数千亿个参数,需要海量数据集进行训练。即使是最强大的个人计算机也无法处理需要大量计算能力和内存资源的大型模型。计算是通过互联网(云)在大型数据中心计算机(服务器场)上完成的。

  服务器场用于自然语言处理、生成文本和图像、视频流分类以及物联网过程控制和监控等应用。《连线》杂志估计,训练像 GPT-4 这样的大型模型需要花费1亿美元,并在11个月内使用多达10000个配备强大A100 GPU处理器阵列的系统。已知最大的模型是Google GLaM,拥有超过1 万亿个参数。

  SemiAnalysis首席分析师Dylan Patel表示,每天运行ChatGPT的成本估计高达70万美元。该成本细分为维护、计算机资源折旧以及服务器和冷却系统的电力消耗。在谷歌和加州大学伯克利分校(《科学美国人》)联合发表的一项研究中,GPT-3 的耗电量为1,287 兆瓦时。

  当考虑到全球服务器场的数量和人工智能处理的成倍增加时,这一点值得高度关注。随着越来越多的人开始访问在线人工智能,服务器群的功耗可能会增加。到2025年,服务器群可能消耗全球20% 以上的电力。

  服务器群使用配备强大计算机和GPU的大型机架。它们包含数千个处理核心,可用作并行处理单元来计算神经网络的功能。单个GPU使用的功率可高达400瓦,服务器最多可使用32个 GPU。一个公司的大型数据中心集群可能部署多达250万台服务器。即使只有一半的服务器配备GPU,最坏情况下的计算也将达到16000兆瓦时。换言之,这是大量的温室气体排放的源泉。

  有多种方法可以减少服务器群对环境的影响。解决方案的一部分是更高效的硬件以及可再生能源的使用。另一种方法是使用混合解决方案,在专用的、低功耗但高性能的神经形态硬件中执行分布在边缘的大部分处理。神经形态处理的灵感来自大脑的节能方法。

  人脑包含大约860亿个神经元细胞(大约是最大的大型语言模型GLaM的80倍),估计有100万亿个连接(大约是 GLaM 的 100 倍)。每个细胞都有不同数量的电化学记忆。存储在这种生物记忆中的信息可以被认为等同于神经网络模型中的参数。

  与人工神经网络相比,大脑模型是动态的。当我们学习时,它会创造新的连接和更多的记忆,当我们睡觉时,它会修剪多余的连接。人脑神经网络尽管比最大的人工智能模型还要大,但其消耗的能量仅相当于20 瓦,比一个灯泡还少。尽管我们在过去几年中取得了成功,但大脑的结构与当今人工智能系统中使用的神经网络模型有很大不同。

  神经形态处理借鉴了大脑的高效处理技术,将其行为复制到数字电路中。虽然数字电路可能不如模拟电路那么节能,但稳定性、可互换性和速度超过了轻微的功耗优势。由于事件驱动的卷积壳,使用神经形态计算引擎对开发人员和用户来说是透明的。

  神经形态处理可以运行卷积神经网络 (CNN),并可以在ImageNet1000上运行图像分类、实时视频分类、气味和味道识别、振动分析、语音和语音识别以及疾病和异常检测。由于其功耗低,因此可以在便携式和电池供电的工具中使用这些功能。

  通过在快速神经形态计算设备中使用分布式人工智能处理,可以减少数据中心过多的功耗,从而降低运营成本并提高边缘产品的功能和响应能力。神经形态处理可以帮助补偿人工智能预期的负面环境影响。

  文章内容仅供阅读,不构成投资建议,请谨慎对待。投资者据此操作,风险自担。

  6月1日,2023中国科幻大会·元宇宙产业峰会在石景山首钢园一高炉SoReal元宇宙乐园盛大举办。

  上海车展正在火热进行中,一汽大众在2023上海车展中带来了ID家族的旗舰轿车产品,ID.7 VIZZION,新车基于MEB平台打造而来,预计将于今年下半年正式上市。

  5月18日,为了帮助中小企业解决定为难、运营难、资金难、人才难、资源难等问题,杭州市市场营销协会组织多家专业机构联合举办“名企游学,走进上市公司”活动,通过学习交流赋能中小企业更好地完成转型升级。此次活动走进“A股互联网第一股”浙江网盛生意宝股份有限公司。

  5月18日,由京东携手爱空间整装举办的京东装修自营业务新品发布会暨京东联合爱空间整装新品媒体见面会正式召开。

科学录入:admin    责任编辑:admin 
  • 上一个科学:

  • 下一个科学: 没有了
  •  
     栏目文章
    普通科学 Ai大模型能否继续扩展? 专家视点 (08-07)
    普通科学 钱学森侄子荣获诺贝尔奖接受采访:我是美国人… (08-07)
    普通科学 美媒:民调显示美国人对美军信心降至20多年来… (08-07)
    普通科学 美国人做梦都想“干掉”这三位中国人其中一位… (08-07)
    普通科学 外星技术?美国人如何在七十年里一直领先世界 (08-07)
    普通科学 90后科学老师用塑料瓶做火箭 16秒视频播放近百… (08-06)
    普通科学 创意点亮智慧科学连接青春 一分钟科学短视频征… (08-06)
    普通科学 暑假来到 50部优秀科普视频作品陪你过 (08-06)
    普通科学 12位科学大咖现身搜狐视频科学除夕夜 用知识直… (08-06)
    普通科学 科普短视频:用“硬核干货”连接受众与科学 (08-06)
    普通科学 高淳阳江镇开展0-3岁科学育儿亲子活动 (08-06)
    普通科学 璧山:“五彩”暑期公益托管班 (08-06)
    普通科学 暑期儿童关爱|科普研学在孩子心中播下科学的… (08-06)
    普通科学 关注儿童安全 威能暑期公益课圆满收官 (08-06)
    普通科学 老年健康宣传周︱学习运动小知识科学助力老年… (08-06)
    普通科学 做实验、放风筝……冰城这些物业暑假“带娃”… (08-05)
    普通科学 多彩活动点亮孩子快乐暑假 (08-05)
    普通科学 奇思妙想小制作铸就未来科技梦——宿州市通济… (08-05)
    普通科学 喜报!泗洪县青阳小学! (08-05)
    普通科学 苏州园区彩莲社区开展趣味科学小制作 (08-05)