阿里、商汤发布生成式AI新模型,大模型安全性如何保证?
在今年的上海世界人工智能大会(WAIC)上,生成式AI成为各家互联网科技公司竞逐的新领域。在7月7日的大会上,阿里巴巴、商汤科技都推出了最新的大模型版本。
阿里巴巴的人工智能图像生成器“通义万相”将对标OpenAI的DALL-E和Midjourney等美国厂商,阿里云还推出了面向开发者的人工智能工具ModelScopeGPT。
商汤科技也在WAIC上升级了“商汤日日新SenseNova”大模型,不仅在模型参数方面有了很大的提升,而且多模态能力也有了进一步的突破。商汤表示,希望通过“大模型+大装置”推动AI基础设施能力的跃进提升。
(相关资料图)
商汤科技董事长兼CEO徐立在产品发布环节中表示:“商汤不仅要打造通用能力更加强大的基础模型,也将进一步高效融合不同垂直领域的专业知识,构建更懂行业、更具专长的专业大模型,从根本上降低大模型的下游应用成本和门槛。”
咨询机构麦肯锡估计,生成式人工智能最终每年可为世界经济增加7.3万亿美元的价值。大模型的强大让人类瞥见了通用人工智能的曙光,但也让众多学界、业界人士心生忧惧。前不久,就有全球400多位专家发布联名公开信,警告人工智能发展速度过快,缺乏监管,可能会危及人类生存。
在这一背景下,人工智能的治理成为今年WAIC上热议的话题,也有一些厂商带来了针对大模型的安全解决方案。
瑞莱智慧7月7日在大会上发布了AI安全平台RealSafe3.0,该平台功能与OpenAI提出的“自动对齐研究员”类似,通过自动化的训练方法优化大模型,筑起抵御人工智能威胁的安全之盾。
瑞莱智慧联合创始人、算法科学家萧子豪对第一财经记者表示,大模型前仍处于“野蛮生长”阶段,还没有找到场景、风险和规范三者之间的平衡点。而在探寻这一平衡点的过程中,缺少易用和标准化的工具,即在技术层面上缺乏有力抓手。
“大模型调优的成本很高,这也是很多开发大模型的企业面临的主要挑战,我们推出这样的安全平台就是希望帮助这些通用大模型提升安全性。”萧子豪告诉第一财经记者,“这些技术都是基于自研多模态大模型底座实现的。”
他还表示,不能因为对于被技术反噬的担忧就止步不前,创造新技术和控制技术危害应该同步进行。
针对AI安全隐私的风险,中国信通院华东分院7月7日在WAIC大会的一场“大模型时代AIGC新浪潮”论坛上,联合业界发布了《可信赖AI安全隐私技术研究》白皮书,从政策法规、技术进展、专利标准、产业发展等层面,分析可信赖AI安全隐私技术的发展态势,聚焦安全挑战和主流技术方面研究应用现状。
白皮书认为,目前我国在可信AI相关标准的建立方面还处于初级阶段,建议加速建立可信AI标准与监管体系、注重可信AI技术人才培养、促进可信AI热点难点问题的解决、构建可信AI安全等级评估与防御体系,构筑全产业的可信AI生态。
关键词:
您可能也感兴趣:
为您推荐
联合打击整治!山东省今年已打掉非法社会组织58家
尘封的铁证|日本学者发掘史料 揭示侵华日军罪行
丰达电厂二期第二台机组点火吹管顺利完成!
排行
最近更新
- 阿里、商汤发布生成式AI新模型,大模型安全性如何保证?
- 赛生药业(06600.HK)7月7日耗资154.99万港元回购14.7万股
- 期货投资分析过关必做1500题 含历年真题 第4版(对于期货投...
- 双拥“并蒂” 香满荷城——广西贵港市推进新时代双拥工作纪实
- 工业富联:完成董事会换届选举 郑弘孟接替李军旗当选董事长
- 中梁控股上半年合约销售210.3亿元 同比下降45.7%
- 最后的律师(关于最后的律师介绍)
- 全面排查治理隐形变异培训等问题 畅通举报渠道
- 白俄罗斯国防部顾问:没有瓦格纳士兵参观过卢卡申科声称的提...
- 大额存单抢疯了!上市公司加入抢购大潮
- 二手干洗机价格(二手干洗机)
- 五分钟学会修剪果树
- “全球能源奖”首次发给我国本土科学家,三大奖项中两项均属...
- 群众转移、房屋清淤、重建选址……重庆强降雨后做了这些事
- 长江制衣(00294)将于10月16日派发末期股息每股0.02港元
- 中国巨石: 目前公司玻纤产品价格总体稳定。
- 四川资中三季度集中推进14个重大项目建设
- 中信建投回应拍下华西证券股权:系与客户开展场外衍生品交易
- 香港税制税种税率相关事项介绍(香港税制)
- 投资便利化协定拨开不确定性迷雾
- 揭阳通报“凉果厂4人死亡事故”初步调查结果
- 特斯拉刷新了交付纪录,这引发了人们对全球纯电汽车市场霸主...
- 伍佰成都演唱会官网订票入口2023
- 成都翡玥兰庭人才公寓选房名单(附下载)
- 发展眼光 国际视野 汉口学院打造应用型本科高校新高地
- 在路上最弱势的群体既不是机动车,也不是行人,而是自行车
- 公主岭市应急管理局、气象局联合预警
- 世界银行前行长:美国无法遏制中国发展
- 财付通:目前已完成自查整改 支付业务合规经营能力得到提升
- 浙江民泰商业银行温州分行行长助理尤佳任职资格获准