阿里、商汤发布生成式AI新模型,大模型安全性如何保证?
时间:2023-07-08 06:08:36来源:第一财经

在今年的上海世界人工智能大会(WAIC)上,生成式AI成为各家互联网科技公司竞逐的新领域。在7月7日的大会上,阿里巴巴、商汤科技都推出了最新的大模型版本。


(资料图)

阿里巴巴的人工智能图像生成器“通义万相”将对标OpenAI的DALL-E和Midjourney等美国厂商,阿里云还推出了面向开发者的人工智能工具ModelScopeGPT。

商汤科技也在WAIC上升级了“商汤日日新SenseNova”大模型,不仅在模型参数方面有了很大的提升,而且多模态能力也有了进一步的突破。商汤表示,希望通过“大模型+大装置”推动AI基础设施能力的跃进提升。

商汤科技董事长兼CEO徐立在产品发布环节中表示:“商汤不仅要打造通用能力更加强大的基础模型,也将进一步高效融合不同垂直领域的专业知识,构建更懂行业、更具专长的专业大模型,从根本上降低大模型的下游应用成本和门槛。”

咨询机构麦肯锡估计,生成式人工智能最终每年可为世界经济增加7.3万亿美元的价值。大模型的强大让人类瞥见了通用人工智能的曙光,但也让众多学界、业界人士心生忧惧。前不久,就有全球400多位专家发布联名公开信,警告人工智能发展速度过快,缺乏监管,可能会危及人类生存。

在这一背景下,人工智能的治理成为今年WAIC上热议的话题,也有一些厂商带来了针对大模型的安全解决方案。

瑞莱智慧7月7日在大会上发布了AI安全平台RealSafe3.0,该平台功能与OpenAI提出的“自动对齐研究员”类似,通过自动化的训练方法优化大模型,筑起抵御人工智能威胁的安全之盾。

瑞莱智慧联合创始人、算法科学家萧子豪对第一财经记者表示,大模型前仍处于“野蛮生长”阶段,还没有找到场景、风险和规范三者之间的平衡点。而在探寻这一平衡点的过程中,缺少易用和标准化的工具,即在技术层面上缺乏有力抓手。

“大模型调优的成本很高,这也是很多开发大模型的企业面临的主要挑战,我们推出这样的安全平台就是希望帮助这些通用大模型提升安全性。”萧子豪告诉第一财经记者,“这些技术都是基于自研多模态大模型底座实现的。”

他还表示,不能因为对于被技术反噬的担忧就止步不前,创造新技术和控制技术危害应该同步进行。

针对AI安全隐私的风险,中国信通院华东分院7月7日在WAIC大会的一场“大模型时代AIGC新浪潮”论坛上,联合业界发布了《可信赖AI安全隐私技术研究》白皮书,从政策法规、技术进展、专利标准、产业发展等层面,分析可信赖AI安全隐私技术的发展态势,聚焦安全挑战和主流技术方面研究应用现状。

白皮书认为,目前我国在可信AI相关标准的建立方面还处于初级阶段,建议加速建立可信AI标准与监管体系、注重可信AI技术人才培养、促进可信AI热点难点问题的解决、构建可信AI安全等级评估与防御体系,构筑全产业的可信AI生态。

标签:

生活指南
  • Steam游戏搬砖一个账号的利润有多少?csgo控制台怎么打开?

    csgo开箱网站目前有很多,但其中很多网站不是很靠谱,很多朋友不知

  • 五味子女人喝有坏处吗?五味子能丰胸吗? 世界速讯

    五味子是一种比较常见的中药材,其颜色红艳,日常保健可以作为泡饮

  • 当前消息!金虎仙人球的形态特征是什么?金虎仙人球的产地是哪里?

    金虎仙人球的形态特征是什么?茎圆球形,单生或成丛,高1 3米,直径8

  • 出口贸易方式有哪些?服务贸易可以出口商品吗?

    出口贸易方式有哪些进出口贸易方式:一般贸易;补偿贸易;来料加工装

  • 资讯推荐:空翻多是什么意思?股票空翻多是好事还是坏事?

    空翻多是什么意思?空翻多是股市用语,是指原本做空投资者,改变看法

  • 留有生机!ASML官网显示:支持7nm高端DUV光刻机仍可出口_今日看点

    【资料图】荷兰政府宣布了限制某些先进半导体设备出口的新规定,这

  • enjoy it是什么意思(enjoy是什么意思) 世界速读

    大家好,小乐来为大家解答以上的问题。enjoyit是什么意思,enjoy是什么

  • 儿童运动鞋行业品牌竞争现状 儿童运动鞋行业前景展望

    我国童鞋产量占世界产量一半左右,其中三分之二左右用于出口。我国16岁

  • 天天时讯:万里长空 云端说税

    “坐飞机时顺便学点税收知识,参与互动还能获得小礼品,枯燥的飞行时光

  • 国家知识产权局:开展知识产权服务业集聚发展区建设优化升级工作

    上证报中国证券网讯据国家知识产权局消息,国家知识产权局发布关于开展

  • 大动作!A股近千亿赛道巨头 要分拆子公司去创业板上市!_当前通讯

    涉及光伏、半导体两大热门行业,围绕“先进材料、先进装备”双引擎快速

  • 三国杀于禁是哪个包的_三国杀 于禁 速讯

    1、界于禁是游卡桌游推出的桌上游戏《三国杀》中的武将牌,属于“一将

  • 天天热推荐:央行:第二季度房地产企业贷款需求指数为47.0%,比上季下降8.4个百分点

    App6月29日消息,央行发布2023年第二季度银行家问卷调查报告。贷款总体

  • 交强险可以保什么?交强险电子保单可以年检吗?_焦点报道

    交强险可以保什么?在汽车发生了交通意外事故以后,如果受害者遭到了

  • 鉴江“绿洲”美如画

    6月28日,碧蓝的天空下,鉴江上的“绿洲”风光美如画。鉴江是粤西沿海

  • 华宏科技是不是科技股?华宏科技可转债什么时候上市?

    华宏科技是不是科技股?是。华宏科技股份有限公司,是专业制造再生资

  • 民生
    • 午盘解读:三大指数齐下跌 转基因概念涨幅居前

    • 国家防总维持对重庆等7省份的防汛四级应急响应 派工作组赴黑龙江协助指导防汛救灾

    • 饥荒缝纫工具包需要多少材料?饥荒缝纫工具包怎么用?

    • 一代宗师叶问几个儿子?一代宗师叶问老婆谁演的?