环球今头条！狂飙or刹车：AI大模型竞赛背后的诱惑与冲突

时间：2023-04-08 05:57:47 来源: 媒体滚动

来源：中国经营报

本报记者曲忠芳李正豪北京报道

4月4日，微软联合创始人比尔·盖茨在接受美国路透社采访时表示，“暂停研发先进的人工智能（AI）并不会解决我们面临的挑战”，他建议人们关注如何最好地利用新技术的发展，以及“明确棘手的（挑战）领域”。

(资料图)

比尔·盖茨此番言论是对非营利组织“未来生命研究所”（Future of Life Institute）于3月29日发布的《暂停巨型AI实验》公开信的回应。这封公开信“呼吁所有AI实验室立即暂停对比GPT-4更强大的AI系统的训练至少6个月”。比尔·盖茨公开表达了自己的“不理解”：“我真的不明白他们在向谁呼吁，也不确定是否每个国家都同意，以及为什么会同意停止发展AI，在这方面各方持有不同的观点。”他认为，“要求某个特定群体暂停并不能解决挑战”，并强调“新技术显然有好处”。

《中国经营报》记者获悉，截止到4月7日7时，《暂停巨型AI实验》公开信已有15342名人士签名，位于联合署名榜首的包括特斯拉、Space X及推特CEO埃隆·马斯克、苹果联合创始人史蒂夫·沃兹尼亚克、Stability AI首席执行官伊马德·穆斯塔克多名企业高管，以及2018年图灵奖得主约书亚·本吉奥、纽约大学教授盖瑞·马库斯、普林斯顿大学教授约翰·J．霍普菲尔德、中国科学院自动化研究所曾毅等一众人工智能领域的专家。未来生命研究所官网显示，“已收集了超过50000个签名”，目前还在审查验证过程中。

除了比尔·盖茨之外，还有不少企业高管、AI专家就公开信通过社交媒体发表了反对或质疑的观点，包括2018年图灵奖的另一位得主杨乐昆、Meta公司CTO安德鲁·博斯沃思、前谷歌大脑成员、在线教育平台Coursera创始人吴恩达。不难看出，由ChatGPT所验证的AI大模型之路，在引领新一轮AI热潮的同时，也引起了一场关于AI通用大模型继续狂飙突进，还是冷静暂停的大讨论。

“大牛”齐下场“站队”

记者注意到，在这场关于AI价值与风险的大论战中，参与者的阵容“重磅”，包括了来自众多知名企业、高等院校、社会机构的企业家、学者专家等纷纷下场发声。

其中，最引人关注的是2018年图灵奖得主——被业界称为“深度学习三巨头”的约书亚·本吉奥、杰弗里·辛顿和杨乐昆，在AI大模型热潮中表达出了不同的看法。约书亚·本吉奥在公开信上署名支持暂停AI大模型训练，而杨乐昆则认为，“人类和机器人的智能是社会进步的动力”，“机器智能是放大人类智能的一种方式”。公开信发出后，杰弗里·辛顿并未置评，但在今年3月初接受CBS采访时，他表示当前AI机器学习处于“一个关键时刻”，ChatGPT证实了“大型语言模型可以做一些令人惊奇的东西”，大幅压缩了“通用人工智能（AGI）”的到来时间。针对AI可能对人类构成的威胁，他表示“确实有点担忧。我们需要做的是使AI技术与人类互补，让它帮助人类”。

除了“深度学习三巨头”之外，3月30日，吴恩达在推特上发文明确指出，呼吁暂停6个月是“一个糟糕的想法”。他指出：“在教育、医疗保健、食品等领域看到了许多新的应用，这将帮助很多人，改进GPT-4会很有帮助”，应该“在AI创造的巨大价值与现实风险之间取得平衡”。“没有实际的方法来实施暂停并阻止所有团队扩大大型语言模型，除非政府介入。而让政府暂停他们不了解的新兴技术是反竞争的，（这将）树立一个糟糕的先例。”“6个月的暂停期不是一个切实可行的建议。为了提高人工智能的安全性，围绕透明度和审计法律法规将更加实用，并产生更大规模的应用。在我们推进技术的同时，也更多地投资于安全，而非扼杀进步。”据了解，4月8日，吴恩达与杨乐昆还在线举行一场直播来讨论“为什么6个月暂停期是一个坏主意”话题。显然，这一场围绕AI大模型的论战仍在持续。

之所以出现这场社会大论战，主要原因在于，由OpenAI推出的ChatGPT及其背后最新的GPT-4大模型，验证了“大力出奇迹”——通过大参数、强算法、大算力等，再加上基于人类反馈的强化学习实现AI水平跃升，尤其是在生成式AI实现了突破，点燃了科技界的AI竞赛热情，包括微软、谷歌母公司Alphabet、Meta等纷纷跟进投入大模型。同时，当前的生成式AI对各个行业领域产生冲击甚至重塑之力，尤其是在知识产权、虚假信息、数据隐私安全及商业机密等方面陷入争议。3月31日，意大利个人数据保护局宣布，即日起禁止使用聊天机器人ChatGPT，并限制开发这一平台的OpenAI公司处理意大利用户信息，同时个人数据保护局开始立案调查。在此之前，三星半导体发生信息泄露事件，该公司的设备测量资料、良品率、内部会议等商业机密信息被ChatGPT录入服务器资料库中。

事实上，记者注意到，围绕AI伦理、安全与治理的问题由来已久，ChatGPT诞生后带来了技术的突破与进步，但也催生了新的安全与治理挑战。因此，究竟是优先推动技术向前发展，在发展中寻找安全与治理的方案，还是人工暂停GPT-4代表的AI大模型走向更高版本之前，找到实现“可信AI”的正确途径呢？显然，这是一个值得争论的问题。

AI热潮中的“诱惑”

面对汹涌的讨论与争议声音，4月6日，处于风暴眼中的OpenAI发表了一篇题为“我们通往AI安全的途径”的博客文章，探讨了如何“安全地构建、部署和使用AI系统”的方法，重点提出了六条保障安全的措施，一是建立越来越安全的AI系统，积极与监管部门接触探讨安全评估的最佳方式；二是从真实世界的使用中学习，通过服务及API服务开发者的同时避免滥用；三是保护儿童，减少产生伤害儿童的内容的可能性；四是尊重隐私，不使用数据销售服务、广告或建立用户档案等；五是持续提高事实的准确性；六是持续研究和参与，加强模型之间的安全合作。

正如比尔·盖茨对于“暂停”派所疑惑的——不明白在向谁呼吁，不确定是否每个国家都同意，为什么会同意停止发展AI。ChatGPT引领的新一轮AI热潮，给全球范围内的社会经济都带来了巨大的重塑力量，据记者多方了解，无论是科技大厂，还是创业型团队，都在积极探索其中的商业机遇及潜在空间。

作为OpenAI投资方的微软，显然是目前ChatGPT的最大受益者。从2月7日起，微软宣布将AI能力整合至旗下所有产品中，之后短短几个月里便一路“狂飙”——新Bing撬开了搜索引擎霸主谷歌的“冰山”，短短40多天里市场份额从1.22%上升至2.6%；3月15日，微软率先将最新发布的GPT-4集成到Office“全家桶”中，展示了名为Copilot的AI全能办公助手，使用场景覆盖PPT制作、数据清洗分析、邮件、笔记资料整理等。Wind数据显示，最近30日里，微软的股价已上升了10.69%。

ChatGPT及GPT-4在产品化的路上持续飞奔，不仅推出了订阅付费的ChatGPT Plus版，而且还开放了API接口、上线插件测试，多家机构及多款App已接入，打开了更多的商业化可能。

Meta公司CTO安德鲁·博斯沃斯在接受CNBC采访时透露，公司CEO马克·扎克伯格及其他高级管理人员正在花费大量时间来开发公司的AI工具，Meta将在今年内推出一款创新的商业AI产品，将为客户带来更多价值，并有助于产生更多的点击率。

国内市场同样受到ChatGPT的影响与带动，多家企业都放出风声即将推出AI大模型或相关的类ChatGPT应用等。Wind数据显示，自2月1日平台发布A股“ChatGPT指数”以来，截止到4月6日收盘，ChatGPT指数已上涨87.86%，近30日内涨幅为18.26%，近10日内出现回落。其中，云从科技近60日内涨幅达到264%，昆仑万维涨幅259%。

谦询智库合伙人龚斌指出，AI的商业博弈及学界争论背后牵涉一系列复杂的因素，当下任何重大的通用人工智能都很难只在技术驱动、资本驱动和商业驱动中发展，风险管控、道德伦理和安全治理的问题越来越被提上日程重点。

Gartner最新报告指出，通用和可信是AI的未来两大趋势。随着ChatGPT等通用人工智能的革命性突破，AI技术作为科技革命和产业革命的核心驱动力被再次认可。AI作为一项仍在发展中的新技术，具有不可解释、易受攻击、偏见歧视、过于依赖数据等伦理和安全问题，这些问题已成为影响关键领域更广泛的信任和采用人工智能的核心因素。发展“负责任和可信”的AI技术正成为产业趋势。

标签：

环球今头条！狂飙or刹车：AI大模型竞赛背后的诱惑与冲突

精彩推送

环球今头条！狂飙or刹车：AI大模型竞赛背后的诱惑与冲突

热议：4月7日基金净值：前海开源优质企业6个月持有混合A最新净值0.5914，涨0.12%

城市治理创新实践论坛：发布廊坊临空经济区“数治生态”治理模式-每日观点

春秋左传是什么体史书_左传是什么体史书

天天新资讯：天气终于放晴了，但还得小心“四月飞雪”

java字节流和字符流-全球聚看点

补缴社保对公司不会产生太大影响吗？员工自愿不交社保单位能同意吗？

纵论天下丨美方再炒“实验室泄漏论”居心叵测

全球快报:保温杯冷保多少度?

新闻快讯

精品推荐

新闻快讯