马斯克呼吁暂停AI开发是“打嘴炮”?

发布时间:2023-05-25 00:29:07     来源:快科技

①警惕AI发展,防止AI失控,正在成为全球范围内科技领域的“政治正确”;

②在严防人类自我灭绝的问题上,很多风险如核大战、气候变化、致命病毒传播、生物科技滥用等要排在超级AI之前;


(资料图片仅供参考)

③AI可能导致各种社会风险,学界早已指出,各种应对建议也早被提出来,现在的问题是根据国情落实AI治理措施,不是暂停研发;

④如果不做政策上的总体安排,ChatGPT肯定会导致大量“AI失业”,反过来“AI失业”又会阻碍ChatGPT的进一步应用。

文 / 刘永谋 中国人民大学哲学院教授、

国家发展与战略研究院研究员

2023年3月,包括埃隆.马斯克在内的千名专家联合签署公开信,呼吁暂停训练GPT-4后续人工智能(AI)模型至少6个月。消息一出,引爆全球网络和媒体,很快引来吴恩达等“AI大牛”的反对。最后,此事也没有下文,暂停GPT-4被怀疑就是OpenAI的一波炒作。

4月份,又传出意大利要全面禁止ChatGPT,不久的结果是罚款了事。

5月份,美国总统拜登和副总统哈里斯也来凑热闹,与顶级人工智能企业谷歌母公司Alphabet、微软、OpenAI和Anthropic的首席执行官举行会议,向企业施压围绕人工智能实施保障措施,表示支持新的法规或立法,减轻AI技术的潜在危害。

用户利用生成式AI工具制作的“马斯克和他的AI女友” 图源:网络

一切看起来山雨欲来,似乎ChatGPT、Midjourney、DALL-E 2为代表的生成式人工智能(GAI,Generated AI)催生了新的、更严重的社会风险,使得人类社会发展和应用AI技术的总体局面发生了根本性改变,需要采取新的战略、措施和办法来应对,比如全面暂停新的AI技术的研发。

真的是这样的吗?否。

第一,GAI并没有产生什么新风险,它可能导致的问题早已也一直被学界所讨论、所呼吁。

第二,应对GAI风险并不需要什么新方法,应对AI风险的关键一直都是落实。

4月11日,国家互联网信息办公室公开发布《生成式人工智能服务管理办法(征求意见稿)》,以前所未有的速度对GAI作出治理反应,佐证GAI应用社会影响巨大,必须认真研究,审慎地而迅速地加以应对。

01谨防AI失控——全球科技领域的“政治正确”

就目前已经暴露出来的迹象来看,GAI挑战最大的领域至少包括3个:

1)失业问题,即它可能导致文案策划人员、原画师、工业设计人员、程序员、媒体从业人员和翻译人员等脑力工作者大量失业。

2)教育问题,即它可能冲击既有-的教育科研系统,比如学生可以用ChatGPT代替自己做作业。

3)信息安全问题,即GAI自动生成海量的人工智能生产内容(AIGC,AI Generated Content),真伪难辨、立场可疑,权属不清、追责困难,甚至可能成为挑战主流价值观和意识形态的危险工具。

AI风险早就被各国政府所重视,近年来更是成为全社会的关注焦点。显然,上述GAI导致的三大冲击都不是什么新问题,早在ChatGPT爆火之间就已经被学界和政府所关注、所研究。

近十年来,从物联网到大数据、云计算、区块链、元宇宙、ChatGPT,一波波的AI热潮中,从来没有缺少关注风险的呼声。

本人专业关注新科技社会冲击问题,花了大量精力提醒大家注意AI可能导致的技术风险。比如,曾写过专著《技术治理通论》《物联网与泛在社会的来临》《技术有病我没药》《元宇宙陷阱》《科技与社会十四讲》,面向非专业人士提示ICT(信息与通讯技术)的社会冲击和技术风险。

可以说,警惕AI发展,防止AI失控,正在成为全球范围内科技领域的“政治正确”。在此氛围之下,公开宣称“AI无禁区”的声音被极大地抑制。对此,作为技术控制的选择论者,我完全赞同。

就目前的发展态势而言,ChatGPT究竟存在什么严重的风险,必须以“加码”的方式比如暂停至少六个月加以应对呢?

有人说,ChatGPT是超级AI出现的征兆,如果现在不停止(注意:不仅是暂停),“潘多拉的魔盒”一旦打开,人类很快会被超级AI统治甚至灭绝。这种幻想色彩浓厚的念头,很难让人予以严肃的对待。尤其是,很多专业人员不承认ChatGPT是通用AI,更别说它是超级AI的雏形了。

超级AI可能是个问题,但在严防人类自我灭绝的问题上,很多风险如核大战、气候变化、致命病毒传播、生物科技滥用等要排在超级AI之前。我们是不是先把它们都停止了?就算停止不了,暂停一下也行,起码可以呼吁暂停。

既然没有什么新的情况,就不必采取暂停发展的极端方法,为什么?

第一,暂停是没有道理。有人说,ChatGPT风险应对措施没有想清楚,所以先暂停。错!不是没想清楚,而是没有落实到位。

第二,暂停是不可能真正实现的,肯定会有AI公司会违反禁令,结果是不公平的竞争。

第三,暂停解决不了问题。就算所有AI公司真的都暂停GAI科研,风险问题就解决了吗?没有!除非彻底停止和取缔LLMs(Large Language Models,大语言模型),否则风险不会消失。重新启动之时,仍然得直面风险。

如今,新科技是人类生存和发展最重要的不可须臾离开的工具。GAI对社会生产力的推动作用已经昭然若揭,我们为什么要因噎废食,为什么不能控制地利用呢?

20世纪就有人提出——当时的科技人类已经完全够用了,继续发展会导致很多新问题,应该让科技静止下来,科学家不要再搞研究了。此类极端非理性想法,从来没有被社会严肃对待过。

02暂停GAI研发实现不了,纯属无效的“嘴炮”

AI可能导致各种社会风险,学界早已指出,各种应对建议也早被提出来。因此,现在的问题是根据国情落实AI治理措施,而不是暂停AI研发。事实已经证明:暂停GAI研发的想法简单粗暴,作用不大,也实现不了,纯属无效的“嘴炮”。

举AI失业问题为例。AI失业问题,即人工智能的推进伴随着越来越多的人失去工作,是AI社会冲击中最大的问题,涉及到整个社会的综合性制度创新。既有文献对AI失业问题的讨论,可谓汗牛充栋,具体的应对措施不一而足,如学生的职业规划、劳动者AI素养提升、失业人员社会保障和再就业、产业结构升级改造等。

长远的战略规划亦蔚为大观,如制度性地减少劳动者工作时间(有些地方已经在尝试一周工作4天),征收AI税(AI是全人类智力结晶,向AI公司征收重税全民共享),灵活退休制度(劳动者一辈子可以短暂退休几次)等。

AI应用对当代治理活动最大的影响在于:扩大经济自由,增加闲暇时间,极大地改变公共治理的前提条件,从而改变社会运行的根本面貌。但是,这种影响也意味“AI失业问题”越来越严重,给整个社会的治理活动带来严重挑战,必须审慎地加以处置。

AIGC产业化将再一次证明AI失业问题的严峻性。如果不做政策上的总体安排,ChatGPT肯定会导致大量“AI失业”,反过来“AI失业”又会阻碍ChatGPT的进一步应用。

漫画:机器人接管重复性工作,例如制造和包装 图源:TC

“AI失业问题”的解决,必须同时考虑远景和现实两方面。

从远景来看,“AI失业问题”要解决,牵涉到人类社会制度的根本性变革,而不是仅仅靠智能技术和智能治理的发展所能解决的。根据马克思主义基本原理,“AI失业问题”反映出科技生产力发展与既有生产关系之间的矛盾。机器人能够取代人类劳动,并不等于实际取代人类劳动,因为此种取代意味着取消少数人通过制度安排强迫大多数人进行劳动的剥削制度。从本质上说,解决“AI失业问题”,要不断减少劳动者的工作时间,给人们更多的闲暇时间,最终必须要彻底消灭剥削制度。20世纪的劳动史表明:现代科技在生产中的运用,持续减少着社会必要总劳动时间,推动“八小时工作制”和“双休制”被越来越多国家所实施。

从现实来看,社会制度进化需要很长的时间,必须逐步稳妥地前进,而且也要等待智能技术不断地发展,所以当务之急的问题是给受到人工智能冲击的劳动者找到新的工作岗位,保证他们能享受科技进步创造的物质财富。

因此,在AIGC产业化爆发之初,国家、政府和社会应该深入研究,全盘规划,积极应对可能出现的失业就业压力。

比如,完善失业保障和提供再就业培训服务,加强青年人的职业规划和创造性素质提升,调整学校人才尤其人文、艺术等学科的人才培养方向,不端推动产业升级创造新的就业岗位等。总之,面对AI可能伴随的失业风险,必须要放弃非此即彼的极端思维,努力规避,实时调整。

03中国的AI如何治理?

建设数字中国是数字时代推进中国式现代化的重要引擎,是构筑国家竞争新优势的有力支撑。

在数字中国建设中,必须推进“以人民为中心”的AI治理,使得AI能真正地造福社会。为此,首先就要呼吁全社会都来关注AI风险问题,政府、企业、NGO、科技界和公众按照职责分工,完善政策措施,强化资源整合和力量协同,形成行动合力,把治理AI风险的各项方案真正落实下去。

除此之外,治理AI风险还可以考虑如下原则性建议:

第一,贯彻有限工具原则。必须清醒认识智能治理的作用——智能治理并非万能的“完美利器”,在很多情况下同样会“失灵”,甚至走向妨碍社会效率的反面。因此,既要承认在某些领域、某些问题和某些场合下智能技术提高治理效率的作用,力主优先考虑技术治理手段解决问题,又时刻谨记智能技术作用的有限性。坚持科技谦逊主义,警惕“大数据迷信”,采取具体语境具体分析的审度态度,重视治理活动实际的效果反馈和风险控制。

第二,坚持利用与控制并重。既要发挥智能治理作用,又要对具体的智能治理进行控制,防止智能平台和技治专家权力失控。同时,应运用制度-技术的方法,规避智能治理可能导致的社会风险。

第三,妥善处理“AI失业问题”。智能技术应用对当代治理活动最大的影响在于:扩大经济自由,增加闲暇时间,极大地改变公共治理的前提条件,从而改变社会运行的根本面貌。但是,这种影响也意味“AI失业问题”越来越严重,给整个社会的治理活动带来严重挑战,引起全社会的关注,必须审慎地加以处置。

第四,紧密融合“智慧城市”和“数字乡村”建设。科学地运行城市是当代技术治理重要的战略措施,智慧城市则是科学城市的高级形态。由于当前人类主要生活在城市尤其是大型和超大型城市之中,因而当前的智能治理主要围绕建设“智慧城市”而推进,或者说以“智慧城市”的建设为主要载体。数字中国建设尤其不可忽视数字乡村建设,要努力以数字化缩小城乡差距。

第五,注重智能技术与人的融合。在技术治理活动中,技术与人结合得越好,治理效率越高。加强智能治理活动中人与技术因素的融合,需要从各种智能技术的特点以及相关伦理、法律、心理、危机管理等诸多层面进行系统反思,推进制度建设、技术研发和人才储备,加强组织领导、专家咨询和实战演练,不断系统地提升中国的智能治理能力。

第六,在具体语境中区别治理与操控。智能治理有限度,超过限度就成为智能操控,侵害公民的基本权利。智能治理的未来发展,必须要具体考虑各种应用的限度,这不仅涉及治理目标,还涉及所采用的手段,只能在具体的社会语境中加以冷静、客观和谨慎的审度。防止智能治理走向智能操控,一个很重要的问题在于:必须在一定程度上容忍智能治理的反治理行为。

标签:

精彩推送

全球今热点:固始县观堂乡:干群“借水”齐抗旱

“水来啦,秧苗也插上大半啦,俺们要抓紧把秧都插上。”5月23日,固始县观堂乡河湾村种了300多亩种粮大...

2023-05-25

全球通讯!来月经可以跑步运动吗_来月经可以做什么运动

1、月经期间,整个盆腔都处于充血状态,包括胃肠道,免疫力比较低。2、在此期间,应尽量减少运动,尽量避免

2023-05-24

当前热门:思佳客·蜀国夫容似锦裁

1、《思佳客·蜀国夫容似锦裁》是汪东创作的一首词。本文到此分享完毕,希望对大家有所帮助。

2023-05-24

对网络传销要露头就打_全球微动态

北京警方日前通报打击新型传销团伙有关情况,违法犯罪团伙搭建网络平台销售所谓“收藏品”,通过招募会...

2023-05-24

廊坊师范学院专科招生计划_廊坊师范学院专科|全球微头条

廊坊师范学院专科招生计划,廊坊师范学院专科这个很多人还不知道,现在让我们一起来看看吧!1、和本科没什么

2023-05-24

马斯克呼吁暂停AI开发是“打嘴炮”?

马斯克呼吁暂停AI开发是“打嘴炮”?

放弃王玉玲唱歌_环球微资讯

《GiveItUp》是由汪妤凌作词、作曲、演唱的歌曲,该歌曲收录于汪妤凌2011年发行的专辑《MissCat》中。

全球今热点:固始县观堂乡:干群“借水”齐抗旱

“水来啦,秧苗也插上大半啦,俺们要抓紧把秧都插上。”5月23日,固始县观堂乡河湾村种了300多亩种粮大户黄

全球今头条!厦门六区小升初方案均已公布 初中招生报名今起陆续开始

昨天,集美区、同安区、翔安区相继公布2023年小学毕业和初中招生工作方案。至此,全市各区小升初方案均已公

每日消息!音频剪辑软件哪个好用手机_免费音频剪辑软件哪个好

1、目前好用、功能强大的音频编辑软件要数cooleditpro及他的升级版AdobeAudition。2、这2个软

倾情巨制_的意思 倾情巨献是什么意思 倾情钜献成语的意思-世界独家

1、今字作矩。2、本义。3、矢者;钜衍(广大);又通称大家,岂钜:古通“讵”:【说文】本作巨。4、重文作榘,从

世界快看:考研“二战”需慎重

随着各高校2023年研招复试成绩和拟录取结果的出炉,很多落榜生面临着人生赛道转换的艰难抉择。其中,有相当

快递时效再升级!申通联手菜鸟正式上线经济圈次日达-时快讯

5月24日,申通快递联合菜鸟宣布,启动全国重点经济圈物流升级计划,让商家用经济型快递也能为消费者提供“

回锅肉有哪些配菜 回锅肉有几种配菜 环球微速讯

回锅肉的配菜有青椒、洋葱、包菜、香干、藕片、蒜苗等,其中最经典的搭配是青椒和蒜苗。所谓回锅是再次烹调

重磅!漳州市区两大片区征迁正式启动!2幅住宅地块今年上半年将开拍!_全球今日报

重磅!漳州市区两大片区征迁正式启动!2幅住宅地块今年上半年将开拍!,漳州,征迁,龙文区,高新区,住宅地块,

全球通讯!来月经可以跑步运动吗_来月经可以做什么运动

1、月经期间,整个盆腔都处于充血状态,包括胃肠道,免疫力比较低。2、在此期间,应尽量减少运动,尽量避免

环球要闻:*ST榕泰实控人被留置并立案调查 此前曾被交易所通报批评

*ST榕泰(600589)5月24日晚间公告,公司近日从北京森华易腾通信技术有限公司获悉,其接到北京市顺义区监察委

龙参生态选举刘曦元为公司董事长 2022年公司亏损280.91万_天天播资讯

龙参生态选举刘曦元为公司董事长2022年公司亏损280 91万2023 5 2421:22:24挖贝网白杨树挖贝网5月24日,龙参生态(87319

V观财报|澳洋健康及财务总监、董秘收警示函:业绩预告不准确等

V观财报|澳洋健康及财务总监、董秘收警示函:业绩预告不准确等,警示函,深交所,证监会,财务总监,上市公司,

拆拆! 金华这个城中村要拆了?横幅都拉起来了!金华这个村大拆迁即将启动?

拆拆!金华这个城中村要拆了?横幅都拉起来了!金华这个村大拆迁即将启动?,征迁,拆迁,横幅,安置房,金华市,

头条焦点:韩国贸易逆差295亿美元,韩方称不想与华脱钩,并想开启战略对话

韩国贸易逆差295亿美元,韩方称不想与华脱钩,并想开启战略对话,美国,外交,中韩,韩国贸易

Zoom的魔法解除|环球快报

5月24日,百胜智能(301083 SZ)继续高开高走,封上涨停板,连续2天录得20%涨停,昨日龙虎榜数据显示,知名

天天观天下!短端利率是否被高估了?

当下短端利率分位数相对更高,但资金面相对宽松,短端利率是否被高估,以及后续是否会迎来“补降”行情值得

中国有色金属工业协会硅业分会:本周硅料市场价格延续跌势 下游减产预期推动价格下行

中国有色金属工业协会硅业分会5月24日发布多晶硅周评。本周国内N型料价格区间在13 5-14 0万元 吨,成交均价

当前热门:思佳客·蜀国夫容似锦裁

1、《思佳客·蜀国夫容似锦裁》是汪东创作的一首词。本文到此分享完毕,希望对大家有所帮助。

天天新资讯:美国父子10年中彩票1.4万次,赢了2100万美元,靠运气还是另有内情?

综合媒体报道,美国马萨诸塞州一对父子十年内兑领了1 4万余张乐透彩票,中奖金额总计近2100万美元(约合人

好消息!绵阳与德阳、广元等5地住房公积金实现“打通用”

好消息!绵阳与德阳、广元等5地住房公积金实现“打通用”,绵阳,德阳,巴中,广元市,住房公积金,公积金贷款

世界微资讯!德媒:德国“发明大国”声誉面临危险

德媒:德国“发明大国”声誉面临危险,大国,声誉,官僚,德媒,经济界,德国政府

杭州亚运会电子竞技梦三国2和刀塔项目国家集训队名单公布 世界快资讯

杭州亚运会电子竞技梦三国2和刀塔(DOTA2)两个项目的中国国家集训队名单分别于23日和24日公布。杭州亚运会

【调研快报】新天药业接待工银瑞信基金等多家机构调研

新天药业接待工银瑞信基金等多家机构调研

地产新青年丨旭辉建管刘冰洋:代建操盘手二三事

地产新青年丨旭辉建管刘冰洋:代建操盘手二三事,代建,城投,刘冰洋,房地产,旭辉地产

请收好!2023年5G小基站行业应用发展论坛金句来袭~

5月23日,由通信世界全媒体主办的“2023年5G小基站行业应用发展论坛”在北京隆重举办。会上,信通院、运营

深圳人行、外汇局:抓紧出台金融支持外贸稳规模优机构的意见_世界热资讯

深圳人行、外汇局:抓紧出台金融支持外贸稳规模优机构的意见,金融,外资,外贸,信贷,进出口,国家外汇管理局

对网络传销要露头就打_全球微动态

北京警方日前通报打击新型传销团伙有关情况,违法犯罪团伙搭建网络平台销售所谓“收藏品”,通过招募会员、

环球今头条!如何申请qq号码和账号_如何申请qq号

1、貌似目前不可以不填写手机号码,必须使用手机号码注册。2、要不然你就网络上面买别人的QQ号码使用吧,希

当前滚动:汽车平衡杆的作用演示_汽车平衡杆的作用

1、平衡杆的作用是当左右两轮的水平高度不同时,为了防止造成杆身的扭转,平衡杆会产生防倾阻力(RollResistance

在线查询身份证名下手机卡_查询身份证名下电话卡

1、要查询个人身份证下办的电话卡很简单。2、只要你带着身份证去三大通讯公司营业厅柜台查询一下就可以知道

快消息!邢台最新征地公告来了!涉及多个村、社区…

邢台最新征地公告来了!涉及多个村、社区…,住宅,康庄,邢台市,邢台站,东郭村镇,征地公告

每日观点:周知 | 平昌人注意!6月1日起,异地购房可提取公积金!

周知|平昌人注意!6月1日起,异地购房可提取公积金!,巴中,平昌县,商业贷款,异地购房,住房公积金,公积金贷款

天天亮点!宗申动力-伊之密、忽米科技-伊之密战略合作协议签约仪式圆满举行

5月22日下午,“宗申动力-伊之密、忽米科技-伊之密战略合作签约仪式”在重庆巴南区宗申会所植物苑二楼会议

深圳楼市新政再传利好!6类存量房可以筹集作为保障性租赁住房!_天天短讯

深圳楼市新政再传利好!6类存量房可以筹集作为保障性租赁住房!,房源,商品房,建设局,存量房,深圳市,楼市新

焦点观察:龙岩21宗重点地块亮相!这5宗近期出让

龙岩21宗重点地块亮相!这5宗近期出让,龙翔,城北,东山,龙岩市,重点地块,住宅用地

廊坊师范学院专科招生计划_廊坊师范学院专科|全球微头条

廊坊师范学院专科招生计划,廊坊师范学院专科这个很多人还不知道,现在让我们一起来看看吧!1、和本科没什么

银图软件手机银行截图软件网上银行截图生成器网银转账截图生成器

网银转账图片生成器是一款可以生成多种网银转账动态图片的软件,使用方法很简单,首先登录该软件,点击右下角的生成动态图片按钮,然后选择

观速讯丨四创电子: 四创电子独立董事关于七届十九次董事会相关事项的独立意见

四创电子:四创电子独立董事关于七届十九次董事会相关事项的独立意见

崇德动漫副总经理张立军辞职 2022年公司亏损827.76万

崇德动漫副总经理张立军辞职2022年公司亏损827 76万2023 5 2419:02:22挖贝网丁易涵挖贝网5月24日,崇德动漫(833355)

水性覆膜机 关于水性覆膜机介绍

导读来为大家讲解以上的问题。水性覆膜机,性覆膜机介绍这个很多人还不知道,我们一起来看看!1、水性覆

报道:快递时效再升级 菜鸟联手申通正式上线经济圈次日达

5月24日,申通快递联合菜鸟宣布,启动全国重点经济圈物流升级计划,让商家用经济型快递也能为消费者提供“

2023年淘宝618百亿补贴上线公告是什么?

​补贴加码后的淘宝618百亿补贴已于今日0点上线,消费者通过淘宝APP首页或者搜索“百亿补贴”即可选购,这

环球要闻:第二届装配式建筑高质量发展大会将于5月26日在嘉祥启幕

第二届装配式建筑高质量发展大会将于5月26日在嘉祥启幕,济宁市,山东省,嘉祥县,装配式建筑

格力地产:收购珠海免税事宜正在推进,还存在不确定性|天天新要闻

格力地产:收购珠海免税事宜正在推进,还存在不确定性,股权,横琴,上交所,房地产,珠海市,格力地产,珠海免税,

刚刚!深圳2023第二批宅地来了!10宗地,含深超总新宅地!

刚刚!深圳2023第二批宅地来了!10宗地,含深超总新宅地!,深圳,宝龙,红树湾,华侨城,住宅用地

为科学插上跨越山水的翅膀——我国流动科普项目服务公众超5亿人次聚焦

把科普展览和课堂搬到偏远地区、欠发达地区的学校社区、工厂村庄,流动的科普盛宴跨越山水,步履不停。截至

环球视点!国家发展改革委:内部没有“国家补短板强弱项领导小组”相关机构

据国家发展改革委消息,近期,一些自称为“国家补短板强弱项领导小组”等不明组织和个人,假借县城建设

被吹爆!亦庄河西X47地块,究竟凭啥啊 当前要闻

被吹爆!亦庄河西X47地块,究竟凭啥啊,龙湖,庄河,金茂府,金茂悦,中海地产,住宅用地,亦庄开发区,亦庄天主堂

精彩推荐