我们需要担心AI造反吗? 点击:15 | 回复:0



gchui

    
  • 精华:2帖
  • 求助:0帖
  • 帖子:357帖 | 9回
  • 年度积分:102
  • 历史总积分:1205
  • 注册:2016年9月13日
发表于:2025-10-09 14:28:35
楼主

自中学时代起,我便养成了一个习惯——热衷于探寻问题的本质。例如,当众人热议“信息集成”时,我就会想:究竟为何要进行信息集成呢?这个问题,我好像很早就找到了答案:“知己知彼百战不殆”,科学决策需要及时、精准且全面的信息。信息集成的核心目标,在于便捷地获取决策所需的关键信息。这一理念的指引价值在于:信息集成应依据特定决策的需求开展,按需采集、存储与传递数据。简而言之,信息集成并非简单地将现有数据堆砌在一起,而是要能够满足特定决策任务的需求。

运用这个理念,很容易指导制造企业的“纵向集成”。纵向集成,即不同层级计算机间的集成,像自动化系统和管理系统的集成。人们通常借助自动化系统收集生产参数(如压力、温度、流量等典型参数)。不过,这些参数是否恰当、是否需调整与产品类别和质量要求等相关。而产品类别和质量要求的信息一般源于管理计算机。所以,决策和控制需要将两类计算机的信息集成起来。

近期授课时我猛然察觉,上述理念似乎存在缺陷:在解释“横向集成”时,上述说法好像有些小题大做了。所谓横向集成,是企业间的信息集成。一种典型的场景是:下游企业有需求时,给上游企业发送一个请求,上游企业就会把原料运送过来。此时,“集成”的作用究竟何在?我猛然醒悟:下游企业并无直接调度上游企业资源的“权限”,唯有借助此权限,方能打通流程。从整个系统的视角来看,集成意味着获取决策的“权限”。

这又使我想起10年前的一件事。王晓明先生邀我去国务院发展研究中心参会,旁边坐着刘世锦先生。他谈互联网经济时,提及了几个要素,其中有个要素就是“权限”。当时就觉得他的见解令人耳目一新,以至于10年后仍然记忆犹新。可我是工程师出身,当时对这句话的理解不够深入。

关于“权限”的重要性,实则值得我们进一步深思。

10多年前,我曾听复旦大学的一位教授讲课。他的老同事曾提出某个著名理论,被最高层采纳。这位老师面露不服之色,道出一句令我终生铭记的话:一个观点的对错其实并不重要,重要的是它是谁说的。为何“谁提出的”更重要呢?因为世界靠行动改变,有决策权的人才有资格发起行动。

数字化转型可以看做把控制论的思想用于企业和社会等大的系统,责任和决策者往往涉及到众多利益不同的群体。这时,决策权限的问题就变得极为重要了。数字化转型的过程,往往也是组织、流程和商业模式再造的过程,本质上就是对责任和权限的优化,以便于实现系统整体利益的最大化。

如今我们步入智能社会,很多人担心AI给人类带来危害,患上AI恐惧症。其实,维纳在《控制论》中就曾经提到过应用AI的风险。然而,不管AI多聪明,只要不赋予它决策权,它就没有办法做出危害人类的行为,就无法“叛乱”。

所以,在AI时代,真正的威胁来自于那些既掌握决策权又能借助AI决策的人。如果这些人把自身利益凌驾于社会利益之上,危害将会是非常巨大的。个人的权限过大,才是AI时代最应被人类警惕的问题。


来源:微信号 蝈蝈创新随笔

作者:郭朝晖

该作品已获作者授权,未经许可,禁止任何个人及第三方转载。





楼主最近还看过


热门招聘
相关主题

官方公众号

智造工程师