寻找青年的声音

寻找青年的声音|“千模大战”,AGI从“幕后”走向“台前”@蚂蚁集团孙博文

来源:Original    作者:admin    发布时间:2023-12-14    访问量:1148
寻青1.png


随着ChatGPT的席卷全球,各行各业纷纷迈入了AI大模型时代。AGI技术的广泛应用使其不再局限于实验室或互联网公司里,而是能够直接与用户展开互动和学习。


如今,

AGI不仅从“幕后”走向了“台前”

还发展成如今

“千模大战”的蓬勃态势



1.jpg

获得2023浦江创新论坛寻找青年的声音活动“青年先锋”称号、蚂蚁集团的孙博文表示:现在我们可以直接用日常语言去调整它,而不再需要像以前那样使用代码或数学公式。整个门槛的降低对行业的快速发展产生了很大影响,让大家感觉与人工智能(AGI)更加贴近了,这种进步是变革式的。


谈及大模型的未来发展,孙博文对于提升AI大模型的能力持乐观态度,相信会有新的方法不断涌现。然而,尽管如今有许多AI大模型已经能够实现流畅的对话能力,但确保其安全性仍然是一个亟待解决的问题。


AGI的舞台已就位

当前,AGI领域迅速发展,犹如一场“千模大战”。对于未来的发展方向,归根结底仍取决于其技术上的突破。

回顾70年代的计算机图形学技术,起初人们并不清楚其用途,但其发展引发了三个重大变革方向。艾伦·凯用该技术优化硬件设施,创造了笔记本电脑的原型Dynabook。皮克斯将计算机图形学与电影结合,为技术赋予新的应用。诺兰创建了雅达利公司,直接推动了整个电子游戏行业的诞生。

孙博文认为,“如今AGI就正处于这样一个契机,这个技术很厉害、有潜力,又处在萌芽阶段,”所以即使由于大家普遍持有一种防御心态,导致整个行业的发展稍显混乱,但这也并不妨碍AGI在这个既混乱又蓬勃的时代里始终乘风破浪、势如破竹,在之后的发展中可以像计算机图形学一样,朝着技术创新和多元应用的新时代迈进。

孙博文将《流浪地球》中的Moss比喻为他对未来AGI发展的理想形象。既具有与人交互的能力,又能理解和加工信息,还能调度资源完成任务,最终呈现出令人满意的结果。

此外,“我们自己一个人做肯定是比较难的,但通过组织和交流,促进思想和技术的共享,并面向大众获取反馈和意见,这些对我们来说都非常重要。”孙博文表示,得益于政府扶持AGI的政策导向清晰,上海背靠经济环境蓬勃的内部市场和互联网行业的优良创新土壤,在商业模式、资金、基建等方面都有充足的空间和支持,为AGI的未来发展创造了更多可能性。

危机正在被向善引导

信息安全性一直是AGI备受争论的问题之一,用孙博文的话来说,信息安全问题更像是文学作品里的“反派”角色,是因为在其成长过程中没有得到向善的引导。


当前AGI在信息安全方面是存在链路的。孙博文分享道,训练AGI是需要大量数据做支撑的,因此给AGI知识输入的时候就要进行有效“清洗”,确保传递给它的信息是正面、积极的。


同时,在AGI的学习过程中,一旦它出现不良行为,就需要进行强有力的干预和纠正,尤其是在伦理道德方面,以避免进一步恶化。“尤其是在它还不成熟的时候,这种干预是非常有必要的。”


由于AGI学到的一切都源自人类,因此保护用户隐私也非常重要。不仅要对数据来源进行把控,保证所有输入的信息都是脱敏脱密的,还要通过一些技术手段对已有数据的安全保驾护航,防止隐私泄露。

2.jpg

此外,在使用过程中,是无法保证所有用户输入给它的信息都是正面信息,因此,在用户输入阶段,如何进行有效控制也成为一个关键问题。很多拥有自己AI大模型的公司为解决这个问题,都增加了许多相应的限制。“这种限制实际上依赖于各公司对负面信息的辨识和积累,因为首先需要识别到什么是负面信息,才能实施相应的拦截。”


AGI的高速发展所带来信息安全问题是必然趋势,能够引起业内更多人士的关注也是孙博文所希望的。“有了危机意识,后续可能会出现更多解决这个问题的办法。因为各家训练的AI大模型最终都将与大众互动,如果在这个过程中缺乏一些屏蔽不良信息的思维,后期的修改成本就会变得很高。”

变革的信号已经发出

对于AGI是否能够引发人类社会的第四次工业革命,孙博文有自己的看法:回顾前三次工业革命,AGI是否也能够像之前一样,为整个人类社会带来巨大的生产力变革,改变生产格局呢?“我的回答是肯定的。”


“我现在的工作就受到了AGI的很多辅助,”原本需要10个小时的事情,现在可以在1到2小时内更好地完成。不仅压缩了时间,还提高了效率。并且,在个人不擅长的领域,用绘画举例,AGI可以迅速解决用户想要的图或景色的需求,提供用户未曾学过的领域知识。“我认为这已经是变革的信号了。”


许多人担心AGI的出现会导致大量工作被替代,引发人员失业。然而,“替代整个行业是很困难的。”孙博文认为,每个行业都有其独特的知识和经验,AGI更可能通过自主学习,将前人的知识沉淀形成一个可学习的数据库,然后将这些知识转化为智慧,以辅助从业人员更好地开展工作。因此,“AGI更多地是会以工具的形式呈现。”

3.jpg

未来,AGI对于每个人或每个行业可能会是一个强大的“助理”,它可以根据指令提供个性化的服务。例如,我想去旅游,只需下达指令,“助理”就会提供详尽的攻略,甚至帮助执行,比如订票。还可以与脑机接口结合,使“助理”直接读取思想内容,无需交互,一天的计划都能在我们醒来时妥善安排。“虽然这听起来像电影中的场景,但我觉得很多电影场景正在一步步变为现实,而且变现的速度越来越快。”


关于AGI的终局,孙博文认为,它有望将人不知道的所有工具知识集成在一起,成为真正的第四次工业革命。

4.jpg

Q


此次参加“寻找青年的声音”活动有什么感受?

在浦江论坛时,我与其他几位优秀的青年进行了跨学科的交流,尽管领域不同,但我们都致力于使社会变得更好。这种跨学科的碰撞可以激发灵感,让我认识到经验和知识可以在不同学科间交叉应用。参与这样的经历让我意识到合作和交流有很大的空间。


对于和我一样的青年们,希望大家要抓住机遇,帮助自己思想迸发更快,灵感涌现更迅速。同时,一定要多交流,避免固守狭窄领域,把自己闭塞在象牙塔里,要打开跨学科交流的空间,有助于促进自己领域的创新,更快的找到突破的关键点。


此外,孙博文还呼吁大家更加重视AGI的安全性问题,强调在推动AGI发展的同时,应当加强对潜在风险和道德考量的认识,确保这一技术的长期安全性。



热门资讯
往届回顾更多

沪公网安备 31010402009841号