【环球网科技报道 记者 林迪】当下最火的话题是什么?无疑是ChatGPT,尤其在科技圈里,从一个个网友到业界大佬,都在谈论它;从国外科技巨头到国内大厂,也纷纷加入了这场“狂欢”。无论是用户体验后的惊喜与担心,还是资本市场受刺激后大起大落的敏感反应,ChatGPT跟早年人工智能刚出现时的“一石激起千层浪”是相似的,对业界产生的波澜也是延续而来的。


(资料图片仅供参考)

在这样一个热风口下,我们需要进行“冷思考”:出生于2022年12月的ChatGPT,还是人工智能乃至AIGC(人工智能自动生产内容)领域的一个“小孩”,ChatGPT具备的惊艳效果是真的,它被调侃的bug(漏洞)也是客观存在的,相比于一般技术或其他应用来说,它可以被看作是一个天赋异禀的“神童”,我们需要辩证地去看待它,以开放包容的态度对待它,以及多方合力去避免“弯路”,并促进它的良性发展。

一本正经与“胡说八道”

“我当时看到网上的例子,觉得有可能不是真实的,但是我亲自试了以后,是真的非常惊艳的。”中科院计算机研究所教授罗平告诉记者。

罗平通过输入一段文字,让ChatGPT转化为表格,并通过不同参数的改变,得到的结果是准确而迅速的。他还试过一些基于ChatGPT的产品,比如发送一个关于理查德·贝尔曼(动态规划奠基人)故事的文档过去,ChatGPT可以把这个文档做一个总结,写的非常好,而且这些话不是能直接在原文里搜索到的。”

作为互联网公司产品经理的小安,在体验过ChatGPT检查代码的效果后感叹道,“之前我们因为产品进度问题需要连夜检查代码,现在它很快就检查完,并且把错误的改正了过来,太厉害了。“

当然,在网友不断分享的调侃案例里,我们也看到了ChatGPT的短板和漏洞:当被问到“刘翔哪一年获得的世乒赛冠军”时, 它的答案是“刘翔在2004年获得了世界乒乓球锦标赛冠军”(刘翔是田径运动员而非乒乓球运动员)。

还有关于影视人物、抽象概念等其他领域的答非所问,对此网友评价称“简直是一本正经的‘胡说八道’。”

“我们的表达是会摆事实和讲道理。而它讲道理是特别厉害的,但是摆事实这个就不太行。”在罗平看来,它实际上是一个天使与魔鬼并存的存在。“它答出来了,但不知道答的是对的还是错的,也不能提示哪个地方有错。”

关于这些问题,作为ChatGPT母公司OpenAI的首席技术官米拉・穆拉蒂回应道,没想到自己的“孩子”一经发布就能受到如此热烈的欢迎。“ChatGPT与其他基于语言模型的人工智能工具没有什么区别,这样的人工智能工具可能被滥用,也可能会‘编造事实’。对公司来说,最重要的是以一种可控和负责任的方式将其引入公共意识。”

罗平进一步指出,如果把目前存在的事实性错误、过度依赖等漏洞用一些技术补丁修正好了的话,那它就相对完美了,然后这个应用场景就会非常广。小安表示认同,“等到真正在B端普及应用后,这产生的影响和价值将是具有时代性的。”

此前不久,中国工程院院士邬贺铨就曾预测,“AIGC(人工智能自动生产内容)将迎来爆发式增长。作为基于大规模数据训练的模型,将颠覆现有内容生产模式,可以实现以十分之一的成本、百倍千倍的速度,生产出有独特价值和独立视角的内容。AIGC 不仅用于内容生成,其新思路和途径也可用在工业领域。”

“伪”担心与真“问题”

上述特性也使得ChatGPT能很快地吸引这么多用户,上线 5 天使用者就超百万,对传统搜索引擎形成挑战。对此,网络上关于“会不会取代人类”“它的诞生会导致搜索引擎的消失”等话题一度引起了广泛讨论。

“就像人工智能或者其他技术或应用刚出来的时候,人们会有初步的担心,这很正常。”业内人士林女士认为,但是它们是不会导致人们彻底失业,反而可以把人类从基础性的繁琐工作中解放出来,然后推动人类从事更高级的工作和任务。

这不免让人们联想,人类是否已经迈向了通用人工智能时代。

资料显示,所谓的通用人工智能(AGI, Artificial General Intelligence)是指具备一般人类智慧,可以执行人类能够执行的任何智力任务的机器智能,通常又被成为强人工智能。

“不得不说,ChatGPT在用户交互上的表现让人惊喜。它的火爆出圈也说明了人们期待有更多的AI应用能为我们的生活方式和行为模式带来改变。”特斯联首席科学家邵岭博士认为,尽管诸如 GPT-3的模型已经可以生成接近人水平的文本、小说、乃至诗歌,但这与通用人工智能还没有关系。

他指出,但从底层技术逻辑上讲,其实ChatGPT就是在GPT-3.5基础上针对对话fine-tune出的一个模型,是一个先进的chatbot。尽管ChatGPT回答问题的效果比之前市面上见到的聊天机器人都要好,但实际上这种效果也是基于大数据、大模型训练出来的,它并没有自己的思想和常识,而是根据训练出来的模型和数据给出拟合的答案,准确来讲它还只是一种大语言模型。

特斯联CTO华先胜认为,未来是人机共存的社会,“我们需要达到的平衡态是机器做机器擅长的事情,人做人擅长的事情。”

如业界所说,我们不必过于担心它会代替人类;但对于ChatGPT来说,还是有一些现实的问题需要被关注和解决的。

奇安信虎符智库研究员李建平对记者表示,如同其他人工智能模型一样,ChatGPT是把双刃剑,既可以是提升效率的工具,解答人们的各种问题、创造出大学水平论文,甚至编写代码。同时也可能被绕过安全机制,用于实施有害的活动。

他指出,网络犯罪分子使用 ChatGPT 造成的“最紧迫和常见的威胁”主要包括网络钓鱼、社会工程和恶意软件开发。

以社会工程为例,研究人员发现,ChatGPT 等GPT-3工具使犯罪分子能够逼真地模拟各种社会环境,从而使任何针对性的通信攻击都更加有效。GPT-3这类语言模型提供支持的工具,使攻击者更易诱骗受害者提供敏感信息或下载恶意软件,加速从网络钓鱼到传播仇恨言论的所有级别和目的的社会工程攻击。

此外,ChatGPT还降低了网络犯罪的门槛——即使没有技术,也能成为攻击者。其带来的网络威胁还有可能蔓延到异次元。

李建平从安全防护的角度给出了建议:“chatGPT的运营机构需采取针对性的应对措施。对ChatGPT等类似模型进行培训,标记恶意的活动和恶意代码,避免其向恶意人员提供;同时对chatGPT设置难以绕过护栏,提升恶意人员利用其生成恶意内容、开展恶意活动的门槛。”

对此,华先胜认为,技术本身是没有善恶的,分别善恶的是技术的使用者。“我认为,可以通过两种手段来达到积极影响与消极影响的平衡。一方面,技术本身要‘魔高一尺,道高一丈’。技术带来隐患的时候,需要有另外一种技术克制。另一方面,还需要有法律法规,规范技术发挥正向作用,减少其被滥用的危害。”

最后,提到ChatGPT的发展前景,罗平称,“未来还是任重道远。”亦如科技爱好者小龙所说,当一个新鲜事物出现时,我们既不能过度吹捧,也不能过分苛求。“一个成熟的技术或产品尚不能经受全领域全场景的严格测试,并实现‘零bug’;作为科技领域一个优秀的‘初生牛犊’,我们需要给它以时间和健康的环境去成长和良性发展。但可以肯定的是,AIGC或者ChatGPT对于产业的意义将是巨大的,但它的路还很长,要想走得远需要各方的共同努力去推动,这也是每个新技术产生之初需要遵循的发展规律。”

推荐内容