【环球网科技报道 记者 林迪】当下最火的话题是什么？无疑是ChatGPT，尤其在科技圈里，从一个个网友到业界大佬，都在谈论它；从国外科技巨头到国内大厂，也纷纷加入了这场“狂欢”。无论是用户体验后的惊喜与担心，还是资本市场受刺激后大起大落的敏感反应，ChatGPT跟早年人工智能刚出现时的“一石激起千层浪”是相似的，对业界产生的波澜也是延续而来的。
(资料图片仅供参考)
在这样一个热风口下，我们需要进行“冷思考”：出生于2022年12月的ChatGPT，还是人工智能乃至AIGC（人工智能自动生产内容）领域的一个“小孩”，ChatGPT具备的惊艳效果是真的，它被调侃的bug（漏洞）也是客观存在的，相比于一般技术或其他应用来说，它可以被看作是一个天赋异禀的“神童”，我们需要辩证地去看待它，以开放包容的态度对待它，以及多方合力去避免“弯路”，并促进它的良性发展。
一本正经与“胡说八道”
“我当时看到网上的例子，觉得有可能不是真实的，但是我亲自试了以后，是真的非常惊艳的。”中科院计算机研究所教授罗平告诉记者。
罗平通过输入一段文字，让ChatGPT转化为表格，并通过不同参数的改变，得到的结果是准确而迅速的。他还试过一些基于ChatGPT的产品，比如发送一个关于理查德·贝尔曼（动态规划奠基人）故事的文档过去，ChatGPT可以把这个文档做一个总结，写的非常好，而且这些话不是能直接在原文里搜索到的。”
作为互联网公司产品经理的小安，在体验过ChatGPT检查代码的效果后感叹道，“之前我们因为产品进度问题需要连夜检查代码，现在它很快就检查完，并且把错误的改正了过来，太厉害了。“
当然，在网友不断分享的调侃案例里，我们也看到了ChatGPT的短板和漏洞：当被问到“刘翔哪一年获得的世乒赛冠军”时， 它的答案是“刘翔在2004年获得了世界乒乓球锦标赛冠军”（刘翔是田径运动员而非乒乓球运动员）。
还有关于影视人物、抽象概念等其他领域的答非所问，对此网友评价称“简直是一本正经的‘胡说八道’。”
“我们的表达是会摆事实和讲道理。而它讲道理是特别厉害的，但是摆事实这个就不太行。”在罗平看来，它实际上是一个天使与魔鬼并存的存在。“它答出来了，但不知道答的是对的还是错的，也不能提示哪个地方有错。”
关于这些问题，作为ChatGPT母公司OpenAI的首席技术官米拉・穆拉蒂回应道，没想到自己的“孩子”一经发布就能受到如此热烈的欢迎。“ChatGPT与其他基于语言模型的人工智能工具没有什么区别，这样的人工智能工具可能被滥用，也可能会‘编造事实’。对公司来说，最重要的是以一种可控和负责任的方式将其引入公共意识。”
罗平进一步指出，如果把目前存在的事实性错误、过度依赖等漏洞用一些技术补丁修正好了的话，那它就相对完美了，然后这个应用场景就会非常广。小安表示认同，“等到真正在B端普及应用后，这产生的影响和价值将是具有时代性的。”
此前不久，中国工程院院士邬贺铨就曾预测，“AIGC（人工智能自动生产内容）将迎来爆发式增长。作为基于大规模数据训练的模型，将颠覆现有内容生产模式，可以实现以十分之一的成本、百倍千倍的速度，生产出有独特价值和独立视角的内容。AIGC 不仅用于内容生成，其新思路和途径也可用在工业领域。”
“伪”担心与真“问题”
上述特性也使得ChatGPT能很快地吸引这么多用户，上线 5 天使用者就超百万，对传统搜索引擎形成挑战。对此，网络上关于“会不会取代人类”“它的诞生会导致搜索引擎的消失”等话题一度引起了广泛讨论。
“就像人工智能或者其他技术或应用刚出来的时候，人们会有初步的担心，这很正常。”业内人士林女士认为，但是它们是不会导致人们彻底失业，反而可以把人类从基础性的繁琐工作中解放出来，然后推动人类从事更高级的工作和任务。
这不免让人们联想，人类是否已经迈向了通用人工智能时代。
资料显示，所谓的通用人工智能（AGI, Artificial General Intelligence）是指具备一般人类智慧，可以执行人类能够执行的任何智力任务的机器智能，通常又被成为强人工智能。
“不得不说，ChatGPT在用户交互上的表现让人惊喜。它的火爆出圈也说明了人们期待有更多的AI应用能为我们的生活方式和行为模式带来改变。”特斯联首席科学家邵岭博士认为，尽管诸如 GPT-3的模型已经可以生成接近人水平的文本、小说、乃至诗歌，但这与通用人工智能还没有关系。
他指出，但从底层技术逻辑上讲，其实ChatGPT就是在GPT-3.5基础上针对对话fine-tune出的一个模型，是一个先进的chatbot。尽管ChatGPT回答问题的效果比之前市面上见到的聊天机器人都要好，但实际上这种效果也是基于大数据、大模型训练出来的，它并没有自己的思想和常识，而是根据训练出来的模型和数据给出拟合的答案，准确来讲它还只是一种大语言模型。
特斯联CTO华先胜认为，未来是人机共存的社会，“我们需要达到的平衡态是机器做机器擅长的事情，人做人擅长的事情。”
如业界所说，我们不必过于担心它会代替人类；但对于ChatGPT来说，还是有一些现实的问题需要被关注和解决的。
奇安信虎符智库研究员李建平对记者表示，如同其他人工智能模型一样，ChatGPT是把双刃剑，既可以是提升效率的工具，解答人们的各种问题、创造出大学水平论文，甚至编写代码。同时也可能被绕过安全机制，用于实施有害的活动。
他指出，网络犯罪分子使用 ChatGPT 造成的“最紧迫和常见的威胁”主要包括网络钓鱼、社会工程和恶意软件开发。
以社会工程为例，研究人员发现，ChatGPT 等GPT-3工具使犯罪分子能够逼真地模拟各种社会环境，从而使任何针对性的通信攻击都更加有效。GPT-3这类语言模型提供支持的工具，使攻击者更易诱骗受害者提供敏感信息或下载恶意软件，加速从网络钓鱼到传播仇恨言论的所有级别和目的的社会工程攻击。
此外，ChatGPT还降低了网络犯罪的门槛——即使没有技术，也能成为攻击者。其带来的网络威胁还有可能蔓延到异次元。
李建平从安全防护的角度给出了建议：“chatGPT的运营机构需采取针对性的应对措施。对ChatGPT等类似模型进行培训，标记恶意的活动和恶意代码，避免其向恶意人员提供；同时对chatGPT设置难以绕过护栏，提升恶意人员利用其生成恶意内容、开展恶意活动的门槛。”
对此，华先胜认为，技术本身是没有善恶的，分别善恶的是技术的使用者。“我认为，可以通过两种手段来达到积极影响与消极影响的平衡。一方面，技术本身要‘魔高一尺，道高一丈’。技术带来隐患的时候，需要有另外一种技术克制。另一方面，还需要有法律法规，规范技术发挥正向作用，减少其被滥用的危害。”
最后，提到ChatGPT的发展前景，罗平称，“未来还是任重道远。”亦如科技爱好者小龙所说，当一个新鲜事物出现时，我们既不能过度吹捧，也不能过分苛求。“一个成熟的技术或产品尚不能经受全领域全场景的严格测试，并实现‘零bug’；作为科技领域一个优秀的‘初生牛犊’，我们需要给它以时间和健康的环境去成长和良性发展。但可以肯定的是，AIGC或者ChatGPT对于产业的意义将是巨大的，但它的路还很长，要想走得远需要各方的共同努力去推动，这也是每个新技术产生之初需要遵循的发展规律。”
