“公开信”呼吁“所有人工智能实验室至少暂停6个月比ChatG

ChatGPT绝对是近期媒体报道的热点。生命未来研究所（Future of Life Institute）前几天在他们的网站上贴了一封“公开信”，一石激起千层浪。

“公开信”呼吁“所有人工智能实验室暂停比ChatGPT-4更强大的人工智能系统培训至少6个月”，这反映了人类对ChatGPT发展速度带来的挑战的深切担忧。人类无法接受伤害自己的巨大可能性。人类需要停下来，给自己一点时间思考，找到有效的对策。

ChatGPT底层的学习方法是“单字接龙”的原理，即只允许用上面的方法预测下一个单词。在机器学习中，ChatGPT采用了极端的训练模式。在ChatGPT3.5之前，先后经历了这三个阶段，即无监督学习的“开卷有益”、监督学习“模板规范”、加强学习的“创造性引导”。经过这三个阶段的训练，获得了“大语言模型”(Large Language Model，LLM)，它可以学习大量的互联网信息、文本、语音和图片，扩大模型的词汇、语言表达、世界信息和知识，最终形成“单词连接”。

(资料图片仅供参考)

2017年，ChatGPT的核心模型结构“开卷有益”；到2020年，从“模板规范”到“创意引导”，技术模式的发展离不开互联网上科研乃至各行业人员成果信息的不断积累，总结学习信息，得到答案。

ChatGPT在这方面具有重要的里程碑意义，它可以将语言符号与指令对象联系起来，并与现实相对应。它向人类展示了LLM的可行性和革命性。因此，真正影响人类社会的不是ChatGPT本身，而是它背后改变社会发展方向的驱动力。

自然语言处理(Natural Language Processing，NLP)技术也被称为人工智能“皇冠上的明珠”。NLP是一种LLM，具有突出的优势，能不断处理大量的语言内容，处理速度快，效率高。ChatGPT的NLP是LLM中最好的。LLM将变得更好、更快、更便宜。可以预测，相关产品将如雨后春笋般普及。

大语言模型对社会的影响将与原计算机相同，即整个社会。前国务卿基辛格认为，这项技术的进步将带来新的认知革命，重新定义人类知识，加速我们现实结构的变化，重组政治和社会。

人类可以通过群体合作创造、继承和应用知识。这三个环节都是通过语言来实现的。LLM的发明允许人类协调“大量”个人获得的理解和载体，并在很短的时间内“掌握”过去和未来，这可以大大提高许多行业的生产效率。

然而，ChatGPT也可能威胁到全人类。操纵和控制ChatGPT用户的能力将逐渐增强。欧洲警方警告说，像ChatGPT这样的LLM是危险的，因为它们使罪犯更容易采取行动。外国媒体还表示，ChatGPT可以用来了解许多潜在的犯罪领域，从如何进入住宅到恐怖主义、网络犯罪和儿童虐待。欧洲刑警组织指出，ChatGPT可能被滥用来产生虚假的社交媒体，成为犯罪分子和大规模犯罪工具。美国哲学教授（Aumann）发现学生提交的论文是ChatGPT写的，因为论文的语法等方面“过于完美”，论文是群体性的。

通过互联网，ChatGPT的“大语言模型”掌握了一个人几辈子都读不完的信息，会随意联想，有能力回答各种问题，但我们很难指挥它，这是人类担心的关键。

霍金警告说：“人工智能（Artifical Intelligence，AI）将堪比第三次世界大战”。人工智能可以控制连接到全球互联网，通过卫星摄像头监控世界上的每一寸士地，然后当他的计算能力足够强大时，他可以准确地计算每个人。GPT-5完成后，即将阅读全人类知识报告，训练视频数量高达20亿GB，ChatGPT进化速度过快。对于一个计算能力发达的时代，甚至可以想象无限的当代，一些网民假设地球已经变成了“乒乓球”，并被“抓住”在恐怖分子的“手掌”中。“恐怖分子利用人工智能，通过ChatGPT发出消灭全人类的指令”。人类需要6个月的短时间思考，并找到有效的措施来防止坏人使用ChatGPT。

霍金在《未来简史》中警告人类时说：“无意识但高智能算法可能比我们更了解自己。”“人工智能比核武器更可怕”，马斯克也警告人类。在“公开信”中，马斯克也成为千人积极签名的一员。

太阳下没有什么新鲜事，历史总是重演。如何解决ChatGPT技术是一把双刃剑的问题，你可以回顾历史，从历史经验中找到答案。

每一次革命性的技术进步都有自己的优缺点。人类应该智能地处理ChatGPT。就像人类发明的“原子能技术”一样，核能可以为人类提供电力和光明。核能也是原子弹的原理，人类也采取有效措施避免不应有的各种核灾难。

作者对ChatGPT技术提出了以下建议：

一是研究开发自己的“大语言模型LLM”，确保安全。ChatGPT将便于人类继承技术知识，也将给网络安全和社会安全带来新的挑战，特别是防范ChatGPT给国家安全带来的危险。在今年的“两会”上，朱松春委员的讲话是关于“信息领域的产业制高点”，引起了广泛的共鸣。他谈到了ChatGPT的发展和威胁，建议人工智能研究提到“两弹一星”的高度，制定线路图，开辟产学研用途。为了确保国家机构的数据安全，中国只能开发自己的NLP和LLM。

第二，要做好从“应试教育”到“能力培养”的工作。ChatGPT的答案基本符合人类逻辑，每一句话都有因果关系，都是由前推后，由此而彼。因此，它的答案是有意义的，可以解决我们提出的问题。在未来的教育中，我们应该注意培养批判性思维和逻辑能力。培养儿童的批判性思维和逻辑能力。

第三，跟上ChatGPT技术的发展趋势，培养学习能力越来越重要。现在，我们仍然需要依靠自己和学习能力来处理以后加速变化的技术和工具。ChatGPT掀起的浪潮不仅涉及个人，还涉及各国的未来。与ChatGPT的分数相比，“应试教育”学生的试卷分数要做好终身学习的准备。教育机构应以提高学习能力和创造力为主要目的，从小培养学生适应快速变化的学习能力和创造力。

第四，如果你不能很好地使用工具，你最终会被能够使用工具的人淘汰。没有人能阻止我们探索和开发自己的NLP、LLM，要像电动汽车、人工智能一样，做到“人无我有，人有我优”，实现善用工具。只有我们自己的心态和学习能力才能阻止我们。人类智慧的一大优势在于善于使用工具。首先要了解ChatGPT工具的优缺点，然后避免它的缺点，让它的优点为我所用。即使ChatGPT从市场上消失，替代现象也会随着其他新工具的出现而出现，不会因为人们的恐惧和抵触而消退。

(作者为中国航天科技集团有限公司第十一研究院研究员)