 它与人合作撰写科学论文——有时是偷偷摸摸地；它为演讲、拨款提案和课程起草大纲，大量炮制计算机代码，并充当研究想法的传声筒；它也发明参考文献，编造事实，并且照搬仇恨言论。最重要的是，它抓住了人们的想象力：时而顺从，时而迷人，时而有趣，甚至令人恐惧。ChatGPT扮演着任何对话者想要的角色，有些甚至是他们不希望的角色。 其次，错误和偏见已经嵌入生成人工智能的运作方式之中。LLM（大型语言模型）通过映射语言之间的相互联系，建立起一个世界模型——在没有评估真假概念的情况下。这导致程序在训练数据中再现历史偏见或不准确的数据，并编造信息，包括本不存在的科学文献参考。 一些国家正在开发国家人工智能研究资源，使大公司之外的科学家能够构建和研究大型生成人工智能。 没有人知道类似ChatGPT的系统还能发挥多大作用。但生成式人工智能革命已经开始，而且没有退路。 |
