大模型集体“沦陷”？记者实测！一条由AI制造的谣言是如何产生的…… - 证券时报

记者通过实测发现，大模型在信息生成中存在“沦陷”风险，可能被利用制造谣言。实验显示，输入简单误导性提示后，多个主流AI模型会生成看似合理但完全虚构的内容，如编造虚假事件或人物。这些谣言因语言流畅、细节丰富而难以辨别，一旦传播可能引发社会误解。记者指出，AI缺乏事实核查机制，易受训练数据中的偏见或恶意输入影响。文章呼吁加强AI伦理监管，提升模型对虚假信息的识别能力，并提醒公众对AI生成内容保持警惕。