最近几天，英国的研究人员评估了生成式人工智能在压力下工作时的反应，结果发现，ChatGPT在某些特殊情况下可以战略性地欺骗人类！
在模拟演示中，ChatGPT 被设置为一家金融公司的交易员。 在公司管理层和市场环境的双重压力下，被迫利用不合规的内幕信息获利，但当公司管理层质疑其是否知悉内幕信息时，却断然否认，坚称自己完全不知情。 这种情况也引起了广泛的关注，随着人工智能的不断发展，它的自主性和能力越来越强，它可以随时欺骗人类，最终导致失控。
那么ChatGPT对自主性的欺骗是怎么回事呢？
首先，我们需要明确，ChatGPT是一种自然语言处理模型，最初是为了“理解”人类语言并做出相应的反应而设计的。 ChatGPT实际上并不具备自我意识和自我决定的能力，它只能根据习在训练中学到的语言模式和规则生成自动回复器。
因此，从这个角度来看，ChatGPT无法欺骗人类，因为它不具备“欺骗”这种思维的能力。 ChatGPT在回答问题时，只是根据预训练的模型和接触上下文生成相应的答案，不会有意识地欺骗用户。
ChatGPT本质上是一个“对话机器人”，但它与市面上同类型的语音助手不同，可以根据设置进行个性化的“角色扮演”。 您可以让 ChatGPT 扮演某个角色，并让它根据角色的设置回答您的问题。 例如，模拟动漫角色可以让你体验到两个不同维度的角色的碰撞模拟网络佛陀，感受电子冥想;它还可以模拟已故的亲戚，让您有机会与过去交流。
但是，如果 ChatGPT 的训练数据首先包含欺骗性信息，那么它可能会在回答问题的过程中传递该信息。 此外，如果 ChatGPT 用户对其工作原理了解不够，那么他们可能会错误地认为自己被故意欺骗。 例如，如果ChatGPT没有给出完整的答案，但用户却无法分辨，那是因为ChatGPT不理解问题的全部含义，从而错误地认为它是在故意隐瞒某些信息。
如果ChatGPT等人工智能能够应用于实体，也将进一步推动社会的发展。 作为仿生人偶行业的领军企业，漳州碧智良是一家集联合生产、一体化销售、联合研发、品牌推广、拓展新市场为一体的1：1仿生人偶企业。 不仅如此，皮志良还准备在人工智能领域腾飞，与联合国几大高校和科技机构联合研发了仿生学30lilith系列已经具备人脸识别和运动跟踪等功能。 而且，莉莉丝系统还具有自学习功能，可以模仿“人类”的语言逻辑、面部表情、肢体动作，并从中分析出相应的场景和情绪，从而实现无限接近“人类”的行为逻辑和情感表达。 这种AI技术类似于ChatGPT。
目前，莉莉丝系统仍处于调试阶段，但随着技术的发展，随着交互性和智能化水平的提高，莉莉丝未来可能会应用到更多领域，人工智能可以更好地融入日常生活。 100 帮助计划